Джим Келлер басқаратын Tenstorrent чип компаниясы AI жұмыс жүктемелеріне арналған жаңа буын Wormhole процессорын шығарды, ол қол жетімді бағамен жақсы өнімділікті ұсынады деп күтеді.Қазіргі уақытта компания бір немесе екі Wormhole процессорын, сондай-ақ бағдарламалық жасақтаманы әзірлеушілерге арналған TT-LoudBox және TT-QuietBox жұмыс станцияларын орналастыра алатын екі қосымша PCIe картасын ұсынады. Бүгінгі барлық хабарландырулар коммерциялық жұмыс жүктемелері үшін Wormhole тақталарын пайдаланатындарға емес, әзірлеушілерге бағытталған.
«Өнімдердің көп бөлігін әзірлеушілердің қолына алу әрқашан қуантады. Wormhole™ карталарын қолданатын әзірлеу жүйелерін шығару әзірлеушілерге көп чипті AI бағдарламалық құралын масштабтауға және дамытуға көмектеседі», - деді Джим Келлер, Tenstorrent бас директоры.Осы ұшырылымнан басқа, біз екінші буын өнімі Blackhole таспасын шығару және қуаттандыру арқылы қол жеткізген жетістіктерімізді көруге қуаныштымыз.
Әрбір Wormhole процессорында 72 Tensix ядросы (оның бесеуі әртүрлі деректер пішіміндегі RISC-V ядроларын қолдайды) және 108 МБ SRAM бар, 1 ГГц жиілікте 262 FP8 TFLOPS 160 Вт жылулық дизайн қуатымен жеткізеді. Бір чипті Wormhole n150 картасы 12 ГБ GDDR6 бейне жадымен жабдықталған және өткізу қабілеті 288 ГБ/с.
Wormhole процессорлары жұмыс жүктемелерінің әртүрлі қажеттіліктерін қанағаттандыру үшін икемді масштабтауды қамтамасыз етеді. Төрт Wormhole n300 картасы бар стандартты жұмыс станциясында процессорларды бағдарламалық құралда біртұтас, кең Tensix негізгі желісі ретінде көрсетілетін бір бірлікке біріктіруге болады. Бұл конфигурация үдеткішке бірдей жұмыс жүктемесін өңдеуге, төрт әзірлеушіге бөлуге немесе сегізге дейін әртүрлі AI үлгісін бір уақытта іске қосуға мүмкіндік береді. Бұл масштабтаудың негізгі ерекшелігі - ол виртуализацияны қажет етпестен жергілікті түрде жұмыс істей алады. Деректер орталығының ортасында Wormhole процессорлары құрылғының ішінде кеңейту үшін PCIe немесе сыртқы кеңейту үшін Ethernet пайдаланады.
Өнімділік тұрғысынан Tenstorrent бір чипті Wormhole n150 картасы (72 Tensix ядросы, 1 ГГц жиілігі, 108 МБ SRAM, 12 ГБ GDDR6, 288 ГБ/с өткізу қабілеті) 160 Вт-та 262 FP8 TFLOPS, ал қос чип03 Вт (128 Tensix ядросы, 1 ГГц жиілігі, 192 МБ SRAM, біріктірілген 24 ГБ GDDR6, 576 ГБ/с өткізу қабілеттілігі) 300 Вт-та 466 FP8 TFLOPS дейін жеткізеді.
300 Вт 466 FP8 TFLOPS контекстке қою үшін біз оны AI нарығының көшбасшысы Nvidia осы жылу дизайн қуатымен ұсынатын нәрсемен салыстырамыз. Nvidia A100 FP8 қолдамайды, бірақ ол 624 TOPS (сирек кезде 1248 TOPS) ең жоғары өнімділігімен INT8-ді қолдайды. Салыстыру үшін, Nvidia H100 FP8-ді қолдайды және 300 Вт-та 1670 TFLOPS ең жоғары өнімділігіне жетеді (сирек кезде 3341 TFLOPS), бұл Tenstorrent's Wormhole n300-ден айтарлықтай ерекшеленеді.
Дегенмен, бір маңызды мәселе бар. Tenstorrent's Wormhole n150 999 долларға, ал n300 1399 долларға сатылады. Салыстыру үшін, бір Nvidia H100 графикалық картасы санына байланысты 30 000 доллар тұрады. Әрине, біз төрт немесе сегіз Wormhole процессоры бір H300 өнімділігін жеткізе алатынын білмейміз, бірақ олардың TDP сәйкесінше 600 Вт және 1200 Вт.
Карталардан басқа, Tenstorrent әзірлеушілер үшін алдын ала жасалған жұмыс станцияларын ұсынады, оның ішінде белсенді салқындату мүмкіндігі жоғары Xeon негізіндегі TT-LoudBox ішіндегі 4 n300 картасы және EPYC негізіндегі Xiaolong) сұйық салқындату функциясы бар жетілдірілген TT-QuietBox).
Жіберу уақыты: 29 шілде 2024 ж