Джим Келлер басқаратын чип компаниясы Tenstorrent жасанды интеллект жұмыс жүктемелеріне арналған келесі буын Wormhole процессорын шығарды, ол қолжетімді бағамен жақсы өнімділік ұсынады деп күтілуде.Қазіргі уақытта компания бір немесе екі Wormhole процессорын орналастыра алатын екі қосымша PCIe картасын, сондай-ақ бағдарламалық жасақтама әзірлеушілеріне арналған TT-LoudBox және TT-QuietBox жұмыс станцияларын ұсынады. Бүгінгі барлық хабарландырулар коммерциялық жұмыс жүктемелері үшін Wormhole тақталарын пайдаланатындарға емес, әзірлеушілерге бағытталған.
«Өнімдеріміздің көбірек бөлігін әзірлеушілердің қолына беру әрқашан қуантады. Wormhole™ карталарымызды пайдаланатын әзірлеу жүйелерін шығару әзірлеушілерге көп чипті жасанды интеллект бағдарламалық жасақтамасын масштабтауға және әзірлеуге көмектеседі», - деді Tenstorrent компаниясының бас директоры Джим Келлер.Осы іске қосудан басқа, біз екінші буын өніміміз Blackhole-ді таспадан шығару және қуаттандыру бойынша қол жеткізіп жатқан ілгерілеуімізді көруге қуаныштымыз.
Әрбір Wormhole процессорында 72 Tensix ядросы (оның бесеуі әртүрлі деректер форматтарындағы RISC-V ядроларын қолдайды) және 108 МБ SRAM бар, бұл 1 ГГц жиілікте 262 FP8 TFLOPS береді, ал термиялық жобалық қуаты 160 Вт. Бір чипті Wormhole n150 картасы 12 ГБ GDDR6 бейне жадымен жабдықталған және өткізу қабілеті 288 ГБ/с құрайды.
Wormhole процессорлары жұмыс жүктемелерінің әртүрлі қажеттіліктерін қанағаттандыру үшін икемді масштабталуды қамтамасыз етеді. Төрт Wormhole n300 картасы бар стандартты жұмыс станциясында процессорларды бағдарламалық жасақтамада бірыңғай, кең Tensix ядролық желісі ретінде пайда болатын бір блокқа біріктіруге болады. Бұл конфигурация үдеткіштің бірдей жұмыс жүктемесін өңдеуіне, төрт әзірлеуші арасында бөлінуіне немесе сегіз түрлі жасанды интеллект моделін бір уақытта іске қосуына мүмкіндік береді. Бұл масштабталудың негізгі ерекшелігі - ол виртуалдандыру қажеттілігінсіз жергілікті түрде жұмыс істей алады. Деректер орталығы ортасында Wormhole процессорлары машина ішінде кеңейту үшін PCIe немесе сыртқы кеңейту үшін Ethernet пайдаланады.
Өнімділік тұрғысынан Tenstorrent-тің бір чипті Wormhole n150 картасы (72 Tensix ядросы, 1 ГГц жиілік, 108 МБ SRAM, 12 ГБ GDDR6, 288 ГБ/с өткізу қабілеттілігі) 160 Вт қуатта 262 FP8 TFLOPS жеткізді, ал қос чипті Wormhole n300 картасы (128 Tensix ядросы, 1 ГГц жиілік, 192 МБ SRAM, жиынтықта 24 ГБ GDDR6, 576 ГБ/с өткізу қабілеттілігі) 300 Вт қуатта 466 FP8 TFLOPS дейін жеткізеді.
466 FP8 TFLOPS-тың 300 Вт-ын контекстке қою үшін, оны жасанды интеллект нарығының көшбасшысы Nvidia компаниясының осы термиялық дизайн қуатында ұсынатын өнімімен салыстырамыз. Nvidia A100 FP8 қолдамайды, бірақ INT8 қолдайды, ең жоғары өнімділігі 624 TOPS (сирек кезде 1248 TOPS). Салыстыру үшін, Nvidia H100 FP8 қолдайды және 300 Вт қуатта 1670 TFLOPS (сирек кезде 3341 TFLOPS) ең жоғары өнімділікке жетеді, бұл Tenstorrent компаниясының Wormhole n300-ден айтарлықтай ерекшеленеді.
Дегенмен, бір үлкен мәселе бар. Tenstorrent компаниясының Wormhole n150 бөлшек сауда бағасы 999 доллар, ал n300 1399 доллар тұрады. Салыстыру үшін, бір Nvidia H100 графикалық картасының бөлшек сауда бағасы санына байланысты 30 000 долларды құрайды. Әрине, төрт немесе сегіз Wormhole процессоры бір H300 процессорының өнімділігін шынымен қамтамасыз ете ала ма, жоқ па, білмейміз, бірақ олардың TDP сәйкесінше 600 Вт және 1200 Вт құрайды.
Карталардан басқа, Tenstorrent әзірлеушілерге алдын ала жасалған жұмыс станцияларын ұсынады, соның ішінде белсенді салқындату мүмкіндігі бар қолжетімді Xeon негізіндегі TT-LoudBox-тағы 4 n300 картасы және EPYC негізіндегі Xiaolong (сұйық салқындату функциясы бар озық TT-QuietBox).
Жарияланған уақыты: 2024 жылғы 29 шілде