Jimo Kellerio vadovaujama lustų kompanija „Tenstorrent“ išleido naujos kartos „Wormhole“ procesorių, skirtą dirbtinio intelekto darbo krūviams, kuris, kaip tikimasi, pasiūlys gerą našumą už prieinamą kainą.Šiuo metu bendrovė siūlo dvi papildomas PCIe plokštes, kurios gali sutalpinti vieną arba du „Wormhole“ procesorius, taip pat „TT-LoudBox“ ir „TT-QuietBox“ darbo stotis programinės įrangos kūrėjams. Visi šiandienos pranešimai skirti kūrėjams, o ne tiems, kurie „Wormhole“ plokštes naudoja komerciniams darbams.
„Visada džiugu, kai kūrėjai gali pasiekti daugiau mūsų produktų. Versijų kūrimo sistemos, kuriose naudojamos mūsų „Wormhole™“ kortelės, gali padėti kūrėjams plėsti ir kurti daugialustę dirbtinio intelekto programinę įrangą“, – teigė Jimas Kelleris, „Tenstorrent“ generalinis direktorius.Be šio pristatymo, džiaugiamės matydami pažangą, kurią darome išskirdami ir įjungdami mūsų antros kartos produktą „Blackhole“.
Kiekvienas „Wormhole“ procesorius turi 72 „Tensix“ branduolius (penki iš jų palaiko RISC-V branduolius įvairiais duomenų formatais) ir 108 MB SRAM, užtikrinančius 262 FP8 TFLOPS esant 1 GHz dažniui ir 160 W šiluminę projektavimo galią. Vieno lusto „Wormhole n150“ plokštė turi 12 GB GDDR6 vaizdo atmintį ir turi 288 GB/s pralaidumą.
„Wormhole“ procesoriai užtikrina lankstų mastelio keitimą, kad atitiktų įvairius darbo krūvių poreikius. Standartinėje darbo stoties konfigūracijoje su keturiomis „Wormhole n300“ plokštėmis procesoriai gali būti sujungti į vieną įrenginį, kuris programinėje įrangoje rodomas kaip vieningas, platus „Tensix“ pagrindinis tinklas. Ši konfigūracija leidžia greitintuvui apdoroti tą patį darbo krūvį, padalintą tarp keturių kūrėjų arba vienu metu paleisti iki aštuonių skirtingų dirbtinio intelekto modelių. Pagrindinė šio mastelio keitimo savybė yra ta, kad jis gali veikti lokaliai, nereikalaujant virtualizacijos. Duomenų centro aplinkoje „Wormhole“ procesoriai naudos PCIe išplėtimui mašinos viduje arba Ethernet išoriniam išplėtimui.
Kalbant apie našumą, „Tenstorrent“ vieno lusto „Wormhole n150“ plokštė (72 „Tensix“ branduoliai, 1 GHz dažnis, 108 MB SRAM, 12 GB GDDR6, 288 GB/s pralaidumas) pasiekė 262 FP8 TFLOPS esant 160 W galiai, o dviejų lustų „Wormhole n300“ plokštė (128 „Tensix“ branduoliai, 1 GHz dažnis, 192 MB SRAM, bendra 24 GB GDDR6, 576 GB/s pralaidumas) – iki 466 FP8 TFLOPS esant 300 W galiai.
Kad 300 W ir 466 FP8 TFLOPS būtų aiškesni, palyginsime jį su tuo, ką siūlo dirbtinio intelekto rinkos lyderė „Nvidia“ esant tokiam šiluminiam projektavimo galingumui. „Nvidia A100“ nepalaiko FP8, tačiau palaiko INT8, o didžiausias našumas siekia 624 TOPS (1 248 TOPS su išretinta galia). Palyginimui, „Nvidia H100“ palaiko FP8 ir pasiekia didžiausią 1 670 TFLOPS našumą esant 300 W galiai (3 341 TFLOPS su išretinta galia), o tai gerokai skiriasi nuo „Tenstorrent“ „Wormhole n300“.
Tačiau yra viena didelė problema. „Tenstorrent“ „Wormhole n150“ kainuoja 999 USD, o „n300“ – 1399 USD. Palyginimui, viena „Nvidia H100“ vaizdo plokštė kainuoja 30 000 USD, priklausomai nuo kiekio. Žinoma, nežinome, ar keturi, ar aštuoni „Wormhole“ procesoriai iš tikrųjų gali užtikrinti vieno „H300“ našumą, tačiau jų TDP yra atitinkamai 600 W ir 1200 W.
Be kortelių, „Tenstorrent“ siūlo iš anksto pagamintas darbo stotis kūrėjams, įskaitant 4 „n300“ korteles pigesnėje „Xeon“ pagrindu sukurtoje „TT-LoudBox“ su aktyviu aušinimu ir pažangų „TT-QuietBox“ su EPYC pagrindu sukurta „Xiaolong“ skysčio aušinimo funkcija.
Įrašo laikas: 2024 m. liepos 29 d.