„Jim Keller“ vadovaujama „Chip Company“ „Tenstorrent“ išleido savo naujos kartos „Wormhole“ procesorių, skirtą AI darbo krūviui, kuris, jos manymu, pasiūlys gerą našumą už prieinamą kainą.Šiuo metu bendrovė siūlo dvi papildomas „PCIe“ korteles, kuriose gali būti vienas ar du „Wormhole“ procesoriai, taip pat „TT-Loudbox“ ir „TT-quietbox“ darbo vietos programinės įrangos kūrėjams. Visi šiandienos pranešimai yra skirti kūrėjams, o ne tiems, kurie naudoja „Wormhole“ lentas komerciniams darbo krūviams.
„Visada malonu gauti daugiau mūsų produktų į kūrėjų rankas. Išlaisvinimo kūrimo sistemos naudojant mūsų„ Wormhole ™ “korteles gali padėti kūrėjams mastuoti ir sukurti daugialypę AI programinę įrangą“,-teigė Jim Keller, „Tenstorrent“ generalinis direktorius.Be šio paleidimo, mes džiaugiamės, kad mes darome pažangą, kurią padarome, kai juosta išeita ir įjungus mūsų antrosios kartos produktą „Blackhole“. “
Kiekviename slieko skylės procesoriuje yra 72 „TEMSIX“ šerdys (penki iš jų palaiko „Risc-V“ šerdes įvairiais duomenų formatais) ir 108 MB SRAM, pateikdami 262 FP8 TFLOP 1 GHz, kai šiluminės konstrukcijos galia yra 160 W. Vieno lusto „Wormhole N150“ kortelėje yra 12 GB GDDR6 vaizdo atminties ir jos pralaidumas yra 288 GB/s.
„Wormhole“ procesoriai suteikia lankstų mastelį, kad patenkintų įvairius darbo krūvių poreikius. Standartinėje darbo vietos sąrankoje su keturiomis „Wormhole N300“ kortelėmis, procesorius galima sujungti į vieną įrenginį, kuris programinėje įrangoje pasirodo kaip vieningas, platus „Tensix Core“ tinklas. Ši konfigūracija leidžia akceleratoriui tvarkyti tą patį darbo krūvį, padalyti tarp keturių kūrėjų arba vienu metu paleisti iki aštuonių skirtingų AI modelių. Pagrindinė šio mastelio savybė yra ta, kad jis gali veikti vietoje, nereikalaujant virtualizacijos. Duomenų centro aplinkoje „Wormhole“ procesoriai naudos PCIE plėtrai mašinos viduje arba ethernet išoriniam išplėtimui.
Kalbant apie našumą, „Tenstorrent“ vienos mikroschemos slieko „N150“ kortelė (72 „TEMSIX“ šerdys, 1 GHz dažnis, 108 MB SRAM, 12 GB GDDR6, 288 GB/S pralaidumas) pasiekė 262 FP8 TFLOPS 160 W, o dvigubos chiphole N300 pločio (128 tempix Cores, 1 ghz dažnai dažnai dažnai dažnai dažnai. GB GDDR6, 576 GB/S pralaidumas) tiekia iki 466 FP8 TFLOPS 300W.
Norėdami įdėti 300 W iš 466 FP8 TFLOPS į kontekstą, mes palyginsime jį su tuo, ką AI rinkos lyderė NVIDIA siūlo šioje šiluminio projektavimo galioje. „NVIDIA“ A100 nepalaiko FP8, tačiau jis palaiko INT8, o didžiausias našumas yra 624 viršūnės (1 248 viršūnės, kai yra nedaug). Palyginimui, NVIDIA H100 palaiko FP8 ir pasiekia 1 670 TFLOP rezultatus esant 300 W (3 341 TFLOPS esant nedaug), o tai žymiai skiriasi nuo „Tenstorrent“ slieko skylės N300.
Tačiau yra viena pagrindinė problema. „Tenstorrent“ „Wormhole N150“ parduodama už 999 USD, o „N300“ parduoda už 1 399 USD. Palyginimui, viena „NVIDIA H100“ vaizdo plokštė parduodama už 30 000 USD, atsižvelgiant į kiekį. Žinoma, mes nežinome, ar keturi ar aštuoni sliekų skylės procesoriai iš tikrųjų gali atlikti vieno H300 našumą, tačiau jų TDP yra atitinkamai 600W ir 1200W.
Be kortelių, „TenStorrent“ siūlo kūrėjams iš anksto pastatytas darbo vietas, įskaitant 4 N300 korteles į prieinamesnę „Xeon“ pagrindu sukurtą „TT-Loudbox“ su aktyviu aušinimu, ir pažangią „TT-quietbox“ su „Epyc“ pagrindu sukurta „Xiaolong“) skysčio aušinimo funkcija).
Pašto laikas: 2012 m. Liepos 29 d