Chip Chip Chip Chip TENStorrent objavio je svoj Wormhole procesor za AI Worthoad za AI, što očekuje da ponudi dobre performanse po pristupačnoj cijeni.Kompanija trenutno nudi dvije dodatne PCIe kartice koje mogu primiti jedan ili dva procesora crvotočina, kao i TT-zvuk i TT-Quirbox radne stanice za programere softvera. Sve današnje najave usmjerene su na programere, a ne onima koji koriste crvotopole za komercijalne opterećenja.
"Uvek se zahvaljuje više naših proizvoda u ruke programera. Otpustite razvojne sisteme pomoću naših crvokosa ™ kartica mogu pomoći u proizvodnji skaliranju i razvoju Multi-Chip Ai softvera", rekao je Jim Keller, generalni direktor TENSTOORT-a.Pored ovog lansiranja, uzbuđeni smo što vidimo napredak koji stvaramo s vrpcom i napajanjem našeg proizvoda drugog generacije, crne boje. "
Svaki blok procesor sadrži 72 tensix jezgre (od kojih pet podržava RISC-V jezgre u različitim podacima) i 108 MB SRAM-a, isporučujući 262 FP8 TFLOPS na 1 GHz sa termičkim dizajnerskim snagama 160W. Jednostruka Crmhole N150 kartica opremljena je 12 GB GDDR6 video memorije i ima propusnost od 288 Gb / s.
Crvhole procesori pružaju fleksibilnu skalabilnost da udovolje različitim potrebama radnog opterećenja. U standardnoj postavci radne stanice sa četiri crteže N300 kartice, procesori se mogu kombinirati u jednu jedinicu koja se pojavljuje u softveru kao ujedinjena, široka tensinsku mrežu. Ova konfiguracija omogućava akceleratoru da se bavi istom radnom opterećenjem, podijelimo između četiri programera ili istovremeno pokrenuti do osam različitih AI modela. Ključna karakteristika ove skalabilnosti je da može pokrenuti lokalno bez potrebe za virtualizacijom. U okruženju podatkovnog centra, Cormhole procesori će koristiti PCIe za širenje unutar uređaja ili Ethernet za vanjsko širenje.
U pogledu performansi, CENSTORRENT-ova čepova s jednim čipom N150 (72 Tensix jezgre, 1 GHz, 128 MB GDDR6, 288 GB / S propusne širine) postiže 262 FP8 TFLOP-a na 160W, dok je dvostruka chip cormhole N300 (128 terenski jezgra, 1 GHz frekvencija, 192 MB SRAM, agregirana 24 GB GDDR6, širina pojasa 576 GB / S) isporučuje do 466 FP8 TFLOPS na 300W.
Da biste u kontekstu stavili 300W od 466 FP8, uporedit ćemo ga sa onim što AI tržišni lider Nvidia nudi na ovom termičkom dizajnu. Nvidia's A100 ne podržava FP8, ali on podržava INT8, s vršnim performansama od 624 vrhova (1.248 vrhova kada je rijetko). U poređenju, Nvidia je H100 podržava FP8 i dostiže vrhunske performanse od 1.670 TFLOP-a na 300W (3.341 TFLOP-a na rijetkoj), što se značajno razlikuje od crvotopole N300.
Međutim, postoji jedan veliki problem. TENSTORTENTOVI COLRMHOL N150 prodaje se za 999 dolara, dok se N300 prodaje za 1.399 dolara. Za usporedbu, jedna NVIDIA H100 grafička kartica za grafičku karticu za 30.000 dolara, ovisno o količini. Naravno, ne znamo da li četiri ili osam procesora crvotočina zapravo mogu pružiti performanse jednog H300, ali njihovi TDP su 600W i 1200W.
Pored kartica, Tenstorent nudi unaprijed izgrađene radne stanice za programere, uključujući 4 N300 kartice u pristupačnijoj TT-klubovima na Xeon-u sa aktivnim hlađenjem i naprednom TT-Quirbox-om sa Xiaolong-om).
Pošta: jul-29-2024