Perusahaan chip sing dipimpin Jim Keller Tenstorrent wis ngluncurake prosesor Wormhole generasi sabanjure kanggo beban kerja AI, sing dikarepake bakal menehi kinerja apik kanthi rega terjangkau.Perusahaan saiki nawakake rong kertu PCIe tambahan sing bisa nampung siji utawa loro prosesor Wormhole, uga workstation TT-LoudBox lan TT-QuietBox kanggo pangembang piranti lunak. Kabeh woro-woro dina iki ditujokake kanggo pangembang, dudu sing nggunakake papan Wormhole kanggo beban kerja komersial.
"Iku tansah gratifying kanggo njaluk liyane produk kita menyang tangan pangembang. Rilis sistem pangembangan nggunakake kertu Wormhole™ bisa mbantu pangembang skala lan ngembangake piranti lunak AI multi-chip, "ujare Jim Keller, CEO Tenstorrent.Saliyane peluncuran iki, kita seneng ndeleng kemajuan sing kita lakoni karo tape metu lan daya-up produk generasi kapindho kita, Blackhole.
Saben prosesor Wormhole ngemot 72 inti Tensix (lima sing ndhukung inti RISC-V ing macem-macem format data) lan 108 MB SRAM, ngirimake 262 FP8 TFLOPS ing 1 GHz kanthi daya desain termal 160W. Kertu Wormhole n150 chip siji dilengkapi memori video 12 GB GDDR6 lan bandwidth 288 GB / s.
Prosesor wormhole nyedhiyakake skalabilitas sing fleksibel kanggo nyukupi kabutuhan beban kerja sing beda-beda. Ing persiyapan workstation standar karo papat kertu Wormhole n300, pemroses bisa digabungake dadi unit siji sing katon ing piranti lunak minangka jaringan inti Tensix sing wiyar. Konfigurasi iki ngidini akselerator kanggo nangani beban kerja sing padha, pamisah antarane papat pangembang utawa mbukak nganti wolung model AI sing beda-beda bebarengan. Fitur utama skalabilitas iki yaiku bisa mlaku sacara lokal tanpa mbutuhake virtualisasi. Ing lingkungan pusat data, prosesor Wormhole bakal nggunakake PCIe kanggo expansion nang mesin, utawa Ethernet kanggo expansion external.
Ing babagan kinerja, kertu Wormhole n150 chip tunggal Tenstorrent (72 inti Tensix, frekuensi 1 GHz, 108 MB SRAM, 12 GB GDDR6, bandwidth 288 GB/s) entuk 262 FP8 TFLOPS ing 160W, dene papan Wormhole dual-chip n300 (128 inti Tensix, 1 frekuensi GHz, 192 MB SRAM, dikumpulake 24 GB GDDR6, 576 GB / s bandwidth) ngirim nganti 466 FP8 TFLOPS ing 300W.
Kanggo nggawe konteks 300W saka 466 FP8 TFLOPS, kita bakal mbandhingake apa sing ditawakake pimpinan pasar AI Nvidia babagan daya desain termal iki. A100 Nvidia ora ndhukung FP8, nanging ndhukung INT8, kanthi kinerja puncak 624 TOPS (1,248 TOPS nalika jarang). Yen dibandhingake, Nvidia's H100 ndhukung FP8 lan tekan kinerja puncak 1,670 TFLOPS ing 300W (3,341 TFLOPS kanthi jarang), sing beda banget karo Tenstorrent's Wormhole n300.
Nanging, ana siji masalah utama. Tenstorrent's Wormhole n150 adol $999, dene n300 adol $1,399. Miturut perbandingan, kertu grafis Nvidia H100 siji regane $ 30,000, gumantung saka jumlah. Mesthi, kita ora ngerti yen papat utawa wolung pemroses Wormhole bener bisa ngirim kinerja siji H300, nanging TDPs sing mungguh 600W lan 1200W.
Saliyane kertu, Tenstorrent nawakake workstations sing wis dibangun kanggo pangembang, kalebu 4 kertu n300 ing TT-LoudBox basis Xeon sing luwih terjangkau kanthi pendinginan aktif, lan TT-QuietBox sing canggih karo Xiaolong sing adhedhasar EPYC) fungsi pendinginan cair).
Posting wektu: Jul-29-2024