Perusahaan chip sing dipimpin Jim Keller Tenstorrent wis ngluncurake prosesor Wormhole generasi sabanjure kanggo beban kerja AI, sing dikarepake bakal menehi kinerja apik kanthi rega terjangkau.Perusahaan saiki nawakake rong kertu PCIe tambahan sing bisa nampung siji utawa loro prosesor Wormhole, uga workstation TT-LoudBox lan TT-QuietBox kanggo pangembang piranti lunak. Kabeh woro-woro dina iki ditujokake kanggo pangembang, dudu sing nggunakake papan Wormhole kanggo beban kerja komersial.
"Pancen nyenengake kanggo entuk luwih akeh produk kita menyang tangan para pangembang. Sistem pangembangan rilis nggunakake kertu Wormhole™ bisa mbantu pangembang nggawe skala lan ngembangake piranti lunak AI multi-chip," ujare Jim Keller, CEO Tenstorrent.Saliyane peluncuran iki, kita seneng ndeleng kemajuan sing kita lakoni karo tape metu lan daya-up produk generasi kapindho kita, Blackhole.
Saben prosesor Wormhole ngemot 72 inti Tensix (lima sing ndhukung inti RISC-V ing macem-macem format data) lan 108 MB SRAM, ngirimake 262 FP8 TFLOPS ing 1 GHz kanthi daya desain termal 160W. Kertu Wormhole n150 chip siji dilengkapi memori video 12 GB GDDR6 lan bandwidth 288 GB / s.
Prosesor wormhole nyedhiyakake skalabilitas sing fleksibel kanggo nyukupi kabutuhan beban kerja sing beda-beda. Ing persiyapan workstation standar karo papat kertu Wormhole n300, pemroses bisa digabungake dadi unit siji sing katon ing piranti lunak minangka jaringan inti Tensix sing wiyar. Konfigurasi iki ngidini akselerator kanggo nangani beban kerja sing padha, pamisah antarane papat pangembang utawa mbukak nganti wolung model AI sing beda-beda bebarengan. Fitur utama skalabilitas iki yaiku bisa mlaku sacara lokal tanpa mbutuhake virtualisasi. Ing lingkungan pusat data, prosesor Wormhole bakal nggunakake PCIe kanggo expansion nang mesin, utawa Ethernet kanggo expansion external.
Ing babagan kinerja, kertu Wormhole n150 chip siji-chip Tenstorrent (72 inti Tensix, frekuensi 1 GHz, 108 MB SRAM, 12 GB GDDR6, bandwidth 288 GB/s) entuk 262 FP8 TFLOPS ing 160W, dene papan Wormhole dual-chip 1s, n200GHz. 192 MB SRAM, dikumpulake 24 GB GDDR6, 576 GB/s bandwidth) ngirim nganti 466 FP8 TFLOPS ing 300W.
Kanggo nggawe konteks 300W saka 466 FP8 TFLOPS, kita bakal mbandhingake apa sing ditawakake pimpinan pasar AI Nvidia babagan daya desain termal iki. A100 Nvidia ora ndhukung FP8, nanging ndhukung INT8, kanthi kinerja puncak 624 TOPS (1,248 TOPS nalika jarang). Yen dibandhingake, Nvidia's H100 ndhukung FP8 lan tekan kinerja puncak 1,670 TFLOPS ing 300W (3,341 TFLOPS kanthi jarang), sing beda banget karo Tenstorrent's Wormhole n300.
Nanging, ana siji masalah utama. Tenstorrent's Wormhole n150 adol $999, dene n300 adol $1,399. Miturut perbandingan, kertu grafis Nvidia H100 siji regane $ 30,000, gumantung saka jumlah. Mesthi, kita ora ngerti yen papat utawa wolung pemroses Wormhole bener bisa ngirim kinerja siji H300, nanging TDPs sing mungguh 600W lan 1200W.
Saliyane kertu, Tenstorrent nawakake workstations sing wis dibangun kanggo pangembang, kalebu 4 kertu n300 ing TT-LoudBox basis Xeon sing luwih terjangkau kanthi pendinginan aktif, lan TT-QuietBox sing canggih karo Xiaolong sing adhedhasar EPYC) fungsi pendinginan cair).
Posting wektu: Jul-29-2024