Perusahaan chip Tenstorrent sing dipimpin dening Jim Keller wis ngrilis prosesor Wormhole generasi sabanjure kanggo beban kerja AI, sing diarepake bakal menehi kinerja apik kanthi rega sing terjangkau.Perusahaan iki saiki nawakake rong kertu PCIe tambahan sing bisa nampung siji utawa loro prosesor Wormhole, uga workstation TT-LoudBox lan TT-QuietBox kanggo para pangembang piranti lunak. Kabeh woro-woro dina iki ditujokake kanggo para pangembang, dudu kanggo sing nggunakake papan Wormhole kanggo beban kerja komersial.
"Mesthi nyenengake yen luwih akeh produk kita bisa digayuh para pangembang. Sistem pangembangan rilis nggunakake kertu Wormhole™ bisa mbantu para pangembang ngembangake lan ngembangake piranti lunak AI multi-chip," ujare Jim Keller, CEO Tenstorrent.Saliyané peluncuran iki, kita bungah ndeleng kemajuan sing wis kita lakoni karo peluncuran tape lan peningkatan daya produk generasi kapindho kita, Blackhole.”
Saben prosesor Wormhole ngandhut 72 inti Tensix (lima ing antarane ndhukung inti RISC-V ing macem-macem format data) lan 108 MB SRAM, sing ngasilake 262 FP8 TFLOPS ing 1 GHz kanthi daya desain termal 160W. Kertu Wormhole n150 chip tunggal iki dilengkapi memori video GDDR6 12 GB lan nduweni bandwidth 288 GB/s.
Prosesor Wormhole nyedhiyakake skalabilitas fleksibel kanggo nyukupi kabutuhan beban kerja sing maneka warna. Ing persiyapan workstation standar kanthi papat kertu Wormhole n300, prosesor kasebut bisa digabung dadi siji unit sing katon ing piranti lunak minangka jaringan inti Tensix sing jembar lan terpadu. Konfigurasi iki ngidini akselerator nangani beban kerja sing padha, dipérang antarane papat pangembang utawa mbukak nganti wolung model AI sing béda bebarengan. Fitur utama saka skalabilitas iki yaiku bisa mlaku sacara lokal tanpa perlu virtualisasi. Ing lingkungan pusat data, prosesor Wormhole bakal nggunakake PCIe kanggo ekspansi ing njero mesin, utawa Ethernet kanggo ekspansi eksternal.
Saka segi kinerja, kertu Wormhole n150 chip tunggal Tenstorrent (72 inti Tensix, frekuensi 1 GHz, SRAM 108 MB, GDDR6 12 GB, bandwidth 288 GB/s) nggayuh 262 FP8 TFLOPS ing 160W, dene board Wormhole n300 chip ganda (128 inti Tensix, frekuensi 1 GHz, SRAM 192 MB, total 24 GB GDDR6, bandwidth 576 GB/s) ngasilake nganti 466 FP8 TFLOPS ing 300W.
Kanggo nglebokake 300W saka 466 FP8 TFLOPS menyang konteks, kita bakal mbandhingake karo apa sing ditawakake pimpinan pasar AI Nvidia ing daya desain termal iki. Nvidia A100 ora ndhukung FP8, nanging ndhukung INT8, kanthi kinerja puncak 624 TOPS (1.248 TOPS nalika jarang). Dibandhingake, Nvidia H100 ndhukung FP8 lan tekan kinerja puncak 1.670 TFLOPS ing 300W (3.341 TFLOPS nalika jarang), sing beda banget karo Wormhole n300 Tenstorrent.
Nanging, ana siji masalah utama. Wormhole n150 saka Tenstorrent didol kanthi rega $999, dene n300 didol kanthi rega $1.399. Kanggo mbandhingake, siji kertu grafis Nvidia H100 didol kanthi rega $30.000, gumantung saka jumlahe. Mesthi wae, kita ora ngerti apa papat utawa wolung prosesor Wormhole bisa ngasilake kinerja siji H300, nanging TDP-ne yaiku 600W lan 1200W.
Saliyané kertu-kertu kasebut, Tenstorrent nawakaké workstation sing wis dibangun kanggo para pangembang, kalebu 4 kertu n300 ing TT-LoudBox berbasis Xeon sing luwih terjangkau kanthi pendinginan aktif, lan TT-QuietBox canggih kanthi fungsi pendinginan cair berbasis EPYC (Xiaolong).
Wektu kiriman: 29 Juli 2024