Syarikat cip yang diketuai Jim Keller, Tenstorrent telah mengeluarkan pemproses Wormhole generasi akan datang untuk beban kerja AI, yang dijangka menawarkan prestasi yang baik pada harga yang berpatutan.Syarikat itu kini menawarkan dua kad PCIe tambahan yang boleh memuatkan satu atau dua pemproses Wormhole, serta stesen kerja TT-LoudBox dan TT-QuietBox untuk pembangun perisian. Semua pengumuman hari ini ditujukan kepada pembangun, bukan mereka yang menggunakan papan Wormhole untuk beban kerja komersial.
“Ia sentiasa menggembirakan untuk mendapatkan lebih banyak produk kami ke tangan pembangun. Keluarkan sistem pembangunan menggunakan kad Wormhole™ kami boleh membantu pembangun skala dan membangunkan perisian AI berbilang cip,” kata Jim Keller, Ketua Pegawai Eksekutif Tenstorrent.Sebagai tambahan kepada pelancaran ini, kami teruja untuk melihat kemajuan yang kami buat dengan pita keluar dan kuasa produk generasi kedua kami, Blackhole.”
Setiap pemproses Wormhole mengandungi 72 teras Tensix (lima daripadanya menyokong teras RISC-V dalam pelbagai format data) dan 108 MB SRAM, memberikan 262 FP8 TFLOPS pada 1 GHz dengan kuasa reka bentuk terma 160W. Kad Wormhole n150 cip tunggal dilengkapi dengan memori video 12 GB GDDR6 dan mempunyai lebar jalur 288 GB/s.
Pemproses lubang cacing menyediakan kebolehskalaan yang fleksibel untuk memenuhi pelbagai keperluan beban kerja. Dalam persediaan stesen kerja standard dengan empat kad Wormhole n300, pemproses boleh digabungkan menjadi satu unit yang muncul dalam perisian sebagai rangkaian teras Tensix yang luas dan bersatu. Konfigurasi ini membolehkan pemecut mengendalikan beban kerja yang sama, berpecah antara empat pembangun atau menjalankan sehingga lapan model AI berbeza secara serentak. Ciri utama skalabiliti ini ialah ia boleh berjalan secara tempatan tanpa memerlukan virtualisasi. Dalam persekitaran pusat data, pemproses Wormhole akan menggunakan PCIe untuk pengembangan di dalam mesin, atau Ethernet untuk pengembangan luaran.
Dari segi prestasi, kad Wormhole n150 cip tunggal Tenstorrent (72 teras Tensix, frekuensi 1 GHz, 108 MB SRAM, 12 GB GDDR6, lebar jalur 288 GB/s) mencapai 262 FP8 TFLOPS pada 160W, manakala papan Wormhole n300 dwi-cip (128 teras Tensix, frekuensi 1 GHz, 192 MB SRAM, agregat 24 GB GDDR6, lebar jalur 576 GB/s) menyampaikan sehingga 466 FP8 TFLOPS pada 300W.
Untuk meletakkan 300W daripada 466 FP8 TFLOPS ke dalam konteks, kami akan membandingkannya dengan apa yang ditawarkan oleh pemimpin pasaran AI Nvidia pada kuasa reka bentuk terma ini. A100 Nvidia tidak menyokong FP8, tetapi ia menyokong INT8, dengan prestasi puncak 624 TOPS (1,248 TOPS apabila jarang). Sebagai perbandingan, H100 Nvidia menyokong FP8 dan mencapai prestasi puncak 1,670 TFLOPS pada 300W (3,341 TFLOPS jarang), yang jauh berbeza daripada Wormhole n300 Tenstorrent.
Walau bagaimanapun, terdapat satu masalah utama. Tenstorrent's Wormhole n150 dijual pada harga $999, manakala n300 dijual pada harga $1,399. Sebagai perbandingan, satu kad grafik Nvidia H100 dijual pada harga $30,000, bergantung pada kuantiti. Sudah tentu, kami tidak tahu sama ada empat atau lapan pemproses Wormhole sebenarnya boleh menyampaikan prestasi H300 tunggal, tetapi TDP mereka masing-masing adalah 600W dan 1200W.
Sebagai tambahan kepada kad, Tenstorrent menawarkan stesen kerja pra-bina untuk pembangun, termasuk 4 kad n300 dalam TT-LoudBox berasaskan Xeon yang lebih berpatutan dengan penyejukan aktif, dan TT-QuietBox termaju dengan fungsi penyejukan cecair berasaskan EPYC Xiaolong).
Masa siaran: Jul-29-2024