Syarikat cip yang diketuai oleh Jim Keller, Tenstorrent telah mengeluarkan pemproses Wormhole generasi akan datang untuk beban kerja AI, yang dijangka menawarkan prestasi yang baik pada harga yang berpatutan.Syarikat itu kini menawarkan dua kad PCIe tambahan yang boleh memuatkan satu atau dua pemproses Wormhole, serta stesen kerja TT-LoudBox dan TT-QuietBox untuk pembangun perisian. Semua pengumuman hari ini ditujukan kepada pembangun, bukan mereka yang menggunakan papan Wormhole untuk beban kerja komersial.
“Sentiasa menggembirakan apabila lebih banyak produk kami sampai ke tangan pembangun. Sistem pembangunan keluaran menggunakan kad Wormhole™ kami dapat membantu pembangun mengembangkan dan membangunkan perisian AI berbilang cip,” kata Jim Keller, Ketua Pegawai Eksekutif Tenstorrent.Selain pelancaran ini, kami teruja untuk melihat kemajuan yang kami capai dengan pengeluaran pita dan peningkatan kuasa produk generasi kedua kami, Blackhole.”
Setiap pemproses Wormhole mengandungi 72 teras Tensix (lima daripadanya menyokong teras RISC-V dalam pelbagai format data) dan 108 MB SRAM, yang memberikan 262 FP8 TFLOPS pada 1 GHz dengan kuasa reka bentuk terma 160W. Kad Wormhole n150 cip tunggal dilengkapi dengan memori video GDDR6 12 GB dan mempunyai lebar jalur 288 GB/s.
Pemproses Wormhole menyediakan skalabiliti fleksibel untuk memenuhi pelbagai keperluan beban kerja. Dalam persediaan stesen kerja standard dengan empat kad Wormhole n300, pemproses boleh digabungkan menjadi satu unit yang muncul dalam perisian sebagai rangkaian teras Tensix yang luas dan bersatu. Konfigurasi ini membolehkan pemecut mengendalikan beban kerja yang sama, dibahagikan antara empat pembangun atau menjalankan sehingga lapan model AI yang berbeza secara serentak. Ciri utama skalabiliti ini ialah ia boleh berjalan secara setempat tanpa memerlukan virtualisasi. Dalam persekitaran pusat data, pemproses Wormhole akan menggunakan PCIe untuk pengembangan di dalam mesin atau Ethernet untuk pengembangan luaran.
Dari segi prestasi, kad Wormhole n150 cip tunggal Tenstorrent (72 teras Tensix, frekuensi 1 GHz, SRAM 108 MB, GDDR6 12 GB, lebar jalur 288 GB/s) mencapai 262 FP8 TFLOPS pada 160W, manakala papan Wormhole n300 dwi-cip (128 teras Tensix, frekuensi 1 GHz, SRAM 192 MB, agregat 24 GB GDDR6, lebar jalur 576 GB/s) memberikan sehingga 466 FP8 TFLOPS pada 300W.
Untuk meletakkan 300W daripada 466 FP8 TFLOPS dalam konteks, kita akan membandingkannya dengan apa yang ditawarkan oleh peneraju pasaran AI Nvidia pada kuasa reka bentuk terma ini. Nvidia A100 tidak menyokong FP8, tetapi ia menyokong INT8, dengan prestasi puncak 624 TOPS (1,248 TOPS apabila jarang). Sebagai perbandingan, Nvidia H100 menyokong FP8 dan mencapai prestasi puncak 1,670 TFLOPS pada 300W (3,341 TFLOPS apabila jarang), yang jauh berbeza daripada Tenstorrent Wormhole n300.
Walau bagaimanapun, terdapat satu masalah utama. Wormhole n150 Tenstorrent dijual pada harga $999, manakala n300 dijual pada harga $1,399. Sebagai perbandingan, kad grafik Nvidia H100 tunggal dijual pada harga $30,000, bergantung pada kuantiti. Sudah tentu, kita tidak tahu sama ada empat atau lapan pemproses Wormhole benar-benar boleh memberikan prestasi H300 tunggal, tetapi TDP mereka masing-masing ialah 600W dan 1200W.
Selain kad, Tenstorrent menawarkan stesen kerja pra-binaan untuk pembangun, termasuk 4 kad n300 dalam TT-LoudBox berasaskan Xeon yang lebih berpatutan dengan penyejukan aktif dan TT-QuietBox yang canggih dengan fungsi penyejukan cecair berasaskan EPYC (Xiaolong).
Masa siaran: 29 Julai 2024