Tenstorrent syarikat cip Jim Keller telah mengeluarkan pemproses Wormhole generasi akan datang untuk beban kerja AI, yang diharapkan untuk menawarkan prestasi yang baik pada harga yang berpatutan.Syarikat ini kini menawarkan dua kad PCIe tambahan yang boleh menampung satu atau dua pemproses lubang cacing, serta stesen kerja TT-Loudbox dan TT-Quietbox untuk pemaju perisian. Semua pengumuman hari ini bertujuan untuk pemaju, bukan mereka yang menggunakan papan cacing untuk beban kerja komersil.
"Ia sentiasa menggembirakan untuk mendapatkan lebih banyak produk kami ke tangan pemaju. Sistem pembangunan pelepasan menggunakan kad Wormhole ™ kami dapat membantu pemaju skala dan membangunkan perisian AI berbilang cip," kata Jim Keller, Ketua Pegawai Eksekutif Tenstorrent.Sebagai tambahan kepada pelancaran ini, kami teruja untuk melihat kemajuan yang kami buat dengan pita dan kuasa produk generasi kedua kami, Blackhole. "
Setiap pemproses cacing mengandungi 72 teras Tensix (lima daripadanya menyokong teras RISC-V dalam pelbagai format data) dan 108 MB SRAM, menyampaikan 262 fp8 tflops pada 1 GHz dengan kuasa reka bentuk terma 160W. Kad Wormhole N150 tunggal cip dilengkapi dengan memori video 12 GB GDDR6 dan mempunyai jalur lebar 288 GB/s.
Pemproses Wormhole menyediakan skalabiliti yang fleksibel untuk memenuhi keperluan beban kerja yang pelbagai. Dalam persediaan stesen kerja standard dengan empat kad Wormhole N300, pemproses boleh digabungkan ke dalam satu unit yang muncul dalam perisian sebagai rangkaian teras Tensix yang bersatu, luas. Konfigurasi ini membolehkan pemecut mengendalikan beban kerja yang sama, berpecah antara empat pemaju atau menjalankan sehingga lapan model AI yang berbeza secara serentak. Ciri utama skalabiliti ini ialah ia boleh berjalan secara tempatan tanpa memerlukan virtualisasi. Dalam persekitaran pusat data, pemproses cacing akan menggunakan PCIe untuk pengembangan di dalam mesin, atau Ethernet untuk pengembangan luaran.
Dari segi prestasi, kad cip tunggal Tenstorrent N150 (72 Tensix Cores, 1 GHz Frekuensi, 108 MB SRAM, 12 GB GDDR6, 288 GB/S Bandwidth) mencapai 262 FP8 TFLOPS pada 160W, manakala Dual-Chip Wormhole N300 (128 GHRARATED, 128 GHROR, 128 GHROR, 128 GHIR, 128 GHIR, 128 GHIR, 128, 24 GB GDDR6, 576 GB/S Bandwidth) menyampaikan sehingga 466 FP8 TFLOPS pada 300W.
Untuk meletakkan 300W 466 FP8 tflops ke dalam konteks, kami akan membandingkannya dengan pemimpin pasaran AI Nvidia yang ditawarkan pada kuasa reka bentuk terma ini. A100 NVIDIA tidak menyokong FP8, tetapi ia menyokong INT8, dengan prestasi puncak 624 puncak (1,248 puncak apabila jarang). Sebagai perbandingan, H100 NVIDIA menyokong FP8 dan mencapai prestasi puncak 1,670 tflops pada 300W (3,341 tflops di jarang), yang jauh berbeza dengan Wormhole N300 Tenstorrent.
Walau bagaimanapun, terdapat satu masalah utama. Wormhole N150 Tenstorrent dijual dengan harga $ 999, manakala N300 menjual dengan harga $ 1,399. Sebagai perbandingan, kad grafik NVIDIA H100 tunggal dijual dengan harga $ 30,000, bergantung kepada kuantiti. Sudah tentu, kita tidak tahu sama ada empat atau lapan pemproses cacing sebenarnya boleh menyampaikan prestasi H300 tunggal, tetapi TDP mereka masing -masing adalah 600W dan 1200W.
Sebagai tambahan kepada kad, Tenstorrent menawarkan stesen kerja pra-dibina untuk pemaju, termasuk 4 kad N300 di dalam kotak TT-Loud yang lebih berpatutan dengan penyejukan aktif, dan TT-Quietbox yang canggih dengan XIAOlong berasaskan EPYC).
Masa Post: Jul-29-2024