O le kamupani va'a ta'ita'ia e Jim Keller, Tenstorrent, ua fa'amatu'u mai lona fa'atupuina o le Wormhole processor mo galuega fa'atino a AI, lea e fa'amoemoe e ofoina atu le fa'atinoga lelei i se tau taugofie.O loʻo tuʻuina atu nei e le kamupani ni kata PCIe se lua e mafai ona faʻaogaina se tasi pe lua Wormhole processors, faʻapea foʻi ma fale faigaluega TT-LoudBox ma TT-QuietBox mo tagata faʻapipiʻi polokalama. O faʻasalalauga uma i aso nei e faʻatatau i tagata atiaʻe, ae le o i latou e faʻaaogaina laupapa Wormhole mo galuega faʻapisinisi.
“E fa'amalieina i taimi uma le tu'uina atu o le tele o a tatou oloa i lima o tagata atia'e. Fa'asa'oloto faiga fa'avae e fa'aaoga ai a tatou kata Wormhole ™ e mafai ona fesoasoani i tagata atia'e e fa'afua ma atia'e le tele-chip AI software,” o le tala lea a Jim Keller, Pule Sili o Tenstorrent.I le faaopoopo atu i lenei faʻalauiloa, matou te fiafia e vaʻai i le alualu i luma o loʻo matou faia i le lipine i fafo ma le faʻamalosia o la matou oloa lona lua, Blackhole.
O ta'itasi Wormhole processor o lo'o i ai 72 Tensix cores (lima o lo'o lagolagoina RISC-V cores i fa'amaumauga eseese) ma le 108 MB o le SRAM, tu'uina atu le 262 FP8 TFLOPS i le 1 GHz fa'atasi ai ma le mana o le mamanu vevela o le 160W. O le pepa taʻavale Wormhole n150 e tasi e faʻapipiʻiina i le 12 GB GDDR6 ata vitio ma ei ai le bandwidth o 288 GB / s.
Wormhole processors e maua ai le fetuutuuna'i scalability e fetaui ma manaoga eseese o galuega mamafa. I se seti fale faigaluega masani ma fa Wormhole n300 kata, e mafai ona tuʻufaʻatasia le gaosiga i totonu o se iunite e tasi e faʻaalia i totonu o le polokalama o se fesoʻotaʻiga tuʻufaʻatasia, lautele Tensix core. O lenei fa'atulagaga e mafai ai e le tagata fa'avavevave ona taulimaina le mamafa o galuega, vaelua i le va o le au atina'e se fa po'o le ta'avale i le valu fa'ata'ita'iga AI i le taimi e tasi. O se vaega taua o lenei scalability e mafai ona tamoe i le lotoifale e aunoa ma le manaomia o virtualization. I totonu o se siosiomaga nofoaga autu, Wormhole processors o le a faʻaogaina PCIe mo le faʻalauteleina i totonu o le masini, poʻo le Ethernet mo le faʻalauteleina i fafo.
I le tulaga o le faatinoga, Tenstorrent's single-chip Wormhole n150 card (72 Tensix cores, 1 GHz frequency, 108 MB SRAM, 12 GB GDDR6, 288 GB/s bandwidth) ausia le 262 FP8 TFLOPS i le 160W, ae o le lua-chip Wormhole n300 (128 Tensix cores, 1 GHz frequency, 192 MB SRAM, fa'aputuina 24 GB GDDR6, 576 GB/s bandwidth) tu'uina atu i le 466 FP8 TFLOPS i le 300W.
Ina ia tuʻuina le 300W o le 466 FP8 TFLOPS i totonu o faʻamatalaga, o le a matou faʻatusatusa i le mea o loʻo ofoina mai e le taʻitaʻi maketi AI Nvidia i lenei mana mamanu vevela. E le lagolagoina e Nvidia's A100 le FP8, ae e lagolagoina le INT8, faʻatasi ai ma le maualuga o le 624 TOPS (1,248 TOPS pe a seasea). I le faʻatusatusaina, e lagolagoina e le Nvidia's H100 le FP8 ma oʻo atu i le maualuga o le 1,670 TFLOPS i le 300W (3,341 TFLOPS i seasea), e matua ese lava mai le Tenstorrent's Wormhole n300.
Ae ui i lea, e tasi le faafitauli tele. Tenstorrent's Wormhole n150 fa'atau atu mo le $999, ae fa'atau le n300 mo le $1,399. I le faʻatusatusaina, o le Nvidia H100 graphics card e toe faʻatau atu mo le $ 30,000, faʻatatau i le aofaʻi. Ioe, matou te le iloa pe fa pe valu Wormhole processors e mafai ona tuʻuina atu le faʻatinoga o le H300 tasi, ae o latou TDP e 600W ma le 1200W.
I le faaopoopo atu i kata, Tenstorrent ofo atu fale faigaluega muamua mo tagata atiae, e aofia ai le 4 n300 kata i le Xeon-based TT-LoudBox e sili atu le taugofie ma le malulu malosi, ma le TT-QuietBox maualuga ma le EPYC-based Xiaolong) galuega faʻamafanafana vai).
Taimi meli: Iul-29-2024