જિમ કેલરની આગેવાની હેઠળની ચિપ કંપની Tenstorrent એ તેનું નેક્સ્ટ જનરેશન વર્મહોલ પ્રોસેસર AI વર્કલોડ માટે બહાર પાડ્યું છે, જે તેને પોસાય તેવા ભાવે સારું પ્રદર્શન પ્રદાન કરવાની અપેક્ષા રાખે છે.કંપની હાલમાં બે વધારાના PCIe કાર્ડ ઓફર કરે છે જે સોફ્ટવેર ડેવલપર્સ માટે એક અથવા બે વોર્મહોલ પ્રોસેસર્સ તેમજ TT-LoudBox અને TT-QuietBox વર્કસ્ટેશનને સમાવી શકે છે. આજની તમામ ઘોષણાઓ વિકાસકર્તાઓને ધ્યાનમાં રાખીને કરવામાં આવી છે, જેઓ કોમર્શિયલ વર્કલોડ માટે વર્મહોલ બોર્ડનો ઉપયોગ કરે છે.
“વિકાસકર્તાઓના હાથમાં અમારી વધુ પ્રોડક્ટ્સ મેળવવી હંમેશા આનંદદાયક છે. અમારા વોર્મહોલ™ કાર્ડ્સનો ઉપયોગ કરીને રીલીઝ ડેવલપમેન્ટ સિસ્ટમ્સ ડેવલપર્સને મલ્ટી-ચિપ AI સોફ્ટવેરને સ્કેલ કરવામાં અને વિકસાવવામાં મદદ કરી શકે છે, "ટેનસ્ટોરેન્ટના સીઇઓ જિમ કેલરે જણાવ્યું હતું.આ પ્રક્ષેપણ ઉપરાંત, અમે અમારી સેકન્ડ-જનરેશન પ્રોડક્ટ, બ્લેકહોલની ટેપ આઉટ અને પાવર-અપ સાથે જે પ્રગતિ કરી રહ્યા છીએ તે જોવા માટે અમે ઉત્સાહિત છીએ."
દરેક વર્મહોલ પ્રોસેસરમાં 72 ટેન્સિક્સ કોરો (જેમાંથી પાંચ વિવિધ ડેટા ફોર્મેટમાં RISC-V કોરોને સપોર્ટ કરે છે) અને 108 MB SRAM ધરાવે છે, જે 160W ની થર્મલ ડિઝાઇન પાવર સાથે 1 GHz પર 262 FP8 TFLOPS પહોંચાડે છે. સિંગલ-ચિપ વર્મહોલ n150 કાર્ડ 12 GB GDDR6 વિડિયો મેમરીથી સજ્જ છે અને તેની બેન્ડવિડ્થ 288 GB/s છે.
વર્મહોલ પ્રોસેસર્સ વર્કલોડની વિવિધ જરૂરિયાતોને પહોંચી વળવા માટે લવચીક માપનીયતા પ્રદાન કરે છે. ચાર વર્મહોલ n300 કાર્ડ સાથેના પ્રમાણભૂત વર્કસ્ટેશન સેટઅપમાં, પ્રોસેસરોને એક એકમમાં જોડી શકાય છે જે સોફ્ટવેરમાં એકીકૃત, વ્યાપક ટેન્સિક્સ કોર નેટવર્ક તરીકે દેખાય છે. આ રૂપરેખાંકન પ્રવેગકને સમાન વર્કલોડને હેન્ડલ કરવા, ચાર ડેવલપર્સ વચ્ચે વિભાજિત કરવા અથવા એક સાથે આઠ અલગ-અલગ AI મોડલ્સ ચલાવવાની મંજૂરી આપે છે. આ માપનીયતાની મુખ્ય વિશેષતા એ છે કે તે વર્ચ્યુઅલાઈઝેશનની જરૂરિયાત વિના સ્થાનિક રીતે ચાલી શકે છે. ડેટા સેન્ટર વાતાવરણમાં, વોર્મહોલ પ્રોસેસર્સ મશીનની અંદર વિસ્તરણ માટે PCIe અથવા બાહ્ય વિસ્તરણ માટે ઇથરનેટનો ઉપયોગ કરશે.
કામગીરીની દ્રષ્ટિએ, Tenstorrent ના સિંગલ-ચિપ વર્મહોલ n150 કાર્ડ (72 Tensix cores, 1 GHz ફ્રિક્વન્સી, 108 MB SRAM, 12 GB GDDR6, 288 GB/s બેન્ડવિડ્થ) એ 160W પર 262 FP8 TFLOPS હાંસલ કર્યું, જ્યારે ડ્યુઆરએમહોલ બોર્ડ (128 ટેન્સિક્સ કોરો, 1 GHz આવર્તન, 192 MB SRAM, એકંદર 24 GB GDDR6, 576 GB/s બેન્ડવિડ્થ) 300W પર 466 FP8 TFLOPS સુધી પહોંચાડે છે.
466 FP8 TFLOPS ના 300W ને સંદર્ભમાં મૂકવા માટે, અમે તેની સરખામણી AI માર્કેટ લીડર Nvidia આ થર્મલ ડિઝાઇન પાવર પર શું ઑફર કરે છે તેની સાથે કરીશું. Nvidia નું A100 FP8 ને સપોર્ટ કરતું નથી, પરંતુ તે INT8 ને સપોર્ટ કરે છે, જેમાં 624 TOPS (1,248 TOPS જ્યારે છૂટાછવાયા હોય ત્યારે) ટોચના પ્રદર્શન સાથે. તેની સરખામણીમાં, Nvidia નું H100 FP8 ને સપોર્ટ કરે છે અને 300W પર 1,670 TFLOPS (3,341 TFLOPS સ્પાર્સ પર) ના પીક પરફોર્મન્સ સુધી પહોંચે છે, જે Tenstorrent's Wormhole n300 કરતાં નોંધપાત્ર રીતે અલગ છે.
જો કે, એક મોટી સમસ્યા છે. Tenstorrent's Wormhole n150 $999 માં છૂટક છે, જ્યારે n300 $1,399 માં વેચાય છે. તુલનાત્મક રીતે, એક Nvidia H100 ગ્રાફિક્સ કાર્ડ જથ્થાના આધારે $30,000 માં છૂટક છે. અલબત્ત, અમને ખબર નથી કે ચાર કે આઠ વર્મહોલ પ્રોસેસર ખરેખર એક H300 નું પ્રદર્શન આપી શકે છે, પરંતુ તેમના TDP અનુક્રમે 600W અને 1200W છે.
કાર્ડ્સ ઉપરાંત, Tenstorrent વિકાસકર્તાઓ માટે પૂર્વ-બિલ્ટ વર્કસ્ટેશન ઓફર કરે છે, જેમાં સક્રિય ઠંડક સાથે વધુ સસ્તું Xeon-આધારિત TT-LoudBoxમાં 4 n300 કાર્ડ અને EPYC-આધારિત Xiaolong) લિક્વિડ કૂલિંગ ફંક્શન સાથે અદ્યતન TT-QuietBox)નો સમાવેશ થાય છે.
પોસ્ટ સમય: જુલાઈ-29-2024