જીમ કેલરની આગેવાની હેઠળની ચિપ કંપની ટેન્સ્ટોરેન્ટે AI વર્કલોડ માટે તેનું આગામી પેઢીનું વર્મહોલ પ્રોસેસર રજૂ કર્યું છે, જે તેને સસ્તા ભાવે સારું પ્રદર્શન આપવાની અપેક્ષા રાખે છે.કંપની હાલમાં બે વધારાના PCIe કાર્ડ ઓફર કરે છે જે એક કે બે વર્મહોલ પ્રોસેસરને સમાવી શકે છે, તેમજ સોફ્ટવેર ડેવલપર્સ માટે TT-લાઉડબોક્સ અને TT-ક્વિટબોક્સ વર્કસ્ટેશન પણ ઓફર કરે છે. આજની બધી જાહેરાતો વિકાસકર્તાઓ માટે છે, વાણિજ્યિક વર્કલોડ માટે વર્મહોલ બોર્ડનો ઉપયોગ કરતા લોકો માટે નહીં.
"ડેવલપર્સના હાથમાં અમારા વધુ ઉત્પાદનો પહોંચાડવા હંમેશા સંતોષકારક હોય છે. અમારા Wormhole™ કાર્ડ્સનો ઉપયોગ કરીને ડેવલપમેન્ટ સિસ્ટમ્સ રિલીઝ કરવાથી ડેવલપર્સને મલ્ટી-ચિપ AI સોફ્ટવેરને સ્કેલ અને વિકસાવવામાં મદદ મળી શકે છે," ટેન્સટોરેન્ટના CEO જીમ કેલરે જણાવ્યું.આ લોન્ચ ઉપરાંત, અમે અમારી બીજી પેઢીના ઉત્પાદન, બ્લેકહોલના ટેપ આઉટ અને પાવર-અપ સાથે જે પ્રગતિ કરી રહ્યા છીએ તે જોઈને ઉત્સાહિત છીએ.”
દરેક વર્મહોલ પ્રોસેસરમાં 72 ટેન્સિક્સ કોરો (જેમાંથી પાંચ વિવિધ ડેટા ફોર્મેટમાં RISC-V કોરોને સપોર્ટ કરે છે) અને 108 MB SRAM હોય છે, જે 160W ના થર્મલ ડિઝાઇન પાવર સાથે 1 GHz પર 262 FP8 TFLOPS પહોંચાડે છે. સિંગલ-ચિપ વર્મહોલ n150 કાર્ડ 12 GB GDDR6 વિડિયો મેમરીથી સજ્જ છે અને તેની બેન્ડવિડ્થ 288 GB/s છે.
વર્મહોલ પ્રોસેસર્સ વર્કલોડની વિવિધ જરૂરિયાતોને પૂર્ણ કરવા માટે લવચીક સ્કેલેબિલિટી પ્રદાન કરે છે. ચાર વર્મહોલ n300 કાર્ડ્સ સાથેના પ્રમાણભૂત વર્કસ્ટેશન સેટઅપમાં, પ્રોસેસર્સને એક જ યુનિટમાં જોડી શકાય છે જે સોફ્ટવેરમાં એકીકૃત, વ્યાપક ટેન્સિક્સ કોર નેટવર્ક તરીકે દેખાય છે. આ રૂપરેખાંકન એક્સિલરેટરને સમાન વર્કલોડને હેન્ડલ કરવા, ચાર ડેવલપર્સ વચ્ચે વિભાજીત કરવા અથવા એકસાથે આઠ અલગ અલગ AI મોડેલો ચલાવવાની મંજૂરી આપે છે. આ સ્કેલેબિલિટીની મુખ્ય વિશેષતા એ છે કે તે વર્ચ્યુઅલાઈઝેશનની જરૂરિયાત વિના સ્થાનિક રીતે ચાલી શકે છે. ડેટા સેન્ટર વાતાવરણમાં, વર્મહોલ પ્રોસેસર્સ મશીનની અંદર વિસ્તરણ માટે PCIe અથવા બાહ્ય વિસ્તરણ માટે ઇથરનેટનો ઉપયોગ કરશે.
કામગીરીની દ્રષ્ટિએ, ટેન્સટોરેન્ટના સિંગલ-ચિપ વર્મહોલ n150 કાર્ડ (72 ટેન્સિક્સ કોરો, 1 GHz ફ્રીક્વન્સી, 108 MB SRAM, 12 GB GDDR6, 288 GB/s બેન્ડવિડ્થ) એ 160W પર 262 FP8 TFLOPS પ્રાપ્ત કર્યું, જ્યારે ડ્યુઅલ-ચિપ વર્મહોલ n300 બોર્ડ (128 ટેન્સિક્સ કોરો, 1 GHz ફ્રીક્વન્સી, 192 MB SRAM, એકત્રિત 24 GB GDDR6, 576 GB/s બેન્ડવિડ્થ) 300W પર 466 FP8 TFLOPS સુધી પહોંચાડે છે.
466 FP8 TFLOPS ના 300W ને સંદર્ભમાં મૂકવા માટે, અમે તેની તુલના AI માર્કેટ લીડર Nvidia આ થર્મલ ડિઝાઇન પાવર પર શું ઓફર કરી રહી છે તેની સાથે કરીશું. Nvidia નું A100 FP8 ને સપોર્ટ કરતું નથી, પરંતુ તે INT8 ને સપોર્ટ કરે છે, 624 TOPS (સ્પાર્સમાં 1,248 TOPS) ના પીક પરફોર્મન્સ સાથે. સરખામણીમાં, Nvidia નું H100 FP8 ને સપોર્ટ કરે છે અને 300W પર 1,670 TFLOPS (સ્પાર્સમાં 3,341 TFLOPS) ના પીક પરફોર્મન્સ સુધી પહોંચે છે, જે Tenstorrent ના Wormhole n300 થી નોંધપાત્ર રીતે અલગ છે.
જોકે, એક મોટી સમસ્યા છે. ટેન્સ્ટોરેન્ટનું વર્મહોલ n150 $999 માં વેચાય છે, જ્યારે n300 $1,399 માં વેચાય છે. સરખામણીમાં, એક Nvidia H100 ગ્રાફિક્સ કાર્ડ જથ્થાના આધારે $30,000 માં વેચાય છે. અલબત્ત, આપણે જાણતા નથી કે ચાર કે આઠ વર્મહોલ પ્રોસેસર ખરેખર એક H300 જેટલું પ્રદર્શન આપી શકે છે, પરંતુ તેમના TDPs અનુક્રમે 600W અને 1200W છે.
કાર્ડ્સ ઉપરાંત, ટેન્સ્ટોરેન્ટ ડેવલપર્સ માટે પહેલાથી બનાવેલા વર્કસ્ટેશન્સ ઓફર કરે છે, જેમાં સક્રિય કૂલિંગ સાથે વધુ સસ્તા Xeon-આધારિત TT-LoudBox માં 4 n300 કાર્ડ્સ અને EPYC-આધારિત Xiaolong) લિક્વિડ કૂલિંગ ફંક્શન સાથે અદ્યતન TT-QuietBoxનો સમાવેશ થાય છે.
પોસ્ટ સમય: જુલાઈ-29-2024