జిమ్ కెల్లర్ నేతృత్వంలోని చిప్ కంపెనీ టెన్స్టోరెంట్ AI వర్క్‌లోడ్‌ల కోసం దాని తదుపరి తరం వార్మ్‌హోల్ ప్రాసెసర్‌ను విడుదల చేసింది, ఇది సరసమైన ధరకు మంచి పనితీరును అందిస్తుందని ఆశిస్తోంది.కంపెనీ ప్రస్తుతం ఒకటి లేదా రెండు వార్మ్‌హోల్ ప్రాసెసర్‌లను ఉంచగల రెండు అదనపు PCIe కార్డులను, అలాగే సాఫ్ట్‌వేర్ డెవలపర్ల కోసం TT-LoudBox మరియు TT-QuietBox వర్క్‌స్టేషన్‌లను అందిస్తోంది. నేటి ప్రకటనలన్నీ డెవలపర్‌లను లక్ష్యంగా చేసుకున్నాయి, వాణిజ్య పనిభారాల కోసం వార్మ్‌హోల్ బోర్డులను ఉపయోగించే వారిని కాదు.
"మా ఉత్పత్తులను డెవలపర్ల చేతుల్లోకి తీసుకురావడం ఎల్లప్పుడూ సంతోషంగా ఉంటుంది. మా వార్మ్‌హోల్™ కార్డులను ఉపయోగించి విడుదల డెవలప్‌మెంట్ సిస్టమ్‌లు డెవలపర్‌లకు మల్టీ-చిప్ AI సాఫ్ట్‌వేర్‌ను స్కేల్ చేయడానికి మరియు అభివృద్ధి చేయడానికి సహాయపడతాయి" అని టెన్స్టోరెంట్ CEO జిమ్ కెల్లర్ అన్నారు.ఈ ప్రయోగంతో పాటు, మా రెండవ తరం ఉత్పత్తి బ్లాక్‌హోల్ యొక్క టేప్ అవుట్ మరియు పవర్-అప్‌తో మేము సాధిస్తున్న పురోగతిని చూడటానికి మేము ఉత్సాహంగా ఉన్నాము. ”
ప్రతి వార్మ్‌హోల్ ప్రాసెసర్‌లో 72 టెన్సిక్స్ కోర్లు (వీటిలో ఐదు వివిధ డేటా ఫార్మాట్‌లలో RISC-V కోర్లకు మద్దతు ఇస్తాయి) మరియు 108 MB SRAM ఉంటాయి, ఇవి 160W థర్మల్ డిజైన్ పవర్‌తో 1 GHz వద్ద 262 FP8 TFLOPSని అందిస్తాయి. సింగిల్-చిప్ వార్మ్‌హోల్ n150 కార్డ్ 12 GB GDDR6 వీడియో మెమరీతో అమర్చబడి 288 GB/s బ్యాండ్‌విడ్త్‌ను కలిగి ఉంటుంది.
వర్క్‌లోడ్‌ల యొక్క విభిన్న అవసరాలను తీర్చడానికి వార్మ్‌హోల్ ప్రాసెసర్‌లు అనువైన స్కేలబిలిటీని అందిస్తాయి. నాలుగు వార్మ్‌హోల్ n300 కార్డులతో కూడిన ప్రామాణిక వర్క్‌స్టేషన్ సెటప్‌లో, ప్రాసెసర్‌లను సాఫ్ట్‌వేర్‌లో ఏకీకృత, విస్తృత టెన్సిక్స్ కోర్ నెట్‌వర్క్‌గా కనిపించే ఒకే యూనిట్‌గా కలపవచ్చు. ఈ కాన్ఫిగరేషన్ యాక్సిలరేటర్ ఒకే వర్క్‌లోడ్‌ను నిర్వహించడానికి, నలుగురు డెవలపర్ల మధ్య విభజించడానికి లేదా ఒకేసారి ఎనిమిది వేర్వేరు AI మోడళ్లను అమలు చేయడానికి అనుమతిస్తుంది. ఈ స్కేలబిలిటీ యొక్క ముఖ్య లక్షణం ఏమిటంటే ఇది వర్చువలైజేషన్ అవసరం లేకుండా స్థానికంగా అమలు చేయగలదు. డేటా సెంటర్ వాతావరణంలో, వార్మ్‌హోల్ ప్రాసెసర్‌లు యంత్రం లోపల విస్తరణ కోసం PCIeని లేదా బాహ్య విస్తరణ కోసం ఈథర్నెట్‌ను ఉపయోగిస్తాయి.
పనితీరు పరంగా, Tenstorrent యొక్క సింగిల్-చిప్ Wormhole n150 కార్డ్ (72 Tensix కోర్లు, 1 GHz ఫ్రీక్వెన్సీ, 108 MB SRAM, 12 GB GDDR6, 288 GB/s బ్యాండ్‌విడ్త్) 160W వద్ద 262 FP8 TFLOPSని సాధించింది, అయితే డ్యూయల్-చిప్ Wormhole n300 బోర్డ్ (128 Tensix కోర్లు, 1 GHz ఫ్రీక్వెన్సీ, 192 MB SRAM, సమగ్ర 24 GB GDDR6, 576 GB/s బ్యాండ్‌విడ్త్) 300W వద్ద 466 FP8 TFLOPSని అందిస్తుంది.
466 FP8 TFLOPS యొక్క 300W ని సందర్భోచితంగా చెప్పాలంటే, ఈ థర్మల్ డిజైన్ పవర్‌లో AI మార్కెట్ లీడర్ Nvidia అందిస్తున్న దానితో మేము దీనిని పోల్చి చూస్తాము. Nvidia యొక్క A100 FP8 కి మద్దతు ఇవ్వదు, కానీ ఇది INT8 కి మద్దతు ఇస్తుంది, గరిష్ట పనితీరు 624 TOPS (స్పార్స్ అయితే 1,248 TOPS) తో. పోల్చి చూస్తే, Nvidia యొక్క H100 FP8 కి మద్దతు ఇస్తుంది మరియు 300W వద్ద 1,670 TFLOPS (స్పార్స్ అయితే 3,341 TFLOPS) గరిష్ట పనితీరును చేరుకుంటుంది, ఇది Tenstorrent యొక్క Wormhole n300 నుండి గణనీయంగా భిన్నంగా ఉంటుంది.
అయితే, ఒక ప్రధాన సమస్య ఉంది. టెన్స్టోరెంట్ యొక్క వార్మ్‌హోల్ n150 $999కి రిటైల్ అవుతుండగా, n300 $1,399కి అమ్ముడవుతోంది. పోల్చి చూస్తే, ఒకే Nvidia H100 గ్రాఫిక్స్ కార్డ్ పరిమాణాన్ని బట్టి $30,000కి రిటైల్ అవుతుంది. వాస్తవానికి, నాలుగు లేదా ఎనిమిది వార్మ్‌హోల్ ప్రాసెసర్‌లు ఒకే H300 పనితీరును అందించగలవో లేదో మాకు తెలియదు, కానీ వాటి TDPలు వరుసగా 600W మరియు 1200W.
కార్డులతో పాటు, టెన్స్టోరెంట్ డెవలపర్ల కోసం ముందే నిర్మించిన వర్క్‌స్టేషన్‌లను అందిస్తుంది, వీటిలో 4 n300 కార్డులు (జియాన్-ఆధారిత TT-లౌడ్‌బాక్స్‌లో యాక్టివ్ కూలింగ్‌తో) మరియు అధునాతన TT-క్వైట్‌బాక్స్ (EPYC-ఆధారిత జియాలోంగ్ లిక్విడ్ కూలింగ్ ఫంక్షన్‌తో) ఉన్నాయి.
పోస్ట్ సమయం: జూలై-29-2024