జిమ్ కెల్లర్ నేతృత్వంలోని చిప్ కంపెనీ టెన్‌స్టోరెంట్ తన తరువాతి తరం వార్మ్హోల్ ప్రాసెసర్‌ను AI పనిభారం కోసం విడుదల చేసింది, ఇది సరసమైన ధర వద్ద మంచి పనితీరును అందించాలని ఆశిస్తోంది.సంస్థ ప్రస్తుతం రెండు అదనపు PCIE కార్డులను అందిస్తుంది, ఇవి ఒకటి లేదా రెండు వార్మ్హోల్ ప్రాసెసర్‌లతో పాటు సాఫ్ట్‌వేర్ డెవలపర్‌ల కోసం TT-roudbox మరియు TT-Quietbox వర్క్‌స్టేషన్లను కలిగి ఉంటాయి. నేటి ప్రకటనలన్నీ డెవలపర్‌లను లక్ష్యంగా చేసుకున్నాయి, వాణిజ్య పనిభారం కోసం వార్మ్హోల్ బోర్డులను ఉపయోగిస్తున్నారు.
"మా ఉత్పత్తులను డెవలపర్‌ల చేతుల్లోకి తీసుకురావడం ఎల్లప్పుడూ సంతోషంగా ఉంటుంది. మా వార్మ్హోల్ ™ కార్డులను ఉపయోగించి అభివృద్ధి వ్యవస్థలను విడుదల చేయండి డెవలపర్‌లకు స్కేల్ మరియు మల్టీ-చిప్ AI సాఫ్ట్‌వేర్‌ను అభివృద్ధి చేయడంలో సహాయపడుతుంది" అని టెన్‌స్టోరెంట్ CEO జిమ్ కెల్లెర్ అన్నారు.ఈ ప్రయోగంతో పాటు, మా రెండవ తరం ఉత్పత్తి బ్లాక్హోల్ యొక్క టేప్ అవుట్ మరియు పవర్-అప్ తో మేము సాధిస్తున్న పురోగతిని చూడటానికి మేము సంతోషిస్తున్నాము. ”
ప్రతి వార్మ్హోల్ ప్రాసెసర్ 72 టెన్సిక్స్ కోర్లను కలిగి ఉంటుంది (వీటిలో ఐదు వివిధ డేటా ఫార్మాట్లలో RISC-V కోర్లకు మద్దతు ఇస్తాయి) మరియు 108 MB SRAM, 1 GHz వద్ద 262 FP8 TFLOP లను 160W థర్మల్ డిజైన్ శక్తితో పంపిణీ చేస్తాయి. సింగిల్-చిప్ వార్మ్హోల్ N150 కార్డులో 12 GB GDDR6 వీడియో మెమరీ ఉంది మరియు బ్యాండ్‌విడ్త్ 288 GB/s.
వార్మ్హోల్ ప్రాసెసర్లు పనిభారం యొక్క విభిన్న అవసరాలను తీర్చడానికి అనువైన స్కేలబిలిటీని అందిస్తాయి. నాలుగు వార్మ్హోల్ N300 కార్డులతో ప్రామాణిక వర్క్‌స్టేషన్ సెటప్‌లో, ప్రాసెసర్‌లను ఒకే యూనిట్‌గా కలపవచ్చు, ఇది సాఫ్ట్‌వేర్‌లో ఏకీకృత, విస్తృత టెన్సిక్స్ కోర్ నెట్‌వర్క్‌గా కనిపిస్తుంది. ఈ కాన్ఫిగరేషన్ యాక్సిలరేటర్‌ను ఒకే పనిభారాన్ని నిర్వహించడానికి, నలుగురు డెవలపర్‌ల మధ్య విభజించడానికి లేదా ఎనిమిది వేర్వేరు AI మోడళ్ల వరకు ఒకేసారి అమలు చేయడానికి అనుమతిస్తుంది. ఈ స్కేలబిలిటీ యొక్క ముఖ్య లక్షణం ఏమిటంటే ఇది వర్చువలైజేషన్ అవసరం లేకుండా స్థానికంగా నడుస్తుంది. డేటా సెంటర్ వాతావరణంలో, వార్మ్హోల్ ప్రాసెసర్లు యంత్రం లోపల విస్తరణ కోసం PCIE లేదా బాహ్య విస్తరణ కోసం ఈథర్నెట్ ఉపయోగిస్తాయి.
పనితీరు పరంగా, టెన్‌స్టోరెంట్ యొక్క సింగిల్-చిప్ వార్మ్హోల్ N150 కార్డ్ (72 టెన్సిక్స్ కోర్లు, 1 GHz ఫ్రీక్వెన్సీ, 108 MB SRAM, 12 GB GDDR6, 288 GB/S బ్యాండ్‌విడ్త్) 160W వద్ద 262 FP8 TFLOP లను సాధించింది, అయితే డ్యూయల్-చిప్ వర్మ్‌హోల్ N300 BOARD (128 Tensix, 24 GB GDDR6, 576 GB/S బ్యాండ్‌విడ్త్) 300W వద్ద 466 FP8 TFLOPS వరకు అందిస్తుంది.
466 FP8 TFLOP లలో 300W ను సందర్భోచితంగా ఉంచడానికి, ఈ థర్మల్ డిజైన్ శక్తి వద్ద AI మార్కెట్ నాయకుడు ఎన్విడియా అందిస్తున్న దానితో మేము దీనిని పోల్చాము. ఎన్విడియా యొక్క A100 FP8 కి మద్దతు ఇవ్వదు, కానీ ఇది 624 టాప్స్ యొక్క గరిష్ట పనితీరుతో INT8 కి మద్దతు ఇస్తుంది (తక్కువ ఉన్నప్పుడు 1,248 టాప్స్). పోల్చితే, ఎన్విడియా యొక్క H100 FP8 కి మద్దతు ఇస్తుంది మరియు 300W (3,341 TFLOPS వద్ద 3,341 TFLOP లు) వద్ద 1,670 TFLOPS యొక్క గరిష్ట పనితీరును చేరుకుంటుంది, ఇది టెన్‌స్టోరెంట్ యొక్క వార్మ్హోల్ N300 నుండి గణనీయంగా భిన్నంగా ఉంటుంది.
అయితే, ఒక పెద్ద సమస్య ఉంది. టెన్‌స్టోరెంట్ యొక్క వార్మ్హోల్ N150 రిటైల్ $ 999, N300 39 1,399 కు అమ్ముతుంది. పోల్చి చూస్తే, ఒకే ఎన్విడియా హెచ్ 100 గ్రాఫిక్స్ కార్డ్ పరిమాణాన్ని బట్టి $ 30,000 కు రిటైల్ చేస్తుంది. వాస్తవానికి, నాలుగు లేదా ఎనిమిది వార్మ్హోల్ ప్రాసెసర్లు వాస్తవానికి ఒకే H300 యొక్క పనితీరును అందించగలదా అని మాకు తెలియదు, కాని వారి TDP లు వరుసగా 600W మరియు 1200W.
కార్డులతో పాటు, టెన్‌స్టొరెంట్ డెవలపర్‌ల కోసం ముందే నిర్మించిన వర్క్‌స్టేషన్లను అందిస్తుంది, వీటిలో క్రియాశీల శీతలీకరణతో మరింత సరసమైన జియాన్-ఆధారిత టిటి-లౌడ్‌బాక్స్‌లో 4 N300 కార్డులు మరియు EPYC- ఆధారిత జియాలాంగ్‌తో అధునాతన TT- క్విట్‌బాక్స్) ద్రవ శీతలీకరణ ఫంక్షన్‌తో సహా).
పోస్ట్ సమయం: జూలై -29-2024