لنډ ځواب: د AI ډیټا سنټر یو لوړ کثافت ځای دی چیرې چې بریښنا، یخ کول، ټوکر او ذخیره د روزنې او خدمت کولو ماډلونو شاوخوا ګرځي، نه د اضافي GPUs سره د سرور خونه. چپس شهرت ترلاسه کوي؛ ودانۍ پریکړه کوي چې ایا دوی کار کوي. که عکسونه نشي وتلی، یو کوچنی حجره بیا رغول کیږي؛ ډیری ټیمونه باید کرایه کړي.
مهم ټکي:
چپس د ودانۍ په مقابل کې: بریښنا، یخ کول، ټوکر او ذخیره کول پریکړه کوي چې سرعت کونکي کار کوي که نه.
ځایونه نه ماڼۍ: کله چې معلومات نه شي پریښودلی، دوه ریکونه بیا جوړ کړئ؛ کیمپس مه اخلئ.
اوسط د میډیا په مقابل کې: په اتو منډو کې، میډیا پټ بیا پیل کیږي؛ د 18 ساعتونو اوسط وکاروئ.
د ناوړه ګټې اخیستنې مقاومت: په مخلوط تالار کې د دوو ریکونو لپاره د PUE نرخ مه اخلئ.
د مثال په توګه پایلې: اته منډې یوه کوچنۍ نقشه ده، نه د ۵۰٪ تولید سپما.

هغه مقالې چې تاسو یې له دې وروسته لوستل خوښولی شئ:
🔗 ایا مصنوعي ذهانت د باور وړ دی؟ ویډیو او کوئز
د یوې زړه راښکونکې ویډیو او متقابل کوئز له لارې د مصنوعي ذهانت اعتبار وپلټئ.
🔗 په ورځني ژوند کې د مصنوعي ذهانت کارولو څرنګوالی
هغه عملي لارې ومومئ چې مصنوعي ذهانت کولی شي ورځني کارونه او معمولات ساده کړي.
🔗 په کار کې د مصنوعي ذهانت کارولو څرنګوالی
د کاري ځای د هوښیار تولید لپاره د مصنوعي ذهانت کارولو عملي لارې زده کړئ.
🔗 ایا مصنوعي ذهانت پخپله فکر کولی شي؟
پوه شئ چې ایا مصنوعي ذهانت په ریښتیا سره خپلواک فکر کولی شي یا دلیل.
دا څنګه د "عادي" معلوماتو مرکز څخه توپیر لري
دودیز هالونه د ډیری کوچنیو خدماتو په اوږدو کې د ګډ کاري بارونو او اپټایم لپاره غوره کوي. تاسو ډاډه یاست چې د اضافي کار په اړه پاملرنه کوئ، او د PUE په اړه د یوې مفکورې په توګه - اضافي انرژي چې ودانۍ د کمپیوټر واټ رسولو لپاره سوځوي. تاسو معمولا هر دهلیز د ریک شاوخوا ډیزاین نه کوئ چې د پورټ ایبل هیټر فارم په څیر چلند کوي.
د مصنوعي ذهانت سایټونه تناسب بدلوي. کثافت لوړیږي. شبکه یو داسې ټوکر کیږي چې د روزنې دنده یې پرته نشي کولی په اسانۍ سره پرمخ ولاړه شي. ذخیره باید د پوستې حرکت وساتي یا سرعت کونکي بې کاره ناست وي، لکه د ټرافیک په جام کې د ریس اسونه.
یو کلتوري توپیر هم شتون لري. د سوداګرۍ عملیات په ټکټونو او بدلون کړکۍ کې فکر کوي. د مصنوعي استخباراتو عملیات د دندې په کتارونو کې فکر کوي او د ناروغ احساس کله چې یو نوډ په اوږد مهال کې ناوخته مړ شي. زه فکر کوم چې تاسو لاهم دواړه "ډیټا مرکزونه" بللی شئ ځکه چې دوی دي. لیبل یوازې نل لیکه پټوي.
| ډول | د څه لپاره جوړ شوی دی؟ | غوره هارډویر | د بریښنا / یخولو ځانګړتیا | دا چا ته مناسب دی؟ | ولې شتون لري؟ |
|---|---|---|---|---|---|
| د سوداګرۍ دودیز معلوماتي مرکز | مخلوط معلوماتي ټکنالوژي: ډیټابیسونه، VMs، بریښنالیک، فایلونه | CPUs، عادي سرورونه، پیژندل شوی ذخیره | د هوا له لارې رهبري شوی؛ لږ کثافت؛ د خبرو اترو د ځای په توګه PUE | هغه شرکتونه چې ورځني سیسټمونه چلوي | د سوداګرۍ ایپسونه فعال وساتئ |
| د مصنوعي ذهانت روزنیز کلستر | اوږده، په کلکه تړلې روزنیزې دندې | د سرعت د زیاتوالي ګڼ ریکونه؛ د GPU متقابل اړیکې | لوړ کثافت؛ د مایع یخولو یا [د شا دروازې تودوخې تبادله کونکي] (https://datacenters.lbl.gov/sites/default/files/rdhx-doe-femp.pdf) | لابراتوارونه او ماډل جوړونکي د کار په کتارونو کې ژوند کوي | د چپس له خوړلو پرته منډه بشپړه کړئ |
| د مصنوعي ذهانت د استنباط اسانتیا | د ماډل خدمت کول؛ ریښتیني وخت او ډله ایز ځوابونه | سرعت ورکوونکي؛ د بار توازن کوونکي چې مهم دي | لا هم ګرم، یوازې... لږ تیاتر؛ د وحشي کثافت په پرتله ځنډ | هغه محصولات چې اوس باید ځواب ووایی | ماډل د کارونکي سره نږدې کېږدئ |
| د هایبرډ مصنوعي ذهانت تالار | د یو چت لاندې روزنه او خدمت کول؛ ښه - یو ډول | مخلوط ریکونه؛ د کټارې سره تړلي حوضونه؛ شریک ټوکر | په یوه فابریکه خونه کې دوه یخ شخصیتونه؛ دا عجیب کیږي | هغه ټیمونه چې دوه کیمپسونه نشي اخیستلی | پانګه محدوده ده؛ ژوند بې خونده دی |
اخلاقي درجه بندي نه ده. مختلف ماشینونه، ورته کورنۍ نوم.
GPUs، سرعت کوونکي، او هغه ریک چې بریښنا خوري
په دودیز لوړ پوړ کې قدم ووهئ او ریکونه تقریبا مهربان ښکاري. د مصنوعي ذهانت قطار کې قدم ووهئ او داسې ښکاري چې دوی غواړي ودانۍ تیر کړي.
د پام وړ هارډویر یو هوښیار CPU نه دی. دا د سرعت ټری دی: GPUs یا نور AI چپس، په سرورونو کې بسته شوي، بیا ریکونه، بیا قطارونه چې د لوړ بینډ ویت پارچه شریکوي. GPU چپسونه په یو داسې شی کې سره نښلوي چې کولی شي د یو لوی سرعت کونکي په توګه وښيي؛ د کلستر پارچه د قطار پیمانه کې ورته چال ترسره کوي. موازي روزنه یوازې هغه وخت کار کوي که چیرې دا لینکونه غوړ او د وړاندوینې وړ پاتې شي. دا له لاسه ورکړئ او ستاسو "کلستر" د ګران کار سټیشنونو یوه ټولګه ده چې پوسټ کوډ شریکوي.
بریښنا د چپسونو تعقیبوي. د دفتر غټ PDU نه. د معلوماتي ټکنالوژۍ میګاواټه بار کله چې تالار ډک شي - زه به شمیره ایجاد نه کړم. د هر ریک کثافت د پلاټ ټویست دی. لږ ریکونه. هر یو یو کوچنی فرنس. محدودونکی فکتور اکثرا سب سټیشن دی، نه د GPUs د غوښتنې لیست. تاسو پوهیږئ چې دا څنګه ده: تدارکات ډیر سرعت کونکي غواړي؛ یوټیلټي اوږده خبرې اترې او خورا لوی چیک غواړي.
یوه کوچنۍ استعاره چې زه یې نشم وهلی: ریک یو وږی څاروی دی. تاسو کولی شئ یو ګړندی نسل ورکړئ. تاسو لاهم باید هغه ته خواړه ورکړئ، او تاسو لاهم باید تودوخه وباسئ. له دې دواړو څخه یو پریږدئ او دا یو ډیر ګران کاغذی وزن کیږي.
د برېښنا، تودوخې او د یخولو ستونزه
برېښنا دننه کړه. ګرمه کړه. دا ټول دین دی.
د لوړ کثافت ریکونه تودوخه په داسې ډول اچوي چې هوا هیڅکله د اداره کولو غوښتنه نه وه شوې. تاسو کولی شئ هوا سخته فشار ورکړئ - د شا دروازې تودوخې تبادله کونکي، ګرمې لارې، هوښیار کنټرول - او دا تر یوې اندازې پورې کار کوي. بیا مایع څرګندیږي:
-
د کولنټ لوپونه چې د نبات خونه د کیمیاوي موادو په څیر ښکاري کار کوي
-
په څو ډیزاینونو کې ډوبیدل، کوم چې لاهم هغه خلک حیرانوي چې فکر کوي اوبه او سرورونه باید یوه جمله شریکه نه کړي
له دې څخه هیڅ یو ښکلی نه دی. دا ټول محصول دی، ځکه چې یو اکسیلیټر چې تروټل کوي هغه هغه دی چې تاسو دمخه یې پیسې ورکړې او په بشپړ ډول یې نشئ کارولی.
PUE لا هم مهم دی. دا تناسب دی، نه شخصیت. چلونکي یې تعقیبوي ځکه چې په فینونو او پمپونو مصرف شوی هر واټ یو واټ دی چې GPU ته نه دی تللی. زه به د "معمولي" ارقام حواله نه کړم؛ اقلیم او هغه لاره چې تاسو یې سرحد رسم کوئ دا حرکت کوي، او جعلي دقت د هیڅ څخه بدتر دی. اوبه هم په کیسه کې ناست دي. ځینې نباتات څښي. ځینې یې څښي. د تبخیر یخ کول تر هغه وخته پورې اغیزمن دي تر څو چې سیند یا وچکالي دا سیاسي نه کړي.
شبکه کول: ولې ټوکر د چپس په څیر مهم دی
خلک د GPU عکسونه اخلي. دوی باید د سویچونو عکسونه واخلي.
روزنه یوه خبرې اترې ده. په زرګونو سرعت کونکي د یو ماډل د تدریجي، پیرامیټرو، شارډونو تبادله کوي، په ټینګه همغږي کې. که چیرې ټوکر ټکان وکړي، نو ټوله دنده په ورو ورو هپ کې انتظار کوي. له همدې امله د AI هالونه د لوړ بینډ ویت شبکې، ټیټ ځنډ، او ټوپولوژیو سره لیوالتیا لري چې کله لینک ناکام شي نو نیمایي نه پوښي. انفیني بانډ-ایش فابریکې، ایترنیټ په ورته رول کې، د بکس دننه GPU متقابل اړیکې، کیبل کول چې باید لومړی ځل سم وي.
استنباط یوه بله خبرې اترې ده. د ماډل خدمت کول د لکۍ ځنډ په اړه پاملرنه کوي - ورو ځواب، نه اوسط ځواب. د بیچ په مقابل کې ریښتیني وخت شخصیت تقسیموي. د روزنې کلستر غوړ، ډله ایز، له ټولو څخه تر ټولو پورې حرکت. د خدمت کولو بیړۍ ډیری کوچنۍ غوښتنې او جلاوالی غواړي، پرته له دې چې د بار توازن کونکي کې ترافیکي جام وي.
زما د دلته کېدو پر مهال ستونزه: خلک شبکې ته د نلونو او چپس ته د رستورانت په سترګه ګوري. په دې ودانۍ کې نلونه رستورانت دی. دا ستونزه له لاسه ورکوي او تاسو یو پخلنځی اخلئ چې تحویلي نشي اخیستلی.
روزنه او استنباط: دوه ودانۍ، ځینې وختونه په لفظي ډول
روزنه یو کمپاین دی. تاسو یو کلستر راټولوئ، معلومات ورته ورکوئ، په مذهبي ډول یې چیک کړئ، د ساعتونو یا اونیو لپاره منډه وهئ، او دعا کوئ چې ټوکر بې ثباته پاتې شي. ډله ییز، د بینډ ویت وږی، په خاموشۍ سره صبر کوونکی - تر هغه چې یو ناکامه نوډ د منډې څخه یو څه وباسي. په یوه کلک تړل شوي دنده کې یو مړ سرعت کوونکی کولی شي ټول کورس ودروي.
استنباط د دوکان مخ دی. ماډلونه چې دمخه روزل شوي، اوس پوښتنو ته ځوابونه ورکوي، انځورونه طبقه بندي کوي، متن تولیدوي. ځنډ مهم دی. د پیرودونکي سره نږدې یو څه زوړ سرعت کوونکی کولی شي د یوې وچې څخه لرې یو ښکلی سرعت مات کړي.
نو تاسو یو تقسیم ترلاسه کوئ. د روزنې کیمپسونه د ځواک، ځمکې او کثافت تعقیبوي. د استنباط ځایونه د ځنډ او شتون تعقیبوي. هایبرډ هالونه هم شتون لري، ځکه چې پانګه لامحدود نه ده. ښه - تل دوه ودانۍ نه وي. ځینې وختونه یو هال د مخمل رسۍ او دوه یخولو لوپونو سره.
دا هغه ځای هم دی چې یوځای کول، هایپر سکیل کیمپسونه، او آن پریم فورک. هایپر سکیلرونه په پیمانه جوړوي چې زموږ پاتې برخه داسې ښکاري چې موږ فرنیچر تنظیم کوو. کولوس د ریک لخوا کثافت پلوري. آن پریم لاهم هغه وخت پیښیږي کله چې معلومات نشي پریښودلی.
د ذخیره کولو وړتیا، پوستې، او وږي چپس
هیڅوک د بروشر په پوښ کې موازي فایل سیسټم نه اچوي.
د روزنې معلومات باید دومره ګړندي راشي چې GPUs خپل پښې نه وهي. پوستې باید ځمکې ته راشي ترڅو ټکر یوه اونۍ ضایع نه کړي. د ماډل وزنونه باید د خدمت کولو نقل ژوندي کیدو دمخه بار شي. د ذخیره کولو تروپټ - نه یوازې ظرفیت - خاموش خنډ دی. تاسو کولی شئ په سرعت کونکو باندې ډیره پانګونه وکړئ او د مجازی ماشینونو لپاره ډیزاین شوي د مهربان صف سره یې وږی کړئ.
دا نمونه اشنا ده: یو ځلیدونکی کلستر، د کار قطار، او I/O د یو بې ادبه رسید په څیر بیرته انتظار کوي. د معلوماتو لارې کلستر کولو پرته د کمپیوټ کلستر کول دا دی چې تاسو څنګه یو ډیر ګران بیکار ترلاسه کوئ. چپس تغذیه وساتئ یا دا ومنئ چې تاسو یو مجسمه اخیستې ده.
سافټویر، تنظیم، او بې خونده عملیاتي طبقه
هارډویر مشهور دی. مهالویش کونکي کار کوي.
د مصنوعي ذهانت د معلوماتو مرکز بې ګټې دی که چیرې دندې GPU ونه موندل شي، که چیرې دوه ټیمونه د لاس وهنې پرته کلستر شریک نه کړي، که چیرې ناکامه درجه بدله نشي، که چیرې فرم ویئر تر هغه وخته پورې حرکت وکړي چې ټوکر په ورو حرکت کې ناکام شي. تنظیم، مشاهده، د بریښنا محدودیت - د غیر ګلیمر عملیاتي طبقه، کوم چې تاسو پوهیږئ دا څنګه مهم دی.
زه د دې طبقې لپاره نرم ځای لرم. همدارنګه چیرې چې یو غلط تنظیم شوی NIC د بشپړ ماسپښین لپاره د یخولو ستونزې تقلید کوي ... تاسو دا په سخته لاره ومومئ.
کله چې یو نوډ د چلولو په مینځ کې مړ شي
یو نوډ مړ کیږي. د بدلون کړکۍ لاهم د روزنې منډو سره ټکر کوي چې ستاسو د کیلنڈر پروا نه کوي. تاسو لوی کارونه په ډله ایز ډول مهالویش کوئ، د انفرنس حوضونه بندوئ، د ناکامیو لپاره رن بوکونه لیکئ چې داسې ښکاري لکه "کار ورو دی" تر هغه چې دوی داسې ښکاري لکه "کار مړ دی". بې ځایه کیدل لاهم مهم دي - بریښنا، یخ کول، لارې، ذخیره کول - مګر د ناکامۍ حالت د اپټایم د زاړه نهو سلایډ په پرتله لږ پاک دی. انفرنس: نقل، ناروغ نوډ وچ کړئ، ځواب ورکولو ته دوام ورکړئ. روزنه پوستې غواړي، نه خوشبیني.
موقعیت، اوبه، شبکه، او ګاونډیان
تاسو د دې څخه یو هم د کوټې تر څنګ د لیدو لپاره مه پریږدئ.
د شبکې اتصال اکثرا د ساحې د انتخاب اصلي پروسه ده. ځمکه د سب سټیشن او یو داسې کارونې په پرتله اسانه ده چې نور پیرودونکي لري. د یخولو لپاره اوبه، که تاسو یې وکاروئ، نو د ګاونډي مسله کیږي کله چې باران بې رحمه وي. شور. بصري ډله. په سرحدي کټاره کې تودوخه. د پلان جوړونې کمیټې د "ورېځ" په اړه نظرونه هغه وخت کشف کوي کله چې دا یو ځمکې او سیند ته اړتیا ولري.
ځنډ بله لاره راښکاره کوي. انفرنس د کاروونکو او متقابلو اړیکو ته نږدې کیدل خوښوي. روزنه کولی شي په ارزانه بریښنا بازارونو او سړه هوا کې پټه شي. صنعت داسې خبرې کوي لکه څنګه چې یو بشپړ سایټ شتون لري. شتون نلري. د مطبوعاتي اعلامیې سره جوړجاړی شتون لري.
پاتې شوې تودوخه او بې بلنه بټۍ
بروشرونه دا برخه خوښوي. د کثافاتو تودوخه کورونو، حوضونو، شنو خونو ته واچوئ؛ دا یوه ښکلې جمله ده. ځینې وختونه د ولسوالۍ لوپ ریښتینی وي. ځینې وختونه کیمپس په غلط ځای کې وي او تودوخه لاهم هوا ته ځي. زه د بروشر نسخې په اړه شکمن یم؛ زه د فزیک په اړه شکمن نه یم.
څوک ورته اړتیا لري (او څوک باید پرځای یې کرایه کړي)
ډیری خلک اړتیا نلري چې د دې تالارونو څخه یو ولري.
بې بنسټه لیست:
-
هایپر سکیلرونه، ځکه چې محصول بیړۍ ده
-
لابراتوارونه، کله چې د قطار وخت خنډ وي، یا معلومات نشي وتلی
-
یو بانک، د روغتون ډله، حکومت، یا تولید کونکی چې پټ ډیټاسیټ لري - آن پریم یا شخصي کولو کیج منطقي کیدی شي، حتی که دا یو غلط وي
نور ټول باید کرایه کړي. د مصنوعي ذهانت لپاره چمتو کثافت سره یوځای کول. د بادل ریزرویشن. یو منظم کلستر. تاسو د بریښنا فابریکې چلونکي کیدو پرته سرعت کونکي ترلاسه کوئ. رومانس هغه وخت کمیږي کله چې لومړی ځل څوک پوښتنه کوي چې د سهار په 3 بجو د کولنټ لوپ لپاره څوک دی.
زه به دا ومنم چې د ویاړ خبره شته. د کلستر مالکیت د وړاندوینې د وسیلو د مالکیت په څیر احساس کوي. بیا د بریښنا بل راځي، او ویاړ کښیني.
ودانۍ د څه لپاره ده؟
نو، د AI ډیټا سنټر څه شی دی؟ یو ځانګړی، لوړ کثافت کیمپس چیرې چې سرعت کونکي، بریښنا، یخ کول، ټوکر، او ذخیره کول د روزنې او خدمت کولو ماډلونو شاوخوا تنظیم شوي - نه د عمومي هدف IT چې په کونج کې GPU لري. دا د ګودام په څیر ښکاري. دا د بریښنا سټیشن په څیر چلند کوي چې ریاضي کوي.
که تاسو بل څه په یاد نه لرئ: چپس شهرت ترلاسه کوي؛ سب سټیشن، کولنټ، او شبکه پریکړه کوي چې ایا دا چپس ښه نظر وو. روزنه او استنباط کولی شي چت شریک کړي؛ دوی لاهم مختلف چلندونه غواړي. ډیری سازمانونه باید کرایه کړي. یو څو باید جوړ کړي. ګاونډیان به په هر ډول خبر شي.
ورېځ تل یوه ودانۍ درلوده. په دې ورځو کې ودانۍ نظرونه لري.
د حقیقي نړۍ مثال: د دوه ریکونو روزنیز حجره کله چې انځورونه نشي وتلی
سناریو
ټوموس د کیسټریل پریسیشن په زیربنا کې مشر دی، چې په ویسټ میډلینډز کې د 400 کسانو تولیدونکی دی. دوی دمخه یو کوچنی آن پریم هال لري: ERP، د فایل شریکول، مجازی ماشینونه، هغه مخلوط ګاونډ چې دا مقاله ورسره پیل شوې. د هوا یخ کول. عادي ایترنیټ. یو SAN چې د دفتر ډیسکونو لپاره په بشپړ ډول مهربان دی.
د ماشین لید ټیم اړتیا لري چې د فابریکې سټیلونو په اړه د تفتیش ماډل وروزي. سټیلونه نشي کولی له سایټ څخه ووځي. دوی یوه پروسه ښیې چې شرکت به یې په کلاوډ ډیسک کې نه اچوي، حتی یو شخصي. د تدارکاتو حل څلور دوه ګونی سرعت لرونکي سرورونه او یو سلایډ دی چې سرلیک یې "زموږ د AI ډیټا مرکز" دی. سرورونه دوه موجوده ریکونو ته ځي، ځکه چې ځای شتون لري، او ځای د محدودیت په څیر احساس کیږي.
دا نه ده. د یوې اونۍ په اوږدو کې GPUs بوخت غږ کوي او بیا په خاموشۍ سره ګړندی کیږي. دندې هغه وخت ختل کیږي کله چې یوه پوسته SAN ته ورسیږي. یو نوډ په یوولسو بجو مړ کیږي او منډه یوازې ... ورکه شوې ده. توموس د چپس اخیستلو کې پاتې راغلی نه دی. هغه د پوسټ کوډ شریکولو لپاره د ګران کارځایونو ډیری پیرودلي دي. ودانۍ لاهم د سوداګرۍ تالار وه.
دوی کیمپس، نوي سب سټیشن، یا سیند ته اړتیا نلري. دوی یوې کوچنۍ حجرې ته اړتیا لري چې د کوچني مصنوعي ذهانت د معلوماتو مرکز په څیر چلند وکړي: بریښنا چې ریکونه یې په حقیقت کې ساتلی شي، تودوخه چې چپس پخولو پرته پریږدي، یو ټوکر چې د روزنې دنده یې خبرې کولی شي، ذخیره کول چې کولی شي چیک پوسټ ونیسي، او د نوډ د مړینې لپاره د رن بوک. ځکه چې انځورونه نشي کولی پریږدي، د څلویښت دقیقو لرې د کولو پنجرې کرایه کول ځواب نه دی. د دوو ریکونو بیا رغونه ده.
حجره څه ته اړتیا لري
-
په دې قطار کې د بریښنا اندازه شوې بودیجه، د PDUs څخه، نه د GPU د خوښې لیست څخه. که چیرې اضافي ظرفیت د روزنې بار کې څلور سرورونو ته خواړه ورنکړي، نو خبرې اترې هلته ودریږي او دوی یو ډیر کثافت ته ګوري، نه معجزه
-
د هوا د سړولو لپاره هیڅکله هم په دې کثافت کې د کارولو غوښتنه نه ده شوې: که چیرې تالار یې نیولی شي، د شا دروازې تودوخې تبادله کونکي، یا که چیرې دا یې پرځای اخیستلی شي، یو کوچنی مایع لوپ. که نه، سرورونه دننه نه ځي
-
د څلورو نوډونو ترمنځ یو وقف شوی لوړ بینډ ویت فابریکه، نه د دفتر ایترنیټ. که چیرې پلورونکی په کتلاګ کې یوازې 10 Gb سویچ ولري، دا کلستر نه دی
-
د پوستو او روزنیزو برخو لپاره محلي چټک ذخیره، نه د VM SAN
-
یو مهالویش کوونکی، د پوستې وقفه، او د بیا پیل کولو لیکل شوی لاره. هارډویر مشهور دی. دا طبقه دنده ده
-
د فابریکې د کرښې لپاره د کټارې لرونکی استنباط بکس، د روزنې له خبرو اترو څخه جلا، ځکه چې خدمت کول د لکۍ ځنډ او جلاوالی غواړي، نه ډله ایز
-
د بریښنا، GPU ساعتونو، د تروټل پیښو، او د دندې دیوال ساعت د ننوتلو اجازه. که دوی دا معاینه نشي کولی، دوی به د GPU عکسونه واخلي او سویچونه به له لاسه ورکړي
د لارښوونې بېلګه
توموس دا په تاسیساتو کې په لنډه توګه، په عادي ژبه بیانوي:
دې ته د مصنوعي ذهانت کمپس مه وایاست. په موجوده تالار کې د څلورو دوه ګوني سرعت لرونکو سرورونو لپاره د دوه ریکونو روزنیز حجره جوړه کړئ. د فابریکې انځورونه په سایټ کې پاتې دي. بریالیتوب دا دی: څلور نوډونه د تودوخې تروټل پرته د 12-epoch تفتیش روزنې ترکیب بشپړوي، په دقیقو کې یوه پوسته لیکي نه په لسګونو دقیقو کې، او کله چې موږ په قصدي ډول یو رتبه وژنو نو له هغه پوستې څخه بیا پیل کوو. یخ کول باید GPUs په خپلو روزنیزو ساعتونو کې وساتي. شبکه کول باید هغه ټوکر وي چې څلور بکسونه شریکوي، نه د دفتر سټیک له لارې لاره. ذخیره باید چپس تغذیه کړي. که چیرې د شا دروازې تودوخې تبادله کونکي مناسب نه وي، نو دا ووایاست او ودریږئ. په مخلوط تالار کې د دوو ریکونو لپاره د PUE حواله مه کوئ. دا شمیره به تیاتر وي.
بیا هغه دا پخپله د روزنې په دنده کې اچوي:
د پوستې ځای هر ۳۰ دقیقې وروسته د سیمه ییز چټک حوض ته ځي. که چیرې یو رتبه مړه شي، نو د وروستي بشپړ پوستې څخه بیا پیل وکړئ. په SAN کې انتظار مه کوئ. د تودوخې څخه د ساعتونو د راټیټیدو په وخت کې روزنه مه کوئ. ثبت یې کړئ او ودریږئ ترڅو موږ سټال وګورو.
یو ښه ساعت داسې ښکاري: ټول اته GPUs په روزنیزو ساعتونو کې، د پوستې فایل ښکته شوی، دنده لاهم په بند کې ده. یو بد ساعت داسې ښکاري: مینه وال په بشپړ ډول چیغې وهي، ساعتونه ښکته دي، د پوستې 2٪ د لسو دقیقو وروسته لیکل شوی، او په دفتر کې یو څوک وايي "کلستر پورته دی". پورته کیدل روزنه نه ده.
څنګه یې ازموینه وکړو
دوی د بیا رغونې څخه مخکې ازموینه لیکي، کوم چې په ډیمو باور نه کولو ټوله خبره ده.
-
هماغه ۱۲-دقیقې ترکیب، هماغه ۱۲۰،۰۰۰ تفتیشي انځورونه، اته منډې
-
وخت د بشپړ شوي ترکیب پورې دیوال ساعت دی، په شمول د هر ډول بیا پیل، د دندې سپارلو څخه د دورې 12 وروستۍ پوستې پورې اندازه کیږي
-
د تودوخې پاس: د GPU ساعتونه د منډې لپاره د روزنې هدف کې پاتې کیږي. د تروټل پیښه یوه ناکامي ده حتی که کار په پای کې پای ته ورسیږي
-
د ذخیره کولو پاس: د پوستې د لیکلو وخت، منځنی او بدترین، د دندې لاګ څخه
-
د ټوکر په اړه پاس: کار په ډله ایز انتظار کې نه ناست وي پداسې حال کې چې رتبه ښه وي. که دوی دا انتظار ونه ګوري، نو وسیله نه ترسره کیږي
-
د اتو منډو څخه دوه یې په قصدي ډول د بیا پیل کولو لارې ازموینې لپاره په یوه ټاکلي ګام کې رتبه وژني
-
انفرنس د فابریکې له کرښې څخه تر کټارې شوي خدمت کولو بکس پورې د 200 انځورونو جلا ازموینه ده. د روزنې بریالیتوب د خدمت کولو بریالیتوب په توګه نه شمیرل کیږي
-
دوی د PDUs څخه د ریک بریښنا په 15 دقیقو نمونو کې ثبتوي نو هیڅوک باید میګاواټ اختراع نه کړي
د حجرې "AI-ready" ویلو لپاره منل: د 8 ترکیبونو څخه 8 پای ته رسیدلي؛ له 8 څخه 0 د تودوخې تروټل ښیې؛ دواړه وژل شوي منډې بیا پیل کیږي؛ پوستې په دقیقو کې پاتې کیږي. که دوی دا له لاسه ورکړي، دوی لاهم د فینسي ګرافیک کارتونو سره د سرور خونه لري.
پایله
د یوې جوړې شوې اتو منډو ازموینې څخه یوه بیلګه ییزه پایله، نه د کیسټریل خپره شوې شمېره.
فرضیې: په دوو ریکونو کې څلور دوه ګونی سرعت لرونکي سرورونه؛ د تفتیش یو ماډل؛ ۱۲۰،۰۰۰ سټیلونه؛ د ثابت ۱۲-ایپوچ ترکیب اته منډې؛ دیوال ساعت کې د ترکیب پای ته رسیدو پورې بیا پیلونه شامل دي؛ تروټل د روزنې ساعت څخه د ننوتلو ډراپ معنی لري؛ د پوستې وخت لیکل دي، نه هیله؛ د ریک ځواک د PDU نمونې دي، نه د کیمپس PUE.
د بیا رغونې څخه مخکې، د دفتر ایترنیټ او VM SAN په عادي هوا یخ شوي ریکونو کې GPUs:
-
د اتو منډو څخه پنځه یې په لومړۍ هڅه کې پای ته ورسېدې. د دې پنځو منډو په منځ کې د دیوال ساعت منځنۍ برخه: ۱۴ ساعته
-
له اتو څخه درې یې باید د یوولسم ساعت په شاوخوا کې د یو تمځای وروسته بیا پیل وکړي (دوه وروسته له هغه چې یو نوډ د زاړه پوستې سره مړ شو، یو وروسته له هغه چې یوه پوستې د SAN ډکه کړه). سمدستي بیا هڅه وکړئ، په ساعت کې د شپې انتظار نشته: ۱۱ ساعته ضایع شوي جمع د ۱۴ ساعتونو دوهمه هڅه، یا په دې دریو کې د بشپړ شوي ترکیب لپاره ۲۵ ساعته
-
په ټولو اتو کې د بشپړ شوي ترکیب لپاره اوسط وخت، بیا پیلونه پکې شامل دي: 18 ساعته. (په 14 کې پنځه، په 25 کې درې. د ټولو اتو منځنی لاهم 14 دی، کوم چې به بیا پیلونه پټ کړي. له همدې امله اوسط دلته اساس دی.)
-
د تودوخې تروتل له 8 څخه 7 منډې جوړې شوې. په کم شوي ساعت کې منځنۍ وخت: په 14 ساعتونو هڅه کې 3 ساعته
-
د پوستې لیکل: منځنۍ ۲۲ دقیقې
-
د رتبې وژل هغه ازموینه نه وه چې دوی یې پاس کولی شي. دوی د رن بک نه درلود. دوه ناڅاپي مړینې موندنه وه
-
د روزنې په جریان کې په دوو ریکونو کې د معلوماتي ټکنالوژۍ اعظمي بار: شاوخوا ۱۸ کیلو واټ. قطار واټونه درلودل. دا یخولو یا ټوکر نه درلود
په دغو دوو ریکونو کې د شا دروازې د تودوخې تبادلې کونکو وروسته، د څلورو نوډونو ترمنځ یو وقف شوی ټوکر، د چیک پوائنټونو لپاره یو کوچنی NVMe حوض، د 30 دقیقو چیک پوائنټینګ، او د بیا پیل کولو رن بوک:
-
په لومړۍ هڅه کې له 8 څخه 8 بشپړ شول. منځنۍ دیوال ساعت: 9 ساعته
-
د تودوخې تروتل: ۰ له ۸ څخه
-
د پوستې لیکل: منځنۍ ۹۰ ثانیې. په سیټ کې تر ټولو بد: ۳ دقیقې
-
دوه قصدي رتبې وژنې دواړه د وروستي 30 دقیقو پوستې څخه بیا پیل شوې. په دې دوو منډو کې اضافي دیوال ساعت: شاوخوا 40 دقیقې هر یو، تشخیص پکې شامل و، نو دا دوه نږدې 9 ساعته 40 دقیقې ناست وو. په اوسط ډول د اتو لاهم پړاوونو څخه تر 9 ساعتونو پورې
-
د معلوماتي ټکنالوژۍ لوړ بار لاهم شاوخوا ۱۸ کیلو واټه دی. ورته چپس. د ودانۍ مختلف چلند
په دې نمونه کې، د بشپړ شوي ترکیب لپاره اوسط وخت له ۱۸ ساعتونو څخه ۹ ساعتونو ته راټیټ شو، یا هر یو ۹ ساعته، د اتو منډو په اوږدو کې ۷۲ ساعته. د لومړي ځل بشپړ شوی وخت له ۵ څخه ۸ ته ورسید. تروټل له ۷ څخه ۸ ته ۰ ته ورسید. دا وروستۍ شمیره هغه ده چې وايي چې دوی سرعت کونکي یا کاغذي وزنونه اخیستي دي. دوی به د وخت بدلون ته په تولید کې ۵۰٪ سپما ونه بولي. اته منډې یو کوچنی، اسانه سیټ دی.
دا ارقام د بیان شوي ازموینې، یوې کوچنۍ نمونې، یوې ماډل، او یوې مخلوط تالار پر بنسټ د مثال اټکل دی. دوی نه PUE دي، نه د کیمپس میګاواټ، او نه هم د دې ثبوت دی چې کیسټریل باید په یوه ساحه کې د روزنې ځای جوړ کړي. د لاګونو بیاکتنه د 9 ساعتونو دننه وه؛ دوی دا پټ نه کړ. د 18 کیلو واټ ارقام د PDU ګرد لوستل دي، نه د کارونې بل. دوی 72 ساعته په لګښت بدل نه کړل، ځکه چې د فابریکې د مخلوط بریښنا نرخ به جعلي سوداګریز قضیه جوړه کړې وي.
د خدمت کولو چک جلا او کوچنی و: د کټارې بکس ته د 200 کرښې انځورونه، ټول په سایټ کې. دا استنباط دی، نه روزنه. د دواړو مخلوط کول به په کوچني کې د هایبرډ هال تېروتنه وه.
څه شی غلط کیدی شي؟
-
تدارکات څلور سرورونه "د مصنوعي ذهانت معلوماتو مرکز" بولي. لیبل د نل لیکې پټوي، او راتلونکی پیرود د ورته ناروغې لارې لپاره ډیر GPUs دي
-
د شا دروازې تبادلې کونکي دننه ځي او هیڅوک د اوبو اړخ ته نه ځي. مینه وال لاهم چیغې وهي. ساعتونه لاهم ښکته کیږي
-
ټوکر یو واحد سویچ دی چې هیڅ اضافي لاره نلري. یو ناکام لینک او "کلستر" بیا څلور کاري سټیشنونه دي
-
پوستې په SAN کې پاتې دي ځکه چې د NVMe حوض "دوهم پړاو" و. دوهم پړاو د بل مړ نوډ څخه مخکې نه راځي
-
دوی په مخلوط تالار کې د دوو ریکونو لپاره یو PUE حواله کوي. اقلیم، سرحد، او د ERP قطار پاتې برخه دا تناسب یو لباس جوړوي
-
روزنه او خدمت کول ټوکر شریکوي. د پوستې سیلاب د فابریکې لیکه انتظار ته اړ باسي. د لکۍ ځنډ هلته محصول دی، نه کثافت
-
یو نوډ مړ کیږي او یو څوک یې د پوستې د بیا پیلولو پر ځای د اپټایم ټکټ په توګه کاروي. د انټرپرایز عملیات او د AI عملیات د بشپړ ماسپښین لپاره د یو بل څخه تیریږي
-
دوی کولی شي پنجره کرایه کړي، پرته لدې چې انځورونه یې نشي پریښودلی. د دې محدودیت هیرول دوی د ورېځ خبرو اترو ته لیږي دوی به آرام شي
عملي لاره
هغه څه چې د AI ډیټا سنټر دی، په دې شکل کې، ګودام نه دی او دا د GPU انوائس نه دی. دا هغه حجره ده چې سرعت ورکوونکو ته اجازه ورکوي چې چل بشپړ کړي: هغه ځواک چې دوی یې ساتلی شي، هغه تودوخه چې پریږدي، یو ټوکر، یوه پوسته، او یو څوک چې په هک کې وي کله چې رتبه مړه شي. کیسټریل کیمپس ته اړتیا نه درلوده. دوی د درغلۍ د بندولو لپاره دوه ریکونو ته اړتیا درلوده. ډیری ټیمونه باید دا چلند کرایه کړي. یو څو، د پټ ډیټاسیټ او یو تالار سره چې تودوخه اخیستلی شي، باید یو حجره جوړه کړي او سلایډ رد کړي.
پرله پسې پوښتنې
د مصنوعي ذهانت (AI) معلوماتي مرکز څه شی دی؟
د لوړ کثافت کمپیوټر سایټ چیرې چې بریښنا، یخ کول، شبکه کول، او ذخیره کول د موازي روزنې او ماډل خدمت کولو شاوخوا تاو شوي دي، نه د عمومي هدف سرورونو پاک قطارونه. دا ډیزاین شوی ترڅو لوی شمیر سرعت کونکي وکولی شي ماډلونه وروزي او خدمت وکړي پرته له دې چې له مینځه لاړ شي، په شبکه کې ودریږي، یا په ډیسک کې انتظار وکړي. یو عادي تصدۍ هال یو مخلوط ګاونډ دی. د AI هال یو مونوکلچر دی چې د ارزښت واحد یې سرعت کونکی دی، لکه GPUs یا TPU سټایل چپس. دا د ګودام په څیر ښکاري او د بریښنا سټیشن په څیر چلند کوي چې ریاضي کوي.
د مصنوعي ذهانت (AI) ډیټا سنټر د عادي ډیټا سنټر څخه څنګه توپیر لري؟
دودیز تالارونه د ډیری کوچنیو خدماتو لپاره د ګډ کاري بارونو او اپټایم لپاره غوره کوي. د AI سایټونه تناسب بدلوي: کثافت لوړیږي، شبکه یو داسې ټوکر کیږي چې د روزنې دنده پرته له هغې څخه سست نشي کیدی، او ذخیره باید د پوستې حرکت وساتي یا سرعت کونکي بې کاره ناست وي. د سوداګرۍ عملیات په ټکټونو کې فکر کوي او کړکۍ بدلوي. AI عملیات د دندې په کتارونو کې فکر کوي او کله چې یو نوډ په اوږد مهال کې ناوخته مړ شي نو ناروغ احساس کوي. تاسو لاهم کولی شئ دواړه ډیټا مرکزونو ته زنګ ووهئ. لیبل یوازې نل لیکه پټوي.
ولې د مصنوعي ذهانت معلوماتي مرکزونه دومره برېښنا کاروي؟
د پام وړ هارډویر یو هوښیار CPU نه دی. دا د سرعت ټری دی: GPUs یا نور AI چپس، په سرورونو کې بسته شوي، بیا ریکونه، بیا قطارونه چې د لوړ بینډ ویت پارچه شریکوي. په هر ریک کې کثافت د پلاټ ټویست دی: لږ ریکونه، هر یو یو کوچنی فرنس. د معلوماتي ټیکنالوژۍ میګاواټه بار هغه وخت څرګندیږي کله چې یو تالار ډک شي، که څه هم د یو عادي ارقام اختراع کول د ارزښت وړ ندي. محدودونکی فکتور اکثرا سب سټیشن وي، نه د GPUs د غوښتنې لیست.
د مصنوعي ذهانت معلوماتي مرکزونه څنګه سړېږي؟
د لوړ کثافت ریکونه تودوخه په داسې ډول اچوي چې هوا هیڅکله د اداره کولو غوښتنه نه وه شوې. تاسو کولی شئ د شا دروازې تودوخې تبادلې کونکو، ګرمو لارو، او هوښیار کنټرول سره هوا سخته فشار ورکړئ. بیا مایع ښکاره کیږي: مستقیم-to-chip یخ کول، د کولنټ لوپونه، او په څو ډیزاینونو کې ډوبیدل. یو سرعت کوونکی چې تروټل کوي هغه یو دی چې تاسو دمخه یې پیسې ورکړې او په بشپړ ډول یې نشئ کارولی. PUE لاهم مهم دی ځکه چې په فینونو او پمپونو کې مصرف شوی هر واټ یو واټ دی چې GPU ته نه دی تللی. اوبه هم په کیسه کې ناست دي: ځینې نباتات څښي، ځینې یې څښي.
ولې شبکه کول د GPUs په څیر مهم دي؟
روزنه یوه خبرې اترې ده: په زرګونو سرعت کونکي د یو ماډل د تدریجي، پیرامیټرو او ټوټو تبادله په کلکه همغږي کې کوي. که چیرې ټوکر ټکان وکړي، نو ټوله دنده په ورو ورو هپ کې انتظار کوي. له همدې امله د مصنوعي ذهانت هالونه د لوړ بینډ ویت شبکې، ټیټ ځنډ، د انفیني بانډ په څیر ټوکرونو یا ایترنیټ په ورته رول کې، او هغه ټوپولوژیو ته لیوالتیا لري چې کله لینک ناکام شي نو نیمایي نه پوښي. انفرنس د لکۍ ځنډ، ډیری کوچنیو غوښتنو، او جلاوالي په اړه پاملرنه کوي. پدې ودانۍ کې نل ورکول رستورانت دی.
د مصنوعي ذهانت د معلوماتو مرکز د څه لپاره کارول کیږي: روزنه یا استنباط؟
روزنه یو کمپاین دی: یو کلستر راټول کړئ، معلومات یې ورکړئ، په مذهبي توګه یې وګورئ، او د ساعتونو یا اونیو لپاره یې وګرځئ. انفرنس یو دوکان دی: ماډلونه چې دمخه روزل شوي، اوس ځواب ورکوي، د ځنډ سره چې مهم دي. د روزنې کیمپسونه ځواک، ځمکه، او کثافت تعقیبوي. د انفرنس سایټونه د ځنډ او شتون تعقیبوي. هایبرډ هالونه شتون لري ځکه چې پانګه لامحدود نه ده، ځینې وختونه یو هال د دوه یخولو لوپونو سره. د پیرودونکي سره نږدې یو څه زوړ سرعت کوونکی کولی شي یو براعظم لرې یو ګلیمرس ته ماتې ورکړي.
ولې د مصنوعي ذخیرې په معلوماتو مرکز کې ذخیره کول مهم دي؟
د روزنې معلومات باید دومره ګړندي راشي چې GPUs خپل پښې نه وهي. پوستې باید ځمکې ته راشي ترڅو ټکر یوه اونۍ ضایع نه کړي. د ماډل وزنونه باید د خدمت کولو نقل ژوندي کیدو دمخه بار شي. د ذخیره کولو تروپټ، نه یوازې ظرفیت، خاموش خنډ دی. تاسو کولی شئ په سرعت کونکو باندې ډیره پانګونه وکړئ او د مجازی ماشینونو لپاره ډیزاین شوي د مهربان صف سره یې وږی کړئ.
څه پیښیږي کله چې یو نوډ د چلولو په مینځ کې مړ شي؟
په یوه کلک ډول تړل شوي روزنیز کار کې یو مړ سرعت کوونکی کولی شي ټول کورس ودروي. روزنه د پوستې نقطې غواړي، نه خوشبیني. انفرنس ناروغ نوډ وچوي، د ځواب ورکولو نقل ساتي، او ژوندی پاتې کیږي. د بدلون کړکۍ لاهم د روزنې منډو سره ټکر کوي چې ستاسو د کیلنڈر پروا نه کوي. بې ځایه کیدل لاهم د بریښنا، یخولو، لارو او ذخیره کولو لپاره مهم دي، مګر د ناکامۍ حالت د زاړه نهو اپ ټایم سلایډ په پرتله لږ پاک دی.
د AI ډیټا سنټر اغیزه په گرډ، اوبو او ګاونډیو څه ده؟
د شبکې اتصال اکثرا د سایټ د انتخاب اصلي پروسه ده. ځمکه د سب سټیشن او یو داسې یوټیلټي په پرتله اسانه ده چې نور پیرودونکي لري. د یخولو لپاره اوبه، که تاسو یې وکاروئ، نو د ګاونډي مسله کیږي کله چې باران بې رحمه وي، د شور، لید حجم، او تودوخې سره په سرحد کې. روزنه کولی شي په ارزانه بریښنا بازارونو او سړه اقلیم کې پټ شي. انفرنس د کاروونکو سره نږدې کیدل خوښوي. هیڅ یو بشپړ سایټ شتون نلري. د مطبوعاتي اعلامیې سره جوړجاړی شتون لري.
ایا زه د مصنوعي ذهانت د معلوماتو مرکز درلودلو ته اړتیا لرم، یا باید کرایه یې کړم؟
ډیری خلک اړتیا نلري چې د دې هالونو څخه یو ولري. هایپر سکیلرونه جوړوي ځکه چې محصول بیړۍ ده. لابراتوارونه هغه وخت جوړوي کله چې د قطار وخت خنډ وي یا معلومات نشي پریښودلی. یو بانک، روغتون، حکومت، یا تولید کونکی چې پټ ډیټاسیټ لري کولی شي پریم یا شخصي کولو کیج منطقي کړي. نور هرڅوک باید کرایه کړي: د AI چمتو کولو ځای، د کلاوډ ریزرویشن، یا یو اداره شوی کلستر. تاسو د بریښنا فابریکې چلونکي کیدو پرته سرعت کونکي ترلاسه کوئ.
ماخذونه
-
د آی ای اې - www.iea.org
-
LBNL - datacenters.lbl.gov
-
شنه شبکه - www.thegreengrid.org
-
LBNL - datacenters.lbl.gov
-
LBNL - datacenters.lbl.gov
-
د اپټایم انسټیټیوټ - journal.uptimeinstitute.com
-
NVIDIA - developer.nvidia.com
-
NVIDIA - docs.nvidia.com
-
NVIDIA - docs.nvidia.com
-
NVIDIA - docs.nvidia.com
-
ګوګل کلاوډ - docs.cloud.google.com