اخبار شرکت Panmnesia و Meta دیدگاه مبتنی بر تراشه واحد و مبتنی بر CXL را برای مراکز داده هوش مصنوعی اتخاذ می‌کنند

پمنزیا، تامین کننده فناوری Meta و CXL، می گوید مراکز داده های هوش مصنوعی باید به عنوان یک منبع پردازش هماهنگ دیده شوند، نه به عنوان مجموعه ای از سرورهای مستقل.

مرکز داده های هوش مصنوعی باید یک منبع به شدت متصل باشد، با یک دامنه منسجم واحد، مانند یک تراشه CPU. این متفاوت از مراکز داده های موجود است، به طور گسسته متصل، درخواست محور،که دامنه های منسجمتی زیادی دارند. مراکز داده هوش مصنوعی می توانند یک کار واحد را در صدها، حتی هزاران، GPU اجرا کنند، تقریبا شبیه به یک بار کار محاسباتی با عملکرد بالا که شامل هسته های پردازنده هماهنگ شده است،حافظه و پیوندهای شبکه.

پانمنیزیا و متا به طور مشترک یک معماری مرکز داده هوش مصنوعی نسل بعدی مانند این را پیشنهاد کرده اند، که در آن مرکز داده مانند یک تراشه واحد عمل می کند.مجله ی Nature Portfolio.

ميونگ سو جونگ
میونگ سو جونگ، مدیر عامل پانمنزیا گفت: “با افزایش سیستم های هوش مصنوعی،توانایی اتصال تعداد زیادی از شتاب دهنده ها و دستگاه های حافظه به سرعت و به طور موثر به همان اندازه عملکرد شتاب دهنده های فردی مهم استاین تحقیق جهت زیرساخت های نسل بعدی هوش مصنوعی را مشخص می کند، جایی که CXL امکان می دهد کل مرکز داده به عنوان یک سیستم محاسباتی واحد عمل کند.

اجزای روی یک تراشه پردازش، هسته ها و غیره طراحی و قرار داده شده اند تا آنها مسیرهای پیوند یکنواخت در یک دامنه انسجام واحد داشته باشند و کار خود را در یک زمان مشخص انجام دهند،راه هماهنگ و کنترل شدهدر مقابل، مراکز داده های موجود دارای پردازنده های سرور و ذخیره سازی در قفسه های قفسه با لینک های شبکه و سوئیچ های درون قفسه و بین قفسه هستند.هیچ ساختار کنترل وجود ندارد تا پردازش سرور هماهنگ شود.

مرکز اطلاعات شبیه تراشه
پانمنیزیا می گوید: در مراکز داده های فعلی، شتاب دهنده های داخل یک قفسه با اتصال سریع به مقیاس بالا متصل می شوند.در حالی که اتصالات خارج از قفسه و اتصالات به دستگاه های غیر از شتاب دهنده بستگی به شبکه های آهسته تر است.اندازه گیری این محیط ها نشان می دهد که توزیع تاخیر بسیار زیاد است، با تاخیر 99th-percentile دور و برگشت تقریبا پنج برابر متوسط. این چیزی است که کار کلی را متوقف می کند،و هرچه دستگاه های بیشتری در این کار شرکت کنند، هرچه بیشتر و شدیدتر رخ دهد.

برای اینکه یک مرکز داده هوش مصنوعی به طور کارآمد و سریع کار کند، نیاز به کنترل و هماهنگی هم در ریک و هم بین ریک های GPU، حافظه و ذخیره آنها وجود دارد.,می گوید، کاهش تغییرات تاخیر بین دستگاه ها به طوری که مرکز داده به عنوان یک کل رفتار قابل پیش بینی به اندازه بهبود عملکرد دستگاه های فردی یا سرعت پیوند مهم است.

Panmnesia LAU
متا و پانمنیزیا پیشنهاد می کنند که CXL به عنوان پایه برای این کار استفاده شود، با مفاهیم جدید که آن را قادر می سازد در سطح چند GPU-rack کار کند.CXL گسترش یافته هماهنگی کش را بین قفسه های شتاب دهنده در طرح آنها فراهم می کند، پشتیبانی از تعداد بیشتری از دستگاه ها نسبت به Nvidia's rack-scale، NVLink مبتنی بر GB200 NVL72 و UALink.

این قانون قوانین اساسی برای پیوستن دستگاه ها به یکدیگر را تعریف می کند اما مسیر داده و تاخیر را نمی داند. آنها سه عنصر سخت افزاری اختصاصی را برای کاهش و محدود کردن تغییرات تاخیر پیشنهاد می کنند:
سوئیچ غیر مسدود کننده با فن بالا: چندین دستگاه را همزمان متصل می کند، تعداد hop ها را کاهش می دهد و طول مسیر را صرف نظر از منبع یکسان نگه می دارد.
واحد شتاب پیوند (LAU): پردازش پروتکل تکراری را در هر نقطه اتصال به یک خط لوله سخت افزاری اختصاصی منتقل می کند، رفتار سطح هپ را منظم تر می کند و تغییرات تاخیر را محدود می کند.
کنترل کننده پارچه: سیاست سفارش یکسان را برای رسیدگی به درخواست ها در کل سیستم اعمال می کند، به طوری که تراکنش ها بدون توجه به دستگاهی که از آن عبور می کنند، به طور مداوم پردازش می شوند.

Panmnesia فان بلند و غیر مسدود کننده
کنترل کننده پارچه (یک کنترل کننده ترکیبی CXL / PCIe) و LAU اعتباربخشی سیلیکون را تکمیل کرده اند و سوئیچ پارچه به عنوان یک تراشه سیلیکون فیزیکی ساخته شده است.با سیلیکون قبل از آزاد شدن که در حال حاضر عرضه می شوداین نشان می دهد که معماری پیشنهادی در سطح سیلیکون قابل تولید است.

معماری آن ها CPU ها، شتاب دهنده ها، حافظه ها و سوئیچ ها را بر اساس عملکرد به سینی ها، سینی ها را به سینی ها،و پوسته ها را از طریق یک پارچه متصل می کند یک سلسله مراتب معمولی از پارچه طراحی شده برای حفظ hop ثابت، مسیرهای ارتباطی سازگارتر و زمان بندی.

کنترل کننده پارچه پانمنیزیا
در مقایسه با طراحی Nvidia، که در آن یک CPU به دو شتاب دهنده از طریق NVLink-C2C متصل می شود، فضای داخلی قفسه توسط NVLink متصل می شود،و سرورها و قفسه ها توسط یک شبکه مقیاس پذیر مانند اترنت یا InfiniBand متصل می شوند، طرح آنها:
یک افزایش 8 برابر در شتاب دهنده های به طور مستقیم توسط یک CPU هماهنگ فراهم می کند؛ از 2 به 16
این امکان را به 960 شتاب دهنده می دهد تا در یک دامنه هماهنگی کار کنند.
تاخیر دسترسی به داده ها را از سطح مایکرو ثانیه به چند صد نانوس ثانیه کاهش می دهد؛ تقریبا یک درجه پایین تر،
واحد جایگزینی خرابی به جای یک سرور تبدیل به یک دستگاه معیوب می شود.جدا کردن منابع بر اساس نوع اجازه می دهد تا سیستم فقط دستگاه های معیوب را به جای یک سرور کامل جایگزین کند، اجتناب از هدر رفتن منابع و توقف طولانی مدت عملیات.

پانمنیزیا قبلا اجزای اصلی معماری را در سیلیکون پیاده سازی کرده است، اعتبارسنجی را تکمیل کرده است و در حال حاضر آنها را برای عرضه تجاری آماده می کند.پیشرفت های آینده به دنبال اتصال بین المللی نوری برای افزایش سرعت و مقیاس پذیری است.

یادداشتی
مرجع مقاله NREE در دسترس است.

شرکت فناوری چینجینگ جیوتونگ پکن، لمیتد
سندي يانگ، مدير استراتژي جهاني
واتساپ / وی چت: +86 13426366826
ایمیل: yangyd@qianxingdata.com
وب سایت: www.qianxingdata.com/www.storagesserver.com
تمرکز کسب و کار:
توزیع محصولات ICT / ادغام سیستم و خدمات / راه حل های زیرساخت
با 20+ سال تجربه توزیع فناوری اطلاعات، ما با مارک های پیشرو جهانی همکاری می کنیم تا محصولات قابل اعتماد و خدمات حرفه ای را ارائه دهیم.
استفاده از تکنولوژی برای ساختن یک جهان هوشمند، ارائه دهنده خدمات قابل اعتماد محصولات ICT شما