هواوی OceanStor M900 را معرفی کرده است که یک خوشه ذخیره سازی کامل و مقیاس پذیر است که تا 64 PB KV سطح پایه کش را برای Atlas 960 SuperPoD ارائه می دهد.شتاب دهنده های هوش مصنوعی در مقیاس قفسه ای قابل مقایسه با SuperPOD های Nvidia.
Nvidia یک طراحی مرجع را تعریف کرده است که یکپارچه سازی GPU، BlueField NIC، سوئیچ های Spectrum-X و نرم افزار هوش مصنوعی را با سیستم های ذخیره سازی، پشتیبانی از GPUDirect، RDMA،و KV کش گسترش از طریق نرم افزار دینامو و طرح CMXاین معماری چند لایه ای از حافظه پهنای باند بالا GPU (HBM) به عنوان سریع ترین سطح بالا استفاده می کند، و در پی آن سرورهای مرتبط X86 (DRAM) به عنوان سطح 2، و SSD های محلی سرور به عنوان L3،و SSD های هوشمند NVMe متصل به BlueField-4 NIC در یک سرور ذخیره سازی فلش که به عنوان L3 عمل می کند.5. این می تواند به HBM GPU در یک hop شبکه با تاخیر کلاس میکروسکنید برسد.
هواوی در حال حاضر طراحی SuperPOD Nvidia را با SuperPoD های خود که برای مراکز داده های هوش مصنوعی در مقیاس بالا ساخته شده است، به چالش می کشد.به این معنی که یک حافظه سرعت بخش واحد با پهنای باند بالا نمی تواند تمام توکن های مورد نیاز را نگه دارد.، که نیاز به مکانیسم کش کردن دارد.
شرکت می گوید که یک Atlas 960E SuperPoD می تواند تا ۴۰۹۶ NPU ( واحدهای پردازش عصبی) مقیاس بندی شود، که ۸ EFLOPS از عملکرد محاسباتی FP8 را ارائه می دهد،تا 1 پتا بایت ظرفیت HBM و 256 TB یکپارچه حافظهاستفاده از 5500 واحد Hi-ONE مجهز به UnifiedBus (NPO) مصرف برق را بیش از 550 کیلووات در مقایسه با 48000 ماژول نوری 800G که به طور سنتی برای اتصال همه NPU ها مورد نیاز است کاهش می دهد.همچنین زمان کار بدون خطا سیستم را دو برابر می کند و به 99.8 درصد سیستم در دسترس است
هواوی OceanStor M900
SuperPoD یک چارچوب ذخیره سازی KV چند سطحی را اتخاذ می کند که در آن M900 ذخیره سازی KV در مقیاس پتابایت را برای لایه L3.5 فراهم می کند. هر خوشه تا 4 PB L3 مشترک را ارائه می دهد.ظرفیت حافظه حافظه 5 کیلوولت و عرض باند 40 TB/ ثانیه در شبکه های نوری برای این سطحهواوی ادعا می کند که تحت بار کار انتخابی AI معمولی،این معماری سرعت انتقال توکن کلاستر استنباط را دو برابر می کند و زمان اولین توکن (TTFT) را به نصف کاهش می دهد..
این شرکت اشاره می کند که پهنای باند 40 TB / ثانیه 1.5 برابر بیشتر از راه حل های رقابتی است، بدون نامگذاری صریح فروشندگان.سیستم های داده MinIO و VAST که پهنای باند خوشه ای بین 10 و 25 TB/ ثانیه دارند.
M900 دارای طراحی یکپارچه ای است که ترکیب CPU، کنترل کننده شبکه و کنترل کننده NAND را در یک واحد ترکیب می کند، که این امکان را برای NPU های SuperPoD فراهم می کند تا یک پیوند مستقیم و یک هپ را به SSD ها ایجاد کنند.این باعث کاهش تاخیر دسترسی از میلی ثانیه به حدود 60 میکرو ثانیه می شود.
دیوید وانگ، معاون رییس هیئت مدیره و رئیس دایره ای هواوی گفت: "OceanStor M900 همچنین از رسانه های ترکیبی و یک الگوریتم ذخیره سازی بهینه شده استفاده می کند و طول عمر خواندن / نوشتن SSD را 16 برابر افزایش می دهد.این امر باعث می شود که نرخ موفقیت KV cache بالاتر در کنار ثبات طولانی مدت و قابلیت اطمینان از ابتدا تضمین شود..
در جزئیات بیشتر، هواوی می گوید که M900 دارای فناوری ذخیره سازی سازگار KV است که طول عمر و ارزش انتظار هر بخش از داده های KV را پیش بینی می کند. بر اساس این پیش بینی ها،برنامه ریزی و توزیع داده ها در سطوح مختلف رسانههواوی می گوید این استراتژی بهینه سازی شده قرار دادن و نگهداری SSD ها را قادر می سازد تا 24 بار در روز درایو بنویسند (DWPD) ، که رقم قابل توجهی است.و 16 برابر مقاومت اس اس دی رو افزایش میده، پشتیبانی از سه سال عملیات پایدار با جایگزینی کمتر درایو.
هنوز برای هواوی خیلی زوده که ورق های اطلاعات M900 و اطلاعات فنی رو منتشر کنه پس جزئیات مثل اندازه ی واحد گره ی گره، کنترل کننده ها، مقدار درایو و ظرفیتتعداد گره های خوشه ای و سایر مشخصات هنوز در دسترس نیستند.
NPU یادداشت زیر
NPU ها واحدهای پردازش عصبی Huawei Ascend هستند که Huawei می گوید، به طور بومی برای هوش مصنوعی ساخته شده اند (بر خلاف GPU هایی که به عنوان تراشه های گرافیکی ایجاد شده اند).آنها معماری دا وینچی هواوی را با هسته های مکعب (ماتریکس) و هسته های وکتور اتخاذ می کنند، و از فرمت های دقت پایین از جمله FP8 و FP4 برای تسریع نتیجه گیری و آموزش برای مدل های بزرگ پشتیبانی می کند. هنگامی که به سیستم های عظیم از طریق اتصال تمام نوری UnifiedBus Huawei جمع آوری می شود،آنها می توانند به هزاران یا حتی صدها هزار NPU که به عنوان یک ماشین منطقی کار می کنند مقیاس پذیر شوندعرضه های اخیر مانند اطلس 350 (با استفاده از Ascend 950PR) و آتلاس 960 SuperPoDs آینده به عنوان جایگزین GPU های Nvidia در بازار چین قرار دارند.
شرکت فناوری چینجینگ جیوتونگ پکن، لمیتد
سندي يانگ، مدير استراتژي جهاني
واتساپ / وی چت: +86 13426366826
ایمیل: yangyd@qianxingdata.com
وب سایت: www.qianxingdata.com/www.storagesserver.com
تمرکز کسب و کار:
توزیع محصولات ICT / ادغام سیستم و خدمات / راه حل های زیرساخت
با 20+ سال تجربه توزیع فناوری اطلاعات، ما با مارک های پیشرو جهانی همکاری می کنیم تا محصولات قابل اعتماد و خدمات حرفه ای را ارائه دهیم.
استفاده از تکنولوژی برای ساختن یک جهان هوشمند، ارائه دهنده خدمات قابل اعتماد محصولات ICT شما
پیام شما باید بین 20 تا 3000 کاراکتر باشد!
Persian
