MLPerf Storage نسخه 3.0 یک لایه داده S3 را به چارچوب POSIX موجود، در کنار بارهای کاری جدید KV Cache و پایگاه داده برداری اضافه می کند، که معیارهای معیار را با الزامات سیستم داده هوش مصنوعی مدرن همراستا می کند.
بنچمارک MLPerf Storage که توسط MLCommons توسعه داده شد، ابتدا عملکرد ذخیره سازی را برای بارهای آموزشی یادگیری ماشین از جمله Unet3D، Cosmoflow و Resnet50، با استفاده از سخت افزار NVIDIA A100 و H100 GPU ارزیابی کرد. نسخه نسخه 3.0 دارای یک بازسازی آزمایشی جامع است که بر چهار سناریو اصلی بار کاری متمرکز است.
چارچوب آزمایشی به روز شده شامل آموزش هوش مصنوعی مبتنی بر Unet3D و RetinaNet است که حداکثر مقیاس‌پذیری شتاب‌دهنده را با حفظ بیش از 90 درصد استفاده، شبیه‌سازی شده بر روی پردازنده‌های گرافیکی NVIDIA B200 یا AMD MI355 اندازه‌گیری می‌کند. همچنین چک پوینت برای مدل‌های سبک Llama 3 از پارامترهای 8B تا 1.25T را پوشش می‌دهد و تاخیر کم را برای 10 دور نوشتن و خواندن تکراری در اولویت قرار می‌دهد. علاوه بر این، مجموعه آزمایش پایگاه داده برداری را روی یک مجموعه داده Milvus 1 میلیون و 1536 بعدی برای به حداکثر رساندن توان پرس و جو در حین ردیابی میزان تأخیر و فراخوان، به علاوه تست کش KV برای سنجش حداکثر ظرفیت پشتیبانی مکالمه همزمان، ترکیب می کند.
برایان بلگودر، رئیس گروه کاری MLPerf Storage، اظهار داشت که مجموعه آزمایشی جدید پوشش معیار را برای تقاضاهای ذخیره سازی استنتاج AI جریان اصلی غنی می کند. مجموعه به‌روزشده، آموزش متمرکز بر آموزش و آزمون‌های بازرسی را با حافظه نهان KV مبتنی بر استنتاج و ارزیابی‌های پایگاه داده برداری تعادل می‌دهد. این معیار با تجزیه سیستم‌های هوش مصنوعی یکپارچه به ارزیابی‌های حجم کاری ذخیره‌سازی هدفمند، از جمله چک پوینت، ذخیره‌سازی KV و پردازش پرس و جو بردار، به متخصصان صنعت این امکان را می‌دهد تا پیکربندی‌های زیرساخت هوش مصنوعی را بهتر بهینه کنند و گلوگاه‌های عملکرد ذخیره‌سازی را حذف کنند.
لایه ذخیره‌سازی شی S3 جدید از آموزش، چک‌پوینت و آزمایش‌های پایگاه داده برداری جزئی پشتیبانی می‌کند و تقریباً یک ششم تمام ارسال‌های نسخه 3.0 از دسترسی ذخیره‌سازی مبتنی بر S3 استفاده می‌کنند.
کورتیس اندرسون، یکی دیگر از رئیس‌های گروه کاری، خاطرنشان کرد که با افزایش مقیاس هوش مصنوعی به تریلیون‌ها توکن، ذخیره‌سازی اشیا به‌عنوان یک جایگزین مناسب و حتی ارجح برای ذخیره‌سازی سیستم فایل سنتی در حال ظهور است. پشتیبانی Native S3 در نسخه 3.0 داده های عملکرد شفاف را برای هدایت تصمیمات استقرار ذخیره سازی سازمانی ارائه می دهد.
در مجموع 19 فروشنده نتایج را برای این چرخه معیار ارسال کردند. قابل ذکر است، بازیکنان اصلی ذخیره‌سازی سازمانی قدیمی از جمله DDN، Dell، Huawei، IBM، NetApp، VAST Data و WEKA در فهرست ارسال‌ها غایب بودند. مقامات MLPerf اظهار داشتند که فروشندگان سنتی NAS مشارکت محدودی دارند، و اکثر مدیران فعلی در آخرین دور حضور دارند.
با توجه به فضای ذخیره سازی متنوع هوش مصنوعی، نسخه 3.0 یک رتبه بندی کلی منتشر نمی کند. در عوض، نتایج مستقلی را برای چهار دسته حجم کاری با معیارهای چند بعدی ارائه می دهد. مجموعه داده کامل نتیجه حدود 145 ردیف و 55 ستون را شامل می شود که در مجموع نزدیک به 8000 سلول داده را شامل می شود، با 12 ستون اختصاصی منحصراً برای معیارهای عملکرد حافظه پنهان KV. اینها توان عملیاتی، پهنای باند خواندن/نوشتن و تأخیر P95 را تحت هر دو معماری فقط ذخیره‌سازی و ذخیره‌سازی+حافظه برای بارهای کاری مدل Llama 8B و 70B پوشش می‌دهند.
MLCommons همچنین ارزیابی عملکرد استاندارد را بر اساس تراکم هر رک و بازده انرژی در هر وات برای اندازه‌گیری اثربخشی عملیاتی زیرساخت کلی توصیه می‌کند.
مجموعه معیار به روز شده دارای منطق ارزیابی بسیار پیچیده است که به فروشندگان اجازه می دهد نتایج را به صورت انتخابی برای بارهای کاری هدفمند ارسال کنند. برای مثال، فقط NewFW، سامسونگ، سوژو زیشان و TTA نتایج آزمایش پایگاه داده برداری را ارسال کردند.
Everpure عملکرد بالاتری را برای FlashBlade//EXA خود در تست‌های چک پوینت و کش KV برای مدل‌های پارامتر 405B و 1.25T گزارش کرد. این پلتفرم که بر روی 30 گره داده برای پشتیبانی از 1024 شتاب دهنده شبیه سازی شده مستقر شده است، به پهنای باند نوشتن 877.52 گیگابیت بر ثانیه (تکمیل 17.74 ثانیه) و پهنای باند خواندن 588.28 گیگابیت بر ثانیه (تکمیل 28.99 ثانیه) برای نقطه بازرسی مدل 1.25T دست یافت. عملکرد آن به صورت خطی از 327.65 گیگابیت بر ثانیه توان نوشتن روی 10 گره تا اوج نتیجه 30 گره مقیاس شده است.
داده‌های تکمیلی نشان می‌دهد که ارسال‌های ارسالی پست بازرسی در محل، بازده انرژی متوسط 14 گیگابایت بر ثانیه در هر وات، با حداکثر 201 گیگابایت بر ثانیه در هر وات را ارائه می‌دهند. در همین حال، تست‌های خواندن UNet3D بازده متوسط 34 گیگابایت بر ثانیه بر وات و حداکثر 277 گیگابایت بر ثانیه بر وات را ثبت کردند.
پکن Qianxing Jietong Technology Co., Ltd.
سندی یانگ / مدیر استراتژی جهانی
WhatsApp / WeChat: +86 13426366826
ایمیل: yangyd@qianxingdata.com
وب سایت: www.qianxingdata.com/www.storagesserver.com
تمرکز تجاری:
توزیع محصول ICT/یکپارچه سازی سیستم و خدمات/راه حل های زیرساخت
با بیش از 20 سال تجربه توزیع فناوری اطلاعات، ما با برندهای پیشرو جهانی برای ارائه محصولات قابل اعتماد و خدمات حرفه ای همکاری می کنیم.
«استفاده از فناوری برای ساختن دنیایی هوشمند» ارائه‌دهنده خدمات محصول ICT مورد اعتماد شما!
پیام شما باید بین 20 تا 3000 کاراکتر باشد!
Persian
