پلتفرم انتخاب شده برای این کار Dell PowerEdge R760 ما بود که Ubuntu 22.04.02 LTS را اجرا می کرد. ما از بنچمارک DLIO نسخه 2.0 از نسخه 13 آگوست 2024 استفاده کردیم. پیکربندی سیستم ما به شرح زیر است:

• 2 عدد Intel Xeon Gold 6430 (32 هسته ای، 2.1 گیگاهرتز)
• 16 x 64 گیگابایت DDR5-4400
• 480 گیگابایت SSD Dell BOSS
• کابل های سریال Gen5 JBOF
  • 7.68 ترابایت Solidigm D7-PS1010
  • 61.44 ترابایت Solidigm D5-P5336

برای اطمینان از اینکه معیار ما منعکس کننده سناریوهای دنیای واقعی است، آزمایش خود را بر اساس معماری مدل LLAMA 3.1 405B انجام دادیم و از طریق torch.save() checkpointing را برای ثبت پارامترهای مدل، حالت های بهینه ساز و حالت های لایه پیاده سازی کردیم. راه‌اندازی ما یک سیستم 8-GPU را شبیه‌سازی کرد و یک استراتژی موازی ترکیبی را با پردازش موازی تانسور 4 طرفه و خط لوله دو طرفه که در 8 GPU توزیع شده است، پیاده‌سازی کرد. این پیکربندی به اندازه‌های ایست بازرسی 1636 گیگابایتی منجر شد که نشان‌دهنده الزامات آموزشی مدل زبان بزرگ مدرن است.

فرآیند آزمایش ما برای بار کاری پست بازرسی DLIO شامل پر کردن هر درایو تا سطح استفاده مشابه بود. برای Solidigm D5-P5336 با ظرفیت 61.44 ترابایت، هر پاس شامل 33 بازه ایست بازرسی، در مجموع 54 ترابایت بود. کوچکتر 7.68 ترابایت D7-PS1010 به راحتی در سه بازه ایست بازرسی قرار می گیرد که مجموعاً 4.9 ترابایت است. یک ایست بازرسی اضافی می‌تواند در D7-PS1010 جای بگیرد، اگرچه استفاده از آن را کمی بالاتر از آنچه می‌خواستیم به ارمغان آورد.

وقتی D5-P5536 61.44 ترابایتی مبتنی بر Gen4 QLC را با D7-PS1010 7.68 ترابایتی مبتنی بر Gen5 TLC مقایسه کردیم، بار کاری ایست بازرسی DLIO نتایج جالبی به همراه داشت. در اولین پاس، با پر شدن درایوها، شاهد شکاف بیشتری در عملکرد بین دو مدل SSD بودیم. سریعتر Gen5 PS1010 هر یک از نقاط بازرسی را به طور متوسط ​​در 464 ثانیه تکمیل کرد، در مقایسه با Gen4 P5336 623 ثانیه. در پاس های دو و سه، فاصله به 579 و 587 ثانیه برای PS1010 و 676 و 680 ثانیه برای P5336 کاهش یافت.

برای مشاغلی که به دنبال کمترین فاصله ممکن در فواصل بازرسی هستند، Gen5 PS1010 مبتنی بر TLC مزیتی را در سریع ترین زمان تکمیل ارائه می دهد. اگر هدف حفظ بسیاری از نقاط بازرسی مقرون به صرفه باشد، Gen4 P5336 مبتنی بر QLC می تواند این کار را انجام دهد. ما اختلاف میانگین زمان های ایست بازرسی کمتر از 17 درصد را بین هر دو درایو در طی پاس های دو و سه اندازه گیری کردیم.

پهنای باند ذخیره سازی GPUDirect

در حالی که DLIO عملکرد فلش را در یک گردش کار AI نشان می دهد، حجم کار کاملاً مبتنی بر نوشتن است تا زمانی که یک نقطه بازرسی بازیابی شود. برای ترسیم تصویر کاملتری از Solidigm D7-PS1010 و D5-P5336 در بارهای کاری هوش مصنوعی، اندازه گیری پهنای باند خواندنی را با استفاده از GDSIO گنجانده ایم.

نحوه عملکرد GPU Direct Storage

به طور سنتی، زمانی که یک GPU داده های ذخیره شده در درایو NVMe را پردازش می کند، داده ها باید ابتدا از طریق CPU و حافظه سیستم قبل از رسیدن به GPU عبور کنند. این فرآیند باعث ایجاد تنگناها می شود، زیرا CPU به یک واسطه تبدیل می شود و تأخیر را اضافه می کند و منابع ارزشمند سیستم را مصرف می کند. GPU Direct Storage با فعال کردن GPU برای دسترسی مستقیم به داده ها از دستگاه ذخیره سازی از طریق گذرگاه PCIe، این ناکارآمدی را از بین می برد. این مسیر مستقیم سربار مربوط به جابجایی داده ها را کاهش می دهد و امکان انتقال سریعتر و کارآمدتر داده را فراهم می کند.

بارهای کاری هوش مصنوعی، به ویژه آنهایی که شامل یادگیری عمیق هستند، به شدت به داده ها نیاز دارند. آموزش شبکه های عصبی بزرگ نیازمند پردازش ترابایت داده است و هرگونه تاخیر در انتقال داده می تواند منجر به استفاده ناکافی از GPU و زمان طولانی تر آموزش شود. GPU Direct Storage با اطمینان از تحویل داده‌ها به GPU در سریع‌ترین زمان ممکن، به حداقل رساندن زمان بیکاری و به حداکثر رساندن کارایی محاسباتی، این چالش را برطرف می‌کند.

مانند تست DLIO، هدف این است که تفاوت‌های بین SSD‌های پرسرعت Gen5 و درایوهای QLC با ظرفیت بالا را درک و مشخص کنیم. هر حجم کاری هوش مصنوعی یکسان نیست و هر درایو بسته به نیاز، مزایای مشخصی را ارائه می دهد.

تست ماتریس پیکربندی

ما به طور سیستماتیک هر ترکیبی از پارامترهای زیر را با NVIDIA L4 در پلت فرم آزمایشی خود آزمایش کردیم:

• اندازه بلوک: 1M، 128K، 64K، 16K، 8K
• تعداد موضوعات: 128، 64، 32، 16، 8، 4، 1
• تعداد شغل: 16
• اندازه دسته: 16

اولین نگاه ما به D5-P5336 مبتنی بر QLC بود که با استفاده از اندازه انتقال 1M در عمق IO 128 به سرعت 4.2GiB/s رسید. مزیت افزایش عمق IO در 32 کاهش یافت، جایی که حجم کار شروع به کاهش کرد.

در مرحله بعد، ما به Gen5 PS-1010 نگاه می کنیم که می تواند تا 6.2 گیگابایت بر ثانیه در اندازه بلوک 1M و عمق IO 128 مقیاس داشته باشد. یکی از زمینه های بهبود قابل توجه در اندازه بلوک 128K بود، جایی که در عمق IO 64 و 128، PS1010 پهنای باند خواندن دو برابر P5336 را ارائه می کرد.

لازم به ذکر است که هر دو SSD با استفاده از NVIDIA L4 تست شده اند. در حالی که Gen4 D5-P5336 در بالاترین سطح یا نزدیک به آن قرار دارد، پردازنده‌های گرافیکی NVIDIA مدل بالایی مانند H100 عملکرد بالاتری را با D7-PS1010 نشان دادند. سرعت یک درایو برای برخی از مشتریان عامل تعیین کننده نهایی است، در حالی که برخی دیگر تراکم کلی را در اولویت قرار می دهند.جامدادیراه حل هایی برایهر دو، با آنارائه QLC و TLC SSD.

نتیجه گیری

از آنجایی که مقیاس و پیچیدگی آموزش هوش مصنوعی در حال افزایش است، زیرساخت های ذخیره سازی زیربنایی نه تنها باید سرعت خود را حفظ کند، بلکه باید سرعت آن را نیز تعیین کند. آزمایش‌های ما با دو SSD کاملاً متفاوت، اهمیت هم‌راستایی راه‌حل‌های ذخیره‌سازی با اولویت‌های آموزشی خاص را برجسته می‌کند - چه به معنای به حداقل رساندن تأخیر ایست بازرسی باشد و چه به حداکثر رساندن تراکم ایست بازرسی برای مقیاس‌پذیری مقرون‌به‌صرفه.

 

در ارزیابی خود، ما Solidigm D5-P5336 (61.44 ترابایت) و D7-PS1010 (7.68 ترابایت) را تحت شرایط آموزش هوش مصنوعی واقعی آزمایش کردیم و از معیار DLIO و یک گردش کار چک پوینتینگ LLM ترکیبی موازی گسترده استفاده کردیم. ما معیارهایی را ثبت کردیم که عملکرد نوشتن پست بازرسی را در چندین آزمایش آزمایشی با پر شدن درایوها منعکس می‌کند و بر تفاوت‌های عملکرد در زمان‌های تکمیل بین D5-P5336 مبتنی بر Gen4 QLC و D7-PS1010 مبتنی بر Gen5 TLC تأکید می‌کند.

 

 

در حالی که D7-PS1010 سریع‌ترین پست‌های بازرسی ممکن را ارائه می‌کرد، D5-P5336 مزایای مقرون به صرفه و ظرفیت قانع‌کننده‌ای را نشان داد، تنها با یک مبادله عملکرد متوسط. ما بیشتر پهنای باند خواندن GPU Direct Storage (GDS) را با استفاده از GDSIO با پردازنده گرافیکی NVIDIA L4 بررسی کردیم. یافته‌های ما نشان داد که Solidigm D5-P5336 پهنای باند خواندن تا 4.2 گیگابایت بر ثانیه با اندازه انتقال 1M ارائه می‌دهد، در حالی که D7-PS1010 افزایش قابل‌توجهی به 6.2 گیگابایت بر ثانیه ارائه می‌دهد. هنگام استفاده از یک GPU قدرتمندتر مانند NVIDIA L40s یا H100/H200، عملکرد حتی چشمگیرتر خواهد بود.

 

با نگاهی به آینده، ظرفیت بی‌سابقه SSD 122 ترابایتی Solidigm D5-P5336 آماده است تا آموزش و استقرار هوش مصنوعی را تغییر دهد. از آنجایی که اندازه مدل و نیازهای ایست بازرسی همچنان در حال رشد هستند، این درایوهای با ظرفیت بالا سطوح جدیدی از کارایی و انعطاف‌پذیری را باز می‌کنند و راهبردهای آموزشی را که قبلاً دست نیافتنی بودند، ممکن می‌سازند. رهبری Solidigm در راه‌حل‌های SSD با ظرفیت بالا، سازمان‌ها را قادر می‌سازد تا داده‌ها و نقاط بازرسی بیشتری را در درایوهای کمتری ذخیره کنند، در حالی که به حفظ زیرساخت‌های خود در آینده در برابر موج بعدی پیچیدگی هوش مصنوعی کمک می‌کند.

 

پکن Qianxing Jietong Technology Co., Ltd.
سندی یانگ / مدیر استراتژی جهانی
WhatsApp / WeChat: +86 13426366826
ایمیل: yangyd@qianxingdata.com
وب سایت: www.qianxingdata.com/www.storagesserver.com

تمرکز تجاری:
توزیع محصول ICT/یکپارچه سازی سیستم و خدمات/راه حل های زیرساخت
با بیش از 20 سال تجربه توزیع فناوری اطلاعات، ما با برندهای پیشرو جهانی برای ارائه محصولات قابل اعتماد و خدمات حرفه ای همکاری می کنیم.
«استفاده از فناوری برای ساختن جهانی هوشمند» ارائه‌دهنده خدمات مورد اعتماد شما در زمینه فناوری اطلاعات و ارتباطات!