اخبار شرکت غریزی و EPYC؛ داده های VAST همکاری گسترده CPU / GPU AMD را ایجاد می کند

جان مایو

ستون‌های کلیدی همکاری گسترده

• -VAST نسل ششم AMD EPYC (با نام رمز Venice) را برای تامین انرژی پلتفرم‌های CBox نسل ششم و EBox نسل سوم خود که زیربنای سیستم عامل هوش مصنوعی VAST است، اتخاذ می‌کند. EPYC نسل 6 دارای PCIe Gen 6 است که پهنای باند I/O دو برابر و تأخیر کمتری نسبت به PCIe Gen 5 برای خدمات داده هوش مصنوعی مبتنی بر VAST DataBase و DataEngine از جمله پایگاه‌های داده، انبارهای داده و جریان رویداد ارائه می‌دهد.
• -یک معماری مرجع زیرساخت هوش مصنوعی سه جانبه که توسط VAST، AMD و DriveNets توسعه یافته است، شامل سخت‌افزار هوش مصنوعی در مقیاس رک AMD Helios، سیستم عامل هوش مصنوعی VAST و شبکه DriveNets AI Fabric. این طرح جزئیات پشتیبانی زیرساخت برای آموزش، استنتاج، یادگیری تقویتی و بارهای کاری KV cache، به علاوه راهنمایی اندازه‌گیری برای تیم‌هایی که کارخانه‌های هوش مصنوعی می‌سازند را شرح می‌دهد.
• -مشارکت‌های گسترده‌تر اکوسیستم با TensorMesh، EmbeddedLLM و سایر فروشندگان برای تسریع پشته‌های استنتاج در مقیاس تولید که برای هوش مصنوعی عامل بهینه‌سازی شده‌اند.
• -بهینه‌سازی‌های جدید KV cache و استنتاج که پردازنده‌های گرافیکی AMD Instinct، Infinity Context، نرم‌افزار ROCm و سیستم عامل هوش مصنوعی VAST را ادغام می‌کند.
• -مدیریت خودکار چرخه عمر KV Cache: پاک کردن کش حاوی داده‌های حساس شخصی، موانع عمده‌ای برای انطباق سازمانی ایجاد می‌کند. پشته یکپارچه از قوانین چرخه عمر داده بومی VAST برای انقضای خودکار و پاک کردن داده‌های KV cache استفاده می‌کند و امنیت، حریم خصوصی و انطباق مقرراتی قوی را بدون کار دستی مدیر ارائه می‌دهد.
• -کارت شبکه هوش مصنوعی AMD Pensando Pollara 400 مسیرهای داده پرسرعت را ایجاد می‌کند که پردازنده‌های گرافیکی Instinct را به سیستم عامل هوش مصنوعی VAST متصل می‌کند. با پشتیبانی از NFS over TCP و RDMA، به طور یکپارچه داده‌ها را بین حافظه پردازنده گرافیکی و خوشه‌های ذخیره‌سازی SSD NVMe VAST منتقل می‌کند و KV cache و دسترسی به ذخیره‌سازی را که برای استنتاج در مقیاس بزرگ و هوش مصنوعی عامل حیاتی است، تامین می‌کند.
• -استقرارهای تأیید شده در میان ارائه‌دهندگان پیشرو ابری هوش مصنوعی که خدمات هوش مصنوعی مبتنی بر AMD را در سطح جهانی ارائه می‌دهند، از جمله 5C، Core42، Crusoe، EmbeddedLLM، Phanos.AI، TensorWave و Vultr.