Equinix با گسترش همکاری خود با NVIDIA و ایجاد همکاری جدید با Together AI، پلتفرم Equinix Inference Exchange را راه‌اندازی کرده است. این پلتفرم که به عنوان یک معماری استنتاج هوش مصنوعی توزیع‌شده در سطح سازمانی ساخته شده است، بارهای کاری محاسباتی را به نزدیک‌تر به مخازن داده اصلی، کاربران نهایی و برنامه‌های کاربردی عملیاتی منتقل می‌کند. این پلتفرم که در کنار Equinix Fabric One در Equinix Horizon معرفی شد، سخت‌افزار سازمانی NVIDIA، پلتفرم مدل متن‌باز Together AI و زیرساخت اتصال جهانی Equinix را برای حل مشکلات تأخیر، حاکمیت داده و گلوگاه‌های شبکه متحد می‌کند.

پردازش استنتاج توزیع‌شده و گرانش داده با حرکت هوش مصنوعی سازمانی از نمونه‌های اولیه به تولید با توان عملیاتی بالا، محل قرارگیری استنتاج، هزینه کل، تأخیر پاسخ و انطباق را شکل می‌دهد. با این حال، اجرای زیرساخت توزیع‌شده در محیط‌های ناهمگن، سربار عملیاتی و پیچیدگی شبکه را به همراه دارد.

Equinix با استفاده از بیش از ۲۸۰ مرکز داده خود در ۷۷ مترو، ۲۳۰ نقطه اتصال ابری و بیش از ۱۰۵۰۰ اکوسیستم شرکتی متصل، این مشکلات را کاهش می‌دهد. هشت مورد از ده ارائه‌دهنده برتر مدل هوش مصنوعی و نه مورد از ده ابر هوش مصنوعی برتر در حال حاضر در سایت‌های Equinix قرار دارند و این پلتفرم را به یک لایه تجمیع خنثی برای خطوط لوله هوش مصنوعی توزیع‌شده تبدیل می‌کنند.

معماری و یکپارچه‌سازی پشته Equinix Inference Exchange از سه لایه تشکیل شده است: زیرساخت فیزیکی، محاسباتی و نرم‌افزاری. Equinix بنیاد اتصال فیزیکی زیربنایی را که شامل تحویل برق، خنک‌کننده مایع پیشرفته، عملیات تأسیسات جاری و اتصال داده هیبریدی از طریق Equinix Fabric است، مدیریت می‌کند. NVIDIA لایه محاسباتی و اعتبارسنجی را با سخت‌افزار هوش مصنوعی سازمانی بهینه‌شده برای توان عملیاتی توکن بالا و هزینه‌های استنتاج کمتر به ازای هر پرس‌وجو ارائه می‌دهد. Together AI لایه نرم‌افزار ارائه استنتاج را که از بیش از ۲۰۰ مدل متن‌باز پشتیبانی می‌کند، تأمین می‌کند. این پلتفرم از تنظیمات چند مستأجری مشترک برای بهره‌وری محاسباتی و استقرار تک مستأجری ایزوله برای بارهای کاری که به ظرفیت اختصاصی نیاز دارند، پشتیبانی می‌کند.

ترافیک مسیریابی شده از طریق Equinix Fabric، زمان اولین توکن (TTFT) کاربران منطقه‌ای را کاهش می‌دهد و پیوندهای خصوصی بین فضای ذخیره‌سازی داخلی و نقاط پایانی مدل ایجاد می‌کند.

اهداف استقرار سازمانی و در دسترس بودن سه حالت اصلی استقرار پشتیبانی می‌شود. استنتاج در لبه مترو، مدل‌ها را در مراکز مترو محلی برای پاسخ‌های API با تأخیر کم در کنار مدیریت متمرکز و اتصالات خصوصی اجرا می‌کند. مهاجرت مدل متن‌باز، مسیری هموار برای خروج از APIهای اختصاصی بسته به سمت مدل‌های پایه باز را فراهم می‌کند، وابستگی به فروشنده را کاهش می‌دهد و در عین حال از پارچه‌های شبکه موجود مجدداً استفاده می‌کند. برای موارد استفاده از هوش مصنوعی حاکمیتی تحت مقررات، طراحی توزیع‌شده آن به سازمان‌ها اجازه می‌دهد تا استنتاج و پردازش داده را در مرزهای جغرافیایی تعریف‌شده نگه دارند تا قوانین سخت‌گیرانه اقامت داده و حاکمیت را برآورده کنند.

مدیران Equinix، NVIDIA و Together AI بیان می‌کنند که این یکپارچه‌سازی یک پارچه استنتاج با توان عملیاتی بالا و مستقل از فروشنده را ارائه می‌دهد که عملکرد محاسباتی و چابکی عملیاتی را متعادل می‌کند.

Equinix Inference Exchange در سه ماهه اول سال ۲۰۲۷ در دسترس عموم سازمان‌ها قرار خواهد گرفت.

شرکت فناوری پکن Qianxing Jietong
سندی یانگ/مدیر استراتژی جهانی
واتساپ / وی چت: +۸۶ ۱۳۴۲۶۳۶۶۸۲۶
ایمیل: yangyd@qianxingdata.com
وب سایت: www.qianxingdata.com/www.storagesserver.com
تمرکز تجاری:
توزیع محصولات ICT/یکپارچه‌سازی سیستم و خدمات/راه‌حل‌های زیرساخت
با بیش از ۲۰ سال تجربه در توزیع IT، ما با برندهای پیشرو جهانی همکاری می‌کنیم تا محصولات قابل اعتماد و خدمات حرفه‌ای ارائه دهیم.
"استفاده از فناوری برای ساختن دنیایی هوشمند" ارائه‌دهنده خدمات محصولات ICT مورد اعتماد شما!