دیپ اینفرا به طور رسمی یک مرکز داده هوش مصنوعی جدید را در تورنتو راه اندازی کرده است، که اولین انتشار این شرکت در خارج از ایالات متحده و نهمین تاسیسات آن در سراسر جهان است.این سایت جدید نقش زیرساخت های جهانی DeepInfra را گسترش می دهد، در میان یک تغییر گسترده در صنعت تقاضا برای هوش مصنوعی از آموزش مدل به بارهای کاری نتیجه گیری تجاری.
مرکز داده تورنتو دارای 1.7 مگاوات ظرفیت برق است و بیش از 1000 GPU NVIDIA Blackwell B300 را در خود جای خواهد داد.کلاستر محاسباتی جدید مقیاس جهانی نتیجه گیری DeepInfra را افزایش می دهد و تاخیر شبکه را برای کاربران نهایی در سراسر کانادا و سایر مناطق جهانی کاهش می دهد.
این گسترش با یک انتقال واضح در سراسر صنعت مطابقت دارد. همانطور که شرکت ها تولید تولید ابزارهای AI تولید کننده را تسریع می کنند،تقاضا برای زیرساخت های مرکز داده به طور فزاینده ای بر روی بارهای کاری نتیجه گیری به جای وظایف آموزشی متمرکز شده است. نتیجه گیری مدل زبان بزرگ نیاز به دسترسی مداوم GPU، شبکه کم تاخیر و زیرساخت های پراکنده جغرافیایی برای قدرت برنامه های تعاملی، عوامل هوش مصنوعی،و خدمات API با سرعت بالابر اساس تحقیقات مک کینزی و شرکت که در این اعلامیه اشاره شده است، حجم کار نتیجه گیری تا سال 2030 بیش از 40 درصد از کل تقاضا برای مراکز داده خواهد بود، با نرخ رشد سالانه 35٪.
"ديپ اينفرا" مي گويد که تعيينات تورنتو به منظور پاسخگويي به اين نيازها ساخته شدهقرار دادن منابع محاسباتی GPU نزدیک به کاربران نهایی و منابع داده های محلی در حالی که گسترش ظرفیت کلی سیستم عامل. این شرکت به طور مستقل مالک است و زیرساخت های کامل GPU خود را اداره می کند ، که از بیش از 200 مدل هوش مصنوعی منبع باز پشتیبانی می کند. سیستم عامل استنباط مدیریت شده آن تقریباً پنج تریلیون توکن در هفته را پردازش می کند.,پوشش هر دو مدل باز و انحصاری.
این راه اندازی همچنین نشان دهنده افزایش پذیرش صنعت از معماری بلک ول NVIDIA برای زیرساخت های نتیجه گیری مدرن است. در مقایسه با سخت افزار نسل Hopper قبلی،گرافیک های Blackwell عملکرد نتیجه گیری بهبود یافته و بهره وری انرژی بهتر را برای مدل های زبان بزرگ و بارهای کاری چند روشی هوش مصنوعی ارائه می دهنداگرچه DeepInfra جزئیات بیشتری در مورد معماری شبکه و ذخیره سازی منتشر نکرد،استفاده از مقیاس بزرگ از این کالیبر به طور معمول از اتصالات بین المللی پهنای باند بالا و ذخیره سازی توزیع شده برای حفظ استفاده کامل از GPU استفاده می کند..
همانطور که توسط نیکولا بوریسوف، مدیرعامل و یکی از بنیانگذاران DeepInfra، اشاره شده است، هوش مصنوعی سازمانی از آزمایش های تجربی به تولید در مقیاس بزرگ تغییر کرده است.افزایش تقاضا برای زیرساخت های توزیع شده جهانی با تاخیر کم و قابلیت های نتیجه گیری مقیاس پذیراو توضیح داد که خوشه تورنتو اولین گسترش بین المللی شرکت را فراتر از مرزهای ایالات متحده نشان می دهد و منابع محاسباتی را نزدیک به مشتریان جهانی و مجموعه داده های آنها قرار می دهد.
مرکز تورنتو پس از دوره مالی سری B اخیر DeepInfra's می آید و به عنوان بخشی از نقشه راه توسعه زیرساخت های بلند مدت آن عمل می کند.این شرکت تایید می کند که در حال ارزیابی سایت های مراکز داده بین المللی اضافی برای پاسخگویی به تقاضای رو به رشد بازار برای خدمات نتیجه گیری GPU است.
شرکت فناوری چینجینگ جیوتونگ پکن، لمیتد
سندي يانگ، مدير استراتژي جهاني
واتساپ / وی چت: +86 13426366826
ایمیل: yangyd@qianxingdata.com
وب سایت: www.qianxingdata.com/www.storagesserver.com
تمرکز کسب و کار:
توزیع محصولات ICT / ادغام سیستم و خدمات / راه حل های زیرساخت
با 20+ سال تجربه توزیع فناوری اطلاعات، ما با مارک های پیشرو جهانی همکاری می کنیم تا محصولات قابل اعتماد و خدمات حرفه ای را ارائه دهیم.
استفاده از تکنولوژی برای ساختن یک جهان هوشمند، ارائه دهنده خدمات قابل اعتماد محصولات ICT شما
سندي يانگ، مدير استراتژي جهاني
واتساپ / وی چت: +86 13426366826
ایمیل: yangyd@qianxingdata.com
وب سایت: www.qianxingdata.com/www.storagesserver.com
تمرکز کسب و کار:
توزیع محصولات ICT / ادغام سیستم و خدمات / راه حل های زیرساخت
با 20+ سال تجربه توزیع فناوری اطلاعات، ما با مارک های پیشرو جهانی همکاری می کنیم تا محصولات قابل اعتماد و خدمات حرفه ای را ارائه دهیم.
استفاده از تکنولوژی برای ساختن یک جهان هوشمند، ارائه دهنده خدمات قابل اعتماد محصولات ICT شما



