اسکی هاینیکس از شرکت Etched، یک استارتاپ آمریکایی هوش مصنوعی که سیستمهای در مقیاس رک با فناوریهای اختصاصی Low Voltage Inference (LVI) و Cluster Scale Memory (CSM) را میسازد، حمایت کرده است.
Etched یک گلوگاه حیاتی صنعت را حل میکند: پردازندههای گرافیکی سنتی قدرت محاسباتی بیش از حد اما حافظه ناکافی برای استنتاج هوش مصنوعی در مقیاس بزرگ ارائه میدهند که منجر به چارچوبهای پیچیده کشینگ KV چند لایه میشود. تراشههای استنتاج سفارشی آن مصرف برق را کاهش داده و از نظر پهنای باند حافظه و ظرفیت از HBM پردازندههای گرافیکی معمولی بهتر عمل میکنند و تأخیر و پیچیدگی طراحی مربوط به کشینگ KV را کاهش میدهند.
این سرمایهگذاری پس از خروج استارتاپ اسرائیلی Majestic Labs از حالت پنهانکاری صورت میگیرد، این شرکت نیز سرورهای استنتاج با پردازندههای سفارشی و استخرهای حافظه مشترک در مقیاس بزرگ میسازد.
Etched که در سال ۲۰۲۳ در سن خوزه توسط سه دانشجوی ممتاز هاروارد که ترک تحصیل کردند تأسیس شد، تیم اصلی آن شامل مدیرعامل گاوین اوبرتی، رئیس رابرت واچن و کریس ژو است. این تیم یک کمک هزینه دو ساله Thiel به مبلغ ۲۵۰,۰۰۰ دلار برای پیشبرد توسعه اولیه خود دریافت کرد.
این تیم پردازش پیشپردازش LVI سفارشی و حافظه مشترک CSM را برای افزایش بهرهوری استنتاج ساخته است. راهحل کامل آن، که تراشههای داخلی، بستهبندی، بردهای مدار چاپی و ماژولهای اتصال را ادغام میکند، امکان استقرار استنتاج تجاری در مقیاس بزرگ را فراهم میکند.
ژو اشاره کرد که تراشههای هوش مصنوعی رایج تحت بار زیاد دچار افت حرارتی شدید میشوند: افزایش مصرف برق سرعت کلاک را کاهش میدهد و توان عملیاتی استنتاج واقعی را به کمتر از نصف اوج نظری آن میرساند. تراشههای Etched واحدهای محاسباتی را با نصف ولتاژ معمول صنعت اجرا میکنند و تراکم محاسباتی را به طور قابل توجهی افزایش میدهند.
او همچنین به مبادلات کلیدی سختافزاری پرداخت: تراشههای هوش مصنوعی مجهز به HBM به دلیل محدودیتهای حافظه و اتصال، از نظر سرعت رمزگشایی از SRAM عقب هستند، در حالی که تراشههای SRAM خالص تراکم و ظرفیت محاسباتی را برای دسترسی سریعتر به خطر میاندازند و توان عملیاتی کلی را کاهش میدهند.
این امر عملیات مدلهای بزرگ MoE را مختل میکند، زیرا انتقال توکن بین لایهای در چندین لایه حافظه باعث افزایش تأخیر میشود. معماری Etched لایههای حافظه اضافی را برای حل این مشکل حذف میکند.
معماری CSM Etched یک استخر حافظه مشترک یکپارچه با تأخیر کم برای سختافزار مقیاسپذیر ایجاد میکند و از اتصال اختصاصی با سرعت بالا برای تسریع دسترسی به حافظه بین تراشهای استفاده میکند.
طراحی ترکیبی HBM/SRAM آن، ظرفیت حافظه و تأخیر بین تراشهای را متعادل میکند و استنتاج تعاملی با توان عملیاتی بالا را ارائه میدهد. CSM از معایب هزینهای، پایداری، حرارتی و عملکردی راهحلهای SRAM خالص، DRAM سهبعدی و تراشههای نوری اجتناب میکند.
این نوآوری پشتههای HBM را از محدودیتهای معماری پردازنده گرافیکی جدا میکند، منابع حافظه پراکنده را ادغام میکند و سرعت دسترسی در سطح SRAM را از طریق فناوری اتصال پیشرفته ارائه میدهد.
سیستم رک Etched دارای طرحبندی اتصال بالا است، با ۱۶ کابل اختصاصی که پورتهای عقب را به هشت واحد سختافزاری اصلی متصل میکنند.
این سیستم از مدلهای LLM رایج، مدلهای MoE و معماریهای غیر ترانسفورمر مانند Mamba پشتیبانی میکند و این شرکت بر تحقیق و توسعه کل سیستم و فروش تجاری تمرکز دارد.
تاریخچه تأمین مالی Etched
۲۰۲۲ - تأسیس شرکت
۲۰۲۳ - دور اولیه ۵.۴ میلیون دلاری
۲۰۲۴ - دور سری A ۱۲۰ میلیون دلاری
۲۰۲۵ - دور سری B ۵۰۰ میلیون دلاری
۲۰۲۶ - دور سری C ۳۰۰ میلیون دلاری
کل تأمین مالی تا به امروز: ۹۲۵.۴ میلیون دلار
Sequoia Capital رهبری دور سری C سال ۲۰۲۶ Etched را بر عهده داشت، با مشارکت Andreessen Horowitz، Jane Street و SK Hynix. این دور ارزش شرکت را ۱۰.۳ میلیارد دلار تعیین کرد که دو برابر ارزش دور سری B آن در سال ۲۰۲۴ است.
نرخ تأمین مالی سالانه مداوم آن، تکرار مداوم محصول را منعکس میکند که توسط تقاضای قوی مشتری و اعتماد قوی سرمایهگذاران پشتیبانی میشود.
واچن گفت که سرمایه جدید تولید انبوه خوشههای استنتاج را تسریع خواهد کرد. این شرکت یک سایت تولید ۱۰ مگاواتی در میلپیتاس برای بهبود نمونهسازی و کارایی تولید افتتاح کرده است.
سپتادیپ پال، معمار ارشد، فاش کرد که Etched بیش از ۴۰۰ کارمند دارد و سفارشات مشتریان رزرو شده بیش از ۱ میلیارد دلار است. پایگاه تحقیق و توسعه و تولید آن در تایوان امکان عملیات ۲۴ ساعته را فراهم میکند و همکاری با تامینکنندگان و آزمایش محصول را برای پشتیبانی از مقیاسپذیری سریع بهینه میکند.
مشتریان اصلی آن شامل شرکتهای بزرگ، ارائهدهندگان نوظهور ابری و ارائهدهندگان خدمات ابری جهانی است که راهحلهای استنتاج به عنوان سرویس را ارائه میدهند.
نظر
اگر رَکهای استنتاج جدید Etched و Majestic Labs فراتر از کشینگ KV سنتی حرکت کنند، بازار ذخیرهسازی سازمانی را بازسازی خواهند کرد. این سیستمها به ذخیرهسازی با سرعت بالا و تأخیر کم نیاز دارند و فرصتهای همکاری را برای فروشندگانی مانند Dell، HPE، NetApp و VAST Data برای جفت کردن آرایههای ذخیرهسازی با سرورهای استنتاج نسل بعدی برای عملکرد بهینه ایجاد میکنند.
شرکت فناوری Beijing Qianxing Jietong
سندی یانگ / مدیر استراتژی جهانی
واتساپ / وی چت: +۸۶ ۱۳۴۲۶۳۶۶۸۲۶
ایمیل: yangyd@qianxingdata.com
وب سایت: www.qianxingdata.com/www.storagesserver.com
تمرکز تجاری:
توزیع محصولات ICT / یکپارچهسازی سیستم و خدمات / راهحلهای زیرساخت
با بیش از ۲۰ سال تجربه توزیع IT، ما با برندهای پیشرو جهانی همکاری میکنیم تا محصولات قابل اعتماد و خدمات حرفهای ارائه دهیم.
«استفاده از فناوری برای ساختن جهانی هوشمند» ارائهدهنده خدمات محصولات ICT مورد اعتماد شما!
پیام شما باید بین 20 تا 3000 کاراکتر باشد!
Persian
