Persian
NVIDIA و بیش از ۳۵ شریک بنیانگذار آن، Open Secure AI Alliance را برای ساخت ابزارها، مدل ها، چارچوب های عامل و فن آوری های امنیتی منبع باز AI راه اندازی کرده اند.عضویت آن توجه افراد غایب و شرکت کنندگان را جلب می کند: مایکروسافت، آی بی ام، سیسکو و پالانتیر در حال حاضر در حال شرکت هستند، در حالی که توسعه دهندگان پیشرو مدل های مرزی بسته OpenAI، گوگل و آنتروپک به آن ملحق نشده اند.
با حمایت از ابتکار Akrites بنیاد لینوکس و OpenSSF، این اتحاد با هدف تجهیز تیم های امنیتی با فناوری های قابل بررسی و سازگار برای محافظت از مدل های هوش مصنوعی،عوامل و زنجیره تامین نرم افزار آنهااعضای بنیانگذار شامل زیرساخت های ابری، امنیت سایبری، نرم افزار سازمانی، تحقیقات هوش مصنوعی و جوامع منبع باز، از جمله Adobe، Box، Capital One، Cisco، Cloudflare، CrowdStrike،دیتابریک ها، دِل تکنولوژِی، لچکدار، فورتِنت، گیت هاب، اچ پی، آغوش چهره، آی بی ام، لانگ چین، بنیاد لینوکس، مایکروسافت، میسترال، NAVER، نت اپل، نوکیا، پالانتیر، پالو آلتو شبکه ها، کنجکاوی، Red Hat،نیروی فروش، SAP، ServiceNow، Siemens، SK Telecom، Snowflake، SpaceXAI، Synopsys، Uber، vLLM و Zscaler.
این ائتلاف تاکید می کند که ارزیابی امنیت هوش مصنوعی باید کل استیک عامل را پوشش دهد نه فقط وزن مدل. یک عامل هوش مصنوعی شامل مدل ها، لایه های ارکستر سازی، ادغام ابزار، قوانین هویتمجوزها، انزوا، محافظ های ایمنی، ورود به سیستم و جریان های کاری ارزیابی.اتحاد استدلال می کند که مدل های بسته چنین خطرات را حل نمی کنند و مدافعان را از حسابرسی رفتار مدل جلوگیری می کنند، بررسي کنترل ها يا اجرا AI در محل.
این سازمان از پذیرش انعطاف پذیر هوش مصنوعی بسته و باز حمایت می کند: مدل های بسته برای موارد استفاده پیشرفته انتخاب شده مناسب هستند، در حالی که جایگزین های باز شفافیت را فراهم می کنند.کنترل محلی و سفارشی سازی برای وظایف دفاعیاین امر برای صنایع تنظیم شده و نهادهای مستقل که نیاز به نظارت مستقیم بر داده های حساس، رفتار مدل، گزارش های امنیتی و پاسخ به حوادث دارند بسیار مهم است.
NVIDIA مدل های باز، وزنه ها، مجموعه داده ها و تحقیقات ابزار عامل را به این اتحاد اهدا می کند، با چارچوب NOOA خود که در GitHub میزبان شده است به عنوان یک کمک اولیه.NOOA ایمنی و قابل حسابرسی تسمه های عامل هوش مصنوعی را افزایش می دهد، بهینه سازی تست، ردیابی، مدیریت و ارزیابی زمانی که عوامل با ابزارها، داده های خارجی، پایگاه های کد و سیستم های شرکت تعامل دارند.جداسازی بار کار، فرمت های مدل امن، اسکن مدل و توسعه نرم افزار پیشرفته هوش مصنوعی امن.
اعضای بنیانگذار، اجزای یک استیک دفاعی هوش مصنوعی باز را ایجاد می کنند. HPE از SPIFFE / SPIRE برای هویت بار کاری صفر اعتماد برای تأیید هویت عوامل هوش مصنوعی از طریق رمزنگاری پشتیبانی می کند.میزبان تحت بنیاد PyTorch، خطرات اجرای کد خودسرانه را در ذخیره وزن مدل برای به اشتراک گذاری امن تر مدل منبع باز حذف می کند. IBM و Red Hat Lightwell را ارتقا می دهند،استفاده از پیچ های امضا شده برای حفظ یکپارچگی زنجیره تامین منبع بازمایکروسافت MDASH را ارائه می دهد، یک اسکنر عامل چند مدل که نقص های نرم افزاری را تشخیص می دهد. SpaceXAI منبع باز Grok Build، یک عامل کدگذاری AI پایانی را ارائه می دهد و قصد دارد وزنه های مدل Grok را منتشر کند،هماهنگی با تمرکز اتحاد بر حسابرسی مستقل و اصلاح ابزارهای هوش مصنوعی متمرکز بر امنیت.
در مورد سیاست، این ائتلاف از تنظیم کنندگان می خواهد که ابزارهای باز هوش مصنوعی را به عنوان زیرساخت های امنیت سایبری به جای خطرات جهانی در نظر بگیرند.محدودیت های کلی در مورد مدل های باز پیشرفته خطر دارد که سازمان ها را مجبور به تکیه بر یک مجموعه کوچک از فروشندگان اختصاصی کند و توانایی های تست دفاعی برای شرکت ها و دولت ها را تضعیف کندآن را به سرمایه گذاری جمعی در مجموعه داده های باز، سیستم عامل های ارزیابی، شبیه ساز حمله، ابزار تیم قرمز، توزیع مدل امن و کنترل امنیت عامل می خواند.
برای تیم های زیرساخت های سازمانی، این ابتکار نشان می دهد که استقرار هوش مصنوعی باید به عنوان سیستم های متصل به هم که مدل ها، برنامه ها، مدیریت هویت، ذخیره سازی، شبکه ها،قابل مشاهده بودن و سیستم های تصمیم گیری خودکار.
شرکت فناوری چینجینگ جیوتونگ پکن، لمیتد
سندي يانگ، مدير استراتژي جهاني
واتساپ / وی چت: +86 13426366826
ایمیل: yangyd@qianxingdata.com
وب سایت: www.qianxingdata.com/www.storagesserver.com
تمرکز کسب و کار:
توزیع محصولات ICT / ادغام سیستم و خدمات / راه حل های زیرساخت
با 20+ سال تجربه توزیع فناوری اطلاعات، ما با مارک های پیشرو جهانی همکاری می کنیم تا محصولات قابل اعتماد و خدمات حرفه ای را ارائه دهیم.
استفاده از تکنولوژی برای ساختن یک جهان هوشمند، ارائه دهنده خدمات قابل اعتماد محصولات ICT شما
سندي يانگ، مدير استراتژي جهاني
واتساپ / وی چت: +86 13426366826
ایمیل: yangyd@qianxingdata.com
وب سایت: www.qianxingdata.com/www.storagesserver.com
تمرکز کسب و کار:
توزیع محصولات ICT / ادغام سیستم و خدمات / راه حل های زیرساخت
با 20+ سال تجربه توزیع فناوری اطلاعات، ما با مارک های پیشرو جهانی همکاری می کنیم تا محصولات قابل اعتماد و خدمات حرفه ای را ارائه دهیم.
استفاده از تکنولوژی برای ساختن یک جهان هوشمند، ارائه دهنده خدمات قابل اعتماد محصولات ICT شما