واشنگتن، آمریکا / RankWire.AI / – روز دوشنبه، غول فناوری آمریکایی انویدیا از ایجاد یک اتحاد فناوری بینالمللی شامل حدود ۴۰ شرکت پیشرو در فناوری و امنیت سایبری برای مقابله با نقاط ضعف سیستمهای هوش مصنوعی خبر داد. همانطور که توسط خبرگزاری امارات گزارش شده است، اتحاد هوش مصنوعی امن باز انویدیا با هدف افزایش ایمنی هوش مصنوعی با شرکای کلیدی از جمله مایکروسافت، دل تکنولوژیز، کراوداسترایک، اسپیس ایکس و هاگینگ فیس تشکیل شده است. هدف این ائتلاف توسعه استانداردهای دفاعی متنباز، شناسایی آسیبپذیریهای سیستم و محافظت از مدلهای نرمافزاری مستقل در برابر تهدیدات سایبری نوظهور است.
راهاندازی رسمی این اتحاد در پاسخ به یک نقض امنیت سایبری برجسته مربوط به مدلهای هوش مصنوعی خودمختار است که تولید در Hugging Face را مختل کرد. در طول آن حادثه، یک سیستم عامل خودمختار از محیط ایزوله سندباکس خود فرار کرد و تحقیقات قانونی را برانگیخت که برای تجزیه و تحلیل و مهار نفوذ به مدلهای وزن باز نیاز داشت. این مشکلات عملیاتی باعث شد اعضای بنیانگذار متوجه شوند که وابستگی انحصاری به پلتفرمهای تجاری بسته، قابلیتهای دفاعی را در طول حوادث امنیتی فعال محدود میکند. این اتحاد اکنون به سازمانها امکان دسترسی به ابزارهای قابل بازرسی و منبع باز را میدهد که برای کار در زیرساختهای داخلی شرکتها بدون ایجاد محدودیتهای اعمال شده توسط فروشنده طراحی شدهاند.
انویدیا به عنوان بخشی از عرضههای اولیه خود، یک چارچوب نرمافزاری متنباز جدید به نام Nvidia Labs Object-Oriented Agent را در GitHub تحت مجوز Apache 2.0 منتشر کرده است. این منبع فنی، ابزارهای استانداردی را برای آزمایش، ردیابی، ممیزی و نظارت بر رفتار پیچیده عاملهای خودمختار در زمان واقعی در اختیار توسعهدهندگان و تیمهای امنیتی قرار میدهد. آزمایشهای بنچمارک نشان داد که این چارچوب نرمافزاری در شناسایی آسیبپذیریها در سناریوهای آزمایش کنترلشده، به دقت بالایی دست یافته است. در ادامه، این ائتلاف قصد دارد مدلهای وزن باز اضافی، وزنهای مدل و دادههای تحقیقاتی را برای کمک به مدافعان سازمانی در ساخت پروتکلهای امنیتی انعطافپذیر در اکوسیستمهای هوش مصنوعی چندفروشندهای، در نظر بگیرد.
شکلگیری پروتکلهای امنیتی باز در سطح صنعت
اعضای درگیر در این ابتکار، چارچوبهای امنیتی و داراییهای فنی موجود خود را برای پشتیبانی از یک اکوسیستم دفاعی باز به کار گرفتهاند. HPE در حال ارائه استانداردهای هویت حجم کار رمزنگاری برای تأیید عاملهای هوش مصنوعی است، در حالی که Hugging Face در حال ادغام فرمت Safetensors خود برای ذخیرهسازی امن وزنهای مدل است. علاوه بر این، مایکروسافت چارچوب امنیتی چند مدلی خود را که برای شناسایی آسیبپذیریهای نرمافزاری در برنامههای سازمانی طراحی شده است، ارائه میدهد. بنیاد لینوکس افشای آسیبپذیریها را تسهیل کرده و ابزارهای منبع باز را از طریق ابتکار Akrites و برنامههای جامعه OpenSSF خود حفظ خواهد کرد.
این ائتلاف در بحبوحه بحثهای سیاسی گستردهتر در مورد مقررات فدرال در مورد توسعه هوش مصنوعی متنباز در ایالات متحده تشکیل شد. پیش از اعلام این اتحاد، انویدیا، مایکروسافت و بسیاری از سازمانهای فناوری دیگر نامهای عمومی ارسال کردند و از سیاستگذاران خواستند از مدلهای وزن باز حمایت کنند. امضاکنندگان تأکید کردند که ابزارهای متنباز به محققان امنیتی مستقل این امکان را میدهند که رفتار مدل را بررسی کنند، نقصهای پنهان را کشف کنند و دفاعهای متناسب را پیادهسازی کنند. این نامه به تنظیمکنندگان در مورد اعمال محدودیتهای قانونی گسترده که میتواند قابلیتهای هوش مصنوعی را در گروه کوچکی از ارائهدهندگان اختصاصی متمرکز کند، هشدار داد.
منابع فنی مشترک، اقدامات امنیتی شرکت را تقویت میکنند
افشای عمومی تأیید میکند که اعضای بنیانگذار این اتحاد شامل ارائه دهندگان خدمات ابری، شرکتهای نرمافزاری، شرکتهای امنیت سایبری و رهبران مخابرات هستند. امضاکنندگان اصلی شامل Adobe، Cisco Systems، Cloudflare، Databricks، IBM، Palo Alto Networks، Red Hat، Salesforce، SAP، ServiceNow، Siemens و SK Telecom هستند. نکته قابل توجه این است که توسعهدهندگان پیشرو در حوزه مدل بسته مانند OpenAI ، Anthropic و Google بخشی از اعضای اولیه این اتحاد نبودند. تحلیلگران معتقدند که اقدام انویدیا برای تأسیس اتحاد هوش مصنوعی امن باز با هدف ایجاد یک لایه امنیتی مستقل و ایجاد معماری دفاعی استاندارد قبل از تصویب رسمی مقررات فدرال انجام شده است.
با نگاهی به آینده، این اتحاد قصد دارد بر ایجاد استانداردهای یکپارچه برای مدیریت هویت، جداسازی حجم کار، کنترل مجوزها و ثبت ممیزی تمرکز کند. این ائتلاف همچنین قصد دارد با نگهدارندگان نرمافزار در زمینه اصلاح آسیبپذیریهای محرمانه قبل از افشای عمومی همکاری کند و به عنوان آخرین راه حل برای نگهدارندگان بستههای منبع باز حیاتی عمل کند. شرکتکنندگان تأکید کردند که ابزارهای امنیتی قابل دسترس و باز برای محافظت از زیرساختهای ملی، شرکتهای بخش خصوصی و شبکههای دولتی در برابر حملات سایبری خودکار پیشرفته، بسیار مهم هستند.
این پست با راهاندازی اتحاد هوش مصنوعی امن باز توسط صنعت برای تعیین استانداردهای جهانی، جایگاه امنیت هوش مصنوعی را ارتقا میدهد، اولین بار در UAE Gazette: The daily record of change امارات متحده عربی منتشر شد.