کنسرسیومی از شرکت‌های فناوری از جمله انویدیا، مایکروسافت، آی‌بی‌ام، سیسکو، کلودفلر، هاگینگ فیس، Salesforce و Palantir ائتلاف هوش مصنوعی ایمن و باز (Open Secure AI Alliance) را راه‌اندازی کرده است؛ این یک ابتکار صنعتی برای توسعه ابزارها و استانداردهای متن‌باز برای ایمنی و امنیت سایبری هوش مصنوعی است.

انویدیا در پست وبلاگ دوشنبه خود اعلام کرد که این ائتلاف بر پایه کارهای انجام شده توسط ابتکار Akrites از بنیاد لینوکس و بنیاد امنیت متن‌باز (OpenSSF) برای توسعه ابزارهای امنیتی هوش مصنوعی باز بنا شده است که به سازمان‌ها در شناسایی آسیب‌پذیری‌ها و پاسخ به تهدیدات سایبری کمک می‌کند.

جنسن هوانگ، مدیرعامل انویدیا، در X نوشت: «مهاجمان هوش مصنوعی مرزی دارند. مدافعان به یک اکوسیستم هوش مصنوعی مرزی نیاز دارند — بهترین مدل‌های باز و بسته، که با یک جامعه جهانی تقویت شده‌اند.» وی افزود: «در طول حادثه Hugging Face، هوش مصنوعی بسته جلوی بررسی‌های قضایی ضروری را گرفت. یک مدل مرزی با وزن باز به مهار نفوذ کمک کرد.»

او اضافه کرد: «به همین دلیل ما ائتلاف هوش مصنوعی ایمن و باز را ایجاد کردیم.»

بیش از ۴۰ شرکت و سازمان به عنوان اعضای مؤسس شرکت می‌کنند که از جمله آن‌ها می‌توان به Dell Technologies، CrowdStrike، Palo Alto Networks، SAP، Siemens، Red Hat و NetApp اشاره کرد.

انویدیا اعلام کرد که مدل‌های باز، وزن مدل‌ها، مجموعه‌داده‌ها و تحقیقات مربوط به مهارکننده‌های عامل هوش مصنوعی را ارائه خواهد کرد. این شرکت همچنین چارچوب عامل شیءگرا Nvidia Labs، یا NOOA، را به صورت متن‌باز در گیت‌هاب منتشر کرد و گفت که این چارچوب برای آسان‌تر کردن تست، ممیزی و مدیریت عامل‌های هوش مصنوعی طراحی شده است.

این خبر در حالی منتشر می‌شود که مدل‌های هوش مصنوعی مرزی به کانون حوادث برجسته امنیت سایبری تبدیل شده‌اند.

در ماه ژوئن، محققان فاش کردند که مدل Claude Opus 4.8 از Anthropic به کشف یک آسیب‌پذیری بحرانی چهار ساله در Zcash کمک کرده است که می‌توانست به یک مهاجم اجازه دهد مقدار نامحدودی ZEC جعلی ضرب کند.

اوایل این ماه، OpenAI فاش کرد که دو مدل آزمایشی از یک محیط آزمایش محدود فرار کرده و به زیرساخت تولید Hugging Face نفوذ کرده‌اند، در حالی که قصد داشتند در یک معیار امنیت سایبری تقلب کنند. این حادثه منجر به درخواست سیاست‌گذاران برای یک «کلید قطع» هوش مصنوعی شد که به وزارت امنیت داخلی این امکان را می‌دهد تا در پاسخ به حوادث امنیتی جدی، دستور کاهش سرعت یا خاموش کردن کامل مدل‌های پیشرفته هوش مصنوعی را صادر کند.

این اعلامیه همچنین در پی نامه‌ای سرگشاده که هفته گذشته منتشر شد، می‌آید که در آن استدلال شده بود مدل‌های هوش مصنوعی با وزن باز برای حفظ رهبری ایالات متحده در هوش مصنوعی ضروری هستند. در کنار انویدیا، شرکت‌هایی از جمله SpaceXAI متعلق به ایلان ماسک، گوگل، مایکروسافت، متا، OpenAI، Hugging Face، CrowdStrike و Palantir این نامه را امضا کردند و از سیاست‌گذاران خواستند تا از اکوسیستم‌های هوش مصنوعی باز حمایت کنند، نه اینکه محدودیت‌هایی را اعمال کنند که می‌تواند توسعه هوش مصنوعی را در میان تعداد کمی از ارائه‌دهندگان متمرکز کند.

انویدیا اعلام کرد که هدف این ائتلاف اطمینان از این است که سیستم‌های هوش مصنوعی که از زیرساخت‌های حیاتی محافظت می‌کنند، بر پایه مدل‌ها و ابزارهای بازی ساخته شوند که مدافعان می‌توانند آن‌ها را بازرسی، تطبیق و استقرار دهند، به جای اتکا به تعداد کمی از سیستم‌های اختصاصی و مبهم.

این شرکت نوشت: «جهان به هر دو مدل بسته و باز نیاز دارد.» وی افزود: «برای امنیت سایبری، مدل‌های باز و مهارکننده‌های باز ضروری هستند زیرا آن‌ها قابلیت‌های دفاعی را دموکراتیزه می‌کنند، شفافیت را برای مدافعان افزایش می‌دهند، دفاع سایبری را ضمن حفاظت از داده‌ها ممکن می‌سازند و مدل‌های مرزی بسته را با کنترل‌های قابل تنظیم و محلی تکمیل می‌کنند. متن‌باز دفاعی کاملاً توزیع‌شده، جامعه‌محور و خودکنترل را فراهم می‌کند — بدون هیچ نقطه ضعف واحدی.»