کارشناسان امنیتی ایالات متحده و چین قوانینی را پیشنهاد کردهاند که هوش مصنوعی را از راهاندازی مستقل حملات سایبری علیه سیستمهای فرماندهی هستهای یا تصمیمگیری برای استفاده از سلاحهای هستهای منع میکند.
گزارشی اخیر از سوی موسسه بروکینگز و دانشگاه فودان شانگهای، ایالات متحده و چین را ترغیب میکند تا تعهد خود به کنترل انسانی سلاحهای هستهای را به سایر کاربردهای نظامی هوش مصنوعی، از جمله حملات سایبری به سیستمهای فرماندهی هستهای، گسترش دهند.
پژوهشگران نوشتند: «رؤسای جمهور دونالد ترامپ و شی جینپینگ میتوانند با توافق بر سر اینکه تنها انسانها، نه هوش مصنوعی، باید تصمیمگیرنده حملات سایبری علیه سیستمهای فرماندهی، کنترل و ارتباطات هستهای (NC3) یا زیرساختهای حیاتی یکدیگر باشند، در مدیریت این خطرات پیشرو باشند.»
سیستمهای NC3 به دولتها در شناسایی تهدیدها، تصمیمگیری در مورد استفاده از سلاحهای هستهای و ارسال دستورات پرتاب کمک میکنند، اما نقص در هر مرحله میتواند ارتباطات را مختل کند، حمله را اشتباه تفسیر کند، حمله پیشدستانه را تشویق کند، یا یک پرتاب تصادفی یا غیرمجاز را فعال سازد.
پژوهشگران نوشتند: «گسترش اصلی که در مورد سلاحهای هستهای به کار میرود – اینکه حملات با تأثیرات استراتژیک باید بیانگر نیت انسانی بوده و تابع مسئولیتپذیری انسانی باشند – واشنگتن و پکن را ملزم به اشتراکگذاری سایر اصول امنیت سایبری یا حفاظت از زیرساختها نمیکند.»
توافق پیشنهادی از هر دو کشور میخواهد تا خطر اینکه شانس، خطای انسانی، هوش مصنوعی غیرقابل پیشبینی یا عوامل غیرمجاز میتوانند حملاتی با پیامدهای استراتژیک را آغاز کنند، کاهش دهند.
درخواست برای تدابیر ایمنی مشابه هستهای، بخشی از بحث رو به رشدی است که چگونه توسعه هوش مصنوعی را کند کرده و سیستمهای با قابلیت فزاینده را تحت کنترل انسان نگه داریم. این نگرانی به ویژه در حوزه نظامی حاد است، جایی که تصمیمات خودکار گرفته شده در میلیثانیهها میتوانند یک هشدار دروغین یا حمله سایبری را به بحران هستهای تبدیل کنند.
این نگرانی در ماه فوریه زمانی تشدید شد که مدلهای OpenAI، گوگل و آنتروپیک در 95% از سناریوهای بازی جنگی آزمایش شده، از سلاحهای هستهای استفاده کردند، اگرچه کارشناسان هشدار دادند که این شبیهسازی ممکن است به تشدید تنش دامن زده باشد.
در همان ماه، آنتروپیک درخواستهای پنتاگون برای حذف محدودیتهای کلود بر نظارت گسترده و تسلیحات کاملاً خودمختار را رد کرد. ترامپ به آژانسهای فدرال دستور داد تا استفاده از فناوری این شرکت را متوقف کنند، اما یک قاضی فدرال در 28 اوت حکم داد که دولت به طور غیرقانونی علیه آنتروپیک اقدام تلافیجویانه انجام داده است.
از آن زمان، درخواستها برای خویشتنداری در سراسر صنعت گسترش یافته است. اوایل این ماه، داریو آمودی، مدیرعامل آنتروپیک، از توسعهدهندگان خواست تا سرعت پیشرفت قابلیتها را کاهش دهند و حمایت سام آلتمن، مدیرعامل OpenAI و ایلان ماسک، مالک xAI را به دست آورد، در حالی که OpenAI از کنگره پرسید که آیا شرکتها میتوانند بدون نقض قانون ضد انحصار، یک کاهش سرعت را هماهنگ کنند.
با عدم وجود یک کندی الزامآور، نویسندگان بروکینگز یک قانون محدودتر را پیشنهاد میکنند: فقط انسانها باید اجازه داشته باشند حملات به سیستمهای فرماندهی هستهای یا استفاده از سلاحهای هستهای را تأیید کنند.
آنها نوشتند: «حکمرانی هوش مصنوعی نظامی یک مذاکره نیست که بتوان آن را به تعویق انداخت – این یک مسابقه با زمان است.»
BTC