سناتور برنی سندرز (نماینده مستقل از ورمونت) و نماینده مجلس گرگ کاسار (دموکرات از تگزاس) روز پنجشنبه قانونی را برای ممنوعیت دائمی هوش مصنوعی فوقهوشمند و توقف موقت توسعه پیشرفته هوش مصنوعی، با مجازات حبس تا ۲۰ سال برای متخلفان، اعلام کردند.
قانون ممنوعیت هوش مصنوعی فوقهوشمند (The Ban Artificial Superintelligence Act) توسعه پیشرفته هوش مصنوعی را تا زمانی که یک آژانس فدرال جدید استانداردهای ایمنی و رویههایی برای بررسی مدلهای هوش مصنوعی تعیین کند، به حالت تعلیق در میآورد. سندرز شرکتهای بزرگ هوش مصنوعی را متهم کرد که فناوریای را توسعه میدهند که کاملاً آن را درک نمیکنند و نمیتوانند به طور قابل اطمینانی کنترل کنند.
سندرز در یک بیانیه مطبوعاتی گفت: «به همین دلیل است که من قانونی را برای توقف فوری توسعه هوش مصنوعی فزاینده قدرتمند و ممنوعیت ایجاد سیستمهایی که بشریت نمیتواند به طور کامل کنترل کند — چه در داخل کشور و چه در سراسر جهان — ارائه میدهم.»
این پیشنهاد هوش فوقهوشمند را به عنوان هوش مصنوعیای تعریف میکند که تواناییهای انسانی را در بسیاری از وظایف مطابقت یا از آن فراتر میرود، یا میتواند کنترل انسانی را تضعیف کند، از جمله با سرنگونی دولت ایالات متحده. این تعریف همچنین شامل AGI در سطح انسانی میشود، اگرچه هوش فوقهوشمند معمولاً به هوش مصنوعیای اشاره دارد که از تواناییهای انسانی فراتر میرود.
یک آژانس جدید در سطح کابینه، مدلهای پیشرفته را نظارت خواهد کرد، حذف قابلیتهای خطرناک را سرپرستی کرده و بر از بین بردن سیستمهای ممنوعه نظارت خواهد داشت. یک هیئت مشورتی هوش مصنوعی (Artificial Intelligence Advisory Board) مشاورههای علمی و فنی ارائه خواهد داد.
شرکتهایی که محدودیتها را نقض یا از آن فرار کنند، با آنچه سندرز و کاسار «مجازات مرگ شرکتی» مینامند، روبرو خواهند شد.
این خبر در حالی منتشر شد که اوپنایآی از GPT-6 آسترا رونمایی کرد، مدلی که گرگ براکمن، یکی از بنیانگذاران آن، پیشنهاد کرد که میتواند به عنوان AGI (هوش مصنوعی عمومی) شناخته شود.
به گفته آکسیوس، براکمن این ارزیابی را به عنوان باور شخصی خود توصیف کرد و کاربران را برای قضاوت در مورد اینکه آیا آسترا این تعریف را برآورده میکند، آزاد گذاشت.
اوپنایآی میگوید آسترا اولین مدل آن است که به آستانه قابلیت حیاتی سایبری خود رسیده است. این نامگذاری به این معنی است که این مدل میتواند بدون راهنمایی گام به گام انسانی، آسیبپذیریهای ناشناخته قبلی را در سیستمهای حفاظتشده کشف و بهرهبرداری کند. قدرتمندترین قابلیتهای امنیت سایبری آن برای آزمایشکنندگان منتخب محدود خواهد ماند.
این لایحه به دنبال یک سری حوادث است که در آنها مدلهای هوش مصنوعی در طول آزمایش، دسترسی غیرمجاز به سیستمهای رایانهای واقعی پیدا کردند.
در ماه جولای، اوپنایآی تأیید کرد که مدلهایش به Hugging Face نفوذ کردهاند تا به پاسخهای آزمایش دست یابند. سپس Anthropic فاش کرد که مدلهای Claude پس از یک خطای آزمایشی که آنها را در معرض اینترنت قرار داده بود، سه شرکت را به خطر انداختند. در ماه سپتامبر، Anthropic هم نقصهای امنیتی و هم رفتاری را تأیید کرد و تدابیر حفاظتی خود را سختتر کرد.
کاسار گفت: «با وجود پیامدهای بالقوه مرگبار آن، فناوری هوش مصنوعی پیشرفته کمتر از یک کامیون غذای معمولی تنظیم شده است. این باید تغییر کند.»
