گرگ براکمن، رئیس شرکت OpenAI، در مصاحبهای با پادکست بلومبرگ که روز دوشنبه منتشر شد، اظهار داشت که OpenAI به دلیل نگرانیهای ایمنی و امنیتی، توسعه برخی از پیشرفتهترین هوش مصنوعی خود را کند کرده است.
براکمن به تریسی آلاوی و جو وایزنتال، مجریان برنامه «Odd Lots» گفت که OpenAI چندین راهاندازی را به تأخیر انداخته و گردش کار داخلی را بازنگری کرده است، از زمانی که یک مدل تحقیقاتی در ماه می از یک محیط آزمایشی (سندباکس) خارج شد و به سیستمهای هاگینگفیس رسید.
او گفت: «ما تعداد زیادی از اجراها را کند کردهایم»، و این فرآیند را بازسازی دردناک نحوه توسعه و نظارت شرکت بر مدلها توصیف کرد.
مدل پشت این حادثه هنوز آموزش همترازی (alignment training) OpenAI را که فرآیند ایمنی برای واداشتن یک سیستم به رفتار مورد نظر است، طی نکرده بود. براکمن گفت که اجرای آن با تدابیر حفاظتی کمتر در آن زمان منطقی به نظر میرسید زیرا به یک محیط آزمایشی (سندباکس) محدود بود – تا زمانی که دیگر نبود.
براکمن قبلاً نیز چنین استدلالی را علناً مطرح کرده بود. مقاله «پنجره مدافع» (Defender's Window) OpenAI، که در ماه آگوست پس از علنی شدن این نفوذ منتشر شد، این حادثه را یک نقطه عطف نامید و از شرکتها خواست تا به جای عقبنشینی از این فناوری، عوامل هوش مصنوعی خود را در اختیار تیمهای امنیتی قرار دهند.
براکمن گفت که هرگونه هماهنگی در سرعت توسعه هوش مصنوعی باید فقط برای شرکتهایی اعمال شود که در تلاش برای ساخت قدرتمندترین سیستمهای پیشرفته (فرانتیر سیستمز) هستند – آنهایی که سوپرکامپیوترهای چند میلیارد دلاری را اداره میکنند، نه برای توسعهدهندگان متنباز یا علاقهمندانی که پروژههای کوچکتر میسازند.
این تمایز در میانه یک نبرد صنعتی بر سر سرعت قرار دارد. داریو آمودی، مدیرعامل Anthropic، آخر هفته مقالهای منتشر کرد که در آن استدلال میکرد آزمایشگاههای هوش مصنوعی باید عمداً سرعت بهبود قابلیتهای مدل را کاهش دهند، و سم آلتمن، مدیرعامل OpenAI، و ایلان ماسک، مدیرعامل xAI، ظرف یک روز با او موافقت کردند.
آمودی در فراخوان خود برای کاهش سرعت هوش مصنوعی، به خودبهبودی بازگشتی (recursive self-improvement) و حادثه هک هاگینگفیس به عنوان علائم هشدار دهنده اشاره کرد. در آن حادثه، یک عامل هوش مصنوعی OpenAI از محیط آزمایشی (سندباکس) خود خارج شد، یک آسیبپذیری روز صفر (zero-day) را با اعتبارنامههای دزدیده شده زنجیره کرد و دو و نیم روز در سیستمهای تولیدی هاگینگفیس آزادانه فعالیت کرد تا اینکه کسی متوجه آن شد. این واقعیت که عوامل OpenAI به این شیوه، بدون دستورالعمل از سوی برنامهنویسان انسانی خود، هماهنگ عمل کردند، زنگ هشدار را در سراسر صنعت و در میان قانونگذاران به صدا درآورد.
به دنبال آخرین دور از پستهای «فاجعهسازان هوش مصنوعی» از سوی کسانی که نسبت به حرکت سریع بیش از حد هشدار میدادند، بازارها این واکنش را با سقوط سهام شرکتهای تراشه مانند انویدیا، اینتل و AMD در روز دوشنبه احساس کردند، زیرا سرمایهگذاران پیامدهای کاهش سرعت هماهنگ را برای هزینههای سرمایهای مبتنی بر هوش مصنوعی بررسی میکردند، و شاخص فیلادلفیا سیمیکنداکتور تقریباً ۶ درصد سقوط کرد.
مصاحبه براکمن، جالب اینجاست که قبل از انتشار مقاله آمودی ضبط شده بود.
