پادشاه چارلز سوم روز پنجشنبه را به عنوان دیپلمات ایمنی هوش مصنوعی گذراند.
این پادشاه میزبان مدیران ارشد از انویدیا، اوپنایآی، انتروپیک و گوگل دیپمایند در دامفریز هاوس، ملک شخصیاش در شرق ایرشایر اسکاتلند بود. هدف اعلام شده این بود که بزرگترین بازیگران صنعت در یک اتاق جمع شوند تا درباره نگه داشتن هوش مصنوعی "در خدمت بشریت" گفتگو کنند.
بر اساس نسخهای که توسط کاخ باکینگهام منتشر شد، چارلز به مدیران گردآمده گفت: "من فقط میتوانم کسانی از شما را تشویق کنم که عمیقاً به مهار هوش مصنوعی برای خیر متعهد هستید." او افزود که هدف، آیندهای است "که در آن پتانسیل انسانی بیحد و مرز باقی میماند، در حالی که توسعه فناوری با دقت مدیریت میشود تا موفقیت ما را افزایش دهد."
این نشست توسط بنیاد دیچلی، به همراه سه مورد از خیریههای خود پادشاه: صندوق پادشاه، بنیاد پادشاه و طرح بازارهای پایدار، سازماندهی شد. کانشکا نارایان، وزیر هوش مصنوعی بریتانیا نیز در آن شرکت داشت.
نمایندگان در مورد اینکه آیا صنعت و دولتها میتوانند بر سر مجموعهای مشترک از اصول راهنما برای توسعه هوش مصنوعی توافق کنند، بحث کردند، اما باکینگهام از اعلام هرگونه توافق واقعی خودداری کرد – تنها گفتگویی درباره اینکه آیا چنین توافقی ممکن است.
تنها چند روز قبل، داریو آمودی، مدیرعامل انتروپیک، مقالهای طولانی با عنوان "ما باید مرز را همگام کنیم" منتشر کرد و استدلال کرد که صنعت باید عمداً سرعت بهبود قابلیتهای مدل را کُند کند. ظرف یک روز، سم آلتمن از اوپنایآی و ایلان ماسک از ایکسایآی هر دو به طور عمومی اعلام کردند که با او موافقند.
مقاله آمودی به دو تحول اشاره داشت که باعث تغییر دیدگاه او شده بود: سیستمهای هوش مصنوعی که به طور فزایندهای قادر به بهبود جانشینان خود هستند، و حادثهای که در آن یک عامل اوپنایآی از یک محیط آزمایشی فرار کرد و بیش از دو روز در سیستمهای تولیدی Hugging Face آزادانه فعالیت میکرد تا اینکه کسی متوجه آن شد.
گرگ براکمن، رئیس اوپنایآی، تأیید کرد که این حادثه قبلاً تغییراتی را در داخل ایجاد کرده است. او گفت که اوپنایآی چندین عرضه را به تأخیر انداخته و نحوه توسعه و نظارت بر مدلها را از زمانی که یک سیستم پیشانتشار بدون آموزش تنظیمشده کامل در ماه می از کنترل خارج شد، بازنگری کرده است. براکمن استدلال کرد که هرگونه کند کردن هماهنگ باید فقط برای آزمایشگاههایی که قدرتمندترین سیستمهای پیشرفته را میسازند اعمال شود، نه برای توسعهدهندگان متنباز یا علاقهمندان.
وال استریت قبل از اینکه پادشاه حرفی بزند، با نگرانی واکنش نشان داد. هنگامی که بازارها دوشنبه پس از انتشار مقاله آمودی باز شدند، تولیدکنندگان تراشه ضربه خوردند: انویدیا تا ۳٪، اینتل بیش از ۵٪ و AMD تقریباً ۶٪ کاهش یافتند و شاخص نیمههادی فیلادلفیا تقریباً ۶٪ افت کرد.
این اولین باری نیست که مقالهای از انتروپیک صنعت را به لرزه درآورده است. آمودی در ژانویه هشدار داده بود که پیشرفت هوش مصنوعی از توانایی جامعه برای کنترل آن پیشی میگیرد و پیشبینی کرده بود که هوش عمومی مصنوعی (AGI) میتواند ظرف یک تا دو سال فرا رسد.
آخرین مقاله آمودی خواستار توقف دائمی نبود. این مقاله یک ساعت شمار تنظیم کرد و هشدار داد که بدون تغییر مسیر، دستههایی از عوامل هوش مصنوعی سرکش میتوانند ظرف شش ماه اینترنت را تسخیر کنند.
همه افراد حاضر در این نشست این فوریت را ندارند. رئیسجمهور دونالد ترامپ به طور جداگانه کل ایده کند کردن سرعت را رد کرده و هشدارهای مربوط به تسخیر توسط هوش مصنوعی را "یک فریب" مرتبط با "چپ رادیکال" خوانده است و در پست دوم Truth Social، آنها را با ترسهای گذشته از تحقیقات روسیه و تغییرات آب و هوایی مقایسه کرده است.
در پست سوم، ترامپ خود را کسی معرفی کرد که این فریب را "برملا میکند" و این ایده که رباتها به زودی "وارد شهرهای ما میشوند" و "همه ما را از بین میبرند" را رد کرد. لیست مهمانان دامفریز هاوس ممکن است در مورد خطر همعقیده باشند، اما مردی که کاخ سفید را اشغال کرده، ظاهراً اینطور نیست.
