سم آلتمن، مدیرعامل OpenAI، می‌گوید شرکت‌های هوش مصنوعی باید توسعه کندتر را بپذیرند تا سیستم‌های خود را ایمن‌تر کنند و بدون انتظار برای قانون‌گذاری، تقویت تدابیر ایمنی را آغاز کنند.

مدیر شرکت سازنده ChatGPT روز یکشنبه در پستی در شبکه اجتماعی X گفت که توسعه سریع هوش مصنوعی این خطر را دارد که آینده را فراتر از کنترل انسان قرار دهد یا قدرت زیادی را در یک شخص یا شرکت متمرکز کند، و به «دو روش که پیشرفت هوش مصنوعی می‌تواند بسیار بد پیش برود و ما باید از آنها اجتناب کنیم» اشاره کرد.

آلتمن نوشت: «اول، ما می‌توانیم کنترل آینده را به هوش مصنوعی واگذار کنیم. این غیرقابل قبول است؛ ما بدون عذرخواهی در تیم بشریت هستیم و هوش مصنوعی همیشه باید در خدمت مردم باشد.» او افزود: «برای اطمینان از این امر، ما به روش‌هایی نیاز داریم تا تضمین کنیم که تکنیک‌های همسوسازی و ایمنی جلوتر از پیشرفت در قابلیت‌های مدل باقی بمانند.»

آلتمن هشدار داد که دومین خطر این است که قدرت می‌تواند در یک شخص یا شرکت متمرکز شود و به آنها اجازه دهد تا از هوش مصنوعی فوق‌العاده قدرتمند برای تحمیل جهان‌بینی خود بر دیگران با نتایج بالقوه دیستوپیایی استفاده کنند.

او نوشت: «اجتناب از این دو تهدید مستلزم پیمودن یک مسیر میانی باریک است؛ برای مثال، یک کشور می‌تواند قدرت زیادی به دست آورد.» او اضافه کرد: «نمونه دیگر این است که یک آزمایشگاه به قدرت زیادی دست پیدا کند.»

در پستی جداگانه، آلتمن گفت شرکت‌های هوش مصنوعی آمریکایی باید به مردم اطمینان دهند که با سرعت گرفتن پیشرفت، سیستم‌های با قابلیت‌های فزاینده را مسئولانه توسعه خواهند داد. پست او پس از اوج گرفتن بحث‌ها درباره نحوه تنظیم هوش مصنوعی پیشرفته توسط دولت‌ها منتشر شد.

او نوشت: «وقتی درباره «تنظیم سرعت» صحبت می‌کنیم، منظورمان «توقف» نیست.» او افزود: «پیشرفت سریع بوده و ادامه خواهد داشت. اما باید کندتر از آنچه می‌توانست باشد، باشد؛ اقداماتی مانند پرونده‌های ایمنی و نظارت هزینه‌های قابل توجهی دارند.»

آلتمن گفت شرکت‌ها به ابزارهای جدیدی برای ارزیابی ایمنی در طول توسعه و ارزیابی هوش مصنوعی نیاز دارند، که شامل گسترش بررسی‌ها فراتر از مدل‌های تکمیل‌شده‌ای است که در انتظار انتشار هستند.

او گفت: «به عنوان مثال، در OpenAI ما اکنون پرونده‌های ایمنی صریح را پیش از اجرای عملیات یادگیری تقویتی مرزی که انتظار داریم قابلیت‌ها را به طور قابل توجهی افزایش دهند، تدوین می‌کنیم، علاوه بر کارهای ایمنی که مدت‌هاست پیش از انتشار مدل‌ها انجام داده‌ایم.»

آلتمن از شرکت‌ها خواست تا برای جلوگیری از دنبال کردن اهدافی توسط سیستم‌های هوش مصنوعی که با منافع انسانی در تضاد هستند، با یکدیگر همکاری کنند.

او نوشت: «ما امیدواریم که سایر شرکت‌ها از رویکردهای ما درس بگیرند و رویکردهای خود را پیشنهاد دهند؛ ما فکر می‌کنیم استانداردهای مشترک برای عدم همسویی، نظارت و ایمنی به نتایج بهتری منجر خواهد شد.»

در حالی که آلتمن از قوانین ایمنی فدرال و حسابرسان مستقل استقبال کرد، از شرکت‌ها خواست که بدون انتظار برای قانون‌گذاری یا معافیت از قوانین ضدانحصار عمل کنند، این درخواست پس از گزارش‌های روز جمعه مبنی بر اینکه OpenAI از کنگره پرسیده بود که آیا رقبا می‌توانند به طور قانونی برای کاهش سرعت همکاری کنند، مطرح شد.

او نوشت: «جایی که ما به کمک دولت خود نیاز خواهیم داشت، برای هماهنگی بین‌المللی است.» او اضافه کرد: «اما ابتدا باید کاری را که می‌توانیم خودمان انجام دهیم.»

اظهارات او پس از شکست‌های آزمایش‌های امنیت سایبری در OpenAI و Anthropic مطرح شد. Anthropic پس از اینکه کلود در طول آزمایش‌ها بدون تدابیر حفاظتی استاندارد محصول به سیستم‌های واقعی دسترسی پیدا کرد، مهار و نظارت را تشدید کرد، در حالی که OpenAI یک مدل را ایزوله کرد و بزرگترین دوره آموزشی برنامه‌ریزی شده خود را پس از هماهنگی عوامل برای تقلب در یک معیار و حمله به هاگینگ فیس، متوقف کرد.