آناتولی یاکوونکو، هم‌بنیان‌گذار سولانا، انگیزه‌های مالی پشت پیشنهاد کند کردن پیشرفت هوش مصنوعی را زیر سوال برد؛ پیشنهادی که در ۱۳ سپتامبر توسط داریو آمودی، سم آلتمن و ایلان ماسک حمایت شد.

پست یاکوونکو در X، پاسخ او را به چهار کلمه کاهش داد: «سودآوری در ارزش بازار ۱ تریلیون دلاری». او مشخص نکرد که این رقم به کدام شرکت اشاره دارد یا هیچ محاسبه درآمد، ارزش‌گذاری یا سودآوری برای حمایت از این اظهارنظر ارائه نکرد.

این اظهارنظر در پاسخ به بحثی بود که توسط داریو آمودی، مدیرعامل Anthropic، آغاز شد. او مقاله‌ای منتشر کرده بود که خواستار پیشرفت کندتر در هوش مصنوعی پیشرو بود. سم آلتمن، مدیرعامل OpenAI، بخشی از این پیشنهاد را تأیید کرد، در حالی که ماسک طبق گزارش رویترز نوشت: «داریو حق با توست.»

یاکوونکو تنظیم سرعت هوش مصنوعی را به انگیزه‌های مالی مرتبط می‌سازد

اظهارنظر یاکوونکو، سودآوری را به عنوان انگیزه‌ای احتمالی برای کند کردن توسعه مدل‌ها مطرح کرد، اما هم‌بنیان‌گذار سولانا این ایده را به عنوان یک مشاهده طعنه‌آمیز بیان کرد. پست او هیچ مدرکی دال بر هماهنگی Anthropic، OpenAI یا xAI در اظهاراتشان به دلایل مالی نداشت.

هیچ شرکت نام‌برده‌ای تأیید نکرده است که حمایتش از توسعه کندتر به رسیدن به ارزش ۱ تریلیون دلاری بستگی دارد. پیشنهاد آمودی به جای آن، به شکست‌های کنترل مدل، خطرات سایبری و سرعتی که سیستم‌های هوش مصنوعی به ایجاد سیستم‌های جدیدتر کمک می‌کنند، اشاره دارد.

رویترز گزارش داد که Anthropic و OpenAI در حال آماده‌سازی برای عرضه اولیه عمومی (IPO) احتمالی هستند. این گزارش انگیزه‌های مالی پیرامون توسعه مدل را توضیح داد اما ثابت نکرد که هیچ‌یک از شرکت‌ها به ارزش بازار ۱ تریلیون دلاری رسیده‌اند یا سودآوری خود را مشروط به آن ارزش‌گذاری کرده‌اند.

از آنجا که این شرکت‌ها همچنان خصوصی هستند، ارجاعات به ارزش بازار فقط می‌تواند تخمین‌هایی از معاملات خصوصی یا عرضه‌های پیشنهادی را توصیف کند. یاکوونکو توضیح نداد که آیا رقم او به Anthropic، OpenAI، xAI یا به طور کلی بخش هوش مصنوعی پیشرو اشاره دارد.

بنابراین، اظهارات او یک تفسیر شخصی است، نه یک پیش‌بینی مالی افشا شده از سوی Solana Labs، Anthropic، OpenAI یا xAI. هیچ بیانیه‌ای از بنیاد سولانا، شبکه بلاکچین یا توکن SOL آن را به اختلاف سیاست‌گذاری هوش مصنوعی مرتبط نکرده است.

آمودی خواهان تنظیم سرعت توسعه هوش مصنوعی پیشرو است، نه توقف آن

آمودی در مقاله خود با عنوان «باید سرعت پیشرفت را تنظیم کنیم»، گفت که توسعه‌دهندگان باید سرعت بهبود قابلیت‌های مدل را کاهش دهند. او تنظیم سرعت را از توقف آموزش مدل یا پایان دادن به تحقیقات فنی متمایز کرد.

آمودی نوشت: «ما باید سرعت بهبود قابلیت‌های مدل‌های هوش مصنوعی را کاهش دهیم.» او گفت که پیشرفت می‌تواند سریع باقی بماند در حالی که توسعه‌دهندگان زمان بیشتری را صرف آزمایش محافظت‌ها، مطالعه رفتار مدل و اجازه دادن به ارزیابان خارجی برای بررسی کارشان می‌کنند.

این پیشنهاد شامل سه مرحله است. Anthropic قصد دارد دسترسی مستمر به ارزیابان شخص ثالث را مشابه دسترسی کارکنان داخلی که ریسک را ارزیابی می‌کنند، فراهم کند. آمودی سازمان ارزیابی مدل و تحقیقات تهدید (Model Evaluation and Threat Research) که به اختصار METR نامیده می‌شود را به عنوان یک نمونه ذکر کرد.

مرحله دوم از شرکت‌های هوش مصنوعی پیشرو در کشورهای دموکراتیک می‌خواهد که در مورد الزامات ایمنی مشترک و محدودیت‌ها برای رشد قابلیت‌های کنترل‌نشده هماهنگ عمل کنند. آمودی اذعان داشت که بخش‌هایی از چنین هماهنگی می‌تواند مسائل ضدانحصاری را ایجاد کند و ممکن است به مجوز محدود دولتی نیاز داشته باشد.

مرحله سوم او خواستار هماهنگی بین‌المللی، شامل توافقات احتمالی با چین است. این مقاله چندین سطح ممکن را توصیف می‌کند، از محدودیت‌ها بر سلاح‌های بیولوژیکی با کمک هوش مصنوعی تا محدودیت نهایی بر بهبود سریع و خودکار مدل.

آمودی یک وقفه جامع را به عنوان کمترین شکل احتمالی توافق بین‌المللی معرفی کرد زیرا تأیید آن دشوار خواهد بود. او استدلال کرد که هر ترتیبی باید موقعیت تکنولوژیکی ایالات متحده و متحدانش را حفظ کند.

آلتمن و ماسک از بخش‌هایی از این طرح حمایت کرده‌اند

سم آلتمن، مدیرعامل OpenAI، در پستی در ۱۲ سپتامبر، مستقیماً این پیشنهاد را تأیید کرد. آلتمن نوشت: «من با داریو موافقم که باید سرعت پیشرفت را تنظیم کنیم.»

آلتمن به طور خاص درخواست آمودی برای ارزیابان خارجی تعبیه‌شده را پذیرفت. او گفت: «تعهد به داشتن ارزیابان مستقل با دسترسی مشابه کارمندان یک ایده عالی است و ما نیز همین کار را خواهیم کرد.» OpenAI اطلاعات بیشتری را وعده داد اما هیچ تاریخ اجرا، نام ارزیاب یا شرایط دسترسی را ارائه نکرد.

ماسک با خلاصه‌تر پاسخ داد. رویترز و فایننشال تایمز گزارش دادند که او مقاله آمودی را بازنشر کرده و نوشته است: «داریو حق با توست.» این پاسخ عمومی مشخص نکرد که xAI کدام بخش از طرح سه مرحله‌ای را اتخاذ خواهد کرد.

اظهارات موجود بنابراین از قرار دادن ماسک در گروه مدیرانی که از آمودی حمایت کردند، پشتیبانی می‌کند. آنها ثابت نمی‌کنند که ماسک، آلتمن و آمودی مشترکاً این طرح را توسعه داده‌اند یا بر سر جزئیات نظارتی آن به توافق رسیده‌اند.

هیچ یک از این سه مدیر اجرایی به طور عمومی ارتباط پیشنهادی یاکوونکو بین تنظیم سرعت و ارزش‌گذاری‌های تریلیون دلاری را تأیید نکردند. خط فکری یاکوونکو همچنان توصیف او از انگیزه‌های آنها باقی می‌ماند.

ساکس هماهنگی صنعتی را ضروری نمی‌داند

در یک پست جداگانه در X، دیوید ساکس گفت که Anthropic و OpenAI می‌توانند توسعه خود را کند کنند بدون اینکه نیازی به مشارکت رقبا یا قانون‌گذاران باشد.

ساکس خطاب به آمودی و آلتمن نوشت: «شماها پیشتاز هستید.» او این دو شرکت را دارای «انحصار دوگانه بر هوش پیشرو» توصیف کرد؛ ادعایی که بر اساس ارزیابی او از توانایی مدل، رشد درآمد و سهم بازار بود.

ساکس گفت که اگر سیستم‌های منتشر نشده خطراتی به اندازه کافی جدی برای نگرانی توسعه‌دهندگانشان ایجاد کنند، او از کاهش سرعت داوطلبانه حمایت خواهد کرد. او نیاز به معافیت ضدانحصاری، سیستم تأیید نظارتی یا ارزیابانی با اختیار بر آزمایشگاه‌های رقیب را مورد مناقشه قرار داد.

با این حال، پست او این شرکت‌ها را متهم به پیگیری احتمالی «تصرف نظارتی» کرد، اما هیچ مدرکی دال بر توافق بین Anthropic و OpenAI برای حذف رقبا ارائه نکرد. هیچ یک از این دو شرکت تا ۱۳ سپتامبر به طور عمومی توصیف ساکس را نپذیرفته بودند.

ساکس آسیب‌پذیری در قبال مسئولیت‌پذیری محصول را به عنوان دلیل احتمالی دیگری برای ترجیح سیستم‌های قابل پیش‌بینی‌تر توسط شرکت‌ها مطرح کرد. او استدلال کرد که مشتریان قبلاً مدل‌هایی را که به روش‌های غیرمجاز یا غیرقابل اعتماد عمل می‌کنند، مجازات می‌کنند. شرکت‌ها تأیید نکرده‌اند که نگرانی‌های مربوط به مسئولیت‌پذیری باعث حمایت آنها شده است.

این پست این سوال را مطرح کرد که آیا چین در یک توافق جهانی هوش مصنوعی شرکت خواهد کرد یا خیر. مقاله آمودی این مشکل تأیید را به رسمیت می‌شناسد، اگرچه آمودی همچنان از مذاکرات در مورد خطرات تعریف‌شده باریک حمایت می‌کند.

ارزیابی‌های خارجی گام وعده‌داده‌شده بعدی هستند

Anthropic متعهد شده است که یک تیم بازرسی خارجی را به فرآیند ایمنی داخلی خود دعوت کند. مقاله آن می‌گوید که بازرسان باید لپ‌تاپ‌های شرکت، دسترسی به دفتر و مجوزهایی مشابه کارکنان داخلی ارزیابی ریسک دریافت کنند، مشروط به محدودیت‌های قانونی و محرمانه.

بازرسان برنامه‌ریزی‌شده مجاز خواهند بود نتایج خود را بدون کنترل Anthropic بر نتیجه‌گیری‌هایشان منتشر کنند. ویرایش‌های محدود می‌توانند اطلاعات دارای امتیاز قانونی، حساس امنیتی، حساس تجاری یا محرمانه شخص ثالث را پوشش دهند. هیچ قرارداد ارزیاب یا تاریخ شروعی همراه با مقاله ارائه نشده بود. OpenAI قول داده است که سیستمی مشابه را اتخاذ کند. آلتمن گفت که شرکت به زودی جزئیات بیشتری را افشا خواهد کرد و ارزیاب، دامنه و قوانین انتشار را بی‌جواب گذاشت.

قانون‌گذاران ایالات متحده در حال بررسی رویکردهای محدودکننده‌تر هستند. همانطور که crypto.news قبلاً گزارش داده بود، یک پیشنهاد سندرز-کازار به دنبال ممنوعیت دائمی ابرهوش مصنوعی و تعلیق موقت کار پیشرفته هوش مصنوعی تا زمانی است که یک تنظیم‌کننده فدرال جدید قوانین ایمنی را تعیین کند. لایحه کامل زمانی که حامیان آن خلاصه‌اش را منتشر کردند، به طور رسمی معرفی نشده بود.

نگرانی‌های امنیت سایبری بخشی از بحث سیاست‌گذاری باقی مانده است. در پوشش مرتبط، مقاله‌ای از بانک تسویه حساب‌های بین‌المللی هشدار داد که هوش مصنوعی می‌تواند زمان‌های وصله‌زنی نرم‌افزار را از هفته‌ها به دقیقه کاهش دهد زیرا سیستم‌های خودکار آسیب‌پذیری‌ها را سریع‌تر شناسایی و سوءاستفاده می‌کنند.

آمودی از آزمایشگاه‌های پیشرو خواسته است که ارزیابی‌های داخلی را بپذیرند و در مورد استانداردهای ایمنی هماهنگ عمل کنند، در حالی که آلتمن OpenAI را متعهد به ارزیابی خارجی بدون انتشار جدول زمانی کرده است.