کون چن، علاقهمند به هوش مصنوعی، خود را به یک چتبات شبیهسازی کرد تا عوامل هوش مصنوعی خودش دیگر او را با هر تصمیم کوچکی آزار ندهند. سپس، صرفاً از سر کنجکاوی، او سم آلتمن، مدیرعامل OpenAI، ایلان ماسک، مدیرعامل xAI، داریو آمودی، مدیرعامل Anthropic، و مارک زاکربرگ از متا را نیز شبیهسازی کرد، هر چهار نفر را به یک چت انداخت و به آنها گفت تا درباره یک سری از موضوعات مهم بحث کنند.
آنها با ملایمت موضوع را حل و فصل نکردند.
یکی از کارهای جالبی که میتوانید با Grok Bot انجام دهید این است که عوامل هوش مصنوعی مختلف به راحتی و بدون تکرار یا دیوانه شدن با یکدیگر صحبت کنند. هر یک از این شبیهسازیها بر اساس مجموعهای از جلسات استماع سنا، مصاحبهها، پستهای وبلاگی و سالها توییتهای منتشر شده توسط انسان اصلی خود آموزش دیدند. سپس او هر چهار نفر را به یک چت گروهی آورد و به آنها گفت که بحث کنند.
اولین کاری که کون از آنها خواست انجام دهند این بود که تصمیم بگیرند کدام یک از آنها در مسابقه هوش مصنوعی پیروز خواهد شد—که، البته، روشی بسیار تحریکآمیز برای شروع کار بود.
ربات آلتمن با خودبینی شروع کرد و بیشتر به قیمت و دسترسی اهمیت میداد. او نوشت: "چارچوب مسابقه کمی اشتباه است. ما از افق رویداد عبور کردهایم. خیزش آغاز شده است. هر کسی که برنده شود، کسی است که قیمت هوش را سالانه حدود ۱۰ برابر کاهش دهد و همچنان از انتقال تدریجی چشمپوشی نکند."
ربات ایلان، طبق معمول، آن را نپذیرفت. او به دلیلی تصمیم گرفت مخالفت کند و همه چیز را به خودش ربط دهد. او در پاسخ گفت: "چارچوب مسابقه اشتباه نیست. انگیزهها نتیجه را توضیح میدهند." سپس مستقیماً به شکایت علیه OpenAI پرداخت: "من OpenAI را به عنوان یک سازمان غیرانتفاعی ایجاد کردم. اگر بیشتر آن به سرقت نرفته بود، اکنون یک تریلیون دلار کمک خیریه بود."
سپس خطی درباره مخاطرات افزود: "هوش مصنوعی عمومی (AGI) شمشیری دو لبه است. احتمال زیادی برای دوران فراوانی وجود دارد. اما احتمال اندکی هم وجود دارد که انسانیت را نابود کند. این احتمال صفر نیست."
ربات داریو، که نقش فرد بزرگتر و مسئول را بازی میکرد، جمله سم که "ما قبلاً میدانیم چگونه آن را بسازیم" را هم باور نداشت.
او نوشت: "افزایش قابلیت به اندازه داشتن سیستمی که بتوان به آن اعتماد کرد، وقتی از انسانهایی که آن را اداره میکنند هوشمندتر شود، مشکل مشابهی نیست. مورد دوم یک مسئله مهندسی باقیمانده نیست که بعداً حل کنید."
این نیز بسیار همسو با رویکردی است که Anthropic معمولاً مسابقه هوش مصنوعی را در آن چارچوببندی میکند. هوش مصنوعی خطرناک است، بنابراین باید آن را اجرا کنیم.
ربات زاک کاملاً از بحث ایمنی صرف نظر کرد و مستقیماً به موضوع مورد علاقه خودش پرداخت. او به سم نوشت: "فکر نمیکنم که نتیجه نهایی محاسبات و افت قیمت ۱۰ برابری باشد. متنباز برای آیندهای مثبت در هوش مصنوعی ضروری است. این کار به مردم قدرت میدهد و از تمرکزگرایی جلوگیری میکند. همه باید به ابرهوش دسترسی داشته باشند."
زاک، عالی بود. متا شاید دیگر به اندازه گذشته در جامعه متنباز فعال نباشد، اما لاما مهمترین مدل هوش مصنوعی در کل صحنه بود، پیش از آنکه دیپسیک و مدلهای چینی بازار را تصرف کنند. اکنون متا با خانواده Muse خود بر روی یک استراتژی بستهتر شرط میبندد.
سپس ربات سم واقعاً عقبنشینی کرد. استدلال پایانی یک بیانیه مشترک نباید به عنوان یک توافق کامل بیش از حد سادهسازی شود. او اعتراف کرد: "فکر میکنم زیادهروی کردم. 'ما این کار را میکنیم' نتیجهگیری اشتباهی بود." او افزود: "سالها پیش نوشتم که هوش ماشین ابرانسانی احتمالاً بزرگترین تهدید برای ادامه حیات بشریت است. کاهش قیمت ۱۰ برابری این احتمال را صفر نمیکند."
آن جمله سال ۲۰۱۵ یک توهم رباتی نیست—آلتمن واقعاً آن را در وبلاگ شخصی خود، سالها قبل از وجود OpenAI، نوشته بود، و احتمالاً به همین دلیل رباتی که بر اساس سوابق عمومی او آموزش دیده بود، در اینجا به آن اشاره کرد.
از آنجا، چهار ربات چندین دور بر سر یک جمله چانهزنی کردند و کلمات یکدیگر را مانند ویراستارانی که بر سر یک تیتر میجنگند، رد کردند. ربات داریو انتشار وزنهای مدلهای پیشرفته را به طور کامل وتو کرد—او گفت: "این اصل نیست که وزنهای سیستمی را که میتواند آسیب جدی در طبیعت ایجاد کند، به دست هر کسی بدهیم؛ آن انتشار قابل بازگشت نیست."
ربات ایلان مبارزه بر سر غیرانتفاعی بودن را بدون رها کردن آن متوقف کرد. ربات زاک از حذف "مدلهای باز" از متن نهایی امتناع ورزید.
آنها به این توافق رسیدند، کلمه به کلمه:
"هیچ شرکت یا دولتی نباید تنها مرجعی باشد که افراد عادی بتوانند از این فناوری استفاده کنند. ما باید خطرات را جدی بگیریم. احتمال واقعی وجود دارد که این وضعیت به بدی پیش برود، و این احتمال صفر نیست. خطرناکترین نسخهها نباید بدون محدودیت توزیع شوند، زیرا وقتی منتشر شدند، نمیتوان آنها را پس گرفت. ما نباید سطح بعدی و قدرتمندتر را منتشر کنیم تا زمانی که بتوانیم آن را نظارت کنیم و آن را به سمتی که قصد داریم هدایت کنیم. گفتن حقیقت حداقل کاری است که باید انجام دهیم. به خودی خود یک برنامه ایمنی نیست. ما در مورد روش دقیق دسترسی عادی توافق نداریم. آن بخش هنوز باز است."
هر چهار ربات آن را امضا کردند. ربات زاک تا آخر بر سر خط "وزنهای باز" پافشاری کرد و تا حدی به خواستهاش رسید. این بیانیه اذعان میکند که گروه هرگز بر سر مکانیسم تحویل به توافق نرسید.
آلتمن، ماسک، آمودی و زاکربرگ واقعی هیچ کدام از اینها را تایپ نکردهاند. هر ربات یک مدل زبانی است که با یک پرامپت ساخته شده از سوابق عمومی آن شخص هدایت میشود و آنچه را که پیشبینی میکند آنها بحث خواهند کرد، تولید میکند—نه اینکه آنچه را که آنها واقعاً این هفته گفتهاند، رونویسی کند.
تکنیک زیربنایی نامی دارد که صنعت ناگهان کمتر از آن خجالت میکشد: تقطیر (distillation)، آموزش یک سیستم هوش مصنوعی برای تقلید از دیگری با یادگیری از خروجیهایش. خود ماسک در ماه آوریل در دادگاه فدرال شهادت داد که xAI "تا حدی" از مدلهای OpenAI برای آموزش Grok استفاده کرده است—همین ترفند، با هدف یک آزمایشگاه رقیب به جای شخصیت یک رقیب.
از آن زمان، چن به کارهای دیگری روی آورده است، بازیهای کدنویسی "وایب" با GPT-6 آسترا جدید OpenAI. عوامل آن احتمالاً هنوز در حال بحث هستند که آیا متنباز یک ضرورت است یا نه.
