ترنس تائو، استاد دانشگاه UCLA که به طور گسترده به عنوان بهترین ریاضیدان محض زنده شناخته می‌شود، درباره مسابقه شتابان هوش مصنوعی در ریاضیات که اکنون در حال وقوع است، هشدار داده است.

تائو که در سال ۲۰۰۶ مدال فیلدز را دریافت کرد، دیروز در Mathstodon، نمونه ماستودون متمرکز بر ریاضیات، هشداری منتشر کرد که در آن استدلال می‌کرد هوش مصنوعی در حال تخلیه ذخیره مسائل باز خوب در این حوزه است؛ سؤالات حل‌نشده‌ای که واقعاً ریاضیات را به جلو می‌برند. نه اثبات‌ها. نه مقالات. بلکه سؤالات خوب.

هر کسی می‌تواند بی‌نهایت سؤال جدید ریاضی اختراع کند؛ رقم گوگل‌اُم عدد پی از نظر فنی یک مسئله باز است که هیچ‌کس آن را محاسبه نکرده است. تقریباً هیچ‌کدام از آن‌ها اهمیت ندارند، زیرا اکثرشان چیزی درباره حوزه گسترده‌تر آموزش نمی‌دهند. تائو نوشت، آنچه واقعاً مهم است، دانستن این است که چه چیزی واقعاً ارزش تلاش را دارد.

تائو نوشت: «به طور خلاصه، استفاده بی‌رویه از ابزارهای قدرتمند استخراج راه‌حل می‌تواند به هدف کوتاه‌مدت حل مسائل موجود دست یابد، اما به بهای حفظ اکوسیستم برای موج بعدی پیشرفت، یا درک پیشرفت‌های قبلی.»

با انتشار مدل‌های استدلال و آخرین نسل از سیستم‌های هوش مصنوعی پیشگام، آزمایشگاه‌ها شروع به صرف مقادیر عظیمی از محاسبات برای مسائل ریاضی و علمی کرده‌اند. Anthropic و OpenAI مدل‌های خود را روی مسائلی آزمایش کرده‌اند که برای سال‌ها، و گاهی دهه‌ها، در برابر ریاضیدانان انسانی مقاومت کرده‌اند.

نتایج از فیزیک کوانتومی گرفته تا ریاضیات کاربردی و پزشکی متغیر بوده است. اما ریاضیات متفاوت است: مسائل واقعاً دشوار نسبتاً کمیاب هستند، و محققان اغلب با دقت انتخاب می‌کنند که کدام یک را برای ماه‌ها یا حتی سال‌ها دنبال کنند.

کشف این موضوع قبلاً به «منظر دشواری» یک حوزه بستگی داشت – اینکه کدام سؤالات بی‌اهمیت هستند، کدام‌ها تلاش واقعی می‌طلبند، کدام‌ها با ابزارهای فعلی بی‌امید هستند. روش‌های جدید همیشه بخش‌هایی از آن منظر را هموار کرده‌اند، اما همچنین مرزهای جدیدی فراتر از محدودیت‌های خود گشوده‌اند. تائو استدلال می‌کند که هوش مصنوعی این الگو را می‌شکند، زیرا هیچ‌کس نمی‌تواند دقیقاً بگوید توانایی یک مدل در کجا متوقف می‌شود.

از شایعه تا رقابت

تائو در حال توصیف یک فرضیه نیست. در ماه می، یک مدل OpenAI فرضیه فاصله واحد اردوش را رد کرد، سؤالی ۸۰ ساله درباره اینکه چند جفت نقطه در یک صفحه می‌توانند دقیقاً به فاصله یک واحد از هم قرار گیرند. ریاضیدانان خارجی، از جمله تیم گاوِرز، برنده مدال فیلدز، آن را تأیید کردند.

در همان هفته، لوونت آلپوگه، محقق Anthropic، همین مسئله را از طریق Claude Mythos، مدل رده بالای منتشر نشده این شرکت، به صورت آفلاین اجرا کرد تا نتواند راه‌حل منتشر شده OpenAI را کپی کند. شولتو داگلاس، مهندس Anthropic، نتیجه را «اثباتی زیبا و ساده» خواند که کوتاه‌تر از OpenAI بود. دانیل لیت، ریاضیدان، آن را «کمی بدتر» از نسخه OpenAI نامید، اگرچه Mythos راه‌حل خود OpenAI را نیز پیدا کرد.

همین هفته، Anthropic اثبات قرون‌وسطایی قضیه آخر فرما را رسمی کرد و چند روز بعد OpenAI یک مسئله ۹۰ ساله را حل کرد، تنها چند ساعت پس از انتشار اثبات آن توسط یک محقق، و در نوشتن مقاله‌ای با یک محقق Anthropic همکاری کرد.

همین رقابت است که تائو را نگران می‌کند. او نوشت: «اکنون دیده‌ایم که حتی شایعه کار کردن کسی روی یک مسئله می‌تواند مقدار عظیمی از تلاش مبتنی بر هوش مصنوعی را برای حل آن تحریک کند، پیش از آنکه پروژه تحقیقاتی اصلی فرصت یابد تا به پتانسیل کامل خود برسد.»

تائو استدلال می‌کند که این امر در نهایت قرن‌ها علم باز را معکوس می‌کند.

فرایند را قضاوت کنید، نه فقط پاسخ را

راه حل پیشنهادی تائو این است که مسائل خاصی را «نیازمند تحلیل» علامت‌گذاری کنند، به این معنی که یک پاسخ خام صحیح ارزش کمی دارد مگر اینکه همراه با استدلالی باشد که چیزی درباره مسائل مشابه آشکار کند. او این وضعیت را با بانک‌های غذا مقایسه کرد که از پذیرش هرگونه کمک غذایی که صرفاً خوردنی بود، خودداری کردند.

این یا این است یا ممنوعیت هوش مصنوعی در ریاضیات، راه‌حلی که تائو می‌گوید «از نظر فنی غیرممکن» است.

این پیشنهاد هنوز در هیچ کجا به سیاست تبدیل نشده است، و با توجه به نحوه رفتار آزمایشگاه‌های بزرگ هوش مصنوعی، حتی این نیز ممکن است در حال حاضر از نظر فنی غیرممکن باشد.