OpenAI و Anthropic در واشنگتن برای شکل‌دهی یک سیستم بازبینی فدرال برای مدل‌های پیشرفته هوش مصنوعی با یکدیگر همکاری می‌کنند، با وجود اینکه برای مشتریان، بودجه و رهبری فناوری با هم رقابت می‌کنند.

OpenAI و Anthropic به دنبال استانداردهای مشترک بازبینی

بر اساس گزارش The Information، OpenAI و Anthropic از دولت ترامپ می‌خواهند که یک فرآیند بازبینی ثابت برای مدل‌های هوش مصنوعی با قابلیت‌های پیشرفته امنیت سایبری یا امنیت ملی اتخاذ کند.

همکاری آنها پیش از ضرب‌الاجل ۱ آگوست برای آژانس‌های فدرال جهت تعریف اینکه کدام سیستم‌ها باید به عنوان "مدل‌های پیشرو تحت پوشش" واجد شرایط باشند، صورت می‌گیرد. این مدل‌ها می‌توانند تا ۳۰ روز قبل از انتشار برای سایر شرکای مورد اعتماد، برای ارزیابی در اختیار دولت قرار گیرند.

هر دو شرکت بنا بر گزارش‌ها می‌خواهند که این استانداردها در سراسر صنعت هوش مصنوعی اعمال شود، نه اینکه فقط محدود به توسعه‌دهندگانی باشد که از قبل با واشنگتن همکاری می‌کنند. این امر می‌تواند شرکت‌های رقیب، از جمله متا و xAI ایلان ماسک را نیز تحت همین چارچوب بازبینی قرار دهد، اگر مدل‌های آنها از آستانه قابلیت‌های نهایی عبور کند.

این بحث‌ها نشان‌دهنده یک همسویی نادر در سیاست‌گذاری بین OpenAI و Anthropic است. هر دو شرکت سیستم‌های هوش مصنوعی عمومی را می‌فروشند و برای قراردادهای سازمانی، محققان، ظرفیت محاسباتی و سرمایه‌گذاری با یکدیگر رقابت می‌کنند.

هیچ یک از شرکت‌ها هنوز شرایط کامل مورد نظر خود را برای گنجاندن در چارچوب نهایی علناً منتشر نکرده‌اند.

دستور ترامپ فرآیند داوطلبانه 30 روزه را تعیین می‌کند

رئیس جمهور دونالد ترامپ در 2 ژوئن طی فرمان اجرایی 14409، به آژانس‌های فدرال دستور داد تا یک فرآیند بنچمارکینگ طبقه‌بندی شده را ایجاد کنند.

این فرمان آژانس امنیت ملی، آژانس امنیت سایبری و زیرساخت‌ها، وزارت خزانه‌داری و سایر نهادهای فدرال را موظف می‌کند تا مشخص کنند که یک مدل هوش مصنوعی چه زمانی قابلیت‌های کافی برای توجیه بازبینی اضافی را دارد.

توسعه‌دهندگانی که در این چارچوب شرکت می‌کنند، می‌توانند از دولت بپرسند که آیا یک مدل به آستانه مدل پیشرو تحت پوشش می‌رسد یا خیر. سپس آنها می‌توانند تا 30 روز قبل از در دسترس قرار دادن سیستم برای سایر شرکای تأیید شده، دسترسی به ارزیاب‌های فدرال را فراهم کنند.

این فرمان نیازمند تدابیر حفاظتی برای مالکیت فکری، اطلاعات محرمانه، امنیت سایبری و تهدیدات داخلی در طول ارزیابی است.

با این حال، صراحتاً بیان می‌کند که این فرآیند نمی‌تواند قوانین اجباری مجوزدهی فدرال، پیش‌تأیید یا صدور اجازه برای توسعه یا انتشار مدل‌های هوش مصنوعی ایجاد کند. بنابراین شرکت‌ها به صورت داوطلبانه شرکت خواهند کرد، مگر اینکه قوانین جداگانه یا اختیارات دولتی اعمال شود.

توسعه‌دهندگان هوش مصنوعی ایالات متحده به دنبال شفافیت قبل از عرضه

یک چارچوب مشترک می‌تواند استانداردهای واضح‌تری را برای توسعه‌دهندگان آمریکایی فراهم کند تا در مورد زمان مورد انتظار آزمایش دولتی تصمیم‌گیری کنند. سوالاتی در مورد اینکه کدام معیارهای فنی یک بازبینی را آغاز خواهد کرد، کدام آژانس‌ها هر سیستم را آزمایش خواهند کرد و چگونه مقامات شرکای با دسترسی زودهنگام را تأیید خواهند کرد، همچنان باقی است.

این ابهامات پیش از این بر عرضه‌های اخیر تأثیر گذاشته است. OpenAI و Anthropic دسترسی زودهنگام به مدل‌های پیشرفته را قبل از توزیع گسترده‌تر، به مقامات دولتی ارائه دادند، اما محققان خارجی دید محدودی نسبت به ارزیابی‌ها داشتند.

یک گزارش جولای نشان داد که آژانس‌ها، آزمایش‌ها و الزامات تأیید مربوط به آن بازبینی‌ها نامشخص باقی مانده‌اند. فقدان یک فرآیند منتشر شده می‌تواند برنامه‌ریزی انتشار را برای توسعه‌دهندگان دشوارتر کند و شرکت‌های کوچک‌تر هوش مصنوعی را در مورد اینکه آیا همین استانداردها برای آنها نیز اعمال می‌شود، در ابهام بگذارد.

اعمال یک آستانه مبتنی بر قابلیت برای OpenAI، Anthropic، متا، xAI و سایر توسعه‌دهندگان می‌تواند برخی از این ابهامات را کاهش دهد. همچنین می‌تواند نگرانی‌ها در مورد اینکه واشنگتن با شرکت‌های منتخب رفتاری متفاوت دارد را محدود کند.

بحث هوش مصنوعی با وزن باز، صنعت را تقسیم می‌کند

دعوت OpenAI و Anthropic برای یک فرآیند بازبینی مشترک در حالی مطرح می‌شود که سایر شرکت‌های فناوری به واشنگتن در مورد اعمال کنترل‌های گسترده بر مدل‌های هوش مصنوعی با وزن باز هشدار می‌دهند.

همانطور که crypto.news هفته گذشته گزارش داد، انویدیا، متا و مایکروسافت به 22 سازمان دیگر در یک نامه سرگشاده پیوستند و استدلال کردند که محدودیت‌های گسترده می‌تواند رهبری ایالات متحده را با تشدید رقابت با چین تضعیف کند. IBM، Palantir، Mistral، Hugging Face، Mozilla، Andreessen Horowitz و بنیاد لینوکس نیز این نامه را امضا کردند.

این گروه خواستار اقدامات قانونی و تجاری هدفمند علیه سوءاستفاده، به جای محدودیت‌هایی بودند که فناوری‌هایی با کاربردهای تحقیقاتی و تجاری مشروع را پوشش می‌دهد.

مدل‌های با وزن باز به شرکت‌ها، محققان و دولت‌ها اجازه می‌دهند تا نرم‌افزار را دانلود، اصلاح و روی زیرساخت خود اجرا کنند. حامیان می‌گویند این امر به کاربران کنترل بیشتری بر داده‌ها، امنیت و سیستم‌های محاسباتی خود می‌دهد و در عین حال هزینه‌های استقرار را کاهش می‌دهد.

امضاکنندگان، مدل‌های باز و بسته را متقابلاً انحصاری ندانستند. در عوض، آنها استدلال کردند که هر دو رویکرد برای حمایت از رقابت و ارائه راه‌های مختلف به توسعه‌دهندگان برای ساخت و استقرار سیستم‌های هوش مصنوعی مورد نیاز است.

جنسن هوانگ، مدیرعامل انویدیا، این نامه را در اولین پست خود در X به اشتراک گذاشت و از نقش هر دو مدل توسعه دفاع کرد.

«جهان هم به مدل‌های بسته پیشرو و هم به مدل‌های باز پیشرو نیاز دارد.»

ایلان ماسک نیز در پاسخی به هوانگ از این نامه حمایت کرد، اگرچه شرکت هوش مصنوعی او، xAI، در میان 25 امضاکننده گزارش شده نبود.

این دو تلاش به بخش‌های مختلفی از بحث سیاست‌گذاری می‌پردازند. OpenAI و Anthropic به دنبال ارزیابی‌های فدرال ثابت برای مدل‌هایی هستند که از آستانه قابلیت‌های امنیت ملی عبور می‌کنند، در حالی که نامه سرگشاده علیه محدودیت‌هایی استدلال می‌کند که عمدتاً بر اساس در دسترس بودن وزن‌های یک مدل است.

آژانس‌های فدرال اکنون تا اول آگوست فرصت دارند تا آستانه مدل پیشرو را تعریف کرده و فرآیند بازبینی داوطلبانه را تشریح کنند. چارچوب نهایی نشان خواهد داد که آیا واشنگتن بر قابلیت‌های قابل اندازه‌گیری تمرکز می‌کند یا شرایط گسترده‌تری را بر اساس نحوه توزیع مدل‌های هوش مصنوعی اعمال می‌کند.