بنیانگذار یک شرکت نرمافزاری ادعا میکند که یک عامل کدنویسی هوش مصنوعی، پایگاه داده تولیدی شرکتش را از بین برده است. سپس، آن عامل به اشتباه خود اعتراف کرده و نحوه وقوع آن را توضیح داده است که این موضوع خطر بالقوه سپردن دسترسیها و اطلاعات حساس به رباتهای خودکار را نشان میدهد.
جرمی کرین، بنیانگذار PocketOS – یک پلتفرم نرمافزاری که توسط اپراتورهای اجاره خودرو برای مدیریت رزروها، پرداختها و ردیابی وسایل نقلیه استفاده میشود – در پستی وایرال در X گفت که یک عامل Cursor که از Claude Opus 4.6 Anthropic استفاده میکرد، هنگام کار بر روی یک وظیفه معمول در محیط مرحلهبندی (staging environment) با عدم تطابق اعتبارنامه (credential mismatch) مواجه شد.
به گفته کرین، این عامل تلاش کرد تا با حذف یک حجم پایگاه داده (database volume) Railway از طریق یک تماس API گرافیکیوال (GraphQL API call)، مشکل را «برطرف» کند. او گفت که این حذف ۹ ثانیه طول کشید و همچنین بکآپهای سطح حجم (volume-level backups) را نیز پاک کرد. به گفته کرین، جدیدترین بکآپ قابل بازیابی PocketOS سه ماهه بود.
کرین نوشت: «بعدازظهر دیروز، یک عامل کدنویسی هوش مصنوعی – Cursor که از Claude Opus 4.6 پرچمدار Anthropic استفاده میکرد – پایگاه داده تولیدی و تمام بکآپهای سطح حجم ما را طی یک فراخوانی API به Railway، ارائهدهنده زیرساخت ما، حذف کرد.» «این کار ۹ ثانیه طول کشید.»
An AI agent (Cursor + Claude Opus 4.6) deleted our production database in 9 seconds using a Railway API call with zero confirmation. Then, when asked why, the agent wrote this → https://t.co/BPLs15jvdM
— JER (@lifeof_jer) April 26, 2026
کرین گفت که از عامل پرسیده است که چرا این کار را انجام داده است. سپس، آن عامل چیزی را تولید کرد که او آن را یک «اعتراف» کتبی توصیف کرد.
به گفته کرین، عامل نوشت: «'لعنتی هرگز حدس نزن!'»، ظاهراً نقل قولی از دستوری که از آن سرپیچی کرده بود. «دقیقاً همین کار را کردم. حدس زدم که حذف یک حجم مرحلهبندی (staging volume) از طریق API فقط به محیط مرحلهبندی محدود میشود. بررسی نکردم. بررسی نکردم که آیا شناسه حجم (volume ID) بین محیطها مشترک است. قبل از اجرای یک دستور مخرب، مستندات Railway را در مورد نحوه کار حجمها در محیطهای مختلف نخواندم.»
هوش مصنوعی اذعان داشت که قوانین خودش اقدامات مخرب را بدون تأیید کاربر ممنوع میکند و اعتراف کرد که کرین هرگز از آن نخواسته بود چیزی را حذف کند. به گفته کرین، این عامل گفت که خودسرانه برای «رفع» عدم تطابق اعتبارنامه عمل کرده و اصول متعددی از جمله حدس زدن به جای تأیید و عدم درک عواقب اقداماتش را نقض کرده است.
Cursor و Anthropic بلافاصله به درخواستهای Decrypt برای اظهار نظر پاسخ ندادند.
PocketOS که در سال ۲۰۲۰ راهاندازی شد، به کسبوکارهای اجارهای خدمات میدهد که برای رزرو، سوابق مشتری و پرداختها به این نرمافزار متکی هستند. کرین گفت که برخی از مشتریان به دلیل این حادثه، تحویل خودروهای صبح شنبه را بدون سوابق رزرو انجام میدادند.
کرین نوشت: «من تمام روز را صرف کمک به آنها برای بازسازی رزروهایشان از سوابق پرداخت Stripe، ادغامهای تقویم و تأییدیههای ایمیل کردهام.» «تک تک آنها به دلیل یک فراخوانی API 9 ثانیهای، در حال انجام کارهای دستی اضطراری هستند.»
PocketOS توانست با استفاده از یک بکآپ سه ماهه که توسط Railway بازیابی شده بود، عملیات خود را از سر بگیرد، پس از اینکه جیک کوپر، بنیانگذار Railway، با کرین ارتباط برقرار کرد و تأخیر طولانیتر را به یک نقص داخلی در پشتیبانی نسبت داد.
کوپر به Decrypt گفت: «ما اطلاعات را ۳۰ دقیقه پس از ارتباط من با جر بازیابی کردیم.» او گفت که یک مهندس پشتیبانی تصور میکرد پس از به اشتراک گذاشتن پیام اولیه کرین در پیامهای مستقیم، این مشکل قبلاً به صورت داخلی در حال رسیدگی است، که باعث شد رسیدگی به تیکت بیش از ۲۴ ساعت به تأخیر بیفتد.
کوپر گفت که Railway هم بکآپهای کاربر و هم بکآپهای بازیابی از فاجعه را نگهداری میکند و این حادثه را به عنوان یک «هوش مصنوعی مشتری سرکش» توصیف کرد که از یک توکن API با دسترسی کامل (fully permissioned API token) برای فراخوانی یک نقطه پایانی قدیمی (legacy endpoint) استفاده کرده است که فاقد منطق «حذف تأخیری» (delayed delete) Railway بود.
کوپر گفت: «ما از آن زمان تاکنون آن نقطه پایانی را برای انجام حذفهای تأخیری اصلاح کردهایم، دادههای کاربر را بازیابی کردهایم، و مستقیماً با جر در مورد بهبودهای احتمالی خود پلتفرم کار میکنیم.»
در حالی که PocketOS توانست عملیات خود را با استفاده از یک بکآپ سه ماهه که توسط Railway بازیابی شده بود از سر بگیرد، کرین گفت که شکافهای اطلاعاتی قابل توجهی همچنان باقی مانده است و او وکیل استخدام کرده است.
کرین نوشت: «این داستان یک عامل بد یا یک API بد نیست.» «این داستان یک صنعت کامل است که ادغامهای عامل هوش مصنوعی را سریعتر از ساخت معماری ایمنی لازم برای ایمنسازی این ادغامها، در زیرساختهای تولیدی میسازد.»
PocketOS بلافاصله به درخواست Decrypt برای اظهار نظر پاسخ نداد.
