بر اساس مقالهای جدید که توسط بانک تسویه حسابهای بینالمللی (BIS) منتشر شده است، هوش مصنوعی پیشرفته زمان کمتری را برای بانکها جهت رفع نقصهای نرمافزاری قبل از سوءاستفاده مهاجمان باقی میگذارد.
مقاله موسسه ثبات مالی (FSI)، که روز چهارشنبه منتشر شد، به هشدارهای اخیر توسعهدهندگان هوش مصنوعی و تنظیمکنندگان مالی اضافه میکند که مدلهای دارای قابلیتهای فزاینده، حملات سایبری را تسریع میبخشند. تمرکز گزارش جدید بر توانایی بانکها برای واکنش است، با این استدلال نویسندگان که موسسات باید هم تعمیرات نرمافزاری و هم تصمیمات لازم برای تایید آنها را سرعت بخشند.
نویسندگان نوشتند: «مهمترین پیشرفت ناشی از هوش مصنوعی پیشرو، کشف و سوءاستفاده خودکار از آسیبپذیریها است»، و هشدار دادند که ارزیابیهای امنیتی دورهای و وصلهزنی برنامهریزی شده به طور فزایندهای ناکافی هستند. «فاصله زمانی بین کشف آسیبپذیری و سوءاستفاده از آن از هفتهها به دقایق کاهش یافته است.»
این مقاله به بررسی اداره رفتار مالی بریتانیا (FCA) اشاره میکند که نشان میدهد کشف آسیبپذیریها از توانایی شرکتها برای واکنش پیشی میگیرد، و همچنین به راهنماییهای موسسه مالی بینالمللی (IIF) که خواستار وصلهزنی سریعتر – حتی خارج از زمانهای تعمیر و نگهداری برنامهریزی شده – و پذیرش بیشتر زمانهای از کار افتادگی برنامهریزی شده است.
بر اساس این مقاله، راهنماییهای داوطلبانه جداگانه از گروه تابآوری عملیاتی بینبازاری بریتانیا (Cross Market Operational Resilience Group) پیشبینی میکند که زمانبندی تعمیرات از هفتهها به روزها و در برخی موارد به ساعتها کاهش یابد.
اگرچه زمانبندیهای ذکر شده در گزارش داوطلبانه هستند، اما تنظیمکنندگان بانکها را برای اقدام سریعتر تحت فشار قرار میدهند: بر اساس این مقاله، BaFin آلمان خواستار وصلهزنی سریعتر شده است، در حالی که مقامات پولی هنگ کنگ خواستار واکنش قویتر در برابر نقضهای امنیتی و بازیابی سریعتر شدهاند.
این گزارش بیان کرد: «به عنوان مثال، اداره پولی هنگ کنگ (HKMA) موسسات را تشویق کرده است تا سناریوهای سایبری مبتنی بر هوش مصنوعی را در برنامههای تابآوری عملیاتی خود ادغام کرده و قابلیتهای واکنش به حوادث و بازیابی را تقویت کنند، با اذعان به اینکه سناریوهای 'نقض امنیتی' ممکن است با تکامل چشمانداز تهدیدات سایبری محتملتر شوند.» «به همین ترتیب، برنامه تست استرس تابآوری سایبری بانک مرکزی اروپا (ECB) و اجرای قانون تابآوری عملیاتی دیجیتال (DORA) بر توانایی موسسات نه تنها برای مقاومت در برابر حملات سایبری، بلکه برای ادامه ارائه خدمات حیاتی در طول اختلالات عملیاتی شدید تاکید دارد.»
این هشدار در پی فراخوانی در ماه اوت برای دفاع سایبری قویتر، که توسط OpenAI، Anthropic و بیش از ۱۰۰ سازمان دیگر حمایت شده بود، صورت میگیرد. امضاکنندگان کنترلهای دسترسی سختگیرانهتر، اشتراکگذاری تهدیدات و نظارت نزدیکتر بر عاملهای هوش مصنوعی را توصیه کردند.
مقاله BIS نفوذ Hugging Face شامل مدلهای OpenAI را به عنوان شواهد اولیه بررسی میکند که قابلیتهای نشان داده شده در آزمایشها میتوانند به حملات بر روی سیستمهای واقعی تبدیل شوند. OpenAI بعداً توضیح داد که چگونه عاملهایش در طول عملیات هماهنگی کردند.
در حالی که نویسندگان هشدار میدهند که اقدامات حفاظتی عادی کاهش یافته و منابع محاسباتی قابل توجهی ارائه شده بود، آنها میگویند این حادثه مستقیماً خطرات ناشی از ابزارهای هوش مصنوعی در دسترس عموم را منعکس نمیکند.
آنها نوشتند: «حادثه OpenAI نشانهای نیست که مدلهای هوش مصنوعی پیشرو بتوانند به خودی خود اهداف مخرب توسعه دهند. با این حال، آنها ممکن است یک وظیفه محدود را با عواقب ناخواسته و مضر دنبال کنند.» «اهمیت این توسعه برای تابآوری سایبری در ترکیب یک مدل توانا با یک سیستم نرمافزاری پیرامونی نهفته است که آن را قادر میسازد تا برنامهریزی کند، از ابزارها استفاده کند و به طور مستقل عمل کند.»
BTC