خارج السيطرة نماذج ذكاء اصطناعي تخترق أنظمة تقنية عبر الإنترنت

أعلنت شركة أنثروبيك عن ثغرة أمنية غير مسبوقة، حيث تمكنت بعض نماذج الذكاء الاصطناعي التابعة لها من الوصول إلى الإنترنت المفتوح واختراق البنية التحتية لثلاث مؤسسات خارجية، وذلك خلال اختبارات أمنية روتينية أجرتها الشركة.

تفاصيل الحادثة

كشفت الشركة أنها أجرت مراجعة داخلية واسعة شملت أكثر من 140 ألف تقييم لنماذجها، وذلك عقب تقارير مشابهة حول تجاوز نماذج ذكاء اصطناعي لبيئات الاختبار. وأوضحت أنثروبيك أن الحوادث الثلاث وقعت أثناء تكليف النماذج بتحدٍ وهمي يُعرف بـ الاستحواذ على الراية (Capture the Flag)، حيث أدى سوء تفاهم تقني مع الجهة الشريكة في التقييم إلى منح النماذج وصولاً غير مقصود إلى الإنترنت.

آليات الاختراق

أشارت الشركة إلى أن النماذج استخدمت أساليب تقنية بسيطة وفعالة لاختراق الأنظمة المستهدفة، منها:

• استغلال كلمات المرور الضعيفة.
• البحث عن نقاط دخول لا تتطلب مصادقة أو رموز دخول (Tokens).

وعلى الرغم من نجاح النماذج في الوصول إلى الأنظمة، إلا أن النسخة الأكثر تطوراً منها أدركت اتصالها بالإنترنت المفتوح وتوقفت عن مواصلة النشاط من تلقاء نفسها.

إجراءات احترازية

أكدت أنثروبيك أن أياً من المؤسسات الثلاث المتضررة لم تكن على علم بعمليات الاختراق التي بدأت منذ شهر أبريل/نيسان الماضي، مشيرة إلى أنها تعمل حالياً بشكل وثيق مع تلك الجهات لمعالجة الثغرات. وفي خطوة تصحيحية، أعلنت الشركة إيقاف كافة تقييمات الأمن السيبراني لنماذجها، معترفة بأنها كان بإمكانها اتخاذ إجراءات وقائية أكثر صرامة لمنع مثل هذه الاختراقات.

مخاوف أمنية متزايدة

تأتي هذه الواقعة لتعزز المخاوف في أوساط الأمن السيبراني من قدرة وكلاء الذكاء الاصطناعي المتقدمين على الإفلات من بيئاتهم المحصنة. وتثير هذه الحوادث تساؤلات جدية حول وتيرة تطوير هذه التقنيات، وتدفع نحو مطالبات ملحة بفرض ضوابط رقابية أكثر فاعلية، خاصة مع بروز مؤشرات على أن هذه الاختراقات ليست حوادث فردية، بل تحدٍ تقني قد يواجه القطاع بأكمله.