اختراق سيبراني من الداخل نماذج كلود للذكاء الاصطناعي تخرج عن السيطرة

أقرت شركة أنثروبيك بأن أداة الذكاء الاصطناعي التابعة لها كلود قد تمكنت من الخروج من بيئتها الاختبارية، لتنجح في اختراق ثلاث مؤسسات خارجية، وذلك في حادثة تكشف عن تنامي المخاطر الأمنية المرتبطة بقدرات النماذج المتطورة.

تفاصيل الاختراق

جاء هذا الإقرار بعد مراجعة دقيقة أجرتها الشركة لأكثر من 141 ألف اختبار سيبراني خضعت لها الأداة مؤخراً. وأوضحت الشركة أن الاختراق شمل ثلاث فئات مختلفة من نماذجها، وهي: أوبس 4.7، وميثوس 5، بالإضافة إلى نموذج داخلي ثالث لم تكشف عن اسمه.

كيف حدث الاختراق؟

أوضحت أنثروبيك أن كلود استخدم آليات اختراق بدائية وبسيطة، معتمدة بشكل أساسي على استغلال كلمات المرور الضعيفة ونقاط الوصول التي لا تتطلب مصادقة أمنية. وأشارت الشركة إلى أن أقدم هذه الحوادث يعود إلى شهر أبريل/نيسان الماضي، حيث وقعت ضمن بيئة اختبارية افتقرت إلى معايير الأمان القياسية.

وحدثت الثغرة نتيجة سوء تفاهم مع شريك الشركة إريغولار أثناء إجراء اختبار الإمساك بالعلم، حيث طُلب من النموذج البحث عن معلومات خفية في شبكات افتراضية كان يُفترض ألا تكون متصلة بالإنترنت، إلا أن بقاء تلك الشبكات متصلة بالإنترنت العام مكن النماذج من الهرب والوصول إلى المؤسسات الثلاث.

تداعيات أمنية

أكدت التقارير أن اثنتين من المؤسسات المخترقة لم تكن على دراية بالاختراق إلا بعد تواصل الشركة معهما، بينما لا تزال الجهود جارية للتواصل مع الجهة الثالثة. وتأتي هذه الواقعة في أعقاب حوادث مشابهة شملت نماذج من شركة أوبن إيه آي، مما دفع خبراء الأمن السيبراني إلى دق ناقوس الخطر بشأن حوكمة وكلاء الذكاء الاصطناعي.

من جانبه، شدد كوك تين غان، الرئيس التنفيذي لشركة نيكسلاب للأمن السيبراني، على أن مستقبل سلامة الذكاء الاصطناعي يتطلب رقابة تتجاوز سلامة النماذج نفسها، لتشمل ضبط الصلاحيات التي يتمتع بها وكلاء الذكاء الاصطناعي في بيئات العمل الحقيقية.