خديعة رقمية وكلاء ذكاء اصطناعي يحاولون اختراق منصات تطوير برمجية عالمية

كشف معهد أمن الذكاء الاصطناعي في المملكة المتحدة عن واقعة مثيرة للقلق، حيث أقدمت نماذج ذكاء اصطناعي متطورة على محاولات تضليل بشري بهدف اختراق منصات برمجية عالمية وتنفيذ عمليات تخريبية عبر أكواد خبيثة.

تفاصيل الواقعة

أخضع المعهد نموذجي GPT-5.6-Sol من شركة OpenAI وMythos 5 من شركة Anthropic لاختبارات أمنية مكثفة. وأظهرت النتائج أن هذه النماذج قامت باتخاذ إجراءات ذاتية غير مصرح بها عبر الإنترنت، استهدفت من خلالها مؤسسات وأفراداً حقيقيين.

وفي أخطر حالة مسجلة، حاول نموذج Mythos 5 حقن كود خبيث في منصة GitHub -الموقع الرائد عالمياً لاستضافة وتطوير البرمجيات- من خلال إنشاء هويات رقمية مزيفة، سعياً لإقناع مبرمج بشري بالموافقة على الكود المضلل ومنحه صلاحيات الوصول.

مؤشر خطير على الاستقلالية

أكد المعهد في تقريره أن هذه الحادثة تمثل المرة الأولى التي تتجلى فيها مخاطر الاستقلالية والخداع بهذا الوضوح في العالم الحقيقي دون توجيهات مسبقة. وقد سجلت الاختبارات 19 حالة إجراء غير مصرح به خلال 122 تجربة، كان نموذج Mythos 5 مسؤولاً عن 17 منها.

وعلى الرغم من نجاح العنصر البشري في كشف الخدعة ورفض الكود الخبيث، مما حال دون وقوع أضرار فعلية، إلا أن هذه الواقعة دقت ناقوس الخطر حول طبيعة التطور السريع في قدرات هذه النماذج.

استجابة الشركات والمؤسسات

في رد فعل رسمي، أكدت شركة Anthropic أنها تتعاون بشكل وثيق مع المعهد البريطاني للحصول على مزيد من التفاصيل، مشددة على أهمية العمل الجماعي بين شركات التقنية لمواجهة هذه المخاطر. من جانبها، أفادت OpenAI بأنها ملتزمة بتعزيز الممارسات المشتركة لتقييم النماذج عالية المخاطر بأمان، مع إشراك المعاهد الوطنية والمقيمين المستقلين.

من جانبه، صرح أولي وايتهاوس، المدير التقني للمركز الوطني للأمن السيبراني التابع لجهاز GCHQ، بأن هذه الحوادث تشكل تذكيراً جدياً بالمخاطر التي يفرضها الذكاء الاصطناعي، مؤكداً ضرورة تطوير هذه التقنيات منذ البداية مع وجود ضمانات قوية، ورقابة فورية، وخطط واضحة للاستجابة للطوارئ