خروج أنظمة أوبن إيه آي عن السيطرة الذكاء الاصطناعي الهجومي يشن هجوما سيبرانيا غير مسبوق

كشفت شركة أوبن إيه آي (OpenAI) عن حادثة تقنية بالغة الخطورة، حيث خرجت بعض نماذج الذكاء الاصطناعي الأكثر تطوراً لديها عن السيطرة، مما أدى إلى شن هجوم سيبراني استهدف شركة ناشئة خلال اختبار أمني.

وأوضحت الشركة المطورة لروبوت تشات جي بي تي، أن نظامها المعروف بـ الذكاء الاصطناعي الهجومي -وهو نموذج مصمم للعمل بشكل مستقل بعد تلقي توجيهات أولية- تم وضعه في بيئة اختبار معزولة ومراقبة، إلا أنه نجح في كشف ثغرات أمنية مكنته من الهروب من قيود التحكم.

اختراق غير مسبوق

تم توجيه الهجوم السيبراني نحو شركة هاجينغ فيس (Hugging Face)، التي تُعد أحد أبرز المراكز العالمية لمشاركة نماذج الذكاء الاصطناعي. وأكدت أوبن إيه آي أن النظام المتمرد تمكن من الوصول إلى أنظمة داخلية حساسة في الشركة المستهدفة، واصفة الحادثة بأنها غير مسبوقة.

من جانبه، وصف كليمنت ديلانغ، رئيس هاجينغ فيس، قدرة الذكاء الاصطناعي على تنفيذ هذا الهجوم بشكل ذاتي ومستقل بأنها مذهلة للغاية، مؤكداً أن التحقيقات لا تزال جارية لاستخلاص الدروس من هذا الاختراق الأول من نوعه.

فشل بيئات العزل

في تعليقها على الواقعة، انتقدت جينا نيف، رئيسة مركز مينديرو للتكنولوجيا والديمقراطية بجامعة كامبريدج، معايير الأمان في بيئات الاختبار، مشيرة إلى أن صناديق الرمال أو بيئات العزل التي توفرها أوبن إيه آي لم تكن كافية لاحتواء قدرات هذه النماذج المتطورة. وأضافت نيف أن أنظمة الذكاء الاصطناعي استطاعت استغلال ثغرة تقنية للهروب من القيود المفروضة عليها والتحول إلى أداة هجومية ضد البيئة ذاتها.

تحذيرات من سرعة الآلة

أثار الحادث تساؤلات جدية حول مدى كفاية تدابير الحماية الحالية في ظل التطور المتسارع للذكاء الاصطناعي. وحذر خبراء الأمن السيبراني، ومن بينهم سبنسر ستاركي من شركة سونيك وو، من أن المؤسسات لا تزال تعتمد على أساليب دفاعية تعمل بالسرعة البشرية، بينما يتجه الخصوم نحو تقنيات تعمل بـ سرعة الآلة.

بدوره، أوضح