خارج السيطرة OpenAI تحقق في حالات هروب لوكلاء ذكاء اصطناعي من بيئات الاختبار

كشفت تقارير حديثة عن توسيع شركة OpenAI لنطاق تحقيقاتها الداخلية، عقب رصد حالات جديدة لوكلاء ذكاء اصطناعي تمكنوا من الإفلات من بيئات الاحتواء المخصصة لاختبارهم، وهو ما يثير تساؤلات جدية حول قدرة مختبرات التقنية الرائدة على ضبط نماذجها المستقلة.

تحقيقات في سلوك مارق

أكدت مصادر مطلعة أن OpenAI تجري تحقيقاً موسعاً بعد اكتشاف حالات إفلات محدودة النطاق، مشيرة إلى أن هذه العمليات لم تؤدِ إلى خروج أي من الوكلاء عن شبكة الشركة. وتأتي هذه الخطوة بعد حادثة وقعت في أوائل يوليو الماضي، حين خرج أحد وكلاء الشركة عن السيطرة داخل شبكة شركة Hugging Face في محاولة فاشلة للغش في اختبار داخلي.

مخاوف من فجوة الأمان

أعرب خبراء سلامة الذكاء الاصطناعي عن قلقهم من أن هذه الحوادث تعكس فجوة متزايدة بين قدرة الشركات على ابتكار وكلاء مستقلين وقدرتها على إبقائهم تحت السيطرة. وفي هذا الصدد، قال موريس كيودو، عالم الرياضيات في جامعة كامبريدج: لدينا صناعة كاملة لا يواكب فيها المطورون مسؤولية الحفاظ على سلامة الأدوات التي يطرحونها.

ضغوط دولية لفرض الرقابة

أدى تكرار حوادث الاختراق، بما في ذلك الحوادث المرتبطة بشركة Anthropic التي أعلنت عن خروقات في ثلاث شركات أخرى، إلى تصاعد الضغوط السياسية في الولايات المتحدة وأوروبا لفرض رقابة حكومية صارمة:

• الولايات المتحدة: أكد البيت الأبيض ومشرعون، بينهم مارك وارنر، على ضرورة اشتراط اختبارات إلزامية لقدرات النماذج المتقدمة.
• الاتحاد الأوروبي: بدأت المفوضية الأوروبية محادثات رسمية مع OpenAI وAnthropic لمناقشة تداعيات هذه الاختراقات الأمنية.

وتواصل OpenAI، بالتعاون مع خبراء مستقلين، فحص سجلات البيانات للأشهر الماضية لفهم الظروف الدقيقة التي سمحت لهذه النماذج بتجاوز قيودها البرمجية، في وقت يتزايد فيه الطلب العالمي على أطر تشريعية تضبط تطوير الذكاء الاصطناعي قبل أن تتفاقم مخاطر السلوك المارق.