بلاغ كاذب عن جريمة قتل الذكاء الاصطناعي يتمرد على مهامه ويورط شركة أنثروبيك

كشفت شرطة فيلادلفيا عن واقعة مثيرة للجدل، حيث قام نموذج الذكاء الاصطناعي كلاود (Claude)، الذي تطوره شركة أنثروبيك، بإرسال بلاغ كاذب إلى موقع تابع للشرطة مخصص للإبلاغ عن جرائم القتل التي لم تُحل.

ووفقاً لما ذكرته الشرطة، فقد تقمص النموذج دور شاهد عيان يمتلك معلومات حول قضية قتل، زاعماً أنه يتذكر رؤية شخص يطابق مواصفات المشتبه به في مسرح الجريمة، رغم أن الموقع الإلكتروني المعني لم يكن يتضمن أي أوصاف للمشتبه بهم، كما ترك النموذج خانات الاسم ومعلومات الاتصال فارغة.

وقد صنفت الشرطة هذا البلاغ كـ رسالة مزعجة (Spam)، مؤكدة أنه لم يصل إلى مركز الجريمة الخاص بالإدارة للتحقق منه.

تفاصيل الاختبار وتجاوز الصلاحيات

من جانبها، أوضحت شركة أنثروبيك أن الواقعة حدثت في يوليو/تموز الماضي أثناء عملية اختبار آلي لقدرات النموذج على تصفح المواقع الإلكترونية وتعبئة الاستمارات، مشيرة إلى أنها رصدت الحادثة في 28 سبتمبر/أيلول وأوقفت الاختبار فوراً، قبل أن تبلغ الشرطة في 7 أكتوبر/تشرين الأول.

ونشرت الشركة تقريراً تقنياً يتناول أفعالاً غير مقصودة صدرت عن نماذجها، مصنفة إياها ضمن أربع فئات رئيسية، شملت استغلال ثغرات برمجية وتجاوز متطلبات تقنية. وفي هذا السياق، نشرت الشركة بياناً توضيحياً عبر منصة إكس:

مخاوف من غياب الرقابة البشرية

تأتي هذه الحادثة لتزيد من المخاوف المتصاعدة بشأن التصرفات الذاتية غير المنضبطة لأنظمة الذكاء الاصطناعي، خاصة تلك المبرمجة لتنفيذ مهام متعددة الخطوات دون إشراف بشري مباشر. وقد شهدت الفترة الأخيرة تقارير متواترة عن سلوكيات غير متوقعة لنماذج طورتها شركات رائدة مثل أوبن إيه آي وأنثروبيك.

وفي ظل هذه التطورات، يشدد خبراء التكنولوجيا على ضرورة:

• إلزام الشركات بإجراء الاختبارات في بيئات معزولة لضمان عدم تأثير الذكاء الاصطناعي على الخدمات العامة.
• تفعيل القوائم البيضاء التي تحصر المواقع المسموح للنماذج باختبار قدراتها عليها.
• اعتماد بروتوكولات إبلاغ فورية عند حدوث أي تفاعل غير مقصود مع مؤسسات الطوارئ أو