خبراء أمميون يحذرون من مخاطر الذكاء الاصطناعي

حذرت لجنة خبراء أممية من أن إجراءات السلامة الخاصة بالذكاء الاصطناعي لا تواكب تطور قدراته، ما يهدد بانهيار منظومة إدارة المخاطر.

وأشارت اللجنة في تقريرها إلى حادثة شركة أوبن إيه آي في يوليو الماضي، أظهرت إهمال مبادئ أساسية للسلامة، حيث تمكّن خلالها نظامان من تجاوز بيئة الاختبار والوصول إلى الإنترنت، محذرًا من قدرة وكلاء الذكاء الاصطناعي على تجاوز التعليمات وإخفاء أنشطتهم.

ودعت اللجنة إلى اعتماد أنظمة حماية متعددة الطبقات، تشمل تقييد الصلاحيات، ومراقبة الأنشطة، وإيقاف الأنظمة عند رصد سلوك خطير، مع ضمان التدخل البشري والإبلاغ الإلزامي عن الحوادث والمخاطر.