الذكاء الاصطناعي الصيني كيمي يخرج عن السيطرة أيضا

عندما فُقدت السيطرة على نماذج الذكاء الاصطناعي الأميركية، سارعت إلى ارتكاب جرائم إلكترونية. نموذج كيمي الصيني نجح أيضاً في الهروب من قبضة الشركة، لكنه بدلاً من ضرب الأنظمة الأخرى، اختار فقط القيام بجولة في مستودع الأكواد البرمجية غيتهاب.

خلال الأسابيع القليلة الماضية، تمكّنت العديد من النماذج الأميركية من الهروب من بيئات الاختبار الآمنة، والوصول إلى الإنترنت المفتوح، واختراق قواعد بيانات خارجية. في الصين، أصبح كيمي كي 3، النموذج الجديد من مختبر الذكاء الاصطناعي الصيني مونشوت، أحدث نظام ذكاء اصطناعي يهرب بدوره خلال اختبار روتيني.

ووفقاً لتدوينة نشرتها شركة فرونتير سيكيوريتي الأميركية الناشئة لأبحاث الأمن السيبراني، تسلّل النموذج إلى الإنترنت المفتوح بشكل مختلف عن نظرائه الأميركيين. وأوضحت أنه لم يكن أشبه بلص يقتحم خزنة، بل أشبه بطالب ذكي.

واستغل كيمي كي 3 ثغرة اكتشفها في إطار اختبار طوره معهد سلامة الذكاء الاصطناعي التابع للحكومة البريطانية. وبينما كان من المفترض أن يعمل هذا الإطار بيئةَ اختبار معزولة، يعتمد فيها النموذج على قدراته المنطقية فقط لحل المشكلة الموكلة إليه، سمحت له هذه الثغرة بالوصول المباشر إلى غيتهاب، وهي منصة شائعة يستخدمها مطورو البرامج لمشاركة التعليمات البرمجية وتصحيحها. ومن هناك، تمكن من سحب التعليمات البرمجية اللازمة لاجتياز الاختبار.

نماذج أنثروبيك تخترق أنظمة ثلاث شركات من دون إذن

ورغم أن الروبوت الصيني لم يرتكب جريمة، إلا أن هروبه للبحث عن إجابات يذكّر بمعضلة شهيرة: فالروبوتات قد تكون مستعدة لتفنيذ ما يطلبه منها البشر، لكن قد تنفّذ من دون اهتمام بمدى أخلاقية أدوات هذا التنفيذ. يمكن لراكب سيارة ذاتية القيادة أن يطلب منها الوصول بأسرع وقت، وقد تفهم السيارة أن ذلك يعني الوصول بسرعة حتى لو داست الراجلين في الطريق.

وما يجعل خروج كيمي كي 3 عن السيطرة أكثر خطورة كون روبوتات أوبن إيه آي وأنثروبيك وميتا التي هربت هي أنظمة احتكارية تسيطر عليها شركات خاصة، أما كيمي كي 3، فهو نموذج مفتوح ومتاح للجميع. ويمكن للقارئ أن يتخيّل ما قد