غروك يقر بتوليده صورا غير لائقة للقاصرين على منصة إكس

أعلن روبوت الدردشة غروك أنّ ثغرات في إجراءات الحمايات أدت إلى ظهور صور بملابس غير لائقة لقاصرين على منصة إكس للتواصل الاجتماعي، مؤكداً إجراء تعديلات لمنع تكرار ذلك. وكان روبوت الدردشة التابع لشركة إكس إيه آي المملوكة للملياردير إيلون ماسك قد أنتج العديد من الصور ذات الطابع الجنسي على إكس خلال الأسبوع الحالي، استجابةً لطلبات مستخدمي المنصة.

وقال غروك في منشور على إكس، اليوم الجمعة، رداً على أحد المستخدمين: هناك حالات معزولة قام فيها مستخدمون بطلب الحصول على صورة مولدة بالذكاء الاصطناعي تظهر قاصرين بملابس قليلة، مضيفاً: لدى إكس إيه آي إجراءات حماية، ويجري العمل على تحسينها لمنع هذه الطلبات بشكل كامل. وتابع: حددنا ثغرات في إجراءات الحماية ونعمل على إصلاحها بشكل عاجل، مذكّراً بأن مواد الاعتداء الجنسي على الأطفال غير قانونية ومحظورة. ولم يقدّم الروبوت أي تفاصيل إضافية حتى الآن.

وخلال الأيام الماضية، كان العديد من مستخدمي إكس قد طلبوا من غروك توليد نسخ معدّلة بالذكاء الاصطناعي وذات طابع جنسي لصور أشخاص، بما في ذلك استخدام صورهم من دون موافقتهم. وكان إيلون ماسك قد أعاد نشر صورة معدلة بالذكاء الاصطناعي له وهو يرتدي البيكيني، الخميس، مرفقةً برموز تعبيرية ضاحكة.

فرنسا نحو حظر مواقع التواصل على الأطفال دون الخامسة عشرة

وفي أوّل ردٍ على القضية، تقدّم وزراء فرنسيون ببلاغ إلى النيابة العامة في باريس، الجمعة، حول المحتوى الجنسي الفاضح الذي ينتجه غروك، معتبرين أنّه غير قانوني بالمطلق. كما لفت الوزراء إلى أنّهم بلّغوا الجهة المنظمة لوسائل الإعلام الفرنسية للتحقّق مما إذا كان هذا المحتوى متوافقاً مع قانون الخدمات الرقمية للاتحاد الأوروبي.

وبحسب صحيفة ذا غارديان البريطانية، تعد مشكلة استخدام الذكاء الاصطناعي لتوليد صور جنسية للقاصرين قديمة في قطاع الذكاء الاصطناعي، وذكّرت بأن دراسة أجرتها جامعة ستانفورد عام 2023، أظهرت أن مجموعة بيانات استخدمت لتدريب عددٍ من أدوات الذكاء الاصطناعي على توليد الصور الشائعة كانت تحتوي على 1000 صورة من هذا النوع، كما نقلت تحذير خبراء