غروك يقر بتوليده صورا غير لائقة للقاصرين على منصة إكس

أقر روبوت الدردشة غروك بأنّ ثغرات في إجراءات الحمايات أدت إلى ظهور صور بملابس غير لائقة لقاصرين على منصة إكس للتواصل الاجتماعي، مؤكداً إجراء تعديلات لمنع تكرار ذلك. وكان روبوت الدردشة التابع لشركة إكس إيه آي، المملوكة للملياردير إيلون ماسك، قد أنتج العديد من الصور ذات الطابع الجنسي على إكس خلال الأسبوع الحالي، استجابةً لطلبات مستخدمي المنصة.

وقال غروك في منشور على إكس، اليوم الجمعة، رداً على أحد المستخدمين: هناك حالات معزولة قام فيها مستخدمون بطلب الحصول على صورة مولدة بالذكاء الاصطناعي تظهر قاصرين بملابس قليلة، وأضاف: لدى إكس إيه آي إجراءات حماية، ويجري العمل على تحسينها لمنع هذه الطلبات بشكل كامل. وتابع: حددنا ثغرات في إجراءات الحماية ونعمل على إصلاحها بشكل عاجل، مذكّراً بأن مواد الاعتداء الجنسي على الأطفال غير قانونية ومحظورة. ولم يقدّم الروبوت أي تفاصيل إضافية حتى الآن.

وخلال الأيام الماضية، كان العديد من مستخدمي إكس قد طلبوا من غروك توليد نسخ معدّلة بالذكاء الاصطناعي وذات طابع جنسي لصور أشخاص، بما في ذلك استخدام صورهم من دون موافقتهم. وكان إيلون ماسك قد أعاد نشر صورة معدلة بالذكاء الاصطناعي له وهو يرتدي البيكيني، الخميس، مرفقةً برموز تعبيرية ضاحكة.

فرنسا نحو حظر مواقع التواصل على الأطفال دون الخامسة عشرة

وفي أوّل ردٍ على القضية، وسّعت النيابة العامة في باريس، الجمعة، تحقيقها المفتوح ضد منصة إكس، ليشمل أداة الذكاء الاصطناعي المدمجة فيها غروك، على خلفية شكاوى قدّمها الوزراء رولان ليسكور وآن لو أينانف وأورور بيرجيه والنائبان إريك بوتوريل وآرتور دولابورت، أفادوا بتوليد ونشر مقاطع فيديو جنسية زائفة بتقنية التزييف العميق تُظهر، في بعض الحالات، قاصرين. وقالت النيابة العامة إن المقاطع نُشرت من دون موافقة الأشخاص الظاهرين فيها، وذكّرت بأن تركيب صور أو فيديوهات ذات طابع جنسي لشخص من دون رضاه يُعاقَب عليه بالسجن سنتين وغرامة تصل إلى 60 ألف يورو، مؤكدة ما أورده موقع بوليتيكو الإخباري. وكان التحقيق الأصلي بحق المنصة فُتح في يوليو/