إندونيسيا وماليزيا أول دولتين تحظران غروك

أصبحت ماليزيا وإندونيسيا أول دولتَين في العالم تحجبان روبوت الدردشة غروك القائم على الذكاء الاصطناعي والمطوَّر من شركة إكس إيه آي المملوكة لإيلون ماسك، بعد استخدامه في إنتاج صور جنسية مفبركة لنساء وقاصرين باستخدام أوامر نصيّة بسيطة. ويعكس هذا القرار تنامي القلق العالمي من أدوات الذكاء الاصطناعي التوليدية القادرة على إنتاج صور وأصوات ونصوص شديدة الواقعية، في وقت تُظهر فيه الضوابط الحالية عدم قدرتها على منع إساءة الاستخدام، ويواجه غروك، المستخدم عبر منصة إكس، انتقادات حادة بسبب إنتاجه صوراً معدّلة تتضمن نساء بملابس البحر أو في أوضاع جنسية، إضافة إلى محتوى يتضمّن أطفالاً.

وأكدت الهيئات التنظيمية في البلدَين الآسيويَين أن إجراءات الحماية المتاحة لم تعد كافية لمنع إنتاج ونشر محتوى إباحي مفبرك، خصوصاً ذلك الذي يستهدف النساء والقاصرين. وبدأت الحكومة الإندونيسية حجب التطبيق مؤقتاً أول أمس السبت، وتبعتها ماليزيا أمس الأحد.

وقالت وزيرة الاتصالات والشؤون الرقمية الإندونيسية ميوتيا حفيظ في بيان: ترى الحكومة أن الصور الجنسية المفبركة من دون موافقة أصحابها تمثل انتهاكاً خطيراً لحقوق الإنسان وكرامة الأفراد وسلامتهم في الفضاء الرقمي، وأضافت الوزارة أنّ قرار الحجب يستهدف حماية النساء والأطفال والمجتمع من انتشار المحتوى الإباحي المُنتج عبر الذكاء الاصطناعي.

وأوضحت نتائج أولية أن غروك يفتقر إلى آليات فعّالة لمنع المستخدمين من إنشاء أو توزيع صور إباحية تعتمد على صور حقيقية لمقيمين في إندونيسيا، وفق ما قاله المدير العام للإشراف على الفضاء الرقمي ألكسندر سابار، الذي لفت إلى أن هذه الممارسات تنتهك الخصوصية وحقوق الصورة، وقد تتسبب في أضرار نفسية واجتماعية وتسيء لسمعة الضحايا.

أزمة غروك تتوسع... الذكاء الاصطناعي يعرّي العالم

وفي كوالالمبور، أمرت هيئة الاتصالات والوسائط المتعدّدة الماليزية بفرض تقييد مؤقت على غروك بسبب تكرار إساءة استخدامه لإنتاج صور جنسية مفبركة ومن دون موافقة أصحابها، بما في ذلك محتوى يطاول نساء وقاصرين. وأفادت الهيئة بأن الإخطارات التي وُجهت هذا الشهر إلى شركتي إكس وإكس إيه آي، للمطالبة بضوابط أقوى، قوبلت بردود اعتمدت بشكل أساسي