مقاطع سورا الواقعية تثير مخاوف من موجة تضليل غير مسبوقة

بعد ثلاثة أيام على إطلاقه رسمياً، أنشأ مستخدمو تطبيق سورا الجديد من أوبن إيه آي العديد من مقاطع الفيديو الواقعية حول تزوير الانتخابات، القبض على المهاجرين في الولايات المتحدة، احتجاجات مختلفة، وحتى جرائم، لكنها جميعها مصنوعة بواسطة الذكاء الاصطناعي.

وكان شركة أوبن إيه آي قد أطلقت سورا، الثلاثاء، على هيئة شبكة اجتماعية، ويمكن للمستخدمين كتابة طلباتهم لإنشاء مقاطع فيديو عن أي موضوع يمكن تخيله. كما يسمح لهم بتحميل صورهم ودمجها مع أصواتهم في مشاهد خيالية.
ويتوافر التطبيق حالياً لعدد محدود من المستخدمين في الولايات المتحدة وكندا، ويرتكز على أحدث نموذج لتوليد مقاطع الفيديو بالذكاء الاصطناعي سورا 2، خليفة سورا الذي طرحته الشركة في فبراير/ شباط 2024، ليصبح الأخير الاسم المعتمد لهذا التطبيق.

بحسب صحيفة نيويورك تايمز الأميركية، كشف سورا سريعاً عن درجة غير مسبوقة من الواقعية والإتقان في إنتاج مقاطع الفيديو، ممّا أثار مخاوف عدد من خبراء الذكاء الاصطناعي من أن يؤدي ذلك إلى تزايد التضليل، محذّرين من أن يكون لمقاطع الفيديو المنتجة عواقب في العالم الحقيقي، إذ يمكن أن تؤدي لتأجيج النزاعات، أو خداع المستهلكين، أو التأثير على الانتخابات، أو تلفيق التهم لأشخاص أبرياء.

وهو ما عبّر عنه أستاذ علوم الحاسوب في جامعة كاليفورنيا بيركلي، هاني فريد بالقول: الأمر مثير للقلق بالنسبة للمستهلكين الذين يتعرضون يومياً لعدد لا يُحصى من هذه المواد، مضيفاً: أنا قلق بشأن ديمقراطيتنا. قلق بشأن اقتصادنا. قلق بشأن مؤسساتنا.

وقالت أوبن إيه آي في بيان ردّاً على هذه المخاوف إنها أطلقت التطبيق بعد إجراء اختبارات أمان مكثفة، ووضع ضوابط صارمة، وأوضحت: سياسات الاستخدام لدينا تحظر تضليل الآخرين عبر انتحال الشخصية أو الاحتيال أو الخداع، ونتخذ إجراءات عندما نكتشف إساءة الاستخدام. بالفعل، وخلال اختبار أجرته نيويورك تايمز، رفض التطبيق إنشاء صور لشخصيات مشهورة لم تعطِ إذنها، ورفض تنفيذ طلبات تتضمن تصويراً للعنف الصريح، كما لم يلبِ بعض الطلبات الخاصة بإنشاء محتوى سياسي.

من جهة أخرى، يسمح التطبيق، المتاح حالياً فقط عبر دعوة من مستخدم موجود،