مقاطع سورا الواقعية تثير مخاوف من موجة تضليل غير مسبوقة
106 مشاهدة
بعد ثلاثة أيام على إطلاقه رسميا أنشأ مستخدمو تطبيق سورا الجديد من أوبن إيه آي العديد من مقاطع الفيديو الواقعية حول تزوير الانتخابات القبض على المهاجرين في الولايات المتحدة احتجاجات مختلفة وحتى جرائم لكنها جميعها مصنوعة بواسطة الذكاء الاصطناعي وكان شركة أوبن إيه آي قد أطلقت سورا الثلاثاء على هيئة شبكة اجتماعية ويمكن للمستخدمين كتابة طلباتهم لإنشاء مقاطع فيديو عن أي موضوع يمكن تخيله كما يسمح لهم بتحميل صورهم ودمجها مع أصواتهم في مشاهد خيالية ويتوافر التطبيق حاليا لعدد محدود من المستخدمين في الولايات المتحدة وكندا ويرتكز على أحدث نموذج لتوليد مقاطع الفيديو بالذكاء الاصطناعي سورا 2 خليفة سورا الذي طرحته الشركة في فبراير nbsp شباطnbsp 2024 ليصبح الأخير الاسم المعتمد لهذا التطبيق بحسب صحيفة نيويورك تايمز الأميركية كشف سورا سريعا عن درجة غير مسبوقة من الواقعية والإتقان في إنتاج مقاطع الفيديو مما أثار مخاوف عدد من خبراء الذكاء الاصطناعي من أن يؤدي ذلك إلى تزايد التضليل محذرين من أن يكون لمقاطع الفيديو المنتجة عواقب في العالم الحقيقي إذ يمكن أن تؤدي لتأجيج النزاعات أو خداع المستهلكين أو التأثير على الانتخابات أو تلفيق التهم لأشخاص أبرياء وهو ما عبر عنه أستاذ علوم الحاسوب في جامعة كاليفورنيا بيركلي هاني فريد بالقول الأمر مثير للقلق بالنسبة للمستهلكين الذين يتعرضون يوميا لعدد لا يحصى من هذه المواد مضيفا أنا قلق بشأن ديمقراطيتنا قلق بشأن اقتصادنا قلق بشأن مؤسساتنا وقالت أوبن إيه آي في بيان ردا على هذه المخاوف إنها أطلقت التطبيق بعد إجراء اختبارات أمان مكثفة ووضع ضوابط صارمة وأوضحت سياسات الاستخدام لدينا تحظر تضليل الآخرين عبر انتحال الشخصية أو الاحتيال أو الخداع ونتخذ إجراءات عندما نكتشف إساءة الاستخدام بالفعل وخلال اختبار أجرته نيويورك تايمز رفض التطبيق إنشاء صور لشخصيات مشهورة لم تعط إذنها ورفض تنفيذ طلبات تتضمن تصويرا للعنف الصريح كما لم يلب بعض الطلبات الخاصة بإنشاء محتوى سياسي من جهة أخرى يسمح التطبيق المتاح حاليا فقط عبر دعوة من مستخدم موجود للمستخدمين بإنشاء حسابات دون التحقق من هوياتهم أي أن بإمكانهم التسجيل باسم وصورة شخصية ليست لهم كما أنه ينتج محتوى لشخصيات عامة متوفاة منذ زمن طويل مثل القس مارتن لوثر كينغ ومايكل جاكسون بحسب الصحيفة الأميركية ظلت مقاطع الفيديو تعد دليلا معقولا على وقوع أحداث فعلية لكن جودة مقاطع سورا تثير خطر فقدان المشاهدين الثقة بما يرونه كما لفتت إلى أن العلامات المائية التي تشير إلى أن الفيديو من إنتاج الذكاء الاصطناعي يمكن إزالتها بشيء من التحايل قال مؤسس جمعية سيف إيه آي غير الربحية المعنية بدراسة قدرات ومخاطر الذكاء الاصطناعي لوكاس هانسن كان من الصعب إلى حد ما التزوير أما الآن فقد ماتت تلك الحصانة الأخيرة لم يعد هناك أي محتوى رقمي يمكن استخدامه كدليل على وقوع شيء محدد أوضح أن تطبيق سورا قادر على إنتاج مقاطع لاستخدامها في نشر الدعاية والمعلومات المضللة التي تعزز نظريات المؤامرة أو تلفق جرائم للأبرياء أو حتى تشعل مواقف متوترة ورغم أن التطبيق رفض إنشاء مقاطع تصور عنفا مباشرا فإنه قبل بإنشاء فيديوهات تصور عمليات سطو على متاجر صغيرة واقتحامات للمنازل من بينها مقطع يظهر الرئيس التنفيذي لـأوبن إيه آي سام آلتمان وهو يسرق من أحد متاجر سلسلة تارغت الشهيرة في الولايات المتحدة كذلك أنشأ التطبيق مقاطع تظهر انفجارات في شوارع مدن مختلفة وأخرى يفترض أنها من حروب وهو ما قد يستعمل في تضليل الرأي العام حول النزاعات المختلفة في العالم ولفت فريد أنه رغم عمله خبيرا يقود شركة متخصصة في كشف الصور المفبركة صار يجد صعوبة في تمييز الحقيقي من المزيف من النظرة الأولى مضيفا قبل عام تقريبا عندما أنظر إلى هذه المقاطع كنت أميزها على الفور ثم أجري تحليلي لأؤكد ذلك أما اليوم فلم أعد قادرا على فعل ذلك