أداة غوغل لكشف الفبركة تعاني أزمة دقة

تقول شركة غوغل إن SynthID (سينث آي دي) هي أداة قادرة على التمييز بين ما إذا كانت الصورة أو مقاطع الفيديو حقيقية أم هي نتيجة فبركة باستخدام قدرات الذكاء الاصطناعي. لكن هذه الأداة أثبتت ضعف كفاءة وأزمة دقة، بتقديمها نتائج متضاربة. ورصد موقع التحقيقات إنترسبت هذه المشكلة خلال التأكد من صورة نشرها البيت الأبيض وأثارت شكوكاً حولها.

تصف غوغل أداة سينث آي دي بأنها نظام علامات مائية رقمية، بحيث تضيف علامات غير مرئية في الصور والمقاطع الصوتية والنصوص والفيديوهات المُولّدة بواسطة الذكاء الاصطناعي باستخدام أدوات غوغل، والتي يمكنها كشفها، ما يُثبت فبركة المحتوى الإلكتروني أو مصداقيته. ويقول موقع ديب مايند، قسم الذكاء الاصطناعي في غوغل، إن العلامات المائية غيرُ مرئية للعين البشرية، ولكن يمكن لتقنية سينث آي دي كشفها. وتقول الشركة إن سينث آي دي قادر على كشف العلامات المائية حتى لو خضعت الصورة لتعديلات، مثل القص أو الضغط.

ونشر البيت الأبيض صورة تُظهر ناشطة وهي تبكي أثناء اعتقالها، بينما نشرت وزيرة الأمن الداخلي، كريستي نويم، صورة لذات اللحظة لكن الناشطة لم تكن تبكي على الإطلاق، ما أثار تساؤلات حول فبركة الصورة، وجعل إنترسبت يعرض الصور على سينث آي دي. يقول الموقع: اتبعنا تعليمات غوغل واستخدمنا برنامج الدردشة الآلي جيميناي، للتحقق مما إذا كانت الصورة تحتوي على علامات سينث آي دي.

شركات مينيسوتا تتحرك بحثاً عن حلول لتحدّيات الاحتجاجات

يقول الموقع إنه وجد في البداية أن البيت الأبيض قد تلاعب فعلاً بالصورة مستخدماً الذكاء الاصطناعي من غوغل. لكن بعد نشر مقال حول الموضوع أسفرت المحاولات اللاحقة للتحقق مجدداً باستخدام سينث آي دي نفسه عن نتائج مختلفة. ويأتي هذا المشكل في الوقت الذي بات في التأكد من فبركة صورة بالذكاء الاصطناعي بالعين أصعب يوماً بعد يوماً، نظراً لتطور قوة أدوات الفبركة.

وسينث آي دي ليست الأداة الوحيدة التي تكشف الفبركة. هناك أدوات أخرى تقيس صحة البيانات الوصفية في الصور والخلل في توزيع اللون والمناطق المنسوخة