خطر التسميم الرقمي كيف تتحول إجابات الذكاء الاصطناعي إلى أداة للتلاعب السياسي

لم تعد حروب المعلومات محصورة في منصات التواصل الاجتماعي، بل امتدت لتطال المستشار الرقمي الذي يعتمد عليه الملايين يومياً؛ أنظمة الذكاء الاصطناعي. دراسة حديثة أجرتها مؤسسة ديموس (Demos) البريطانية، حذرت من تحول النماذج اللغوية الكبيرة (LLMs) إلى ساحة جديدة للتنافس والتأثير المعلوماتي الموجه.

ويشير الباحثون كارل ميلر، وهانا بيري، وفلين ديفاين، إلى أن الجهات الساعية للتأثير لم تعد تكتفي بالسيطرة على محركات البحث، بل باتت تستهدف المصادر التي تغذي أنظمة الذكاء الاصطناعي، مما يفتح الباب أمام ما يعرف بـ تسميم الاسترجاع المعزز بالتوليد (RAG poisoning).

من تضليل البشر إلى التلاعب بالخوارزميات

يوضح كارل ميلر، مؤسس مختبر CASM التابع للمؤسسة، أن النماذج اللغوية أصبحت وسيطاً جديداً بين المستخدم والمعلومة. وبدلاً من تصفح مواقع متعددة، يحصل المستخدم على إجابة واحدة مصاغة آلياً، مما يمنح هذه الأنظمة سلطة معرفية قد تُستغل للتلاعب بالوعي العام.

تعتمد تقنية تسميم الاسترجاع على إنشاء محتوى مصمم خصيصاً لجذب خوارزميات الذكاء الاصطناعي، بحيث تدرج هذه الأنظمة روايات مضللة ضمن إجاباتها الموثوقة للمستخدمين، مستفيدة من اعتمادها على مصادر خارجية لتحديث معلوماتها.

اختبار النماذج أمام حملات التضليل

لتقييم مدى حصانة هذه الأنظمة، أجرى الباحثون تجربة باستخدام 600 صيغة من الأسئلة المستوحاة من حملة تأثير معلوماتي مرتبطة بـ حملة ستورم-1516 الروسية، واختبروا خمسة نماذج رائدة: شات جي بي تي، جيميناي، كلود، ميسترال، وغروك.

أظهرت النتائج تبايناً لافتاً في الأداء؛ حيث كان نموذج غروك الأكثر قدرة على تفنيد الادعاءات، بينما سجلت نماذج أخرى معدلات تبنٍ أو شرعنة للروايات المضللة، مما يؤكد أن المخاطر تختلف باختلاف البنية التقنية لكل نموذج.

أهداف جديدة: ويكيبيديا وريديت في مرمى الاستهداف

تحذر الدراسة من أن حملات التلاعب قد تمتد لتشمل منصات