غروك فشل في التحقق من صحة معلومات حول حرب إيران وإسرائيل

مع تقليص منصات التكنولوجيا اعتمادها على مدققي الحقائق البشريين، يتزايد استخدام المستخدمين لروبوتات الدردشة المدعومة بالذكاء الاصطناعي بحثاً عن معلومات موثوق بها، لكن ردودها غالباً ما تكون مضلّلة. مثلاً أظهرت دراسة أن روبوت الدردشة غروك من شركة إكس إيه آي، التي يملكها إيلون ماسك، يعاني عيوباً في التحقق من صحة المعلومات حول الحرب بين إسرائيل وإيران.

وأفادت الدراسة الصادرة عن مختبر أبحاث الطب الشرعي الرقمي، التابع للمجلس الأطلسي، وهو مركز أبحاث أميركي، بأن التحقيق في أداء غروك خلال الأيام الأولى من الصراع الإسرائيلي الإيراني يكشف عن عيوب وقيود كبيرة في قدرة روبوت الدردشة على توفير معلومات دقيقة وموثوق بها ومتسقة خلال أوقات الأزمات. وأظهر الروبوت صعوبة في التحقق من المعلومات، بما في ذلك تلك المؤكدة مسبقاً، وتحليل الصور الزائفة، وتجنب الادعاءات غير المثبتة.

وحلّل المختبر نحو 130 ألف منشور بلغات مختلفة على منصة إكس، حيث دُمج غروك، فوجد التحليل أنه يواجه صعوبة في التحقق من المحتويات المُولّدة بواسطة الذكاء الاصطناعي. ويقول الباحثون إنه ارتكب أخطاءً سابقة في التحقق من معلومات تتعلق بأزمات مثل التصعيد العسكري الهندي الباكستاني الأخير واحتجاجات في لوس أنجليس.

روبوت يغير رأيه في الدقيقة ذاتها

وجدت الدراسة كذلك أنه، بعد الضربات الانتقامية الإيرانية على إسرائيل، قدّم غروك ردوداً متباينة تماماً على أسئلة مماثلة حول فيديو مُولّد بواسطة الذكاء الاصطناعي لمطار مُدمّر حصد ملايين المشاهدات على إكس. وذكرت الدراسة أن الروبوت تذبذب، أحياناً في الدقيقة نفسها، بين إنكار تدمير المطار وتأكيد تضرّره من الضربات. وفي بعض الردود، أشار إلى صاروخ أطلقه المتمردون الحوثيون في اليمن كمصدر للضرر. وفي ردود أخرى، أخطأ في تحديد المطار المُولّد بواسطة الذكاء الاصطناعي وقال إنه مطار في بيروت وغزة وطهران.

توفير روبوت الدردشة غروك على تليغرام بعد اتفاق مع إكس إيه آي

غروك لا يميز بين الحقيقة والفبركة

عندما شارك المستخدمون مقطع فيديو آخر مُولّداً بالذكاء الاصطناعي يُصوّر مباني تنهار بعد غارة إيرانية مزعومة على تل أبيب، ردّ