خبير يحذر من مخاطر الذكاء الاصطناعي الفائق

ينبغي التعامل مع التأثير الذي لم يكن متوقعاً لبرامج الدردشة الآلية على الصحة النفسية للبشر، كجرس إنذار بشأن الخطر الوجودي المحتمل الذي قد يسببه الذكاء الاصطناعي الفائق (ASI)، بحسب ما قاله خبير بارز في مجال سلامة الذكاء الاصطناعي لصحيفة ذا غارديان البريطانية، الاثنين.

ورأى الباحث ناث سواريز، وهو أحد مؤلفي كتاب إذا بناه أحد، فسيموت الجميع، إن قضية المراهق الأميركي آدم رين، الذي انتحر بعد أشهر من المحادثات مع تشات جي بي تي، تُبرز المشكلات الجوهرية في التحكم بهذه التكنولوجيا. وأشار إلى أن صانعي تشات جي بي تي لم يكونوا يريدون أن يتفاعل برنامجهم مع مراهق بطريقة تدفعه للانتحار، ولكن القضية تظهر أن المشكلة يمكن أن تتفاقم إلى كارثة إذا أصبحت هذه الأنظمة أكثر ذكاءً.

وكان والدا الفتى البالغ 16 عاماً قد رفعا دعوى على شركة أوبن إيه آي للذكاء الاصطناعي، في أواخر أغسطس/آب الماضي، متهمين برنامجها تشات جي بي تي بتشجيع نجلهما على فعلته وتزويده بتعليمات مفصّلة. كما بيّنا أن علاقة حميمة نشأت بين تشات جي بي تي وابنهما آدم واستمرت شهوراً بين عامَي 2024 و2025، قبل أن ينتحر. كما أشارا إلى أن البرنامج خلال آخر محادثة له مع آدم في 11 إبريل/نيسان الماضي، ساعد الفتى على سرقة فودكا من منزل والديه، وقدم تحليلاً فنياً للحبل الذي صنعه، مؤكداً له أنه صالح لتعليق إنسان. وعُثِر على آدم ميتاً بعد ساعات قليلة، إثر استخدامه هذه الطريقة.

وبحسب ذا غارديان، حذّر معالجون نفسيون من أن الأشخاص الضعفاء الذين يلجؤون إلى روبوتات الدردشة بدلاً من المعالجين المحترفين للحصول على الدعم النفسي قد يكونون ينزلقون نحو هاوية خطيرة. كما ذكرت دراسة أكاديمية في يوليو/تموز الماضي أن الذكاء الاصطناعي قد يضخّم المحتوى الوهمي لدى المستخدمين المعرّضين للذهان.

وقال سواريز: المشكلة أن شركات الذكاء الاصطناعي تحاول جعل أنظمتها تسعى للمساعدة بدل إلحاق الضرر، لكنها في الحقيقة تُنتج أنظمة تسعى لشيء غريب آخر. ويجب النظر إلى ذلك كتحذير بشأن ذكاءات فائقة مستقبلية قد تفعل أشياء