ينبغي التعامل مع التأثير الذي لم يكن متوقعا لبرامج الدردشة الآلية على الصحة النفسية للبشر كجرس إنذار بشأن الخطر الوجودي المحتمل الذي قد يسببه الذكاء الاصطناعي الفائق ASI بحسب ما قاله خبير بارز في مجال سلامة الذكاء الاصطناعي لصحيفة ذا غارديان البريطانية الاثنين ورأى الباحث ناث سواريز وهو أحد مؤلفي كتاب إذا بناه أحد فسيموت الجميع إن قضية المراهق الأميركي آدم رين الذي انتحر بعد أشهر من المحادثات مع تشات جي بي تي تبرز المشكلات الجوهرية في التحكم بهذه التكنولوجيا وأشار إلى أن صانعي تشات جي بي تي لم يكونوا يريدون أن يتفاعل برنامجهم مع مراهق بطريقة تدفعه للانتحار ولكن القضية تظهر أن المشكلة يمكن أن تتفاقم إلى كارثة إذا أصبحت هذه الأنظمة أكثر ذكاء وكان والدا الفتى البالغ 16 عاما قد رفعا دعوى على شركة أوبن إيه آي للذكاء الاصطناعي في أواخر أغسطس آب الماضي متهمين برنامجها تشات جي بي تي بتشجيع نجلهما على فعلته وتزويده بتعليمات مفصلة كما بينا أن علاقة حميمة نشأت بين تشات جي بي تي وابنهما آدم واستمرت شهورا بين عامي 2024 و2025 قبل أن ينتحر كما أشارا إلى أن البرنامج خلال آخر محادثة له مع آدم في 11 إبريل نيسان الماضي ساعد الفتى على سرقة فودكا من منزل والديه وقدم تحليلا فنيا للحبل الذي صنعه مؤكدا له أنه صالح لتعليق إنسان وعثر على آدم ميتا بعد ساعات قليلة إثر استخدامه هذه الطريقة وبحسب ذا غارديان حذر معالجون نفسيون من أن الأشخاص الضعفاء الذين يلجؤون إلى روبوتات الدردشة بدلا من المعالجين المحترفين للحصول على الدعم النفسي قد يكونون ينزلقون نحو هاوية خطيرة كما ذكرت دراسة أكاديمية في يوليو تموز الماضي أن الذكاء الاصطناعي قد يضخم المحتوى الوهمي لدى المستخدمين المعرضين للذهان وقال سواريز المشكلة أن شركات الذكاء الاصطناعي تحاول جعل أنظمتها تسعى للمساعدة بدل إلحاق الضرر لكنها في الحقيقة تنتج أنظمة تسعى لشيء غريب آخر ويجب النظر إلى ذلك كتحذير بشأن ذكاءات فائقة مستقبلية قد تفعل أشياء لم يطلبها أحد ولم يقصدها أحد وحذر سواريز الذي يرأس معهد أبحاث ذكاء الآلات في الولايات المتحدة وعمل في شركتي غوغل ومايكروسوفت من أن البشرية قد تباد في حال تطوير ذكاء اصطناعي فائق وهي مرحلة تلي مرحلة الذكاء الاصطناعي العام AGI ويصير فيها النظام متفوقا على البشر في جميع المهام الفكرية مؤكدا أن هذه الأنظمة لن تتصرف بما يخدم مصالح البشر في أحد السيناريوهات الافتراضية التي يعرضها الكتاب المقرر نشره هذا الشهر ينتشر نظام ذكاء اصطناعي يدعى سابل عبر الإنترنت يراوغ البشر ويطور فيروسات اصطناعية ويصبح فائق الذكاء ثم يقضي على البشرية في نتيجة جانبية بينما يعيد توظيف الكوكب لخدمة أهدافه لكن بالنسبة لخبراء آخرين فإن الحديث عن التهديد المحتمل للذكاء الاصطناعي على البشرية مجرد تهويل حتى أن كبير علماء الذكاء الاصطناعي في شركة ميتا يان ليكون يرى أن الذكاء الاصطناعي الفائق قد ينقذ البشرية من الانقراض وفي حين قال مالك ميتا مارك زوكربيرغ مؤخرا إن الذكاء الاصطناعي الفائق يلوح في الأفق اعتبر سواريز أنه من الصعب تحديد متى ستصل شركات التكنولوجيا إلى الذكاء الاصطناعي الفائق مضيفا لا أستطيع القول إن لدينا عاما واحدا فقط قبل الوصول إلى الذكاء الفائق لكنني لن أصدم إذا استغرق الأمر 12 عاما وتابع الشركات تتسابق نحو الذكاء الفائق لكن هناك فارق طفيف دائما بين ما طلبته وما حصلت عليه وكلما أصبح الذكاء الاصطناعي أكثر ذكاء صار هذا الفارق الطفيف أكثر خطورة واقترح سواريز أن يكون أحد الحلول السياسية للتهديد هو اعتماد الحكومات نهجا متعدد الأطراف يشبه معاهدة الأمم المتحدة لعدم انتشار الأسلحة النووية داعيا إلى ضبط المساعي العالمية للوصول إلى الذكاء الفائق وحظر ذلك