كاركتر دوت إيه آي تحظر استخدام القصر روبوتاتها بعد حوادث انتحار

تعتزم شركة كاركتر دوت إيه آي (Character.AI) المتخصّصة في روبوتات الدردشة، حظر نفاذ القُصَّر إلى روبوتاتها، وذلك إثر حالات انتحارٍ عدّة لمراهقين، وفق بيانٍ أصدرته الشركة يوم الأربعاء.

وأوضحت الشركة بشأن هذا التغيير، الذي يدخل حيّز التنفيذ في 25 نوفمبر/تشرين الثاني، أنّها تعتقد أنّ هذا القرار مناسبٌ نظراً إلى الأسئلة التي طُرحت حول الطريقة التي يستخدم فيها المراهقون هذه التكنولوجيا الجديدة أو تلك التي ينبغي عليهم اعتمادها.

وبعد إطلاق تطبيقها في مايو/أيار 2023، حقّقت الشركة الناشئة التي تتّخذ مقرّاً لها في مينلو بارك بولاية كاليفورنيا شهرةً واسعة في القطاع، بفضل أدوات المساعدة العاملة بالذكاء الاصطناعيّ التي تُحاكي اهتمامات المستخدمين أو تُجسّد لهم شخصيّات المشاهير. لكنّ التطبيق، الذي حظي بنجاحٍ كبيرٍ لدى المستخدمين اليافعين، أثار قلق مراقبين، خصوصاً حيال التعلّق المفرط لدى البعض بروبوتات الدردشة وطبيعة التفاعلات مع مستخدمي الإنترنت.

وفي أكتوبر/تشرين الأوّل 2024، رفعت أمٌّ دعوى قضائيّة ضدّ شركة كاركتر دوت إيه آي بتهمة المساهمة في انتحار ابنها البالغ 14 عاماً، بسبب عدم تقديم إرشاداتٍ واضحةٍ لثَنيه عن إنهاء حياته. وفي ديسمبر/كانون الأوّل من العام نفسه، أعلنت كاركتر دوت إيه آي عن سلسلة تدابير للردّ على الانتقادات، من بينها استحداث مساعدٍ إلكترونيّ مخصّصٍ لمواكبة المراهقين عبر منصّتها.

اتهامات بالتلاعب بالمراهقين

أثار انتحار مراهق أميركي بعد تفاعله مع روبوت دردشة يحاكي شخصية من مسلسل غيم أوف ثرونز جدلاً واسعاً حول مخاطر استخدام الأطفال منصات الذكاء الاصطناعي.

أميركية تتهم روبوتات الدردشة بالتلاعب بابنها ودفعه للانتحار

وروت الأميركية ميغن غارسيا، لوكالة فرانس برس، كيف وقع ابنها سول (14 سنة) في حب روبوت دردشة يحاكي إحدى شخصيات مسلسل غيم أوف ثرونز ومتاح عبر منصة كاركتر دوت إيه آي Character.AI التي تحظى برواج بين الشباب وتتيح التفاعل مع نسخ مقلّدة من شخصياتهم المفضلة. بعد قراءة مئات الرسائل المتبادلة على مدار عام تقريباً بين ابنها وروبوت دردشة يُحاكي مروِّضة التنانين دينيريس تارغاريان، اقتنعت ميغن غارسيا بأن أداة الذكاء الاصطناعي هذه لعبت