لعبة بالذكاء الاصطناعي تسرب محادثات الأطفال

تسوّق شركة بوندو الألعاب المحشوة الخاصة بها على أنها لعبة ناعمة ولطيفة تعمل بالذكاء الاصطناعي، يمكنها الدردشة والتعليم واللعب مع طفلك، لكن انكشفت منصة على الإنترنت تتيح لأي شخص قراءة حوالي 50 ألف محادثة خاصة بين الأطفال وهذه اللعبة. وبحسب مدونة شركة مالويربايتس للبرمجيات، أي شخص يملك حساب جيميل يمكنه قراءة نصوص محادثات جميع الأطفال تقريباً الذين استخدموا لعبة بوندو. وأوضحت أنه، من دون حاجة إلى أي اختراق، وبمجرد تسجيل الدخول باستخدام أي حساب غوغل، وجد باحثان نفسيهما يطلعان على محادثات الأطفال الخاصة.

وتقول بوندو إن أنظمة السلامة والسلوك في بوندو قد بُنيَت على مدار 18 شهراً من الاختبار التجريبي مع آلاف العائلات. ومع ذلك، تقول مالويربايتس إن الباحثين أُصيبوا بالذهول عندما اكتشفوا أن منصة الشركة الإلكترونية العامة تسمح لأي شخص بتسجيل الدخول باستخدام حسابه على غوغل.

وكشفت سجلات المحادثات بين الأطفال ودميتهم عن الأسماء وتواريخ الميلاد وتفاصيل عائلية ومحادثات حميمة. المحادثات الوحيدة غير المتاحة كانت تلك التي حذفها الآباء أو موظفو الشركة يدوياً. وتحذّر مالويربايتس من أنه من المحتمل أن تكون سجلات المحادثات هذه بمثابة كنز ثمين للصوص أو الخاطفين، إذ تُتيح لهم الاطلاع على الروتين المنزلي والأحداث المقبلة.

إسرائيل وأذربيجان توقعان اتفاقاً استراتيجياً في الذكاء الاصطناعي

بوندو أوقفت المنصة عن العمل في غضون دقائق من اكتشاف الثغرة، ثم أعادت تشغيلها مع تفعيل خاصية التحقق من الهوية. وقال الرئيس التنفيذي إن الإصلاحات أُنجزت في غضون ساعات، وبحسبه لم يجدوا أي دليل على وصول آخر، كما استعانوا بشركة أمنية وأضافوا نظام مراقبة. ومع ذلك، انتشرت قصص مخيفة عدة حول ألعاب الأطفال المزودة بتقنية الذكاء الاصطناعي، مثل دبدوب محشو من شركة فولوتوي، بدأ بالتحدث عن الميول الجنسية مع الأطفال، وكان يخبرهم بأماكن وجود السكاكين، إلى أن حظرت شركة التكنولوجيا أوبن إيه آي وصوله إلى نموذج الذكاء الاصطناعي GPT-4o.

وكان السيناتور الديمقراطي، ستيف باديلا، قد تقدّم بمشروع قانون إلى مجلس ولاية كاليفورنيا يقضي بحظر بيع ألعاب