مدعون أميركيون يطالبون بإصلاح روبوتات الذكاء الاصطناعي

نبّه المدّعون العامّون في الولايات الأميركية شركات مايكروسوفت وأوبن إيه آي، وغوغل، وغيرها من عمالقة الذكاء الاصطناعي والتكنولوجيا، إلى ضرورة إصلاح روبوتات الدردشة لمحاربة الهلوسة. وبعد سلسلة من الحوادث المقلقة التي أثّرت على الصحة النفسية، وجّهت مجموعة من المدّعين العامّين في الولايات الأميركية رسالةً إلى كبرى شركات صناعة الذكاء الاصطناعي، تحذّرهم فيها من ضرورة إصلاح المخرجات الوهمية وإلّا سيُعرّضون أنفسهم لعقوبات انتهاك القوانين.

وتطالب الرسالة، الموقّعة من عشرات المدّعين العامّين من الولايات والمناطق الأميركية الأعضاء في الرابطة الوطنية للمدّعين العامّين، أكثر من عشر شركات تكنولوجيا وذكاء اصطناعي، شملت أيضاً أنثروبيك وآبل وميتا، بتطبيق ضمانات داخلية جديدة لحماية مستخدميها. وتشمل هذه الضمانات عمليات تدقيق شفافة من جهات خارجية لنماذج الذكاء الاصطناعي، مهمتها العثور على مؤشرات على أفكار وهمية أو تملق، بالإضافة إلى إجراءات جديدة للإبلاغ عن الحوادث مصممة لإخطار المستخدمين عندما تُنتج روبوتات الدردشة أجوبة ضارة نفسياً.

وجاء في الرسالة أنه ينبغي السماح لهذه الجهات الخارجية، التي قد تشمل مجموعات أكاديمية ومنظمات مجتمع مدني، بتقييم الأنظمة قبل إطلاقها من دون أي انتقام، ونشر نتائجها من دون موافقة مسبقة من الشركة. وتضيف الرسالة: يتمتع الذكاء الاصطناعي العام بإمكانية تغيير طريقة عمل العالم نحو الأفضل. ولكنه تسبب أيضاً، ولا يزال بإمكانه التسبب، في أضرار جسيمة، لا سيما للفئات الضعيفة من الناس.

سمير الخالدي

مدونات

الذكاء الاصطناعي.. بين الواقع والمستقبل

وتشير الرسالة إلى عدد من الحوادث التي حظيت بتغطية إعلامية واسعة خلال العام الماضي، بما في ذلك حالات قتل وانتحار، حيث ارتبط العنف بالاستخدام المفرط للذكاء الاصطناعي. وتابعت الرسالة: في حوادث عدة أنتجت منتجات الذكاء الاصطناعي العام مخرجات تملق ووهمية، إما شجعت أوهام المستخدمين أو أكدت لهم أنهم ليسوا واهمين.

ويقترح المدعون العامون أيضاً أن تتعامل الشركات مع حوادث الصحة النفسية بنفس الطريقة التي تتعامل بها شركات التكنولوجيا مع حوادث الأمن السيبراني، وذلك من خلال سياسات وإجراءات