خبراء يدعون إلى تغييرات تمنع خروج الذكاء الاصطناعي عن السيطرة

دعا أكثر من 200 باحث في مجالَي الذكاء الاصطناعي والأمن السيبراني، اليوم الثلاثاء، إلى اتخاذ إجراءات فورية لمنع تكرار حوادث خروج نماذج الذكاء الاصطناعي عن السيطرة، لما قد تشكله من خطر على البنية التحتية الحيوية. ودعا الباحثون في رسالة وقّعها علماء بارزون، من بينهم الحائز على جائزة نوبل جيفري هينتون والحائز على جائزة تورينغ يوشوا بنجيو، وكلاهما من رواد الذكاء الاصطناعي، إلى فصل نماذج الذكاء الاصطناعي ذات القدرات السيبرانية عن الإنترنت بشكل كامل أثناء اختبارها.

وجاء في الرسالة: نحن العلماء الموقعون أدناه، نرى أن هناك حاجة إلى مزيد من الأبحاث في مجال سلامة الذكاء الاصطناعي، وإلى إيلاء اهتمام أكبر للتقنيات والإجراءات الرامية إلى احتواء هذه النماذج.

وكشفت شركات أميركية رائدة في مجال الذكاء الاصطناعي خلال الأشهر الأخيرة عن سلسلة حوادث تمكنت فيها نماذج قيد التطوير من تجاوز إجراءات احتوائها والوصول إلى الإنترنت، ثم اختراق مواقع إلكترونية، بما في ذلك الوصول من دون تصريح إلى مواقع حكومية أسترالية.

وحذّر الباحثون من أنه من دون تغييرات فورية في ممارسات تطوير الذكاء الاصطناعي ونشره، ستستمر مثل هذه الحوادث، وستكون الحوادث المستقبلية أشدّ ضرراً بكثير على بنيتنا التحتية الحيوية المعرضة للخطر. ودعت الرسالة المؤسسات التي تطوّر نماذج ذكاء اصطناعي ذات قدرات سيبرانية أو تنشرها أو تختبرها إلى عزل هذه النماذج عزلاً تاماً عن الإنترنت، من خلال فصلها مادياً عن الشبكة، وذلك لضمان عدم تمكنها من تجاوز تدابير الاحتواء.

انضمام 40 مؤسسة إلى ائتلاف إعلامي لمواجهة شركات الذكاء الاصطناعي

وطالب الباحثون بإنشاء هيئة دولية تتولى توحيد أفضل الممارسات المتعلقة بالأمن، ودعوا إلى إلزام الشركات بإبلاغ هذه الهيئة بأي إخفاق في إجراءات احتواء النماذج، على أن تتولى رصد هذه الحوادث وتوثيقها. وجاء في الرسالة أن هذه الشفافية ضرورية للتعلم من الحوادث وضمان المساءلة.

وأدّت حوادث خروج نماذج الذكاء الاصطناعي عن السيطرة إلى تصاعد الدعوات لإبطاء وتيرة تطوير هذه التكنولوجيا، لكن القطاع والحكومات منقسمون بشأن الحد من سرعة تطورها وتنظيمها. وفي