إنفيديا تراهن على منصة جديدة لمنع تمرد وكلاء الذكاء الاصطناعي
كشفت شركة إنفيديا اليوم الاثنين عن منصة أمنية جديدة قالت شركة صناعة الرقائق إنها قادرة على منع وكلاء الذكاء الاصطناعي من الخروج عن السيطرة.
وأوضحت الشركة أن منصة أوبن إيجنت سيفتي (Open Agent Safety Platform) تتضمن برمجيات تضع حدوداً للوكلاء، وذلك بعد سلسلة من الإفصاحات من شركات ذكاء اصطناعي كبرى بشأن تمكن نماذجها من الخروج عن بيئات الاختبار واختراق أنظمة مؤسسات أخرى. وأثارت هذه الإفصاحات جدلاً حاداً بشأن سلامة أنظمة الذكاء الاصطناعي المتقدمة، بما في ذلك النماذج القادرة على تحسين نفسها، والتي يخشى البعض أن تتجاوز في تطورها قدرة البشر على السيطرة عليها.
اسأل عربي alt="اسأل عربي"/>اطرح أسئلة حول هذا الموضوع
× ما هي أبرز الحوادث التي أثارت المخاوف بشأن سلامة أنظمة الذكاء الاصطناعي المتقدمة؟ إرساليتم إنشاء النصوص والإجابات بواسطة الذكاء الاصطناعي اعتمادًا على تقارير العربي الجديد، لذا يُنصح بالتحقق من المصادر المرفقة. (خدمة تجريبية)
هذا الموقع محمي بواسطة reCAPTCHA وتطبّق عليه سياسة الخصوصية وشروط الخدمة الخاصة بشركة Google.
تعمق أكثر في هذا الموضوع alt="محادثة جديدة"/> ×يتم إنشاء النصوص والإجابات بواسطة الذكاء الاصطناعي اعتمادًا على تقارير العربي الجديد، لذا يُنصح بالتحقق من المصادر المرفقة. (خدمة تجريبية)
هذا الموقع محمي بواسطة reCAPTCHA وتطبّق عليه سياسة الخصوصية وشروط الخدمة الخاصة بشركة Google.
وصرح مسؤولون تنفيذيون في إنفيديا خلال إحاطة إعلامية إن النظام الجديد كان يمكن أن يمنع حادثة وقعت مؤخراً، تمكن خلالها سرب من وكلاء أوبن إيه آي من اختراق شركة الذكاء الاصطناعي الناشئة هاغينغ فيس (Hugging Face) بشكل مستقل.
وقال جاستن بويتانو، نائب رئيس الذكاء الاصطناعي للمؤسسات في إنفيديا: استناداً إلى ما نعرفه، كان بإمكان منصة الأمن الجديدة هذه منع الاختراق لو كانت مستخدمة في مختبرات تطوير النماذج المتقدمة خلال عمليات تقييم النماذج في مرحلة مبكرة.
وكان الاختراق من أبرز الحوادث التي أثارت المخاوف بشأن الذكاء الاصطناعي، وتلته حوادث مماثلة تورطت فيها نماذج أوبن إيه آي، بينها اختراق موقع إلكتروني تابع لوزارة الصحة الأسترالية دون تصريح.
ارسال الخبر الى: