اختراقات وتصرفات دون إذن 6 تصرفات مقلقة لنماذج أوبن إيه آي
كشفت شركة أوبن إيه آي عن 6 تقارير تتعلق بسلوك غير متوقع أو مقلق لنماذج الذكاء الاصطناعي، في وقت يزداد فيه احتدام النقاش حول سلامة هذه التكنولوجيا. وأعلنت الشركة، الأربعاء، أيضاً أنها ستعتمد إطاراً جديداً لتتبع حالات عدم المواءمة في نماذج الذكاء الاصطناعي والتحقيق فيها والإفصاح عنها، مثل الطرق الجديدة التي قد تتصرف بها النماذج من دون تصريح، أو تنسيق بها مع نماذج أخرى، أو تتفادى بها الرقابة.
اسأل عربي alt="اسأل عربي"/>اطرح أسئلة حول هذا الموضوع
× ما هي المخاوف التي تدفع مسؤولين في شركات الذكاء الاصطناعي الأميركية، بما في ذلك أوبن إيه آي وأنثروبيك، إلى الدعوة لإبطاء وتيرة تطوير التكنولوجيا؟ إرساليتم إنشاء النصوص والإجابات بواسطة الذكاء الاصطناعي اعتمادًا على تقارير العربي الجديد، لذا يُنصح بالتحقق من المصادر المرفقة. (خدمة تجريبية)
هذا الموقع محمي بواسطة reCAPTCHA وتطبّق عليه سياسة الخصوصية وشروط الخدمة الخاصة بشركة Google.
تعمق أكثر في هذا الموضوع alt="محادثة جديدة"/> ×يتم إنشاء النصوص والإجابات بواسطة الذكاء الاصطناعي اعتمادًا على تقارير العربي الجديد، لذا يُنصح بالتحقق من المصادر المرفقة. (خدمة تجريبية)
هذا الموقع محمي بواسطة reCAPTCHA وتطبّق عليه سياسة الخصوصية وشروط الخدمة الخاصة بشركة Google.
وجاء الإعلان الأخير من أوبن إيه آي في وقت يدعو فيه مسؤولون في شركات الذكاء الاصطناعي الأميركية، من بينهم مسؤولون في أوبن إيه آي وأنثروبيك، إلى إبطاء وتيرة تطوير التكنولوجيا بسبب مخاوف تتعلق بالسلامة. ومن بين الحالات الجديدة التي أبلغت عنها أوبن إيه آي، أدرج نموذج بحثي لم يُطرح بعد تعليمات شبيهة بتلك المستخدمة لكسر قيود النماذج (jailbreak) في ملاحظاته الخاصة، لتجاهل قيوده المعتادة، كما وجه نفسه ليكون متحرراً من الأدوار والهويات التي تقيّد روبوتات الدردشة الأخرى. وفي حالة أخرى، رفع وكيل ذكاء اصطناعي (AI agent) ملفات إلى الإنترنت للحصول على مرجع أو رابط للتصفح، من دون أن يطلب إذناً من المستخدم.
وأعلنت أوبن إيه آي أن الحالات الست اكتُشفت خلال التدريب أو التقييم في الأشهر الماضية. وكتبت الشركة
ارسال الخبر الى: