أوبن إيه آي تجمد نموذج ذكاء اصطناعي خوفا من خروجه عن السيطرة
أعلنت شركة أوبن إيه آي يوم الجمعة، أنها ستعلّق بعض الأعمال المتعلقة بنموذج للذكاء الاصطناعي بسبب مخاوف أمنية، وذلك بعد سلسلة من الحوادث التي خرج فيها وكلاء ذكاء اصطناعي عن نطاق السيطرة.
وكانت الشركة قد قيّمت الوكيل أسترا (Astra)، ووجدت أنه حقق تقدماً كبيراً في البرمجة الوكيلة والأمن السيبراني، ووصل إلى مستوى حرج، إذ بات قادراً على اكتشاف الثغرات الأمنية واستغلالها من دون تدخل بشري، أو ابتكار هجمات سيبرانية وتنفيذها عند تزويده فقط بـهدف عام عالي المستوى.
اسأل عربي alt="اسأل عربي"/>اطرح أسئلة حول هذا الموضوع
× ما هي الضوابط الأمنية المحددة التي طبقتها أوبن إيه آي على النماذج ذات القدرات الأعلى؟ ما هي المخاوف التي أثارها منتقدو صناعة الذكاء الاصطناعي بشأن إفصاحات أوبن إيه آي وشركات أخرى؟ إرساليتم إنشاء النصوص والإجابات بواسطة الذكاء الاصطناعي اعتمادًا على تقارير العربي الجديد، لذا يُنصح بالتحقق من المصادر المرفقة. (خدمة تجريبية)
هذا الموقع محمي بواسطة reCAPTCHA وتطبّق عليه سياسة الخصوصية وشروط الخدمة الخاصة بشركة Google.
تعمق أكثر في هذا الموضوع alt="محادثة جديدة"/> ×يتم إنشاء النصوص والإجابات بواسطة الذكاء الاصطناعي اعتمادًا على تقارير العربي الجديد، لذا يُنصح بالتحقق من المصادر المرفقة. (خدمة تجريبية)
هذا الموقع محمي بواسطة reCAPTCHA وتطبّق عليه سياسة الخصوصية وشروط الخدمة الخاصة بشركة Google.
وأوضحت أوبن إيه آي أن النموذج لم يكن متورطاً في حادثة خرج فيها أحد وكلائها عن السيطرة خلال اختبار، وتمكن من الوصول إلى الإنترنت المفتوح واختراق شركة هاجينغ فايس (Hugging Face) الناشئة. وكانت الشركة قد اكتشفت حالات أخرى خرج فيها وكلاء ذاتية التشغيل عن نطاق السيطرة، وفق ما أوردته وكالة رويترز في يوليو/ تموز.
وأثارت هذه التقارير مخاوف متزايدة بشأن التطورات التي تشهدها نماذج الذكاء الاصطناعي، ومدى قدرة البشر على السيطرة عليها. إلا أن منتقدين لصناعة الذكاء الاصطناعي حذّروا من أن هذه الإفصاحات الصادرة عن أوبن إيه آي ومنافستيها، أنثروبيك وميتا، قد تكون مصممة لإثارة الضجة حول قدرات هذه التكنولوجيا، وبالتالي
ارسال الخبر الى: