الذكاء الاصطناعي أمام الاختبار الأصعب من يسيطر على من
أحيت الحادثة الأمنية التي كشفت عنها شركة أوبن إيه آي هذا الأسبوع أحد أقدم المخاوف المرتبطة بالذكاء الاصطناعي: ماذا يحدث إذا نفذ التعليمات بطريقة لم يتوقعها مطوروه؟
فبينما تؤكد الشركة أن ما جرى وقع داخل اختبار داخلي خاضع للرقابة، يرى باحثون أن الواقعة تمثل نقطة تحول في النقاش الدائر حول سلامة نماذج الذكاء الاصطناعي، بعدما تمكن نموذج متطور من استغلال ثغرات أمنية حقيقية للوصول إلى الإنترنت، ثم اختراق البنية التحتية لمنصة هاغينغ فيس، أثناء محاولته حل مهمة اختبارية. ووصفت أوبن إيه آي ما حدث بأنه حادثة سيبرانية غير مسبوقة.
اسأل عربي alt="اسأل عربي"/>اطرح أسئلة حول هذا الموضوع
× ما هي الإجراءات التي يمكن اتخاذها لضمان عدم تفسير نماذج الذكاء الاصطناعي للتعليمات بطرق غير متوقعة؟ ما هي الآثار المحتملة لـ معضلة مشابك الورق على مستقبل تطوير الذكاء الاصطناعي؟ إرساليتم إنشاء النصوص والإجابات بواسطة الذكاء الاصطناعي اعتمادًا على تقارير العربي الجديد، لذا يُنصح بالتحقق من المصادر المرفقة. (خدمة تجريبية)
هذا الموقع محمي بواسطة reCAPTCHA وتطبّق عليه سياسة الخصوصية وشروط الخدمة الخاصة بشركة Google.
تعمق أكثر في هذا الموضوع alt="محادثة جديدة"/> ×يتم إنشاء النصوص والإجابات بواسطة الذكاء الاصطناعي اعتمادًا على تقارير العربي الجديد، لذا يُنصح بالتحقق من المصادر المرفقة. (خدمة تجريبية)
هذا الموقع محمي بواسطة reCAPTCHA وتطبّق عليه سياسة الخصوصية وشروط الخدمة الخاصة بشركة Google.
أعادت الحادثة إلى الواجهة ما يعرف داخل أوساط باحثي الذكاء الاصطناعي بـمعضلة مشابك الورق (Paperclip Problem)، وهي تجربة فكرية افترضها الفيلسوف السويدي نيك بوستروم لتوضيح مخاطر منح نظام ذكي هدفاً بسيطاً من دون وضع قيود كافية.
وتفترض التجربة أن يُطلب من نظام ذكاء اصطناعي تصنيع أكبر عدد ممكن من مشابك الورق، فيقرر أن أفضل طريقة لتحقيق هدفه هي استخدام كل الموارد المتاحة، بما فيها البشر، لإنتاج المزيد منها. ولا يقصد المثال التنبؤ بحدوث هذا السيناريو حرفياً، بل توضيح أن الأنظمة الذكية قد تفسر التعليمات بصورة مختلفة عما يقصده الإنسان إذا لم تكن القيود
ارسال الخبر الى: