أوبن إيه آي تبطئ تطوير الذكاء الاصطناعي بسبب مخاوف أمنية

ستبطئ شركة أوبن إيه آي مطوّرة تشات جي بي تي وتيرة تطوير نموذج الذكاء الاصطناعي الأكثر تطوّراً لديها، كما ستشدّد ضوابطها الداخلية. وذلك بعد قرابة شهر من كشفها عن هجوم إلكتروني نفذه أحد الوكلاء الأذكياء التابعين لها، بحسب ما نقلته وكالة فرانس برس، الثلاثاء.

وقالت الشركة في منشور على مدونتها، الثلاثاء، إنها أجّلت موعد أكبر عملية تدريب لنموذج ذكاء اصطناعي كانت قد خطّطت لها، إلى حين تحقّقها من أن النموذج سيتصرف ضمن الأطر المتوقعة.

وتتطلّب عمليات تدريب النماذج قدرات حوسبية هائلة، تزوّد النماذج خلالها بكميات ضخمة من النصوص والصور. ويسمح ذلك بضبط مليارات الإعدادات الداخلية بدقّة، كما يؤدي لتطوير قدرات النماذج على الاستدلال والاستجابة.

وقال الرئيس التنفيذي لـأوبن إيه آي، سام ألتمان: قلنا دائماً إننا سنتخذ إجراءات إذا شعرنا بأن قدرات النماذج تتجاوز وتيرة التقدم في مجال السلامة والمواءمة.

وكان وكيل ذكاء اصطناعي يعتمد على نموذجين من أوبن إيه آي قد ترك بيئة اختبار معزولة من تلقاء نفسه، واخترق منصة هاغينغ فيس للبرمجة، في يوليو/ تموز الماضي. وبشكل مماثل، أعلنت أنثروبيك في أواخر الشهر نفسه أن ثلاثة نماذج كانت قيد الاختبار نفّذت عمليات اختراق سيبراني غير مصرّح بها لعدة مؤسسات لم تكشف عن أسمائها.

رجال الدين في قلب نقاش الذكاء الاصطناعي

وبحسب فرانس برس، أثارت حوادث الاختراق السيبراني التي نفذها وكلاء الذكاء الاصطناعي مؤخراً قلقاً واسعاً داخل قطاع التكنولوجيا وخارجه، وهو ما ظهر في عريضة وقع عليها أكثر من 1000 موظف في كبرى الشركات، تدعوا الحكومة الأميركية إلى إبطاء تطوير أنظمة الذكاء الاصطناعي الأكثر تقدّماً.

وسبق لـأوبن إيه آي أن علّقت جزءاً كبيراً من أعمال تطوير نموذجها الكبير المقبل أسترا، بعد أن خلصت في بداية أغسطس/ آب الحالي إلى أن النموذج قد يتجاوز عتبة الخطر التي وضعتها فيما يتعلق بقدرات أنظمة الذكاء الاصطناعي التابعة لها على القيام بهجمات سيبرانية. وتفرض القواعد الداخلية للشركة إنشاء إجراءات حماية أقوى قبل استئناف التطوير.