شات جي بي تي يعزز أمانه بميزتين جديدتين لمواجهة التهديدات المتقدمة

أعلنت شركة أوبن إيه آي (OpenAI) عن إضافة ميزتي أمان محوريتين لنموذجها شات جي بي تي (ChatGPT)، وهما وضع القفل (Lockdown Mode) والخطر المرتفع (Elevated Risk)، وذلك في إطار جهودها المستمرة لمكافحة التحديات الأمنية المتنامية في عالم الذكاء الاصطناعي.

تأتي هذه الخطوة لتعزيز الحماية ضد هجمات حقن الأوامر (Prompt Injection)، وهي تقنية يستخدمها المهاجمون الخبثاء لمحاولة اختراق أنظمة الذكاء الاصطناعي، بهدف استخلاص بيانات سرية أو إجبار النموذج على تنفيذ تعليمات غير مصرح بها. يُذكر أن مساعد البرمجة كودكس (Codex) يعمل كزميل للمبرمجين، حيث ينفذ الأوامر البرمجية باستخدام اللغة الطبيعية.

وضع القفل هو إعداد متقدم واختياري يستهدف بشكل خاص الفئات الأكثر عرضة للخطر، مثل المديرين التنفيذيين وفرق الأمن في المؤسسات الكبيرة، حيث يوفر لهم حماية إضافية ضد التهديدات المعقدة. يفرض هذا الوضع قيوداً صارمة على كيفية تفاعل شات جي بي تي مع الأنظمة الخارجية، مما يقلل من احتمالية تسريب البيانات نتيجة لهجمات الحقن، وتؤكد الشركة أنه ليس ضرورياً لغالبية المستخدمين.