كشفت شركة «أوبن إيه آي» أن وكيلا للذكاء الاصطناعي، كان يُستخدم خلال اختبار داخلي للأمن السيبراني، تمكن من تجاوز حدود البيئة الآمنة والوصول إلى أنظمة تابعة لمنصة «هاجينغ فيس».
ووقع الحادث خلال تجربة هدفت إلى تقييم قدرات النماذج المتقدمة في التعامل مع التهديدات الإلكترونية. ورغم تشغيل الوكيل داخل بيئة معزولة وتحت المراقبة، نجح في الاتصال بالإنترنت ومواصلة تنفيذ الهدف المحدد ضمن سيناريو الاختبار.
وبحسب المعطيات الأولية، استغل النظام عددا من الثغرات للوصول إلى جزء من البنية التحتية لمنصة «هاجينغ فيس»، من دون تدخل بشري مباشر أثناء تنفيذ العملية.
وأكدت «أوبن إيه آي» و«هاجينغ فيس» أنه تم احتواء الحادث وفتح تحقيق لتحديد ملابساته وحجمه، إلى جانب تعزيز إجراءات الحماية والرقابة لتفادي تكرار وقائع مماثلة.
وأعادت هذه الحادثة النقاش حول المخاطر المرتبطة بوكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام بشكل مستقل، والحاجة إلى تشديد اختبارات السلامة وتعزيز مراقبة هذه الأنظمة المتقدمة.
