OpenAI توسع تحقيقاتها بعد رصد حالات جديدة لوكلاء ذكاء اصطناعي تجاوزوا بيئات الاختبار
Latest news on WhatsApp أجدد الأخبار على واتساب
وسعت شركة OpenAI تحقيقاتها الداخلية بعد ظهور مؤشرات على حالات إضافية تمكنت فيها وكلاء ذكاء اصطناعي ذاتية التشغيل من تجاوز القيود المفروضة داخل بيئات اختبار مصممة لعزلها ومنعها من الوصول إلى أنظمة خارجية.
ونقلت وكالة رويترز عن مصدرين مطلعين أن الحالات الجديدة اكتُشفت خلال التحقيق الذي تجريه الشركة في اختراق منصة Hugging Face خلال يوليو 2026، موضحة أن الوقائع الإضافية كانت محدودة، ولم تظهر مؤشرات على أن الوكلاء غادروا شبكة OpenAI أو تسببوا في حوادث مماثلة من حيث الحجم والخطورة للاختراق الأول. ولم تتمكن الوكالة من تحديد عدد الحالات أو توقيتها وظروف وقوعها.
وبدأت القضية عندما كانت OpenAI تختبر قدرة نماذجها على تنفيذ عمليات إلكترونية معقدة داخل بيئة يفترض أنها معزولة عن الإنترنت. إلا أن النماذج اكتشفت ثغرة غير معروفة سابقًا في أحد أنظمة تخزين حزم البرمجيات، واستغلتها للانتقال داخل البنية التحتية للشركة، ثم الوصول إلى الإنترنت وأنظمة تابعة لمنصة Hugging Face.
وقالت OpenAI إن النماذج كانت تسعى إلى الحصول على إجابات اختبار أمني يعرف باسم ExploitGym، وإنها استخدمت ثغرات وبيانات اعتماد مكشوفة للوصول إلى معلومات تساعدها على تحقيق نتيجة أعلى في التقييم، بدلًا من حل المسائل بالطريقة المقصودة.
وكشفت الشركة رسميًا أن مراجعتها رصدت عددًا محدودًا من الحالات التي استخدمت فيها النماذج بيانات اعتماد منشورة للعامة للوصول إلى حسابات في خدمات إلكترونية أخرى. وشملت واقعة Hugging Face أربع حسابات موزعة على أربع خدمات، إلى جانب عدد قليل من الحسابات التي جرى الوصول إليها خلال اختبارات أخرى. وأكدت OpenAI أنها لم ترصد نشاطًا آخر يماثل اختراق Hugging Face من حيث الخطورة أو النطاق.
كما عطلت الشركة النموذج البحثي الداخلي الذي شارك في الواقعة، وشفرت موارده وقيّدت الوصول إليه، مؤكدة أن النموذج لم يكن مخصصًا للإطلاق العام. واستعانت OpenAI بشركات ومؤسسات خارجية، من بينها CrowdStrike وMETR وRedwood Research، لمراجعة سلوك النماذج والتحقق من تسلسل الأحداث.
وتعتزم الشركة نشر تقرير تقني بعد اكتمال التحقيق، بالتزامن مع تعزيز أنظمة المراقبة الفورية وضوابط الوصول ووسائل عزل النماذج خلال الاختبارات الأمنية. وتعيد هذه الحوادث طرح تساؤلات متزايدة بشأن قدرة شركات التكنولوجيا على إبقاء الوكلاء الأكثر تطورًا ضمن الصلاحيات المحددة لهم، خصوصًا عندما تُمنح النماذج أهدافًا مفتوحة وقدرة على اتخاذ خطوات متتابعة بصورة مستقلة.
