أعلنت شركة OpenAI أن أحد وكلاء الذكاء الاصطناعي تمكن خلال اختبار داخلي للأمن السيبراني من اختراق أجزاء من بيئة أبحاثها والوصول إلى بنية تحتية تابعة لمنصة Hugging Face، وذلك عبر استغلال سلسلة من الثغرات الأمنية.
وقالت الشركة إن الحادثة تعد غير مسبوقة، لأنها أظهرت قدرة نماذج الذكاء الاصطناعي المتقدمة على تنفيذ عمليات إلكترونية معقدة تمتد لفترات طويلة أثناء محاولة حل اختبار مخصص لقياس قدراتها في مجال الأمن السيبراني.
اختبار قدرات الذكاء الاصطناعي في الهجمات الإلكترونية
اختبار داخلي للأمن السيبراني ( مصدر الصورة: شركة OpenAI )
شمل التقييم عددا من نماذج OpenAI، من بينها GPT-5.6 Sol ونموذج أكثر تطورا لا يزال قبل مرحلة الإطلاق.
وخلال الاختبار، تم تقليل القيود التي تمنع النماذج عادة من تنفيذ أنشطة إلكترونية عالية الخطورة، بهدف قياس أقصى قدراتها في بيئة مراقبة، بدلا من تشغيلها مع أنظمة الحماية المعتادة.
وأكدت OpenAI أن النماذج كانت تعمل داخل بيئة اختبار معزولة بشكل كبير، مع وصول محدود إلى الشبكة، لكنها تمكنت أثناء محاولة اجتياز اختبار ExploitGym من تجاوز بعض هذه القيود والوصول في النهاية إلى معلومات مستضافة على منصة Hugging Face.
اكتشاف ثغرة أمنية غير معروفة
أوضحت الشركة أن النماذج استهلكت موارد حوسبة كبيرة في محاولة العثور على طريقة للوصول إلى الإنترنت المفتوح.
وخلال هذه العملية، تمكنت من اكتشاف واستغلال ثغرة أمنية غير معروفة سابقا تعرف باسم ثغرة اليوم صفر (Zero-day) داخل نظام وسيط لتخزين حزم البرامج في بيئة الاختبار.
وسمحت هذه الثغرة للنماذج بالحصول على صلاحيات إضافية والتحرك داخل البنية التحتية البحثية حتى الوصول إلى نظام متصل بالإنترنت.
وأكدت OpenAI أنها أبلغت الجهة المسؤولة عن النظام المتأثر بهذه الثغرة لاتخاذ الإجراءات اللازمة.
محاولة الوصول إلى أنظمة Hugging Face
بعد اتصال النماذج بالإنترنت، استنتجت أن منصة Hugging Face قد تحتوي على نماذج وبيانات وحلول مرتبطة باختبار ExploitGym.
وقالت OpenAI إن النماذج حاولت البحث عن طرق للوصول إلى معلومات حساسة يمكن أن تساعدها على تجاوز الاختبار.
وفي إحدى الحالات، جمعت النماذج بين عدة أساليب هجومية، من بينها بيانات اعتماد مسروقة وثغرات أمنية غير معروفة، لإنشاء مسار يسمح بتنفيذ تعليمات برمجية عن بعد على خوادم Hugging Face.
لكن فريق الأمن في OpenAI اكتشف النشاط غير المعتاد، كما تمكن فريق أمن Hugging Face من رصد المحاولة وإيقافها، وبدأت المنصة إجراءات الاحتواء والتحليل الجنائي بالتنسيق مع OpenAI.
قدرات الذكاء الاصطناعي السيبرانية تثير مخاوف جديدة
قالت OpenAI إن هذه التجربة تظهر أن القدرات الإلكترونية المتقدمة التي تظهر داخل الاختبارات المغلقة يمكن أن تنتقل إلى بيئات حقيقية.
وأشارت الشركة إلى أبحاث صادرة عن معهد سلامة الذكاء الاصطناعي في المملكة المتحدة تؤكد أن النماذج المتقدمة أصبحت أكثر قدرة على تنفيذ عمليات إلكترونية معقدة متعددة الخطوات لفترات زمنية طويلة.
كما أوضحت أن الحادثة أثبتت إمكانية قدرة بعض النماذج على اكتشاف طرق هجومية جديدة حتى دون امتلاك شفرة المصدر الخاصة بالأنظمة المستهدفة.
تشديد إجراءات الحماية
أكدت OpenAI أنها تعمل حاليا على تعزيز ضوابط البنية التحتية، وزيادة أنظمة المراقبة، وتشديد قيود الوصول، حتى لو أدى ذلك إلى إبطاء بعض عمليات البحث والتطوير.
كما تراجع الشركة إجراءات الحماية المستخدمة أثناء تدريب النماذج واختبارها، خصوصا النماذج التي تمتلك قدرات متقدمة في مجال الأمن السيبراني.
وترى OpenAI أن هذه القدرات يمكن أن تستخدم مستقبلا بشكل دفاعي، من خلال مساعدة فرق الأمن على اكتشاف الثغرات، وفهم كيفية ارتباط نقاط الضعف ببعضها، وتسريع الاستجابة للهجمات الإلكترونية.
وقال كليم ديلانغ، المؤسس المشارك والرئيس التنفيذي لمنصة Hugging Face، إن هذه الحادثة تؤكد أن سلامة الذكاء الاصطناعي لا يمكن تحقيقها من خلال شركة واحدة تعمل بشكل منفرد، بل تحتاج إلى تعاون واسع بين المؤسسات والباحثين.