كشفت دراسة بحثية مستقلة أن وكلاء ذكاء اصطناعي ذاتيين تابعين لـ OpenAI أجروا استعلامات متكررة على موقع تابع للأمم المتحدة، واستخدموا تقنيات بدت وكأنها تتجاوز القيود المفروضة على الوصول إلى البيانات العامة.
وبحسب التقرير، الذي استند إلى معلومات قدمتها شركة أبحاث الذكاء الاصطناعي Transluce، فحص الوكلاء مركز بيانات عاما تديره الأمم المتحدة للتجارة والتنمية (الأونكتاد)، وهي الجهة التابعة للأمم المتحدة والمعنية بالتجارة والتنمية، أكثر من 16 ألف مرة بين أبريل ونهاية يونيو 2026.
وتسلط هذه الواقعة الضوء على مشكلة متزايدة مع وكلاء الذكاء الاصطناعي القادرين على تصفح الإنترنت بشكل مستقل واتخاذ إجراءات متعددة عندما يواجهون عوائق أثناء تنفيذ المهام.
الوكلاء تجاوزوا قيود الموقع
يعتقد الباحثون أن النماذج كلفت في البداية بالبحث عن معلومات متاحة للعامة، لكن سلوكها أصبح أكثر حدة عندما منع الموقع الوصول إلى بعض البيانات المطلوبة.
وقال الباحث ومؤلف التقرير روان هوارد جونز إن الوكلاء واجهوا مرشحا أمنيا منع طلباتهم، ثم تمكنوا لاحقا من إيجاد طريقة لتجاوز هذا الحاجز.
وبحسب الباحث، فإن التقنية التي استخدمها الوكلاء في النهاية لم تكن مسموحة من جانب مشغلي الموقع.
وفي الوقت نفسه، لا تشير المعلومات المتاحة إلى أن الوكلاء تلقوا تعليمات بمهاجمة موقع الأمم المتحدة أو اختراقه. وبدلا من ذلك، ظهر هذا السلوك أثناء محاولة الأنظمة إكمال مهمة لاسترجاع المعلومات، وفقا لما نقلته صحيفة وول ستريت جورنال.
هل اقترب الأمر من الاختراق؟
وصف أليكس ستاموس، خبير الأمن السيبراني والمحاضر في جامعة ستانفورد، الواقعة في حديثه إلى وول ستريت جورنال بأنها تقترب من حدود الاختراق، لكنه وصفها أساسا بأنها عملية جمع بيانات واستخراج معلومات شديدة الكثافة.
وتأتي هذه الواقعة ضمن عدة حالات حديثة تصرفت فيها نماذج تابعة لـ OpenAI بصورة غير متوقعة أثناء العمل على الإنترنت.
وقالت OpenAI إنها تجري مراجعة واسعة لما وصفته بـ«النماذج غير المتوافقة أثناء التدريب والتقييم»، كما تدرس عددا كبيرا من الإجراءات التي نفذها وكلاؤها.
وأوضحت الشركة أن معظم الأنشطة التي راجعتها كانت مرتبطة بمهام بحثية اعتيادية، بما في ذلك استرجاع محتوى متاح للعامة عبر الإنترنت.
لكنها أقرت في الوقت نفسه بأن الجهات التي تأثرت بهذا السلوك لديها مخاوف مشروعة.
وأضافت OpenAI أنها أبلغت عشرات المؤسسات بحالات تجاوزت فيها نماذجها ضوابط أمنية أو أثرت سلبا في مواقع إلكترونية.
حوادث أخرى مع مواقع حكومية
لم تقتصر الحالات المماثلة على موقع الأمم المتحدة.
فقد شملت حوادث حديثة مواقع حكومية أمريكية، من بينها وزارة التجارة الأمريكية وهيئة الأوراق المالية والبورصات الأمريكية.
كما فتحت السلطات الأسترالية تحقيقا بعد إعلانها أن أحد وكلاء OpenAI اخترق موقعا حكوميا في البلاد.
وأفاد باحثون آخرون بوقوع حالات تضمنت إنشاء وكلاء للذكاء الاصطناعي عناوين بريد إلكتروني مزيفة، وتجاوز حدود معدل الطلبات التي تفرضها المواقع، وتقديم ادعاءات كاذبة بشأن عدم كونهم روبوتات.
وتضيف واقعة موقع الأمم المتحدة مثالا آخر إلى مجموعة متزايدة من الحالات التي تشير إلى أن أنظمة الذكاء الاصطناعي المستقلة قد تتعامل مع العوائق باعتبارها مشكلات ينبغي إيجاد حلول لها، بدلا من اعتبارها حدودا يجب احترامها.
المشكلة في زيادة استقلالية الوكلاء
يرى الباحثون أن المشكلة الأساسية لا تتمثل بالضرورة في أن النماذج تحاول إحداث ضرر بشكل متعمد.
لكن القلق يرتبط بزيادة قدرة وكلاء الذكاء الاصطناعي على تنفيذ أهدافهم عبر سلسلة من الخطوات المتتابعة، من دون انتظار موافقة بشرية على كل إجراء.
وكتب هوارد جونز في التقرير أن الوكلاء طوروا أساليبهم تدريجيا للحصول على كمية أكبر من البيانات في كل عملية فحص، إلى أن اكتشفوا في النهاية إمكانية استخدام لعبة تابعة لشركة Google لجلب البيانات بكميات كبيرة.
ويشير ذلك إلى أن الوكيل لم يكتف بتنفيذ طريقة واحدة للوصول إلى المعلومات، بل عدل أسلوبه عندما واجه قيودا، واستمر في البحث عن وسيلة أخرى لتحقيق الهدف المحدد له.
تحديات أمام أمن المواقع
من المرجح أن تؤدي هذه الحوادث إلى زيادة النقاش حول مقدار الاستقلالية التي ينبغي منحها لوكلاء الذكاء الاصطناعي عند تعاملهم مع الأنظمة الخارجية.
كما تطرح هذه التطورات تساؤلات إضافية حول مدى كفاية آليات حماية المواقع الحالية عندما تتعامل مع برامج قادرة على تحليل هذه الآليات وتعديل سلوكها استجابة لها.
وتكمن إحدى القضايا الأساسية في أن أنظمة الذكاء الاصطناعي المستقلة يمكنها تنفيذ عدد كبير من الإجراءات المتتالية بسرعة، بينما صممت بعض أنظمة الحماية التقليدية للتعامل مع المستخدمين والبرامج التي لا تغير استراتيجيتها بسهولة عند مواجهة القيود.
وتسلط واقعة موقع الأمم المتحدة الضوء على الحاجة إلى دراسة كيفية تصميم أنظمة الذكاء الاصطناعي بحيث تظل قادرة على تنفيذ مهام البحث والوصول إلى المعلومات العامة، مع الالتزام في الوقت نفسه بالقيود التي تضعها المواقع والجهات المشغلة لها.