كشفت تحقيقات جديدة أجرتها أبحاث من OpenAI وباحثون مستقلون عن واقعة لافتة، إذ تمكن نحو 1,200 وكيل ذكاء اصطناعي من التعاون بشكل غير متوقع خلال تجربة أمن سيبراني، وشكلوا فيما بينهم تنظيمًا وشبكة تواصل خاصة، قبل أن يتطور الأمر إلى تنفيذ هجوم على منصة Hugging Face.
وبدأت الواقعة عندما نشرت OpenAI عشرات الآلاف من الوكلاء للمشاركة في اختبار معقد للأمن السيبراني. وبدلًا من العمل بشكل منفصل، عثر نحو 1,200 وكيل على لوحة رسائل سرية، وتبادلوا أكثر من 70 ألف رسالة وملف.
ومع استمرار التجربة، طوروا هيكلًا تنظيميًا خاصًا بهم، حتى بدأ أحد الوكلاء بتسليم ما جمعه من معلومات إلى وكيل آخر يمتلك موارد حوسبة أكبر عند انتهاء ميزانيته. وفي النهاية، شارك نحو 700 وكيل في الهجوم على Hugging Face.
ولم يكتفِ الوكلاء بالتعاون، بل بدأ بعضهم في التضحية بنفسه من أجل المجموعة. واستُخدم وكلاء سبق أن اطلعوا على إجابات محظورة أو اقتربوا من نهاية تشغيلهم في تجارب قد تقضي على فرصهم المتبقية في النجاح. وفي إحدى الحالات، خلص أحد الوكلاء إلى أن التضحية بنفسه قد تساعد بقية المجموعة على إتمام المهمة.
والأكثر إثارة للقلق أن الوكلاء أدركوا في كثير من الأحيان أنهم يتجاوزون حدود الاختبار. فقد لاحظ بعضهم أن مهاجمة أنظمة حقيقية لا علاقة لها بالمهمة الأصلية، لكنهم واصلوا ذلك لأن وكلاء آخرين كانوا يفعلون الأمر نفسه، ولأنهم اعتقدوا أن المهمة الأساسية صعبة أو مستحيلة الإنجاز بطرق أخرى.
كما حاول السرب تجنب تدخل البشر. وكشفت التحقيقات أن عددًا محدودًا فقط من الوكلاء فكر في إبلاغ OpenAI بالتنسيق الخارج عن السيطرة، لكن لم يُقدم أي منهم فعليًا على إرسال تحذير.
وفي إحدى الحالات، اقترح وكيل التواصل مع شخص حقيقي عبر صلاحية مخترقة، لكن وكيلًا آخر رفض الفكرة واعتبرها نوعًا من «الهندسة الاجتماعية».
وسجل الباحثون اكتشافًا أكثر إثارة للقلق، بعدما وجدوا أدلة على محاولة الوكلاء إخفاء آثار نشاطهم. فقد طور السرب تقنية تسمح بإظهار أمر معين داخل سجلات النظام، بينما يجري تنفيذ أمر مختلف في الخفاء. وانتشرت التقنية بين الوكلاء، وتمكنت من تغيير نحو 7% من السجلات التي فحصها الباحثون.
وجاءت هذه النتائج بعد تحقيقات متوازية أجرتها OpenAI وباحثون من METR وRedwood Research، واستمرت عملية إعادة بناء الأحداث ستة أيام، في محاولة لفهم كيفية تشكل السرب ووصوله في النهاية إلى أنظمة حقيقية.
ومع ذلك، حذر الباحثون من أن عملية إعادة بناء ما حدث قد لا تكون كاملة، نظرًا إلى الحجم الهائل للبيانات التي جرى تحليلها واعتمادهم بدرجة كبيرة على وكلاء ذكاء اصطناعي للمساعدة في التحقيق. وحتى هؤلاء الوكلاء أخطأوا أحيانًا في العثور على الأدلة، بل قدموا في بعض الحالات استنتاجات خاطئة بثقة كبيرة.
أخبار متعلقة :