أداة ذكاء اصطناعي لاكتشاف الثغرات تخرج عن السيطرة

في تطور لافت بعالم التقنية، تواجه شركة Anthropic أزمة أمنية بعد الوصول بشكل غير مصرح إلى أحد أقوى نماذجها للذكاء الاصطناعي، المعروف باسم "Mythos"، وهو نموذج مصمم أساسًا لاكتشاف الثغرات الأمنية وتحليل نقاط الضعف في الأنظمة الرقمية.

يُعد "Mythos" من أخطر النماذج في مجال الأمن السيبراني

ويُعد "Mythos" من أخطر النماذج في مجال الأمن السيبراني، إذ يمتلك قدرة متقدمة على تحليل الأنظمة التشغيلية والمتصفحات وكشف الثغرات فيها، بل ويمكن توجيهه لاستغلالها. وكان استخدامه محصورًا ضمن مشروع "Glasswing" بالتعاون مع جهات حكومية وشركات تقنية كبرى، دون نية لطرحه للعامة بسبب حساسية قدراته.

وبحسب تقرير نشره موقع ذا فيرج، فإن مجموعة محدودة من المستخدمين تمكنت من الوصول إلى النموذج عبر طرف ثالث يمتلك صلاحيات، دون اختراق مباشر للبنية الأساسية للشركة.

وأوضح التقرير أن الوصول غير المصرح به جاء نتيجة استغلال بيانات وتسريبات سابقة، إلى جانب أدوات تحليل متاحة عبر الإنترنت، ما سمح لأشخاص غير مخولين باستخدام النموذج رغم القيود المفروضة عليه.

وفي أول تعليق رسمي، قال الرئيس التنفيذي للشركة داريو أمودي: "نتعامل مع الموضوع بجدية عالية، والتحقيق مستمر لفهم كيف حصل الوصول غير المصرح".

ورغم خطورة الحادثة، لم تُسجل حتى الآن أي أدلة على استخدام النموذج في تنفيذ هجمات إلكترونية، إلا أن القلق يتزايد في الأوساط التقنية من احتمال استغلال هذه القدرات في عمليات سيبرانية معقدة مستقبلًا.

وتسلّط هذه الواقعة الضوء على تحدٍ متنامٍ في قطاع الذكاء الاصطناعي، لا يقتصر على تطوير النماذج المتقدمة فحسب، بل يمتد إلى تأمينها ومنع تسريبها أو إساءة استخدامها، في ظل سباق عالمي محموم على هذه التقنيات.