كشف نموذج Mythos من Anthropic عن ثغرات أمنية خطيرة

كشف نموذج Mythos من Anthropic عن ثغرات أمنية خطيرة في كل نظام تشغيل ومتصفح رئيسي

تزايدت المخاوف بشأن قدرة الذكاء الاصطناعي على تعزيز تهديدات الأمن السيبراني على مر السنين. قد يمثل النموذج الأخير من Anthropic نقطة تحول بعد أن زعمت الشركة أن النموذج يمكنه تحديد واستغلال الثغرات الأمنية غير المكتشفة في كل نظام تشغيل ومتصفح ويب رئيسي.

استخدامات نموذج اللغة الكبيرة في الأمن السيبراني

واحدة من الاستخدامات البارزة لنماذج اللغة الكبيرة هي تحليل وكتابة الشيفرة البرمجية. وقد أثار هذا القلق منذ فترة طويلة بأن هذه التكنولوجيا يمكن أن تساعد في أتمتة الكثير من أعمال القراصنة، مما قد يقلل من العوائق أمام الهجمات السيبرانية.

أظهرت النماذج الرائدة تقدمًا مستمرًا في مختلف المعايير المتعلقة بالأمن السيبراني، وهناك أدلة على أن الجهات الخبيثة تستخدم هذه التكنولوجيا. لكن حتى الآن، يبدو أن التأثير كان متواضعًا، مما يشير إلى أن هناك حواجز عملية تمنع الاستخدام الواسع النطاق لهذه التكنولوجيا.

إطلاق مشروع Glasswing

وفقًا لـ Anthropic، فإن هذا على وشك التغيير. تقول الشركة إن نموذجها الأخير، Mythos، يمتلك قدرات اختراق قوية لدرجة أنها لن تجعله متاحًا للجمهور. بدلاً من ذلك، ستقوم بإصدار Mythos لمجموعة مختارة من الشركات التكنولوجية الكبرى والمطورين مفتوح المصدر كجزء من مبادرة تُسمى مشروع Glasswing. يمكن للمشاركين استخدام النموذج لتحديد الثغرات في شيفرتهم وإصلاحها قبل أن يحصل القراصنة على قدرات مماثلة.

“الثغرات التي يجدها Mythos Preview ثم يستغلها هي من النوع الذي كان يمكن تحقيقه سابقًا فقط من قبل محترفين خبراء”، كتب الباحثون في مدونة الشركة. “نعتقد أن القدرات التي ستجلبها نماذج اللغة المستقبلية ستتطلب في النهاية إعادة تصور شاملة للأمن السيبراني كمجال.”

نتائج الاختبارات

في الاختبارات، اكتشف باحثو Anthropic أن النموذج كان قادرًا على العثور على ثغرات “غير مكتشفة” – تلك التي لم يتم اكتشافها سابقًا – في كل نظام تشغيل ومتصفح ويب رئيسي. كانت العديد منها قديمة لعقود، مما يدل على مدى صعوبة اكتشافها.

لكن النموذج ليس جيدًا فقط في العثور على الثغرات. أظهر فريق الشركة الأحمر – الباحثون الأمنيون الذين يحاكون هجمات القرصنة لتحديد نقاط الضعف الأمنية – أن النموذج يمكنه ربط عدة ثغرات معًا لإنشاء هجمات معقدة قادرة على تجاوز الدفاعات.

التحديات المستقبلية

تقول فريق Anthropic إن Mythos يعيد تشكيل مشهد الأمن السيبراني بشكل جذري حيث يمكن الآن توليد الاستغلالات التي كانت تستغرق أسابيع لتطويرها من قبل الخبراء في غضون ساعات. يشيرون بشكل خاص إلى أن التدابير المعروفة باسم “الدفاع في العمق” التي تجعل من الصعب ومكلفًا مهاجمة نظام قد تثبت عدم فعاليتها ضد نماذج مثل Mythos.

“عند تشغيلها على نطاق واسع، تقوم نماذج اللغة بإنجاز هذه الخطوات المملة بسرعة”، يكتبون. “قد تصبح التخفيفات التي تأتي قيمتها الأمنية بشكل أساسي من الاحتكاك بدلاً من الحواجز الصلبة أضعف بكثير ضد الخصوم المدعومين بالنماذج.”

توقعات مستقبلية

قال رئيس فريق Anthropic الأحمر، لوغان غراهام، لـ Axios إنهم يتوقعون أن تنتج شركات أخرى نماذج ذات قدرات مماثلة في الأشهر الستة إلى الثمانية عشر القادمة. أخبر مصادر مطلعة Axios أن OpenAI تقوم بالفعل بإنهاء نموذج بقدرات مشابهة لـ Mythos، والذي سيكون له إصدار محدود مماثل.

في منشور المدونة الخاص بها، تشير الباحثون في الشركة إلى أن التكنولوجيا الأمنية الجديدة قد استفادت تاريخيًا المدافعين أكثر من المهاجمين. إذا كانت المختبرات الرائدة حذرة بشأن إصدارات النماذج، فإنهم يعتقدون أن الشيء نفسه قد يكون صحيحًا هنا أيضًا، لكن من المحتمل أن تكون الفترة الانتقالية مضطربة.

“نحتاج إلى الاستعداد الآن لعالم ستكون فيه هذه القدرات متاحة على نطاق واسع في غضون 6، 12، 24 شهرًا”، قال غراهام لـ Wired. “ستكون العديد من الأمور مختلفة بشأن الأمن. قد تنهار العديد من الافتراضات التي بنينا عليها paradigms الأمن الحديثة.”

ما إذا كان يمكن لمطوري الذكاء الاصطناعي الحفاظ على هذه القدرات تحت السيطرة لفترة كافية حتى يتمكن بقية العالم من التعامل مع هذه الحقيقة الجديدة يبقى أن نراه. لكن في كلتا الحالتين، من المحتمل أن تكون الأمن السيبراني أعلى في قائمة الأولويات في معظم غرف الاجتماعات في المستقبل.