في خطوة غير متوقعة، أصدرت الحكومة الأمريكية أمرًا لشركة أنثروبيك بتعليق الوصول إلى نماذج الذكاء الاصطناعي المتقدمة فابل 5 وميثوس 5 للمواطنين الأجانب، مما أثار تساؤلات حول الأمن السيبراني والرقابة على التكنولوجيا.
الولايات المتحدة تأمر أنثروبيك بتعليق الوصول إلى فابل 5 وميثوس 5 للمواطنين الأجانب
أعلنت شركة أنثروبيك يوم الجمعة أنها ستقوم “بتعطيل” نماذج الذكاء الاصطناعي الأكثر تقدمًا لديها، فابل 5 وميثوس 5، لجميع المستخدمين بعد أن أمرتها الحكومة الأمريكية بتعليق الوصول إلى هذه النماذج للمواطنين الأجانب، سواء داخل الولايات المتحدة أو خارجها، مشيرةً إلى مخاوف تتعلق بالأمن القومي.
وقالت الشركة إنها تلقت الأمر في الساعة 5:21 مساءً بتوقيت شرق الولايات المتحدة، instructing it to suspend all access to the models by foreign nationals. وأكدت أنها تعتقد أن هناك “سوء فهم” وأنها تعمل على استعادة الوصول إلى النماذج في أسرع وقت ممكن. لن يتأثر الوصول إلى نماذج أخرى بتوجيهات التحكم في الصادرات.
“فهمنا هو أن الحكومة تعتقد أنها أصبحت على علم بطريقة لتجاوز، أو ‘كسر الحماية’ لفابل 5،” قالت الشركة.
“راجعنا عرضًا لهذه التقنية المحددة المستخدمة لتحديد عدد قليل من الثغرات المعروفة سابقًا، والتي تبدو جميعها بسيطة نسبيًا، ووجدنا أن نماذج أخرى متاحة للجمهور قادرة على اكتشافها أيضًا دون الحاجة إلى تجاوز الحماية.”
تحذيرات حول الأمن السيبراني
تأتي هذه الخطوة غير المتوقعة بعد أيام من إطلاق فابل 5 ونظيره ميثوس 5، الذي يستخدم نفس النموذج الأساسي ولكن مع تخفيف بعض الضوابط، مثل الأمن السيبراني. ويظل الأخير، الذي يُوصف بأنه يمتلك “أقوى قدرات الأمن السيبراني لأي نموذج في العالم”، متاحًا لمجموعة مختارة من المدافعين عن الأمن السيبراني ومشغلي البنية التحتية الحيوية.
أكدت أنثروبيك أنها نفذت “حواجز قوية” لمنع إساءة استخدام نماذجها في المهام المتعلقة بالأمن السيبراني. وتستند هذه الحواجز إلى مجموعة من مصنّفات الأمان التي تُستخدم لاكتشاف إساءة الاستخدام المحتملة، بما في ذلك محاولات كسر الحماية، ومنع النموذج الرئيسي من الاستجابة.
صُممت مصنّفات الأمن السيبراني لحظر الطلبات الضارة المتعلقة بالتخطيط لهجوم إلكتروني، أو تطوير استغلال، أو التهرب من الدفاع، مع الإشارة إلى أن نماذج ميثوس تتمتع بمهارات في العثور على الثغرات البرمجية واستغلالها، مما يمنح المهاجمين ميزة استراتيجية.
التحديات أمام المطورين
في الأسبوع الماضي، كشفت أنثروبيك أن نموذج ميثوس يمكنه تحويل الثغرات البرمجية المكتشفة حديثًا إلى استغلالات عملية في غضون ساعات، أو حتى دقائق في بعض الحالات، بدلاً من أسابيع، مما يحول N-days إلى N-hours. تشير النتائج إلى أن النماذج المتقدمة قد تكون جيدة بنفس القدر في تسريع تسليح الثغرات التي تم الكشف عنها علنًا.
“يمكن لمشغل واحد الآن تحويل شهر من التصحيحات إلى استغلالات عملية في فترة بعد الظهر – مقابل بضعة آلاف من الدولارات ودون الحاجة إلى خبرة متخصصة،” قالت مجموعة Red Team في أنثروبيك. “هذا يعني أن خطة التصحيح النموذجية التي يستخدمها مطورو البرمجيات اليوم – مع إصدارات شهرية، ونشر تدريجي متعدد الأسابيع، وفجوة بين القنوات قبل الإصدار والقنوات المستقرة – لم تعد صالحة.”
تضمن حماية فابل 5 أن الاستفسارات حول مواضيع الأمن السيبراني ستتلقى بدلاً من ذلك استجابة من نموذج كلود أوبوس 4.8، النموذج القادر التالي للشركة.
في بيانها الأخير، جادلت الشركة بأنه لم يتم تطوير أي طرق كسر حماية عالمية ضد النماذج الأخيرة حتى الآن، مضيفةً أن التمارين الداخلية والخارجية للتقييم قد وجدت أن حواجزها “أكثر فعالية بشكل كبير من تلك التي تم نشرها سابقًا.”
علاوة على ذلك، زعمت أنثروبيك أن “مقاومة كسر الحماية المثالية” ليست ممكنة لأي مزود نموذج، حيث إن كل حاجز تستخدمه الصناعة عرضة لكسر الحماية غير العالمية التي تكون “فعالة في سياقات محدودة جدًا أو تتطلب جهدًا إضافيًا لتكييفها مع كل موقف جديد.”
“حتى الآن، لم تقدم الحكومة لنا سوى أدلة شفهية على كسر حماية محتمل ضيق وغير عالمي، والذي يتكون أساسًا من مطالبة النموذج بقراءة قاعدة بيانات معينة وإصلاح أي عيوب برمجية،” قالت.
“فهمنا هو أن كسر الحماية المحتمل تم مشاركته مع الحكومة. لقد راجعنا تقريرًا نعتقد أنه أساس توجيه الحكومة وحققنا في أن مستوى القدرة المعروض هناك متاح على نطاق واسع من نماذج أخرى (بما في ذلك GPT-5.5 من OpenAI)، ويستخدم يوميًا من قبل المدافعين الذين يحافظون على أمان الأنظمة.”
كما أشارت أنثروبيك إلى أنه بينما تدعم الحكومة في حجب نشرات الذكاء الاصطناعي غير الآمنة، فإن اكتشاف “كسر حماية محتمل ضيق” لا ينبغي أن يكون سببًا لاستدعاء نموذج تجاري تم نشره على نطاق واسع. يجب أن تكون العملية القانونية “شفافة، وعادلة، وواضحة، ومبنية على الحقائق التقنية،” أضافت.
في وقت سابق من هذا العام، صنفت وزارة الدفاع الأمريكية أنثروبيك كـ “خطر في سلسلة التوريد” بعد أن سعت صانعة كلود لوضع خطوط حمراء حول الاستخدام العسكري لتقنيتها. وقد تقدمت الشركة بدعويين لوقف هذا التصنيف.
تظل تداعيات هذا القرار غير واضحة، ولكن من المؤكد أنه سيؤثر على كيفية تعامل الشركات مع نماذج الذكاء الاصطناعي في المستقبل، وخاصة فيما يتعلق بالأمن القومي والتكنولوجيا الحساسة.
