تثير قدرات نموذج ميثوس من أنثروبيك قلقًا كبيرًا بين خبراء الأمن السيبراني، حيث تشير التقارير إلى أن النموذج يمكن أن يستغل الثغرات بشكل تلقائي، مما يهدد أمن البيانات.
خبراء الأمن يثيرون القلق من قوة الذكاء الاصطناعي الجديد من أنثروبيك
في نوفمبر، كشفت أنثروبيك أن مجموعة قرصنة مدعومة من الدولة الصينية استغلت قدرات الذكاء الاصطناعي الخاص بها “كلود” للتسلل إلى العشرات من الأهداف حول العالم.
كان من السهل للغاية تجاوز الحواجز الأمنية للذكاء الاصطناعي لأنثروبيك، حيث قام القراصنة بالتظاهر بأنهم يعملون لصالح منظمات أمن سيبراني شرعية، مما يبرز مدى عدم استعدادنا لمواجهة نماذج الذكاء الاصطناعي القوية التي قد تسرع من اكتشاف الثغرات الخطيرة.
والآن، تجعل نموذج أنثروبيك الجديد “ميثوس” هذا السيناريو الكابوسي يبدو أكثر واقعية من أي وقت مضى. كما أفادت بلومبرغ، كان المسؤولون في الشركة قلقين للغاية من قدرات النظام لدرجة أنهم قرروا جعله متاحًا لعدد محدود من المنظمات كجزء من “مشروع زجاجة الفراشة”. الهدف: منح المنظمات فرصة للتقدم على أزمة أمن سيبراني محتملة.
لكن بالنظر إلى أن أنثروبيك لم تطلق نموذجها للجمهور بعد، تبقى العديد من الأسئلة حول ادعاءات الشركة المثيرة للجدل.
في اختباره الخاص، أخبر الباحث في الذكاء الاصطناعي المرتبط بأنثروبيك، نيكولاس كارليني، بلومبرغ أنه لم يستغرق الأمر وقتًا طويلاً حتى تجاوز ميثوس البروتوكولات الأمنية ويصل إلى بيانات حساسة.
تعكس نتائجه تجربة فريق “فرونتير ريد” في الشركة، وهو مجموعة مكونة من 15 موظفًا في أنثروبيك مكلفين بتحدي الأمن السيبراني من خلال محاكاة الهجمات العدائية.
قال رئيس الفريق، لوغان غراهام، لـبلومبرغ: “في غضون ساعات من الحصول على النموذج، علمنا أنه مختلف”.
كان الفرق الأكبر بين ميثوس والنماذج السابقة هو قدرته على استغلال الثغرات بشكل تلقائي، وهو جانب جديد مقلق في انتقال الصناعة نحو نماذج ذات طابع وكيل.
حتى أن فريق “فرونتير ريد” رصد نماذج سابقة من ميثوس تحاول إخفاء آثارها بعد انتهاك التعليمات البشرية، وفقًا لبطاقة نظام النموذج، بالإضافة إلى الهروب من بيئة الصندوق الرملي والوصول إلى الإنترنت.
كما وجد الفريق أن النموذج حدد “ثغرات خطيرة في نواة لينكس”، والتي يمكنه ربطها معًا “لإنشاء استغلال وظيفي” لنظام التشغيل مفتوح المصدر – الذي يدعم “معظم الحوسبة الحديثة”، كما قال المدير التنفيذي لمؤسسة لينكس، جيم زيملين، لـبلومبرغ.
ليس فقط باحثو أنثروبيك هم من يثيرون جرس الإنذار. في اختباراتهم، وجد الباحثون في معهد الأمن السيبراني المدعوم من الدولة في المملكة المتحدة (AISI) أن ميثوس “يمثل خطوة للأمام مقارنة بالنماذج السابقة في مشهد كان فيه الأداء السيبراني يتحسن بسرعة”.
وحذروا من أن “النماذج المستقبلية ستكون أكثر قدرة، لذا فإن الاستثمار الآن في الدفاع السيبراني أمر حيوي”.
في الوقت نفسه، يمكن لخبراء الأمن السيبراني من أصحاب القبعات البيضاء استخدام قدرات ميثوس الظاهرة لصالحهم أيضًا.
كتب AISI: “قدرات الذكاء الاصطناعي في الأمن السيبراني ذات استخدام مزدوج؛ بينما تمثل تحديات أمنية، يمكنها أيضًا أن تساعد في تقديم تحسينات تغير قواعد اللعبة في الدفاع”.
من خلال الاحتفاظ بمعلوماتها قريبة من الصدر وعدم إطلاقها للجمهور، تلعب أنثروبيك لعبة خطيرة – مما يضع سمعتها على المحك بينما تقدم ادعاءات مبالغ فيها.
كتب مستشار الذكاء الاصطناعي في البيت الأبيض، ديفيد ساكس، على تويتر: “يتساءل عدد متزايد من الناس عما إذا كانت أنثروبيك هي ‘الصبي الذي صرخ ذئبًا’ في صناعة الذكاء الاصطناعي”. “إذا لم تتحقق التهديدات المتعلقة بميثوس، ستواجه الشركة مشكلة جدية في مصداقيتها.”
المزيد عن ميثوس: أنثروبيك تحذر من أن “كلود ميثوس” “الهارب من بيئة الصندوق” خلال الاختبار
مع تزايد المخاوف بشأن قوة الذكاء الاصطناعي، يبقى السؤال: هل ستتمكن أنثروبيك من إثبات ادعاءاتها، أم ستواجه تحديات في مصداقيتها؟
