تسليط الضوء على الثغرات الجديدة التي تهدد أنظمة الذكاء الاصطناعي الشهيرة وكيف يمكن أن تؤثر على الأمان السيبراني.
تم اكتشاف مجموعة جديدة من الثغرات التي كانت ستسمح باستغلال أنظمة الاستدلال الذكية الشهيرة مثل Ollama وNVIDIA Triton Inference Server.
وفقًا لشركة Fuzzinglabs للأمن السيبراني، التي ستكشف عن أبحاث تتعلق بالثغرات الجديدة في بنية الذكاء الاصطناعي في 10 ديسمبر كجزء من مؤتمر Black Hat Europe 2025. سيقدم الرئيس التنفيذي باتريك فنتوزيلو ورئيس العمليات نبيه بن عزوز الأبحاث، التي تضمنت أربع ثغرات في مشغل نموذج Ollama وثغرة واحدة في منتج نشر النموذج Triton Inference Server من NVIDIA.
تضمنت ثغرات Ollama خطأ في الخدمة (CVE-2024-12886)، وثغرة تجاوز المصادقة (CVE-2025-51471)، وثغرة نسخ ملفات عشوائية (CVE-2025-48889)، وخطأ في تجاوز سعة الذاكرة لم يتم تخصيص CVE له بعد. تم تعيين CVE-2024-12886 درجة CVSS تبلغ 7.5، بينما لم تتلقَ الثغرات الأخرى درجات.
في Triton Server، وجدت Fuzzinglabs ثغرة في حقن الأوامر في خط أنابيب تكوين النموذج للمنتج. يقول فنتوزيلو لـ Dark Reading إن هذه الثغرة كانت خطيرة بشكل خاص، لأنها كانت سهلة التنفيذ ويمكن أن تؤدي بشكل موثوق إلى تنفيذ التعليمات البرمجية عن بُعد. إذا تم استغلالها، فلن تحتاج الثغرة إلى مصادقة مسبقة وكان بإمكان المهاجمين تنفيذ “أي شيء تقريبًا … نريده” على حالة معرضة للخطر.
“كانت الأمور سيئة حقًا،” يقول فنتوزيلو، “وكانت سهلة جدًا للاستغلال.”
على الرغم من أن Ollama وNVIDIA قد قاما بإصلاح الثغرات، إلا أنها تمثل مثالًا على كيفية تركيز أبحاث أمان الذكاء الاصطناعي بشكل متزايد على بنية المنصات والنماذج الشهيرة.
من حقن التعليمات إلى بنية الذكاء الاصطناعي
في الأيام الأولى بعد الإطلاق العام لـ ChatGPT في نوفمبر 2022، كان الكثير من الأبحاث حول أمان الذكاء الاصطناعي ونماذج اللغة الكبيرة (LLM) تتعلق بحقن التعليمات، أو استخدام اللغة الطبيعية للتلاعب بنموذج للقيام بإجراء غير مقصود من قبل مشغل النموذج (مثل تسريب معلومات حساسة أو الهلوسة).
لا يزال هناك الكثير من الأبحاث تركز على حقن التعليمات ونقاط تجاوز الحماية. في الوقت نفسه، تزداد أبحاث أمان الذكاء الاصطناعي التقنية بشكل متزايد. سأل Dark Reading فنتوزيلو عما إذا كان قد لاحظ نفس الشيء، وهو عضو في فريق الاختراق يدير شركة تقييم أمني.
“نعم، تمامًا،” يقول. “كمتخصصين، نحن بالتأكيد نتحول أكثر نحو استهداف البنية التحتية بالإضافة إلى البرمجيات التي تدير النموذج، وليس فقط النموذج نفسه كما كان من قبل.”
قدم فنتوزيلو سببين لذلك. أولاً، النماذج الكبيرة أصبحت أكثر نضجًا. وثانيًا، والأهم، يتم نشر النماذج بطريقة تجعل البنية التحتية نفسها أكثر بروزًا في البيئات. وبالتالي، أصبحت بنية الذكاء الاصطناعي هدفًا أكثر جذبًا كبحث.
“أعتقد أن السبب الرئيسي هو أنه، من قبل، كان OpenAI هو من يدير النماذج، لكن الآن بدأ الناس في تشغيل النماذج داخل البنية التحتية للحصول على نمذجة ذكاء اصطناعي محلية. بدأت المزيد من الشركات في تشغيل نماذجها بأنفسها. وهذا يعني أنهم يقومون بتشغيل البرمجيات لإدارة هذه النماذج، وسيرغب الناس [الباحثون والمهاجمون] في ذلك،” يقول فنتوزيلو. “إذا كنت تدير خادم Ollama، هل هو معرض للخطر؟ إذا كان معرضًا للخطر في شركتك، فهذا هدف جديد في سطح الهجوم الخاص بشركتك.”
كيف يمكن للمدافعين حماية نشراتهم الذكاء الاصطناعي
بعض الثغرات التي سيتم مناقشتها في Black Hat Europe تم اكتشافها في الأصل كجزء من Pwn2Own Berlin 2025 في مايو. في مسابقة أبحاث الثغرات، التي استضافتها مبادرة Zero Day من Trend Micro، كانت أنظمة الذكاء الاصطناعي هدفًا رسميًا للمنافسة.
يقول فنتوزيلو لـ Dark Reading إنه يقدر المنافسات مثل Pwn2Own التي تركز على الذكاء الاصطناعي، فضلاً عن البائعين مثل NVIDIA الذين فتحوا أنفسهم أمام مجتمع أبحاث الأمن.
سيتحدث فريق Fuzzinglabs أيضًا عن زاوية الدفاع كجزء من الجلسة، وبشكل محدد حول كيفية تمكن فرق الأمان التي تعمل مع بنية الذكاء الاصطناعي من تعزيز موقفها بشكل أفضل.
يوصي فنتوزيلو، كما يفعل الكثيرون مع نماذج الذكاء الاصطناعي، بأن تتأكد المنظمات من أن التحكم في الوصول لديها مضبوط. وإذا كنت تستخدم شيئًا مثل البنية التحتية لتشغيل نموذج، فيجب على المؤسسات التأكد من أنها في حاوية جيدة ومفصولة عن أجزاء أخرى حيوية من البيئة.
مع استمرار تطور الذكاء الاصطناعي، يجب على المؤسسات تعزيز أمان بنيتها التحتية لحماية نفسها من التهديدات المتزايدة.
