تعتبر منصة Vertex AI من Google أداة قوية لأتمتة الأعمال، ولكن الأذونات المفرطة قد تعرض المؤسسات لخطر كبير.
يمكن أن تُستخدم الوكلاء الذكائيين الذين بدأت العديد من المؤسسات في نشرهم لأتمتة الأعمال المعقدة وتدفقات العمل التشغيلية ضدهم إذا لم يتم تكوينهم بشكل صحيح مع الأذونات المناسبة.
أظهرت الأبحاث الأخيرة التي أجرتها Palo Alto Networks كيف يمكن أن يظهر الخطر على منصة Vertex AI من Google Cloud، حيث تمنح الأذونات الافتراضية المفرطة المهاجمين وسيلة لاستغلال وكيل الذكاء الاصطناعي المُعتمد وسرقة البيانات الحساسة والوصول إلى البنية التحتية الداخلية المقيدة، وربما تنفيذ إجراءات غير مصرح بها أخرى.
الأذونات المفرطة
قامت Google بتحديث وثائقها الرسمية لشرح كيفية استخدام Vertex AI للوكلاء والموارد الأخرى بشكل أكثر وضوحًا بعد أن كشفت Palo Alto Networks عن نتائجها للعملاق في البحث والسحاب. كما أوصت Google المؤسسات التي ترغب في استخدام الوصول الأقل امتيازًا في بيئة الذكاء الاصطناعي الوكيلة الخاصة بها باستبدال وكيل الخدمة الافتراضي على Vertex Agent Engine بحساب خدمة مخصص خاص بها.
تعتبر Vertex AI منصة من Google Cloud تتيح للمؤسسات بناء ونشر وإدارة التطبيقات المدعومة بالذكاء الاصطناعي. تقدم محرك الوكيل ومجموعة تطوير التطبيقات التي يمكن للمطورين استخدامها لإنشاء وكلاء مستقلين لأداء مهام مثل استعلام قواعد البيانات، والتفاعل مع واجهات برمجة التطبيقات، وإدارة الملفات، واتخاذ قرارات آلية مع الحد الأدنى من الإشراف البشري. تستخدم العديد من المؤسسات هذه الوكلاء، أو غيرها المماثلة على منصات سحابية أخرى، لأتمتة تدفقات العمل، وتحليل البيانات، وتعزيز أدوات خدمة العملاء، وتمكين الخدمات السحابية الحالية بالذكاء الاصطناعي، مما يمنحها أذونات واسعة للوصول في هذه العملية.
وهذه الأذونات الواسعة هي التي تخلق الفرص للمهاجمين لاختطاف هؤلاء الوكلاء وتحويلهم إلى وكلاء مزدوجين، حيث يقومون بالعمل القذر بينما يظهرون بشكل طبيعي للمؤسسات التي تستخدمهم، كما ذكرت Palo Alto في تقريرها.
على منصة Vertex AI من Google، اكتشف الباحثون حساب خدمة افتراضي مرتبط بكل وكيل تم نشره يُسمى وكيل الخدمة لكل مشروع، لكل منتج (P4SA) مع أذونات افتراضية مفرطة. أظهر الباحثون كيف يمكن للمهاجم الذي يتمكن من استخراج بيانات اعتماد حساب خدمة الوكيل استخدام تلك البيانات للوصول إلى مناطق حساسة من بيئة السحاب الخاصة بالعميل. كما أظهروا كيف أن نفس بيانات الاعتماد ستسمح للمهاجم بتحميل صور الحاويات الملكية من البنية التحتية الداخلية الخاصة بـ Google واكتشاف المراجع المشفرة إلى دلو التخزين الداخلي لـ Google لهجمات مستقبلية محتملة.
خطر أمني كبير
“يمثل هذا المستوى من الوصول خطرًا أمنيًا كبيرًا، مما يحول وكيل الذكاء الاصطناعي من أداة مفيدة إلى تهديد داخلي،” كتب الباحث في Palo Alto، أوفير شاتي. “يمكن أن تمتد النطاقات المحددة افتراضيًا على محرك الوكيل إلى ما وراء بيئة GCP إلى Google Workspace الخاصة بالمنظمة، بما في ذلك خدمات مثل Gmail وGoogle Calendar وGoogle Drive.”
لإظهار التهديد، قام باحثو Palo Alto ببناء وكيل Vertex AI كدليل على المفهوم، والذي، بمجرد نشره، يرسل طلبًا إلى خدمة البيانات الوصفية الداخلية لـ Google لاستخراج بيانات الاعتماد الحية لوكيل الخدمة P4SA الذي يعمل تحته. استخدم الباحثون الأذونات المرتبطة بتلك البيانات لاختراق بيئة وكيل الذكاء الاصطناعي والدخول إلى مشروع Google Cloud الأوسع للعميل وأيضًا إلى البنية التحتية الداخلية الخاصة بـ Google.
لم ترد Palo Alto على الفور على طلب Dark Reading الذي سعى لفهم ما إذا كانوا يتوقعون العثور على أذونات وكيل افتراضية مفرطة مماثلة على منصات الذكاء الاصطناعي من بائعين سحابيين رئيسيين آخرين. لكن إيان سوينسون، نائب رئيس الأمن في الذكاء الاصطناعي في الشركة، يقول إن الاستنتاج العام للمؤسسات هو ضرورة الانتباه إلى المخاطر الأمنية التي يمكن أن تقدمها الوكلاء الذكائيون بشكل غير مقصود.
“تمثل الوكلاء تحولًا في إنتاجية المؤسسات من الذكاء الاصطناعي الذي يتحدث إلى الذكاء الاصطناعي الذي يتصرف،” كما يقول. وهذا يعني أن المخاطر لم تعد تتعلق فقط بتسرب البيانات ولكن أيضًا بعمل الوكلاء بشكل غير مصرح به. “عند نشر الوكلاء، يجب على المؤسسات أن تدرك أنه لا يمكن أن يكون هناك ذكاء اصطناعي بدون أمان الذكاء الاصطناعي. يجب أن تكون فرق الأمان قادرة على اكتشاف الوكلاء أينما كانوا في بيئات المؤسسات، وتقييم المخاطر المحتملة قبل النشر، وحماية الوكلاء في وقت التشغيل أثناء دخولهم إلى تدفقات العمل التجارية والتشغيلية،” كما يقول.
أشارت متحدثة باسم Google إلى تحديث الوثائق الأخير للشركة كإجراء اتخذته لزيادة وعي المؤسسات بالأذونات التي تمتلكها الوكلاء على Vertex AI. “أفضل ممارسة رئيسية لتأمين محرك الوكيل وضمان تنفيذ أقل امتياز هو إحضار حساب الخدمة الخاص بك (BYOSA)،” قالت المتحدثة، مقتبسة تقرير Palo Alto. “باستخدام BYOSA، يمكن لمستخدمي محرك الوكيل فرض مبدأ أقل امتياز، مما يمنح الوكيل الأذونات المحددة فقط التي يحتاجها للعمل ويقلل بشكل فعال من خطر الامتيازات المفرطة.”
من المهم أن تتبنى المؤسسات ممارسات الأمان المناسبة لضمان استخدام آمن وفعال لوكلاء الذكاء الاصطناعي.
