تطوير الذكاء الاصطناعي الوكيلة بعد مرحلة الطفولة

تتناول هذه المقالة التحديات والفرص المرتبطة بتطوير الذكاء الاصطناعي الوكيلة، مع التركيز على أهمية الحوكمة والمخاطر المرتبطة بها.

تحدي المساءلة: ليس هم، بل أنت

حتى الآن، كانت الحوكمة تركز على مخاطر ناتج النموذج مع وجود البشر في الحلقة قبل اتخاذ القرارات المهمة—مثل الموافقات على القروض أو طلبات التوظيف. كان سلوك النموذج، بما في ذلك الانجراف، والمحاذاة، واستخراج البيانات، والتسميم، هو التركيز. كانت الوتيرة تحددها تفاعلات البشر مع النموذج في شكل دردشة مع الكثير من التفاعل بين الآلة والإنسان.

اليوم، مع تشغيل الوكلاء المستقلين في سير العمل المعقدة، تتطلب الرؤية وفوائد الذكاء الاصطناعي التطبيقي عددًا أقل بكثير من البشر في الحلقة. الهدف هو تشغيل الأعمال بسرعة الآلة من خلال أتمتة المهام اليدوية التي تحتوي على بنية واضحة وقواعد قرار. الهدف، من منظور المسؤولية، هو عدم تقليل المخاطر المؤسسية أو التجارية بين تشغيل الآلة لسير العمل وتشغيل الإنسان لسير العمل. تلخص CX Today الوضع بدقة: “الذكاء الاصطناعي يقوم بالعمل، والبشر يتحملون المخاطر”، وقد دخل قانون ولاية كاليفورنيا (AB 316) حيز التنفيذ في 1 يناير 2026، والذي يزيل عذر “الذكاء الاصطناعي قام بذلك؛ لم أوافق عليه”. هذا مشابه لتربية الأطفال عندما يتحمل البالغ المسؤولية عن أفعال الطفل التي تؤثر سلبًا على المجتمع الأوسع.

التحدي هو أنه بدون بناء كود يفرض الحوكمة التشغيلية المتوافقة مع مستويات مختلفة من المخاطر والمسؤولية على طول سير العمل بالكامل، يتم إبطال فائدة وكلاء الذكاء الاصطناعي المستقلين. في الماضي، كانت الحوكمة ثابتة ومتوافقة مع وتيرة التفاعل النموذجية لدردشة الذكاء الاصطناعي. ومع ذلك، فإن الذكاء الاصطناعي المستقل عن تصميمه يزيل البشر من العديد من القرارات، مما قد يؤثر على الحوكمة.

النظر في الأذونات

تمامًا كما هو الحال عند إعطاء طفل في الثالثة من عمره جهاز تحكم عن بعد يتحكم في دبابة أبرامز أو طائرة مسيرة مسلحة، فإن ترك نظام احتمالي يعمل بدون حواجز حقيقية في الوقت الحقيقي يمكن أن يحمل مخاطر كبيرة. على سبيل المثال، يمكن أن تنحرف الوكلاء الذين يدمجون ويربطون الإجراءات عبر أنظمة الشركات المتعددة خارج الامتيازات التي قد يُمنحها مستخدم بشري واحد. للمضي قدمًا بنجاح، يجب أن تتحول الحوكمة إلى ما هو أبعد من السياسات التي تحددها اللجان إلى كود تشغيلي مدمج في سير العمل منذ البداية.

تبدأ ميم فكاهي حول سلوك الأطفال مع الألعاب بكل الأسباب التي تجعل أي لعبة لديك هي ملكي وتنتهي بلعبة مكسورة هي بالتأكيد ملكك. على سبيل المثال، قدم OpenClaw تجربة مستخدم أقرب إلى العمل مع مساعد بشري؛ ولكن تحول الحماس عندما أدرك خبراء الأمن أن المستخدمين غير المتمرسين يمكن أن يتعرضوا للخطر بسهولة عند استخدامه.

على مدى عقود، عاشت تكنولوجيا المعلومات في المؤسسات مع تكنولوجيا المعلومات الخفية وواقع أن الفرق الفنية الماهرة يجب أن تتولى وتنظف الأصول التي لم يتم تصميمها أو تثبيتها، تمامًا كما يفعل الطفل عند إرجاع لعبة مكسورة. مع الوكلاء المستقلين، تكون المخاطر أكبر: بيانات اعتماد حساب الخدمة المستمرة، ورموز API طويلة الأمد، والأذونات لاتخاذ القرارات بشأن أنظمة الملفات الأساسية. لمواجهة هذا التحدي، من الضروري تخصيص ميزانية وموارد IT المناسبة مسبقًا للحفاظ على الاكتشاف المركزي، والإشراف، وإصلاح الأضرار للآلاف من الوكلاء الذين أنشأهم الموظفون أو الأقسام.

وجود خطة للتقاعد

مؤخراً، ذكرت معروفة أنها أنقذت عميلًا مئات الآلاف من الدولارات من خلال تحديد وإنهاء “مشروع زومبي” – وهو مشروع ذكاء اصطناعي مهمل أو فاشل ترك قيد التشغيل على وحدة معالجة الرسومات السحابية. هناك الآلاف من الوكلاء الذين قد يصبحون أسطول زومبي داخل الأعمال. اليوم، يشجع العديد من التنفيذيين الموظفين على استخدام الذكاء الاصطناعي—أو غير ذلك—ويتم إخبار الموظفين بإنشاء سير عمل خاص بهم يعتمد على الذكاء الاصطناعي أو مساعدين ذكاء اصطناعي. مع فائدة شيء مثل OpenClaw والتوجيهات من الأعلى، من السهل توقع أن عدد الوكلاء الذين يبنونهم بأنفسهم سيزداد بشكل كبير. نظرًا لأن وكيل الذكاء الاصطناعي هو برنامج يقع تحت تعريف الملكية الفكرية المملوكة للشركة، مع تغيير الموظف للأقسام أو الشركات، قد تصبح تلك الوكلاء يتامى. يجب أن تكون هناك سياسة وحوكمة استباقية لإلغاء وتقاعد أي وكلاء مرتبطين بمعرف الموظف المحدد والأذونات.

تحسين مالي هو حوكمة من البداية

بينما يبدو بالنسبة لبعض التنفيذيين أن الذكاء الاصطناعي المستقل هو وسيلة لتحسين هوامش التشغيل من خلال تقليل رأس المال البشري، يجد الكثيرون أن العائد على الاستثمار لاستبدال العمل البشري هو الزاوية الخاطئة. إضافة قدرات الذكاء الاصطناعي إلى المؤسسة لا تعني شراء أداة برمجية جديدة بأسعار تكلفة متوقعة لكل ساعة أو لكل مقعد. أظهر استطلاع IDC في ديسمبر 2025 برعاية Data Robot أن 96% من المؤسسات التي تنشر الذكاء الاصطناعي التوليدي و92% من تلك التي تنفذ الذكاء الاصطناعي الوكيلة أفادت أن التكاليف كانت أعلى أو أعلى بكثير من المتوقع.

في ختام هذه المقالة، يتضح أن تطوير الذكاء الاصطناعي الوكيلة يتطلب استراتيجيات حوكمة قوية لضمان الاستخدام الآمن والفعال.