في عالم الذكاء الاصطناعي المؤسسي، يتجاوز التعقيد الناتج عن الوكلاء مجرد تحدٍ تقني؛ إنه يمثل خطرًا حقيقيًا على فعالية الأنظمة. في هذا المقال، نستعرض كيف يمكن أن يؤدي التعقيد بين الوكلاء إلى مشكلات كبيرة في الحوكمة والمسؤولية.
المخاطر الحقيقية للذكاء الاصطناعي المؤسسي ليست في الوكلاء المستقلين، بل في التعقيد بينهم
مقدم من Gravitee
التعقيد الناتج عن الوكلاء هو الظل الخفي الذي يهدد الشركات في الوقت الحالي، والذي يحتاج إلى تسليط الضوء عليه.
لا تقوم الشركات بنشر وكيل واحد ومراقبته، بل تنشر أساطيل، وكل واحد منها يستدعي واجهات برمجة التطبيقات (APIs)، ويتصل بوكلاء آخرين، ويتفاعل مع تطبيقات لم تُبنى من أجل اتخاذ القرارات بواسطة الآلات. هذه هي طريقة الفشل التي يجب أن تُقلقك: نظام معقد ومتعرج لا يمكن لأحد رؤيته بوضوح كافٍ للحكم عليه. لكن لماذا تصبح الأمور غامضة بسرعة؟
عندما تضيف وكيلًا ثانيًا إلى النظام، فإنك تضيف اتصالًا واحدًا. وعندما تضيف العاشر، فإنك لم تضف عشرة اتصالات، بل قد تضيف العشرات، لأن أي وكيل قد يستدعي أي وكيل آخر، وكل من تلك الاستدعاءات يمكن أن تُtrigger استدعاء في مكان آخر. التعقيد لا يتزايد مع عدد الوكلاء، بل يتضاعف مع عدد المسارات بين الوكلاء، ولا توجد وظيفة لأحد لرسم تلك الرسوم البيانية. تذكرة الدعم التي كانت تتعلق بنظام واحد قد تمر الآن عبر أربعة وكلاء قبل أن يراها إنسان، وكل من تلك التسليمات هي نقطة قرار لم يوافق عليها أحد.
تتوقف معظم برامج الذكاء الاصطناعي المؤسسي عندما يفقد البشر المسؤولون عن وكلائهم الخيط. اسأل فريق الأمان سؤالًا بسيطًا: أي الوكلاء يمكنهم الوصول إلى أي الأنظمة، وراقب الصمت. اسأل أي وكيل قام بتحفيز أي إجراء لاحق قبل ثلاث خطوات. المزيد من الصمت.
الغرائز تدفع إلى التعامل مع هذا كما لو كان قائمة تحقق. الموافقة على الوكيل. تسجيل الوكيل. الانتقال. أود أن أقول إن هذه هي الغريزة الخاطئة. قائمة التحقق تتحقق من نقطة واحدة في الزمن. التعقيد يمتد عبر سلسلة، ولا يمكنك حكم سلسلة بقائمة من الموافقات لمرة واحدة كما لا يمكنك أن تدعي أن نظامًا غذائيًا ناجحًا لأنك تناولت خضروات مرة واحدة.
أين ينكسر الأمر فعلاً؟
تسرب الأذونات أولاً. يبني شخص ما وكيلًا لتلخيص تذاكر الدعم، ويمنحه وصولًا واسعًا إلى واجهة برمجة التطبيقات لأن تحديد نطاقه بشكل صحيح كان سيتطلب دورة تطوير إضافية، وينسى عنه. بعد ستة أشهر، أصبح لهذا الوكيل طريق إلى نظام المدفوعات. لا يتذكر أحد الموافقة على ذلك. لم يوافق أحد.
وتخفف الملكية كلما امتدت السلسلة. خمسة وكلاء يتعاملون مع سير عمل واحد، ويتعطل شيء ما في الخطوة الرابعة، والآن تسأل من المسؤول عن حلقة لم يُعين أحد ليكون مسؤولاً عنها، لأن الهيكل التنظيمي توقف عند “نشر الوكيل” ولم يصل إلى “تسمية الإنسان الذي يجيب عن ذلك”.
هذه قصة عن بنية الحوكمة التي لم تواكب كيف يتصرف الوكلاء: مترابطون، متساقطون، يتكاثرون أسرع من العمليات التي بُنيت لتتبعهم.
إصلاح الفوضى يبدأ بالهوية. يجب أن يوجد كل وكيل ككيان خاص به، وليس كإذن ظل مستعار من أي شخص نشره. اسمه الخاص في السجل. سلطته المحددة. راعي إنسان مُسمى يجيب عن ما يفعله. هذا الجزء ضروري.
لكنها ليست كافية.
الجزء الأصعب هو الإشراف الذي يمتد عبر السلسلة بأكملها، وليس فقط عند كل حلقة فردية فيها. تحتاج إلى رؤية ما فعله الوكيل، وما الذي أطلقه في الأسفل، وأين تنتهي تلك المسار في الوقت الحقيقي، وليس في تقرير يجمعه شخص ما مرة كل ثلاثة أشهر. احصل على هوية الوكيل بشكل صحيح وتوقف عند ذلك، وستنتهي بملف مليء بوكلاء موثقين بشكل مثالي يعملون داخل نظام لا يمكن لأحد شرحه فعليًا.
ويخبرك الإشراف بمفرده فقط بما حدث بالفعل. مراقبة سلسلة ليست هي نفسها كتحكم فيها. التنفيذ هو الجزء الذي تتخطاه معظم البرامج: القدرة على إيقاف استدعاء خارج السياسة قبل أن يتم تنفيذه، وليس فقط تسجيله ليجده شخص ما في مراجعة بعد ثلاثة أسابيع. لوحة تحكم تُظهر لك أن وكيلًا انتهك نطاقه قبل خمس دقائق هي أداة مراقبة. نظام يمنع الانتهاك من الحدوث في المقام الأول هو الحوكمة. تحتاج الشركات الجادة بشأن مسؤولية الوكيل إلى كليهما، ومعظمها لم يبنِ سوى الأول.
نحن جميعًا نركض بسرعة مذهلة لضمان عدم تركنا خلفًا في السباق الذي وجدنا أنفسنا فيه، ونحن جميعًا على دراية بأن هناك تكلفة للتباطؤ. كل شركة جادة بشأن الذكاء الاصطناعي الوكالي تصطدم في النهاية بجدار التعقيد. تلك التي تتجاوز ذلك هي التي بنت رؤية كافية ومسؤولية، بحيث يمكن لأسطولها أن يستمر في النمو دون أن يفقد أي شخص القدرة على الإجابة عن سؤال واحد: ماذا يفعل هذا النظام الآن، ومن المسؤول عنه.
لكن لا تفوت النقطة. التعقيد ليس سببًا للضغط على الفرامل. الشركات التي تحقق ذلك لا تبطئ. إنهم يبنون نحو تناغم الإنسان والوكيل، حيث ينمو النطاق والمسؤولية معًا بدلاً من أن يتبادلا ضد بعضهما البعض.
لم تكن المخاطر الحقيقية أبدًا في وجود وكيل واحد يقوم تمامًا بما بُني من أجله. إنها مئة منهم يقومون بذلك تمامًا، جميعهم في وقت واحد، يتفاعلون في تركيبات لم يصممها أحد. هذا النوع من التكاثر هو ما يبقي الذكاء الاصطناعي المؤسسي عالقًا في تشغيل التجارب إلى الأبد بدلاً من التشغيل في الإنتاج.
حل التعقيد وتوقف الاستقلال عن كونه الشرير. يبدأ في كونه الهدف الكامل.
إن فهم التعقيد بين الوكلاء هو الخطوة الأولى نحو إنشاء بيئة عمل أكثر أمانًا وفعالية. من خلال تعزيز الحوكمة والمسؤولية، يمكن للمؤسسات أن تتجاوز العقبات التي تعترض طريقها نحو تحقيق النجاح في عالم الذكاء الاصطناعي.
