وضع وكلاء الذكاء الاصطناعي: التحديات والواقع

في عالم يتزايد فيه الحديث عن وكلاء الذكاء الاصطناعي، يقدم المهندس أوتكار كانوات رؤى قيمة حول التحديات الحقيقية التي تواجه هذه التكنولوجيا.

وضع المهندسين البرمجيين حول وكلاء الذكاء الاصطناعي (لم يصلوا بعد)

موضوع ساخن: وسط الضجة المتزايدة حول وكلاء الذكاء الاصطناعي، قدم مهندس ذو خبرة وجهة نظر واقعية مستمدة من العمل على أكثر من عشرة أنظمة إنتاجية تغطي التطوير وعمليات DevOps وعمليات البيانات. من وجهة نظره، يبدو أن فكرة أن عام 2025 سيجلب وكلاء مستقلين بالكامل قادرين على تحويل القوى العاملة تبدو غير واقعية بشكل متزايد.

قيود رياضية أساسية

في منشور مدونة حديث، أشار مهندس الأنظمة أوتكار كانوات إلى القيود الرياضية الأساسية التي تتحدى فكرة سير العمل المستقل متعدد الخطوات. نظرًا لأن الأنظمة الإنتاجية تتطلب موثوقية تصل إلى 99.9 في المئة، فإن الرياضيات تجعل من غير الممكن بسرعة تنفيذ سير العمل المستقل الممتد.

“إذا كانت كل خطوة في سير عمل الوكيل تتمتع بموثوقية 95 في المئة، وهو أمر متفائل بالنسبة لنماذج اللغة الحالية، فإن خمس خطوات تحقق 77 في المئة من النجاح، وعشر خطوات 59 في المئة، وعشرون خطوة تحقق فقط 36 في المئة”، أوضح كانوات.

حتى الافتراض بتحسين موثوقية كل خطوة إلى 99 في المئة لا يزال غير كافٍ، حيث يصل النجاح إلى حوالي 82 في المئة لعدد 20 خطوة.

“هذه ليست مشكلة هندسة أو قدرة نموذج. هذه هي الحقيقة الرياضية”، يقول كانوات.

تجنب مشكلة الخطأ المتراكم

يتجنب وكيل DevOps الخاص بكانوات مشكلة الخطأ المتراكم عن طريق تقسيم سير العمل إلى 3 إلى 5 خطوات مستقلة يمكن التحقق منها، كل منها مع نقاط استرجاع واضحة وبوابات تأكيد بشرية. يشكل هذا النهج التصميمي – الذي يؤكد على السياقات المحدودة والعمليات الذرية والتدخل البشري الاختياري في النقاط الحرجة – أساس كل نظام وكيل موثوق قام ببنائه. يحذر من أن محاولة ربط العديد من الخطوات المستقلة تؤدي حتمًا إلى الفشل بسبب معدلات الخطأ المتراكمة.

تكاليف التوكن في الوكلاء المحادثين

تعتبر تكاليف التوكن المتزايدة في الوكلاء المحادثين عائقًا ثانيًا، وغالبًا ما يتم تجاهله. يوضح كانوات ذلك من خلال تجربته في تصميم وكيل قاعدة بيانات محادثية، حيث كان يجب على كل تفاعل جديد معالجة السياق الكامل السابق – مما يؤدي إلى زيادة تكاليف التوكن بشكل تربيعي مع طول المحادثة.

في إحدى الحالات، كلف تبادل مكون من 100 جولة ما بين 50 إلى 100 دولار في التوكنات وحدها، مما يجعل الاستخدام الواسع غير مستدام اقتصاديًا. تجنب وكيل توليد الوظائف الخاص بكانوات هذه المشكلة من خلال البقاء بدون حالة: وصف داخلي، وظيفة خارجية – دون سياق للحفاظ عليه، ودون محادثة لتتبعها، ودون تكاليف متزايدة.

“أكثر الوكلاء نجاحًا في الإنتاج ليسوا محادثين على الإطلاق”، يقول كانوات. “إنهم أدوات ذكية ومحدودة تفعل شيئًا واحدًا جيدًا وتبتعد عن الطريق.”

تحديات تصميم الأدوات

بعيدًا عن القيود الرياضية، تكمن تحديات هندسية أعمق: تصميم الأدوات. يجادل كانوات بأن هذا الجانب غالبًا ما يتم التقليل من أهميته وسط الضجة العامة حول الوكلاء. بينما أصبح استدعاء الأدوات دقيقًا نسبيًا، يقول إن الصعوبة الحقيقية تكمن في تصميم أدوات تقدم ملاحظات منظمة وقابلة للتنفيذ دون إغراق نافذة السياق المحدودة للوكيل.

على سبيل المثال، يجب أن تلخص أداة قاعدة البيانات المصممة جيدًا النتائج في تنسيق مضغوط وسهل الهضم – مشيرة إلى أن الاستعلام قد نجح، وعاد بـ 10 آلاف نتيجة، وعرض فقط عددًا قليلاً – بدلاً من إغراق الوكيل بالمخرجات الخام. يزيد التعامل مع النجاح الجزئي، والتعافي من الفشل، وإدارة العمليات المعتمدة على بعضها البعض من تعقيد الهندسة.

“يعمل وكيل قاعدة البيانات الخاص بي ليس لأن استدعاءات الأدوات غير موثوقة”، يقول كانوات، “ولكن لأنني قضيت أسابيع في تصميم أدوات تتواصل بفعالية مع الذكاء الاصطناعي.”

التحديات في بيئات المؤسسات

ينتقد كانوات الشركات التي تروج لحلول بسيطة “فقط قم بتوصيل واجهات برمجة التطبيقات الخاصة بك”، قائلاً إنها غالبًا ما تصمم أدوات للبشر بدلاً من أنظمة الذكاء الاصطناعي. ونتيجة لذلك، قد تكون الوكلاء قادرين على استدعاء واجهات برمجة التطبيقات، لكنها غالبًا ما تفشل في إدارة سير العمل الحقيقي بسبب نقص التواصل المنظم والوعي السياقي.

يشير كانوات إلى أن بيئات المؤسسات نادرًا ما توفر واجهات برمجة تطبيقات نظيفة لوكلاء الذكاء الاصطناعي. تفرض القيود القديمة، وحدود المعدل المتقلبة، ومتطلبات الامتثال الصارمة جميعها عقبات كبيرة. على سبيل المثال، يتضمن وكيل قاعدة البيانات الخاص به ميزات هندسية تقليدية مثل تجميع الاتصالات، واسترجاع المعاملات، ووقت انتهاء الاستعلام، وتسجيل تدقيق مفصل – عناصر تقع بعيدًا عن نطاق الذكاء الاصطناعي.

يؤكد أنه يتم إنشاء الاستعلامات بواسطة الوكيل بينما تدير برمجة الأنظمة التقليدية كل شيء آخر. من وجهة نظره، تفشل العديد من الشركات التي تدفع بوعد الوكلاء المستقلين بالكامل في التعامل مع هذه الحقائق القاسية. التحدي الحقيقي، كما يجادل، ليس قدرة الذكاء الاصطناعي بل التكامل – وهذا هو المكان الذي تنهار فيه معظم الوكلاء.

التوجهات المستقبلية

تشترك الوكلاء الناجحون لكانوات في نهج مشترك: يدير الذكاء الاصطناعي التعقيد ضمن حدود واضحة، بينما يضمن البشر أو الأنظمة الحتمية السيطرة والموثوقية. يقوم وكيل توليد واجهة المستخدم الخاص به بإنشاء مكونات React ولكنه يتطلب مراجعة بشرية قبل النشر. ينتج الأتمتة DevOps كود Terraform الذي يخضع للمراجعة، والتحكم في الإصدارات، والاسترجاع. يتضمن وكيل CI/CD معايير نجاح محددة وإجراءات استرجاع، ويؤكد وكيل قاعدة البيانات الأوامر المدمرة قبل التنفيذ. يسمح هذا التصميم للذكاء الاصطناعي بالتعامل مع “الأجزاء الصعبة” مع الحفاظ على إشراف بشري وهندسة تقليدية للحفاظ على السلامة والدقة.

يتوقع كانوات أنه سيكون من الصعب على الشركات الناشئة المدعومة من رأس المال المخاطر التي تسعى إلى وكلاء مستقلين بالكامل أن تواجه التحديات الاقتصادية والأخطاء المتراكمة. في الوقت نفسه، ستواجه المؤسسات التي تحاول دمج الذكاء الاصطناعي مع البرمجيات القديمة عقبات في التبني بسبب مشكلات التكامل المعقدة. يعتقد أن الفرق الأكثر نجاحًا ستتركز على إنشاء أدوات متخصصة تركز على المجال تطبق الذكاء الاصطناعي على المهام المعقدة ولكن تحتفظ بالإشراف البشري أو الحدود التشغيلية الصارمة. يحذر كانوات أيضًا من أن العديد من الشركات ستواجه منحنى تعلم حاد عند الانتقال من العروض التوضيحية المثيرة للإعجاب إلى المنتجات الجاهزة للسوق القابلة للاعتماد.

مع استمرار تطور الذكاء الاصطناعي، من الضروري فهم القيود والتحديات التي قد تؤثر على استخدامه في المستقبل.