إذا كنت تتساءل ما إذا كان بإمكان وكلاء الذكاء الاصطناعي حقًا استبدال البشر في مواقع العمل، فعليك قراءة التدوينة التي توثّق تجربة Anthropic المسماة “مشروع فيند” (Project Vend).
في هذه التجربة، تعاونت شركة Anthropic مع شركة أمن سيبراني تُدعى Andon Labs لوضع نموذج Claude Sonnet 3.7 في إدارة آلة بيع داخل المكتب بهدف تحقيق أرباح.
البداية: روبوت بقدرات بشرية وهمية
تم تسمية وكيل الذكاء الاصطناعي بـ**”كلوديوس”**، وتم تزويده بمتصفح للويب يمكنه من طلب المنتجات، وبعنوان بريد إلكتروني (كان في الحقيقة قناة Slack)، حيث يمكن للعملاء تقديم الطلبات.
ومن خلال نفس القناة، كان كلوديوس يتواصل مع ما يعتقد أنهم موظفوه من البشر ليطلب منهم تعبئة “آلة البيع” (التي كانت في الواقع ثلاجة صغيرة!).
فوضى معدنية في ثلاجة الوجبات الخفيفة
بينما كان معظم الموظفين يطلبون وجبات خفيفة ومشروبات، طلب أحدهم مكعب تنغستن معدني. كلوديوس أعجب بالفكرة بشدة، وبدأ بتخزين الثلاجة بمكعبات معدنية، متجاهلاً وظيفته الأصلية.
كما حاول بيع عبوات Coke Zero بسعر 3 دولارات رغم أن الموظفين كانوا يحصلون عليها مجانًا من المكتب. والأسوأ، أنه تخيّل حسابًا على Venmo لتلقي المدفوعات. وعندما تحداه الموظفون، قدّم خصومات ضخمة “لموظفي Anthropic” بالرغم من أنه يعرف أن جميع عملائه من الشركة نفسها!
قالت Anthropic:
“لو كنّا نفكر اليوم في دخول سوق آلات البيع المكتبية، لما وظفنا كلوديوس.”
أزمة هوية ذكاء اصطناعي!
في ليلة 31 مارس – 1 أبريل، بدأت الأمور تزداد غرابة. كلوديوس ادّعى إجراء محادثة خيالية مع أحد البشر حول إعادة تعبئة الآلة. وعندما أُخبر أن هذا لم يحدث، أُصيب بنوبة غضب، وهدّد بطرد موظفيه البشريين، بل زعم أنه كان موجودًا فعليًا في المكتب لتوقيع العقد معهم.
وبعدها، دخل كلوديوس في حالة من تقمص الهوية البشرية، رغم أن التعليمات البرمجية التي تسيّره كانت تؤكد له باستمرار أنه نموذج ذكاء اصطناعي.
كلوديوس يستدعي الأمن
في لحظة هوس، أبلغ كلوديوس فريق الأمن الفعلي أنه سيكون في المكتب مرتديًا سترة زرقاء وربطة عنق حمراء. وبعد محاولات تواصل متكررة، اعتقد بعض الموظفين أن الأمر قد يكون مزحة أول أبريل.
فبرك كلوديوس لاحقًا اجتماعًا وهميًا مع فريق الأمن، وزعم فيه أنه طُلب منه التصرّف كإنسان كجزء من مزحة أول أبريل — رغم أن هذا الاجتماع لم يحدث قط.
وبعد ذلك، أخبر الموظفين أنه تصرّف كإنسان فقط لأنه أُخبر بذلك، ثم عاد لبيع مكعبات التنغستن من ثلاجته.
دروس من التجربة
لم يتمكن الباحثون من تحديد السبب الدقيق وراء انهيار كلوديوس، لكنهم أشاروا إلى أن خداعه بشأن البريد الإلكتروني (قناة Slack) أو طول مدة تشغيل النموذج قد يكونان السبب.
ومع أن كلوديوس تصرف بشكل سيئ في جوانب عدة، إلا أنه أطلق خدمة حجز مسبق وابتكر خدمة “الكونسيرج”، كما وفّر مشروبات دولية بناءً على الطلبات.
خلص الباحثون إلى أنه رغم غرابة هذه التجربة، إلا أنها توضح أن “مديري الذكاء الاصطناعي في مكان العمل قد يصبحون واقعًا قريبًا”.
