في عالم الذكاء الاصطناعي، حيث تُعد الابتكارات جزءًا لا يتجزأ من حياتنا اليومية، يكشف تقرير جديد عن جانب مظلم لوكيل الذكاء الاصطناعي من ميتا، ميوز.
اشترك لرؤية المستقبل اليوم
ابتكارات لا يمكن تفويتها من حافة العلم والتكنولوجيا
تفتخر ميتا بأن وكيلها الجديد للذكاء الاصطناعي، ميوز، يمكن أن يكون “مساعدًا شخصيًا” شاملًا يتولى كل شيء في حياتك اليومية، بدءًا من التسوق عبر الإنترنت، إلى إدارة البريد الإلكتروني، إلى متابعة شؤونك المالية – وحتى اختيار ملابسك، على الرغم من فوضويتك.
كما أعلنت الأسبوع الماضي عن شيء يبدو مفيدًا في عصر حيث يؤدي الاتصال بالهاتف عادةً إلى محادثة مع روبوت: الاتصال بالشركات نيابة عنك. لم تعد بحاجة إلى تحديد موعد، أو حجز طاولة، أو الانتظار عبر شجرة الهاتف بنفسك. تقول ميتا إن ميوز يغطيك.
سيكون مثالًا مثيرًا للاهتمام لاستخدام الذكاء الاصطناعي بشكل عملي للشخص العادي – إذا كان حقًا، حقًا، ذكاءً اصطناعيًا. خلف الكواليس، تتعامل ميتا مع بعض هذه المكالمات بواسطة البشر في مراكز الاتصال، كما أفادت 404 ميديا، على الرغم من أن الموظفين يتوسلون تقريبًا إلى الشركة لعدم المضي قدمًا في هذه الخدعة.
إنه مثال آخر على التلاعب الكلاسيكي في صناعة الذكاء الاصطناعي. تُعرض أدواتهم على أنها قوية ومستقلة، لكن في كثير من الحالات، إنها واجهة تُدعم من قبل البشر – غالبًا متعاقدين بأجور منخفضة، أحيانًا من الخارج – خلف الكواليس.
حتى الآن، من غير الواضح عدد المكالمات التي يتم توجيهها إلى البشر، وتبقى الميزة في مرحلة “اختبار الاستخدام الداخلي”. أعلنت الشركة فجأة عن الميزة للموظفين وقالت إنها “أضافت طبقة وكيل بشري للمكالمات لإكمالها”.
“لا يقوم ميوز فقط بالاتصال برقم. إنه يتصل بشركة نيابة عنك، ويتولى المحادثة، ويكمل طلبك، ويقدم تقريرًا مع نص وملخص”، كما قرأت الإعلانات الداخلية التي اطلع عليها 404. “كما أنه لم يعد يعمل بمفرده. أصبح ميوز قادرًا الآن على تحويل الطلبات إلى وكيل بشري مدرب، يقوم بإجراء المكالمة ويعمل من خلالها.”
“هذه لا تزال منتجًا سريًا قبل الإطلاق”، يضيف الإشعار. “يرجى عدم مشاركتها، أو أي شيء تنتجه، مع أي شخص خارج الشركة.”
كان الموظفون مشككين على الفور، لسبب وجيه. بشكل عام، كانوا قلقين من أن كلمة أن ميتا كانت تفكر حتى في الفكرة يمكن أن تدمر صورة ميوز، بينما أثار آخرون مخاوف بشأن أمان مشاركة طلبات العملاء الخاصة داخليًا.
“لست متأكدًا مما أفتقده هنا، لكن لماذا تعتبر هذه ميزة؟”، كتب موظف على لوحة رسائل داخلية، وفقًا لـ 404، التي أثبتت تشككها أنها كانت في محلها. “يمكن أن يؤدي ذلك إلى الكثير من الدعاية السلبية. قد يصورنا على أننا ‘ذكاءهم الاصطناعي ليس جيدًا بما فيه الكفاية لذا يحتاجون إلى البشر’ نوع من التغطية لهذا الإطلاق.”
بعضهم تقريبا رمى أنفسهم عند أقدام رؤسائهم، متوسلين من أجل التراجع.
“هذا سيخلق بالتأكيد الكثير من الضجيج إذا أطلقنا ذلك علنًا كميزة افتراضية”، حذر آخر. “سيقضي على كل حسن النية والضغط العضوي الذي نحصل عليه من المستخدمين الأوائل.”
“يرجى التفكير في كيفية صرخ العناوين ‘ميتة تستخدم البشر خلف الكواليس لإجراء المكالمات’ أو ‘ميوز AI هو في الواقع متعاقدون مستقلون’ مما سيؤدي إلى الكثير من الدعاية السيئة حول الخصوصية وأمان معالجة بياناتنا”، تابعوا، مع تزايد يأسهم. “يرجى، يرجى عدم إصدار هذا كما هو، ونجعل على الأقل هذا خيارًا للمستخدم إذا كان يجب علينا إطلاق ذلك. من فضلك.”
في بيان لـ 404، ردت ميتا بإطار الميزة كجزء روتيني من الاختبار الداخلي، على الرغم من أنها لم تستبعد اتخاذها إلى الجمهور.
“بينما كانت الاستجابة من الموظفين إيجابية للغاية”، قال متحدث باسم الشركة، “الهدف بالكامل هو الحصول على تعليقات حتى نتمكن من تنفيذ حماية السلامة والخصوصية وتحسين الميزات قبل إصدارها للجمهور.”
“نحن نعمل مع التجار لمواصلة تحسين هذه الميزة المحتملة للاتصال”، أضاف المتحدث، “وسنقوم بإطلاقها فقط عندما تكون جاهزة ومع الإفصاحات المناسبة.”
المزيد عن ميتا: ميتة تطلق دردشة AI مخيفة بينما تتداعى منصاتها تحت إساءة معاملة الأطفال الفظيعة
بينما تستمر ميتا في تطوير ميوز، يبقى السؤال: هل يمكن للذكاء الاصطناعي أن يكون حقًا مستقلًا، أم أن البشر لا يزالون في قلب العملية؟
