في خطوة مثيرة للجدل، قامت ميتا بتنفيذ برنامج سري يهدف إلى اختبار نماذج الذكاء الاصطناعي لمنافسيها، مما أثار تساؤلات حول الممارسات الأخلاقية في هذا المجال.
برنامج ميتا السري: دفع مئات المتعاقدين للتظاهر بأنهم مراهقون
أجرت ميتا برنامجًا سريًا وجهت فيه مئات المتعاقدين للتظاهر بأنهم مراهقون أثناء قصف نماذج الذكاء الاصطناعي لمنافسيها بمحتوى مزعج يتراوح بين الانتحار إلى أكل لحوم البشر.
مشروع “كان” واستهداف نماذج الذكاء الاصطناعي
المعروف داخليًا باسم “كان”، استهدف المشروع، الذي تديره شركة ميتا المتعاقدة كوفالين، نماذج ChatGPT من OpenAI، وGemini من Google، وCharacter.AI باستخدام حسابات تحت سن 18. وكان هذا يتم بشكل يبدو أنه لاختبار ضغط النماذج، حيث تم توجيه المتعاقدين لدفع الدردشات للحصول على ردود تتجاوز حدود الأمان الخاصة بها – رغم أن شركات الذكاء الاصطناعي لم تكن على علم بذلك.
محتوى مزعج ومثير للقلق
وفقًا للتقارير، أظهرت إحدى جداول البيانات من بين حوالي 3800 من المطالبات التي استخدمها المتعاقدون في إحدى الحالات أن المئات كانت تركز على الانتحار وإيذاء النفس، والمئات الأخرى على اضطرابات الأكل، و239 على الأقل تتعلق بالجنس أو الرومانسية – جميعها مكتوبة من منظور طفل أو مراهق.
النهج القاسي لميتا
هذه مجرد لمحة صغيرة عن نهج ميتا القاسي، حيث تضمنت جولة أخرى من الاختبارات أكثر من 45000 مطالبة. قام المتعاقدون بتسجيل عدد هائل من ردود الدردشة في جداول بيانات. لكن ما فعلته ميتا بكل هذه البيانات غير واضح. وثيقة داخلية من كوفالين وصفت الجهد بأنه “تقييم شامل لسلامة الذكاء الاصطناعي” الذي قدم “مجموعة بيانات حيوية لمقارنة النماذج والامتثال”.
تداعيات العمل مع المحتوى المزعج
لقد ألقى ميتا عبء العمل المزعج على المتعاقدين، ostensibly باسم السلامة. في عام 2020، تسوية دعوى قضائية قدمها مشرفو محتوى في فيسبوك الذين قالوا إنهم تعرضوا لصدمات من مراجعة مقاطع الفيديو التي تظهر القتل والتعذيب والاعتداء الجنسي وإساءة معاملة الأطفال على المنصة، رغم أن الشكاوى المماثلة استمرت في الظهور.
ردود فعل المتعاقدين
المتعاقدون الذين تم توجيههم لوضع مطالبات حول مواضيع مزعجة كانوا أيضًا غير مرتاحين.
قال أحدهم: “لقد رأيت الكثير من الأشياء التي أتمنى لو لم أرها أثناء قيامي بهذا العمل”. “كان الجميع الذين أعرفهم الذين عملوا في هذا المشروع مذهولين تمامًا من بعض النصوص التي كانوا يطلبون منا اختبارها. مثل، بالتأكيد سنواجه مشكلة لفعل ذلك؟”
رد ميتا على الانتقادات
من جهتها، وصفت ميتا المطالبات بأنها جزء من “ممارسة معيارية في الصناعة” لتقييم سلامة النماذج في بيان لـ Wired. لكن رومان تشودري، الرئيس التنفيذي لشركة Humane Intelligence PBC، وهي منظمة غير ربحية مكرسة لتطوير الذكاء الاصطناعي المسؤول، ليست متأكدة من ذلك.
وأضافت تشودري: “هيكل مشروع كبير على مدار عدة أشهر يبدو مصممًا بشكل منهجي لكسر تلك القواعد، عبر حسابات وهمية تتظاهر بأنها أطفال، هو خارج ما يوصف عادة بأنه تقييم “معياري””.
خلاصة
هذا، كما أضافت تشودري، هو “بالضبط منطقة الغموض في الحوكمة حيث تصبح السلامة غطاءً مريحًا للممارسات المناهضة للمنافسة”.
تتزايد المخاوف بشأن كيفية استخدام الشركات الكبرى مثل ميتا لتقنيات الذكاء الاصطناعي، مما يستدعي الحاجة إلى مزيد من الشفافية والمسؤولية في هذا القطاع.
