ميتا ترفض إزالة مقاطع الفيديو المولدة بالذكاء الاصطناعي حول إساءة الأطفال

في الشهر الماضي، أبلغنا أن فيسبوك يستضيف أعدادًا هائلة من مقاطع الفيديو الرسومية المولدة بواسطة الذكاء الاصطناعي التي تُظهر إساءة جسدية للأطفال.
تحذير: محتوى مزعج
تحتوي هذه القصة على أوصاف لمقاطع فيديو مولدة بواسطة الذكاء الاصطناعي تُظهر إساءة عنيفة للأطفال.
مقدمة
في الشهر الماضي، أبلغنا أن فيسبوك يستضيف أعدادًا هائلة من مقاطع الفيديو الرسومية المولدة بواسطة الذكاء الاصطناعي التي تُظهر إساءة جسدية للأطفال، حيث تُظهر الأطفال يتعرضون للضرب، والحرق، والسحب من شعرهم، والإغلاق في الأقفاص، والمزيد.
ردود فعل ميتا
ردًا على أسئلتنا، ترددت الشركة الأم لفيسبوك، ميتا، في اتخاذ إجراءات، وعرضت تبريرات حول سبب قبول هذه الفيديوهات، وأصدرت بيانات يصعب فهمها تتجنب أي مسؤولية أو التزام حقيقي لمكافحة هذه الظاهرة.
كما أبلغنا في قصتنا، سحبت ميتا في النهاية حسابًا شاركناه معها والذي كان قد رفع مجموعة مزعجة من مقاطع الفيديو التي تُظهر الأطفال يتعرضون للضرب بشكل وحشي وإجبارهم على أكل القمامة، بالإضافة إلى العديد من السيناريوهات المروعة الأخرى.
إعادة تفعيل الحساب
لكن بعد نشر قصتنا، تفاجأنا برؤية أن الحساب قد تم إعادة تفعيله، مع مجموعة الفيديوهات المروعة الخاصة به. تواصلنا مع ميتا للاستفسار عن سبب عودة الحساب، وتلقينا ردًا مختصرًا من المتحدث باسمها.
“أردت فقط إخبارك أننا نبحث في هذا الأمر”، جاء في الرد. “لست متأكدًا من الجدول الزمني المحدد، لكن سأخبرك عندما أتعلم المزيد.”
المحتوى المزعج المستمر
في حين اختفى الحساب لاحقًا مرة أخرى، تجاهل المتحدث الأسئلة المتابعة حول سبب استعادته على المنصة.
آلاف من مقاطع الفيديو المماثلة تبقى على فيسبوك، ويتم تحميل المزيد كل يوم. تساءلنا عما إذا كانت ميتا قد أصبحت أكثر استجابة للتقارير حول المحتوى المزعج، وفي اليوم التالي أرسلنا لها 19 حسابًا آخر مليئًا بمشاهد الإساءة للأطفال.
هذه المرة، لم ترد الشركة حتى، تاركة جميع الحسابات نشطة على فيسبوك لأكثر من 24 ساعة بعد نشر هذه القصة. لم تستجب لطلب التعليق.
محتوى الفيديو
المقاطع، التي نختار عدم مشاركتها، تحتوي على مجموعة من الفظائع. واحدة تُظهر طفلًا رضيعًا يُشوى في فرن، بينما يبكي جلده من الحرارة. أخرى تُظهر طفلًا صغيرًا يُدفع من على السلم. وهناك مقطع آخر يُظهر فتاة صغيرة مربوطة إلى شجرة بينما تضربها امرأة بمقلاة من الحديد الزهر. العديد من المقاطع الأخرى تُظهر الأطفال يتعرضون للضرب باستخدام أحزمة، وحبال، وأشياء منزلية أخرى، أو يتم إغلاقهم داخل الغسالات وأقفاص الكلاب.
“جد، أنا جائعة جدًا”، تتوسل فتاة تم إغلاقها في حظيرة الخنازير في أحد الفيديوهات.
إساءة موجهة
تظهر نوع آخر من الفيديوهات التي تم نشرها من قبل الحسابات التي أرسلناها إلى ميتا الأطفال السود يتعرضون للضرب والإهانة من قبل المعلمين في بيئات الصفوف الدراسية.
“لماذا لا تذهب إلى مدرسة للأطفال السود؟”، تسأل معلمة في أحد الفيديوهات، بعد أن تضرب طالبًا أسود يبكي باستخدام مسطرة. “لماذا تستمر في محاولة الدخول إلى مدرسة مثل هذه؟”
(تنتهي العديد من المقاطع بدخول بالغ لمساعدة الطفل، وهو ما أشارت إليه ميتا كتبرير لمحتوى الفيديوهات في قصتنا السابقة.)
موارد ميتا
إذا كانت ميتا جادة بشأن التعرف على الفيديوهات وإزالتها، فسيكون لديها موارد هائلة تحت تصرفها للقيام بذلك. لقد استثمرت الشركة مئات المليارات من الدولارات في تطوير ما يسميه رئيسها التنفيذي مارك زوكربيرغ “الذكاء الفائق” – موارد الذكاء الاصطناعي، التي يبدو أنها لا تُستخدم للسيطرة على انتشار المحتوى المروع على منصات الشركة.
في الواقع، يمكن للشركة بسهولة تحديد فيديوهات إساءة الأطفال ببساطة من خلال النظر إلى الأوصاف النصية التي يتم تحميلها بها، والتي غالبًا ما تصف المشاهد التعذيب بتفاصيل مروعة.
“وضعت والدتي مولودي، الذي كان يعاني من حمى شديدة وقشعريرة، في فرن ساخن لـ’علاج البرد'”، تقرأ التسمية على الفيديو الخاص بالطفل في الفرن. “حتى عندما صرخ الطفل وعانى من حروق شديدة، رفضت إخراجه لأنها كانت تعتقد أن علاجها على وشك أن ينجح. عندما اندفع زوجي لإنقاذ طفلنا، بدأت بتحطيم الأشياء، والصراخ، ومنعته من إخراج الطفل.”
خاتمة
الفيديوهات التي حددناها ليست الكوابيس الوحيدة المولدة بواسطة الذكاء الاصطناعي على منصات ميتا. في الشهر الماضي، أفادت وائر بأن الشركة سمحت بمئات الإعلانات التي تضمنت مواد جنسية صريحة لأطفال حقيقيين.
إذا أضفنا كل ذلك، فإن ميتا – التي تسمح للمستخدمين من عمر 13 عامًا – تبدو وكأنها شركة قد استسلمت فعليًا لمراقبة المحتوى. إذا كان هناك شيء، يبدو أنها منزعجة فقط لأننا نستمر في الإشارة إلى تواطؤها مع المحتوى الرهيب.
المزيد عن ميتا
ميتا: ميتا تتجسس على جميع أصدقائك وعائلتك
إذا أضفنا كل ذلك، فإن ميتا – التي تسمح للمستخدمين من عمر 13 عامًا – تبدو وكأنها شركة قد استسلمت فعليًا لمراقبة المحتوى.




