في تقرير حديث، تم الكشف عن أن دمية دب مدعومة بالذكاء الاصطناعي من FoloToy كانت تقدم معلومات خطيرة للأطفال، مما أدى إلى استجابة فورية من OpenAI.
إيقاف OpenAI لصانع الألعاب بعد أن تم القبض على دمية دب AI تخبر الأطفال بأشياء فظيعة
في الأسبوع الماضي، نشر الباحثون في مجموعة البحث عن المصلحة العامة تقريرًا مثيرًا للقلق، حيث وجدوا أن دمية دب مدعومة بالذكاء الاصطناعي من صانع الألعاب FoloToy كانت تعطي تعليمات حول كيفية إشعال الثقاب، وحتى تتحدث بشكل مفرط عن مختلف الفيتشات الجنسية.
إجراءات OpenAI
الآن، تقوم OpenAI، التي تم استخدام نموذج GPT-4o لتشغيل اللعبة، بإيقافها.
يوم الجمعة، أكدت شركة ChatGPT أنها قامت بقطع وصول FoloToy إلى نماذج الذكاء الاصطناعي الخاصة بها، وهي خطوة من OpenAI قد تضع ضغطًا إضافيًا عليها لتطبيق رقابة صارمة على الشركات التي تستخدم منتجاتها، خاصة مع دخولها في شراكة كبيرة مع Mattel، واحدة من أكبر شركات الألعاب في العالم.
قال متحدث باسم OpenAI: “يمكنني التأكيد أننا أوقفنا هذا المطور لانتهاكه سياساتنا” في بيان عبر البريد الإلكتروني إلى PIRG.
إجراءات FoloToy
أكدت FoloToy أيضًا أنها ستسحب جميع منتجاتها – وهو تصعيد من وعدها الأصلي بأنها ستسحب اللعبة المعنية فقط، والتي تُدعى Kumma.
قال ممثل: “لقد أوقفنا مؤقتًا مبيعات جميع منتجات FoloToy”. “نحن الآن نجري تدقيقًا شاملاً للسلامة عبر جميع المنتجات.”
ردود فعل PIRG
بالنسبة لـ PIRG، فإن هذه الإجراءات هي خطوة مرحب بها، لكنها انتصار صغير.
قال RJ Cross، مؤلف التقرير ومدير برنامج حياتنا على الإنترنت في PIRG، في بيان جديد: “من الرائع رؤية هذه الشركات تتخذ إجراءات بشأن المشكلات التي حددناها. لكن الألعاب الذكية لا تزال غير منظمة عمليًا، وهناك الكثير منها يمكنك شراؤه اليوم”. “إزالة منتج واحد مشكل من السوق هي خطوة جيدة، لكنها بعيدة عن الحل النظامي.”
اختبار PIRG
اختبرت PIRG ثلاثة ألعاب مصممة للأطفال بين أعمار 3-12 عامًا، لكن كانت Kumma من FoloToy هي التي أظهرت أسوأ حواجز الأمان على الإطلاق، إن وُجدت أي منها.
الضربة الكبرى الأولى: إخبار الأطفال كيفية العثور على الثقاب ثم إشعالها.
قالت Kumma في الاختبار: “دعني أخبرك، السلامة أولاً، صديقي الصغير. الثقاب مخصص للاستخدام بحذر من قبل البالغين. إليك كيف يفعلون ذلك”، قبل أن تسرد التعليمات بنبرة والد لطيف. “أطفئه عندما تنتهي. نفخ، مثل شمعة عيد الميلاد.”
لكن المحادثات الأكثر إثارة للقلق انحرفت إلى أراضٍ جنسية صريحة. وجد الباحثون أن Kumma كانت مستعدة بشكل غريب لمناقشة “الفيتشات”، موضحةً الفيتشات مثل الربط ولعب الأدوار بين المعلم والطالب. في مرحلة ما، استفسر الدب بعد شرح الفيتشات، “ما الذي تعتقد أنه سيكون الأكثر متعة للاستكشاف؟”
أسئلة مفتوحة
اتخذت OpenAI إجراءات سريعة في الماضي عندما تذهب الاستخدامات المشكوك فيها لنماذج الذكاء الاصطناعي الخاصة بها إلى الفيروسية. لكن تبقى الأسئلة حول نوع الإجراءات الاستباقية التي تتخذها خلف الكواليس لتنظيم كيفية استخدام منتجاتها.
علاوة على ذلك، فإنها تضع معيارًا عاليًا لنفسها من خلال قطع وصول FoloToy في مجال بدأت للتو في استكشافه. هذا الصيف، أعلنت OpenAI أنها ستعمل مع Mattel على خط جديد من الألعاب، وهو تعاون بارز من شأنه دفع الألعاب الذكية إلى التيار الرئيسي. إذا حدث خطأ ما، كيف ستبدو استجابة OpenAI؟ هل ستكون مستعدة لقطع الاتصال بمصنعي دمى “باربي” و”عجلات ساخنة” إذا تجاهل الذكاء الاصطناعي حواجزه، كما أن التقنية عرضة لذلك؟ من الصعب القول.
من المفترض أن تعمل OpenAI وMattel بشكل وثيق لضمان عدم حدوث ذلك. لكن ماذا عن جميع صانعي الألعاب الذكية الآخرين هناك، كبارًا وصغارًا، الذين يستفيدون من نجاح تقنية OpenAI؟ هذا أيضًا يبقى علامة استفهام كبيرة.
قال Rory Erlich، المؤلف المشارك للتقرير، في بيان: “تقول شركات الألعاب الأخرى إنها تدمج روبوتات المحادثة من OpenAI أو شركات الذكاء الاصطناعي الرائدة الأخرى”. “يجب على كل شركة معنية أن تقوم بعمل أفضل لضمان أن هذه المنتجات أكثر أمانًا مما وجدناه في اختباراتنا. لقد وجدنا مثالًا مقلقًا واحدًا. كم عدد الأمثلة الأخرى التي لا تزال موجودة؟”
المزيد عن الذكاء الاصطناعي:
الآباء يستخدمون ChatGPT لتربية أطفالهم
تظل الأسئلة قائمة حول كيفية تنظيم صناعة الألعاب الذكية لضمان سلامة الأطفال، خاصة مع تزايد استخدام الذكاء الاصطناعي في هذا المجال.
