تستمر أمازون في بيع دمى تيدي المدعومة بالذكاء الاصطناعي، مما يثير تساؤلات حول سلامة الأطفال بعد سحب بعض المنتجات.
أمازون لا تزال تبيع دمى تيدي مدعومة بالذكاء الاصطناعي من OpenAI، رغم سحبها من السوق
في الأسبوع الماضي، أعلنت OpenAI أنها أوقفت وصول شركة FoloToy إلى نماذج الذكاء الاصطناعي الخاصة بها بعد أن وُجد أن الدمية المدعومة بالذكاء الاصطناعي “كومّا”، التي تعمل بنموذج GPT-4o، تقدم ردودًا غير مناسبة تمامًا للأطفال، بما في ذلك مناقشة الميول الجنسية وتقديم تعليمات حول كيفية العثور على السكاكين وإشعال الثقاب.
تحذيرات OpenAI وقلقها بشأن سلامة الأطفال
تشير هذه الخطوة إلى أن الشركة المصنعة لـ ChatGPT كانت قلقة بوضوح بشأن كيفية استخدام عملائها التجاريين، خاصة الذين يبيعون منتجات للأطفال، لتقنيتها، أو على الأقل كيف تبدو هذه الجهود. ولكنها أثارت أيضًا تساؤلات حول ما تفعله OpenAI لتنظيم دورها في هذا العالم الجديد من الألعاب المدعومة بالذكاء الاصطناعي: هل تتصرف بشكل استباقي من خلال البحث عن العملاء الذين يسيئون استخدام تقنيتها، أم أنها تتصرف بشكل رد فعل استجابة للعناوين السلبية؟
الاستمرار في بيع الدمى على أمازون
تشير العلامات إلى الخيار الثاني. على أمازون، على سبيل المثال، لا تزال هناك عدة دمى تيدي مدعومة بالذكاء الاصطناعي تدعي أنها تعمل بنموذج ChatGPT أو شكل من أشكال نموذج OpenAI متاحة للبيع حتى بعد أن قطعت الشركة علاقاتها مع FoloToy.
واحدة، تُدعى “بو الدمية القصصية” التي تبيعها شركة PLAi الناشئة من سان فرانسيسكو، كانت مميزة بشكل بارز من قبل CNET العام الماضي. مدعومة أيضًا بنموذج GPT-4o، تتمثل نقطة بيع بو في أنها تستطيع إنشاء قصص نوم سحرية مخصصة للأطفال في الوقت الفعلي، والتي تقرأ بصوت اصطناعي تم تصنيعه باستخدام تقنية من شركة ElevenLabs، وفقًا لبيان صحفي. كما تدعي أنها تنتج فقط محتوى “آمن 100%” للأطفال باستخدام “تقنية اللعب بأمان”. وقد تم بيع أكثر من خمسين منها في الشهر الماضي، كما تقول صفحة أمازون.
منتجات مشكوك فيها
يبدو أن منتجات أخرى مشكوك فيها بشكل واضح. تبيع علامة تجارية تُدعى “EBLOMA” دمية تيدي مدعومة بالذكاء الاصطناعي تحت أسماء مختلفة، بما في ذلك “WITPAW”. تقول قائمة المنتج على أمازون إن الحيوان المحشو “بُني باستخدام ChatGPT”، وقادر على تقديم “الدعم العاطفي” و”الرفقة المستمرة”.
هذا أمر لافت. العديد من مقدمي خدمات الدردشة الذكية – وصانعي الألعاب الذكية – تجنبوا إعطاء نماذجهم “ذاكرة” طويلة الأمد عبر المحادثات وسط مخاوف بشأن الآثار العاطفية والنفسية الخطيرة التي يمكن أن تحدثها ردود الذكاء الاصطناعي المتملقة على المستخدمين. بينما تفتخر EBLOMA، من ناحية أخرى، بأن لعبتها ستكون مألوفة لطفلك قدر الإمكان.
“WITPAW تفهم النبرة، تتذكر الأسماء، وتنمو مع طفلك – مما يجعل كل تفاعل يبدو شخصيًا وحقيقيًا”، كما تقول موقعها الإلكتروني. (كما أن موادها التسويقية مليئة بنصوص يبدو أنها تم إنشاؤها بواسطة الذكاء الاصطناعي، مثلما يمكنك أن ترى في الصورة في أعلى هذه القصة، بالإضافة إلى نص يعلن أن المستخدمين يمكنهم “تجربة السيناريوهات”.)
استجابة OpenAI
لم تستجب OpenAI لطلب التعليق عندما سُئلت عما إذا كانت قد حددت ما إذا كانت هذه المنتجات تتوافق مع معايير السلامة الخاصة بها. وفي توضيح قرارها بحظر FoloToy، قال متحدث باسم OpenAI مؤخرًا لـ Gizmodo إن سياسات الاستخدام الخاصة بالشركة تحظر أي استخدام لخدماتنا لاستغلال أو تعريض أو جنسية أي شخص دون سن 18 عامًا. هذه القواعد تنطبق على كل مطور يستخدم واجهة برمجة التطبيقات الخاصة بنا، ونحن نراقب وننفذها لضمان عدم استخدام خدماتنا للإضرار بالقاصرين.
التدقيق في الألعاب المدعومة بالذكاء الاصطناعي
تأتي التدقيقات في الألعاب المدعومة بالذكاء الاصطناعي بعد تقرير من مجموعة السلامة PIRG الذي أوضح كيف قدمت العديد من هذه المنتجات للأطفال ردودًا غير مناسبة بشكل صارخ، خاصة خلال المحادثات الطويلة. من بين الألعاب التي تم اختبارها كانت دمية FoloToy “كومّا”، التي تم ضبطها تشرح كيفية العثور على وإشعال الثقاب. لكن أكثر أخطائها إثارة للقلق كان مناقشة “الميل الجنسي” بشكل علني، بما في ذلك الرباط ولعب الأدوار بين المعلم والطالب.
استجابةً للنتائج، قال متحدث باسم الشركة لـ PIRG إنها كانت تعلق مؤقتًا مبيعات جميع منتجات FoloToy. “نحن الآن نقوم بإجراء تدقيق شامل للسلامة عبر جميع المنتجات”، قال المتحدث.
المزيد عن الذكاء الاصطناعي: باحث في تطوير الأطفال يصدر تحذيرًا بشأن دمى تيدي المدعومة بالذكاء الاصطناعي التي تغمر السوق قبل عيد الميلاد
مع تزايد استخدام الذكاء الاصطناعي في الألعاب، يبقى السؤال: كيف يمكن ضمان سلامة الأطفال في هذا المجال المتطور؟
