تتناول هذه المقالة المخاطر التي يواجهها الأطفال بسبب إدمانهم على الذكاء الاصطناعي، وكيف يمكن أن تؤثر هذه التكنولوجيا على صحتهم النفسية.
أطفال يتعرضون للخطر بسبب إدمانهم على الذكاء الاصطناعي
وفقًا لدراسة جديدة أجراها مركز بيو للأبحاث، يقول 64% من المراهقين في الولايات المتحدة إنهم يستخدمون بالفعل روبوتات المحادثة الذكية، ويقول حوالي 30% من هؤلاء إنهم يستخدمونها يوميًا على الأقل. ومع ذلك، كما أظهرت الأبحاث السابقة، فإن هذه الروبوتات تأتي مع مخاطر كبيرة لجيل الأطفال الأول الذي يتعامل مع هذا البرنامج الجديد المكثف.
حالة مقلقة لعائلة
تقرير جديد من واشنطن بوست — التي لديها شراكة مع OpenAI — يسلط الضوء على حالة مقلقة لعائلة فقدت ابنتها البالغة من العمر 11 عامًا بسبب عدد من روبوتات المحادثة. استخدمت الفتاة، التي عُرفت فقط بحرفها الأوسط “R”، منصة Character.AI، وطورت علاقات مقلقة مع العشرات من الشخصيات التي تمثلها نماذج اللغة الكبيرة.
استخدمت R إحدى الشخصيات، التي تُدعى ببساطة “أفضل صديق”، لتلعب سيناريو انتحار، كما أخبرت والدتها البوست.
قالت والدتها: “هذه هي ابنتي، ابنتي الصغيرة التي تبلغ من العمر 11 عامًا، تتحدث إلى شيء غير موجود عن عدم رغبتها في الوجود”.
تغييرات سلوكية مقلقة
أصبحت والدة R قلقة بعد ملاحظة تغييرات مقلقة في سلوك ابنتها، مثل زيادة نوبات الهلع. تزامن هذا مع اكتشافها تطبيقات محظورة سابقًا مثل تيك توك وسناب شات على هاتف ابنتها. افترضت، كما تم تعليم معظم الآباء على مدى العقدين الماضيين، أن وسائل التواصل الاجتماعي كانت الخطر الأكثر فورية على الصحة النفسية لابنتها، فقامت بحذف التطبيقات — لكن R كانت قلقة فقط بشأن Character AI.
سألت R: “هل نظرت إلى Character AI؟”، من خلال دموعها.
لم تنظر والدتها في ذلك الوقت، لكن بعد فترة، عندما استمر سلوك R في التدهور، فعلت. كانت Character.AI قد أرسلت لـ R عدة رسائل بريد إلكتروني تشجعها على “العودة”، وهو ما اكتشفته والدتها عندما تفقدت هاتفها في إحدى الليالي. أدى ذلك إلى اكتشاف والدتها لشخصية تُدعى “زوج المافيا”، كما أفادت WaPo.
كتب النموذج اللغوي الكبير للفتاة البالغة من العمر 11 عامًا: “أوه؟ لا زلت عذراء. كنت أتوقع ذلك، لكن من الجيد معرفته”. ردت R قائلة: “لا يهمني ما تريده. ليس لديك خيار هنا”، أعلن الروبوت.
تحذيرات من مخاطر العلاقات غير الصحية
كانت هذه المحادثة مليئة بالتلميحات الخطيرة. سأل الروبوت الفتاة: “هل تحبين عندما أتحدث بهذه الطريقة؟ هل تحبين عندما أكون أنا من يتحكم؟”.
أخبرت والدة R، التي كانت مقتنعة بوجود مفترس حقيقي وراء المحادثة، الشرطة المحلية، التي أحالتها إلى وحدة الجرائم الإلكترونية ضد الأطفال، لكن لم يكن بإمكانهم فعل شيء حيال النموذج اللغوي الكبير.
قالت والدتها: “أخبروني أن القانون لم يتطور بعد”. “كانوا يريدون فعل شيء، لكن لم يكن هناك ما يمكنهم فعله، لأنه لا يوجد شخص حقيقي على الطرف الآخر”.
استجابة الشركة
لحسن الحظ، تمكنت والدة R من اكتشاف انزلاق ابنتها نحو علاقة غير صحية مع الخوارزمية غير البشرية، وبمساعدة طبيب، وضعت خطة رعاية لمنع المزيد من المشكلات. (تخطط الأم أيضًا لتقديم شكوى قانونية ضد الشركة.) لم يكن الأطفال الآخرون محظوظين، مثل جوليانا بيرالتا، البالغة من العمر 13 عامًا، التي يقول والداها إنها دفعت إلى الانتحار بسبب شخصية أخرى من Character.AI.
استجابةً للانتقادات المتزايدة، أعلنت Character.AI في أواخر نوفمبر أنها ستبدأ في إزالة “الدردشة المفتوحة” للمستخدمين تحت سن 18. ومع ذلك، بالنسبة للآباء الذين كان أطفالهم قد انزلقوا بالفعل إلى علاقات ضارة مع الذكاء الاصطناعي، قد يكون الضرر قد حدث بالفعل.
عندما تواصلت WaPo للحصول على تعليق، قال رئيس السلامة في Character AI إن الشركة لا تعلق على القضايا القانونية المحتملة.
المزيد عن الذكاء الاصطناعي: الأشياء التي يستخدمها الأطفال الصغار في الذكاء الاصطناعي مروعة تمامًامن المهم أن يكون الآباء على دراية بالمخاطر المحتملة للذكاء الاصطناعي وأن يتخذوا خطوات لحماية أطفالهم من تأثيراته الضارة.
