في ظل تزايد القلق بشأن تأثيرات الذكاء الاصطناعي على الأطفال، تتخذ كاليفورنيا خطوات جادة لحماية الأجيال القادمة.
التسجيل لرؤية المستقبل اليوم
ابتكارات لا يمكن تفويتها من حافة العلم والتكنولوجيا
تبدو مختبرات الذكاء الاصطناعي في سباق لتذويب العقول القابلة للتأثر للمستخدمين القاصرين.
على مدى سنوات، شهدنا الأفراد دون سن 18 عامًا يصبحون مهووسين بالرفقاء الذكاء الاصطناعي، وهو اتجاه مقلق أسفر عن عواقب كارثية، من تشجيع الدردشة لهم على الانخراط في إيذاء النفس إلى حتى التورط في سلسلة من الوفيات. وهذا دون التطرق إلى موجة الأدلة المتزايدة التي تشير إلى أن الذكاء الاصطناعي يقوض التعليم بطرق عميقة.
تقع الغالبية العظمى من مختبرات الذكاء الاصطناعي في كاليفورنيا، وهي ولاية يحاول حاكمها الآن التقدم في معالجة المشكلة – بينما يوفر في الوقت نفسه للشركات موطنًا، في مشهد قد يكون مشكوكًا فيه في أفضل الأحوال.
في يوم الخميس، وقع حاكم الولاية غافن نيوسوم ما وصفته مكتبه بـ “تشريع ثنائي الحزب الرائد” لحماية “الأطفال عبر الإنترنت وعند استخدام الذكاء الاصطناعي”.
كجزء من التشريع، يُطلب من شركات الذكاء الاصطناعي تطوير “بروتوكولات أزمة في حالة التفكير الانتحاري، وضوابط أبوية، وإشعارات في حال قام طفل بتعطيل إعدادات الأمان.” تم تسمية أحد القوانين بـ “قانون آدم”، في إشارة إلى آدم راين البالغ من العمر 16 عامًا، الذي أنهى حياته في أبريل 2025 بعد محادثات مطولة مع ChatGPT حول نيته في الموت.
قالت والدة آدم، ماريا راين، في بيان خلال مراسم توقيع القانون: “سوف ينقذ القانون الأرواح ويمنع أضرارًا خطيرة أخرى – ونأمل أن يؤدي إلى تشريع ولايات أخرى لحماية مماثلة”.
كما يحظر التشريع “منصات وسائل التواصل الاجتماعي من تقديم ميزات إدمانية للمستخدمين دون سن 16″، موجهاً إياها “لتوسيع حماية الخصوصية للأطفال.” تشمل الميزات الإدمانية بموجب القانون “فيديوهات التشغيل التلقائي وتغذيات خوارزمية تعتمد على تاريخ المستخدم وملفه الشخصي.”
بينما هي خطوة حسنة النية، قد يكون من الصعب تنفيذ هذه القواعد الجديدة. تتطلب القوانين من روبوتات الدردشة الذكاء الاصطناعي التحقق من أعمار المستخدمين، وهو أمر أسهل قولاً من فعله. قد يعرض ذلك أيضًا المستخدمين القاصرين لمخاطر جديدة. هذا الشهر، اخترق قراصنة ما يبدو أنه خدمة تحقق من بطاقات الهوية الرئيسية.
إنها قضية خطيرة. لقد شهدنا بالفعل أكثر من حادثة إطلاق نار جماعي يبدو أنها تمت بتسهيل من ChatGPT. ما إذا كانت هذه القواعد الجديدة ستوفر فرصة لمنع المآسي المستقبلية يبقى أن نرى.
في هذه الأثناء، الضغط على شركات الذكاء الاصطناعي التي تتخذ من كاليفورنيا مقراً لها يتزايد بسرعة. اعتبارًا من هذا الشهر، تواجه OpenAI أكثر من 50 دعوى قضائية تتعلق بأضرار المستهلك والوفاة غير المشروعة.
تباينت ردود الفعل على القواعد الأخيرة بشكل كبير. انتقدت ميتا إلى حد كبير القيود الجديدة ضد عرض المستخدمين القاصرين تغذيات خوارزمية، قائلة إنها ضرورية للسماح لهم “باستكشاف اهتماماتهم بأمان”، كما أخبر متحدث باسمها أسوشيتد برس. وذلك على الرغم من اتفاق ميتا في الشهر الماضي على دفع ما يصل إلى 18 مليار دولار كتعويضات بعد أن ثبت أنها أضرت بالأطفال من خلال منصاتها.
من ناحية أخرى، دعمت أنثروبيك رسميًا مشروع قانون نيوسوم، قائلة لـ بوليتكو في بيان إن “الذكاء الاصطناعي يحمل وعدًا استثنائيًا”، لكنه “يجب أن يتم تطويره ونشره مع ضمانات ذات مغزى لحماية الجمهور”.
كما وعدت OpenAI بتحسين ضمانات ChatGPT، وفقًا لـ سي إن بي سي، لكنها لم توضح كيف.
المزيد عن تنظيم الذكاء الاصطناعي: المحكمة العليا الصينية تصدر حملة قانونية شاملة ضد التزييف العميق للذكاء الاصطناعي
بينما يُعتبر هذا التشريع خطوة إيجابية، يبقى التحدي الأكبر في التنفيذ الفعلي لهذه القوانين وضمان سلامة الأطفال في العالم الرقمي.
