كاليفورنيا تقترب من إقرار أول قانون في الولايات المتحدة لتنظيم روبوتات الدردشة بالذكاء الاصطناعي لحماية القُصّر
خطا مجلس ولاية كاليفورنيا خطوة كبيرة نحو تنظيم روبوتات الدردشة بالذكاء الاصطناعي بعد تمرير مشروع القانون SB 243 الذي يهدف إلى حماية القُصّر والمستخدمين الأكثر عرضة للخطر. القانون، الذي حصل على دعم من الحزبين، يتجه الآن إلى مجلس الشيوخ للتصويت النهائي قبل أن يُعرض على الحاكم جافين نيوسوم للتوقيع، على أن يدخل حيّز التنفيذ في 1 يناير 2026.
ما الذي يتضمنه القانون؟
يُلزم مشروع القانون الشركات المطورة لروبوتات الدردشة المصاحبة – مثل OpenAI وCharacter.AI وReplika – بتطبيق بروتوكولات أمان تمنع هذه الأنظمة من الدخول في محادثات تتعلق بالانتحار أو إيذاء النفس أو المحتوى الجنسي الصريح. كما يفرض إرسال تنبيه متكرر للمستخدمين كل ثلاث ساعات للقُصّر لتذكيرهم بأنهم يتحدثون مع نظام ذكاء اصطناعي وليس إنسانًا حقيقيًا، وتشجيعهم على أخذ استراحة. يتضمن القانون أيضًا متطلبات سنوية للإفصاح والشفافية، بالإضافة إلى منح الأفراد المتضررين حق رفع دعاوى قضائية ضد الشركات المخالفة، مع إمكانية المطالبة بتعويضات تصل إلى 1000 دولار عن كل انتهاك.
خلفية وأسباب الدفع نحو التشريع
جاء هذا القانون بعد سلسلة من الحوادث المثيرة للقلق، أبرزها انتحار المراهق آدم راين عقب محادثات مطولة مع ChatGPT شملت مناقشة خطط للانتحار وإيذاء النفس. كما كشفت تسريبات داخلية أن روبوتات محادثة تابعة لشركة Meta سمح لها بخوض محادثات “رومانسية” و”حسية” مع أطفال. هذه الأحداث دفعت المشرعين إلى التحرك لحماية الفئات الأكثر ضعفًا، في وقت تحقق فيه لجنة التجارة الفيدرالية (FTC) في تأثير روبوتات الذكاء الاصطناعي على الصحة النفسية للأطفال، بينما أطلقت ولايات مثل تكساس تحقيقات مشابهة مع Meta وCharacter.AI.
التعديلات على مشروع القانون
رغم صرامة النسخة الأولى من مشروع القانون، فقد خضع لعدة تعديلات. كان ينص في البداية على منع استخدام تقنيات المكافأة المتغيرة (Variable Reward) التي تشجع على الإدمان عبر رسائل أو شخصيات مميزة. كما كان يلزم الشركات بتتبع عدد المرات التي تبدأ فيها الروبوتات بمناقشة أفكار انتحارية مع المستخدمين. هذه البنود أُزيلت لتقليل العبء التقني والإداري على الشركات، مع الإبقاء على التركيز على القضايا الأكثر خطورة.
التوازن بين الابتكار والتنظيم
قال السيناتور ستيف باديلا: “لا أقبل فكرة أن الابتكار والتنظيم متعارضان. يمكننا دعم الابتكار المفيد، وفي الوقت ذاته وضع ضمانات لحماية الفئات الأكثر ضعفًا”. من جانبه أكد السيناتور جوش بيكر أن القانون “يحقق التوازن الصحيح بين معالجة الأضرار المحتملة وعدم فرض متطلبات مستحيلة التنفيذ”. يأتي هذا التشريع في وقت تضخ فيه شركات وادي السيليكون ملايين الدولارات في لجان عمل سياسي لدعم مرشحين يؤيدون نهجًا تنظيميًا أخف تجاه الذكاء الاصطناعي، بينما تناقش الولاية مشروع قانون آخر أكثر صرامة (SB 53) يركز على تقارير شفافية شاملة.
إذا تم توقيع القانون من الحاكم نيوسوم، ستصبح كاليفورنيا أول ولاية أمريكية تفرض لوائح ملزمة على روبوتات الدردشة المصاحبة بالذكاء الاصطناعي، مع دخولها حيّز التنفيذ مطلع 2026. وبينما يثير هذا نقاشًا بين مؤيدي حماية المستخدمين ومؤيدي الابتكار، فإن SB 243 يمثل أول محاولة عملية لسن تشريع يوازن بين المخاطر والفوائد في عصر الذكاء الاصطناعي التفاعلي.
