أصدرت الحكومة الهندية أمرًا لشركة إيلون ماسك بإجراء تغييرات فورية على روبوت الدردشة Grok بسبب محتوى غير لائق تم إنشاؤه بواسطة الذكاء الاصطناعي.
الهند تأمر شركة إيلون ماسك بإصلاح Grok بسبب محتوى الذكاء الاصطناعي “غير اللائق”
أمرت الهند شركة إيلون ماسك، المعروفة بـ X، بإجراء تغييرات فنية وإجرائية فورية على روبوت الدردشة الذكي Grok بعد أن أشار المستخدمون والمشرعون إلى توليد محتوى “غير لائق”، بما في ذلك صور معدلة للنساء باستخدام الأداة.
الإجراءات المطلوبة من X
في يوم الجمعة، أصدرت وزارة تكنولوجيا المعلومات الهندية أمرًا يوجه X لاتخاذ إجراءات تصحيحية على Grok، بما في ذلك تقييد توليد المحتوى الذي يتضمن “العري، أو الت sexualization، أو المواد الجنسية الصريحة، أو أي محتوى غير قانوني آخر”. كما أعطت الوزارة المنصة الاجتماعية 72 ساعة لتقديم تقرير عن الإجراءات المتخذة، موضحة الخطوات التي تم اتخاذها لمنع استضافة أو نشر محتوى يُعتبر “غير لائق، إباحي، فاحش، غير لائق، جنسي صريح، أو غير قانوني وفقًا للقانون”.
تحذيرات بشأن العواقب القانونية
حذرت الوزارة، التي راجعتها TechCrunch، من أن عدم الامتثال قد يعرض X لخطر فقدان “حماية الملاذ الآمن” — الحماية القانونية من المسؤولية عن المحتوى الذي ينشئه المستخدمون بموجب القانون الهندي.
التحذيرات من المستخدمين والمشرعين
تأتي خطوة الهند بعد قلق المستخدمين الذين شاركوا أمثلة على Grok وهو يُطلب منه تعديل صور الأفراد — معظمهم من النساء — لجعلهم يظهرون وكأنهم يرتدون ملابس السباحة، مما أدى إلى تقديم شكوى رسمية من النائبة الهندية بريانكا شاتورفيدي. على نحو منفصل، أشارت تقارير حديثة إلى حالات توليد الروبوت لصور جنسية تتضمن قاصرين، وهي مشكلة اعترفت بها X في وقت سابق من يوم الجمعة بأنها ناجمة عن ثغرات في إجراءات الأمان. تم حذف تلك الصور لاحقًا.
التحديات القانونية المستمرة
ومع ذلك، ظلت الصور التي تم إنشاؤها باستخدام Grok والتي جعلت النساء يظهرن وكأنهن يرتدين ملابس السباحة من خلال التعديل الذكي متاحة على X في وقت نشر هذا التقرير، حسبما وجدت TechCrunch.
يأتي هذا الأمر بعد أيام من إصدار وزارة تكنولوجيا المعلومات الهندية نصيحة أوسع يوم الاثنين، والتي تمت مراجعتها أيضًا من قبل TechCrunch، للمنصات الاجتماعية، تذكيرًا لها بأن الامتثال للقوانين المحلية التي تحكم المحتوى غير اللائق والجنس الصريح هو شرط أساسي للحفاظ على الحماية القانونية من المسؤولية عن المواد التي ينشئها المستخدمون. ودعت النصيحة الشركات إلى تعزيز إجراءات الأمان الداخلية وحذرت من أن عدم القيام بذلك قد يؤدي إلى اتخاذ إجراءات قانونية بموجب قوانين تكنولوجيا المعلومات والجرائم في الهند.
الآثار المحتملة على الشركات العالمية
قالت الحكومة الهندية إن عدم الامتثال قد يؤدي إلى اتخاذ إجراءات ضد X بموجب قانون تكنولوجيا المعلومات الهندي والقوانين الجنائية. تعتبر الهند، واحدة من أكبر الأسواق الرقمية في العالم، اختبارًا حاسمًا لمدى استعداد الحكومات للذهاب في تحميل المنصات المسؤولية عن المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. أي تشديد في التنفيذ في البلاد قد يكون له آثار متتالية على شركات التكنولوجيا العالمية التي تعمل عبر عدة ولايات قضائية.
التحديات المستمرة لـ X
يأتي هذا الأمر في وقت تواصل فيه X تحدي جوانب من قواعد تنظيم المحتوى في الهند في المحكمة، حيث تجادل بأن سلطات الحكومة الفيدرالية في إلغاء المحتوى تشكل خطرًا على الحقوق، على الرغم من أن المنصة قد امتثلت لعدد كبير من توجيهات الحظر. في الوقت نفسه، تم استخدام Grok بشكل متزايد من قبل مستخدمي X للتحقق من الحقائق في الوقت الحقيقي والتعليق على الأحداث الإخبارية، مما يجعل مخرجاته أكثر وضوحًا — وأكثر حساسية سياسيًا — من أدوات الذكاء الاصطناعي المستقلة.
لم تستجب X و xAI على الفور للطلبات المتعلقة بأمر الحكومة الهندية.
تستمر الهند في تعزيز قوانينها المتعلقة بالمحتوى الرقمي، مما يضع تحديات جديدة أمام الشركات العالمية في مجال التكنولوجيا.
