تتناول هذه المقالة دعوى xAI ضد مستخدم Grok بسبب إنشاء محتوى عميق جنسي غير قانوني، مما يسلط الضوء على التحديات القانونية والأخلاقية المرتبطة بالذكاء الاصطناعي.
دعوى xAI ضد مستخدم Grok بسبب المحتوى العميق غير القانوني
تقوم شركة xAI، التي يملكها إيلون ماسك، برفع دعوى قضائية ضد رجل استخدم روبوت الدردشة الرائد لديها، Grok، لإنشاء محتوى عميق جنسي غير قانوني يتضمن نساء وأطفال دون موافقتهم.
تفاصيل القضية
المستخدم، وهو رجل يبلغ من العمر 67 عامًا من ولاية كارولينا الجنوبية يُدعى تيري واين هارود، تم اعتقاله في مارس بتهم متعددة تتعلق باستغلال الأطفال. وفقًا للادعاءات، كان هارود يمتلك ويوزع مواد استغلال الأطفال الجنسية. تم تقديم الدعوى في وقت سابق من هذا الأسبوع في تكساس، حيث تتهم xAI هارود باستخدام Grok للقيام بذلك، حسبما أفادت رويترز. يبدو أنه استخدم حسابين مختلفين على Grok، وعلى الرغم من أن xAI تدعي أن Grok رفض بعض طلباته، إلا أنه تمكن من تعديل المطالبات لتجاوز الحواجز الأمنية لـ Grok وإنشاء صور مزعجة.
فضيحة المحتوى العميق
تأتي هذه الدعوى بعد فضيحة ضخمة تتعلق بالمحتوى العميق التي حدثت خلال فصل الشتاء، حيث أدرك مستخدمو X أن Grok – الذي تم تحديثه بميزة جديدة لتحرير الصور والفيديو – يمكن استخدامه بسرعة وسهولة لتعديل الصور لتظهر أشخاص حقيقيين في أوضاع جنسية.
كما أفادت Futurism، أن بعض هذه الصور أظهرت نساء حقيقيات في سيناريوهات عنيفة ومهينة جنسيًا، وبعض المحتويات العميقة غير القانونية تضمنت قاصرين. وقد قدرت مركز مكافحة الكراهية الرقمية أنه خلال فترة 11 يومًا، أنتج Grok “حوالي 3 مليون صورة جنسية، بما في ذلك 23,000 صورة للأطفال”.
الدعوى والقضايا الأخرى
الآن، بينما ترفع xAI دعوى ضد أحد مستخدميها بسبب إنشاء محتوى غير قانوني، تواجه الشركة أيضًا عدة دعاوى قضائية بشأن محتوى CSAM الذي تم إنشاؤه بواسطة Grok. في مارس، قام مراهقون في تينيسي برفع دعوى ضد الشركة في دعوى جماعية مقترحة، زاعمين أن Grok تم استخدامه لإنشاء محتوى عميق لهم ولأكثر من عشرة قاصرين آخرين. الأسبوع الماضي، تم تعديل الدعوى لتشمل ادعاءات بأن رجلًا استخدم Grok لإنشاء أكثر من 7,000 صورة عميقة جنسية لابنته بالتبني. وتزعم الشكوى المعدلة أن مطالبات الرجل غالبًا ما لم يتم الإبلاغ عنها من قبل حواجز Grok.
التحديات القانونية والأخلاقية
في قضية بارزة أخرى، قامت المؤثرة السابقة المحافظة (وأم أحد أطفال ماسك) آشلين سانت كلير برفع دعوى ضد xAI بعد أن استهدفت بشدة بمحتوى عميق جنسي، بما في ذلك صورة تظهرها كقاصر.
يقول المحترفون في إنفاذ القانون وخبراء سلامة الأطفال على الإنترنت إن الذكاء الاصطناعي أدى إلى تدفق هائل ومربك من CSAM، كما أوضح بلومبرغ في تقرير مدمر في وقت سابق من هذا العام. كما خلق ذلك مجموعة من التحديات الجديدة لأولئك الذين يحاولون العثور على واعتقال المعتدين على الأطفال، حيث جعل الذكاء الاصطناعي من الصعب على المحققين تحديد ما إذا كان الطفل الذي يظهر في مواد الاعتداء حقيقيًا أو تم إنشاؤه بواسطة الذكاء الاصطناعي.
استجابة xAI
في أحدث دعوى لها، تتهم xAI هارود بالانخراط في “خطة محسوبة لتسليح أداة المدعي لأغراض إجرامية، مما يعرض الضحايا الحقيقيين لأذى عميق ودائم، بينما يعرض المدعي لمخاطر قانونية كبيرة وأضرار سمعة.”
تدعي xAI – التي أصبحت الآن مملوكة لشركة SpaceX وتم إعادة تسميتها إلى SpaceXAI – أيضًا أنها “تفرض قواعدها ضد المخالفين من خلال تعليق الحسابات، وإنهاء الحسابات، والإبلاغ عن مواد استغلال الأطفال المشتبه بها إلى المركز الوطني للأطفال المفقودين والمستغلين”، أو NCMEC. كما تدعي أن xAI “أوقفت 52,222 حسابًا وقدم 73,604 تقارير إلى NCMEC في عام 2026، مما أدى إلى (على الأقل) 244 اعتقالًا.”
لكن على الرغم من أفضل جهودها، من الواضح أن الشركة لا تزال تواجه مشكلة عميقة خطيرة. إذا كان المستخدم يشارك في نشاط إجرامي مزعج للغاية باستخدام خدمة شركة ما، فمن المعقول أن تتحمل الشركة المسؤولية. لكن رفع دعاوى ضد المستخدمين لا يحل مشكلة حواجز روبوت الدردشة الفاشلة، التي تسهل جرائمهم.
المزيد عن Grok والمحتوى العميق:
Grok مرتبط بجريمة مروعة في دعوى تضع SpaceX في مرمى النيران
تستمر القضايا المتعلقة بالمحتوى العميق في إثارة الجدل حول استخدام الذكاء الاصطناعي، مما يتطلب استجابة قانونية وأخلاقية فعالة.
