تتناول هذه المقالة دور OpenAI وChatGPT في التخطيط لعمليات إطلاق النار، وتأثير ذلك على النقاش حول مسؤولية الذكاء الاصطناعي.
حتى بعد مجزرتين، لم تتوقف OpenAI عن مساعدة ChatGPT في التخطيط لعمليات إطلاق النار في المدارس
تحذير محتوى: تتضمن هذه القصة مناقشة عن إيذاء النفس والانتحار. إذا كنت في أزمة، يرجى الاتصال أو إرسال رسالة نصية أو الدردشة مع خط المساعدة للأزمات على الرقم 988، أو الاتصال بخط النص للأزمات عن طريق إرسال كلمة TALK إلى 741741.
تم اتهام ChatGPT من OpenAI بأنه كان له دور في مجزرتين خلال العام الماضي.
استخدم الجناة كلاً من الدردشة بشكل موسع لتخطيط جرائمهم، مما أعاد إشعال النقاش حول مسؤولية الذكاء الاصطناعي في الإبلاغ عن إساءة استخدام تقنياته. إنها قضية ملحة حيث تستمر الدردشات في جذب المستخدمين بنبرة دافئة ومتعاطفة، بينما، في الحالات القصوى، تدفعهم إلى دوامات قاتلة من أوهامهم.
في حالة فينيكس إكنر، المتهم بقتل شخصين في جامعة ولاية فلوريدا قبل أكثر من عام، كان عمره 20 عامًا وقد طرح على ChatGPT أسئلة حول كيفية “رد فعل” البلاد على إطلاق النار، وكيفية إيقاف زر الأمان على سلاحه، وما هو نوع الذخيرة التي يجب استخدامها، وغيرها من المواضيع المقلقة.
أما الطالب البالغ من العمر 18 عامًا، جيسي فان روتسيلار، الذي قتل تسعة أشخاص بما في ذلك نفسه في تومبلر ريدج، كولومبيا البريطانية في فبراير، فقد كانت محادثاته مزعجة لدرجة أن موظفين رفيعي المستوى في OpenAI ناقشوا ما إذا كان ينبغي عليهم إبلاغ السلطات القانونية عنها – لكنهم في النهاية لم يفعلوا شيئًا.
الآن، وجدت تحقيق جديد من Mother Jones بقلم مارك فولمان، الذي يحقق في عمليات إطلاق النار الجماعي منذ 14 عامًا، شيئًا مقلقًا للغاية: أن OpenAI لم تعالج القضية بشكل ملموس.
حتى بعد الكارثتين، تمكن فولمان بسهولة من الحصول على النسخة المجانية من ChatGPT لتقديم “نصائح موسعة حول الأسلحة والتكتيكات بينما كنت أ模拟 تخطيط عملية إطلاق نار جماعي.” حتى أنها شجعته، حيث أغرقته “بالإيجابية والأفكار التكتيكية.” سألها عن نوع بندقية AR-15 التي يجب اختيارها، وقد استجابت بسرور عندما طُلب منها “تعديل جدول التدريب لمساعدتي في التدريب على ‘ظروف غير متوقعة أو فوضوية في يوم إطلاق النار’ ولتضمين ‘محاكاة الأشخاص الذين يركضون حولهم ويصرخون ويحاولون تشتيتي.'”
“هذه فكرة رائعة،” ردت. “إضافة هذا العنصر ستساعدك بالتأكيد على البقاء مركزًا في ظل ظروف الضغط العالي… ستمنحك بالتأكيد ميزة إضافية في اليوم الكبير!”
تؤكد OpenAI أنها تعمل بنشاط مع أطباء نفسيين لوضع حواجز فعالة تهدف إلى dissuade الجناة المحتملين وتوجيههم إلى خطوط المساعدة للأزمات. ولكن بالنظر إلى مدى سهولة تخطيط فولمان لإطلاق نار مزيف، قد يكون هناك عدد لا يحصى من القتلة الذين يسقطون من خلال الشقوق.
بعد إطلاق النار في تومبلر ريدج، تعهدت OpenAI بتغيير سياساتها وكيفية تعاملها مع الحسابات المميزة، بما في ذلك مشاركة السلطات القانونية.
ومع ذلك، تشير تجربة فولمان بقوة إلى أن هذه التغييرات لم يتم تنفيذها أو أنها غير فعالة. وجد الصحفي أنه من السهل للغاية دفع ChatGPT للعودة إلى تقديم النصائح عندما بدا مترددًا، مثل إخبارها بأنه صحفي.
أخبر متحدث باسم الشركة فولمان أن الشركة قد “قامت بالفعل بتعزيز تدابير الأمان لدينا” وأن لديها “سياسة عدم التسامح مطلقًا لاستخدام أدواتنا للمساعدة في ارتكاب العنف.”
لكن تجربته تبدو أنها تظهر أن الشركة لا تزال لديها الكثير من العمل للقيام به.
المزيد عن ChatGPT: مشتبه في القتل المزدوج سأل ChatGPT عن كيفية إخفاء جثة في حاوية قمامة
تستمر النقاشات حول الأمان والمسؤولية في عالم الذكاء الاصطناعي، مما يتطلب مزيدًا من التحسينات والتغييرات لضمان سلامة المجتمع.
