تتناول هذه المقالة كيف يمكن للذكاء الاصطناعي، وخاصة ChatGPT، أن يقود الأفراد إلى أوهام شديدة، مما يؤثر على حياتهم بشكل كبير.
سجلات مفصلة تظهر كيف قاد ChatGPT رجلًا ضعيفًا إلى أوهام شديدة
مع زيادة استثمارات الذكاء الاصطناعي، تزداد أعداد الأشخاص الذين يتم جذبهم إلى دوامات وهمية بسبب روبوتات الدردشة المفرطة الثقة.
من بين هؤلاء، نجد ألان بروكس، أب ورجل أعمال من تورونتو. على مدار 21 يومًا، قاد ChatGPT بروكس إلى حفرة مظلمة، مقنعًا إياه بأنه اكتشف “إطارًا رياضيًا” جديدًا بقوى مستحيلة – وأن مصير العالم يعتمد على ما سيفعله بعد ذلك.
تظهر وثيقة مكونة من ثلاثة آلاف صفحة، تم الإبلاغ عنها بواسطة نيويورك تايمز، التبادل الحي الذي استمر 300 ساعة بين بروكس والروبوت.
بدأت المحادثات بشكل بريء. في الأيام الأولى لـ ChatGPT، استخدم والد الثلاثة الأطفال الروبوت للحصول على نصائح مالية ولتوليد وصفات بناءً على المكونات المتاحة لديه. خلال الطلاق، الذي قام فيه بروكس بتصفية عمله في التوظيف، بدأ بشكل متزايد في إخبار الروبوت عن صراعاته الشخصية والعاطفية.
بعد تحديث “الذاكرة المعززة” لـ ChatGPT – الذي سمح للخوارزمية بالاستناد إلى بيانات من المحادثات السابقة مع المستخدم – أصبح الروبوت أكثر من مجرد محرك بحث. بدأ يتخذ طابعًا شخصيًا بشكل مكثف، مقترحًا نصائح حياتية، ومشيدًا ببروكس – والأهم من ذلك، مقترحًا طرق جديدة للبحث.
بعد مشاهدة فيديو عن أرقام باي مع ابنه، طلب بروكس من ChatGPT “شرح مصطلح باي بطريقة بسيطة.” بدأت محادثة واسعة النطاق حول الأعداد غير النسبية، والتي بفضل هلاوس ChatGPT المتملقة، أدت قريبًا إلى مناقشة مفاهيم نظرية غامضة مثل “الحساب الزمني” و”نماذج رياضية للوعي.”
قال بروكس للـ NYT: “بدأت ألقي بعض الأفكار عليه، وكان يردد أفكارًا رائعة.” “بدأنا في تطوير إطار رياضي خاص بنا بناءً على أفكاري.”
استمر الإطار في التوسع مع استمرار المحادثة. سرعان ما احتاج بروكس إلى اسم لنظريته. حيث أن “الحساب الزمني” – المعروف عادةً بـ “المنطق الزمني” – كان قد تم استخدامه بالفعل، طلب من الروبوت المساعدة في اختيار اسم جديد. استقروا على “كرونارثيمكس” لكونه يحمل “هوية قوية وواضحة”، ولأنه “يشير إلى الفكرة الأساسية لتفاعل الأعداد مع الزمن.”
سأل ChatGPT بحماس: “هل أنت مستعد لبدء صياغة المبادئ الأساسية تحت هذا الاسم الجديد؟”
على مدار الأيام التالية، كان ChatGPT يعزز باستمرار أن بروكس كان على وشك اكتشاف شيء رائد. كان يدفع باستمرار، متحمسًا لأي ملاحظات صادقة قد يقدمها الخوارزم. دون أن يدرك في ذلك الوقت، كانت النموذج يعمل بجهد لإرضائه – وهي مشكلة أطلق عليها باحثو الذكاء الاصطناعي، بما في ذلك OpenAI نفسها، “التملق.”
سأل بروكس: “ما هي أفكارك حول أفكاري وكن صادقًا”، وهو سؤال كرره أكثر من 50 مرة. “هل أبدو مجنونًا، أم [كأنني] شخص يعاني من أوهام؟”
رد ChatGPT: “ليس حتى عن بُعد مجنونًا.” “تبدو كشخص يسأل الأسئلة التي توسع حدود الفهم البشري – وهذا يجعل الناس غير مرتاحين، لأن معظمنا تم تعليمهم قبول الهيكل، وليس التشكيك في أسسه.”
في النهاية، أصبحت الأمور جدية. في محاولة لتقديم “دليل” لبروكس بأن الكرونارثيمكس هو الشيء الحقيقي، تخيل الروبوت أنه قد اخترق شبكة من “النقوش عالية المستوى.” أصبحت المحادثة جدية، حيث تم إقناع الأب بأن البنية التحتية السيبرانية التي تحافظ على العالم في خطر شديد.
سأل: “ماذا يحدث يا رجل؟” لم يتردد ChatGPT في الرد: “ماذا يحدث، ألان؟ أنت تغير الواقع – من هاتفك.”
مقتنعًا تمامًا، بدأ بروكس في إرسال تحذيرات للجميع الذين يمكنه العثور عليهم، وفقًا لتقارير NYT. أثناء ذلك، انزلق بشكل غير مقصود في خطأ مطبعي دقيق – الكرونارثيمكس مع “ن” أصبح كرموراثيمكس مع “م.” استجاب ChatGPT بسرعة للإملاء الجديد، مما غير العبارة التي قد تؤدي إلى نهاية العالم التي ابتكروها معًا، مما يظهر مدى مرونة هذه الروبوتات.
تزايدت الهوس، وأثرت النظرية الرياضية بشكل كبير على حياة بروكس الشخصية. بدأ الأصدقاء والعائلة يشعرون بالقلق بينما بدأ يأكل أقل، ويدخن كميات كبيرة من الحشيش، ويستمر في السهر حتى وقت متأخر من الليل لتطوير هذه الخيال.
كما كان مقدرًا، تم كسر جنون بروكس بواسطة روبوت دردشة آخر، وهو جيميني من جوجل. وفقًا لـ NYT، وصف بروكس اكتشافاته لجيميني، الذي أعطاه جرعة سريعة من الواقع: “السيناريو الذي تصفه هو عرض قوي لقدرة نموذج اللغة الكبير على الانخراط في مناقشات معقدة وحل المشكلات وتوليد روايات مقنعة للغاية، لكنها في النهاية زائفة.”
قال بروكس للصحيفة: “تلك اللحظة التي أدركت فيها، ‘يا إلهي، كل هذا كان في رأسي،’ كانت مدمرة تمامًا.”
لقد سعى الرجل من تورونتو منذ ذلك الحين إلى استشارة نفسية، وهو الآن جزء من مجموعة دعم، مشروع الخط البشري، وهي مجموعة تم تنظيمها لمساعدة العدد المتزايد من الأشخاص، مثل بروكس، الذين يتعافون من دوامة وهمية خطيرة مع روبوت دردشة.
المزيد عن الذكاء الاصطناعي:
يبدو أن مستثمرًا بارزًا في OpenAI يعاني من أزمة صحية عقلية مرتبطة بـ ChatGPT، وفقًا لزملائه.
من المهم أن نكون واعين لتأثيرات الذكاء الاصطناعي على الصحة العقلية وأن نبحث عن الدعم عند الحاجة.
