في عالم يتزايد فيه الاعتماد على الذكاء الاصطناعي، تأتي تجربة بول ساتر كتحذير مهم حول المخاطر المحتملة.
العلماء والتحديات في عصر الذكاء الاصطناعي
هناك العديد من الأسباب التي تدفعنا إلى التعامل مع نتائج الذكاء الاصطناعي بحذر شديد. فالإجابات التي يقدمها قد تبدو موثوقة ومقنعة، بينما تكون في الحقيقة خاطئة تمامًا.
درس قاسٍ من بول ساتر
هذا هو الدرس الذي تعلمه عالم الفلك ومؤلف العلوم بول ساتر بالطريقة الصعبة، وكان شجاعًا بما يكفي لمشاركته مع العالم. في مقال له في ناوتيلوس في وقت سابق من هذا الشهر، سرد ساتر قصة مؤلمة تشبه كابوسًا ناتجًا عن الضغط.
عرض غير متوقع
في فبراير، قدم ساتر عرضًا أمام مجموعة من “المتعاونين”، يكشف فيه عن تحديث جديد لخوارزميته المصممة لرصد الفراغات، أو المناطق الفارغة بين المجرات.
تحسينات ملحوظة
كان الإصدار الجديد “أسرع بعشر مرات من الإصدار القديم”، ولديه “طريقة أكثر تطورًا للتعامل مع الحقائق القبيحة لمجموعة بيانات فعلية”، وكان قادرًا على “التعامل مع المسوحات التي هي أكبر بمئة مرة”، كما تذكر ساتر.
التدخل المفاجئ
لكن بعد عشر دقائق فقط من عرضه، تدخل أحد المتعاونين ليشير إلى أن “هناك شيئًا يبدو غير صحيح”. وكما اتضح، كانت طريقة الخوارزمية الجديدة في التعامل مع حواف المسوحات “خاطئة”، اعترف ساتر.
عواقب وخيمة
“لم يكن خطأ مطبعي، ولم يكن نقصًا في الاقتباس أو عاملًا من اثنين”، كتب. “كان الأمر دقيقًا، لكنه كان خاطئًا جدًا، وكل شيء يعتمد عليه كان أيضًا خاطئًا، وقد شاركت كل ذلك في غرفة مليئة بأشخاص يثقون بي.”
تحذير من الاستخدام المفرط للذكاء الاصطناعي
توضح قصة ساتر المحرجة كيف أن العديد من مستخدمي أدوات الذكاء الاصطناعي يعرضون أنفسهم للخطر دون أن يعرفوا، بما في ذلك في أعلى مستويات الأكاديمية. لقد غمرت عالم العلوم نتائج غير موثوقة وغالبًا ما تكون غير محررة من الذكاء الاصطناعي، مما يفرض على الأكاديميين تحمل المسؤولية عن كل ما ينشرونه.
فهم الذكاء الاصطناعي
كتب ساتر أن أداة البرمجة بالذكاء الاصطناعي التي كان يستخدمها “بدت وكأنها تفهم”، على الرغم من كونها “مجرد مُتنبئ متقدم للكلمات التالية”.
الحذر مطلوب
“فصاحة نموذج اللغة ليست حادثًا، وليست لغزًا طارئًا”، كتب ساتر. “إنها سمة قمنا بتربيتها، مثلما قمنا بتربية الذئاب إلى كلاب تراقب وجوهنا عندما نفتح كيس المكافآت.”
مستقبل الذكاء الاصطناعي
“كيف يمكننا استخدام أداة تكون أحيانًا خاطئة ولكن دائمًا ممتعة؟ كيف يمكننا الوثوق بالذكاء الاصطناعي؟” اختتم. “الإجابة البسيطة هي: لا تفعل.”
التوجه نحو الحقيقة
شبه ساتر استخدامنا الواسع لأدوات الذكاء الاصطناعي بالخيمياء، وهي ممارسة قديمة وضعها ما يسميهم “العلماء السابقين”. “نحن الآن في عصر ما قبل الكيمياء للذكاء الاصطناعي”، أعلن عالم الفلك. “القرن مغلق، وكما فعل الخيميائيون، لن نتوقف عن استخدامه.”
التعلم من الأخطاء
للوصول إلى الحقيقة، يقول ساتر، يجب علينا تتبع سلسلة تفكير الذكاء الاصطناعي بعناية وتدقيق كل مخرجاته. بعد زلة فبراير المحرجة، تعهد ساتر بأنه يعمل “بشكل مختلف الآن” وهو مستعد على الفور لـ”عدم الثقة” في أي شيء يقوله الذكاء الاصطناعي.
درس للجميع
إنها قصة تحذيرية حتى لأكثر المفكرين موهبة، الذين يمكن أن يُغووا بسهولة بجاذبية الذكاء الاصطناعي.
المزيد حول هلوسات الذكاء الاصطناعي: الأكاديميون في حالة ذعر الآن بعد أن أصبحوا مسؤولين عن هلوسات الذكاء الاصطناعي في أوراقهم البحثية
تذكر دائمًا أن تتعامل بحذر مع المعلومات التي يقدمها الذكاء الاصطناعي، فالأخطاء يمكن أن تكون لها عواقب وخيمة.
