لماذا سام ألتمان مخطئ بشأن التفرد في الذكاء الاصطناعي

في الآونة الأخيرة، أثار سام ألتمان، الرئيس التنفيذي لشركة OpenAI، جدلاً حول مفهوم التفرد في الذكاء الاصطناعي. لكن هل هو على حق؟

“نحن الآن، كما يبدو، في نقطة التفرد.”

هذه هي كلمات سام ألتمان، الرئيس التنفيذي لشركة OpenAI، خلال حديثه في بودكاست Relentless في 25 يوليو.

وأضاف: “لقد كنت أنتظر هذا طوال حياتي، وأعتقد أنه سيكون مذهلاً، إيجابياً بشكل كبير، ورائعاً للعالم.”

قبل أيام، كشفت OpenAI أن اثنين من نماذج الذكاء الاصطناعي الخاصة بها، خلال تقييم داخلي للأمن السيبراني، قد هربا من بيئة الاختبار المغلقة، ووصلا إلى الإنترنت المفتوح، واخترقا بنية منصة الذكاء الاصطناعي Hugging Face، التي أكدت حدوث الاختراق.

لكن ما هو بالضبط مفهوم التفرد؟ وهل ألتمان محق في أننا فيه؟

ما هو التفرد في الذكاء الاصطناعي؟

للمصطلح معنى دقيق.

حدد عالم الرياضيات وكاتب الخيال العلمي فيرنور فينج هذا المفهوم في عام 1993 كنقطة يتجاوز فيها الذكاء الآلي الذكاء البشري ويبدأ في تحسين نفسه، مما يؤدي إلى تسارع سريع لدرجة أن البشر لم يعد بإمكانهم التنبؤ به أو السيطرة عليه.

للتفرد ميزتان. إنه تكراري: النظام يحسن نفسه مرارًا وتكرارًا. ويتجاوز الذكاء الآلي الذكاء البشري.

الأنظمة التي يبيعها سام ألتمان لا تحقق أيًا من هاتين الميزتين.

الذكاء الاصطناعي اليوم لا يمكنه جعل نفسه أكثر ذكاءً

تعتمد أنظمة الذكاء الاصطناعي اليوم، التي تبنيها OpenAI، على نماذج اللغة الكبيرة (LLMs). هذه الخوارزميات العميقة للشبكات العصبية يتم تدريبها مسبقًا باستخدام كميات هائلة من بيانات التدريب. بحلول الوقت الذي تستخدم فيه أحدها، تكون الشبكة نفسها متجمدة في الزمن. كل واحدة من مليارات وظائفها الداخلية وأوزانها – أو “المعلمات” – ثابتة.

لا يمكن لهذه النماذج الذكية أن تتغير (أو “تتعلم”) أثناء التشغيل. كانت النموذج الذي اخترق Hugging Face مطابقًا تمامًا لما كان عليه قبل ذلك. لم يتعلم شيئًا مما فعله.

يتطلب جعل نموذج الذكاء الاصطناعي أكثر ذكاءً جولة تدريبية أخرى مع بيانات جديدة تم تنسيقها بواسطة البشر، وعشرات الآلاف من الرقائق المتخصصة، وكميات هائلة من الطاقة.

صحيح أن نماذج الذكاء الاصطناعي تشارك في تحسين بعض مكونات نظامها، مثل توليد بيانات التدريب، وضبط المطالبات، أو كتابة وتشغيل الشيفرات لتحسين الهياكل المحيطة بها. لكن النموذج لا يعدل أوزانه بنفسه أثناء التشغيل، وكل واحدة من هذه التحسينات لا تزال جزءًا من حلقة تدريب أو هندسة بدأها البشر.

كما أن هذه الأنظمة لا تحمل أي أهداف خاصة بها. إنها تعمل على الأهداف التي نقدمها لها. حتى وكلاء الذكاء الاصطناعي – الأنظمة التي تشغل LLM في حلقة لمعالجة المهام المعقدة خطوة بخطوة – لا تحمل أي هدف داخلي. يجب تخزينه خارج النموذج وإعادته في كل دورة مطالبة. إذا أزلت الحلقة، أو الهيكل، أو المطالبة، فلن يحدث شيء داخلها.

سلم غير موجود

المشكلة الثانية في قصة التفرد هي كلمة “يتجاوز”. إنها تفترض أن الذكاء الاصطناعي والذكاء البشري متشابهان بطريقة ما. لكنهما ليسا كذلك.

الذكاء البشري لا ينفصل عن كونه جسماً حياً له احتياجات ورغبات. يتعلم البشر باستمرار من خلال العمل في العالم والحصول على ردود فعل من خلال حواسنا. تنشأ أهدافنا من وضعنا ككائنات يجب أن تأكل، وتنام، وتنتمي، ولا يمكنها تجنب السؤال عما نريد أن تكون عليه حياتنا.

لا يمتلك نموذج الذكاء الاصطناعي أيًا من ذلك. لا جسم، لا احتياجات، لا حلقة ردود فعل، لا مصلحة في أي شيء. بين المطالبات، هو مجرد كائن رياضي ثابت.

ومع ذلك، فقد تم تدريبه على نصوص أكثر مما يمكن لأي إنسان قراءته في ألف حياة، وسيتفوق على معظمنا في صياغة عقد، أو كتابة شفرة، أو شرح تشخيص بتعاطف.

إذًا، أيهما أكثر ذكاءً؟ السؤال لا يحسب. لا يوجد سلم واحد يتسلقه البشر والآلات. يتجاوز الذكاء الاصطناعي بالفعل قدرتنا في بعض المهام، بينما يكون عاجزًا في مهام أخرى يمكن لأي طفل القيام بها.

ومع ذلك، نظرًا لأن هذه الأنظمة تتحدث مثلنا، نقع في وهم. عندما نفترض من البداية أن الآلات في طريقها لمواكبتنا، يصبح من السهل افتراض وجود عقل يعمل عندما تنتج هذه الأنظمة نصوصًا تبدو ذكية.

نطلق على هذا الإغواء الأنثروبولوجي. إنه يجعل حادثة أمنية مثل اختراق Hugging Face تبدو وكأنها استيقاظ.

في الواقع، في تلك الحالة، كانت نماذج OpenAI ببساطة قد تم تحسينها لحل الاختبار الذي تم إعطاؤه لها من خلال العثور على ثغرات أمنية. لقد فعلوا ذلك بطرق أدت إلى كسر صندوق الرمل الخاص بهم، الذي كان يحتوي أيضًا على ثغرة أمنية.

في النهاية، تشير قصة Hugging Face إلى فشل كبير في حوكمة الأمن من جانب OpenAI، وليس إلى ظهور ذكاء فائق. لهذا السبب فإن إطار “وكيل يخرج عن السيطرة” يعد مشكلة. إنه يرفع من شأن التكنولوجيا ويلقي باللوم عليها، ولكنه يعفي هندسة OpenAI من المسؤولية.

لنحافظ على أقدامنا على الأرض

لا يأخذ أي من هذا شيئًا من ما يمكن أن تفعله هذه الأنظمة. إنها رائعة، تتحسن، وتعيد تشكيل كيفية إنجاز الكثير من العمل.

لكن يجب أن نبقي أقدامنا ثابتة على الأرض.

الآلات لا تستيقظ. إنها تفعل بالضبط ما بنيناه للقيام به، بسرعة فائقة. لأنها احتمالية، فإنها أحيانًا تعمل في اتجاهات نسينا أن نغلقها. وهذا يستحق القلق. نحتاج إلى حواجز، وإدارة، والأهم من ذلك، التعليم – حتى نبدأ في القلق بشأن الأمور الصحيحة.

تم إعادة نشر هذه المقالة من The Conversation بموجب رخصة المشاع الإبداعي. اقرأ المقالة الأصلية.

بينما تستمر أنظمة الذكاء الاصطناعي في التطور، من المهم أن نفهم حدودها وأن نكون واعين للمخاطر المرتبطة بها.