تتناول هذه المقالة أفكار كامبل براون حول دور الذكاء الاصطناعي في تشكيل المعلومات وكيف يمكن تحسين دقة النماذج من خلال الاستعانة بالخبراء.
من يحدد ما تقوله الذكاء الاصطناعي؟ أفكار كامبل براون، رئيس الأخبار السابق في ميتا
قضت كامبل براون حياتها المهنية في البحث عن المعلومات الدقيقة، بدايةً كصحفية تلفزيونية شهيرة، ثم كرئيسة أخبار مخصصة في فيسبوك. والآن، وهي تراقب كيف يعيد الذكاء الاصطناعي تشكيل كيفية استهلاك الناس للمعلومات، ترى أن التاريخ يهدد بإعادة نفسه. هذه المرة، لن تنتظر أن يصلحها شخص آخر.
منتدى الذكاء الاصطناعي
تقوم شركتها، منتدى الذكاء الاصطناعي، بتقييم كيفية أداء النماذج الأساسية في ما تسميه “المواضيع عالية المخاطر” — مثل الجغرافيا السياسية، والصحة النفسية، والمالية، والتوظيف — وهي مواضيع حيث “لا توجد إجابات واضحة بنعم أو لا، بل هي غامضة ومعقدة.”
توظيف الخبراء
تهدف الفكرة إلى العثور على أبرز الخبراء في العالم، ليقوموا بتصميم المعايير، ثم تدريب قضاة الذكاء الاصطناعي لتقييم النماذج على نطاق واسع. بالنسبة لعمل منتدى الذكاء الاصطناعي في الجغرافيا السياسية، قامت براون بتجنيد نiall فيرغسون، وفاريد زكريا، ووزير الخارجية السابق توني بلينكن، ورئيس مجلس النواب السابق كيفن مكارثي، وآني نيوبيرغر، التي قادت الأمن السيبراني في إدارة أوباما. الهدف هو الوصول إلى توافق بنسبة 90% تقريبًا مع هؤلاء الخبراء البشريين، وهو عتبة تقول براون إن منتدى الذكاء الاصطناعي تمكن من الوصول إليها.
تحديات دقة المعلومات
تتبع براون أصل منتدى الذكاء الاصطناعي، الذي تأسس منذ 17 شهرًا في نيويورك، إلى لحظة معينة. “كنت في ميتا عندما تم إصدار ChatGPT للجمهور لأول مرة،” تذكرت، “وأتذكر بعد فترة قصيرة أدركت أن هذا سيكون القناة التي تتدفق من خلالها جميع المعلومات. وهي ليست جيدة جدًا.” جعلت الآثار على أطفالها اللحظة تبدو شبه وجودية. “أطفالي سيكونون أغبياء حقًا إذا لم نكتشف كيفية إصلاح هذا،” تذكرت أنها فكرت.
التركيز على الدقة
ما أزعجها أكثر هو أن الدقة لم تكن تبدو أولوية لأي شخص. شركات النماذج الأساسية، كما قالت، “تركز بشدة على الترميز والرياضيات،” بينما الأخبار والمعلومات أصعب. لكن الأصعب، كما جادلت، لا يعني أنه اختياري.
النتائج الأولية
عندما بدأ منتدى الذكاء الاصطناعي في تقييم النماذج الرائدة، لم تكن النتائج مشجعة بالضبط. ذكرت أن نموذج جيميناي يستمد معلوماته من مواقع الحزب الشيوعي الصيني “لقصص لا علاقة لها بالصين،” وأشارت إلى وجود انحياز سياسي متجه نحو اليسار عبر جميع النماذج تقريبًا. كما أن هناك إخفاقات أكثر دقة، كما قالت، بما في ذلك فقدان السياق، وفقدان وجهات النظر، وتقديم حجج بشكل مغلوط دون اعتراف. “لا يزال هناك طريق طويل لنقطعه،” قالت. “لكنني أعتقد أيضًا أن هناك بعض الإصلاحات السهلة التي من شأنها تحسين النتائج بشكل كبير.”
أهمية الدقة في الذكاء الاصطناعي
قضت براون سنوات في فيسبوك تشاهد ما يحدث عندما تقوم منصة بتحسين الأمور الخاطئة. “فشلنا في العديد من الأشياء التي حاولناها،” قالت لفيرنهولز. البرنامج الذي أنشأته للتحقق من الحقائق لم يعد موجودًا. الدرس، حتى لو تجاهلته وسائل التواصل الاجتماعي، هو أن تحسين التفاعل كان سيئًا للمجتمع وترك الكثيرين أقل اطلاعًا.
الأمل في الذكاء الاصطناعي
أملها هو أن يتمكن الذكاء الاصطناعي من كسر هذه الحلقة. “في الوقت الحالي، يمكن أن تسير الأمور في أي اتجاه،” قالت؛ يمكن أن تقدم الشركات للمستخدمين ما يريدون، أو يمكن أن “تقدم للناس ما هو حقيقي وما هو صادق وما هو صحيح.” اعترفت أن النسخة المثالية من ذلك — الذكاء الاصطناعي الذي يتحسن نحو الحقيقة — قد تبدو ساذجة. لكنها تعتقد أن الشركات قد تكون الحليف غير المتوقع هنا. الشركات التي تستخدم الذكاء الاصطناعي في قرارات الائتمان، والإقراض، والتأمين، والتوظيف تهتم بالمسؤولية، و”سيرغبون في تحسين الأمور للحصول على النتائج الصحيحة.”
تحديات السوق
هذا الطلب من الشركات هو أيضًا ما يراهن عليه منتدى الذكاء الاصطناعي في عمله، على الرغم من أن تحويل اهتمام الامتثال إلى إيرادات ثابتة لا يزال تحديًا، خاصةً بالنظر إلى أن الكثير من السوق الحالي لا يزال راضيًا عن عمليات التدقيق الأساسية والمعايير الموحدة التي تعتبرها براون غير كافية.
الامتثال والواقع
قالت إن مشهد الامتثال هو “مزحة.” عندما أصدرت مدينة نيويورك أول قانون ضد التحيز في التوظيف الذي يتطلب تدقيقات للذكاء الاصطناعي، وجدت المراقبة الحكومية أن أكثر من نصفها كانت لديها انتهاكات لم يتم اكتشافها. يتطلب التقييم الحقيقي، كما قالت، خبرة في المجال للعمل من خلال ليس فقط السيناريوهات المعروفة ولكن أيضًا الحالات النادرة التي “يمكن أن تسبب لك مشاكل لا يفكر فيها الناس.” وهذه العملة تتطلب وقتًا. “الخبراء الذكيون لن يكونوا كافيين.”
فجوة الثقة
تتمتع براون، التي جمعت شركتها في الخريف الماضي 3 ملايين دولار بقيادة Lerer Hippeau، بموقع فريد لوصف الفجوة بين الصورة الذاتية لصناعة الذكاء الاصطناعي والواقع بالنسبة لمعظم المستخدمين. “تسمع من قادة الشركات الكبرى في التكنولوجيا، ‘ستغير هذه التكنولوجيا العالم،’ ‘ستجعلك بلا عمل،’ ‘ستعالج السرطان،'” قالت. “لكن بالنسبة لشخص عادي يستخدم دردشة آلية لطرح أسئلة أساسية، لا يزال يحصل على الكثير من الأخطاء والإجابات الخاطئة.”
الختام
الثقة في الذكاء الاصطناعي في مستويات منخفضة للغاية، وتعتقد أن هذا الشك، في كثير من الحالات، مبرر. “تجري المحادثة في وادي السيليكون حول شيء واحد، بينما تجري محادثة مختلفة تمامًا بين المستهلكين.”
عند الشراء من خلال الروابط في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلاليتنا التحريرية.
تظهر هذه المناقشة أهمية التركيز على الدقة في الذكاء الاصطناعي وكيف يمكن أن يؤثر ذلك على المجتمع بشكل عام.
