تتناول هذه المقالة التحذيرات التي أصدرتها مجلة Nature Medicine حول استخدام الذكاء الاصطناعي في المجال الطبي، مسلطةً الضوء على المخاطر والعيوب المرتبطة به.
تحذير من الذكاء الاصطناعي الطبي في مجلة طبية مرموقة
أظهرت دراسة حديثة أن الملايين من الأمريكيين يستشيرون روبوتات الدردشة الذكية للحصول على نصائح طبية، وغالبًا ما يتجنبون استشارة الأطباء البشر.
على الرغم من ذلك، لا يزال الباحثون يكتشفون عيوبًا خطيرة تؤثر على الأدوات المعتمدة على نماذج اللغة الكبيرة، والتي يُزعم أنها تقدم ملخصات للسجلات الطبية وتقدم نصائح صحية بناءً على نصوص بسيطة. على سبيل المثال، لا تزال مشكلة “الهلاوس” تمثل تحديًا كبيرًا، حيث تنتج نماذج الذكاء الاصطناعي نتائج سريرية مفصلة بناءً على صور لم تُقدم لها، أو تقع في فخ الأمراض الوهمية التي ابتكرها الباحثون لخداعها.
لذا، ليس من المستغرب أن يتساءل العلماء عما إذا كان ينبغي على المرضى أو مقدمي الرعاية الصحية أو الأنظمة الصحية اعتماد الذكاء الاصطناعي على الإطلاق، خاصةً في ظل نقص الأدلة على أي فوائد حقيقية في العالم الواقعي. وقد نشرت مجلة Nature Medicine الطبية الرائدة افتتاحية لاذعة تؤكد أن “الأدلة على أن أدوات الذكاء الاصطناعي تخلق قيمة للمرضى أو مقدمي الرعاية أو الأنظمة الصحية لا تزال نادرة”.
تقول الافتتاحية: “ومع ذلك، في المنشورات، وفي مواد المنتجات، أصبحت الادعاءات حول التأثير السريري أكثر شيوعًا، على الرغم من عدم وجود اتفاق واضح حول مستوى الأدلة المطلوب قبل اعتبار هذه الادعاءات موثوقة”. “النتيجة هي عدم اليقين العلمي وأحيانًا التنفيذ المبكر والتبني”.
لذا، تدعو الافتتاحية إلى إنشاء “إطار لتقييم كيفية تقييم تقنيات الذكاء الاصطناعي الطبية، وما هي المعايير التي يجب استخدامها وأي المعايير يجب أن تقاس”، وهو أمر “مطلوب بشكل عاجل”.
غالبًا ما تبدو أدوات الذكاء الاصطناعي وكأنها تقدم نصائح طبية مقنعة في ظل ظروف تجريبية مثالية، لكنها تكافح في العالم الحقيقي. وجدت دراسة حديثة في مجلة JAMA Medicine أنه عند تقديم أعراض أكثر غموضًا، فشلت نماذج الذكاء الاصطناعي المتقدمة في تقديم التشخيص الصحيح في أكثر من 80% من الحالات.
لا يزال موضوع استخدام الذكاء الاصطناعي في البحث السريري مثيرًا للجدل. بينما تتخصص نماذج اللغة الكبيرة في تلخيص وتحليل البيانات والإجابة على الاستفسارات، يحذر الباحثون من أننا نتعرض للعمى بسبب قيودها الكبيرة.
قالت أستاذة الجراحة في كلية الطب بجامعة هارفارد، جيمي روبرتسون، في بيان العام الماضي: “أعتقد أن الذكاء الاصطناعي يمكن أن يساعد في تسريع العديد من العمليات التي تكون مملة وصعبة”. “يمكن أن يساعدنا في كتابة كود لتحليل البيانات وحتى اقتراح سيناريوهات”.
وأضافت: “لكن من الضروري أن يكون الأشخاص الذين يتعاملون مع الذكاء الاصطناعي كجزء من الدراسات السريرية على دراية بالتطبيقات الصحيحة والخاطئة، وفي السياق الصحيح”.
يحذر الباحثون من أن الاعتماد المفرط على أدوات الذكاء الاصطناعي قد يؤدي إلى التضحية بالصرامة العلمية، مما يثير مخاوف بشأن انتشار البيانات المفرطة التعميم – وربما الهلاوس – في المجال الطبي.
في تجربة ملونة بشكل خاص، قامت الباحثة الطبية في جامعة غوتنبرغ، ألميرا أوسمانوفيتش ثونستروم، بتحميل دراستين مزيفتين بوضوح إلى خادم ما قبل الطباعة لخداع نماذج اللغة الكبيرة للاعتقاد بأن حالة جلدية مختلقة كانت حقيقية. لم يستغرق الأمر وقتًا طويلاً حتى تنشر مجلات مراجعة الأقران (التي تم سحبها لاحقًا) أوراقًا استشهدت بهذه المطبوعات السابقة، مما يبرز تساؤلات صارخة حول صلاحيتها.
تختتم افتتاحية Nature Medicine بالقول: “ستعتمد المرحلة التالية من التقدم ليس فقط على نماذج أفضل وتطبيقات جديدة ولكن أيضًا على توقعات أوضح حول كيفية تعريف التأثير السريري وتقييمه والتواصل بشأنه”. “بدون ارتباط واضح بين الادعاءات والأدلة، يخاطر الذكاء الاصطناعي الطبي بأن يتم اعتماده بشكل أسرع مما يمكن فهم قيمته الحقيقية”.
المزيد عن الذكاء الاصطناعي في الطب: ملايين الأمريكيين يتحدثون إلى الذكاء الاصطناعي بدلاً من الذهاب إلى الطبيب، وهذا يمنحهم نصائح طبية معيبة بشكل فظيع
في ظل تزايد الاعتماد على الذكاء الاصطناعي في الطب، من الضروري أن نكون واعين للمخاطر ونطالب بأدلة قوية لدعم أي ادعاءات تتعلق بالفوائد.
