استرداد الأموال من قبل المستشارين بعد استخدامهم للذكاء الاصطناعي في تقرير مكلف
أُجبرت شركة الاستشارات المالية ديلويت على إعادة مبلغ 291,000 دولار أمريكي للحكومة الأسترالية بعد أن تم ضبطها وهي تستخدم الذكاء الاصطناعي وتدرج أرقامًا غير صحيحة في تقرير حديث.
تفاصيل القضية
كما أفادت صحيفة The Guardian، أكدت وزارة التوظيف والعلاقات في مكان العمل الأسترالية (DEWR) أن الشركة وافقت على سداد القسط النهائي كجزء من عقدها. تم تكليفها في ديسمبر بمراجعة نظام يautomate العقوبات في نظام الرعاية الاجتماعية في حال لم يلتزم الباحثون عن عمل بالتزاماتهم المتبادلة.
أخطاء في التقرير
ومع ذلك، أظهر “التقرير المستقل” علامات مقلقة على أن ديلويت قد اختصرت الإجراءات، واحتوى على أخطاء متعددة مثل الإشارة إلى اقتباسات غير موجودة – وهي سمة من سمات أخطاء الذكاء الاصطناعي.
تأثير الذكاء الاصطناعي
تسلط “الهلاوس” الضوء مرة أخرى على كيفية السماح باستخدام الذكاء الاصطناعي التوليدي في مكان العمل بمرور أخطاء فادحة، من المحامين الذين تم ضبطهم يستشهدون بقضايا غير موجودة إلى مراكز السيطرة على الأمراض والوقاية منها التي أشارت إلى دراسة تم اختراعها بواسطة الذكاء الاصطناعي في وقت سابق من هذا العام.
استثمارات ديلويت في الذكاء الاصطناعي
استثمرت ديلويت، من بين شركات استشارية أخرى، مليارات الدولارات في تطوير أدوات الذكاء الاصطناعي التي تقول إنها يمكن أن تسرع من عمليات تدقيقها، كما أفادت صحيفة Financial Times.
دعوات لمزيد من الرقابة
في وقت سابق اليوم، لاحظت الصحيفة أن أكبر ست شركات محاسبة في المملكة المتحدة لم تكن تراقب بشكل رسمي كيف يؤثر الذكاء الاصطناعي على جودة تدقيقاتها، مما يبرز إمكانية أن تحتوي العديد من التقارير الأخرى على هلاوس مشابهة.
ردود الفعل من الأكاديميين والسياسيين
قال كريستوفر روج، محاضر علم الاجتماع في جامعة سيدني، الذي أول من سلط الضوء على القضايا المتعلقة بتقرير ديلويت الخاص بـ DEWR، إن الشركة حاولت طمس آثارها بعد مشاركة نسخة محدثة من التقرير المليء بالأخطاء.
على الرغم من ضبطها وهي تستخدم الذكاء الاصطناعي لتوليد اقتباسات غير صحيحة، قالت ديلويت إن الاتجاه العام لإرشاداتها لم يتغير. وذكرت حاشية في النسخة المعدلة أن الموظفين استخدموا GPT-4o من OpenAI لإعداد التقرير.
قال متحدث باسم ديلويت: “أجرت ديلويت المراجعة المستقلة وأكدت أن بعض الحواشي والمراجع كانت غير صحيحة”. “تم الاحتفاظ بجوهر المراجعة المستقلة، ولا توجد تغييرات على التوصيات.”
لكن المشرعين الغاضبين يدعون إلى مزيد من الرقابة.
قالت السيناتور العمالية ديبورا أونيل، التي تمثل نيو ساوث ويلز، لصحيفة Australian Financial Review: “ديلويت لديها مشكلة في الذكاء البشري”. “كان هذا سيكون مضحكًا إذا لم يكن مؤسفًا… كثيرًا ما، كما أظهرت تحقيقاتنا البرلمانية، تفوز هذه الشركات الاستشارية بالعقود من خلال وعد خبرتها، ثم عندما يتم توقيع الصفقة، يقدمون لك ما يكلفهم أقل.”
وأضافت أونيل: “يجب على أي شخص يتطلع إلى التعاقد مع هذه الشركات أن يسأل بالضبط من يقوم بالعمل الذي يدفعون مقابله، والتحقق من تلك الخبرة وعدم استخدام الذكاء الاصطناعي”. “وإلا، ربما بدلاً من شركة استشارية كبيرة، سيكون من الأفضل للمشترين الاشتراك في ChatGPT.”
قالت السيناتور غرينز بيني أولمان-باين لصحيفة AFR: “كان من المفترض أن يساعد هذا التقرير في كشف الفشل في نظام الرعاية الاجتماعية لدينا وضمان المعاملة العادلة لمتلقي الدعم المالي، ولكن بدلاً من ذلك، تترك العمالة ديلويت تأخذهم في جولة”.
المزيد حول الهلاوس
إصلاح الهلاوس قد يدمر ChatGPT، يجد الخبراء
