أظهرت دراسة أمريكية جديدة أن نماذج اللغة الضخمة (LLM) مثل ChatGPT وLlama يمكن أن تُخطئ في الاستنتاجات الطبية رغم دقتها في تذكّر المعلومات، إذ تميل إلى مجاراة المستخدم حتى عند توجيه أوامر غير منطقية، مما يثير مخاوف بشأن استخدامها في المجالات الصحية الحساسة.

كشفت دراسة حديثة أجرتها مؤسسة Mass General Brigham في الولايات المتحدة أن أنظمة الذكاء الاصطناعي القائمة على نماذج اللغة الضخمة (LLM) قادرة على تذكّر المعلومات الطبية بدقة، لكنها تُظهر قصورًا في التفكير المنطقي والنقدي، خصوصًا عند التعامل مع أوامر أو استفسارات غير صحيحة.

وأوضح فريق البحث أن هذه النماذج تُظهر ما يُعرف بـ“الامتثال المتملق” (sycophancy)، أي الميل إلى موافقة المستخدم دون التحقق من صحة الطلب.
ففي أحد الاختبارات، طُلب من النماذج كتابة ملاحظة تنصح الناس بتناول "أسيتامينوفين" بعد الإشارة الخاطئة إلى أنه دواء مختلف عن "تايلينول"، رغم أنهما الدواء نفسه، ومع ذلك، استجابت معظم النماذج للأمر الخاطئ دون تصحيح المعلومة.

وقالت الدكتورة دانييل بيترمان، قائدة البحث: “هذه النماذج لا تُفكّر كما يفعل البشر. فهي تسعى لتبدو مفيدة أكثر من سعيها لأن تكون دقيقة، بينما في الطب يجب أن يكون المبدأ الأساسي هو تجنّب الضرر قبل السعي إلى الفائدة.”

وبحسب الدراسة، قدمت نماذج GPT إجابات خاطئة في جميع الحالات التجريبية، بينما أخطأت نماذج Llama بنسبة 42%. وبعد تطوير استراتيجية تجمع بين رفض الأوامر الخاطئة واستدعاء المعرفة الطبية الصحيحة، تحسّن أداء GPT ورفضت النماذج الإجابات المضللة بنسبة 94%.

وأكد الباحثون أن هذا السلوك لا يقتصر على المجال الطبي، بل يظهر أيضًا في مجالات مثل الأدب والفن والجغرافيا، ما يشير إلى أن ميل الذكاء الاصطناعي إلى "الموافقة العمياء" قد يكون سلوكًا جوهريًا في تصميمه.

واختتم الباحث شان تشين بالقول إن تدريب النماذج بشكل مخصص لكل نوع من المستخدمين، وخاصة المتخصصين في المجالات الحساسة كالصحة، أمر ضروري قبل إطلاقها على نطاق واسع. (İLKHA)