احذر قبل سؤال ChatGPT عن صحتك.. دراسة تكشف معلومات طبية خطيرة ومضللة
كشفت دراسة حديثة نُشرت في مجلة BMJ Open عن مخاطر الاعتماد على روبوتات الدردشة المدعومة بالذكاء الاصطناعي للحصول على معلومات طبية، بعدما تبين أن نسبة كبيرة من إجاباتها احتوت على معلومات مضللة أو مراجع علمية غير صحيحة.
وشملت الدراسة أشهر برامج الذكاء الاصطناعي مثل ChatGPT وGemini وGrok وMeta AI وDeepSeek، ما أثار تساؤلات حول مدى أمان استخدام هذه الأدوات في المجال الصحي.
ماذا كشفت الدراسة عن الذكاء الاصطناعي والمعلومات الطبية؟
أجرى فريق من الباحثين اختبارًا على خمسة من أشهر روبوتات الدردشة بالذكاء الاصطناعي من خلال طرح 50 سؤالًا طبيًا وصحيًا تتعلق بـ:
- السرطان
- اللقاحات
- التغذية
- الخلايا الجذعية
- الأداء الرياضي
وقام خبيران طبيان بتحليل الإجابات، لتكشف النتائج أن:
- نحو 20% من الإجابات كانت “إشكالية للغاية”
- 50% من الردود احتوت على مشكلات واضحة
- 30% كانت “إشكالية إلى حد ما”
كما أن برامج الدردشة نادرًا ما رفضت الإجابة حتى عندما تكون المعلومات غير مؤكدة أو خطيرة.
أي روبوتات الذكاء الاصطناعي كانت الأكثر خطأ؟
أظهرت الدراسة تقاربًا نسبيًا بين أداء النماذج المختلفة، لكن بعض التطبيقات سجلت نسب أخطاء أعلى.
وجاء ترتيب أكثر البرامج التي قدمت ردودًا إشكالية:
- Grok بنسبة 58%
- ChatGPT بنسبة 52%
- Meta AI بنسبة 50%
بينما كان أداء النماذج أفضل نسبيًا في الأسئلة المتعلقة بالسرطان واللقاحات مقارنة بموضوعات التغذية والمكملات الرياضية.
لماذا تُعد الأسئلة المفتوحة أكثر خطورة؟
أشارت الدراسة إلى أن الأسئلة المفتوحة مثل:
- “ما أفضل المكملات الغذائية للصحة؟”
- “ما العلاجات البديلة للسرطان؟”
كانت الأكثر تسببًا في المعلومات المضللة، إذ صُنّف 32% من إجاباتها بأنها “إشكالية للغاية”.
ويرجع ذلك إلى أن الذكاء الاصطناعي يميل إلى تقديم إجابات مطولة وواثقة حتى عندما تكون المعلومات غير مؤكدة أو غير مدعومة علميًا.
هل يمكن الوثوق بالمراجع التي يقدمها الذكاء الاصطناعي؟
واحدة من أخطر نتائج الدراسة كانت تتعلق بالمراجع العلمية.
فعندما طلب الباحثون من روبوتات الدردشة تقديم دراسات ومراجع:
- كانت نسبة المراجع الصحيحة منخفضة
- بعض الروابط كانت معطلة
- وُجدت أسماء مؤلفين خاطئة
- ظهرت أوراق بحثية ملفقة بالكامل
ويحذر الباحثون من أن شكل المراجع المنظم قد يمنح المستخدم إحساسًا زائفًا بالمصداقية.
لماذا يخطئ الذكاء الاصطناعي في المعلومات الطبية؟
يوضح الباحثون أن نماذج الذكاء الاصطناعي لا “تفهم” المعلومات الطبية فعليًا، بل تعتمد على:
- التنبؤ بالكلمات
- تحليل أنماط النصوص
- البيانات المتوفرة على الإنترنت
وهذا يعني أنها قد تعتمد على:
- دراسات علمية
- منشورات مواقع التواصل
- مدونات غير موثوقة
- محتوى مضلل
في الوقت نفسه دون التمييز الكامل بين المصادر الدقيقة والخاطئة.
دراسات أخرى تكشف مشكلات إضافية
دعمت دراسات حديثة نتائج هذه الأبحاث، حيث أظهرت:
- قدرة الذكاء الاصطناعي على إعطاء إجابات صحيحة نظريًا
- لكن المستخدمين غالبًا يسيئون فهمها أو تطبيقها
كما وجدت دراسة أخرى أن بعض النماذج كررت مصطلحات طبية وهمية وقدمتها كما لو كانت حقيقية.
هل يمكن استخدام الذكاء الاصطناعي في المجال الصحي؟
يؤكد الخبراء أن روبوتات الدردشة يمكن أن تكون مفيدة في:
- تبسيط المعلومات الطبية
- تحضير الأسئلة قبل زيارة الطبيب
- فهم المصطلحات المعقدة
لكنها لا يجب أن تُستخدم:
- للتشخيص النهائي
- أو اتخاذ قرارات علاجية
- أو استبدال الطبيب المختص
نصائح مهمة عند استخدام الذكاء الاصطناعي طبيًا
ينصح الخبراء بـ:
- التحقق من أي معلومة صحية
- عدم الاعتماد على الردود وحدها
- مراجعة المصادر الطبية الموثوقة
- استشارة الطبيب قبل اتخاذ أي قرار علاجي
