مخاوف من معلومات صحية مضللة من الذكاء الاصطناعي و إجراء عاجل من جوجل

اتخذت شركة "جوجل" خطوة احترازية بحذف عدد من الملخصات الصحية التي يولدها الذكاء الاصطناعي من نتائج البحث، وذلك عقب تحقيق كشف عن احتوائها على معلومات غير دقيقة قد تُضلل المستخدمين وتؤثر على قراراتهم الطبية.

وتعتمد هذه الملخصات، المعروفة باسم AI Overviews، على تقنيات الذكاء الاصطناعي التوليدي لتقديم إجابات مختصرة وسريعة عن أسئلة شائعة.

وكانت جوجل قد وصفت هذه الميزة سابقًا بأنها "مفيدة" و"موثوقة"، إلا أن التحقيق الذي نشرته صحيفة الجارديان أظهر أن بعض هذه المحتويات، خاصة تلك التي تظهر في أعلى نتائج البحث، قد تحتوي على أخطاء خطيرة في المعلومات الصحية.

معلومات "مقلقة" قد تهدد سلامة المرضى
 

وفي إحدى الحالات التي وصفها مختصون بأنها "مقلقة" و"شديدة الخطورة"، قدمت ملخصات جوجل معلومات خاطئة عن اختبارات أساسية لوظائف الكبد، ما قد يدفع مرضى يعانون من حالات خطيرة إلى الاعتقاد بأن نتائجهم طبيعية، وبالتالي إهمال المتابعة الطبية.

وأشار التحقيق إلى أن إدخال عبارات مثل "ما هو المعدل الطبيعي لفحوصات دم الكبد" في محرك البحث كان يُظهر أرقامًا دون سياق كافٍ، ومن دون الأخذ في الاعتبار عوامل مهمة مثل العمر أو الجنس أو الخلفية الصحية. 

وأكد خبراء أن ما اعتبرته الملخصات "طبيعيًا" قد يختلف كثيرًا عن المعايير الطبية المعتمدة.

جوجل تحذف المحتوى وتُعلّق

وعقب نشر التحقيق، أزالت جوجل الملخصات المرتبطة بعمليات البحث حول "المعدل الطبيعي لفحوصات وظائف الكبد".
 

وقال متحدث باسم الشركة: "نحن لا نعلّق على حالات الإزالة الفردية، لكننا نعمل باستمرار على تحسين جودة ملخصات الذكاء الاصطناعي، ونتخذ الإجراءات المناسبة عندما تفتقر إلى السياق أو الدقة".

من جانبها، وصفت فانيسا هيبدتش، مديرة الاتصالات والسياسات في مؤسسة British Liver Trust، هذه الخطوة بأنها "خبر جيد"، لكنها حذرت من أن إعادة صياغة الأسئلة بطرق مختلفة قد تؤدي إلى ظهور ملخصات مضللة مجددًا.

وأشارت إلى أن البحث باستخدام عبارات مثل LFT reference range لا يزال يعرض محتوى آليًا، معتبرةً ذلك "مثيرًا للقلق"
وأضافت أن فحوصات وظائف الكبد ليست اختبارًا واحدًا بسيطًا، بل مجموعة معقدة من التحاليل، ولا يمكن تفسير نتائجها من خلال مقارنة الأرقام فقط. كما حذرت من أن بعض الملخصات قد تمنح المرضى "شعورًا زائفًا بالطمأنينة"، وهو ما قد يكون بالغ الخطورة.
مخاوف مستمرة في موضوعات صحية أخر

ولا تزال ملخصات الذكاء الاصطناعي تظهر في موضوعات طبية أخرى، تشمل السرطان والصحة النفسية، ووصفتها تقارير متخصصة بأنها "غير دقيقة تمامًا" و"تشكل خطرًا حقيقيًا على المستخدمين".

وعندما سُئلت جوجل عن سبب الإبقاء على هذه المحتويات، أكدت أنها تعتمد على مصادر تصفها بـ"الموثوقة"، وتنبه المستخدمين إلى ضرورة استشارة مختصين. 

وأضافت أن فريقًا داخليًا من الأطباء يراجع هذه المواد، مشيرة إلى أن الكثير منها "مدعوم بمصادر عالية الجودة".