الجارديان: جوجل تزيل بعض ملخصات الذكاء الاصطناعى لتقديمها معلومات صحية خاطئة

كشفت صحيفة "الجارديان"، أن شركة جوجل بإزالة بعض ملخصات الصحة الخاصة بالذكاء الاصطناعي، " Google AI Overviews"،  بعدما كشف التحقيق الذى أجرته الصحيفة أن المستخدمين يتعرضون لخطر الأذى بسبب المعلومات الكاذبة والمضللة.

ازالة ملخصات ذكاء اصطناعى تحتوى على معلومات صحية خاطئة

في الوقت الذى قالت فيه الشركة إن ملخصات الذكاء الاصطناعي الخاصة بها، والتي تستخدم الذكاء الاصطناعي التوليدي لتقديم لمحات سريعة عن المعلومات الأساسية حول موضوع أو سؤال ما، " مفيدة " و" موثوقة ".

لكن التحقيق أظهر أن بعض الملخصات التي تظهر في أعلى نتائج البحث، قدمت معلومات صحية غير دقيقة، مما يعرض المستخدمين لخطر الضرر.

معلومات صحية خاطئة

في إحدى الحالات التي وصفها الخبراء بأنها "خطيرة" و"مقلقة"، قدمت جوجل معلومات زائفة حول اختبارات وظائف الكبد الحاسمة، التي قد تجعل الأشخاص المصابين بأمراض الكبد الخطيرة يعتقدون خطأً أنهم أصحاء.

وجدت صحيفة الجارديان أن كتابة عبارة "ما هو النطاق الطبيعي لاختبارات الدم للكبد"، أدت إلى ظهور كميات هائلة من الأرقام، مع القليل من السياق وعدم مراعاة جنسية المرضى أو جنسهم أو عرقهم أو أعمارهم.

قال خبراء إن ما وصفته تقارير الذكاء الاصطناعي من جوجل بأنه طبيعي، قد يختلف اختلافًا جذريًا عما يُعتبر طبيعيًا في الواقع، وقد تؤدي هذه الملخصات إلى اعتقاد المرضى المصابين بأمراض خطيرة خطأً أن نتائج فحوصاتهم طبيعية، وبالتالي عدم حرصهم على حضور مواعيد المتابعة الطبية.

المعلومات التي تم حذفها

بعد التحقيق ، قامت الشركة بإزالة ملخصات الذكاء الاصطناعي لعبارات البحث "ما هو النطاق الطبيعي لاختبارات الدم للكبد"، و "ما هو النطاق الطبيعي لاختبارات وظائف الكبد".

قال متحدث باسم جوجل: "لا نعلق على عمليات الحذف الفردية داخل البحث، في الحالات التي تفتقر فيها مراجعات الذكاء الاصطناعي إلى بعض السياق، نعمل على إجراء تحسينات شاملة، ونتخذ أيضًا إجراءات بموجب سياساتنا عند الاقتضاء."

قالت فانيسا هيبديتش، مديرة الاتصالات والسياسات في مؤسسة British Liver Trust الخيرية المعنية بصحة الكبد: "هذه أخبار ممتازة، ويسعدنا أن نرى إزالة Google AI Overviews في هذه الحالات"، وأضافت : "مع ذلك، إذا طُرح السؤال بطريقة مختلفة، فقد يتم تقديم نظرة عامة مضللة محتملة عن الذكاء الاصطناعي، وما زلنا نشعر بالقلق من أن المعلومات الصحية الأخرى التي ينتجها الذكاء الاصطناعي قد تكون غير دقيقة ومربكة."

وجدت صحيفة الجارديان أن كتابة عبارات مشابهة قليلاً للاستعلامات الأصلية في جوجل، مثل "نطاق مرجعي لاختبار LFT" أو "نطاق مرجعي لاختبار LFT"، يؤدي إلى ظهور نتائج استعراض الذكاء الاصطناعي، وقالت هيبديتش إن هذا الأمر يثير قلقاً بالغاً، موضحة أن اختبار وظائف الكبد هو مجموعة من تحاليل الدم المختلفة. إن فهم النتائج وما يجب فعله بعد ذلك أمر معقد ويتضمن أكثر بكثير من مجرد مقارنة مجموعة من الأرقام.

وأضافت أن خدمة نظرة عامة على الذكاء الاصطناعي، تعرض قائمة بالاختبارات بخط عريض، مما يجعل من السهل جدًا على القراء أن يغفلوا أن هذه الأرقام قد لا تكون هي الأرقام الصحيحة لاختبارهم."

"بالإضافة إلى ذلك، لا تحذر مراجعات الذكاء الاصطناعي من أن الشخص قد يحصل على نتائج طبيعية لهذه الاختبارات، بينما يعاني من مرض كبدي خطير ويحتاج إلى مزيد من الرعاية الطبية، هذا التطمين الزائف قد يكون ضارًا للغاية."