مخاوف متزايدة حول دقة المعلومات
تصاعدت المخاوف بشأن دقة ملخصات الذكاء الاصطناعي التي تعرضها «غوغل» أعلى نتائج البحث، عقب تقارير صحافية وخبراء حذّروا من احتوائها على معلومات صحية وُصفت ( بالمضللة وقد تشكّل خطرًا مباشرًا على صحة المستخدمين ).
.webp "مخاوف متزايدة حول دقة معلومات تطبيقات الذكاء الأصطناعي لغوغل")
وجاء ذلك بعد تحقيق صحافي كشف أن ميزة AI Overviews قدّمت بيانات غير مكتملة أو خارج السياق حول تحاليل طبية حساسة، ما قد يدفع مرضى يعانون من أمراض خطيرة إلى استنتاجات خاطئة بشأن حالتهم الصحية.
تحقيقات تكشف أخطاء صحية
أظهر تحقيق حديث رصد معلومات تتعلق بوظائف الكبد والسرطان، عُرضت في شكل أرقام عامة من دون توضيح اختلافها بحسب العمر أو الجنس أو الحالة الطبية، وهو ما وصفه اختصاصيون بأنه ( مقلق وخطير ).
وأشار التقرير إلى أن بعض المستخدمين قد يفسّرون هذه الملخصات على أنها بديل عن الاستشارة الطبية، ما قد يؤدي إلى إهمال المتابعة والعلاج.
تحركات من «غوغل» وردود رسمية
عقب نشر التحقيقات، أزالت «غوغل» بعض الملخصات المرتبطة باستعلامات صحية محددة، مؤكدة أنها تعمل على إدخال تحسينات واسعة عندما تفوّت الملخصات سياقًا مهمًا، وأنها تتخذ إجراءات وفق سياساتها الداخلية.
وأوضحت الشركة أن الملخصات تُعرض فقط عند وجود ( درجة عالية من الثقة ) بجودة الإجابة، وأن فرقًا داخلية، بينها مختصون صحيون، تراجع الحالات المثيرة للجدل.
خبراء: المعايير الحالية غير كافية
ربط مختصون في التحول الرقمي والذكاء الاصطناعي أزمة ( المعلومات الزائفة) بسهولة التأثير على معايير الترتيب، مؤكدين أن اعتماد الملخصات على المحتوى المتاح عبر الإنترنت يجعلها عرضة للتلاعب، كما يحدث في تحسين محركات البحث.
وشددوا على ( ضرورة إلزام الملخصات بإظهار مصادر واضحة وقابلة للتتبع، مع إبراز الجهة الناشرة وتاريخ التحديث، بدل الاكتفاء بروابط عامة قد لا ينتبه لها المستخدم ).
تحذيرات من «الطمأنة الزائفة»
حذرت جمعيات متخصصة من أن عرض معلومات صحية مبسطة قد يمنح المستخدم ( طمأنة زائفة )، خصوصًا في الفحوصات المعقدة التي تتطلب تفسيرًا طبيًا دقيقًا، مؤكدة أن إزالة بعض الأمثلة لا تعالج المشكلة الأوسع المرتبطة بدور الذكاء الاصطناعي في المعلومات الصحية.
دعوة لدور إعلامي وتنظيمي
أكد خبراء الإعلام الرقمي أهمية الدور الموازي للمؤسسات الإخبارية الكبرى في دعم منظومة المعلومات الموثوقة، وتطوير استراتيجيات رقمية تضمن إبراز المصادر بدقة، إلى جانب تشديد آليات التحقق قبل عرض أي ملخصات حساسة تتعلق بالصحة العامة.