Google สั่งระงับ AI Overviews ในคำค้นหาด้านสุขภาพบางรายการ หลังพบความเสี่ยงให้ข้อมูลคลาดเคลื่อน

ดูเหมือนว่าเส้นทางของการนำ Generative AI มาใช้ในการค้นหาข้อมูลทางการแพทย์ จะไม่ได้โรยด้วยกลีบกุหลาบเสมอไป เมื่อล่าสุด Google ตัดสินใจถอดฟีเจอร์ AI Overviews ออกจากคำค้นหาที่เกี่ยวข้องกับสุขภาพบางรายการ หลังจากมีการตรวจสอบพบว่า AI อาจให้ข้อมูลที่ 'ชวนให้เข้าใจผิด' ซึ่งอาจส่งผลกระทบต่อความเข้าใจเรื่องสุขภาพของผู้ใช้งาน

ต้นตอจากรายงานของ The Guardian

การเคลื่อนไหวครั้งนี้เกิดขึ้นตามหลังการสืบสวนของสื่อใหญ่อย่าง The Guardian ที่พบว่า Google AI Overviews ให้ข้อมูลที่ไม่ครอบคลุมเมื่อถูกถามคำถามทางการแพทย์ที่ละเอียดอ่อน

ตัวอย่างที่ชัดเจนที่สุดคือเมื่อผู้ใช้งานค้นหาด้วยคำว่า “ค่าปกติของการตรวจเลือดตับคือเท่าไหร่” (what is the normal range for liver blood tests) ระบบ AI กลับแสดงผลลัพธ์เป็นตัวเลขค่าเฉลี่ยชุดหนึ่งขึ้นมาทันที โดย ไม่ได้คำนึงถึงปัจจัยเฉพาะบุคคล เช่น เชื้อชาติ, เพศ, อายุ หรือสัญชาติ

ความเสี่ยงของกรณีนี้คือ ผู้ใช้อาจนำผลเลือดของตนไปเทียบกับตัวเลขที่ AI สรุปให้ และเข้าใจผิดว่าตนเองมีสุขภาพดี (ทั้งที่จริงอาจผิดปกติ) หรือกังวลว่าป่วย (ทั้งที่จริงปกติสำหรับวัยนั้นๆ) ซึ่งนำไปสู่ความเข้าใจผิดทางการแพทย์ที่อันตราย

Google ไหวตัวทัน ปิดการแสดงผลทันที

ล่าสุด The Guardian รายงานว่า Google ได้ถอด AI Overviews ออกจากผลการค้นหาสำหรับคีย์เวิร์ดดังกล่าว รวมถึงคำที่ใกล้เคียงอย่าง “what is the normal range for liver function tests” แล้ว

จากการทดสอบเพิ่มเติมโดย TechCrunch พบว่าแม้กระทั่งคำค้นหาที่ดัดแปลงไปเล็กน้อย เช่น “lft reference range” (ช่วงอ้างอิง LFT) หรือ “lft test reference range” ซึ่งก่อนหน้านี้ยังแสดงผล AI อยู่ ก็ถูกปิดการทำงานไปแล้วเช่นกัน โดยปัจจุบันผลการค้นหาอันดับต้นๆ ในคีย์เวิร์ดเหล่านี้กลับกลายเป็นลิงก์ข่าวของ The Guardian ที่รายงานเรื่องความผิดพลาดนี้แทน

โฆษกของ Google ชี้แจงเกี่ยวกับประเด็นนี้ว่า บริษัทมีนโยบายที่จะ “ไม่แสดงความคิดเห็นต่อการลบผลการค้นหารายกรณี” แต่ยืนยันว่าบริษัทมุ่งมั่นที่จะปรับปรุงระบบในภาพรวมให้ดีขึ้นเสมอ

อย่างไรก็ตาม Google ยังคงปกป้องเทคโนโลยีของตนในระดับหนึ่ง โดยระบุว่าทีมแพทย์ภายในบริษัท (Internal Team of Clinicians) ได้ทำการตรวจสอบคำค้นหาที่เป็นประเด็นแล้ว และพบว่า 'ในหลายกรณี ข้อมูลที่ AI แสดงนั้นไม่ได้ผิดพลาด และมีแหล่งอ้างอิงจากเว็บไซต์คุณภาพสูงรองรับ'

ความกังวลจากผู้เชี่ยวชาญ

แม้การถอด AI ออกจากคำค้นหาที่เป็นปัญหาจะเป็นเรื่องดี แต่ผู้เชี่ยวชาญมองว่านี่เป็นเพียงการแก้ปัญหาที่ปลายเหตุ

Vanessa Hebditch ผู้อำนวยการฝ่ายนโยบายและการสื่อสารของ British Liver Trust ให้ความเห็นว่า การที่ Google ลบ AI Overviews ออกถือเป็นข่าวดี แต่สิ่งที่น่ากังวลกว่าคือวิธีการแก้ปัญหาแบบการเลือกแก้ทีละจุดเมื่อเกิดเรื่อง

“Google สามารถไล่ปิด AI Overviews เฉพาะคำที่ตกเป็นข่าวได้ง่ายๆ แต่นั่นไม่ได้เป็นการจัดการกับปัญหาใหญ่ในภาพรวม ของการใช้ AI สรุปข้อมูลสุขภาพที่มีความซับซ้อน” Vanessa Hebditch กล่าว

บทสรุปเหตุการณ์นี้สะท้อนให้เห็นถึงความท้าทายครั้งใหญ่ของ Google ที่พยายามผลักดัน AI เข้าสู่วงการแพทย์ แม้ปีที่ผ่านมา Google จะประกาศฟีเจอร์ใหม่ๆ เพื่อยกระดับการค้นหาด้านสุขภาพด้วยโมเดล AI เฉพาะทาง แต่ความแม่นยำและความน่าเชื่อถือยังคงเป็นกำแพงที่ต้องก้าวข้าม สำหรับผู้ใช้งานทั่วไป นี่เป็นเครื่องเตือนใจว่า แม้ AI จะฉลาดเพียงใด แต่สำหรับการวินิจฉัยหรือแปลผลข้อมูลทางการแพทย์ การปรึกษาแพทย์ผู้เชี่ยวชาญยังคงเป็นทางเลือกที่ปลอดภัยที่สุด

ที่มา: TechCrunch, The Guardian