วงการแพทย์รอก่อน นักวิจัยพบ ChatGPT ให้ข้อมูลรักษามะเร็งมั่ว แถมผสมข้อมูลถูกผิดจนแยกไม่ออก

วงการแพทย์ต้องรอไปก่อน AI ยังใช้ไม่ได้ เมื่อนักวิจัยพบว่า ChatGPT สร้างแผนรักษามะเร็งที่เต็มไปด้วยข้อมูลผิดๆ แถมผสมข้อมูลถูกและผิดจนไม่สามารถแยกแยะความถูกต้องได้

นักวิจัยพบ ChatGPT ให้ข้อมูลรักษามะเร็งมั่ว

นักวิจัยจาก Brigham and Women's Hospital ซึ่งเป็นโรงพยาบาลฝึกแพทย์ของโรงเรียนแพทย์ฮาร์วาร์ด ในเมืองบอสตัน รัฐแมสซาชูเซตส์ ระบุว่าแผนการรักษามะเร็งที่สร้างโดย ChatGPT เต็มไปด้วยข้อผิดพลาด

การศึกษาซึ่งตีพิมพ์ในวารสาร JAMA Oncology พบว่า หนึ่งในสามของคำตอบที่สร้างโดย AI ข้อมูลไม่ถูกต้อง เมื่อใส่คำสั่งให้จัดทำแผนการรักษาสำหรับกรณีมะเร็งต่างๆ 

เมื่อเร็วๆนี้ นักวิทยาศาสตร์คอมพิวเตอร์ที่มหาวิทยาลัย Harvard เพิ่งจะค้นพบว่า ChatGPT เวอร์ชั่นล่าสุดอย่าง GPT-4 สามารถผ่านการสอบใบอนุญาตทางการแพทย์ของสหรัฐอเมริกาได้ และบอกด้วยว่ามีวิจารณญาณที่ดีกว่าแพทย์บางคน 

แต่จากงานวิจัยล่าสุดระบุชัดว่า ChatGPT ยังมีปัญหาในเรื่องความแม่นยำของการให้ข้อมูลผสมข้อมูลถูกผิดจนแยกไม่ออก 

ในงานวิจัยนี้ยังตั้งข้อสังเกตว่า ChatGPT มักจะผสมข้อมูลที่ถูกต้องและไม่ถูกเข้าด้วยกัน ทำให้ยากต่อการระบุว่าข้อมูลถูกต้องหรือไม่ โดยจากคำถามทั้งหมด 104 ข้อ พบว่าประมาณ 98% ของคำตอบของ ChatGPT มีคำตอบเรื่องการรักษาอย่างน้อยหนึ่งข้อที่ ตรงตามแนวทาง National Comprehensive Cancer Network

แบบจำลองภาษาขนาดใหญ่ได้รับการฝึกฝนเพื่อให้คำตอบที่ฟังดูน่าเชื่อถือ แต่ไม่ได้ออกแบบมาเพื่อ ให้คำแนะนำทางการแพทย์ที่ถูกต้อง ข้อผิดพลาดต่างๆ และความไม่เสถียรส่งผลในเรื่องความปลอดภัย ของผู้ป่วยซึ่งเป็นสิ่งสำคัญ จึงต้องมีการแก้ไขให้ประยุกต์ใช้ในทางการแพทย์

                                   ดร. Danielle Bitterman กล่าว 

จากการศึกษาของ JAMA พบว่า 12.5% ของคำตอบของ ChatGPT นั้นเป็น "ภาพหลอน" และ Chatbot มักจะแสดงข้อมูลที่ไม่ถูกต้องเมื่อถูกถามเกี่ยวกับการรักษาเฉพาะที่สำหรับโรคที่มีอาการรุนแรงหรือ ข้อมูลการรักษาที่เกี่ยวข้องกับภูมิคุ้มกัน

OpenAI ออกมายอมรับว่า ChatGPT นั้นไม่ได้น่าเชื่อถือมากนัก บริษัทเตือนว่าโมเดลดังกล่าว ไม่ได้ออกแบบมาเพื่อให้ข้อมูลทางการแพทย์ และไม่ควรใช้เพื่อ ให้บริการตรวจวินิจฉัยหรือ รักษาอาการป่วยร้ายแรง

ในทำนองเดียวกันคู่แข่งคนสำคัญอย่าง Bard AI ที่สร้างโดย Google ก็เคยให้คำตอบและข้อมูลผิดๆ เกี่ยวกับกล้องโทรทรรศน์อวกาศของ James Webb ส่งผลให้ในตอนนั้นมูลค่าหุ้นของ Google ลดลงไปถึง 120,000 ล้านดอลลาร์

ที่มา : Business Insider