วงการแพทย์รอก่อน นักวิจัยพบ ChatGPT ให้ข้อมูลรักษามะเร็งมั่ว แถมผสมข้อมูลถูกผิดจนแยกไม่ออก | Techsauce

วงการแพทย์รอก่อน นักวิจัยพบ ChatGPT ให้ข้อมูลรักษามะเร็งมั่ว แถมผสมข้อมูลถูกผิดจนแยกไม่ออก

วงการแพทย์ต้องรอไปก่อน AI ยังใช้ไม่ได้ เมื่อนักวิจัยพบว่า ChatGPT สร้างแผนรักษามะเร็งที่เต็มไปด้วยข้อมูลผิดๆ แถมผสมข้อมูลถูกและผิดจนไม่สามารถแยกแยะความถูกต้องได้

ChatGPT

นักวิจัยพบ ChatGPT ให้ข้อมูลรักษามะเร็งมั่ว

นักวิจัยจาก Brigham and Women's Hospital ซึ่งเป็นโรงพยาบาลฝึกแพทย์ของโรงเรียนแพทย์ฮาร์วาร์ด ในเมืองบอสตัน รัฐแมสซาชูเซตส์ ระบุว่าแผนการรักษามะเร็งที่สร้างโดย ChatGPT เต็มไปด้วยข้อผิดพลาด

การศึกษาซึ่งตีพิมพ์ในวารสาร JAMA Oncology พบว่า หนึ่งในสามของคำตอบที่สร้างโดย AI ข้อมูลไม่ถูกต้อง เมื่อใส่คำสั่งให้จัดทำแผนการรักษาสำหรับกรณีมะเร็งต่างๆ 

เมื่อเร็วๆนี้ นักวิทยาศาสตร์คอมพิวเตอร์ที่มหาวิทยาลัย Harvard เพิ่งจะค้นพบว่า ChatGPT เวอร์ชั่นล่าสุดอย่าง GPT-4 สามารถผ่านการสอบใบอนุญาตทางการแพทย์ของสหรัฐอเมริกาได้ และบอกด้วยว่ามีวิจารณญาณที่ดีกว่าแพทย์บางคน 

แต่จากงานวิจัยล่าสุดระบุชัดว่า ChatGPT ยังมีปัญหาในเรื่องความแม่นยำของการให้ข้อมูลผสมข้อมูลถูกผิดจนแยกไม่ออก 

ในงานวิจัยนี้ยังตั้งข้อสังเกตว่า ChatGPT มักจะผสมข้อมูลที่ถูกต้องและไม่ถูกเข้าด้วยกัน ทำให้ยากต่อการระบุว่าข้อมูลถูกต้องหรือไม่ โดยจากคำถามทั้งหมด 104 ข้อ พบว่าประมาณ 98% ของคำตอบของ ChatGPT มีคำตอบเรื่องการรักษาอย่างน้อยหนึ่งข้อที่ ตรงตามแนวทาง National Comprehensive Cancer Network

แบบจำลองภาษาขนาดใหญ่ได้รับการฝึกฝนเพื่อให้คำตอบที่ฟังดูน่าเชื่อถือ แต่ไม่ได้ออกแบบมาเพื่อ ให้คำแนะนำทางการแพทย์ที่ถูกต้อง ข้อผิดพลาดต่างๆ และความไม่เสถียรส่งผลในเรื่องความปลอดภัย ของผู้ป่วยซึ่งเป็นสิ่งสำคัญ จึงต้องมีการแก้ไขให้ประยุกต์ใช้ในทางการแพทย์

                                   ดร. Danielle Bitterman กล่าว 

จากการศึกษาของ JAMA พบว่า 12.5% ของคำตอบของ ChatGPT นั้นเป็น "ภาพหลอน" และ Chatbot มักจะแสดงข้อมูลที่ไม่ถูกต้องเมื่อถูกถามเกี่ยวกับการรักษาเฉพาะที่สำหรับโรคที่มีอาการรุนแรงหรือ ข้อมูลการรักษาที่เกี่ยวข้องกับภูมิคุ้มกัน

OpenAI ออกมายอมรับว่า ChatGPT นั้นไม่ได้น่าเชื่อถือมากนัก บริษัทเตือนว่าโมเดลดังกล่าว ไม่ได้ออกแบบมาเพื่อให้ข้อมูลทางการแพทย์ และไม่ควรใช้เพื่อ ให้บริการตรวจวินิจฉัยหรือ รักษาอาการป่วยร้ายแรง

ในทำนองเดียวกันคู่แข่งคนสำคัญอย่าง Bard AI ที่สร้างโดย Google ก็เคยให้คำตอบและข้อมูลผิดๆ เกี่ยวกับกล้องโทรทรรศน์อวกาศของ James Webb ส่งผลให้ในตอนนั้นมูลค่าหุ้นของ Google ลดลงไปถึง 120,000 ล้านดอลลาร์

ที่มา : Business Insider

ลงทะเบียนเข้าสู่ระบบ เพื่ออ่านบทความฟรีไม่จำกัด

No comment

RELATED ARTICLE

Responsive image

Burnout ใครว่าเรื่องเล็ก พนักงานหมดไฟ 1 คน บริษัทจะเสียเงินเท่าไหร่?

ภาวะหมดไฟ หรือ Burnout Syndrome ซึ่งไม่ได้เป็นแค่ปัญหาเล็กๆ น้อยๆ ที่คอยกัดกินสุขภาพกายและใจของเรา แต่มันคือ 'ระเบิดเวลา' ที่ถูกมองความและสร้างความเสียหายอย่างมากให้กับหลายองค์กรทั...

Responsive image

Techsauce - สภาหอการค้าไทย - มหาวิทยาลัยหอการค้า จับมือเตรียมยกระดับภาคการศึกษาและธุรกิจไทย

Techsauce สภาหอการค้าแห่งประเทศไทย และ มหาวิทยาลัยหอการค้าไทย (Harbour.Space@UTCC) ลงนาม MOU ส่งเสริมองค์ความรู้และพัฒนาศักยภาพของเยาวชนและผู้ประกอบการไทย...

Responsive image

OpenAI เปิดตัว Responses API เร่งพัฒนา AI Agents ใช้จริงในโลกธุรกิจ

OpenAI ได้ประกาศเปิดตัวเครื่องมือใหม่ล่าสุดในชื่อ Responses API ซึ่งถือเป็นอีกก้าวสำคัญในการผลักดันการพัฒนา AI Agents หรือระบบอัตโนมัติที่สามารถปฏิบัติภารกิจต่าง ๆ ได้ด้วยตนเอง โดย...