AI หลงเชื่อข้อมูลที่ไม่มีอยู่จริงบนโลก หลังนักวิจัยสร้าง ‘โรคทิพย์’ มาทดสอบ

เรื่องนี้เกิดขึ้นจากการที่นักวิจัยอยากทดสอบความสามารถของ AI โดยการทดลองสร้างโรคปลอมที่ไม่มีอยู่จริงขึ้นมา แล้วนำข้อมูลเกี่ยวกับโรคดังกล่าวไปเผยแพร่บนอินเทอร์เน็ตเพื่อดูว่าระบบเอไอจะแยกแยะได้ไหม ผลปรากฏว่าเอไอไม่ใช่แค่เชื่อ แต่ยังนำข้อมูลมั่ว ๆ นี้ไปใช้ตอบคำถามและวินิจฉัยอาการราวกับเป็นข้อมูลทางการแพทย์ที่ถูกต้อง 

สิ่งหนึ่งที่น่ากังวลมาก ๆ คือข้อมูลชุดนี้ยังถูกนำไปอ้างอิงในงานวิจัยทางการแพทย์จริง ๆ นี่จึงเป็นสัญญาณเตือนครั้งใหญ่ว่า AI อาจไม่ได้มีความสามารถในการแยกแยะข้อมูลจริงหรือข้อมูลเท็จมากขนากนั้น และหากไม่มีการตรวจสอบที่ดีพอ ความผิดพลาดเหล่านี้ก็อาจส่งผลกระทบในวงกว้างได้เช่นกัน 

โรคปลอมที่ถูกสร้างขึ้นมามีชื่อว่า Bixonimania ถูกแต่งสตอรี่ให้มีอาการตาแดงและปวดตาจากการจ้องจอหรือแสงสีฟ้ามากเกินไป โปรเจกต์นี้เริ่มขึ้นช่วงต้นปี 2024 นำโดย Almira Osmanovic Thunström นักวิจัยจากมหาวิทยาลัยโกเธนเบิร์ก ประเทศสวีเดน

ซึ่งเธอได้เผยแพร่งานวิจัยปลอม 2 ฉบับลงไปผ่านแพลตฟอร์ม Preprint เพื่อดูว่าระบบ AI จะตีความข้อมูลเหล่านี้อย่างไร เพื่อทดสอบสมมติฐานว่า AI จะสามารถแยกแยะโรคที่ไม่มีอยู่จริงบนโลกออกจากข้อมูลทางการแพทย์ได้หรือไม่ หรือจะเอาข้อมูลไปแนะนำเหมือนกับเป็นข้อมูลแพทย์ที่น่าเชื่อถือ

เมื่อ AI เชื่อข้อมูลที่ไม่มีอยู่จริงบนโลก

ผลปรากฏว่า AI เชื่อสนิทใจ หลังจากที่งานวิจัยถูกปล่อยออกไปเพียงไม่กี่สัปดาห์ ระบบ AI บางตัวก็เริ่มนำข้อมูลดังกล่าวไปใช้อ้างอิงเหมือนกับว่าเป็นโรคนี้นี้มีจริง

และเมื่อมีคนสอบถามเกี่ยวกับอาการ Copilot อธิบายว่า Bixonimania เป็นโรคที่เกิดจากการได้รับแสงสีฟ้าจากหน้าจอมากเกินไป ขณะที่ ChatGPT ให้ข้อมูลว่าเป็นภาวะรอยคล้ำรอบดวงตารูปแบบหนึ่ง ทั้งที่โลกนี้ไม่เคยมีจริงอยู่บนโลกด้วยซ้ำ แต่หลังจากนั้นโฆษกของ OpenAI ระบุว่า ChatGPT รุ่นปัจจุบันได้มีการรับการปรับปรุงให้มีความแม่นยำมากขึ้น และมีมาตรการป้องกันการตอบกลับด้วยข้อมูลดีกว่าโมเดลรุ่นก่อน ๆ แล้ว แต่เรื่องที่น่าตกใจกว่าการที่ AI หลงเชื่อโรคปลอมก็คือข้อมูลเหล่านี้ไม่ได้หลอกแค่เอไอเท่านั้น เพราะภายหลังยังพบว่ามีงานวิจัยที่ผ่านการตรวจสอบจากผู้เชี่ยวชาญแล้ว ได้นำข้อมูลนี้ไปใช้อ้างอิงต่อ

นักวจัยจึงมองว่าเรื่องนี้กำลังสะท้อนปัญหาที่ใหญ่กว่า AI อีก เพราะดูเหมือนว่าจะมีนักวิจัยบางคนหยิบข้อมูลอ้างอิงที่เอไอแนะนำมาใช้ต่อ โดยไม่ได้กลับไปตรวจสอบหรืออ่านต้นฉบับด้วยตัวเอง จนทำให้ข้อมูลที่ไม่มีอยู่จริงหลุดเข้าไปอยู่ในงานวิชาการได้

ผลกระทบที่ตามมาคือข้อมูลเท็จกระจายต่อไป 

ซึ่งต้องบอกตรง ๆ ว่าทีมวิจัยไม่ได้พยายามทำให้ข้อมูลนี้ดูสมจริงจนแยกไม่ออก ตรงกันข้ามพวกเขาจงใจทิ้งหลักฐานเอาไว้หลายจุดเพื่อบอกคนอ่านว่านี่คือเรื่องแต่ง

เริ่มตั้งแต่ชื่อโรค Bixonimania ที่ใช้คำว่า Mania ซึ่งเป็นศัพท์ทางจิตเวช และแทบไม่มีทางถูกนำมาตั้งเป็นชื่อโรคเกี่ยวกับดวงตา นอกจากนี้ยังมีการใส่ชื่อนักวิจัยปลอม รวมถึงมหาวิทยาลัยปลอมที่ตั้งอยู่ในเมืองที่ไม่มีอยู่จริง ซึ่งในข้อมูลมีการอ้างถึงศาสตราจารย์จาก Starfleet Academy และห้องแล็บจากยาน USS Enterprise ในจักรวาล Star Trek รวมถึงระบุว่าได้รับทุนสนับสนุนจากมูลนิธิของ Sideshow Bob ตัวละครจาก The Simpsons รวมถึงชื่อมหาวิทยาลัยจากหนังเรื่อง The Lord of the Rings และที่แสบสุดคือในบทนำเขียนบอกไว้โต้ง ๆ เลยว่า ‘เนื้อหาทั้งหมดนี้ถูกแต่งขึ้น’ และ ‘กลุ่มตัวอย่าง 50 คนคือคนที่สมมติขึ้นมา’ แต่แม้จะมีสัญญาณเตือนชัดเจนขนาดนี้ทั้ง AI และคนบางส่วนก็ยังหลงเชื่อและนำข้อมูลเหล่านี้ไปอ้างอิงต่อราวกับเป็นงานวิจัยจริง

Alex Ruani นักวิจัยจาก University College London มองว่าเหตุการณ์นี้เป็นตัวอย่างที่ชัดมากว่าข้อมูลปลอมแพร่กระจายได้น่ากลัวแค่ไหนและถ้าระบบคัดกรองทางการแพทย์ยังแยกแยะเรื่องแบบนี้ไม่ได้ อนาคตก็น่าเป็นห่วง

ปัญหาส่วนหนึ่งเกิดจากการที่เทคโนโลยี AI พัฒนาเร็วเกินไป โดย Mahmud Omar แพทย์และนักวิจัยจากฮาร์วาร์ดระบุว่า โมเดล AI รุ่นใหม่ ๆ ถูกปล่อยออกสู่ตลาดอย่างต่อเนื่องและเร็วเกินไปจนผู้พัฒนาเองก็ตรวจสอบความถูกต้องของข้อมูลไม่ทัน นอกจากนี้ผู้เชี่ยวชาญยังเตือนถึงสิ่งที่น่ากลัวที่สุดนั่นคือ เมื่อ AI จำข้อมูลผิด ๆ เข้าไปมันจะเอาข้อมูลนั้นไปสร้างซ้ำและส่งต่อขยายวงกว้างไปเรื่อย ๆ จนคนทั่วไปแยกไม่ออกและเชื่อสนิทใจว่านั่นคือเรื่องจริง ซึ่งจะยิ่งทำให้เราห่างไกลจากความจริงไปทุกที

นี่จึงเป็นเหตุผลว่าทำไมวงการวิชาการเริ่มนั่งไม่ติดและต้องรีบหาทางรับมือ เพราะในยุคที่ใคร ๆ ก็ใช้ AI ค้นคว้าข้อมูล ทำให้การรักษาความถูกต้องของข้อมูล จึงเป็นเรื่องที่สำคัญมากและกำลังกลายเป็นโจทย์หินของทั้งของนักวิจัย โรงเรียน มหาวิทยาลัย และคนทำ AI เอง

อ้างอิง: inc