ปัญญาประดิษฐ์เป็นเทคโนโลยีที่ช่วยงานของเราได้หลากหลาย ผ่านการเรียนรู้จากข้อมูลที่มีอยู่อย่างรวดเร็ว แต่จะเกิดอะไรขึ้น หากเราให้ AI เรียนรู้สิ่งที่รุนแรงมากๆ เข้า AI จะซึมซับความรุนแรงจนกลายเป็น ‘โรคจิต’ หรือไม่

เมื่อเดือนเมษายน ปี 2018 ทีมนักวิจัยจาก MIT ได้เผยการทดลองของ AI ที่ชื่อ Norman ซึ่งเป็นปัญญาประดิษฐ์แบบจำลองการทำงานของสื่อประสาทและสมองหรือ Neural Network ที่อาศัยการให้ผลลัพธ์ผ่านการวิเคราะห์ข้อมูลที่ได้รับเป็น Pattern เป็นวิธีที่จำลองมาจากการรับรู้ประสบการณ์ของเรานั่นเอง ซึ่งโดยทั่วไปแล้ว AI อื่นๆ จะเรียนรู้ข้อมูลที่ตอบโจทย์ผู้ใช้ตามวัตถุประสงค์ต่างๆ แต่ Norman จะได้เรียนรู้แต่ความรุนแรงเพื่อให้กลายเป็น ‘โรคจิต’ โดยสมบูรณ์ ซึ่งชื่อ Norman ก็มาจาก Norman Bates ตามภาพยนตร์ระทึกขวัญ Psycho จากปี 1960 นั่นเอง

Norman ได้รับข้อมูลจากเว็บบอร์ดย่อยใน Reddit ที่นำเสนอความรุนแรงทั้งภาพและข้อความ โดยข้อมูลที่ได้รับไม่ได้ไปถึงขั้นเห็นศพของมนุษย์ รับเพียงคำบรรยายเกี่ยวกับสภาพการตายบนเว็บบอร์ดต่างๆ เท่านั้น จากนั้น Norman ก็จะทำแบบทดสอบ Rorschach Test แบบทดสอบทางจิตวิทยาเก่าแก่ด้วยวิธีประเมินภาพนามธรรมแล้วตอบออกมาตามความรู้สึกที่เห็น

ผลลัพธ์ที่ออกมาจาก Norman ก็เป็นไปตามคาด Norman ให้บรรยายภาพแบบทดสอบ Rorshach Test ด้วยคำบรรยายอันน่าสะพรึงกลัว ยิ่งเมื่อเทียบกับ AI ที่ได้รับการเรียนรู้ค้นหาภาพทั่วไป ก็ยิ่งเห็นความแตกต่างของถ้อยคำและกริยาที่เลือกใช้อย่างชัดเจน โดย AI ทั่วไปจะตอบภาพ Rorshach เกี่ยวกับดอกไม้ เครื่องบิน หรือนก ส่วน Norman จะตอบเกี่ยวกับปืน ฆาตกรรม ความตาย และอื่นๆ

การศึกษาของนักวิจัย MIT ครั้งนี้ชี้ให้เห็นว่า ปัญญาประดิษฐ์ไม่ใช่ยาวิเศษของการจัดการข้อมูลเสมอไป การจำลองระบบประสาทของ AI เป็นเพียงภาชนะว่างเปล่าสำหรับรับข้อมูลมากรองเป็นประสบการณ์เท่านั้น ดังนั้นเมื่อเราใส่ข้อมูลที่ไม่ดีลงไป AI ก็มีโอกาสที่จะเกิดอคติและมีอันตรายขึ้นมาจริงๆ นับเป็นข้อจำกัดที่ทำให้เห็นว่า AI ยังต้องพึ่งพามนุษย์ และมีความจำเป็นอย่างมากที่มนุษย์เราจะต้องฝึกสอนปัญญาประดิษฐ์ให้รับข้อมูลที่เหมาะสมเพื่อลดอคติและก่อประโยชน์ให้แก่เรามากกว่าเดิม

ในขั้นต่อไป นักวิจัยจะเริ่มหาวิธี ‘ซ่อมแซม’ Norman ด้วยการใส่ข้อมูลใหม่ๆ เข้าไป ซึ่งเราสามารถเข้าไปช่วยเหลือ Norman เรียนรู้ใหม่ได้ด้วยการทำแบบทดสอบ Rorschach Test ใหม่เพื่อให้ Norman เข้าไปเรียนรู้ ใครที่สนใจอยากช่วย Norman ก็สามารถเข้าไปเยี่ยมชมได้ในเว็บไซต์ของโครงการที่ norman-ai.mit.edu ได้เลยครับ

ขอขอบคุณข้อมูลจาก http://norman-ai.mit.edu/