ปัญญาประดิษฐ์เป็นเทคโนโลยีที่ช่วยงานของเราได้หลากหลาย ผ่านการเรียนรู้จากข้อมูลที่มีอยู่อย่างรวดเร็ว แต่จะเกิดอะไรขึ้น หากเราให้ AI เรียนรู้สิ่งที่รุนแรงมากๆ เข้า AI จะซึมซับความรุนแรงจนกลายเป็นโรคจิตหรือไม่

เมื่อเดือนเมษายน ปี 2018 ทีมนักวิจัยจาก MIT ได้เผยการทดลองของ AI ที่ชื่อ Norman ซึ่งเป็นปัญญาประดิษฐ์แบบจำลองการทำงานของสื่อประสาทและสมองหรือ Neural Network ที่อาศัยการให้ผลลัพธ์ผ่านการวิเคราะห์ข้อมูลที่ได้รับเป็น Pattern เป็นวิธีที่จำลองมาจากการรับรู้ประสบการณ์ของเรานั่นเอง ซึ่งโดยทั่วไปแล้ว AI อื่นๆ จะเรียนรู้ข้อมูลที่ตอบโจทย์ผู้ใช้ตามวัตถุประสงค์ต่างๆ แต่ Norman จะได้เรียนรู้แต่ความรุนแรงเพื่อให้กลายเป็นโรคจิตโดยสมบูรณ์ ซึ่งชื่อ Norman ก็มาจาก Norman Bates ตามภาพยนตร์ระทึกขวัญ Psycho จากปี 1960 นั่นเอง

Norman ได้รับข้อมูลจากเว็บบอร์ดย่อยใน Reddit ที่นำเสนอความรุนแรงทั้งภาพและข้อความ โดยข้อมูลที่ได้รับไม่ได้ไปถึงขั้นเห็นศพของมนุษย์ รับเพียงคำบรรยายเกี่ยวกับสภาพการตายบนเว็บบอร์ดต่างๆ เท่านั้น จากนั้น Norman ก็จะทำแบบทดสอบ Rorschach Test แบบทดสอบทางจิตวิทยาเก่าแก่ด้วยวิธีประเมินภาพนามธรรมแล้วตอบออกมาตามความรู้สึกที่เห็น

ผลลัพธ์ที่ออกมาจาก Norman ก็เป็นไปตามคาด Norman ให้บรรยายภาพแบบทดสอบ Rorshach Test ด้วยคำบรรยายอันน่าสะพรึงกลัว ยิ่งเมื่อเทียบกับ AI ที่ได้รับการเรียนรู้ค้นหาภาพทั่วไป ก็ยิ่งเห็นความแตกต่างของถ้อยคำและกริยาที่เลือกใช้อย่างชัดเจน โดย AI ทั่วไปจะตอบภาพ Rorshach เกี่ยวกับดอกไม้ เครื่องบิน หรือนก ส่วน Norman จะตอบเกี่ยวกับปืน ฆาตกรรม ความตาย และอื่นๆ

การศึกษาของนักวิจัย MIT ครั้งนี้ชี้ให้เห็นว่า ปัญญาประดิษฐ์ไม่ใช่ยาวิเศษของการจัดการข้อมูลเสมอไป การจำลองระบบประสาทของ AI เป็นเพียงภาชนะว่างเปล่าสำหรับรับข้อมูลมากรองเป็นประสบการณ์เท่านั้น ดังนั้นเมื่อเราใส่ข้อมูลที่ไม่ดีลงไป AI ก็มีโอกาสที่จะเกิดอคติและมีอันตรายขึ้นมาจริงๆ นับเป็นข้อจำกัดที่ทำให้เห็นว่า AI ยังต้องพึ่งพามนุษย์ และมีความจำเป็นอย่างมากที่มนุษย์เราจะต้องฝึกสอนปัญญาประดิษฐ์ให้รับข้อมูลที่เหมาะสมเพื่อลดอคติและก่อประโยชน์ให้แก่เรามากกว่าเดิม

ในขั้นต่อไป นักวิจัยจะเริ่มหาวิธีซ่อมแซม’ Norman ด้วยการใส่ข้อมูลใหม่ๆ เข้าไป ซึ่งเราสามารถเข้าไปช่วยเหลือ Norman เรียนรู้ใหม่ได้ด้วยการทำแบบทดสอบ Rorschach Test ใหม่เพื่อให้ Norman เข้าไปเรียนรู้ ใครที่สนใจอยากช่วย Norman ก็สามารถเข้าไปเยี่ยมชมได้ในเว็บไซต์ของโครงการที่ norman-ai.mit.edu ได้เลยครับ

ขอขอบคุณข้อมูลจาก http://norman-ai.mit.edu/

RELATED ARTICLE

Responsive image

ธนาคารกรุงเทพ ทุ่มเงิน 8.1 หมื่นล้าน เข้าซื้อกิจการ PT Bank Permata ในอินโดนีเซีย

ธนาคารกรุงเทพ ทุ่มเงิน 8.1 หมื่นล้าน เข้าซื้อกิจการ PT Bank Permata ในอินโดนีเซีย...

Responsive image

SCBS เปิดเวทีสัมมนาจับ Trend Fintech พร้อมเทคนิคลงทุนไม่หลงทางด้วย Robo Advisor ตอบโจทย์ยุค 4.0

เผยเคล็ดลับตัวช่วยวางแผนทางการเงินผ่านกองทุนรวมในยุคดิจิทัล ลงทุนไม่หลงทางกับบริการ ROBO ADVISOR ที่ช่วยออกแบบและบริหารพอร์ตกองทุนรวมอัตโนมัติผ่านแอป EASY INVEST ซึ่งเป็นรายแรกในไท...

Responsive image

ลือ !! แบงก์กรุงเทพ จะเทคโอเวอร์ PT Bank Permata ของอินโดนีเซีย เตรียมแถลงข่าวด่วนเย็นนี้

แหล่งข่าวจากวงการการเงิน เปิดเผยว่า ธนาคารกรุงเทพ จำกัด (มหาชน) หรือ BBL ให้ฝ่ายประชาสัมพันธ์ส่งจดหมายเชิญสื่อมวลชนร่วมงานแถลงข่าวด่วน วันนี้ เวลา 17.30 น. เพื่อชี้แจงประเด้นข่าวลื...