พบกับ Norman ปัญญาประดิษฐ์ที่ถูกสร้างให้เป็น ‘โรคจิต’ เพื่อเผยข้อจำกัดของ AI

ปัญญาประดิษฐ์เป็นเทคโนโลยีที่ช่วยงานของเราได้หลากหลาย ผ่านการเรียนรู้จากข้อมูลที่มีอยู่อย่างรวดเร็ว แต่จะเกิดอะไรขึ้น หากเราให้ AI เรียนรู้สิ่งที่รุนแรงมากๆ เข้า AI จะซึมซับความรุนแรงจนกลายเป็นโรคจิตหรือไม่

เมื่อเดือนเมษายน ปี 2018 ทีมนักวิจัยจาก MIT ได้เผยการทดลองของ AI ที่ชื่อ Norman ซึ่งเป็นปัญญาประดิษฐ์แบบจำลองการทำงานของสื่อประสาทและสมองหรือ Neural Network ที่อาศัยการให้ผลลัพธ์ผ่านการวิเคราะห์ข้อมูลที่ได้รับเป็น Pattern เป็นวิธีที่จำลองมาจากการรับรู้ประสบการณ์ของเรานั่นเอง ซึ่งโดยทั่วไปแล้ว AI อื่นๆ จะเรียนรู้ข้อมูลที่ตอบโจทย์ผู้ใช้ตามวัตถุประสงค์ต่างๆ แต่ Norman จะได้เรียนรู้แต่ความรุนแรงเพื่อให้กลายเป็นโรคจิตโดยสมบูรณ์ ซึ่งชื่อ Norman ก็มาจาก Norman Bates ตามภาพยนตร์ระทึกขวัญ Psycho จากปี 1960 นั่นเอง

Norman ได้รับข้อมูลจากเว็บบอร์ดย่อยใน Reddit ที่นำเสนอความรุนแรงทั้งภาพและข้อความ โดยข้อมูลที่ได้รับไม่ได้ไปถึงขั้นเห็นศพของมนุษย์ รับเพียงคำบรรยายเกี่ยวกับสภาพการตายบนเว็บบอร์ดต่างๆ เท่านั้น จากนั้น Norman ก็จะทำแบบทดสอบ Rorschach Test แบบทดสอบทางจิตวิทยาเก่าแก่ด้วยวิธีประเมินภาพนามธรรมแล้วตอบออกมาตามความรู้สึกที่เห็น

ผลลัพธ์ที่ออกมาจาก Norman ก็เป็นไปตามคาด Norman ให้บรรยายภาพแบบทดสอบ Rorshach Test ด้วยคำบรรยายอันน่าสะพรึงกลัว ยิ่งเมื่อเทียบกับ AI ที่ได้รับการเรียนรู้ค้นหาภาพทั่วไป ก็ยิ่งเห็นความแตกต่างของถ้อยคำและกริยาที่เลือกใช้อย่างชัดเจน โดย AI ทั่วไปจะตอบภาพ Rorshach เกี่ยวกับดอกไม้ เครื่องบิน หรือนก ส่วน Norman จะตอบเกี่ยวกับปืน ฆาตกรรม ความตาย และอื่นๆ

การศึกษาของนักวิจัย MIT ครั้งนี้ชี้ให้เห็นว่า ปัญญาประดิษฐ์ไม่ใช่ยาวิเศษของการจัดการข้อมูลเสมอไป การจำลองระบบประสาทของ AI เป็นเพียงภาชนะว่างเปล่าสำหรับรับข้อมูลมากรองเป็นประสบการณ์เท่านั้น ดังนั้นเมื่อเราใส่ข้อมูลที่ไม่ดีลงไป AI ก็มีโอกาสที่จะเกิดอคติและมีอันตรายขึ้นมาจริงๆ นับเป็นข้อจำกัดที่ทำให้เห็นว่า AI ยังต้องพึ่งพามนุษย์ และมีความจำเป็นอย่างมากที่มนุษย์เราจะต้องฝึกสอนปัญญาประดิษฐ์ให้รับข้อมูลที่เหมาะสมเพื่อลดอคติและก่อประโยชน์ให้แก่เรามากกว่าเดิม

ในขั้นต่อไป นักวิจัยจะเริ่มหาวิธีซ่อมแซม’ Norman ด้วยการใส่ข้อมูลใหม่ๆ เข้าไป ซึ่งเราสามารถเข้าไปช่วยเหลือ Norman เรียนรู้ใหม่ได้ด้วยการทำแบบทดสอบ Rorschach Test ใหม่เพื่อให้ Norman เข้าไปเรียนรู้ ใครที่สนใจอยากช่วย Norman ก็สามารถเข้าไปเยี่ยมชมได้ในเว็บไซต์ของโครงการที่ norman-ai.mit.edu ได้เลยครับ

ขอขอบคุณข้อมูลจาก http://norman-ai.mit.edu/

ลงทะเบียนเข้าสู่ระบบ เพื่ออ่านบทความฟรีไม่จำกัด

No comment

RELATED ARTICLE

Responsive image

Mistral AI เปิดตัวอัปเดตใหญ่สำหรับ Le Chat ผู้ช่วย AI เพิ่มฟีเจอร์ทรงพลัง

Mistral AI เปิดตัวอัปเดตใหญ่สำหรับ Le Chat ผู้ช่วย AI เพิ่มฟีเจอร์ทรงพลังอย่าง Deep Research สำหรับสร้างรายงานวิจัย, โหมดเสียง, การจัดการโปรเจกต์ และการแก้ไขภาพด้วย AI ยกระดับการทำ...

Responsive image

ทีมวิจัย Typhoon จาก SCB 10X ส่ง 5 ผลงานวิจัยร่วมด้าน AI กับ 4 สถาบันชั้นนำ สู่เวทีงานวิจัยแนวหน้าระดับ A-Star (A*) Research

ทีมวิจัย Typhoon จาก SCB 10X บริษัทด้านการลงทุนในเทคโนโลยีปฏิวัติวงการ ภายใต้กลุ่มเอสซีบีเอกซ์ ได้สร้างประวัติศาสตร์หน้าใหม่ ด้วยการส่งผลงานวิจัยร่วมด้าน AI ถึง 5 ฉบับ เข้าไปตีพิมพ...

Responsive image

รู้จัก AIS Business Network Portal แพลตฟอร์มทุกเรื่องเน็ตเวิร์ค บริหารจัดการง่าย เชื่อมต่อคลาวด์และสาขาได้ในวันเดียว รองรับเครือข่ายองค์กรยุคใหม่

เปิดตัว AIS Business Network Portal พลิกโฉมโครงสร้างเครือข่ายองค์กรด้วยแนวคิด NaaS เชื่อมต่อคลาวด์ได้ภายใน 1 วัน บริหารเครือข่ายแบบเรียลไทม์ ควบคุมได้เอง ยืดหยุ่นสูง ตอบโจทย์ธุรกิจ...