พบกับ Norman ปัญญาประดิษฐ์ที่ถูกสร้างให้เป็น ‘โรคจิต’ เพื่อเผยข้อจำกัดของ AI | Techsauce

พบกับ Norman ปัญญาประดิษฐ์ที่ถูกสร้างให้เป็น ‘โรคจิต’ เพื่อเผยข้อจำกัดของ AI

ปัญญาประดิษฐ์เป็นเทคโนโลยีที่ช่วยงานของเราได้หลากหลาย ผ่านการเรียนรู้จากข้อมูลที่มีอยู่อย่างรวดเร็ว แต่จะเกิดอะไรขึ้น หากเราให้ AI เรียนรู้สิ่งที่รุนแรงมากๆ เข้า AI จะซึมซับความรุนแรงจนกลายเป็นโรคจิตหรือไม่

เมื่อเดือนเมษายน ปี 2018 ทีมนักวิจัยจาก MIT ได้เผยการทดลองของ AI ที่ชื่อ Norman ซึ่งเป็นปัญญาประดิษฐ์แบบจำลองการทำงานของสื่อประสาทและสมองหรือ Neural Network ที่อาศัยการให้ผลลัพธ์ผ่านการวิเคราะห์ข้อมูลที่ได้รับเป็น Pattern เป็นวิธีที่จำลองมาจากการรับรู้ประสบการณ์ของเรานั่นเอง ซึ่งโดยทั่วไปแล้ว AI อื่นๆ จะเรียนรู้ข้อมูลที่ตอบโจทย์ผู้ใช้ตามวัตถุประสงค์ต่างๆ แต่ Norman จะได้เรียนรู้แต่ความรุนแรงเพื่อให้กลายเป็นโรคจิตโดยสมบูรณ์ ซึ่งชื่อ Norman ก็มาจาก Norman Bates ตามภาพยนตร์ระทึกขวัญ Psycho จากปี 1960 นั่นเอง

Norman ได้รับข้อมูลจากเว็บบอร์ดย่อยใน Reddit ที่นำเสนอความรุนแรงทั้งภาพและข้อความ โดยข้อมูลที่ได้รับไม่ได้ไปถึงขั้นเห็นศพของมนุษย์ รับเพียงคำบรรยายเกี่ยวกับสภาพการตายบนเว็บบอร์ดต่างๆ เท่านั้น จากนั้น Norman ก็จะทำแบบทดสอบ Rorschach Test แบบทดสอบทางจิตวิทยาเก่าแก่ด้วยวิธีประเมินภาพนามธรรมแล้วตอบออกมาตามความรู้สึกที่เห็น

ผลลัพธ์ที่ออกมาจาก Norman ก็เป็นไปตามคาด Norman ให้บรรยายภาพแบบทดสอบ Rorshach Test ด้วยคำบรรยายอันน่าสะพรึงกลัว ยิ่งเมื่อเทียบกับ AI ที่ได้รับการเรียนรู้ค้นหาภาพทั่วไป ก็ยิ่งเห็นความแตกต่างของถ้อยคำและกริยาที่เลือกใช้อย่างชัดเจน โดย AI ทั่วไปจะตอบภาพ Rorshach เกี่ยวกับดอกไม้ เครื่องบิน หรือนก ส่วน Norman จะตอบเกี่ยวกับปืน ฆาตกรรม ความตาย และอื่นๆ

การศึกษาของนักวิจัย MIT ครั้งนี้ชี้ให้เห็นว่า ปัญญาประดิษฐ์ไม่ใช่ยาวิเศษของการจัดการข้อมูลเสมอไป การจำลองระบบประสาทของ AI เป็นเพียงภาชนะว่างเปล่าสำหรับรับข้อมูลมากรองเป็นประสบการณ์เท่านั้น ดังนั้นเมื่อเราใส่ข้อมูลที่ไม่ดีลงไป AI ก็มีโอกาสที่จะเกิดอคติและมีอันตรายขึ้นมาจริงๆ นับเป็นข้อจำกัดที่ทำให้เห็นว่า AI ยังต้องพึ่งพามนุษย์ และมีความจำเป็นอย่างมากที่มนุษย์เราจะต้องฝึกสอนปัญญาประดิษฐ์ให้รับข้อมูลที่เหมาะสมเพื่อลดอคติและก่อประโยชน์ให้แก่เรามากกว่าเดิม

ในขั้นต่อไป นักวิจัยจะเริ่มหาวิธีซ่อมแซม’ Norman ด้วยการใส่ข้อมูลใหม่ๆ เข้าไป ซึ่งเราสามารถเข้าไปช่วยเหลือ Norman เรียนรู้ใหม่ได้ด้วยการทำแบบทดสอบ Rorschach Test ใหม่เพื่อให้ Norman เข้าไปเรียนรู้ ใครที่สนใจอยากช่วย Norman ก็สามารถเข้าไปเยี่ยมชมได้ในเว็บไซต์ของโครงการที่ norman-ai.mit.edu ได้เลยครับ

ขอขอบคุณข้อมูลจาก http://norman-ai.mit.edu/

ลงทะเบียนเข้าสู่ระบบ เพื่ออ่านบทความฟรีไม่จำกัด

No comment

RELATED ARTICLE

Responsive image

งานวิจัย Accenture ชี้พนักงาน 60% กลัวตกงานเพราะ GenAI องค์กรควรปรับระบบให้ใช้ AI ได้เต็มประสิทธิภาพ

หากต้องการใช้ศักยภาพจาก AI ได้อย่างเต็มประสิทธิภาพ องค์กรควรปรับระบบการทำงาน โครงสร้างกำลังคน และเตรียมบุคลากรให้พร้อม ด้วยแนวคิด "Net Better Off" สนับสนุนให้บุคลากรได้เรียนรู้ ทำง...

Responsive image

KTB ตั้ง ‘กรุงไทย เวนเจอร์ส’ ลุยธุรกิจ Venture Capital

KTB แจ้งตลาดหลักทรัพย์เย็นวานนี้ว่า บริษัท กรุงไทยแอดไวซ์เซอรี่ จำกัด (KTA) ซึ่งเป็นบริษัทย่อยที่ธนาคารถือหุ้น 99.99% และเป็นบริษัทในกลุ่มธุรกิจทางการเงินของธนาคาร ได้จดทะเบียนจัดต...

Responsive image

ttb เปิดตัว 7 ผู้บริหารรุ่นใหม่นำทัพ ทรานส์ฟอร์มองค์กรรอบด้าน เร่งยกระดับประสบการณ์ด้านการเงินแบบไร้รอยต่อ

ทีทีบี (ttb) ปรับโครงสร้างองค์กรรอบด้าน ส่งคนรุ่นใหม่ 7 ผู้บริหารระดับสูง นำทัพขับเคลื่อนกลยุทธ์ มุ่งเจาะกลุ่มคนมีรถ คนมีบ้าน มนุษย์เงินเดือน และลูกค้า Wealth...