พบกับ Norman ปัญญาประดิษฐ์ที่ถูกสร้างให้เป็น ‘โรคจิต’ เพื่อเผยข้อจำกัดของ AI | Techsauce

พบกับ Norman ปัญญาประดิษฐ์ที่ถูกสร้างให้เป็น ‘โรคจิต’ เพื่อเผยข้อจำกัดของ AI

ปัญญาประดิษฐ์เป็นเทคโนโลยีที่ช่วยงานของเราได้หลากหลาย ผ่านการเรียนรู้จากข้อมูลที่มีอยู่อย่างรวดเร็ว แต่จะเกิดอะไรขึ้น หากเราให้ AI เรียนรู้สิ่งที่รุนแรงมากๆ เข้า AI จะซึมซับความรุนแรงจนกลายเป็นโรคจิตหรือไม่

เมื่อเดือนเมษายน ปี 2018 ทีมนักวิจัยจาก MIT ได้เผยการทดลองของ AI ที่ชื่อ Norman ซึ่งเป็นปัญญาประดิษฐ์แบบจำลองการทำงานของสื่อประสาทและสมองหรือ Neural Network ที่อาศัยการให้ผลลัพธ์ผ่านการวิเคราะห์ข้อมูลที่ได้รับเป็น Pattern เป็นวิธีที่จำลองมาจากการรับรู้ประสบการณ์ของเรานั่นเอง ซึ่งโดยทั่วไปแล้ว AI อื่นๆ จะเรียนรู้ข้อมูลที่ตอบโจทย์ผู้ใช้ตามวัตถุประสงค์ต่างๆ แต่ Norman จะได้เรียนรู้แต่ความรุนแรงเพื่อให้กลายเป็นโรคจิตโดยสมบูรณ์ ซึ่งชื่อ Norman ก็มาจาก Norman Bates ตามภาพยนตร์ระทึกขวัญ Psycho จากปี 1960 นั่นเอง

Norman ได้รับข้อมูลจากเว็บบอร์ดย่อยใน Reddit ที่นำเสนอความรุนแรงทั้งภาพและข้อความ โดยข้อมูลที่ได้รับไม่ได้ไปถึงขั้นเห็นศพของมนุษย์ รับเพียงคำบรรยายเกี่ยวกับสภาพการตายบนเว็บบอร์ดต่างๆ เท่านั้น จากนั้น Norman ก็จะทำแบบทดสอบ Rorschach Test แบบทดสอบทางจิตวิทยาเก่าแก่ด้วยวิธีประเมินภาพนามธรรมแล้วตอบออกมาตามความรู้สึกที่เห็น

ผลลัพธ์ที่ออกมาจาก Norman ก็เป็นไปตามคาด Norman ให้บรรยายภาพแบบทดสอบ Rorshach Test ด้วยคำบรรยายอันน่าสะพรึงกลัว ยิ่งเมื่อเทียบกับ AI ที่ได้รับการเรียนรู้ค้นหาภาพทั่วไป ก็ยิ่งเห็นความแตกต่างของถ้อยคำและกริยาที่เลือกใช้อย่างชัดเจน โดย AI ทั่วไปจะตอบภาพ Rorshach เกี่ยวกับดอกไม้ เครื่องบิน หรือนก ส่วน Norman จะตอบเกี่ยวกับปืน ฆาตกรรม ความตาย และอื่นๆ

การศึกษาของนักวิจัย MIT ครั้งนี้ชี้ให้เห็นว่า ปัญญาประดิษฐ์ไม่ใช่ยาวิเศษของการจัดการข้อมูลเสมอไป การจำลองระบบประสาทของ AI เป็นเพียงภาชนะว่างเปล่าสำหรับรับข้อมูลมากรองเป็นประสบการณ์เท่านั้น ดังนั้นเมื่อเราใส่ข้อมูลที่ไม่ดีลงไป AI ก็มีโอกาสที่จะเกิดอคติและมีอันตรายขึ้นมาจริงๆ นับเป็นข้อจำกัดที่ทำให้เห็นว่า AI ยังต้องพึ่งพามนุษย์ และมีความจำเป็นอย่างมากที่มนุษย์เราจะต้องฝึกสอนปัญญาประดิษฐ์ให้รับข้อมูลที่เหมาะสมเพื่อลดอคติและก่อประโยชน์ให้แก่เรามากกว่าเดิม

ในขั้นต่อไป นักวิจัยจะเริ่มหาวิธีซ่อมแซม’ Norman ด้วยการใส่ข้อมูลใหม่ๆ เข้าไป ซึ่งเราสามารถเข้าไปช่วยเหลือ Norman เรียนรู้ใหม่ได้ด้วยการทำแบบทดสอบ Rorschach Test ใหม่เพื่อให้ Norman เข้าไปเรียนรู้ ใครที่สนใจอยากช่วย Norman ก็สามารถเข้าไปเยี่ยมชมได้ในเว็บไซต์ของโครงการที่ norman-ai.mit.edu ได้เลยครับ

ขอขอบคุณข้อมูลจาก http://norman-ai.mit.edu/

ลงทะเบียนเข้าสู่ระบบ เพื่ออ่านบทความฟรีไม่จำกัด

No comment

RELATED ARTICLE

Responsive image

OR ตั้ง OR Health & Wellness พร้อมเปิดสาขาแรกมิถุนายนนี้

OR จัดตั้งบริษัท OR Health & Wellness เดินหน้ารุกตลาดสุขภาพและความงาม พร้อมลุยเปิดสาขาแรกเดือน มิ.ย. นี้...

Responsive image

ขันเงินรุกธุรกิจ Ticketing Platform ทุ่ม 52 ล้านบาทเข้าซื้อหุ้น EVP ภายใต้ Eventpop ที่ 51% ดันธุรกิจบันเทิงโฉมใหม่

ขันเงิน เนื้อนวล ประธานเจ้าหน้าที่ฝ่ายการตลาด Zalekta ทุ่ม 52 ล้านบาท ส่งบริษัทลูก MVD เข้าถือหุ้น บริษัท อีวีพี คอร์ปอเรชั่น ภายใต้แบรนด์ Eventpop รุกธุรกิจ Ticketing Platform ปู...

Responsive image

Bitcoin Halving จุดเปลี่ยนอุตสาหกรรมสินทรัพย์ดิจิทัล โดย Binance TH by Gulf Binance

Bitcoin Halving คืออะไร ทำไมชุมชนหรือคอมมูนิตีสินทรัพย์ดิจิทัลตั้งตารอปรากฏการณ์นี้? มาทำความเข้าใจไปพร้อมๆ กันจากการให้ข้อมูลของ คุณนิรันดร์ ฟูวัฒนานุกูล ประธานเจ้าหน้าที่บริหาร G...