เว็บไซต์ Synced ประมวลข่าวความผิดพลาดของ AI ที่เกิดขึ้นตั้งแต่ปี 2017 ที่ผ่านมา โดยหลายคนอาจจะมองว่า AI คือความสุดยอด AI คือความอัจฉริยะของเทคโนโลยีในยุคนี้

หลายคนอาจจะนึกถึง AlphaGo ที่เล่นโกะชนะมนุษย์ได้ หรือนึกถึง Libratus ที่เล่น Poker ชนะมนุษย์ได้

แต่อย่าลืมว่าทุกเทคโนโลยีย่อมมีข้อผิดพลาดเกิดขึ้นได้ แน่นอนว่า AI ก็เช่นกัน มาดูกันว่ามีความผิดพลาดอะไรเกิดขึ้นมาบ้าง ?

Photo: Alex Knight

1. แฮก Face ID บน iPhone X ได้ด้วยหน้ากากธรรมดา ๆ

หลายคนคงรู้จัก Face ID ที่ Apple เปิดตัวฟีเจอร์นี้บน iPhone X ซึ่งโฆษณาไว้ว่าเป็นรูปแบบ AI Activation ที่มีความปลอดภัยมากที่สุดเท่าที่เคยมีมา ซึ่ง Apple อ้างว่าจะเกิดโอกาสถูกแฮกได้ 1 ในล้านครั้ง แต่ในเวลาต่อมา BKAV บริษัทสัญชาติเวียดนาม ใช้เทคนิคอย่าง การพิมพ์พลาสติคด้วย 3D Printing, ทำซิลิโคน, แต่งหน้า และตัดแต่งหน้ากากหนึ่งอันขึ้นมาเพื่อแฮกเข้ามือถือที่ใช้ Face ID ในการปลดล็อคระบบ การแฮกครั้งนี้ส่งแรงกระเพื่อมไปอุตสาหกรรมต่าง ๆ ในประเด็นของความเป็นส่วนของผู้ใช้อุปกรณ์ไอทีต่าง ๆ รวมไปถึงการเอา AI เข้ามาใช้ในเรื่องของความปลอดภัยอีกด้วย

2. เพื่อนบ้านเรียกตำรวจเพื่อให้ปิด Amazon Echo ที่ลั่นขึ้นมาเอง

ถึงแม้ Amazon Echo จะได้รับการยอมรับว่าเป็นลำโพงอัจฉริยะอันดับต้น ๆ ที่สามารถรับรู้จากการสั่งงานด้วยเสียงได้อย่างดี แต่ทุกอย่างมักจะไม่สมบูรณ์แบบเสมอไป เมื่อชาวเยอรมันคนหนึ่งพบว่า Amazon Echo ของตัวเองเปิดใช้งาน Party mode เมื่อตอนเขาไม่อยู่บ้าน และเล่นเพลงส่งเสียงดังในช่วงตอนดึก จนทำให้เพื่อนบ้านของชายคนนี้ต้องเรียกตำรวจเพื่องัดประตูไปปิดเจ้า Amazon Echo และกว่าเจ้าของบ้านจะรู้เรื่องนี้ ก็ตอนที่เข้าบ้านไม่ได้แล้ว (เพราะตำรวจได้เปลี่ยนลูกบิดที่งัดให้ไปแล้วนั่นเอง)

3. Facebook ปิด AI Chatbot เพราะเริ่มสื่อสารด้วยภาษาที่แปลกไป

ช่วงเดือนกรกฎาคมที่ผ่าน มีรายงานข่าวออกมาว่า Facebook ปิดระบบ Chatbot ที่กำลังพัฒนาอยู่ลง เพราะพบว่ามีการสื่อสารด้วยภาษาที่แปลกออกไป ไม่สามารถเข้าใจได้ เป็นประเด็นพูดถึงในเว็บบอร์ดมากมายจนกระทั่ง Facebook ชี้แจงว่าที่หลายคนเข้าใจว่าเป็นภาษาที่ไม่สามารถเข้าใจได้ ที่จริงแล้วคือระบบไม่ได้มองเรื่องของ Grammar เข้าไปประกอบด้วย

4. รถเมล์ไร้คนขับใน Las Vegas ใช้งานวันแรกก็เกิดอุบัติเหตุแล้ว

ช่วงเดือนพฤศจิกายนที่ผ่านมา ที่นครลาสเวกัส ประเทศสหรัฐอเมริกา ได้มีการเปิดตัวรถเมล์ไร้คนขับรถเพื่อให้บริการจริง แต่สองชั่วโมงต่อมารถเมล์คันดังกล่าวก็ชนกับรถบรรทุกส่งของ ทำให้ผู้โดยสารวิจารณ์ว่าทำไมรถเมล์ไร้คนขับคันนี้ไม่ฉลาดพอที่หลีกหนีออกจากรถบรรทุกที่ขับช้ากว่าได้

5. ส่ง Emoji รูปปืนมาให้เพื่อน Google Allo แนะนำให้ใช้ Emoji รูปคนสวมผ้าโผกหัว

CNN ทดสอบการใช้โปรแกรม Allo โปรแกรมส่งข้อความจาก Google โดยเมื่อคู่สนทนาส่ง Emoji รูปปืนมาให้ แต่ Allo กลับแนะนำ Emoji รูปคนสวมผ้าโพกหัวมาให้ด้วย ซึ่ง Google ยอมรับต่อข้อผิดพลาดที่เกิดขึ้นและแสดงความขอโทษจากเหตุการณ์ที่เกิดขึ้น

6. ระบบยืนยันตัวตนด้วยเสียงของธนาคาร HSBC ถูกแฮกโดยฝาแฝดของผู้ใช้บริการ

ระบบยืนยันตัวตนด้วยเสียง (Voice Recognition ID) ของธนาคาร HSBC ที่เอา AI เข้ามาช่วยเสริมความปลอดภัยให้ระบบของธนาคารด้วยการให้ผู้ใช้บริการยืนยันตัวตนการเข้าสู่ระบบด้วยเสียงของตนเอง ถึงทางธนาคารจะยืนยันว่าปลอดภัยกว่าการสแกนด้วยลายนิ้วมือ (Fingerprint ID) แต่ผู้สื่อข่าว BBC reporter ก็รายงานข่าวว่า ฝาแฝดพี่และฝาแผดน้องทั้งสองคนสามารถเข้าถึงบัญชีของฝาแผดอีกคนด้วยการเลียนเสียงให้ใกล้เคียงกันได้ โดยทดลองเลียนเสียงเพียงเจ็ดครั้งก็สามารถเข้าสู่ระบบของอีกคนได้ ต่อมา HSBC จึงรีบปรับระบบให้บัญชีถูกล็อคเมื่อมีความพยายามเข้าสู่ระบบของผู้ใช้หลายครั้งเป็นการชั่วคราว ก่อนที่จะปรับปรุง AI ต่อไป

7. Google AI มองปืนไรเฟิลเป็นเฮลิคอปเตอร์

ทีมนักวิจัยจาก MIT ทำการทดลองโดยหลอกให้ระบบ Google Cloud Vision API ด้วยการปรับแต่งภาพปืนไรเฟิลบางส่วน เพื่อให้ระบบดังกล่าวเข้าใจว่าภาพนี้เป็นเฮลิคอปเปอร์ เทคนิคที่ใช้คือ "Adverse Samples" เพื่อทำให้ระบบไม่สามารถแยกแยะประเภทของภาพ (Misclassify image) ได้ โดยตาของมนุษย์ก็ไม่สามารถตรวจจับการเปลี่ียนแปลงนี้ได้ ในอดีตเทคนิค "Adverse Samples" จะทำงานได้ผลก็ต่อเมื่อเหล่าแฮกเกอร์รู้ถึงระบบการทำงานภายในของคอมพิวเตอร์ต้องการที่จะโจมตีได้ การทดลองของจากทีมนักจัย MIT ในครั้งนี้ทำให้เห็นว่าการหลอกให้ระบบตรวจจับเกิดความผิดพลาดได้แทบไม่ต้องรู้ข้อมูลภายในระบบนั้น ๆ เลย

8. หลอกการทำงานของรถยนต์ไร้คนขับด้วยการดัดแปลงป้ายจราจร

มีนักวิจัยทดลองพ่นสีและแปะเทปที่ป้ายหยุดที่อยู่ตรงแยก เพื่อทำให้รถยนต์ไร้คนขับ (Self-driving cars) ไม่สามารถตรวจจับและแยกแยะ (Misclassifying) ที่ตัวป้ายหยุดได้ แถมยังทดลองเปลี่ยนข้อความในป้ายหยุดจากเดิมเป็น "STOP" เปลี่ยนคำว่า “LOVE” and “HATE” ก็ทำให้เจ้ารถยนต์ไร้คนขับตรวจจับคำที่ป้ายว่าเป็นป้าย “Speed Limit 45” แทนเสียอย่างนั้น

9. AI ผสมชื่อสีจนเพี้ยนไปจากเดิมหนักมาก

Janelle Shan นักวิจัยด้าน Machine Learning เทรนระบบ Neural Network ให้สามารถสร้างสีใหม่ ๆ ขึ้นมา พร้อมกับชื่อใหม่ ๆ ขึ้นมาโดยคาดหวังให้สีที่สร้างขึ้นและชื่อที่ได้สอดคล้องกัน ผลการทดลองพบว่าได้สีใหม่ ๆ เกิดขึ้นมามากมายจริง ๆ แต่ชื่อที่ได้นั้น....  กลับได้ชื่อที่ตลก ๆ และประหลายออกมามากมาย เช่น สร้างสีฟ้าแบบ Sky blue ได้ขึ้นมากลับได้ชื่อสีเป็น “Gray Pubic” (หัวหน่าวสีเทา) หรือสร้างสีเขียวเข้มแบบ Dark green ได้ชื่อสีเป็น “Stoomy Brown” เป็นต้น

10. พูดอะไรกับ Alexa ต้องระวัง เพราะอาจกลายเป็นการสั่งซื้อของทางออนไลน์ได้

Amazon Alexa ผู้ช่วยแสนเก่งที่ทำให้การชอปปิ้งผ่านทางออนไลน์เป็นเรื่องง่ายยิ่งขึ้น คำถามคืออาจจะทำให้การชอปปิงง่ายเกินไปหรือไม่? เมื่อช่วงเดือนมกราคม 2017 สถานีข่าว CW6 ใน San Diego สหรัฐอเมริกา รายงานข่าวว่ามีเด็กอายุ 6 ขวบสั่งซื้อบ้านตุ๊กตาราคา 170 ดอลลาร์สหรัฐ เพียงแค่ถาม Alexa  เกี่ยวกับบ้านตุ๊กตา ไม่เพียงแค่นั้นเมื่อผู้ประกาศข่าวประโยคที่เด็กอายุ 6 ขวบพูดซ้ำ โดยอ่านว่า “I love the little girl saying, ‘Alexa order me a dollhouse,’” Alexa ในบ้านของคนที่ดูรายการข่าวที่ผู้ประกาศคนนี้อ่านข้อความดังกล่าว ก็เกิดสั่งบ้านตุ๊กตามาให้อย่างหน้าตาเฉย

แต่ขอบอกไว้ก่อนว่าเป็นเรื่องปกติที่เทคโนโลยีที่กำลังพัฒนาอยู่อย่าง AI จะมีข้อผิดพลาดเกิดขึ้นมา ฉะนั้นต้องติดตามให้ดีว่าในปี 2018 ที่กำลังจะมาถึงนี้ AI จะพัฒนาไปในทิศทางไหน และจะสร้างความเปลี่ยนแปลงอะไรให้กับวงการที่เกี่ยวข้องกับด้านเทคโนโลยีหรือไอทีบ้าง

ข้อมูลและภาพจาก Synced