รวม 10 ข่าว : เมื่อ AI ทำงานผิดพลาดจนได้เรื่อง! | Techsauce

รวม 10 ข่าว : เมื่อ AI ทำงานผิดพลาดจนได้เรื่อง!

เว็บไซต์ Synced ประมวลข่าวความผิดพลาดของ AI ที่เกิดขึ้นตั้งแต่ปี 2017 ที่ผ่านมา โดยหลายคนอาจจะมองว่า AI คือความสุดยอด AI คือความอัจฉริยะของเทคโนโลยีในยุคนี้

หลายคนอาจจะนึกถึง AlphaGo ที่เล่นโกะชนะมนุษย์ได้ หรือนึกถึง Libratus ที่เล่น Poker ชนะมนุษย์ได้

แต่อย่าลืมว่าทุกเทคโนโลยีย่อมมีข้อผิดพลาดเกิดขึ้นได้ แน่นอนว่า AI ก็เช่นกัน มาดูกันว่ามีความผิดพลาดอะไรเกิดขึ้นมาบ้าง ?

 

Photo: Alex Knight

 

1. แฮก Face ID บน iPhone X ได้ด้วยหน้ากากธรรมดา ๆ

หลายคนคงรู้จัก Face ID ที่ Apple เปิดตัวฟีเจอร์นี้บน iPhone X ซึ่งโฆษณาไว้ว่าเป็นรูปแบบ AI Activation ที่มีความปลอดภัยมากที่สุดเท่าที่เคยมีมา ซึ่ง Apple อ้างว่าจะเกิดโอกาสถูกแฮกได้ 1 ในล้านครั้ง แต่ในเวลาต่อมา BKAV บริษัทสัญชาติเวียดนาม ใช้เทคนิคอย่าง การพิมพ์พลาสติคด้วย 3D Printing, ทำซิลิโคน, แต่งหน้า และตัดแต่งหน้ากากหนึ่งอันขึ้นมาเพื่อแฮกเข้ามือถือที่ใช้ Face ID ในการปลดล็อคระบบ การแฮกครั้งนี้ส่งแรงกระเพื่อมไปอุตสาหกรรมต่าง ๆ ในประเด็นของความเป็นส่วนของผู้ใช้อุปกรณ์ไอทีต่าง ๆ รวมไปถึงการเอา AI เข้ามาใช้ในเรื่องของความปลอดภัยอีกด้วย

2. เพื่อนบ้านเรียกตำรวจเพื่อให้ปิด Amazon Echo ที่ลั่นขึ้นมาเอง

ถึงแม้ Amazon Echo จะได้รับการยอมรับว่าเป็นลำโพงอัจฉริยะอันดับต้น ๆ ที่สามารถรับรู้จากการสั่งงานด้วยเสียงได้อย่างดี แต่ทุกอย่างมักจะไม่สมบูรณ์แบบเสมอไป เมื่อชาวเยอรมันคนหนึ่งพบว่า Amazon Echo ของตัวเองเปิดใช้งาน Party mode เมื่อตอนเขาไม่อยู่บ้าน และเล่นเพลงส่งเสียงดังในช่วงตอนดึก จนทำให้เพื่อนบ้านของชายคนนี้ต้องเรียกตำรวจเพื่องัดประตูไปปิดเจ้า Amazon Echo และกว่าเจ้าของบ้านจะรู้เรื่องนี้ ก็ตอนที่เข้าบ้านไม่ได้แล้ว (เพราะตำรวจได้เปลี่ยนลูกบิดที่งัดให้ไปแล้วนั่นเอง)

3. Facebook ปิด AI Chatbot เพราะเริ่มสื่อสารด้วยภาษาที่แปลกไป

ช่วงเดือนกรกฎาคมที่ผ่าน มีรายงานข่าวออกมาว่า Facebook ปิดระบบ Chatbot ที่กำลังพัฒนาอยู่ลง เพราะพบว่ามีการสื่อสารด้วยภาษาที่แปลกออกไป ไม่สามารถเข้าใจได้ เป็นประเด็นพูดถึงในเว็บบอร์ดมากมายจนกระทั่ง Facebook ชี้แจงว่าที่หลายคนเข้าใจว่าเป็นภาษาที่ไม่สามารถเข้าใจได้ ที่จริงแล้วคือระบบไม่ได้มองเรื่องของ Grammar เข้าไปประกอบด้วย

4. รถเมล์ไร้คนขับใน Las Vegas ใช้งานวันแรกก็เกิดอุบัติเหตุแล้ว

ช่วงเดือนพฤศจิกายนที่ผ่านมา ที่นครลาสเวกัส ประเทศสหรัฐอเมริกา ได้มีการเปิดตัวรถเมล์ไร้คนขับรถเพื่อให้บริการจริง แต่สองชั่วโมงต่อมารถเมล์คันดังกล่าวก็ชนกับรถบรรทุกส่งของ ทำให้ผู้โดยสารวิจารณ์ว่าทำไมรถเมล์ไร้คนขับคันนี้ไม่ฉลาดพอที่หลีกหนีออกจากรถบรรทุกที่ขับช้ากว่าได้

5. ส่ง Emoji รูปปืนมาให้เพื่อน Google Allo แนะนำให้ใช้ Emoji รูปคนสวมผ้าโผกหัว

CNN ทดสอบการใช้โปรแกรม Allo โปรแกรมส่งข้อความจาก Google โดยเมื่อคู่สนทนาส่ง Emoji รูปปืนมาให้ แต่ Allo กลับแนะนำ Emoji รูปคนสวมผ้าโพกหัวมาให้ด้วย ซึ่ง Google ยอมรับต่อข้อผิดพลาดที่เกิดขึ้นและแสดงความขอโทษจากเหตุการณ์ที่เกิดขึ้น

6. ระบบยืนยันตัวตนด้วยเสียงของธนาคาร HSBC ถูกแฮกโดยฝาแฝดของผู้ใช้บริการ

ระบบยืนยันตัวตนด้วยเสียง (Voice Recognition ID) ของธนาคาร HSBC ที่เอา AI เข้ามาช่วยเสริมความปลอดภัยให้ระบบของธนาคารด้วยการให้ผู้ใช้บริการยืนยันตัวตนการเข้าสู่ระบบด้วยเสียงของตนเอง ถึงทางธนาคารจะยืนยันว่าปลอดภัยกว่าการสแกนด้วยลายนิ้วมือ (Fingerprint ID) แต่ผู้สื่อข่าว BBC reporter ก็รายงานข่าวว่า ฝาแฝดพี่และฝาแผดน้องทั้งสองคนสามารถเข้าถึงบัญชีของฝาแผดอีกคนด้วยการเลียนเสียงให้ใกล้เคียงกันได้ โดยทดลองเลียนเสียงเพียงเจ็ดครั้งก็สามารถเข้าสู่ระบบของอีกคนได้ ต่อมา HSBC จึงรีบปรับระบบให้บัญชีถูกล็อคเมื่อมีความพยายามเข้าสู่ระบบของผู้ใช้หลายครั้งเป็นการชั่วคราว ก่อนที่จะปรับปรุง AI ต่อไป

7. Google AI มองปืนไรเฟิลเป็นเฮลิคอปเตอร์

ทีมนักวิจัยจาก MIT ทำการทดลองโดยหลอกให้ระบบ Google Cloud Vision API ด้วยการปรับแต่งภาพปืนไรเฟิลบางส่วน เพื่อให้ระบบดังกล่าวเข้าใจว่าภาพนี้เป็นเฮลิคอปเปอร์ เทคนิคที่ใช้คือ "Adverse Samples" เพื่อทำให้ระบบไม่สามารถแยกแยะประเภทของภาพ (Misclassify image) ได้ โดยตาของมนุษย์ก็ไม่สามารถตรวจจับการเปลี่ียนแปลงนี้ได้ ในอดีตเทคนิค "Adverse Samples" จะทำงานได้ผลก็ต่อเมื่อเหล่าแฮกเกอร์รู้ถึงระบบการทำงานภายในของคอมพิวเตอร์ต้องการที่จะโจมตีได้ การทดลองของจากทีมนักจัย MIT ในครั้งนี้ทำให้เห็นว่าการหลอกให้ระบบตรวจจับเกิดความผิดพลาดได้แทบไม่ต้องรู้ข้อมูลภายในระบบนั้น ๆ เลย

8. หลอกการทำงานของรถยนต์ไร้คนขับด้วยการดัดแปลงป้ายจราจร

มีนักวิจัยทดลองพ่นสีและแปะเทปที่ป้ายหยุดที่อยู่ตรงแยก เพื่อทำให้รถยนต์ไร้คนขับ (Self-driving cars) ไม่สามารถตรวจจับและแยกแยะ (Misclassifying) ที่ตัวป้ายหยุดได้ แถมยังทดลองเปลี่ยนข้อความในป้ายหยุดจากเดิมเป็น "STOP" เปลี่ยนคำว่า “LOVE” and “HATE” ก็ทำให้เจ้ารถยนต์ไร้คนขับตรวจจับคำที่ป้ายว่าเป็นป้าย “Speed Limit 45” แทนเสียอย่างนั้น

9. AI ผสมชื่อสีจนเพี้ยนไปจากเดิมหนักมาก

Janelle Shan นักวิจัยด้าน Machine Learning เทรนระบบ Neural Network ให้สามารถสร้างสีใหม่ ๆ ขึ้นมา พร้อมกับชื่อใหม่ ๆ ขึ้นมาโดยคาดหวังให้สีที่สร้างขึ้นและชื่อที่ได้สอดคล้องกัน ผลการทดลองพบว่าได้สีใหม่ ๆ เกิดขึ้นมามากมายจริง ๆ แต่ชื่อที่ได้นั้น....  กลับได้ชื่อที่ตลก ๆ และประหลายออกมามากมาย เช่น สร้างสีฟ้าแบบ Sky blue ได้ขึ้นมากลับได้ชื่อสีเป็น “Gray Pubic” (หัวหน่าวสีเทา) หรือสร้างสีเขียวเข้มแบบ Dark green ได้ชื่อสีเป็น “Stoomy Brown” เป็นต้น

10. พูดอะไรกับ Alexa ต้องระวัง เพราะอาจกลายเป็นการสั่งซื้อของทางออนไลน์ได้

Amazon Alexa ผู้ช่วยแสนเก่งที่ทำให้การชอปปิ้งผ่านทางออนไลน์เป็นเรื่องง่ายยิ่งขึ้น คำถามคืออาจจะทำให้การชอปปิงง่ายเกินไปหรือไม่? เมื่อช่วงเดือนมกราคม 2017 สถานีข่าว CW6 ใน San Diego สหรัฐอเมริกา รายงานข่าวว่ามีเด็กอายุ 6 ขวบสั่งซื้อบ้านตุ๊กตาราคา 170 ดอลลาร์สหรัฐ เพียงแค่ถาม Alexa  เกี่ยวกับบ้านตุ๊กตา ไม่เพียงแค่นั้นเมื่อผู้ประกาศข่าวประโยคที่เด็กอายุ 6 ขวบพูดซ้ำ โดยอ่านว่า “I love the little girl saying, ‘Alexa order me a dollhouse,’” Alexa ในบ้านของคนที่ดูรายการข่าวที่ผู้ประกาศคนนี้อ่านข้อความดังกล่าว ก็เกิดสั่งบ้านตุ๊กตามาให้อย่างหน้าตาเฉย

 

แต่ขอบอกไว้ก่อนว่าเป็นเรื่องปกติที่เทคโนโลยีที่กำลังพัฒนาอยู่อย่าง AI จะมีข้อผิดพลาดเกิดขึ้นมา ฉะนั้นต้องติดตามให้ดีว่าในปี 2018 ที่กำลังจะมาถึงนี้ AI จะพัฒนาไปในทิศทางไหน และจะสร้างความเปลี่ยนแปลงอะไรให้กับวงการที่เกี่ยวข้องกับด้านเทคโนโลยีหรือไอทีบ้าง

ข้อมูลและภาพจาก Synced

 

ลงทะเบียนเข้าสู่ระบบ เพื่ออ่านบทความฟรีไม่จำกัด

No comment

RELATED ARTICLE

Responsive image

AirAsia MOVE ประกาศรีแบรนด์ดิ้งใหม่ สู่ผู้นำแพลตฟอร์มเดินทาง OTA แบบคุ้มครบจบในแอปเดียว พร้อมแพ็กเกจบินทั่วอาเซียนแบบไม่จำกัด

airasia Superapp ประกาศรีแบรนด์ดิ้งใหม่ในชื่อ AirAsia MOVE พร้อมปรับโฉมแอปพลิเคชันใหม่ และเสริมกลยุทธ์ด้านธุรกิจเพื่อผลักดันให้ AirAsia Move เป็นผู้นำด้านแพลตฟอร์ม OTA (ตัวแทนด้านก...

Responsive image

VC เผยวิธีมองสตาร์ทอัพให้ขาด ก่อน ORZON Ventures เข้าไปลงทุน

คุยกับ 'คุณณรัณภัสสร์ ฐิติพัทธกุล ผู้อำนวยการการลงทุน ORZON Ventures' เรื่องการทำงานระหว่าง OR กับ 500 TukTuks, เกณฑ์การพิจารณาสตาร์ทอัพที่น่าลงทุน, เหตุที่บางดีลเกิด/ไม่เกิด รวม...

Responsive image

ติววิชา Sustainability ก่อนมุ่งสู่ ‘ESG Report’ คอนเทนต์ที่สตาร์ทอัพควรอ่าน จากงาน ESG ESSENTIAL WORKSHOP

Key Messages เกี่ยวกับ Sustainability & ESG จากงานสัมมนา ESG ESSENTIAL WORKSHOP: Navigating Sustainability for Post-Revenue Startups ในโครงการ KATALYST by KBank โดย Beacon VC...