Joy Buolamwini สาวผิวสีผู้ต่อสู้เพื่อลดความลำเอียงและผิดพลาดที่เกิดจาก AI
Contact us
2

Joy Buolamwini สาวผิวสีผู้ต่อสู้เพื่อลดความลำเอียงและผิดพลาดอันเกิดจาก AI1 min read

Posted by
Posted date พฤษภาคม 3, 2019

ประเด็นเรื่องความเหลื่อมล้ำยังคงมีอยู่ในทุกสังคม หลายองค์กรเริ่มให้ความสำคัญโดยตั้งหน่วยงานที่ดูเรื่อง Diversity and Inclusion ในขณะที่ Dell Technologies ก็เช่นกัน มี Brian Reaves  นั่งตำแหน่ง Chief Diversity and Inclusion officer ดูแลด้านนี้โดยตรง ซึ่งตัวเขาเองก็เป็นคนผิวสี มีโครงการสนับสนุนรับพนักงานให้มีความหลากหลาย ในงานDell Technologies World 2019 มี session หนึ่งที่น่าสนใจมาก โดย Dell เชิญแขกรับเชิญที่ชื่อ Joy  Buolamwini มาแชร์ประสบการณ์ของเธอที่งานดังกล่าว

Joy Buolamwini เธอคือผู้หญิงผิวสีเชื้อสายกาน่าเกิดที่แคนนาดาและเติบโตในสหรัฐฯ อาชีพของเธอคือ Computer Scientist ที่ MIT Media Lab และเป็นผู้ก่อตั้ง Algorithmic Justice League องค์กรที่แก้ปัญหาความท้าทายอันเกิดจากการตัดสินใจผิด (มี bias) โดย Software ฟังแล้วอาจจะดูงงๆ ว่าคืออะไร

Photo: Lenny Martinez

ตอนขึ้นเวที เธอเรียกตัวเองว่าเป็น Poet of Code ค่ะ ไม่ได้เรียกว่า Computer Scientist คือคนที่ใช้ศิลปะ และงานวิจัยเพื่ออธิบายความหมายของสังคมที่เกิดจากการนำเอา AI มาใช้

เธอเปิดประเด็นในครั้งนี้ว่า “AI นี่ฉันไม่ใช่ผู้หญิงเหรอ?”

ตอนแรกเรานั่งฟังก็งงๆ ว่าเธอหมายถึงอะไรกันแน่?

แล้วเธอก็ค่อยๆ เล่าว่า สิ่งที่เกิดขึ้นกับคนผิวสีอย่างเธอ ที่เป็นผู้หญิงคืออะไร

ถ้าก่อนหน้านี้ใครได้ติดตามข่าวหนึ่งของ Google’s image recoginition algorithm จับหน้าคนผิวสีว่าเป็น Gorillas ถือเป็นเรื่อง sensitive มากๆ เลยทีเดียว มีคนร้องเรียนเรื่องนี้มาตั้งแต่ปี 2015 เวลาผ่านไปถึงต้นปี 2018 กว่าจะได้รับการแก้ไข

นี่เป็นเพียงตัวอย่างหนึ่งของปัญหาที่เกิดขึ้น และในสังคมมีระบบ Facial Recognition จำนวนมากที่ถูกดาวน์โหลดและกระจายไปใช้ ซึ่งไม่สามารถตรวจจับหน้าคนผิวสีได้ เหตุผลหลักๆ ก็คือ การที่ไม่มีตัวอย่าง data set ที่เยอะพอที่สอนให้ระบบเรียนรู้ ผลก็เลยเป็นแบบนี้

Algorithmic Justice League เป็นหน่วยงานที่เธอตั้งขึ้นมาเพื่อจะชี้ให้เห็นปัญหาอันเกิดจาก Algorithm ที่ bias นี้ ผ่านทางสื่อและกิจกรรมต่างๆ, เปิดพื้นที่ให้คนได้แสดงตัวถึงข้อมูลที่ไม่ถูกต้อง และร่วมกันพัฒนาเพื่อแก้ปัญหาสิ่งที่เกิดขึ้น

หนึ่งในกรณีศึกษาที่ถูกหยิบยกมาครั้งนี้ เกิดขึ้นหลังจากที่เธอไปพูด TED Talk เมื่อหลายปีก่อน เป็นเรื่องของ Al ที่แยกแยะคนผิวสี (ในที่นี้คือคนผิวดำ) ไม่ถูก เวลาใช้ AI วิเคราะห์ผู้หญิงผิวสีเกือบทั้งหมดจะมองเป็นผู้ชาย ไม่เว้นแม้แต่คนดังอย่าง Oprah Winfrey Amazon algorithm ก็วิเคราะห์ว่าเป็นผู้ชาย, Serena Williams Face++ algorithm ก็วิเคราะห์ว่าเป็นผู้ชาย

นักวิจัยอย่างเธอจึงเริ่มต้นในการทดสอบโดยการนำภาพ TED speaker ทั้งหลายมาทำการวิเคราะห์ด้วยเทคโนโลยีของบริษัทชั้นนำทั้ง IBM, Microsoft, Face++ (มี dataset คนเอเชียเยอะ) ซึ่งบางบริษัทก็ไม่สามารถตรวจจับหน้าเธอได้ และบางอันก็วิเคราะห์ว่าเธอเป็นผู้ชาย เฉกเช่นเดียวกับคนอื่นๆ

หลังจากทำการทดสอบกว่า 1270 ใบหน้า (ตรวจสอบหน้าตัวอย่างของสมาชิกรัฐสภาด้วย) เธอก็พบว่าอัตราการผิดพลาดของผู้หญิงผิวสีมีสูงถึง 1/3 เลยทีเดียวและเป็นกลุ่มที่มีความผิดพลาดสูงสุด ในขณะที่การวิเคราะห์คนผิวขาวมีความผิดพลาดน้อยมาก และเมื่อเทียบแล้วการวิเคราะห์ใบหน้าผู้ชายไม่ว่าจะผิวขาวหรือผิวสีก็ยังถูกต้องกว่าใบหน้าของผู้หญิงอยู่ดี

ด้วยโครงการอย่าง Gender Shade ที่ทาง Joy ค้นคว้านั้นกลายเป็นกระบอกเสียงสำคัญที่ทำให้บริษัทต่างๆ แก้ปัญหาการวิเคราะห์ใบหน้า กระตุ้นให้บริษัทเหล่านี้รวบรวม dataset ของใบหน้าเพื่อให้ระบบเรียนรู้มากขึ้น และตรวจสอบพัฒนาการความถูกต้องของซอฟแวร์ ซึ่งทั้ง 3 ที่ก็เริ่มมีพัฒนาการที่ดีขึ้นกันหมด

ถ้ามองในแง่การใช้งานสนุกๆ Face Recognition ที่ tag เพื่อนผิดก็คงไม่เป็นไร แต่ถ้าเป็นกรณีที่เกี่ยวข้องกับอาชญากรรม ถือว่ามีปัญหาแน่นอน ความถูกต้องความโปร่งใส่ และตรวจสอบได้ในการระบุตัวตนนั้นยังมีผลต่อการให้สิทธิประโยชน์ต่างๆ ในสังคมด้วย ทั้งเรื่องการปล่อยกู้ การจ้างงาน เป็นต้น

เธอปิดท้ายด้วยประเด็นที่ว่าอยากให้สังคมทั้งในที่ทำงานและหน่วยงานของเธอ

“กล้าที่จะถามและกล้าที่จะฟังเสียงที่ซ่อนอยู่” เพื่อสร้างความเท่าเทียมให้เกิดขึ้น

ทุกวันนี้ความไม่เท่าเทียมบนโลกออฟไลน์ก็มีมากพอแล้ว แต่จะดีกว่าไหมถ้าเราสามารถช่วยกันให้โลกของเทคโนโลยีที่เราพัฒนากันขึ้นมาก็สร้างความเท่าเทียมกัน ลดความลำเอียงและผิดพลาดด้วยเช่นกัน และนี่คือสิ่งที่เธอพยายามจะบอกพวกเรา

หลายปัญหาที่เกิดขึ้น ส่วนใหญ่มักเกิดจากกรณีที่เขาหรือเธอเผชิญกับตัวเอง Joy คือหนึ่งในตัวอย่างนั้น แม้ปัญหาจะได้ถูกค้นพบขึ้นแล้ว แต่ก็ใช่ว่าปัญหาดังกล่าวจะถูกแก้ไขปรับปรุงได้ เพราะต้องอาศัยความรู้ความเชี่ยวชาญด้านเทคโนโลยีเข้ามาช่วยแก้ ถ้า Joy ไม่ได้มุ่งมั่นเข้ามาศึกษาเรื่องนี้ตั้งแต่เด็ก โอกาสที่ปัญหาดังกล่าวจะถูกพัฒนาและแก้ไขก็คงต้องรอไม้ต่อ ซึ่งก็ยังไม่รู้ว่าเธอคนนั้นจะเป็นใคร

ดังนั้นโอกาสทางด้านการศึกษาที่มีให้กับทุกเพศ ทุกเชื้อชาติ และชนชั้น จึงเป็นสิ่งที่สำคัญมากจริงๆ

Involved with direct experience and competency in the Telecommunication industry on both sides of operators and foreign suppliers for more than decade, the former Engineer turned Product Development and Marketing has been frequently invited as a special speaker by various institutions and organizations, and has also written many academic articles on topics such as the Telecom Industry, Online Marketing and the Startup Scene.

Comments

comments

Sign-up for exclusive content. Be the first to hear about ConvertPlug news.
Subscribe