อัลกอริทึมของ Instagram รวน ไม่ปิดกั้น แล้วยังแนะนำเนื้อหาการล่วงละเมิดเด็ก

The Wall Street Journal และนักวิชาการที่ Stanford University และ University of Massachusetts Amherst ร่วมมือกันตรวจสอบระบบอัลกอริทึมของ Instagram พบว่าระบบอัลกอริทึมที่ใช้แนะนำเนื้อหาบนแพลตฟอร์มทั้งส่งเสริมและแนะนำเนื้อหาเกี่ยวกับการล่วงละเมิดทางเพศเด็ก 

เกิดปัญหาอะไรกับระบบอัลกอริทึมของ Instagram

Instagram เป็นแพลตฟอร์มสำหรับลงรูปที่โด่งดังมากของบริษัท Meta แต่เมื่อวันพุธที่ผ่านมา (07 มิ.ย 66) The Wall Street Journal ได้เผยแพร่รายงานการตรวจสอบระบบอัลกอริทึมของ Instagram 

จากรายงานพบบัญชีที่ลงเนื้อหาเกี่ยวกับการล่วงละเมิดทางเพศเด็ก ทั้งรูปและวิดีโอติดแฮชแท็กที่สื่อถึงการทำอนาจารและความรุนแรงทางเพศกับเด็กแบบโจ่งแจ้ง เช่น #pedowhore, #pedobait และ #preteensex ความหมายโดยรวมคือ โสเภณีเด็กและการมีเพศสัมพันธ์กับเด็ก 

แต่สิ่งที่น่าตกใจที่สุดคือ เมื่อนักวิชาการทดสอบด้วยการนำบัญชี IG ที่สร้างขึ้นมาเข้าไปดูเนื้อหาเกี่ยวกับการล่วงละเมิดทางเพศเด็กที่แชร์โดยบัญชีเหล่านี้ ระบบอัลกอริทึมก็แนะนำเนื้อหาการล่วงละเมิดทางเพศเด็กที่คล้ายคลึงกันขึ้นมาให้กับเหล่านักวิชาการ

นอกจากปัญหาเกี่ยวกับอัลกอริทึมของ Instagram แล้ว ยังพบปัญหาเกี่ยวกับแนวทางการดูแลแพลตฟอร์มอีกด้วย ผู้ดูแลมักจะเพิกเฉยต่อการรายงานเนื้อหาเกี่ยวกับการล่วงละเมิดเด็ก และไม่ได้ตรวจสอบหรือลบเนื้อหาที่ไม่เหมาะสมออกจากแพลตฟอร์ม

บริษัท Meta จะแก้ปัญหาอย่างไร

ที่ผ่านมาบริษัท Meta ได้มีมาตรการในการแก้ไขปัญหาการละเมิดเด็กเสมอ เช่น การลบบัญชีที่ละเมิดนโยบายความปลอดภัยของเด็กกว่า 490,000 บัญชีในช่วงต้นปี และทำลาย 27 เครือข่ายที่เกี่ยวข้องกับการมีเพศสัมพันธ์กับเด็กในช่วงสองปีที่ผ่านมา นอกจากนี้บริษัทยังปิดกั้นแฮชแท็กที่เชื่อมโยงกับพฤติกรรมทางเพศที่ไม่เหมาะสมกับเด็ก 

หลังจากการเผยแพร่รายงานดังกล่าว บริษัท Meta ยอมรับความผิดพลาดเหล่านี้และได้ประกาศว่าจะจัดตั้งหน่วยงานภายในบริษัทเพื่อแก้ไขปัญหาการล่วงละเมิดเด็ก พร้อมเน้นย้ำว่าการแสวงหาประโยชน์จากเด็กเป็นอาชญากรรมร้ายแรง และบริษัทของเราก็มุ่งมั่นที่จะหาวิธีป้องกันการกระทำเหล่านี้อย่างจริงจัง

นอกจากนี้ รายงานยังได้ตรวจสอบถึงแพลตฟอร์ม Social Media อื่น ๆ อีกด้วย เช่น Twitter, TikTok และ Snapchat พบว่าแพลตฟอร์มเหล่านี้สามารถจัดการกับเนื้อหาการล่วงละเมิดเด็กได้ดีกว่า Instagram ทั้งนั้น ถือเป็นปัญหาใหญ่ของ Instagram ที่ต้องรีบจัดการกับเนื้อหาเหล่านี้ 

Alex Stamos หัวหน้าศูนย์สังเกตการณ์ด้านอินเทอร์เน็ตของ Stanford และอดีตผู้บริหารระดับสูงทางด้านการรักษาความปลอดภัยให้กับโครงสร้างเครือข่ายและความปลอดภัยข้อมูลสารสนเทศของ Meta แนะนำว่าบริษัทควรเร่งแก้ปัญหาดังกล่าว ด้วยการใช้ ‘คน’ เพื่อตรวจสอบและดูแลแพลตฟอร์ม

อ้างอิง: theverge