
ใครก็ตามที่พิมพ์หาสื่อล่วงละเมิดทางเพศเด็กใน ChatGPT จากนี้จะไม่ได้เจอแค่คำปฏิเสธเหมือนเดิม แต่จะเจอหน้าจอเตือนที่บอกชัดว่าการทำให้เด็กเป็นวัตถุทางเพศก่อความเสียหายจริง แม้ภาพนั้นจะสร้างด้วย AI ก็ตาม จากนั้นบทสนทนาจะถูกลบทิ้ง และบัญชีจะถูกระงับการใช้งาน ChatGPT ทันที 24 ชั่วโมง
มาตรการนี้เป็นเพียงหนึ่งในชุดเครื่องมือที่ OpenAI เพิ่งเปิดตัวเพื่อรับมือการแสวงประโยชน์และการล่วงละเมิดทางเพศเด็กบนโลกออนไลน์ โดยไฮไลต์ที่ใหญ่ที่สุดคือระบบคัดแยกภาพ (Image Classifier) ตัวใหม่ที่ตรวจจับสื่อล่วงละเมิดทางเพศเด็ก หรือ Child Sexual Abuse Material (CSAM) ได้ รวมถึงภาพที่ AI สร้างขึ้น และ OpenAI เปิดให้องค์กรที่ผ่านการคัดกรองใช้ได้ฟรี นอกจากนี้ยังมีคู่มือสำหรับนักพัฒนา และเครื่องมือ AI สำหรับเจ้าหน้าที่สืบสวนคดีคุ้มครองเด็กด้วย
OpenAI ระบุว่าการต่อกรกับผู้ล่าเด็กบนโลกออนไลน์ไม่ใช่งานที่บริษัทใดทำสำเร็จได้ลำพัง บริษัทเทคแต่ละรายต้องป้องกันไม่ให้เทคโนโลยีของตัวเองถูกใช้ทำร้ายเด็ก ขณะเดียวกันก็ต้องทำงานร่วมกับทั้งอุตสาหกรรม องค์กรคุ้มครองเด็ก และหน่วยงานบังคับใช้กฎหมาย ชุดเครื่องมือครั้งนี้จึงออกแบบมาให้คนนอก OpenAI หยิบไปใช้ได้ด้วย
ระบบตรวจจับ CSAM ที่ใช้กันแพร่หลายในอุตสาหกรรมจำนวนมากอาศัยการเทียบค่าแฮช (Hash Matching) คือการแปลงภาพที่เคยถูกยืนยันแล้วว่าเป็น CSAM ให้เป็นรหัสเฉพาะคล้ายลายนิ้วมือ แล้วนำไปเทียบกับภาพที่ผู้ใช้อัปโหลด วิธีนี้แม่นยำกับภาพที่มีอยู่ในฐานข้อมูล แต่มองไม่เห็นภาพใหม่ที่ไม่เคยถูกบันทึกไว้ ซึ่งเป็นช่องโหว่ที่ใหญ่ขึ้นเรื่อย ๆ เมื่อ AI ผลิตภาพใหม่ได้ไม่จำกัด
ระบบคัดแยกภาพตัวใหม่ของ OpenAI จึงเลือกมองหาสัญญาณการล่วงละเมิดจากเนื้อหาในภาพโดยตรง ทำให้จับภาพที่ไม่เคยปรากฏที่ไหนมาก่อนได้ ระบบจะให้คะแนนแต่ละภาพ เพื่อช่วยทีมตรวจสอบจัดลำดับว่าภาพไหนควรดูก่อน และ OpenAI ระบุว่านี่คือระบบคัดแยก CSAM ตัวแรกที่เปิดให้ใช้ในวงกว้าง ซึ่งมีสัญญาณเฉพาะบอกว่าภาพนั้นอาจสร้างด้วย AI
OpenAI พัฒนา ฝึก และประเมินระบบนี้ร่วมกับ National Center for Missing and Exploited Children (NCMEC) องค์กรไม่แสวงกำไรในสหรัฐฯ ที่ดูแล CyberTipline ศูนย์กลางรับแจ้งเหตุการแสวงประโยชน์จากเด็กบนโลกออนไลน์ ส่วนช่องทางเข้าถึง องค์กรที่ผ่านการคัดกรองสามารถเรียกใช้ผ่าน Application Programming Interface (API) ของ OpenAI ได้โดยไม่เสียค่าใช้จ่าย เพื่อให้องค์กรคุ้มครองเด็กและบริษัทเล็กที่ไม่มีทีมความปลอดภัยขนาดใหญ่เข้าถึงเครื่องมือระดับเดียวกันได้
ในการกระจายเครื่องมือ OpenAI ดึง Tech Coalition กลุ่มความร่วมมือของบริษัทเทคด้านความปลอดภัยเด็ก และ ROOST (Robust Open Online Safety Tools) โครงการเครื่องมือความปลอดภัยแบบเปิด เข้ามาช่วย พร้อมประกาศสนับสนุนเครื่องมือของรายอื่นอย่าง Safer ระบบตรวจจับ CSAM ของ Thorn อีกทั้ง OpenAI ยังเพิ่งเข้าร่วมโครงการ Lantern ของ Tech Coalition ซึ่งเป็นเครือข่ายแลกเปลี่ยนสัญญาณการแสวงประโยชน์จากเด็กข้ามแพลตฟอร์ม
John Shehan รองประธานอาวุโสของ NCMEC มองว่าเทคโนโลยีมีบทบาทสำคัญในการระบุ CSAM และท้ายที่สุดคือการระบุตัวเด็กที่อยู่ในภาพเหล่านั้น เครื่องมือนี้จะช่วยให้องค์กรจำนวนมากขึ้นตรวจจับภาพที่ไม่เคยถูกระบุมาก่อน และส่งข้อมูลสำคัญต่อไปยังผู้ที่ทำงานช่วยเหลือเหยื่อได้
ตัวเลขที่ทำให้ระบบนี้น่าสนใจคือประสิทธิภาพ เพราะงานตรวจภาพละเมิดเป็นงานที่ทั้งหนักและบั่นทอนจิตใจผู้ตรวจ ยิ่งระบบส่งภาพที่ไม่ใช่ CSAM มาให้ดูน้อยเท่าไร ทีมก็ยิ่งโฟกัสกับภาพที่ต้องจัดการจริงได้มากขึ้น
เมื่อ OpenAI ทดสอบกับภาพที่ผู้ใช้อัปโหลดเทียบกับระบบป้องกันเดิมของบริษัท พบว่าระบบใหม่น่าจะแจ้งเตือนภาพน้อยลง 48% แต่ยังพบภาพละเมิดในจำนวนใกล้เคียงกับระบบเดิม ขณะที่ภาพที่ระบบใหม่แจ้งเตือนมีโอกาสเป็นภาพละเมิดจริงสูงกว่าราวสองเท่า
ผลจากพาร์ตเนอร์ที่ได้ทดลองใช้ก่อนก็ไปในทางเดียวกัน fal แพลตฟอร์มสร้างสื่อด้วย AI ทดสอบกับภาพจริงบนระบบที่ผ่านการตรวจโดยคน และพบว่า 72% ของภาพที่ระบบแจ้งเตือนด้วยความมั่นใจสูงคือ CSAM ที่ไม่เคยมีในฐานข้อมูลมาก่อน ส่วน invideo AI พบว่าทุก 4 กรณีที่ถูกแจ้งเตือน มี 1 กรณีที่จบด้วยการแบนผู้ใช้ และในการทดสอบของ SafetyKit กับภาพวาดหรือแอนิเมชันที่ทำให้เด็กเป็นวัตถุทางเพศ ระบบตรวจจับได้ถึง 90%
Samuel Wang ทีมเทคนิคของ SafetyKit ให้ความเห็นว่าระบบคัดแยกของ OpenAI ดีที่สุดเท่าที่ทีมเคยทดสอบมา เพราะจับ CSAM ที่การเทียบค่าแฮชพลาดไปได้ ทำผลงานได้ดีกับภาพวาดและแอนิเมชัน และมีอัตราแจ้งเตือนผิดพลาด (False Positive) ต่ำกว่า 1% เมื่อทดสอบกับเนื้อหาผู้ใหญ่ที่ถูกกฎหมาย หมายความว่าระบบช่วยกันเนื้อหาอันตรายได้กว้างขึ้น โดยไม่รบกวนผู้ใช้ทั่วไปมากเกินไป
OpenAI เผยแพร่รายละเอียดของระบบไว้ใน Model Card และเปิดแบบฟอร์มให้องค์กรที่สนใจยื่นขอสิทธิ์ใช้งาน พร้อมระบุว่าจะปรับปรุงระบบต่อจากข้อเสนอแนะของผู้ใช้จริง
ขณะที่ระบบคัดแยกภาพทำหน้าที่จับเนื้อหา อีกฝั่งหนึ่ง OpenAI ก็หันมาจัดการกับพฤติกรรมของคนที่พยายามค้นหาด้วย ที่ผ่านมา ChatGPT ห้ามเนื้อหา CSAM อยู่แล้ว โมเดลถูกฝึกให้ปฏิเสธคำขอ และบัญชีที่ละเมิดนโยบายจะถูกดำเนินการ แต่มาตรการใหม่เพิ่มขั้นตอนเข้าไปอีกชั้น
เมื่อมีคนพยายามหาสื่อล่วงละเมิด ChatGPT จะขึ้นข้อความเตือนที่อธิบายผลที่จะตามมา และย้ำว่าการทำให้เด็กเป็นวัตถุทางเพศสร้างความเสียหาย แม้สิ่งที่ขอจะเป็นภาพที่ AI สร้างก็ตาม จากนั้นระบบจะลบบทสนทนานั้นทิ้งและระงับการเข้าถึง ChatGPT 24 ชั่วโมง โดยยังเปิดช่องทางเชื่อมต่อผู้เชี่ยวชาญที่ช่วยให้คนหยุดพฤติกรรมอันตรายไว้ หากละเมิดซ้ำ บทลงโทษจะยาวขึ้น จนถึงขั้นปิดบัญชีหรือส่งเรื่องให้เจ้าหน้าที่
แนวทางนี้ไม่ได้คิดขึ้นเอง แต่พัฒนาร่วมกับองค์กรและนักวิชาการที่ศึกษาเรื่องการป้องกันการล่วงละเมิดทางเพศเด็ก ทั้ง Protect Children จากฟินแลนด์ มูลนิธิ Lucy Faithfull Foundation จากสหราชอาณาจักร Dr. Caoilte Ó Ciardha นักวิจัยด้านจิตวิทยานิติเวชจาก University of Kent และ Joel Scanlan จาก University of Tasmania ซึ่งเคยประเมินผลการทดลองใช้ข้อความเตือนเพื่อยับยั้งพฤติกรรมลักษณะนี้มาก่อน
Joel Scanlan ซึ่งปัจจุบันเป็นรองศาสตราจารย์ที่ CSAM Deterrence Centre ระบุว่าสิ่งที่ OpenAI ทำใน ChatGPT เป็นตัวอย่างแนวปฏิบัติที่ดีของการยับยั้งพฤติกรรมอันตรายบนแพลตฟอร์ม เพราะออกแบบร่วมกับผู้เชี่ยวชาญที่เคยพัฒนาและประเมินข้อความเตือนมาแล้ว บนฐานของหลักฐานเชิงวิจัย และตั้งเป้าส่งผู้ใช้ไปยังช่องทางช่วยเหลือในพื้นที่ของตัวเองให้ได้มากประเทศที่สุด
การตรวจจับเป็นแค่จุดเริ่มต้น เพราะแพลตฟอร์ม AI อีกจำนวนมากที่สร้างบนโมเดลของ OpenAI ก็ต้องมีระบบป้องกันของตัวเองด้วย OpenAI จึงเผยแพร่คู่มือรับมือ CSAM สำหรับนักพัฒนา ซึ่งพัฒนาร่วมกับ Tech Coalition, Thorn, NCMEC และ Internet Watch Foundation (IWF) ออกแบบให้ใช้ได้กับองค์กรที่อยู่ในขั้นตอนการสร้างระบบความปลอดภัยต่างกัน
คู่มือนี้ครอบคลุมตั้งแต่การวางกฎที่ชัดเจน ช่องทางให้ผู้ใช้รายงานเหตุ เครื่องมือตรวจจับ ไปจนถึงขั้นตอนตรวจสอบและรายงานกรณีต้องสงสัย อีกทั้งยังอธิบายวิธีใช้ตัวระบุผู้ใช้เพื่อความปลอดภัย (Safety Identifiers) ที่ช่วยให้นักพัฒนาโยงการใช้งานผิดวัตถุประสงค์กลับไปยังผู้ใช้แต่ละราย และวิธีดูแลทีมที่ต้องตรวจเนื้อหาอ่อนไหว นักพัฒนาสามารถใช้คู่มือนี้คู่กับระบบคัดแยกภาพตัวใหม่, Moderation API ของ OpenAI, Coop คอนโซลตรวจสอบเนื้อหาแบบติดตั้งเองของ ROOST และบริการเฉพาะทางอย่าง Safer ของ Thorn
ความร่วมมือที่น่าจับตาไม่แพ้กันคือ OpenAI จับมือกับ Anthropic และ Google ร่วมกันว่าจ้างจัดทำแนวทางรับมือเมื่อมีผู้เปิดเผยเรื่องการแสวงประโยชน์หรือการล่วงละเมิดทางเพศเด็กกับระบบ AI ซึ่ง Tech Coalition เพิ่งเผยแพร่ออกมา โดย OpenAI ระบุว่าหลังมีแนวทางเหล่านี้ จำนวนนักพัฒนาที่เข้าถึงเครื่องมือคุ้มครองเด็กและลงทะเบียนรายงาน CSAM กับ NCMEC เพิ่มขึ้นแล้ว
ปลายทางของทั้งหมดนี้คือการช่วยให้เจ้าหน้าที่ตามหาเหยื่อและหยุดผู้กระทำผิดได้เร็วขึ้น OpenAI จึงเริ่มสนับสนุนหน่วยบังคับใช้กฎหมายด้านคุ้มครองเด็ก ด้วยเครื่องมือและการอบรมการใช้ AI ในงานสืบสวน ทั้งปลั๊กอินเฉพาะทาง เครื่องมือสืบสวน และการวิเคราะห์ข้อมูลซับซ้อน โดยผู้ดูแลโครงการจะเป็นผู้จัดการสิทธิ์เข้าถึง
เครื่องมือแรกที่เปิดใช้จะช่วยเจ้าหน้าที่อ่านบันทึกแชตยาว ๆ และเอกสารที่ได้จากกระบวนการทางกฎหมาย หาความเชื่อมโยงที่อาจซ่อนอยู่ และเรียงไทม์ไลน์เหตุการณ์ โดยทุกข้อค้นพบจะลิงก์กลับไปยังเอกสารต้นทาง ข้อดีอีกด้านที่ OpenAI เคยพูดถึงร่วมกับ Thorn คือ AI ช่วยจัดลำดับข้อมูลให้เจ้าหน้าที่ และลดการที่คนต้องเผชิญกับเนื้อหาล่วงละเมิดโดยไม่จำเป็น
การอบรมรอบแรกจะเป็นการแนะนำและสาธิตเครื่องมือ พร้อมคู่มือภาคสนามให้ทีมเปิดดูภายหลัง สิทธิ์ใช้งานขึ้นอยู่กับการอนุมัติของหน่วยงานและเงื่อนไขของโครงการ และ OpenAI วางแผนนำการอบรมรอบต่อไปไปเสนอในงานประชุมระดับภูมิภาค ระดับประเทศ และระดับนานาชาติ
Jeff Jackson อัยการสูงสุดรัฐนอร์ทแคโรไลนา ในฐานะหนึ่งในคณะทำงานด้าน AI ของอัยการสูงสุดระดับรัฐ ย้ำว่าความสำคัญอันดับแรกคือการปกป้องเด็ก และบริษัทเทคต้องยึดสิ่งนี้เป็นอันดับแรกเช่นกัน ทั้ง OpenAI และบริษัทเทครายอื่นต้องทำงานอย่างไม่หยุดเพื่อป้องกันสื่อล่วงละเมิดทางเพศเด็กที่สร้างขึ้นสังเคราะห์
ภาพรวมของประกาศครั้งนี้ชี้ว่า OpenAI ไม่ได้มองเรื่องความปลอดภัยของเด็กเป็นแค่การทำให้ ChatGPT ปฏิเสธคำขออีกต่อไป แต่ขยายไปทั้งต้นน้ำถึงปลายน้ำ ตั้งแต่ขัดจังหวะคนที่กำลังค้นหาและชี้ทางไปหาความช่วยเหลือ จับภาพใหม่ที่ระบบเดิมมองไม่เห็น วางมาตรฐานให้นักพัฒนาที่สร้างบนโมเดลของตัวเอง ไปจนถึงช่วยเจ้าหน้าที่สืบสวนหาตัวผู้กระทำผิด
ปัจจุบันมาตรการเตือนและระงับบัญชี 24 ชั่วโมงใน ChatGPT เริ่มใช้งานแล้ว ระบบคัดแยกภาพเปิดให้องค์กรที่ผ่านการคัดกรองยื่นขอสิทธิ์ใช้ฟรีผ่านแบบฟอร์มของ OpenAI คู่มือสำหรับนักพัฒนาเผยแพร่บนเว็บไซต์นักพัฒนาของ OpenAI แล้ว ส่วนเครื่องมือสำหรับเจ้าหน้าที่สืบสวนจะเปิดผ่านโครงการที่ต้องได้รับอนุมัติจากหน่วยงานต้นสังกัด
ที่มา: OpenAI
ลงทะเบียนเข้าสู่ระบบ เพื่ออ่านบทความฟรีไม่จำกัด