ChatGPT ปล่อยกฏโหด ใครโกงคุยเรื่องอนาจารเด็ก มีสิทธิโดน ‘แบนบัญชีถาวร’

ใครก็ตามที่พิมพ์หาสื่อล่วงละเมิดทางเพศเด็กใน ChatGPT จากนี้จะไม่ได้เจอแค่คำปฏิเสธเหมือนเดิม แต่จะเจอหน้าจอเตือนที่บอกชัดว่าการทำให้เด็กเป็นวัตถุทางเพศก่อความเสียหายจริง แม้ภาพนั้นจะสร้างด้วย AI ก็ตาม จากนั้นบทสนทนาจะถูกลบทิ้ง และบัญชีจะถูกระงับการใช้งาน ChatGPT ทันที 24 ชั่วโมง

มาตรการนี้เป็นเพียงหนึ่งในชุดเครื่องมือที่ OpenAI เพิ่งเปิดตัวเพื่อรับมือการแสวงประโยชน์และการล่วงละเมิดทางเพศเด็กบนโลกออนไลน์ โดยไฮไลต์ที่ใหญ่ที่สุดคือระบบคัดแยกภาพ (Image Classifier) ตัวใหม่ที่ตรวจจับสื่อล่วงละเมิดทางเพศเด็ก หรือ Child Sexual Abuse Material (CSAM) ได้ รวมถึงภาพที่ AI สร้างขึ้น และ OpenAI เปิดให้องค์กรที่ผ่านการคัดกรองใช้ได้ฟรี นอกจากนี้ยังมีคู่มือสำหรับนักพัฒนา และเครื่องมือ AI สำหรับเจ้าหน้าที่สืบสวนคดีคุ้มครองเด็กด้วย

OpenAI ระบุว่าการต่อกรกับผู้ล่าเด็กบนโลกออนไลน์ไม่ใช่งานที่บริษัทใดทำสำเร็จได้ลำพัง บริษัทเทคแต่ละรายต้องป้องกันไม่ให้เทคโนโลยีของตัวเองถูกใช้ทำร้ายเด็ก ขณะเดียวกันก็ต้องทำงานร่วมกับทั้งอุตสาหกรรม องค์กรคุ้มครองเด็ก และหน่วยงานบังคับใช้กฎหมาย ชุดเครื่องมือครั้งนี้จึงออกแบบมาให้คนนอก OpenAI หยิบไปใช้ได้ด้วย

ตัวจับภาพที่ 'ไม่เคยมีใครเห็นมาก่อน' และบอกได้ว่าภาพไหน AI สร้าง

ระบบตรวจจับ CSAM ที่ใช้กันแพร่หลายในอุตสาหกรรมจำนวนมากอาศัยการเทียบค่าแฮช (Hash Matching) คือการแปลงภาพที่เคยถูกยืนยันแล้วว่าเป็น CSAM ให้เป็นรหัสเฉพาะคล้ายลายนิ้วมือ แล้วนำไปเทียบกับภาพที่ผู้ใช้อัปโหลด วิธีนี้แม่นยำกับภาพที่มีอยู่ในฐานข้อมูล แต่มองไม่เห็นภาพใหม่ที่ไม่เคยถูกบันทึกไว้ ซึ่งเป็นช่องโหว่ที่ใหญ่ขึ้นเรื่อย ๆ เมื่อ AI ผลิตภาพใหม่ได้ไม่จำกัด

ระบบคัดแยกภาพตัวใหม่ของ OpenAI จึงเลือกมองหาสัญญาณการล่วงละเมิดจากเนื้อหาในภาพโดยตรง ทำให้จับภาพที่ไม่เคยปรากฏที่ไหนมาก่อนได้ ระบบจะให้คะแนนแต่ละภาพ เพื่อช่วยทีมตรวจสอบจัดลำดับว่าภาพไหนควรดูก่อน และ OpenAI ระบุว่านี่คือระบบคัดแยก CSAM ตัวแรกที่เปิดให้ใช้ในวงกว้าง ซึ่งมีสัญญาณเฉพาะบอกว่าภาพนั้นอาจสร้างด้วย AI

OpenAI พัฒนา ฝึก และประเมินระบบนี้ร่วมกับ National Center for Missing and Exploited Children (NCMEC) องค์กรไม่แสวงกำไรในสหรัฐฯ ที่ดูแล CyberTipline ศูนย์กลางรับแจ้งเหตุการแสวงประโยชน์จากเด็กบนโลกออนไลน์ ส่วนช่องทางเข้าถึง องค์กรที่ผ่านการคัดกรองสามารถเรียกใช้ผ่าน Application Programming Interface (API) ของ OpenAI ได้โดยไม่เสียค่าใช้จ่าย เพื่อให้องค์กรคุ้มครองเด็กและบริษัทเล็กที่ไม่มีทีมความปลอดภัยขนาดใหญ่เข้าถึงเครื่องมือระดับเดียวกันได้

ในการกระจายเครื่องมือ OpenAI ดึง Tech Coalition กลุ่มความร่วมมือของบริษัทเทคด้านความปลอดภัยเด็ก และ ROOST (Robust Open Online Safety Tools) โครงการเครื่องมือความปลอดภัยแบบเปิด เข้ามาช่วย พร้อมประกาศสนับสนุนเครื่องมือของรายอื่นอย่าง Safer ระบบตรวจจับ CSAM ของ Thorn อีกทั้ง OpenAI ยังเพิ่งเข้าร่วมโครงการ Lantern ของ Tech Coalition ซึ่งเป็นเครือข่ายแลกเปลี่ยนสัญญาณการแสวงประโยชน์จากเด็กข้ามแพลตฟอร์ม

John Shehan รองประธานอาวุโสของ NCMEC มองว่าเทคโนโลยีมีบทบาทสำคัญในการระบุ CSAM และท้ายที่สุดคือการระบุตัวเด็กที่อยู่ในภาพเหล่านั้น เครื่องมือนี้จะช่วยให้องค์กรจำนวนมากขึ้นตรวจจับภาพที่ไม่เคยถูกระบุมาก่อน และส่งข้อมูลสำคัญต่อไปยังผู้ที่ทำงานช่วยเหลือเหยื่อได้

ตรวจน้อยลงเกือบครึ่ง แต่จับได้เท่าเดิม

ตัวเลขที่ทำให้ระบบนี้น่าสนใจคือประสิทธิภาพ เพราะงานตรวจภาพละเมิดเป็นงานที่ทั้งหนักและบั่นทอนจิตใจผู้ตรวจ ยิ่งระบบส่งภาพที่ไม่ใช่ CSAM มาให้ดูน้อยเท่าไร ทีมก็ยิ่งโฟกัสกับภาพที่ต้องจัดการจริงได้มากขึ้น

เมื่อ OpenAI ทดสอบกับภาพที่ผู้ใช้อัปโหลดเทียบกับระบบป้องกันเดิมของบริษัท พบว่าระบบใหม่น่าจะแจ้งเตือนภาพน้อยลง 48% แต่ยังพบภาพละเมิดในจำนวนใกล้เคียงกับระบบเดิม ขณะที่ภาพที่ระบบใหม่แจ้งเตือนมีโอกาสเป็นภาพละเมิดจริงสูงกว่าราวสองเท่า

ผลจากพาร์ตเนอร์ที่ได้ทดลองใช้ก่อนก็ไปในทางเดียวกัน fal แพลตฟอร์มสร้างสื่อด้วย AI ทดสอบกับภาพจริงบนระบบที่ผ่านการตรวจโดยคน และพบว่า 72% ของภาพที่ระบบแจ้งเตือนด้วยความมั่นใจสูงคือ CSAM ที่ไม่เคยมีในฐานข้อมูลมาก่อน ส่วน invideo AI พบว่าทุก 4 กรณีที่ถูกแจ้งเตือน มี 1 กรณีที่จบด้วยการแบนผู้ใช้ และในการทดสอบของ SafetyKit กับภาพวาดหรือแอนิเมชันที่ทำให้เด็กเป็นวัตถุทางเพศ ระบบตรวจจับได้ถึง 90%

Samuel Wang ทีมเทคนิคของ SafetyKit ให้ความเห็นว่าระบบคัดแยกของ OpenAI ดีที่สุดเท่าที่ทีมเคยทดสอบมา เพราะจับ CSAM ที่การเทียบค่าแฮชพลาดไปได้ ทำผลงานได้ดีกับภาพวาดและแอนิเมชัน และมีอัตราแจ้งเตือนผิดพลาด (False Positive) ต่ำกว่า 1% เมื่อทดสอบกับเนื้อหาผู้ใหญ่ที่ถูกกฎหมาย หมายความว่าระบบช่วยกันเนื้อหาอันตรายได้กว้างขึ้น โดยไม่รบกวนผู้ใช้ทั่วไปมากเกินไป

OpenAI เผยแพร่รายละเอียดของระบบไว้ใน Model Card และเปิดแบบฟอร์มให้องค์กรที่สนใจยื่นขอสิทธิ์ใช้งาน พร้อมระบุว่าจะปรับปรุงระบบต่อจากข้อเสนอแนะของผู้ใช้จริง

จาก 'ปฏิเสธ' สู่ 'ขัดจังหวะและชี้ทางออก' ใน ChatGPT

ขณะที่ระบบคัดแยกภาพทำหน้าที่จับเนื้อหา อีกฝั่งหนึ่ง OpenAI ก็หันมาจัดการกับพฤติกรรมของคนที่พยายามค้นหาด้วย ที่ผ่านมา ChatGPT ห้ามเนื้อหา CSAM อยู่แล้ว โมเดลถูกฝึกให้ปฏิเสธคำขอ และบัญชีที่ละเมิดนโยบายจะถูกดำเนินการ แต่มาตรการใหม่เพิ่มขั้นตอนเข้าไปอีกชั้น

เมื่อมีคนพยายามหาสื่อล่วงละเมิด ChatGPT จะขึ้นข้อความเตือนที่อธิบายผลที่จะตามมา และย้ำว่าการทำให้เด็กเป็นวัตถุทางเพศสร้างความเสียหาย แม้สิ่งที่ขอจะเป็นภาพที่ AI สร้างก็ตาม จากนั้นระบบจะลบบทสนทนานั้นทิ้งและระงับการเข้าถึง ChatGPT 24 ชั่วโมง โดยยังเปิดช่องทางเชื่อมต่อผู้เชี่ยวชาญที่ช่วยให้คนหยุดพฤติกรรมอันตรายไว้ หากละเมิดซ้ำ บทลงโทษจะยาวขึ้น จนถึงขั้นปิดบัญชีหรือส่งเรื่องให้เจ้าหน้าที่

แนวทางนี้ไม่ได้คิดขึ้นเอง แต่พัฒนาร่วมกับองค์กรและนักวิชาการที่ศึกษาเรื่องการป้องกันการล่วงละเมิดทางเพศเด็ก ทั้ง Protect Children จากฟินแลนด์ มูลนิธิ Lucy Faithfull Foundation จากสหราชอาณาจักร Dr. Caoilte Ó Ciardha นักวิจัยด้านจิตวิทยานิติเวชจาก University of Kent และ Joel Scanlan จาก University of Tasmania ซึ่งเคยประเมินผลการทดลองใช้ข้อความเตือนเพื่อยับยั้งพฤติกรรมลักษณะนี้มาก่อน

Joel Scanlan ซึ่งปัจจุบันเป็นรองศาสตราจารย์ที่ CSAM Deterrence Centre ระบุว่าสิ่งที่ OpenAI ทำใน ChatGPT เป็นตัวอย่างแนวปฏิบัติที่ดีของการยับยั้งพฤติกรรมอันตรายบนแพลตฟอร์ม เพราะออกแบบร่วมกับผู้เชี่ยวชาญที่เคยพัฒนาและประเมินข้อความเตือนมาแล้ว บนฐานของหลักฐานเชิงวิจัย และตั้งเป้าส่งผู้ใช้ไปยังช่องทางช่วยเหลือในพื้นที่ของตัวเองให้ได้มากประเทศที่สุด

คู่มือที่ OpenAI ทำร่วมกับ Anthropic และ Google

การตรวจจับเป็นแค่จุดเริ่มต้น เพราะแพลตฟอร์ม AI อีกจำนวนมากที่สร้างบนโมเดลของ OpenAI ก็ต้องมีระบบป้องกันของตัวเองด้วย OpenAI จึงเผยแพร่คู่มือรับมือ CSAM สำหรับนักพัฒนา ซึ่งพัฒนาร่วมกับ Tech Coalition, Thorn, NCMEC และ Internet Watch Foundation (IWF) ออกแบบให้ใช้ได้กับองค์กรที่อยู่ในขั้นตอนการสร้างระบบความปลอดภัยต่างกัน

คู่มือนี้ครอบคลุมตั้งแต่การวางกฎที่ชัดเจน ช่องทางให้ผู้ใช้รายงานเหตุ เครื่องมือตรวจจับ ไปจนถึงขั้นตอนตรวจสอบและรายงานกรณีต้องสงสัย อีกทั้งยังอธิบายวิธีใช้ตัวระบุผู้ใช้เพื่อความปลอดภัย (Safety Identifiers) ที่ช่วยให้นักพัฒนาโยงการใช้งานผิดวัตถุประสงค์กลับไปยังผู้ใช้แต่ละราย และวิธีดูแลทีมที่ต้องตรวจเนื้อหาอ่อนไหว นักพัฒนาสามารถใช้คู่มือนี้คู่กับระบบคัดแยกภาพตัวใหม่, Moderation API ของ OpenAI, Coop คอนโซลตรวจสอบเนื้อหาแบบติดตั้งเองของ ROOST และบริการเฉพาะทางอย่าง Safer ของ Thorn

ความร่วมมือที่น่าจับตาไม่แพ้กันคือ OpenAI จับมือกับ Anthropic และ Google ร่วมกันว่าจ้างจัดทำแนวทางรับมือเมื่อมีผู้เปิดเผยเรื่องการแสวงประโยชน์หรือการล่วงละเมิดทางเพศเด็กกับระบบ AI ซึ่ง Tech Coalition เพิ่งเผยแพร่ออกมา โดย OpenAI ระบุว่าหลังมีแนวทางเหล่านี้ จำนวนนักพัฒนาที่เข้าถึงเครื่องมือคุ้มครองเด็กและลงทะเบียนรายงาน CSAM กับ NCMEC เพิ่มขึ้นแล้ว

AI ผู้ช่วยของเจ้าหน้าที่สืบสวน

ปลายทางของทั้งหมดนี้คือการช่วยให้เจ้าหน้าที่ตามหาเหยื่อและหยุดผู้กระทำผิดได้เร็วขึ้น OpenAI จึงเริ่มสนับสนุนหน่วยบังคับใช้กฎหมายด้านคุ้มครองเด็ก ด้วยเครื่องมือและการอบรมการใช้ AI ในงานสืบสวน ทั้งปลั๊กอินเฉพาะทาง เครื่องมือสืบสวน และการวิเคราะห์ข้อมูลซับซ้อน โดยผู้ดูแลโครงการจะเป็นผู้จัดการสิทธิ์เข้าถึง

เครื่องมือแรกที่เปิดใช้จะช่วยเจ้าหน้าที่อ่านบันทึกแชตยาว ๆ และเอกสารที่ได้จากกระบวนการทางกฎหมาย หาความเชื่อมโยงที่อาจซ่อนอยู่ และเรียงไทม์ไลน์เหตุการณ์ โดยทุกข้อค้นพบจะลิงก์กลับไปยังเอกสารต้นทาง ข้อดีอีกด้านที่ OpenAI เคยพูดถึงร่วมกับ Thorn คือ AI ช่วยจัดลำดับข้อมูลให้เจ้าหน้าที่ และลดการที่คนต้องเผชิญกับเนื้อหาล่วงละเมิดโดยไม่จำเป็น

การอบรมรอบแรกจะเป็นการแนะนำและสาธิตเครื่องมือ พร้อมคู่มือภาคสนามให้ทีมเปิดดูภายหลัง สิทธิ์ใช้งานขึ้นอยู่กับการอนุมัติของหน่วยงานและเงื่อนไขของโครงการ และ OpenAI วางแผนนำการอบรมรอบต่อไปไปเสนอในงานประชุมระดับภูมิภาค ระดับประเทศ และระดับนานาชาติ

Jeff Jackson อัยการสูงสุดรัฐนอร์ทแคโรไลนา ในฐานะหนึ่งในคณะทำงานด้าน AI ของอัยการสูงสุดระดับรัฐ ย้ำว่าความสำคัญอันดับแรกคือการปกป้องเด็ก และบริษัทเทคต้องยึดสิ่งนี้เป็นอันดับแรกเช่นกัน ทั้ง OpenAI และบริษัทเทครายอื่นต้องทำงานอย่างไม่หยุดเพื่อป้องกันสื่อล่วงละเมิดทางเพศเด็กที่สร้างขึ้นสังเคราะห์

จาก 'ไม่ตอบ' สู่การปิดช่องทั้งระบบ

ภาพรวมของประกาศครั้งนี้ชี้ว่า OpenAI ไม่ได้มองเรื่องความปลอดภัยของเด็กเป็นแค่การทำให้ ChatGPT ปฏิเสธคำขออีกต่อไป แต่ขยายไปทั้งต้นน้ำถึงปลายน้ำ ตั้งแต่ขัดจังหวะคนที่กำลังค้นหาและชี้ทางไปหาความช่วยเหลือ จับภาพใหม่ที่ระบบเดิมมองไม่เห็น วางมาตรฐานให้นักพัฒนาที่สร้างบนโมเดลของตัวเอง ไปจนถึงช่วยเจ้าหน้าที่สืบสวนหาตัวผู้กระทำผิด

ปัจจุบันมาตรการเตือนและระงับบัญชี 24 ชั่วโมงใน ChatGPT เริ่มใช้งานแล้ว ระบบคัดแยกภาพเปิดให้องค์กรที่ผ่านการคัดกรองยื่นขอสิทธิ์ใช้ฟรีผ่านแบบฟอร์มของ OpenAI คู่มือสำหรับนักพัฒนาเผยแพร่บนเว็บไซต์นักพัฒนาของ OpenAI แล้ว ส่วนเครื่องมือสำหรับเจ้าหน้าที่สืบสวนจะเปิดผ่านโครงการที่ต้องได้รับอนุมัติจากหน่วยงานต้นสังกัด

ที่มา: OpenAI

ลงทะเบียนเข้าสู่ระบบ เพื่ออ่านบทความฟรีไม่จำกัด

No comment

RELATED ARTICLE

Responsive image

Apple เปิดตัวโครงการวิจัยด้าน AI เพื่อสุขภาพ จับมือ OpenEvidence ยกระดับความน่าเชื่อถือทางการแพทย์บน iPhone

Apple จับมือ OpenEvidence เปิดแอปศึกษาการใช้ AI ตอบคำถามสุขภาพ ชวนผู้ใช้ iPhone ในสหรัฐฯ สูงสุด 200,000 คน คำตอบอ้างอิงงานวิจัยทางการแพทย์ ข้อมูลไม่ถูกนำไปเทรน AI...

Responsive image

Inventec จากไต้หวัน เพิ่มลงทุนไทย 2,520 ล้านบาท ขยายฐานผลิตชิ้นส่วนเซิร์ฟเวอร์ AI ในไทย จ้างงานคนไทยรวมกว่า 8,500 คน

บีโอไออนุมัติให้ บริษัท อินเวนเทค อิเล็กทรอนิกส์ (ประเทศไทย) จำกัด ในเครือ Inventec Corporation จากไต้หวัน ลงทุนเพิ่ม 2,520 ล้านบาท เพื่อผลิตชิ้นส่วนสำคัญของ AI Server และเซิร์ฟเวอ...

Responsive image

Gen Z เริ่มมองคนใช้ AI มีภาพลักษณ์ ‘ขี้เกียจและไม่เก่ง’ แต่ขณะเดียวกัน พวกเขาก็ยังต้องใช้ AI เพื่อช่วยงานและเป็นทางลัดอัปเงินเดือน

ผลสำรวจชี้ Gen Z กว่า 79% เชื่อว่า AI ทำให้คนขี้เกียจและคิดน้อยลง แต่ยังเปิด ChatGPT ทำงานทุกวัน เจาะลึกจิตวิทยาเบื้องหลังทางลัดสู่การเลื่อนตำแหน่ง และทางออกขององค์กร...