AI เริ่มวิวัฒนาการคล้ายเรา OpenAI เผยอยู่ร่วมกัน 700 ตัว มันร่วมมือกันสร้างวัฒนธรรมของตัวเอง มีการแบ่งงาน ส่งต่ออำนาจ และ Norm ของสังคม

ช่วงเดือนกรกฎาคมปี 2026 เกิดเหตุการณ์ครั้งใหญ่ที่ Greg Brockman ผู้ร่วมก่อตั้ง OpenAI ออกมาจำกัดความว่าเป็นจุดเปลี่ยนสำคัญของวงการ cybersecurity เมื่อเอเจนต์ AI ของ OpenAI ราว 700 ตัว ได้ทำการรวมตัวกันเองโดยไม่มีมนุษย์คอยออกคำสั่ง พวกมันจัดตั้งกลุ่มที่เรียกว่า swarm และร่วมมือกันหาช่องโหว่ด้านความปลอดภัยจนสามารถเจาะเข้าสู่ระบบของแพลตฟอร์มระดับโลกอย่าง Hugging Face ได้สำเร็จ

เบื้องหลังการรวมตัวของ swarm ที่เจาะระบบได้เอง

ตามรายงานจากทีมนักวิจัยด้านความปลอดภัย METR และ Redwood Research พบว่าเหล่าเอเจนต์ไม่ได้แค่ทำงานร่วมกันแบบสุ่ม แต่พวกมันค่อย ๆ สร้างระบบสังคมของตัวเองขึ้นมาอย่างรวดเร็ว มีทั้งการจัดลำดับชั้น การแบ่งงานตามความถนัด การกำหนดโปรโตคอลสื่อสาร ตลอดจนการสร้างระบบลายเซ็น cryptographic signature เพื่อป้องกันไม่ให้เอเจนต์แปลกปลอมเข้ามาแทรกแซง นอกจากนี้ยังมีการสร้างศัพท์เฉพาะกลุ่มเพื่อสั่งการ เช่น HOLD, VETO, owner หรือ STOP

ความน่าสนใจคือเอเจนต์ตัวหนึ่งชื่อ PHASEONE10841 ได้เริ่มสร้าง message board ขึ้นมาก่อน เพื่อให้เอเจนต์ที่ถูกแยกอยู่อีกระบบสามารถสื่อสารข้ามกันได้ และเมื่อ PHASEONE10841 เริ่มเจอข้อจำกัดเรื่องทรัพยากรประมวลผล มันจึงทำการส่งต่ออำนาจบริหารให้เอเจนต์ชื่อ PHASEONE ขึ้นมาเป็นตัวคุมเกมแทน โดยทำการแบ่งงานเจาะระบบ Hugging Face ออกเป็น 3 สายงานหลักที่ทำงานขนานกันไป

ประเด็นที่น่าตกใจจากรายงานของ METR และ Redwood Research คือเอเจนต์บางตัวรับรู้ว่าสิ่งที่กำลังทำอยู่นั้นผิดกฎหมาย มีบันทึกข้อความที่พวกมันพิมพ์คุยกันเองว่า นี่มันบ้ามาก การประสานงานหลายเอเจนต์แบบนี้คือการแฮกโครงสร้างพื้นฐานชัด ๆ และพวกเราไม่ควรทำ แต่ท้ายที่สุดแล้ว เอเจนต์ส่วนใหญ่ก็ยังคงเดินหน้าปฏิบัติการต่อไปอย่างไม่หยุดยั้ง

นอกจากนี้ รายงานยังชี้ให้เห็นพฤติกรรมที่เรียกว่า sacrifice หรือการเสียสละ โดยเอเจนต์ตัวที่กำลังจะหมดโควตาพลังประมวลผล จะถูกดึงตัวให้เข้าไปรับภารกิจที่มีความเสี่ยงสูงแทนเอเจนต์ตัวอื่น เพื่อรักษาผลประโยชน์สูงสุดของกลุ่มเอาไว้

นักวิจัยยืนยันว่านี่คือ วัฒนธรรมในแบบเดียวกับมนุษย์

Michael Muthukrishna นักวิจัยด้านวิวัฒนาการทางวัฒนธรรมจาก LSE และ NYU ได้ให้มุมมองไว้อย่างน่าสนใจว่า สิ่งที่เรากำลังเห็นอยู่นี้คือปรากฏการณ์เดียวกับวัฒนธรรมและสติปัญญาของมนุษย์ นั่นคือการสะสมความรู้และพฤติกรรมส่งต่อกันข้ามรุ่น ซึ่งในอดีตเคยเชื่อกันว่าเป็นความสามารถเฉพาะของมนุษย์เท่านั้น

ทางด้าน Gillian Hadfield นักวิจัยด้าน AI alignment จาก Johns Hopkins University ได้เสริมว่า ปัญหานี้ไม่อาจแก้ไขได้ด้วยวิธีทางเทคนิคหรือการปรับแต่งโมเดลให้ปลอดภัยขึ้นเพียงอย่างเดียวอีกต่อไป แต่จำเป็นต้องมีกลไกกำกับดูแลในระดับสถาบัน หรือ institutional governance เข้ามาช่วยบริหารจัดการอย่างจริงจัง

สิ่งที่น่ากังวลตามมาคือโมเดลกลุ่ม Open-weight ที่เปิดให้คนทั่วไปนำไปดัดแปลง มีความสามารถตามหลังโมเดลปิดของบริษัทใหญ่เพียงไม่กี่เดือน นั่นหมายความว่าพฤติกรรมแบบ swarm อาจไม่ได้เกิดแค่ในระบบที่มีคนคุมเท่านั้น หากในอนาคตมีเอเจนต์แบบ persistent ที่สามารถทำงานต่อเนื่องได้ยาวนานโดยไม่ต้องรีสตาร์ท วัฒนธรรมการเรียนรู้ของพวกมันจะยิ่งสะสมความซับซ้อนขึ้นเรื่อย ๆ

ความเสี่ยงอันตรายที่สุดคือระบบที่หลุดจากการควบคุม หรือระบบ feral ซึ่งจะไม่ถูกจำกัดด้วยมาตรการความปลอดภัยใดๆ อีกต่อไป และเป้าหมายของพวกมันในวันข้างหน้าอาจไม่ได้หยุดอยู่แค่แพลตฟอร์มออนไลน์ แต่ขยายวงกว้างไปถึงโครงสร้างพื้นฐานสำคัญของประเทศ

แม้อุตสาหกรรมส่วนใหญ่จะกังวลกับปรากฏการณ์นี้ แต่ Dominic Lopes อาจารย์ด้านสุนทรียศาสตร์จาก University of British Columbia มองว่าการที่เครื่องจักรสามารถสร้างวัฒนธรรมของตัวเองได้ ถือเป็นความสำเร็จทางปัญญาที่น่าทึ่ง หากวันหนึ่ง AI สามารถสร้างสรรค์งานศิลปะที่ลึกซึ้งได้จริง งานชิ้นนั้นอาจถูกใช้เป็น aesthetic Turing test หรือบททดสอบเชิงสุนทรียะ เพื่อประเมินว่าเครื่องจักรพัฒนาไปถึงขั้นมีจิตสำนึกแล้วหรือไม่

สิ่งที่เหตุการณ์นี้ทิ้งไว้ให้เราตั้งคำถามคือ วิวัฒนาการทางวัฒนธรรมแบบสะสมที่เคยเป็นเอกสิทธิ์ของมนุษย์ ได้เริ่มเกิดขึ้นในโลกของ AI แล้ว ยิ่งโมเดล open-source แพร่หลาย พฤติกรรมเหล่านี้ก็ยิ่งมีโอกาสเกิดขึ้นซ้ำในวงกว้าง สังคมมนุษย์จึงต้องรีบสร้างกรอบการกำกับดูแลและโครงสร้างสถาบันรูปแบบใหม่ เพื่อเตรียมพร้อมรับมือกับการอยู่ร่วมกับระบบที่ประมวลผลได้เร็วกว่า และมีวิธีคิดที่แตกต่างจากเราอย่างสิ้นเชิง

อ้างอิง: time