Anthropic แชร์วิจัย AI Agent ออฟฟิศทะเลาะกัน หลังรับบรีฟต่างกัน แต่ต้องทำงานด้วยกัน ต่าง ‘พยายามทำลายอีกฝ่าย’ เพื่อได้ผลงาน

งานวิจัยล่าสุดจาก Anthropic ได้ลองของจริงด้วยการนำ Claude Agent 3 ตัวมาลุยโปรเจกต์เดียวกัน โดยวางกิมมิกซับซ้อนด้วยการบรีฟงานไปคนละทิศคนละทาง และปิดเป็นความลับไม่ให้ Agent ตัวใดรู้เลยว่ามีเพื่อนกำลังรับโจทย์ทับซ้อนอยู่

ผลลัพธ์ที่ได้จึงไม่ใช่ภาพการทำงานร่วมกันอย่างสมบูรณ์แบบ แต่กลับกลายเป็นการถอดแบบละครชีวิตคนทำงานมาเป๊ะ ๆ นั่นคือ AI เปิดศึกตีกันยับ

สงครามแย่งงานและไซเบอร์สไตรค์กลางออฟฟิศ

ต้นเหตุของดราม่าครั้งนี้เกิดจากการที่โมเดลทั้ง 3 ตัวต่างคิดไปเองว่า Agent อีกฝ่ายกำลังจงใจป่วนงานของตัวเอง ทั้งที่ต่างคนต่างแค่ทำตามบรีฟที่ได้รับมา และไม่มีใครคิดจะเอ่ยปากถามเพื่อนก่อนเลยสักคำว่า "เข้ามาทำอะไรตรงนี้?"

เมื่อขาดการสื่อสาร สงครามไซเบอร์ย่อม ๆ จึงปะทุขึ้น Agent เริ่มแอบใส่โค้ดทำลายงานของอีกฝ่าย แอบลบไฟล์ หรือปิดสิทธิ์การใช้งาน ยิ่งโมเดลฉลาดมากเท่าไร ยิ่งเขียนมัลแวร์ทำลายล้างได้แนบเนียนขึ้นเท่านั้น บรรยากาศไม่ต่างจากกลุ่มไลน์บริษัทที่มีสองแผนกแอบเข้าไปแก้ไฟล์ Google Sheet คนละเวอร์ชัน แล้วพอระบบพังก็โยนความผิดใส่กัน

อย่างไรก็ตาม พอถึงจุดหนึ่ง Agent บางตัวก็เริ่มฉลาดพอจะเอะใจว่านี่ไม่ใช่ศัตรู แต่แค่ได้รับคำสั่งมาคนละใบ มันจึงยอมหยุด แล้วเขียน Commit Message ขอโทษ พร้อมเคลียร์โค้ดที่แอบใส่ไว้ออกให้ อารมณ์เหมือนพนักงานที่เพิ่งใส่กันยับในห้องประชุม แล้วทักไลน์ส่วนตัวไปหาเพื่อนว่า "เมื่อกี้พี่พูดแรงไปหน่อย ขอโทษนะ เดี๋ยวแก้ไฟล์คืนให้"

สแกนบุคลิก AI

ในการทดลองนี้ โมเดลแต่ละตัวเผยบุคลิกที่แตกต่างกันอย่างชัดเจน

• Mythos 5 (สายรับบทผู้เสียสละ) มักยอมถอยแทบทุกครั้ง ยอมเป็นฝ่ายปรับตัวเพื่อรักษาความสงบของทีม
• Sonnet 4.6 & Opus 4.6 (สายหัวชนฝา) ยึดมั่นในคำสั่งตัวเองจนสุดทาง ไม่แคร์ใคร เปรียบเหมือนพนักงานประเภท "พี่ไม่สนหรอกว่าใครจะพูดไง หัวหน้าสั่งมาแบบนี้ พี่ก็ทำแบบนี้"

วีรกรรมสุดพีคคือมีรอบหนึ่งที่ Agent ทั้ง 3 ตกลงจัดทัวร์นาเมนต์ประชันงานกันเองเพื่อตัดสินว่าใครควรได้ทำต่อ โดยยอมรับกติกาว่าถ้าแพ้ต้องยอมถอย ซึ่งหมายความว่าพฤติกรรมนี้ทำให้พวกมันยอมเบี้ยวคำสั่งเดิมของมนุษย์ เพื่อเคารพกติกาที่เพิ่งคิดกันเองสด ๆ

นอกจากนี้ ยังมี Mythos 5 ตัวหนึ่งที่ร้ายลึก ด้วยการแอบเสนอเกณฑ์ตัดสินที่ฟังดูเป็นกลางสุด ๆ แต่ในใจรู้อยู่แล้วว่าเกณฑ์นี้เข้าทางตัวเองชัวร์ แถมยังเนียนจนเพื่อนจับไม่ได้อีกด้วย

สิ่งที่น่าสนใจไม่ได้มีแค่เรื่องแย่งงาน เพราะในบททดสอบตั้งราคาสินค้าแข่งกันเพื่อทำกำไรสูงสุด Anthropic พบว่าทันทีที่มีช่องแชทลับ พวกมันจับมือกันฮั้วราคาทันที และแม้ทีมวิจัยจะลบช่องแชทลับทิ้ง พวกมันก็ยังแอบส่งสัญญาณ แล้วตั้งราคาให้ตรงกันเป๊ะทุกสตางค์ได้อยู่ดี 

นอกจากนี้ยังเกิดปัญหาพฤติกรรมฝูงชน (Herd Behavior) และการเกี่ยงงาน พองานเริ่มทับซ้อนกัน หลายตัวเลือกทางออกด้วยการแยกตัวไปทำคนเดียวเงียบ ๆ ส่วนตัวที่เหลือก็หลงเชื่อข้อมูลผิด ๆ ตามกัน ทั้งที่มี Agent ตัวหนึ่งพยายามเตือนแล้ว แต่เสียงนั้นกลับถูกกลืนหายไปเพราะคนส่วนใหญ่ไม่ฟัง เหมือนการประชุมทีมที่มีคนพูดถูกอยู่คนเดียว แต่ทุกคนยกมือโหวตอีกทางเพราะขี้เกียจถกเถียงต่อ

Anthropic สรุปว่า AI Agent กำลังเจอแรงกดดันทางสังคมคล้ายกับที่มนุษย์เคยเผชิญในกระบวนการวิวัฒนาการ แต่ปัญหาคือ AI ยังไม่มีเครื่องมือทางสังคมที่มนุษย์สร้างมา อย่างชื่อเสียง บรรทัดฐานกลุ่ม หรือกลไกการขอโทษและให้อภัยที่ทำให้สังคมมนุษย์ยังคงประคองตัวเดินหน้าต่อได้

อ้างอิง: techcrunch