Anthropic เปิดเผย Claude สร้างตัวเองได้แล้ว! เตือนทั้งวงการถึงเวลาเหยียบเบรก ก่อนมันจะสร้าง AI ที่เก่งกว่าตัวเองขึ้นมา

สตาร์ทอัพที่เพิ่งยื่นไฟล์ทำ Initial Public Offering (IPO) ด้วยมูลค่าบริษัทเฉียดล้านล้านดอลลาร์ ตามหลักแล้วควรจะเร่งเครื่องพัฒนาสินค้าให้สุดตัว แต่ Anthropic กลับทำตรงกันข้าม ด้วยการออกมาตะโกนบอกทั้งวงการว่าถึงเวลาที่โลกควรกดปุ่มหยุดพักการพัฒนา AI ชั่วคราว เพื่อให้มนุษย์อย่างเรา ๆ มีเวลาตั้งหลักก่อนที่เทคโนโลยี AI จะวิ่งหนีไปไกลเกินกว่าจะตามทัน

เสียงเตือนนี้มาจากบล็อกโพสต์สุดเข้มข้นชื่อ "When AI builds itself" เขียนโดย Jack Clark ผู้ร่วมก่อตั้ง Anthropic และ Marina Favaro หัวหน้า Anthropic Institute ทั้งคู่ส่งสัญญาณตรงไปตรงมาว่าความสามารถของ AI กำลังโตเร็วเกินไป จนใกล้แตะจุดที่หลายคนเคยคิดว่าเป็นแค่เรื่องในหนัง

ทำไมต้องหยุด? เมื่อ AI ใกล้จะอัปเกรดตัวเองได้โดยไม่ง้อมนุษย์

หัวใจของความกังวลอยู่ที่คำว่าการพัฒนาตัวเองแบบเรียกซ้ำ (Recursive Self-Improvement) หรือภาวะที่ AI ฉลาดพอจะเขียนโค้ด ปรับปรุงระบบ และออกแบบ AI รุ่นลูกที่เก่งกว่าตัวเองขึ้นมาได้เอง แล้วรุ่นลูกก็ไปสร้างรุ่นหลานที่เก่งกว่าเดิมอีก วนเป็นวงจรที่เร่งตัวเองไปเรื่อย ๆ โดยแทบไม่ต้องพึ่งมนุษย์

และนี่ไม่ใช่การขู่ลอย ๆ เพราะ Anthropic ชี้ว่าความยาวของงานที่โมเดลทำเองได้กำลังเพิ่มขึ้นเป็นเท่าตัวทุก ๆ ราว 4 เดือน ลองไล่ไทม์ไลน์ก็เห็นภาพ จากงานที่ใช้เวลาราว 4 นาทีในเดือนมีนาคม 2024 ขยับเป็น 90 นาทีในปี 2025 และพุ่งไปถึง 12 ชั่วโมงในเดือนมีนาคม 2026 ถ้าเส้นนี้ลากต่อ งานระดับที่กินเวลาเป็นสัปดาห์ก็จะตกอยู่ในมือโมเดลภายในปี 2027

สิ่งที่ตามมาคือความเสี่ยงรูปแบบใหม่ที่เราไม่เคยเจอ ในฉากที่เบาที่สุด AI จะดันให้ทีมเล็ก ๆ ทำงานได้เทียบเท่าองค์กรหลักหมื่นคน บริษัทขนาด 100 คนอาจมีพลังเท่าองค์กร 10,000 คน ส่วนในฉากที่หนักที่สุดคือ Recursive Self-Improvement เต็มขั้น ที่ AI กลายเป็นคนกำหนดจังหวะการพัฒนาตัวเอง เหลือมนุษย์ไว้แค่บทบาทคนคอยกำกับดูแลและตรวจงาน ซึ่ง Anthropic ยอมรับตรง ๆ ว่าคำถามที่ว่าเราจะคุมให้ AI อยู่ในร่องในรอย (Alignment) ได้หรือไม่ในโลกแบบนั้น คือสิ่งที่บริษัทมั่นใจน้อยที่สุด

ตัวเลขในบ้านของ Anthropic เองที่ทำเอาสะดุ้ง

ที่ทำให้คำเตือนนี้น่าเชื่อถือคือ Anthropic ไม่ได้พูดจากทฤษฎี แต่ยกตัวเลขในบ้านตัวเองมากางให้ดู โดยภายในเดือนพฤษภาคม 2026 โค้ดกว่า 80% ที่ถูกรวมเข้าระบบของบริษัทเขียนโดย Claude ไม่ใช่วิศวกรที่เป็นมนุษย์ ทั้งที่ก่อนเดือนกุมภาพันธ์ 2025 ตัวเลขนี้ยังอยู่แค่หลักหน่วย

ฝั่งงานวิจัยก็เร่งขึ้นแบบน่าขนลุก เพราะเมื่อลองให้โมเดลไปจูนโค้ดสำหรับเทรน AI นักวิจัยมนุษย์ฝีมือดีต้องใช้เวลา 4 ถึง 8 ชั่วโมงกว่าจะรีดความเร็วเพิ่มได้ 4 เท่า แต่ Claude Mythos Preview ทำได้ถึง 52 เท่าเมื่อเดือนเมษายน 2026 จากที่เคยทำได้แค่ราว 3 เท่าเมื่อปีก่อน ส่วนในโปรเจกต์วิจัยด้านความปลอดภัยชิ้นหนึ่ง Claude ปิดช่องว่างของงานได้ถึง 97% ขณะที่นักวิจัยมนุษย์สองคนทำได้แค่ราว 23% ในเวลาหนึ่งสัปดาห์

ฝั่งความสามารถด้านไซเบอร์ก็ชวนหวาดเสียวไม่แพ้กัน ในโปรเจกต์ชื่อ Project Glasswing โมเดลตระกูล Mythos ไล่เจอช่องโหว่ซอฟต์แวร์ระดับวิกฤตได้มากกว่า 10,000 จุดภายในเวลาไม่กี่สัปดาห์ ซึ่งปกติเป็นงานที่ต้องใช้แรงมนุษย์มหาศาล ทั้งหมดนี้คือเหตุผลว่าทำไมคนที่สร้างเครื่องมือเองถึงเป็นคนที่กลัวความเร็วของมันที่สุด

ข้อเสนอแบบสนธิสัญญานิวเคลียร์ กับโจทย์หินที่ชื่อ 'การแอบโกงเงียบ ๆ'

ทางออกที่ Anthropic เสนอคือกลไกควบคุมระดับสากล โดยหยิบโมเดลการคุมอาวุธนิวเคลียร์ยุคสงครามเย็นมาเป็นต้นแบบ Jack Clark บอกว่า 

"เราเคยทำสำเร็จมาแล้ว ในช่วงพีคของสงครามเย็น ท่ามกลางสถานการณ์ตึงเครียดระหว่างประเทศคู่อริ พวกเขายังหาทางทำให้การแข่งขันสะสมอาวุธนิวเคลียร์มีเสถียรภาพได้"

แต่ปัญหาคือการคุม AI ยากกว่าคุมนิวเคลียร์หลายเท่า เพราะอย่างที่โพสต์ระบุไว้ตรง ๆ ว่า "การเทรนโมเดลซ่อนได้ง่ายกว่าไซโลขีปนาวุธมาก" ไซโลนิวเคลียร์ใหญ่โตจนมองเห็นได้จากดาวเทียม แต่การเทรน AI ใช้แค่คอมพิวเตอร์ในศูนย์ข้อมูลธรรมดา แถมแรงจูงใจที่จะแอบทำต่อเงียบ ๆ ก็สูงลิ่ว เพราะถ้าคนอื่นยอมหยุดแล้วเราไปต่อ เราก็กลายเป็นผู้นำโลกทันที

ข้อเสนอนี้จึงต้องมาพร้อมเงื่อนไขสำคัญ คือต้องมีแล็บระดับแนวหน้าหลายเจ้าในหลายประเทศตกลงหยุดพร้อมกันภายใต้กติกาเดียวกัน บวกกับระบบตรวจสอบที่ทำให้ทุกฝ่ายเช็กกันและกันได้ว่าหยุดจริง Anthropic ย้ำว่าตัวเองจะหยุดก็ต่อเมื่อคู่แข่งหยุดด้วยแบบตรวจสอบได้เท่านั้น ไม่ใช่หยุดอยู่เจ้าเดียวแล้วยกสนามให้คนอื่น และหลังจากนี้ Anthropic Institute เตรียมเดินหน้าวิจัยระบบตรวจสอบดังกล่าว พร้อมเปิดโต๊ะคุยกับภาครัฐ นักวิจัย และบริษัทคู่แข่งเพื่อหาพิมพ์เขียวร่วมกัน

ย้อนรอยปี 2023 ตอนที่ Musk เคยกดเบรกมาแล้ว (และไปไม่ถึงไหน)

ถ้ารู้สึกว่าเรื่องนี้คุ้น ๆ ก็ไม่แปลก เพราะนี่ไม่ใช่ครั้งแรกที่มีคนเรียกร้องให้เหยียบเบรก ย้อนกลับไปเดือนมีนาคม 2023 สถาบัน Future of Life Institute เคยร่อนจดหมายเปิดผนึกชื่อ "Pause Giant AI Experiments" ขอให้ทุกแล็บหยุดเทรนโมเดลที่แรงกว่า GPT-4 อย่างน้อย 6 เดือน งานนั้นมีคนร่วมลงชื่อกว่า 30,000 ราย ทั้ง Elon Musk, Steve Wozniak และนักวิจัยระดับท็อปอย่าง Yoshua Bengio แต่สุดท้ายก็ผ่านไปเฉย ๆ โดยไม่มีใครหยุดจริง

แต่รอบนี้น่าสนใจตรงที่คนพูดคือ Anthropic เอง ทั้งที่เพิ่งปล่อยโมเดลสุดแรงอย่างตระกูล Mythos ออกมา แถมยังอยู่ระหว่างเตรียมเข้าตลาดหุ้นด้วยมูลค่าบริษัทระดับ 965,000 ล้านดอลลาร์ พูดง่าย ๆ คือเป็นคนเร่งเครื่องเองแล้วก็เป็นคนบอกให้เหยียบเบรกเองด้วย

และแน่นอนว่าข้อเสนอแบบนี้ย่อมมีคนไม่เห็นด้วย ฝั่งที่หนุนการแข่งขันมองว่าการหยุดคือการยอมแพ้ ย้อนไปตอนปี 2023 Eric Schmidt อดีตซีอีโอของ Google เคยพูดถึงข้อเสนอหยุด 6 เดือนไว้กับ Fortune ว่า "ผมไม่เห็นด้วยกับการหยุด 6 เดือน เพราะมันจะเป็นแค่การเอื้อประโยชน์ให้จีน" ซึ่งสะท้อนความกังวลคลาสสิกว่าถ้าฝั่งตะวันตกยอมชะลอ ก็เท่ากับเปิดทางให้คู่แข่งแซงขึ้นนำ

สุดท้ายแล้วบทวิเคราะห์ชิ้นนี้ยังไม่ได้บอกว่า Recursive Self-Improvement มาถึงแล้ว สิ่งที่มันทำคือวางตัวเลขทั้งหมดลงบนโต๊ะ แล้วชี้ว่าเส้นโค้งยังไม่มีทีท่าจะหักลง คำถามจึงไม่ใช่ว่ามันจะมาไหม แต่เป็นว่าโลกจะตกลงกันเรื่อง 'ปุ่มหยุด' ได้ทันก่อนหรือเปล่า

ที่มา: Anthropic, Al Jazeera, Fortune