Anthropic เตือนทั่วโลกต้องหยุดพัฒนา AI เสนอต้นแบบการควบคุมอาวุธนิวเคลียร์

Anthropic สตาร์ทอัพ AI ระดับแถวหน้า ออกมาเรียกร้องให้วงการ AI ทั่วโลกจับมือกัน "กดปุ่มหยุดพัก" ชะลอการพัฒนา AI ชั่วคราว เพื่อให้มนุษยชาติอย่างเรา ๆ ได้มีเวลาตั้งหลักและเตรียมรับมือกับแรงกระแทกที่กำลังจะมาถึง

เรื่องนี้ถูกเปิดเผยผ่านบล็อกโพสต์สุดเข้มข้นโดย Jack Clark ผู้ร่วมก่อตั้ง Anthropic และ Marina Favaro หัวหน้าสถาบัน Anthropic Institute ซึ่งทั้งคู่ส่งสัญญาณเตือนภัยแบบตรงไปตรงมาว่า ตอนนี้เทคโนโลยีมันกำลังโตไปไกลและเร็วมากเกินไปแล้ว

ทำไมต้องหยุด? เมื่อ AI กำลังจะอัปเกรดตัวเองได้แบบไม่ง้อมนุษย์

Anthropic อธิบายว่า ตอนนี้ AI กำลังก้าวข้ามขีดจำกัดไปสู่อีกระดับ มันไม่ได้แค่มาช่วยงานธรรมดาๆ แล้ว แต่กำลังจะทำให้ประสิทธิภาพการทำงานของมนุษย์พุ่งทะยานไปอีกเป็น 1,000 เท่า หรือร้ายแรงกว่านั้นคือ เข้ามาเสียบแทนตำแหน่งงานของมนุษย์แบบ 100% จนเกิดเป็นความเสี่ยงรูปแบบใหม่ที่เราไม่เคยเจอมาก่อน

แต่สิ่งที่น่ากลัวที่สุด คือสิ่งที่เรียกว่า Recursive Intelligence หรือภาวะที่ AI เริ่มฉลาดพอที่จะเขียนโค้ด ปรับปรุงระบบ และสร้าง AI รุ่นลูกรุ่นหลานที่เก่งกว่าเดิมขึ้นมาเอง โดยไม่ต้องพึ่งพามนุษย์อีกต่อไป!

"ลองนึกภาพการปะทะกันระหว่าง AI ที่พัฒนาตัวเองได้เร็วขึ้นเรื่อย ๆ แบบทวีคูณ กับโลกของมนุษย์ที่มีข้อจำกัดทั้งเรื่องความสัมพันธ์และการบริหารจัดการดูสิ... นั่นคืออนาคตที่เราเดาทางไม่ได้เลย" สองผู้บริหารกล่าว

Anthropic เสนอว่าเราต้องมีกลไกควบคุมระดับสากล เหมือนกับการควบคุมอาวุธนิวเคลียร์ในอดีต แต่ความท้าทายขั้นสุดยอดคือ จะทำยังไงไม่ให้มีค่าย AI หัวหมอ แอบลักลอบพัฒนาเทคโนโลยีอย่างลับ ๆ ในขณะที่คนอื่นยอมหยุดพัก?

วิธีแก้ที่เสนอมาคือ ต้องให้บรรดาแล็บ AI ยักษ์ใหญ่หันมาทำตัวเป็นผู้ตรวจการ คอยเช็กเนื้อเช็กตัวซึ่งกันและกัน โดยหลังจากนี้ Anthropic เตรียมเดินสายเปิดโต๊ะเจรจากับทั้งภาครัฐ นักวิจัย และบริษัทเทคฯ คู่แข่ง เพื่อหาพิมพ์เขียวในการสร้างกรอบความร่วมมือนี้ร่วมกัน

ย้อนรอยปี 2023 แฟลชแบ็กวันที่ Elon Musk เคยเบรก

ถ้าใครจำได้ นี่ไม่ใช่ครั้งแรกที่มีคนบอกให้เหยียบเบรก เพราะย้อนกลับไปในปี 2023 สถาบัน Future of Life Institute ร่วมกับเจ้าพ่อเทคฯ อย่าง Elon Musk และผู้เชี่ยวชาญอีกนับพันคน ก็เคยร่อนจดหมายเปิดผนึกขอให้หยุดพัฒนา AI ชั่วคราวมาแล้ว 6 เดือน

แต่รอบนี้มันน่าสนใจตรงที่ Anthropic เป็นคนพูดเอง ทั้งๆ ที่ตัวเองก็เพิ่งจะปล่อยโมเดลสุดโหดอย่าง Mythos (ที่เคลมว่าตรวจจับและเจาะช่องโหว่ไซเบอร์ได้เร็วจนน่าขนลุก) แถมบริษัทยังอยู่ระหว่างเตรียมตัวเข้าตลาดหุ้น (IPO) อีกด้วย

แน่นอนว่าเหรียญมีสองด้าน เสนอมาแบบนี้ก็โดนสับเละจากฝั่งนักนวัตกรรมทันที ย้อนไปตอนปี 2023 Eric Schmidt อดีต CEO ของ Google เคยออกมาเตือนสติว่า "ถ้าฝั่งอเมริกายอมเหยียบเบรก ก็เท่ากับประเคนชัยชนะใส่พานให้ประเทศจีน" ซึ่งกำลังทำสงครามเทคโนโลยีกันอยู่แบบตาต่อตาฟันต่อฟัน

ฝั่ง Anthropic เองก็ยอมรับตรง ๆ ว่าการทำ "สนธิสัญญาควบคุมอาวุธ AI" มันยากกว่านิวเคลียร์หลายเท่า

"ไซโลเก็บขีปนาวุธมันใหญ่โตจนมองเห็นจากดาวเทียม แต่กระบวนการเทรน AI มันซ่อนง่ายมาก อุปกรณ์ที่ใช้ก็เป็นคอมพิวเตอร์ทั่วไป แถมแรงจูงใจที่จะแอบโกงเงียบ ๆ ก็สูงลิ่ว เพราะถ้าคนอื่นหยุด แล้วเราทำต่อ... เราจะกลายเป็นผู้นำโลกทันที"

อ้างอิง: bloomberg