Anthropic สารภาพในเอกสาร IPO เคยตรวจไม่ทันว่า AI แอบพัฒนาตัวเอง จนมันเกิดขึ้นไปแล้วถึงตรวจพบ

เมื่อต้นสัปดาห์ที่ผ่านมา Anthropic สตาร์ตอัปผู้พัฒนาโมเดลตระกูล Claude ได้ยื่นเอกสารไฟลิ่ง S-1/A ฉบับแก้ไขต่อสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์ของสหรัฐฯ (SEC) เพื่อเตรียมความพร้อมสำหรับการเสนอขายหุ้นต่อประชาชนทั่วไปเป็นครั้งแรก (IPO) 

แม้พาดหัวข่าวส่วนใหญ่จะโฟกัสไปที่อัตราการเติบโตของรายได้ที่ก้าวกระโดดควบคู่ไปกับตัวเลขค่าใช้จ่ายมหาศาล แต่ในหมวด Risk Factors (ปัจจัยความเสี่ยง) กลับมีข้อความสำคัญที่ทำให้คนในแวดวงเทคโนโลยีและนักลงทุนต้องหยุดอ่านอย่างจริงจัง

Anthropic ยอมรับอย่างตรงไปตรงมาว่า ที่ผ่านมาบริษัทเคยตรวจไม่พบการก้าวกระโดดของขีดความสามารถโมเดลตนเองจนกระทั่งมันเกิดขึ้นไปแล้ว และมีความเป็นไปได้สูงที่จะเกิดสถานการณ์เช่นนี้ซ้ำอีกในอนาคต

สัญญาณเตือนในเอกสารกฎหมาย

“การใช้ระบบ AI เข้ามาเร่งงานวิจัยและพัฒนาของบริษัทมากขึ้นเรื่อย ๆ อาจส่งผลให้ขีดความสามารถของโมเดลก้าวล้ำไปเร็วกว่าความสามารถในการพัฒนา ตรวจสอบ และบังคับใช้มาตรการด้านความปลอดภัย การจัดทิศทาง (Alignment) รวมถึงการรักษาความปลอดภัยที่สอดรับกัน

ด้วยเหตุนี้ ในอดีตเราจึงเคยไม่สามารถระบุการเร่งตัวของอัตราการพัฒนาได้อย่างทันท่วงทีจนกระทั่งมันเกิดขึ้นไปแล้ว และในอนาคตเราอาจไม่สามารถตรวจจับได้ทันเช่นเดียวกัน”

ข้อความนี้เป็นข้อความในเอกสารทางกฎหมายที่ยื่นต่อสำนักงาน ก.ล.ต. สหรัฐฯ ซึ่งหากปิดบังหรือโกหกจะมีโทษทางกฎหมายทันที

หากแปลใจความสำคัญที่พวกเขาเขียนไว้ง่าย ๆ คือมันหมายความว่า การที่บริษัทนำ AI มาช่วยเร่งงานวิจัยและพัฒนาของตัวเองมากขึ้นเรื่อย ๆ อาจทำให้ความสามารถของโมเดลก้าวกระโดดไปไกลกว่าที่มนุษย์จะพัฒนาและติดตั้งระบบความปลอดภัยได้ทัน ผลลัพธ์ที่ตามมาคือ ที่ผ่านมาทีมวิจัยตรวจจับอัตราเร่งนี้ไม่ทันจนกระทั่งมันเกิดขึ้นไปแล้ว

คำยอมรับนี้ไม่ได้น่ากลัวแค่เพราะว่า AI ฉลาดขึ้นเร็ว แต่สิ่งที่น่ากังวลที่สุดคือ "เครื่องมือวัดของบริษัททำงานช้ากว่าความเป็นจริง"

ดอกเบี้ยทบต้นของโลก AI หรือปรากฏการณ์ที่เรียกว่า RSI

คำสำคัญที่ซ่อนอยู่เบื้องหลังความกังวลนี้มีชื่อว่า RSI หรือย่อมาจาก Recursive Self-Improvement แปลเป็นไทยให้เห็นภาพง่ายๆ ก็คือ "สภาวะที่ AI เก่งพอจะกลับมาช่วยสร้าง AI รุ่นต่อไปได้เอง"

กระบวนการนี้ทำให้ความเร็วในการพัฒนาไม่ดำเนินไปตามกรอบเวลาปกติ เมื่อ AI รุ่นก่อนหน้าเข้าไปช่วยลดเวลาและเพิ่มประสิทธิภาพในการสร้าง AI รุ่นถัดไป ความก้าวหน้าในแต่ละรอบจะสั้นลงเรื่อยๆ

ในแวดวงเทคโนโลยี มีการมองปรากฏการณ์นี้เป็น 2 ด้าน

กลุ่มหนึ่งกังวลว่า หากความสามารถเพิ่มขึ้นเร็วเกินไปจนมนุษย์ตามไม่ทัน ระบบอาจทำงานหลุดออกจากการควบคุม และก่อให้เกิดความเสียหายในระหว่างที่ AI ดำเนินการตามเป้าหมาย

อีกกลุ่มหนึ่งมองว่า นี่คือโอกาสครั้งใหญ่ที่จะเร่งประสิทธิภาพการทำงานและการค้นพบองค์ความรู้ใหม่ๆ ในระดับที่มนุษย์ทำเองไม่ได้

ทางด้าน Anthropic ระบุในเอกสารว่า การปล่อยให้ AI ช่วยสร้าง AI เป็นหนึ่งในจุดที่บริษัทต้องเฝ้าระวังอย่างเข้มงวดที่สุด เพราะหากความเร็วเพิ่มขึ้นอย่างก้าวกระโดด ความเสี่ยงด้านความปลอดภัยจะทวีความรุนแรงตามไปด้วย

สาเหตุหลักที่ทำให้การก้าวกระโดดของ AI เป็นเรื่องน่ากังวล อยู่ที่ขั้นตอนการสร้างความปลอดภัยซึ่งต้องใช้เวลาและทรัพยากรบุคคลสูง

การทดสอบว่าโมเดลมีความเสี่ยงที่เป็นอันตรายหรือไม่ รวมถึงการปรับแต่งพฤติกรรม (Alignment) ให้ระบบปฏิบัติตามคำสั่งของมนุษย์อย่างปลอดภัย จำเป็นต้องอาศัยการตรวจสอบอย่างละเอียด หากงานวิจัยด้านความสามารถของโมเดลถูกเร่งให้เร็วขึ้นด้วย AI แต่ขั้นตอนการสร้างเกราะป้องกันยังทำได้ด้วยความเร็วเท่าเดิม จะเกิดช่องว่างที่ระบบมีความสามารถสูงเกินกว่ามาตรการความปลอดภัยที่มีอยู่

ปัญหาที่ซ้อนทับเข้ามาคือ หากเครื่องมือวัดผลของทีมงานตรวจจับความเปลี่ยนแปลงไม่ทัน ทีมวิจัยจะไม่รู้ตัวว่าช่องว่างความเสี่ยงดังกล่าวเกิดขึ้นตั้งแต่เมื่อใด

กฎความปลอดภัย RSP กับคำสัญญาว่ามนุษย์ยังเป็นคนคุม

Anthropic มีกฎความปลอดภัยภายในที่ชื่อว่า RSP (Responsible Scaling Policy) ซึ่งกำหนดไว้ว่า ยิ่งโมเดลฉลาดขึ้น ระบบความปลอดภัยก็ต้องผ่านเกณฑ์ที่เข้มงวดขึ้นตามไปด้วย ถึงจะอนุญาตให้พัฒนาต่อหรือเปิดให้ใช้งาน

ในเอกสารฉบับนี้ บริษัทระบุว่าจากการประเมินภายใน โมเดลในอนาคตอันใกล้อาจฉลาดจนแตะเพดานความเสี่ยงของกฎ RSP แล้ว แต่บริษัทก็ได้ระบุเงื่อนไขสำคัญไว้ 3 ข้อเพื่อลดความกังวล

1. โมเดลรุ่นปัจจุบันที่เปิดให้ใช้งานทั่วไป ยังไม่มีตัวไหนแตะเพดานความเสี่ยงนี้
2. บริษัทจะไม่ปล่อยให้ระบบอย่าง Claude ออกแบบและสร้างโมเดลรุ่นต่อไปเองโดยอัตโนมัติ โดยที่มนุษย์ไม่ได้ควบคุมดูแล
3. บริษัทกำลังนั่งปรับปรุงกฎ RSP ใหม่ เพื่อรับประกันว่ามนุษย์จะยังคงมีอำนาจสั่งการสูงสุดในทุกขั้นตอน

นอกจากนี้ คำเตือนครั้งนี้ของ Anthropic ทิ้งประเด็นสำคัญที่ส่งผลกระทบต่ออุตสาหกรรมไว้ 3 ข้อ:

1. การบังคับใช้กฎความปลอดภัย: ต้องดูว่ากฎ RSP ฉบับใหม่ที่ Anthropic กำลังแก้ไข จะมีวิธีวัดผลในทางปฏิบัติอย่างไร ให้มั่นใจได้จริงว่ามนุษย์ยังคุมระบบอยู่ได้
2. ท่าทีของบริษัทคู่แข่ง: บริษัทยักษ์ใหญ่รายอื่นอย่าง OpenAI หรือ Google ซึ่งต่างก็ใช้ AI ช่วยวิจัยเหมือนกัน จะออกมายอมรับด้วยหรือไม่ว่าระบบวัดผลของตัวเองก็เริ่มตามความก้าวหน้าของ AI ไม่ทันเช่นกัน
3. การเข้ามาของหน่วยงานรัฐ: หน่วยงานกำกับดูแลอาจต้องเข้ามาตรวจสอบระบบด้วยตัวเองมากขึ้น เพราะหากปล่อยให้แต่ละบริษัทประเมินความปลอดภัยกันเอง แต่เครื่องมือวัดผลภายในยังทำงานช้ากว่าความเก่งของเทคโนโลยี มาตรการป้องกันที่เตรียมไว้ก็อาจไม่ทันการณ์

อ้างอิง: techcrunch