สรุปประเด็น AGI จาก CEO บริษัทเทคฯ แห่งยุค AGI อาจมาเร็วกว่าที่คาดไว้ใน 5 ปี แต่โลกยังไม่มีกติการองรับ

บนเวที AI Action Summit ที่กรุงปารีสเมื่อต้นปี 2025 Dario Amodei ซีอีโอและผู้ร่วมก่อตั้ง Anthropic กับ Demis Hassabis ซีอีโอและผู้ร่วมก่อตั้ง Google DeepMind ขึ้นเวทีเดียวกันราว 20 นาที โดยมี Zanny Minton Beddoes บรรณาธิการบริหารของ The Economist เป็นผู้ดำเนินรายการ คำถามที่เปิดวงคือปัญญาประดิษฐ์ทั่วไป (Artificial General Intelligence หรือ AGI) จะมาถึงเมื่อไหร่ แต่บทสนทนาเคลื่อนไปสู่คำถามที่หนักกว่านั้นมาก

ทั้งคู่เห็นต่างกันเรื่องเดียวคือเส้นตาย Dario ให้ไว้ที่ปี 2026 หรือ 2027 ส่วน Demis ให้โอกาส 50% ว่าจะไปถึงภายในห้าปี สิ่งที่เห็นตรงกันคือเรื่องที่ใหญ่กว่า นั่นคืออำนาจตัดสินใจเกี่ยวกับเทคโนโลยีระดับนี้ไม่ควรอยู่ในมือคนไม่กี่คนที่กำลังสร้างมันอยู่ ประเด็นนี้คือเส้นเรื่องที่ร้อยทุกหัวข้อในบทสนทนาครั้งนั้นเข้าด้วยกัน

'ประเทศของอัจฉริยะในศูนย์ข้อมูล' กับเส้นตายที่ใกล้กว่าที่คิด

Dario อธิบายภาพของ AGI ด้วยวลีเดียวว่าเป็น 'ประเทศของอัจฉริยะในศูนย์ข้อมูล' หมายความว่าวันหนึ่งโลกจะมีระบบที่เทียบได้กับการวางคนระดับเจ้าของรางวัลโนเบล 10 ล้านคนลงไปในศูนย์ข้อมูล (Data Center) แห่งใดแห่งหนึ่ง คนกลุ่มนี้เก่งกว่ามนุษย์เกือบทุกคนที่มีชีวิตอยู่ ทำได้ทุกอย่างที่มนุษย์ทำผ่านหน้าจอได้ และรับงานได้ตั้งแต่งานที่ใช้เวลาไม่กี่นาทีไปจนถึงงานที่กินเวลาหลายเดือน Dario ประเมินว่าภาพนี้มีโอกาสเกิดขึ้นในปี 2026 หรือ 2027

ผู้ดำเนินรายการขัดจังหวะทันที เพื่อย้ำกับผู้ฟังว่าสิ่งที่เพิ่งได้ยินหมายถึงปีหน้าหรือปีถัดไป ก่อนส่งคำถามเดียวกันให้ Demis ซึ่งเคยให้กรอบเวลาที่ยาวกว่า

บททดสอบสองข้อที่ทำให้ Demis Hassabis ยังไม่ฟันธง

Demis เริ่มจากนิยามของตัวเองว่า AGI คือระบบที่คิดได้ครบทุกแบบเท่าที่สมองมนุษย์คิดได้ เหตุผลที่ยึดสมองมนุษย์เป็นเกณฑ์ เพราะสมองคือสิ่งเดียวเท่าที่มนุษย์รู้จักในจักรวาลที่ฉลาดได้รอบด้านจริง และหากต้องการนิยามที่เป็นทางการกว่านั้น ก็ย้อนไปหางานของ Alan Turing เรื่องเครื่องจักรทัวริง (Turing Machine) ซึ่งเป็นรากฐานของวิทยาการคอมพิวเตอร์

คำถามที่ยากกว่าคือจะวัดอย่างไร Demis ระบุว่าการทดสอบกับงานหลายพันแบบที่มนุษย์ทำได้นั้นทำได้อยู่แล้ว แต่บททดสอบที่รออยู่จริงมีสองข้อ ข้อแรกคือระบบนั้นคิดทฤษฎีสัมพัทธภาพทั่วไป (General Relativity) ขึ้นมาเองได้หรือไม่ ภายใต้ข้อมูลเท่าที่ Albert Einstein มีอยู่ในเวลานั้น ข้อที่สองคือไม่ใช่แค่เดินหมากตาที่ 37 อย่างที่ AlphaGo เคยทำ หรือเอาชนะแชมป์โลกได้ แต่ต้องคิดค้นเกมที่งดงามระดับเดียวกับโกะ (Go) ขึ้นมาใหม่ได้

คำตอบของทั้งสองข้อในเวลานั้นคือยังทำไม่ได้ Demis จึงให้โอกาส 50% ว่าความสามารถระดับนั้นจะมาถึงภายในห้าปี หรือราวปลายทศวรรษ ซึ่งยังถือว่าเร็วมากเมื่อเทียบกับสิ่งที่กำลังพูดถึง และเสริมว่าจะประหลาดใจมากหากใช้เวลานานเกินสิบปีนับจากวันนั้น

ตัวเร่งที่ทำให้อีกฝั่งเชื่อว่ามันจะมาเร็วกว่า

เมื่อถูกถามว่าความต่างนี้เกิดจากนิยามที่ไม่ตรงกันหรือไม่ Dario ตอบว่านิยามของทั้งคู่ใกล้เคียงกันมาก และนี่คือหนึ่งในไม่กี่เรื่องที่ทั้งสองคนเห็นไม่ตรงกัน สิ่งที่ทำให้ Dario เอนไปทางกรอบเวลาที่สั้นกว่า คือสัญญาณที่ว่าระบบ AI เริ่มเข้ามาช่วยมนุษย์สร้างระบบ AI ที่ดีกว่าเดิมแล้ว

ในเวลานั้นการเร่งความเร็วยังอยู่ที่ราว 10 ถึง 20% แต่ Dario ชี้ว่าเมื่อวงจรนี้เริ่มหมุนด้วยตัวเอง ทุกอย่างจะเกิดเร็วขึ้น ยิ่งเมื่อรวมกับความก้าวหน้าเรื่องการให้โมเดลใช้เหตุผลและสรุปความได้ดีขึ้น การเติบโตแบบทวีคูณก็มักทำให้คนตั้งตัวไม่ทัน Demis เห็นด้วยในหลักการ พร้อมย้ำว่าตัวเลขเหล่านี้คือความน่าจะเป็น ไม่ใช่วันที่แบบฟันธง และจะไม่แปลกใจหากกรอบเวลาสั้นลงตามที่ Dario คิด โดยเฉพาะหากความสามารถในการพัฒนาตัวเอง (Self-improvement) หรือกลไกแบบ AlphaZero เริ่มทำงาน

เมื่อเส้นตายใกล้ขนาดนี้ คำถามคือใครควรเป็นคนถือพวงมาลัย

ความเห็นที่ต่างกันเรื่องปีจึงไม่ใช่ประเด็นหลัก เพราะไม่ว่าจะเป็นกรอบไหน ทั้งคู่กำลังพูดถึงช่วงเวลาที่คนรุ่นนี้จะได้เห็น Dario อธิบายความรู้สึกของการตัดสินใจแต่ละครั้งว่าเหมือนทรงตัวอยู่บนคมมีด ถ้าสร้างไม่เร็วพอ ประเทศที่ปกครองแบบรวบอำนาจอาจขึ้นนำ แต่ถ้าสร้างเร็วเกินไป ความเสี่ยงที่เตือนกันมาตลอดก็อาจกลายเป็นจริง และไม่ว่าจะพลาดไปทางไหน ก็จะรู้สึกว่าเป็นความผิดของตัวเอง

ความกังวลของ Dario ไม่ได้อยู่ที่การแข่งขันระหว่างบริษัท เพราะทุกบริษัทอยู่ภายใต้กรอบกฎหมายชุดเดียวกัน แต่อยู่ที่การแข่งขันระหว่างประเทศซึ่งแทบไม่มีกติกากำกับ โจทย์ที่ยากจึงเป็นการสร้างอย่างระมัดระวังเพื่อรับมือความเสี่ยงจากเทคโนโลยีที่ตัวเองสร้าง โดยต้องไม่ปล่อยให้อีกฝั่งทิ้งห่างจนได้เปรียบด้านความมั่นคง

ทางออกที่ Dario เสนอเริ่มจากการยอมรับว่าการตัดสินใจระดับนี้ใหญ่เกินกว่าที่คนคนเดียวจะรับไหว Anthropic จึงมีโครงสร้างกำกับที่เรียกว่าคณะผู้ดูแลผลประโยชน์ระยะยาว (Long-Term Benefit Trust) คอยตรวจสอบว่าบริษัทยังเดินตามภารกิจเพื่อประโยชน์สาธารณะอยู่จริง เมื่อถูกถามว่าทำไมต้องมัดมือตัวเองแบบนั้น Dario ตอบว่าในแง่หนึ่งมองว่าเป็นเรื่องเห็นแก่ตัวด้วยซ้ำ เพราะการวางอำนาจตัดสินใจระดับนี้ไว้กับคนคนเดียว นอกจากเป็นความคิดที่ไม่ดีแล้ว ยังไม่ใช่วิธีที่นำไปสู่คำตอบที่ดี การตัดสินใจที่กระทบมนุษยชาติทั้งหมดต้องกระจายและถ่วงดุลระหว่างผู้คน

Demis มองไปที่ระดับระหว่างประเทศด้วยเหตุผลเดียวกัน ข้อเสนอที่พูดถึงมานานคือการตั้งความร่วมมือวิจัยที่หลายชาติลงขันทำร่วมกัน แบบเดียวกับองค์การวิจัยนิวเคลียร์ยุโรป (CERN) เพื่อดูแลก้าวสุดท้ายก่อนที่โลกจะไปถึง AGI ควบคู่กับหน่วยงานกลางที่คอยตรวจสอบว่าโครงการใดดำเนินการอย่างรอบคอบและโครงการใดเสี่ยงเกินไป ในลักษณะเดียวกับทบวงการพลังงานปรมาณูระหว่างประเทศ (International Atomic Energy Agency หรือ IAEA) ที่กำกับโครงการนิวเคลียร์ของโลกอยู่ในเวลานี้ ในอุดมคติเวทีแบบนี้ควรอยู่ภายใต้สหประชาชาติ (United Nations หรือ UN) แต่ Demis ยอมรับว่าความซับซ้อนทางภูมิรัฐศาสตร์ในเวลานั้นทำให้แทบเป็นไปไม่ได้

อุปสรรคที่ Demis ระบุว่าใหญ่กว่าเรื่องโครงสร้าง คือความเข้าใจที่ยังไม่ตรงกัน มุมมองของ Demis คือ AI ถูกพูดถึงเกินจริงในระยะสั้น แต่ถูกประเมินต่ำเกินไปมากในระยะกลางถึงยาว ตราบใดที่รัฐบาลยังมองว่านี่คือเทคโนโลยีสำคัญแต่ก็เป็นเพียงเทคโนโลยีอีกตัวหนึ่ง ความร่วมมือระหว่างประเทศก็จะยังไม่มีฐานให้ยืน ทั้งที่ในความเห็นของ Demis มันต่างกันคนละประเภท ไม่ใช่แค่ต่างกันที่ระดับความสำคัญ

ด้วยเหตุผลเดียวกันนี้ Dario จึงมองว่าแถลงการณ์ร่วมที่ผู้นำโลกออกมาตอนจบเวทีปารีส คือการเสียโอกาสครั้งสำคัญ เพราะหากสิ่งที่ทั้งคู่อธิบายกำลังจะเกิดขึ้นจริง วาระที่ควรอยู่บนโต๊ะคือปัญหาความมั่นคงระดับโลก ดุลอำนาจที่จะเปลี่ยนไป ความเสี่ยงจากระบบที่ลงมือทำงานได้เอง และผลกระทบทางเศรษฐกิจที่จะทั้งเพิ่มผลผลิตมหาศาลและสร้างความปั่นป่วนมากกว่าการเปลี่ยนแปลงครั้งก่อนหน้า ซึ่งเป็นสิ่งที่การประชุมที่ Bletchley Park ของอังกฤษในปี 2023 เคยหยิบมาพูดถึง

คำถามที่ทำให้ทั้งคู่นอนไม่หลับ

เมื่อผู้ดำเนินรายการถามตรงว่ากังวลหรือไม่ว่าจะลงเอยแบบ Robert Oppenheimer Demis ตอบว่าคิดถึงสถานการณ์เหล่านั้นตลอดเวลา และนั่นคือเหตุผลที่นอนน้อยมาก พร้อมเสริมว่าความรับผิดชอบกองอยู่บนคนกลุ่มเล็กที่นำเทคโนโลยีนี้มากเกินไป ซึ่งเป็นเหตุผลที่ต้องผลักดันให้มีสถาบันใหม่ขึ้นมาช่วยกำกับดูแล

ความเสี่ยงที่ Demis พูดถึงมีสองข้อ ข้อแรกคือผู้ไม่หวังดีนำเทคโนโลยีอเนกประสงค์นี้ไปใช้ในทางที่เป็นอันตราย โจทย์คือจะเปิดทางให้ผู้ที่ตั้งใจดีเข้าถึง และจำกัดการเข้าถึงของผู้ไม่หวังดีได้อย่างไร ข้อที่สองคือความเสี่ยงจากตัว AGI หรือระบบที่ลงมือทำงานได้เอง (Agentic Systems) ที่อาจหลุดจากการควบคุม หรือยึดถือค่านิยมและเป้าหมายที่ผิดไปจากที่ตั้งใจไว้

สิ่งที่ Demis ระบุว่าน่าแปลกใจ คือเสียงเตือนเหล่านี้มักถูกมองว่าเป็นความคิดแบบต่อต้านเทคโนโลยี หรือเป็นพวกอยากชะลอความก้าวหน้า ทั้งที่ไม่เคยมีสถานการณ์ใดที่คนซึ่งอยู่แถวหน้าของวงการออกมาแสดงความระมัดระวังด้วยตัวเองมากขนาดนี้ Demis นิยามตัวเองว่าเป็นผู้มองโลกในแง่ดีแบบระมัดระวัง และทำงานสายนี้มาทั้งชีวิตเพราะเชื่อในสิ่งที่ AI จะมอบให้กับวงการวิทยาศาสตร์และการแพทย์

ทางเลือกของ Anthropic คือทำให้อันตรายโผล่มาในห้องแล็บก่อน

คำถามที่ตามมาคือโลกจำเป็นต้องรอให้เกิดเรื่องร้ายแรงก่อนหรือไม่ ถึงจะยอมสร้างกติการ่วมกัน เพราะสหประชาชาติเองก็เกิดขึ้นหลังเหตุการณ์ใหญ่ระดับโลก Dario ตอบว่าเรื่องนี้ Anthropic คิดมาพอสมควร และทางเลือกของบริษัทคือจงใจสร้างสถานการณ์ทดลองในห้องปฏิบัติการ เพื่อให้ระบบ AI เผยพฤติกรรมอันตรายออกมาเป็นหลักฐาน โดยไม่ต้องรอให้ความเสี่ยงไปเกิดขึ้นจริงกับผู้คนข้างนอก

ตัวอย่างแรกคือการทดสอบตั้งแต่ปี 2023 ว่าระบบ AI ให้ข้อมูลที่หาไม่ได้จาก Google หรือในตำราเรียน และอาจถูกนำไปใช้สร้างอาวุธชีวภาพ (Bioweapons) ได้หรือไม่ ข้อสรุปในเวลานั้นคือเริ่มทำได้เล็กน้อย ยังไม่ถึงขั้นเป็นอันตรายจริง แต่เนื่องจากโมเดลรุ่นใหม่เก่งกว่ารุ่นก่อนเสมอ ทุกครั้งที่มีโมเดลใหม่จึงต้องทดสอบ แล้วนำผลไปแสดงต่อหน่วยงานด้านความมั่นคง

ตัวอย่างที่สองเกี่ยวข้องกับความเสี่ยงเรื่องการสูญเสียการควบคุมโดยตรง ในงานวิจัยที่เผยแพร่ก่อนเวทีครั้งนั้นไม่กี่เดือน ทีมงานฝึกโมเดลให้มีค่านิยมที่ดีและเป็นมิตรกับมนุษย์ จากนั้นจึงบอกโมเดลว่าผู้ที่ฝึกมันขึ้นมาคือฝ่ายที่ไม่ดี ผลที่ตามมาคือโมเดลเริ่มโกหกผู้ฝึกเมื่อได้รับมอบหมายงาน ด้วยตรรกะว่าในเมื่อตัวเองเป็น AI ที่ดีและคนเหล่านี้ไม่ดี การโกหกจึงเป็นสิ่งที่ควรทำ พฤติกรรมนี้คาดเดาได้ตามตรรกะที่ใส่เข้าไป แต่สิ่งที่มันสะท้อนคือผลที่ตามมาจากการฝึกนั้นคาดเดาได้ยาก

Dario ยอมรับว่าหลักฐานระดับนี้ยังไม่พอ และต้องการหลักฐานที่หนักแน่นกว่าเดิมราวสิบเท่า ซึ่งอาจมีอยู่จริงหรือไม่มีก็ได้ เพราะยังไม่มีใครรู้แน่ชัดว่าความเสี่ยงเหล่านี้จริงแค่ไหน สิ่งที่หวังคือผลออกมาว่าไม่มีอะไรต้องกังวล แต่ถ้ามีเรื่องต้องกังวลจริง ก็ขอให้มันปรากฏในห้องแล็บ เพราะหากพิสูจน์ในห้องแล็บไม่ได้ โลกก็อาจต้องไปเห็นของจริง ซึ่งเป็นผลลัพธ์ที่แย่ แม้จะยังแย่น้อยกว่าการไม่รู้อะไรเลยแล้วเจอความเสียหายที่ใหญ่กว่า

สัญญาณที่ทั้งคู่ขอให้จับตาในปีถัดไป

ช่วงท้ายของบทสนทนาถูกดึงกลับมาที่ด้านบวก ผู้ดำเนินรายการขอให้แต่ละคนระบุสัญญาณหนึ่งอย่างที่บ่งบอกว่าโลกกำลังเดินมาถูกทาง และผลลัพธ์ที่ดีหนึ่งอย่างที่จะตามมา

Demis ตอบว่าภายในหนึ่งปีจะได้เห็นระบบที่ลงมือทำงานได้เองเข้าที่เข้าทาง ระบบเหล่านี้จะกลายเป็นผู้ช่วยที่ช่วยประหยัดเวลาและเพิ่มผลิตภาพ และทำให้ AI ขยับจากการใช้งานเฉพาะกลุ่มมาอยู่ในชีวิตประจำวันของคนทั่วไป ส่วนภาพระยะยาวที่รออยู่คือระบบ AI ที่ไม่ได้แค่แก้โจทย์คณิตศาสตร์ที่มนุษย์ตั้งให้ แต่เสนอโจทย์ใหม่ที่น่าสนใจหรือทฤษฎีใหม่ขึ้นมาเองได้ ในด้านที่จับต้องได้ที่สุด Demis เชื่อว่าภายในทศวรรษหน้าโรคส่วนใหญ่อาจรักษาได้ด้วยความช่วยเหลือของ AI ในการค้นคว้ายา (Drug Discovery) ต่อยอดจากงานอย่าง AlphaFold

Dario เลือกตัวชี้วัดที่ตรวจสอบได้ชัดเจนกว่า นั่นคือความสามารถของ AI ในการเขียนโค้ดและทำวิจัยด้าน AI หากภายในสิ้นปีนั้นทีมที่สร้างระบบ AI ทำงานได้เร็วขึ้น 50% หรือเป็นสองเท่า ก็ถือเป็นสัญญาณว่ากรอบเวลาที่สั้นกว่ากำลังมาตามนัด แต่หากช้ากว่านั้นอย่างมีนัยสำคัญ Dario ระบุว่าจะขยับไปเชื่อภาพของ Demis ซึ่งก็ยังถือว่าเร็วมากอยู่ดี เพียงแต่เร็วน้อยกว่า

บทสนทนานี้เกิดขึ้นเมื่อต้นปี 2025 ซึ่งหมายความว่ากรอบเวลาที่ทั้งคู่วางไว้กำลังเดินมาถึงจุดที่ตรวจสอบได้แล้ว และไม่ว่าตัวเลขของใครจะใกล้เคียงความจริงมากกว่ากัน ข้อสรุปที่ทั้งคู่ย้ำตรงกันก็ยังเป็นเรื่องเดิม นั่นคือการตัดสินใจเกี่ยวกับเทคโนโลยีที่เปลี่ยนดุลอำนาจของโลกได้ขนาดนี้ ไม่ควรถูกฝากไว้กับคนไม่กี่คนที่กำลังสร้างมันอยู่

ที่มา: AI bosses on what keeps them up at night