CEO DeepMind ดันตั้งองค์กรกลางระดับโลก ตรวจโมเดล AI ขั้นสูงก่อนเปิดใช้ รับมือภัยไซเบอร์และความเสี่ยงทางชีวภาพ

Demis Hassabis ซีอีโอของ Google DeepMind เตรียมเดินทางเข้าพบผู้กำหนดนโยบายในกรุงวอชิงตัน เพื่อผลักดันข้อเสนอจัดตั้งองค์กรอิสระระดับนานาชาติ ทำหน้าที่ทดสอบและประเมินโมเดลปัญญาประดิษฐ์ขั้นสูงอย่างเข้มงวดก่อนเปิดให้สาธารณชนใช้งาน

ข้อเสนอดังกล่าวมีเป้าหมายสร้างกระบวนการตรวจสอบ AI ที่เป็นระบบมากขึ้น ท่ามกลางความกังวลว่าโมเดลรุ่นใหม่อาจพัฒนาความสามารถด้านความมั่นคงไซเบอร์ ชีวภาพ และความปลอดภัยในระดับที่สร้างความเสี่ยงต่อสังคมได้ในอนาคต

Demis Hassabis เปิดเผยแนวคิดนี้ผ่านบทความที่เผยแพร่เมื่อต้นสัปดาห์ และได้รับเสียงสนับสนุนจากผู้นำในอุตสาหกรรมหลายราย โดย Sam Altman ซีอีโอของ OpenAI ระบุว่าเป็นข้อเสนอที่ผ่านการคิดมาอย่างรอบคอบ ขณะที่ Elon Musk มองว่าเป็นจุดเริ่มต้นที่ดีสำหรับการหารือ

เสนอให้บริษัทส่งโมเดลตรวจสอบก่อนเปิดตัว

ภายใต้ข้อเสนอของ Demis Hassabis องค์กรดังกล่าวจะประกอบด้วยผู้เชี่ยวชาญด้านเทคนิคที่มีความเป็นอิสระ ขณะที่เงินทุนหลักจะมาจากบริษัท AI ชั้นนำ โดยบริษัทผู้พัฒนาอาจต้องส่งโมเดลใหม่เข้ารับการทดสอบและตรวจสอบเป็นระยะเวลาสูงสุด 30 วันก่อนเปิดตัว

แนวทางดังกล่าวมีลักษณะคล้ายองค์กรกำกับดูแลตนเองในภาคการเงิน เช่น Financial Industry Regulatory Authority หรือ FINRA และสามารถเพิ่มระดับความเข้มงวดได้ตามความรุนแรงของสถานการณ์

ในกรณีที่พบความเสี่ยงสูง องค์กรนี้อาจทำหน้าที่ประสานให้ห้องปฏิบัติการ AI ชั้นนำชะลอการพัฒนาเทคโนโลยีพร้อมกัน เพื่อลดโอกาสเกิดการแข่งขันที่เร่งรีบจนละเลยประเด็นด้านความปลอดภัย

Demis Hassabis มองว่า การหารือระหว่างบริษัท AI กับรัฐบาลและสถาบันด้านความปลอดภัย AI ในปัจจุบันยังเกิดขึ้นเป็นรายกรณี ซึ่งอาจไม่ใช่แนวทางที่ยั่งยืนในระยะยาว จึงจำเป็นต้องมีกลไกกลางและมาตรฐานที่ชัดเจน

กังวล AI อาจสร้างภัยคุกคามทางชีวภาพ

หนึ่งในเหตุผลสำคัญที่ทำให้ Demis Hassabis ตัดสินใจเผยแพร่ข้อเสนอ คือความกังวลเกี่ยวกับความสามารถด้านความมั่นคงไซเบอร์ของโมเดล Mythos จาก Anthropic ซึ่งเขามองว่าเป็นสัญญาณเตือนให้สังคมเริ่มเตรียมรับมือกับความเสี่ยงจาก AI ที่มีความสามารถสูงขึ้น

Demis Hassabis ระบุว่า ปัจจุบันโมเดล AI อาจยังไม่มีความสามารถมากพอที่จะสร้างภัยคุกคามทางชีวภาพในระดับรุนแรง แต่เมื่อพิจารณาจากอัตราการพัฒนา เทคโนโลยีอาจไปถึงจุดดังกล่าวได้ภายในระยะเวลาไม่กี่ปี

ก่อนเผยแพร่ข้อเสนออย่างเป็นทางการ เขาได้หารือกับบริษัท AI รายใหญ่เกือบทั้งหมด รวมถึง Dario Amodei ซีอีโอของ Anthropic เพื่อรับฟังความคิดเห็นและสร้างแรงสนับสนุนในอุตสาหกรรม

ก่อนหน้านี้ Dario Amodei เคยเสนอให้สหรัฐฯ จัดตั้งหน่วยงานกำกับดูแล AI ที่มีลักษณะคล้ายสำนักงานบริหารการบินแห่งชาติ หรือ FAA ขณะที่ Sam Altman เคยสนับสนุนแนวคิดจัดตั้งองค์กรระหว่างประเทศที่สหรัฐฯ เป็นผู้นำ เพื่อกำหนดมาตรฐานความปลอดภัยของ AI

กฎระเบียบ AI ยังแตกต่างกันทั่วโลก

ข้อเสนอของ Demis Hassabis เกิดขึ้นในช่วงที่ทิศทางการกำกับดูแล AI ในสหรัฐฯ ยังมีความไม่แน่นอน หลังจาก Anthropic และ OpenAI ชะลอการเปิดตัวโมเดลรุ่นล่าสุดในวงกว้าง ภายใต้แรงกดดันจากรัฐบาลของประธานาธิบดี Donald Trump

สถานการณ์ดังกล่าวส่งผลให้ประเทศที่พึ่งพาเทคโนโลยีจากสหรัฐฯ เริ่มกังวลเกี่ยวกับการเข้าถึงโมเดล AI และนำไปสู่การหารือระหว่างสหภาพยุโรปกับรัฐบาลสหรัฐฯ รวมถึงการพูดคุยระหว่างผู้นำบริษัทเทคโนโลยีและผู้นำประเทศในเวที G7 ที่ฝรั่งเศส

อย่างไรก็ตาม การจัดตั้งองค์กรตรวจสอบ AI ระหว่างประเทศยังเผชิญอุปสรรคสำคัญ เนื่องจากสหรัฐฯ สหภาพยุโรป และจีนต่างมีแนวทางกำกับดูแล AI ที่แตกต่างกัน ขณะที่รัฐสภาสหรัฐฯ ยังไม่สามารถผ่านกฎหมายระดับรัฐบาลกลางที่ครอบคลุมการควบคุม AI ได้อย่างมีนัยสำคัญ

Demis Hassabis ยอมรับว่า การได้รับความเห็นพ้องจากบริษัทเทคโนโลยีเพียงอย่างเดียวอาจไม่เพียงพอ เพราะขั้นตอนสำคัญคือการผลักดันให้รัฐบาลและฝ่ายการเมืองยอมรับข้อเสนอ

อย่างไรก็ตาม เขามองว่า ขณะนี้อุตสาหกรรมและภาครัฐอาจมีแรงส่งมากพอที่จะทำให้แนวคิดดังกล่าวเกิดขึ้นจริง โดยเป้าหมายต่อไปคือเปลี่ยนข้อเสนอจากบทความและการพูดคุยให้กลายเป็นกลไกกำกับดูแลที่สามารถนำไปใช้ได้จริง

ที่มา: Bloomberg