OpenAI รวมทีมผู้เชี่ยวชาญ คุม SuperIntelligent AI ที่เป็นภัยต่อมนุษย์

OpenAI ประกาศเตรียมก่อตั้งทีมผู้เชี่ยวชาญเพื่อพัฒนาระบบและหาวิธีการควบคุม AI ระดับ Superintelligent รับมือกับอนาคตของ AI ที่อาจฉลาดล้ำเกินมนุษย์จนควบคุมไม่ได้ 

ก่อตั้งทีมรับมือการมาของ AI ระดับ SuperIntelligent

OpenAI กำลังก่อตั้งทีมรับมือ AI ระดับ Superintelligent นำทีมโดย Ilya Sutskever หัวหน้านักวิทยาศาสตร์และหนึ่งในผู้ร่วมก่อตั้งของบริษัท

ในบล็อกโพสต์บนเว็บไซต์ OpenAI ที่คาดการณ์ถึง AI ระดับ Superintelligent อาจมาถึง ภายในทศวรรษนี้ซึ่งหากไม่มีการรับมืออาจเป็นภัยต่อมนุษย์ได้ 

ปัจจุบันเรายังไม่มีวิธีแก้ปัญหาสำหรับการควบคุม AI หรือป้องกันไม่ให้มันทำงานผิดปกติวิธีการที่เราใช้สำหรับการจัดการ AI ในปัจจุบัน คือ การเรียนรู้จากความคิดเห็นของมนุษย์ อาศัยความสามารถของมนุษย์ในการควบคุม AI แต่มนุษย์จะไม่สามารถควบคุม AI ได้ หากมันฉลาดกว่าเรา

 Ilya Sutskever และ Jan Leike หัวหน้าทีม Alignment กล่าวในบล็อกโพสต์ 

การก่อตั้งทีมของ OpenAI นี้จะมีการรวบรวมวิศวกร,นักวิทยาศาสตร์ และนักวิจัยจากองค์กรณ์อื่นๆที่เข้าร่วมในการจัดตั้งทีมครั้งนี้และยังมีสิทธิ์ในการเข้าถึงความสามารถของระบบประมวลผลของคอมพิวเตอร์บริษัทถึง 20% เพื่อรับมือกับ AI ในอีก 4 ปีข้างหน้า 

AI ต้องไม่ออกนอกลู่นอกทาง

โดยทีมของ llya Sutskever และ Jan Leike ต้องการที่จะสร้าง human-level automated alignment researcher คือ การฝึกระบบ AI โดยใช้ความคิดเห็นจากมนุษย์ ฝึก AI เพื่อช่วยในการประเมินระบบ AI อื่นๆ และท้ายที่สุดเพื่อสร้าง AI ที่สามารถทำ alignment research หรือ การทำให้แน่ใจว่าระบบ AI บรรลุผลตามที่ต้องการและต้องไม่ออกนอกลู่นอกทาง

ถึงแม้ว่าการรับมือกับ AI ในอนาคตจะเป็นเรื่องยากแต่ OpenAI เชื่อว่า AI สามารถทำ alignment research ได้ดีกว่ามนุษย์  ซึ่ง Jan Leike เชื่อว่า AI จะสามารถปรับตัวให้สอดคล้องกับความต้องการ ของมนุษย์ได้และไม่ออกนอกลู่นอกทางจนมีความคิดเป็นของตัวเองและสร้างข้อมูลขึ้นเอง 

การประกาศจัดตั้งทีมเมื่อวันพุธที่ 5 กรกฎาคมที่ผ่านมานี้ขณะที่รัฐบาลทั่วโลกกำลังพิจารณาว่า จะควบคุมอุตสาหกรรม AI ที่เพิ่งเกิดขึ้นได้อย่างไร Sam Altman ซีอีโอของ OpenAI ได้พบกับสมาชิก สภานิติบัญญัติของรัฐบาลอย่างน้อย 100 คน ในช่วงหลายเดือนที่ผ่านมา  Sam Altman ระบุว่า กฎระเบียบของ AI นั้นเป็นสิ่งที่จำเป็นอย่างยิ่งและ OpenAI พร้อมที่จะร่วมงานกับผู้กำหนด และออกนโยบาย 

ความกังวลเรื่อง AI คาดการณ์ว่าจะฉลาดกว่ามนุษย์ยังคงเป็นสมมุติฐานพร้อมคำถามใหญ่ๆ ว่าจะเกิดขึ้นจริงหรือไม่และถ้าเกิดขึ้นจริง “เราจะรับมืออย่างไร” 

ที่มา : TechCrunch, Engadget