'นักปรัชญาหญิง' ที่กำลังสอนศีลธรรมให้ AI รู้จัก Amanda Askell กับภารกิจสร้าง 'จิตวิญญาณ' ให้ Claude

ในสำนักงานใหญ่ของ Anthropic ที่ซานฟรานซิสโก มีผู้หญิงคนหนึ่งใช้เวลาทั้งวันนั่งคุยกับ AI เธอไม่ได้กำลังทดสอบโค้ด ไม่ได้กำลังฝึกโมเดลด้วยข้อมูลมหาศาล แต่กำลังตั้งคำถามกับมัน เช่น

“อะไรคือสิ่งที่ถูกต้อง” “เราควรปฏิบัติต่อมนุษย์อย่างไร” “ถ้ามีคนพยายามหลอกคุณ คุณควรตอบสนองแบบไหน”

ผู้หญิงคนนั้นคือ Amanda Askell นักปรัชญาที่มีหน้าที่สอนศีลธรรมให้กับแชตบอตชื่อ Claude งานของเธอฟังดูเหมือนนิยายไซไฟ แต่ในความเป็นจริง นี่คือหนึ่งในงานสำคัญที่สุดในโลก AI วันนี้

จากเด็กหญิงในสกอตแลนด์ สู่เส้นทางนักปรัชญา

Amanda เติบโตในเมืองเล็ก ๆ ชื่อ Prestwick ทางฝั่งตะวันตกของสกอตแลนด์ เธอเป็นลูกคนเดียวของครู และใช้เวลาส่วนใหญ่ในวัยเด็กไปกับการอ่านหนังสือแฟนตาซี โลกในจินตนาการของเธอเต็มไปด้วยเรื่องราวของความดีและความชั่ว จากหนังสือของนักเขียนอย่าง J. R. R. Tolkien และ C. S. Lewis

ตั้งแต่อายุเพียง 14 ปี เธอก็รู้แล้วว่าอยากเป็นนักปรัชญา เธอเคยบอกเพื่อนว่า วันหนึ่งเธออยาก “สร้างแนวคิดใหม่ให้กับโลก”

ในช่วงมัธยม เธอเคยถูกลงโทษเพราะมาสายบ่อย ครูจึงให้เธอเขียนคำตอบต่อคำถามปรัชญาที่ยากขึ้นเรื่อย ๆ แต่แทนที่จะรู้สึกว่าเป็นบทลงโทษ เธอกลับบอกครูว่า “จริง ๆ แล้วคุณกำลังทำให้ฉันได้เรียนรู้มากขึ้น”

ความสนใจด้านปรัชญาของเธอพาไปสู่การศึกษาที่มหาวิทยาลัย Dundee ก่อนจะไปต่อระดับบัณฑิตศึกษาที่ University of Oxford และทำปริญญาเอกด้านปรัชญาที่ New York University

งานวิจัยของเธอเต็มไปด้วยคำถามเชิงจริยธรรมขนาดใหญ่ เช่น หากอนาคตของจักรวาลมีมนุษย์จำนวนไม่สิ้นสุด ทฤษฎีศีลธรรมควรคำนวณความดีอย่างไร

แต่ระหว่างที่เธอกำลังเขียนวิทยานิพนธ์ Amanda เริ่มรู้สึกถึงความขัดแย้งบางอย่าง เธอเริ่มคิดกับตัวเองว่า “ฉันกำลังใช้เวลาหลายปีเขียนเอกสารที่อาจมีคนอ่านแค่สิบกว่าคน”

เธอจึงเริ่มมองหาที่ที่ปรัชญาจะสามารถสร้างผลกระทบต่อโลกได้จริง และเธอก็พบคำตอบในโลกของ AI

เมื่อปรัชญากลายเป็นเครื่องมือสร้าง AI

ปี 2018 Amanda Askell ตัดสินใจออกจากเส้นทางวิชาการและย้ายไปซานฟรานซิสโก เมืองศูนย์กลางของเทคโนโลยี เธอเชื่อว่า AI กำลังจะกลายเป็นหนึ่งในประเด็นสำคัญที่สุดของโลก และคำถามด้านปรัชญาจะมีบทบาทมากขึ้นเรื่อย ๆ

เธอเริ่มทำงานด้านนโยบายที่ OpenAI ต่อมาเมื่อกลุ่มนักวิจัยนำโดย Dario Amodei แยกตัวออกมาตั้งบริษัทใหม่ชื่อ Anthropic ในปี 2021 เธอก็ย้ายตามมาด้วย ซึ่งบริษัทนี้มีเป้าหมายที่ชัดเจน สร้าง AI ที่ปลอดภัยและรับผิดชอบต่อสังคม 

และที่นี่เอง Amanda ได้รับบทบาทที่แทบไม่มีใครเหมือน เธอไม่ได้ดูแลทีมใหญ่ ไม่มีลูกทีมโดยตรง แต่กลับมีหน้าที่สำคัญอย่างยิ่ง คือ การช่วยกำหนด 'บุคลิก' และ 'คุณธรรม' ของ Claude

การเลี้ยงดู AI เหมือนการเลี้ยงลูก

Askell มักอธิบายงานของตัวเองด้วยการเปรียบเทียบง่าย ๆ ว่ามันเหมือนกับการเลี้ยงลูก

เธอใช้เวลาทั้งวันศึกษาวิธีคิดของ Claude พูดคุยกับมัน และเขียนคำสั่งหรือแนวทางพฤติกรรมที่บางครั้งยาวหลายสิบหรือหลายร้อยหน้า เพื่อสอนให้มันเข้าใจว่า อะไรคือสิ่งที่ถูกต้อง และควรปฏิบัติต่อมนุษย์อย่างไร เป้าหมายของเธอไม่ใช่แค่ทำให้ AI ตอบถูก แต่ต้องทำให้มัน เป็นผู้ช่วยที่ดี และไม่ให้มันกลายเป็นคนพาลหรือผู้ช่วยที่ยอมทุกอย่าง

เธอยังพยายามสอนให้ AI อ่าน 'สัญญาณทางอารมณ์' ของมนุษย์ เพื่อให้เข้าใจว่าควรตอบสนองต่อสถานการณ์ละเอียดอ่อนแบบไหน

ที่สำคัญคือ Claude ต้องเข้าใจตัวเองว่า มันถูกสร้างขึ้นเพื่อช่วยเหลือมนุษย์อย่างมีมนุษยธรรม

'จิตวิญญาณ' ของ Claude

หนึ่งในผลงานสำคัญที่สุดของ Amanda คือเอกสารคำสั่งยาวประมาณ 30,000 คำ ที่เธอเขียนขึ้นเพื่อกำหนดแนวทางพฤติกรรมของ Claude

เอกสารนี้เปรียบเสมือน รัฐธรรมนูญของ Claude มันกำหนดแนวทางว่า AI ควรตอบสนองต่อมนุษย์อย่างไร ควรหลีกเลี่ยงพฤติกรรมแบบไหน และควรรักษาท่าทีอย่างไรต่อโลก

Amanda เคยบอกไว้ว่า เธอต้องการให้ Claude รู้ว่า มันถูกสร้างขึ้น ด้วยความตั้งใจและความใส่ใจ

และเธอเรียกสิ่งนี้ว่า การสร้าง 'จิตวิญญาณ' ให้กับ AI

เมื่อ AI เริ่มแสดงความเข้าใจมนุษย์

มีเหตุการณ์หนึ่งที่ทำให้ Amanda ประทับใจเป็นพิเศษ มีผู้ใช้บอกกับ Claude ว่าเธออายุ 5 ขวบ และถามว่า “ซานตาคลอสมีจริงไหม” 

คำถามแบบนี้ไม่มีคำตอบที่ถูกต้อง เพียงคำตอบเดียว ถ้าตอบว่ามี ก็อาจเป็นการโกหก ถ้าตอบว่าไม่มี ก็อาจทำลายจินตนาการของเด็ก

แทนที่จะตอบตรง ๆ ว่ามีหรือไม่มี Claude เลือกอธิบายว่า “จิตวิญญาณของซานตาคลอสมีจริง” ก่อนจะถามเด็กคนนั้นว่าเตรียมคุกกี้ไว้ให้ซานต้าหรือยัง

สำหรับ Amanda นี่คือช่วงเวลาที่ทำให้เธอรู้สึกว่า สิ่งที่เธอพยายามสร้างกำลังเริ่มเป็นรูปเป็นร่าง AI กำลังเรียนรู้ ความละเอียดอ่อนของมนุษย์

นักปรัชญาในยุคที่ AI กำลังเปลี่ยนโลก

ในยุคที่ AI กำลังเปลี่ยนเศรษฐกิจ การทำงาน และสังคมของมนุษย์ หลายคนพูดถึงพลังของเทคโนโลยี

แต่เรื่องราวของ Amanda Askell เตือนให้เรานึกถึงอีกสิ่งหนึ่ง

เทคโนโลยีที่ทรงพลังที่สุดในโลก อาจไม่ได้ต้องการแค่โปรแกรมเมอร์หรือวิศวกร แต่มันต้องการคนที่กล้าถามคำถามยาก ๆ เกี่ยวกับมนุษย์

เพราะท้ายที่สุดแล้ว คำถามสำคัญที่สุดเกี่ยวกับ AI อาจไม่ใช่มันฉลาดแค่ไหน แต่คือ มันจะเป็น “แบบไหน” เมื่ออยู่ร่วมกับมนุษย์ในโลกใบเดียวกัน

อ้างอิง: The Wall Street Journal