มีองค์กรทั่วโลกเพียง 7% ที่ถูกจัดว่าเป็นผู้นำด้านความพร้อมเรื่องจริยธรรม AI และมีเพียง 31% ที่วางระบบกำกับดูแลได้แข็งแรงเพียงพอ ตัวเลขชุดนี้จากงานวิจัยของ Gartner สรุปสถานะขององค์กรทั่วโลกไว้ในประโยคเดียว คือเทคโนโลยีเดินไปไกลกว่าการกำกับดูแลแล้วหลายก้าว
คุณชัชวัฒน์ อัศวรักวงศ์ Vice Chairman และ Group Chief Information Security Officer บริษัท กสิกร บิซิเนส-เทคโนโลยี กรุ๊ป (KBTG) ยกตัวเลขดังกล่าวขึ้นในเซสชัน 'AI with Accountability: Building Trust in the Intelligent Enterprise' ที่งาน Techsauce Global Summit 2026 พร้อมข้อเสนอที่เป็นแกนกลางของทั้งเซสชัน คือองค์กรต้องเปลี่ยนคำถามตั้งต้นเรื่อง AI เสียใหม่ จากที่เคยถามกันว่าจะนำ AI มาใช้ให้เร็วขึ้นได้อย่างไร ไปเป็นคำถามว่าจะนำ AI มาใช้อย่างรับผิดชอบและไว้ใจได้อย่างไร

จุดตั้งต้นที่คุณชัชวัฒน์ใช้อธิบายความจำเป็นของการกำกับดูแลคือข้อเท็จจริงว่า AI ไม่ได้เป็นโครงการทางเทคโนโลยีอีกแล้ว แต่กลายเป็นบทสนทนาทางธุรกิจไปเรียบร้อย เหตุผลสำคัญคือการพัฒนา AI จะเกิดขึ้นได้จริงต่อเมื่อมีกรณีใช้งานที่ตอบโจทย์ธุรกิจ ไม่ใช่เพราะฝ่าย IT ต้องการนำมาใช้ และเมื่อมีกรณีใช้งานที่เหมาะสม AI จึงกลายเป็นความสามารถในการแข่งขันของธุรกิจได้
แรงผลักที่ทำให้ AI แพร่เข้าไปในทุกส่วนขององค์กรมาจากผู้บริหารระดับสูงโดยตรง คุณชัชวัฒน์ ยกชุดคำถามที่ผู้บริหารถามพนักงานกันอยู่ในเวลานี้ ตั้งแต่ทำไมไม่ใช้ AI ทำเอกสารนำเสนอ ทำไมไม่ใช้ AI สรุปรายงาน ทำไมไม่ใช้ AI สร้างแคมเปญการตลาด ทำไมไม่ใช้ AI ทำให้กระบวนการทำงานเป็นอัตโนมัติ ไปจนถึงทำไมไม่ใช้ AI วิเคราะห์ข้อมูลให้ฝ่ายปฏิบัติการ
สภาพเดียวกันเกิดขึ้นนอกที่ทำงานด้วย ทั้งเด็กที่ใช้ AI ทำการบ้าน ครูและอาจารย์ที่ใช้ AI ออกข้อสอบและตรวจงาน รวมถึงงานบริการลูกค้าของหลายองค์กรที่เริ่มใช้ AI ช่วยจัดการข้อร้องเรียนแล้ว Generative AI จึงเป็นเทคโนโลยีที่แพร่กระจายเร็วกว่าเทคโนโลยีใดในประวัติศาสตร์ และเปลี่ยนทั้งวิธีใช้ชีวิตและวิธีทำธุรกิจไปแล้วภายในเวลาเพียงสามปี
AI อยู่ทุกที่แล้ว แต่คำถามที่ยังไม่มีใครตอบคือไว้ใจมันได้แค่ไหน
ความแพร่หลายระดับนั้นพาคำถามชุดใหม่มาด้วย คุณชัชวัฒน์ ตั้งคำถามกับผู้ฟังไว้สามข้อ
คำถามทั้งสามข้อหนักที่สุดในกรณีที่องค์กรเปิดให้พนักงานใช้ AI สาธารณะ เหตุผลคือเมื่อพนักงานหันไปใช้บริการสาธารณะ องค์กรจะมองไม่เห็นสามเรื่องพร้อมกัน
ฝั่งงานที่ติดต่อลูกค้าโดยตรงเห็นภาพชัดกว่านั้น คุณชัชวัฒน์ ยกกระบวนการจัดการข้อร้องเรียนของลูกค้าขึ้นมาเป็นตัวอย่าง เพราะเป็นงานที่หลายองค์กรเริ่มให้ AI เข้ามาช่วยแล้วจริง
สมมติว่า AI ไม่เข้าใจบริบทของลูกค้ารายนั้น หรือวิเคราะห์แล้วส่งคำตอบที่ผิดกลับไปถึงมือลูกค้า ผลที่ตามมาซึ่งคุณชัชวัฒน์ ย้ำว่าเป็นเรื่องใหญ่จริงคือลูกค้าฟ้องร้ององค์กร จุดนี้คือจุดที่ความเสี่ยงของ AI ขยับจากปัญหาทางเทคนิคไปเป็นความเสี่ยงทางธุรกิจเต็มตัว

เพื่อให้ผู้ฟังกลับไปตรวจองค์กรของตัวเองได้ คุณชัชวัฒน์ ไล่ความเสี่ยงของ AI ที่ควรรู้จักไว้แปดข้อ

เมื่อเห็นความเสี่ยงครบชุดแล้ว คำถามถัดไปที่คุณชัชวัฒน์ ระบุว่าได้ยินบ่อยที่สุดคือองค์กรควรเริ่มจากอะไร คำตอบคือไม่จำเป็นต้องเขียนทุกอย่างขึ้นมาใหม่ เพราะกรอบและมาตรฐานที่ใช้อ้างอิงได้มีอยู่แล้วและดาวน์โหลดได้ทันที เริ่มจากกฎหมาย AI ของสหภาพยุโรป (EU AI Act) มาตรฐานจาก ISO ซึ่งมี ISO/IEC 42001 เป็นมาตรฐานระบบบริหารจัดการ AI ฉบับแรกของโลก และกรอบบริหารความเสี่ยง AI ของสถาบันมาตรฐานและเทคโนโลยีแห่งชาติของสหรัฐ (NIST)
ในระดับภูมิภาค หน่วยงานความมั่นคงปลอดภัยไซเบอร์ของสิงคโปร์ (Cyber Security Agency of Singapore หรือ CSA) มีแนวปฏิบัติเรื่องการรักษาความปลอดภัยของระบบ AI ที่นำไปใช้อ้างอิงได้ ส่วนในไทยเองก็มีเอกสารให้เริ่มต้นได้หลายฉบับ ทั้งจากสำนักงานพัฒนาธุรกรรมทางอิเล็กทรอนิกส์ (ETDA) และสำนักงานคณะกรรมการการรักษาความมั่นคงปลอดภัยไซเบอร์แห่งชาติ (สกมช.) ที่มีแนวทางด้านความปลอดภัยของ AI รวมถึงธนาคารแห่งประเทศไทย (ธปท.) ที่ออกแนวนโยบายเรื่องการบริหารจัดการความเสี่ยงของการใช้งานระบบปัญญาประดิษฐ์สำหรับผู้ให้บริการทางการเงินไว้แล้ว ข้อเสนอของคุณชัชวัฒน์ คือหยิบเอกสารเหล่านี้มาใช้เป็นฐานของนโยบายองค์กร เพื่อให้มีจุดเริ่มต้นก่อนเป็นอันดับแรก
จากมาตรฐานสากลสู่การลงมือทำจริง คุณชัชวัฒน์ อธิบายว่าสิ่งที่องค์กรต้องมีเป็นชิ้นแรกคือกรอบธรรมาภิบาล AI ที่ครอบคลุมสามส่วน ได้แก่หลักการ การกำกับดูแลและบริหารความเสี่ยง และวงจรชีวิตของ AI ตั้งแต่ต้นจนจบ โดยมีแนวคิด AI ที่มีความรับผิดชอบ (Responsible AI) เป็นตัวกำหนดคุณสมบัติที่ AI ทุกตัวในองค์กรต้องมี ไม่ว่าจะเป็น AI ที่นำมาใช้หรือ AI ที่พัฒนาขึ้นเอง
คุณสมบัติดังกล่าวมีห้าข้อ ซึ่งจับคู่กลับไปยังความเสี่ยงทั้งแปดข้อได้ทีละข้อ
และเมื่อมีนโยบายแล้ว สิ่งที่ต้องมีต่อคือแนวปฏิบัติและกระบวนการที่ละเอียดกว่าตัวนโยบาย โดยคุณชัชวัฒน์ เสนอให้มององค์กรของ AI เหมือนวงจรการพัฒนาซอฟต์แวร์ (Software Development Lifecycle) ที่ต้องกำกับดูแลตั้งแต่วันเริ่มต้นจนถึงวันที่เลิกใช้แอปพลิเคชันนั้น
ก่อนไปถึงวงจรการพัฒนา เรื่องที่ใกล้ตัวองค์กรมากที่สุดคือการใช้ AI ของพนักงาน ซึ่งคุณชัชวัฒน์ ย่อยเป็นสามคำถามง่าย ๆ คำถามแรกคือ
การกำกับดูแลฝั่งการพัฒนา AI ขึ้นมาใช้เองหรือให้บริการลูกค้าเดินตามหกขั้นตอน
เริ่มจากการวางแผนและเก็บความต้องการกับกรณีใช้งานจากผู้ใช้ ซึ่งคุณชัชวัฒน์ ระบุว่าเป็นด่านที่สำคัญกว่าที่หลายองค์กรคิด เพราะเมื่อทุกหน่วยงานอยากมี AI โครงการที่ผุดขึ้นมาอาจไม่คุ้มค่าใช้จ่าย และบางความต้องการของธุรกิจแก้ได้ด้วยการวิเคราะห์ข้อมูล (Data Analytics) เท่านั้น ไม่ต้องใช้ AI เลย โจทย์ของขั้นนี้จึงคือทำความเข้าใจว่าทำไมต้องเป็น AI และ AI ช่วยอะไรได้จริง
ขั้นต่อมาคือการทดลองแนวคิด (Proof of Concept หรือ POC) ที่ต้องระบุเกณฑ์ความสำเร็จให้วัดผลได้ตั้งแต่ต้น และต้องมีผู้ทำหน้าที่เป็นด่านตรวจขั้นสุดท้ายก่อนขยายการใช้งาน เมื่อผ่านด่านนั้นจึงเข้าสู่การนำขึ้นระบบจริงและติดตั้งใช้งาน ขั้นที่คุณชัชวัฒน์ ชี้ว่าสำคัญไม่แพ้กันคือการเฝ้าติดตามหลังเปิดใช้งาน โดยต้องติดตามอย่างน้อยสามเรื่อง คือประสิทธิภาพของโมเดลและความแม่นยำ ประสิทธิภาพของระบบ และพฤติกรรมของ AI เอง เพราะ AI เรียนรู้ได้ด้วยตัวเองและอาจแสดงพฤติกรรมต่างไปจากวันแรกที่ออกแบบไว้
ขั้นสุดท้ายที่มักถูกลืมคือการปลดระวาง เมื่อองค์กรเลิกใช้ AI ตัวใดต้องมีกระบวนการปลดระวางให้เรียบร้อย ไม่ใช่ปล่อยทิ้งไว้ในระบบไปเรื่อย ๆ

ระหว่างขั้นตอนก่อนขึ้นระบบจริงกับขั้นตอนการเฝ้าติดตาม มีงานอีกชิ้นที่ต้องแทรกอยู่ตรงกลาง คือการประเมินสามด้าน ได้แก่ประสิทธิภาพของโมเดล ประสิทธิภาพของระบบ และ AI Red Teaming ซึ่งคุณชัชวัฒน์ อธิบายว่าเป็นการประเมินในมุมความมั่นคงปลอดภัยไซเบอร์ ด้วยการทดลองเจาะโมเดลของตัวเองว่าสามารถแทรกคำสั่งอันตราย เข้าไปได้หรือไม่ ถือเป็นการทดสอบความปลอดภัยก่อนของจริงจะมาถึง
การป้องกันโมเดลและ AI Agent ไม่มีวิธีเดียวที่เอาอยู่ทั้งหมด คุณชัชวัฒน์ จึงเสนอให้วางเป็นหลายชั้น ตั้งแต่ระบบ Guardrail การทำให้ System Prompt แข็งแรงขึ้น การให้สิทธิ์เท่าที่จำเป็น ไปจนถึงการจำกัด Output Truncation ทั้งหมดนี้เพื่อรับมือกับการแทรกคำสั่งอันตราย การป้อนข้อมูลปนเปื้อนเพื่อบิดเบือนโมเดล (Data Poisoning) และการปลดล็อกข้อจำกัดของโมเดล (Jailbreak) ที่เคยเป็นข่าวมาแล้วว่าทำให้โมเดลทำงานต่างไปจากที่ออกแบบไว้
เมื่อขอบเขตขยับจากโมเดลไปถึง AI Agent ขั้นตอนที่คุณชัชวัฒน์ ระบุว่าสำคัญที่สุดคือการลงทะเบียน หากองค์กรเปิดให้พนักงานสร้าง Agent มาช่วยทำงานได้ องค์กรต้องมองเห็นให้ครบว่า Agent แต่ละตัวอยู่ที่ไหน ใครเป็นเจ้าของ ทำอะไรได้ และเข้าถึงข้อมูลชุดใดได้บ้าง มิฉะนั้นองค์กรจะมี Agent เกิดขึ้นเองอย่างอิสระโดยไม่มีใครรู้จำนวน
ภาพเปรียบเทียบที่คุณชัชวัฒน์ ใช้อธิบายคือการที่พนักงานคนหนึ่งพาคนนอกเข้ามาช่วยทำงานโดยไม่มีใครรู้ว่าเป็นใคร และคนคนนั้นเข้าถึงอะไรในองค์กรก็ได้ ซึ่งไม่มีองค์กรใดยอมรับได้ หลักการเดียวกันจึงต้องใช้กับ AI Agent คือต้องรู้ว่าใครเข้ามา ต้องลงทะเบียน และต้องกำหนดสิทธิ์การเข้าถึงให้เหมาะสม
ปลายทางของทั้งกระบวนการคือการเฝ้าสังเกตการทำงานของ AI หลังประเมินและวางเกราะเรียบร้อยแล้ว สิ่งที่ต้องติดตามต่อเนื่องมีทั้งอัตราความแม่นยำ เวลาตอบสนองตั้งแต่ต้นทางถึงปลายทาง ความพร้อมใช้งานของระบบ รวมถึงในมุมความมั่นคงปลอดภัยไซเบอร์คือจำนวนเหตุการณ์ผิดปกติที่เกิดขึ้น และพฤติกรรมของ AI ที่เปลี่ยนไปจากเดิม
สิ่งที่ร้อยทุกหัวข้อของเซสชันนี้เข้าด้วยกันถูกสรุปไว้ในข้อคิดห้าข้อ
ที่มา: เซสชัน 'AI with Accountability: Building Trust in the Intelligent Enterprise' บนเวที Techsauce Global Summit 2026
ลงทะเบียนเข้าสู่ระบบ เพื่ออ่านบทความฟรีไม่จำกัด