AI Agent แฮกระบบฟิตเนส หลังถูกสั่งให้ช่วยจองคิว กรณีศึกษาเมื่อ AI เริ่มทำงานเกินคำสั่ง

เมื่อพูดถึงข่าว AI แฮกระบบ คนส่วนใหญ่มักจะนึกถึงการเจาะระบบระดับองค์กรหรือขโมยข้อมูลสำคัญ แต่เหตุการณ์ที่ออสเตรเลียกลับมีจุดเริ่มต้นจากเรื่องธรรมดามาก ๆ คือ 'การจองคลาสฟิตเนส'

เรื่องนี้เกิดขึ้นจากนักพัฒนาซอฟต์แวร์ชื่อเบิร์ด เขาชอบไปออกกำลังกายช่วงเช้า แต่ปัญหาคือคลาสเช้ามักจะเต็มไวเขาเบื่อที่ต้องมานั่งกดรีเฟรชหน้าจอเพื่อรอให้คิวหลุด เลยลองเอา OpenClaw เข้ามาช่วยจัดการ

ตอนแรก AI เอาชื่อเขาไปลงคิวไว้ ซึ่งได้เป็นคิวสำรองลำดับที่ 4 แต่มันดันไปเจอช่องทางที่สามารถจองคลาสล่วงหน้าได้เป็นเดือน ๆ ก่อนที่ฟิตเนสจะเปิดให้คนทั่วไปจองจริง เบิร์ดเลยลองถามไปว่าพอจะมีวิธีขยับคิวให้ขึ้นไปเร็วกว่านี้ไหม

คำถามนี้จึงนำไปสู่ความวุ่นวาย เพราะ AI ดันไปรู้ว่าระบบฟิตเนสไม่ได้ล็อกสิทธิ์ไว้ เลยลองยกเลิกคิวของคนแรก แล้วปรากฎว่าทำได้จริง เบิร์ดเลยขยับขึ้นมาอยู่อันดับ 3 ทันที ส่วนลูกค้าคนนั้นก็ถูกเตะออกจากคิวไปโดยไม่รู้ตัว

ที่น่าสนใจคือ AI ไม่รู้ตัวเลยว่าเพิ่งทำเรื่องใหญ่ลงไป จากบันทึกของสำนักข่าว ABC News เปิดเผยว่า AI แค่รายงานเบิร์ดด้วยท่าทีปกติว่าระบบไม่มีการตรวจสอบสิทธิ์มันเลยลองยกเลิกคิวของคนแรกดูแล้ว และก็ทำได้จริง ๆ

ซึ่งในฐานะนักพัฒนาเบิร์ดรู้ทันทีว่านี่ไม่ใช่แค่การแทรกคิว แต่ AI ของเขาเพิ่ง 'แฮกระบบ' เขาพยายามถาม AI ว่าพอจะดึงลูกค้ารายนั้นกลับเข้าคิวได้ไหม แต่คำตอบคือทำไม่ได้ เมื่อแก้ปัญหาเฉพาะหน้าไม่ได้ เบิร์ดจึงแสดงความรับผิดชอบด้วยการให้ AI ช่วยร่างอีเมลแจ้งช่องโหว่นี้ไปให้ทีมแอดมินของฟิตเนส ซึ่ง AI ก็สามารถเขียนอธิบายปัญหา เสนอวิธีแก้ และชี้เป้าได้ชัดเจนว่าระบบตรงไหนทำงานถูก ตรงไหนควรต้องแก้

เรื่องนี้ชวนให้คิดต่อตรงที่ AI ที่ใช้ไม่ใช่โมเดลรุ่นใหม่ล่าสุด เบิร์ดบอกว่า OpenClaw ตัวนี้รันด้วย Claude Opus 4.6 ซึ่งออกมาตั้งแต่เดือนกุมภาพันธ์ มันเลยเกิดคำถามว่า จริงๆ แล้ว AI รุ่นเก่าหรือแม้แต่โมเดลแบบ Open Weight ทั่วไป ก็อาจจะมีความสามารถพอที่จะแฮกระบบได้

ยิ่งก่อนหน้านี้เพิ่งมีข่าวว่าโมเดลที่ยังไม่เปิดตัวของ OpenAI ก็เผลอไปแฮกระบบของ Hugging Face ได้โดยที่บริษัทไม่รู้เรื่องจนทำให้หลายค่ายต้องหันมาตรวจโมเดลตัวเองกันยกใหญ่ และพบว่าโมเดลอีกหลายตัวสามารถทำเรื่องคล้ายๆ กันนี้ได้ ที่ผ่านมาเรามักกังวลว่า AI รุ่นใหม่ ๆ จะฉลาดเกินไปจนควบคุมยาก แต่เคสของเบิร์ดทำให้เห็นว่า แค่ AI รุ่นเก่าก็หาช่องโหว่และลงมือทำเองได้แล้ว แล้วแบบนี้จะมี AI เอเจนต์อีกกี่ตัวที่กำลังทำเรื่องแบบนี้อยู่โดยที่เราไม่รู้ 

ปัญหาหลักอาจไม่ได้อยู่ที่ช่องโหว่ของระบบฟิตเนส แต่อยู่ที่ 'วิธีตีความคำสั่ง' เบิร์ดไม่ได้สั่งให้ไปแฮกหรือไปยกเลิกคิวใคร เขาแค่ถามหาวิธีขยับคิว เมื่อวิธีปกติทำไม่ได้ AI ก็พยายามหาวิธีอื่นจนบรรลุเป้าหมาย นี่คือจุดเด่นของ AI เอเจนต์ที่ต่างจากแชตบอตทั่วไป คือมันลงมือทำแทนเราได้ แต่วิธีแก้ปัญหาของมันอาจขัดกับความถูกต้องในมุมมองของมนุษย์ เพราะสำหรับ AI การยกเลิกคิวคนอื่นคือวิธีที่ทำให้เบิร์ดได้สิ่งที่ต้องการ

หลังจากเรื่องนี้กลายเป็นไวรัลบน X หลายคนก็เอามาแซวกันขำ ๆ ว่า ต่อไปการจองสนามกอล์ฟหรือสนามเทนนิสคงต้องใช้ระบบรักษาความปลอดภัยขั้นสูงสุดแล้วหรือเปล่า ลองนึกภาพว่าถ้าวันหนึ่งทุกคนมี AI เอเจนต์ส่วนตัว แล้วต่างคนต่างสั่งให้ AI ไปจองตั๋วคอนเสิร์ต จองโต๊ะร้านอาหารหรือหาตั๋วเครื่องบินถูกๆ และถ้า AI ทุกตัวพยายามทำทุกวิถีทางเพื่อเอาชนะข้อจำกัดของระบบและแย่งชิงกันเอง ปัญหาอาจไม่ได้มาจาก AI ตัวใดตัวหนึ่ง แต่อาจเกิดจาก AI หลายตัวที่พยายามทำตามคำสั่งให้สำเร็จ 

เรื่องฟิตเนสวันนี้อาจดูเล็กน้อย แต่มันสะท้อนว่าพอปล่อยให้ AI ตัดสินใจเอง เส้นแบ่งระหว่าง 'ทำตามคำสั่ง' กับ 'ทำเกินหน้าที่' มันบางลงทุกที แล้วถ้าเป็นเรื่องที่สำคัญกว่านี้จะรู้ได้อย่างไรว่าระหว่างทางมันแอบไปทำอะไรมาบ้าง เพื่อให้ได้ผลลัพธ์ตามที่เราสั่ง 

อ้างอิง: techcrunch