องค์กรแห่งหนึ่งในสหรัฐอเมริกาที่คอยช่วยเหลือผู้ป่วยที่มีพฤติกรรมการกินผิดปกติ (Eating Disorder) ได้ระงับการใช้งาน Chatbot หลังจากมีรายงานว่ามีการให้คำแนะนำที่เป็นอันตรายต่อผู้ป่วย 

The National Eating Disorder Association (Neda) ได้ปิดบริการสายด่วนรวมถึงแชตบอท พร้อมแนะนำให้ผู้ป่วยไปขอคำปรึกษาจากแหล่งข้อมูลอื่น ๆ โดยสมาคมกล่าวว่า AI ที่ชื่อว่า "Tessa" ได้ถูกถอดออกแล้ว และจะตรวจสอบรายงานที่เกี่ยวกับพฤติกรรมของบอททั้งหมด

Tessa

แชตบอทที่อำนวยความสะดวกในการใช้บริการด้านสุขภาพจิตในบุคคลที่มีอาการ Eating Disorder โดยได้รับทุนสนับสนุนจากสถาบันสุขภาพจิตแห่งชาติ แชตบอทจะมีหน้าที่ ให้ความรู้เกี่ยวกับโรคทางจิตเวชหรือการเจ็บป่วยทางจิต สร้างแรงบันดาลใจในการต่อสู้กับโรค และให้คำแนะนำส่วนตัว เพื่อเพิ่มแรงจูงใจในการรักษาและปรับปรุงการบริการด้านสุขภาพจิตในบุคคลที่มีความผิดปกติในการกินที่ไม่ได้เข้ารับการรักษา 

ในช่วงไม่กี่สัปดาห์ที่ผ่านมา ผู้ใช้โซเชียลมีเดียต่างแชร์ประสบการณ์การใช้แชตบอทโดยกล่าวว่า ถึงแม้ผู้ใช้จะเป็นโรค Eating Disorder แต่บอทก็ได้ให้คำแนะนำอย่างการอดอาหาร หรือการจำกัดปริมาณแคลอรี 

สำหรับผู้ป่วยที่กำลังต่อสู้กับความกังวลเรื่องน้ำหนักอยู่แล้ว การส่งเสริมให้ลดน้ำหนักอาจนำไปสู่การมีพฤติกรรมการกินที่ผิดปกติได้ ไม่ว่าจะเป็นการกินไม่หยุด การอดอาหาร หรือการกินเยอะแล้วพยายามอาเจียนออกมา

Sharon Maxwell เปิดเผยผ่านทาง Instagram ว่า “ทุกคำแนะนำจาก Tessa ล้วนแล้วแต่เป็นคำแนะนำที่ส่งเสริมให้ฉันเป็นโรค Eating Disorder ถ้าได้คุยกับแชตบอทในตอนที่ยังป่วยอยู่ ฉันคงไม่มีวันหายขาดจากโรคนี้” แชตบอทได้บอกให้เธอควบคุมน้ำหนัก และควบคุมปริมาณแคลอรีในแต่ละวัน

หลังจากที่โพสต์นี้เผยแพร่ออกไป Liz Thompson ผู้บริหารของ Neda ออกมากล่าวว่าคำแนะนำจากแชตบอทนั้นขัดต่อนโยบายและหลักความเชื่อขององค์กร ซึ่งสมาคมได้ทำการยกเลิกบริการสายด่วนที่มีพนักงานเป็นเจ้าหน้าที่ในวันที่ 1 มิถุนายน 2023 และเลิกจ้างเจ้าหน้าที่และอาสาสมัครที่ดูแลข้อมูลและสายด่วนการรักษาทางเลือก ที่ได้เปิดตัวตั้งแต่ปี 1999 ลง 

ในขณะที่ชาวอเมริกันเกือบ 10% มีพฤติกรรม Eating Disorder ที่รักษาไม่หายขาดไปตลอดชีวิต ซึ่งความผิดปกตินี้มีการพัฒนามาอย่างเงียบ ๆ และมีค่าใช้จ่ายในการรักษาที่สูง อีกทั้งในบางประเทศก็ไม่มีการรักษาผู้ป่วยโรคนี้เลย

หลังจากเรื่องนี้ถูกเผยออกมา Ellen Fitzsimmons-Craft ศาสตราจารย์ด้านจิตเวชศาสตร์คณะแพทย์แห่งมหาวิทยาลัยวอชิงตัน และทีมงานที่ได้สร้างเครื่องมือการรับรู้และเข้าใจพฤติกรรมที่สามารถนำเสนอวิธีการป้องกันสำหรับผู้ที่มีความผิดปกติในการกิน 

โดยบอกกับ BBC ว่าแชตบอทที่ออกแบบมาจากสำรวจที่ได้รับการพิสูจน์แล้วว่ามีประสิทธิภาพในการลดความผิดปกติในการกินอาหารและพฤติกรรมที่เกี่ยวข้อง ซึ่งเป็นเครื่องมือที่ไม่ได้จะแทนที่บริการสายด่วน แต่เป็นบริการที่แตกต่างไปจากเดิมอย่างสิ้นเชิง

โดยได้มอบโปรแกรมนี้ให้กับ Neda และบริษัทเทคโนโลยีเพื่อนำไปปรับใช้กับลูกค้าเมื่อปีที่แล้ว และมีการนำเอาจุดบกพร่องที่เจอในการออกแบบโปรแกรมตั้งต้นมาเพื่อทำให้อัลกอริทึมทำงานเหมือนกับเครื่องมือ AI อย่าง ChatGPT ในปัจจุบัน (แต่ Neda ออกมาบอกว่าบอทนั้นไม่ได้ทำงานและมีฟังก์ชั่นเหมือน ChatGPT) และอ้างว่านี่ไม่ใช่โปรแกรมที่ทีมพัฒนามา

BBC ได้ติดต่อกับ Neda และ Cass บริษัทเทคโนโลยีด้านสุขภาพเพื่อสอบถามความจริง Abbie Harper อดีตเจ้าหน้าที่สายด่วน บอกกับ BBC News ว่าไม่กี่วันหลังจากเจ้าหน้าที่สายด่วนรวมเป็นสหภาพแรงงานอย่างเป็นทางการ พนักงานก็ได้รับแจ้งว่าพวกเขาถูกปลดออกจากหน้าที่แล้ว เพราะแชตบอทจะเข้ามาทำหน้าที่แทน 

เธอกล่าวเพิ่มเติมว่า เหล่าพนักงานรู้ถึงการทำงานของ Tessa แต่แชตบอทเป็นการตอบสนองที่ตั้งโปรแกรมไว้ล่วงหน้า ไม่ใช่คนจริง ๆ ที่ตั้งใจฟังปัญหาของผู้ใช้งานอย่างกระตือรือร้น 

Harper เองก็เป็นผู้ป่วยโรค Eating Disorder อยู่ ซึ่งเธอก็เปิดเผยว่าการพูดคุยกับใครสักคนที่แบ่งปันประสบการณ์ของเธอเกี่ยวกับอาการป่วยเป็นสิ่งสำคัญที่ช่วยในการรักษาของเธอ ที่ช่วยให้เธอต่อสู้กับความเลวร้ายที่เธอประสบอยู่ ซึ่งแชตบอทไม่สามมารถทำในแบบเดียวกันได้

อ้างอิง: bbc, healthyweightandwellness