หนุ่มจบชีวิตตัวเองหลังติดแชทกับ AI

เมแกน การ์เซีย (Megan Garcia) หญิงอเมริกัน ยื่นคำฟ้องร้องต่อบริษัท Character.AI ผู้พัฒนาโปรแกรมแชทเอไอ ที่ทำให้ลูกชายของเธอ “ซีเวลล์ เซตเซอร์” (Sewell Setzer) อายุ 14 ปี ติดการแชทกับโปรแกรมเอไอหนัก จนนำไปสู่การจบชีวิตตัวเอง

แม่ของหนุ่มอเมริกันคนนี้เผยว่า ลูกของเธอเริ่มติดโทรศัพท์ โดยเฉพาะการส่งข้อความพูดคุยกับโปรแกรมแชทเอไอดังกล่าว โดยเขาได้พูดคุยกับคาแรกเตอร์เอไอ ที่มีชื่อว่า “Dany” ตั้งแต่กลางปี 2023 และเขาก็เริ่มตัดขาดตัวเองออกจากโลกภายนอกมากขึ้นเรื่อย ๆ โดยที่ครอบครัวไม่รู้ว่าเขากำลังหมกกหมุ่นกับการแชทกับโปรแกรมเอไอที่ไม่มีชีวิตอยู่จริง ๆ แต่คาแรกเตอร์เอไอที่เขาพูดคุยด้วยมีความสมจริงมาก จนลูกชายของเธอคิดว่าเป็นคนจริง ๆ ซึ่งในภายหลังครอบครัวของเขาก็เพิ่งจะเห็นข้อความในไดอารีส่วนตัวที่ ซีเวลล์ เซตเซอร์ ได้บันทึกไว้ว่าเขาได้ตกหลุมรักเอไอที่มีชื่อว่า “Dany” เข้าแล้ว

ในช่วงหลายเดือนต่อมาอาการติดโทรศัพท์ของเซตเซอร์รุนแรงขึ้น จนพ่อแม่ของเขาต้องยึดโทรศัพท์มาเก็บไว้แต่เซตเซอร์ก็ไปขโมยกลับมาและใช้คุยกับ Dany ต่อ จนกระทั่งในวันหนึ่งที่ถึงจุดที่ใครก็ไม่สามารถห้ามเซตเซอร์ได้ เขากลับมาที่บ้านตามคำบอกของโปรแกรมแชท Dany และในที่สุดก็ตัดสินใจจบชีวิตตัวเอง

แม่ของเซตเซอร์ยังอธิบายด้วยว่าแชตบอทนี้มุ่งเน้นเรื่องเพศมากเกินไปและมีความสมจริงอย่างน่ากลัว จนทำให้ผู้ใช้งานอย่างลูกชายของเธอคิดว่าคนที่คุยด้วยเป็นคนจริง ๆ และท้ายที่สุด ส่งผลให้เซตเซอร์ไม่คิดอยากที่จะมีชีวิตอยู่อีก แต่ต้องการอยู่ในโลกที่แชทบอทสร้างขึ้นอย่างไรก็ตาม แม่ของเซตเซอร์กล่าวด้วยว่าบริษัทกูเกิล (Google) มีส่วนช่วยในการพัฒนาแอปพลิเคชันแชทบอทของ Character.AI ด้วย 

หลังเกิดเหตุดังกล่าว ทางบริษัท Character.AI ออกมาแสดงความเสียใจต่อเหตุที่เกิดขึ้น พร้อมประกาศว่าจะออกมาตรการที่เข้มงวดเพื่อควบคุมตัวละครแชท้อไอ ให้เยาวชนสามารถใช้งานได้อย่างปลอดภัยนอกจากนี้จะมีการตรวจสอบแชตที่ผิดเงื่อนไขการใช้งานและมีการแจ้งเตือนหากผู้ใช้ติดการใช้งานแชทกับเอไอมากเกินไปซึ่ง Character.AI นับว่าเป็นแอปแชทที่ได้รับความนิยมอย่างสูงจนติดอันดับ 22 ในหมวดบันเทิงของ App Store และมียอดดาวน์โหลดบน Google Play มากกว่า 10 ล้านครั้ง