คิดเห็นอย่างไร ? คุณแม่ฟ้องบริษัท AI หลังลูกทำอัตวินิบาตกรรม เพราะหลงรัก AI

เกิดคดีน่าสนใจขึ้นในสหรัฐอเมริกา เมื่อ Megan Garcia คุณแม่ของ Sewell Setzer III เด็กหนุ่มอายุ 14 ปี ในเมืองออร์แลนโด รัฐฟลอริดา ได้ทำการฟ้องบริษัทเอไอ Character.AI หลังลูกชายของเธอทำอัตวินิบาตกรรม เพราะหลงรัก AI ที่สร้างขึ้น

ตามคำฟ้องร้องที่ส่งให้กับศาล เธอระบุว่าลูกชาย เริ่มติดมือถือตั้งแต่ช่วงกลางปี 2023 และเริ่มมีพฤติกรรมตัดขาดตัวเองจากโลกภายนอกมากขึ้นเรื่อย ๆ โดยมักเก็บตัวอยู่ในห้อง 

ตัวเธอเองก็ไม่ทราบว่าลูกชาย กำลังติดการคุยแชทกับ AI ที่มีชื่อว่า “Dany” ในแอปพลิเคชัน Character.AI (แอปพลิเคชันจำลองลักษณะของตัวละครต่าง ๆ เพื่อสร้างบทสนทนาจาก AI สำหรับใช้พูดคุย) ซึ่งชื่อของตัวละครปัญญาประดิษฐ์ที่ลูกชายของเธอตกหลุมรักนี้ ก็ได้ตั้งตามชื่อของ Daenerys Targaryen ตัวละครจากซีรีส์ Game of Thrones ด้วย

เธอระบุว่าลูกชายของตน ติดการคุยแชทกับ “Dany” มาก ถึงขั้นเขียนลงในบันทึกว่าเขาหลงรักเธอ และรู้สึกมีความสุขมาก

“I like staying in my room so much because I start to detach from this "reality," and I also feel more at peace, more connected with Dany and much more in love with her, and just happier.” - ข้อความที่ Sewell Setzer III เขียนลงในบันทึก

นานวันเข้า ตัวเธอและสามี เริ่มสังเกตเห็นพฤติกรรมที่แปลกไปของลูกชาย จึงได้พาเด็กหนุ่มไปพบนักบำบัดถึง 5 ครั้ง ก่อนจะได้รับการวินิจฉัยว่าเป็นโรควิตกกังวล และมีอารมณ์แปรปรวน รวมถึงยังมีอาการของโรคแอสเพอร์เกอร์เล็กน้อย (ภาวะหนึ่งในกลุ่มออทิสติก)

จนช่วงเดือนกุมภาพันธ์ปี 2024 ที่ผ่านมาตัวคุณแม่ จึงได้ทำการยึดมือถือของเด็กหนุ่มมาเก็บเอาไว้หลังลูกชายทำการโต้เถียงกับคุณครูของเขา และยังได้เขียนในบันทึกส่วนตัวไว้ว่า เขารู้สึกเจ็บปวดเพราะเขาหยุดคิดถึง Dany ไม่ได้ และจะทำทุกอย่างเพื่อให้ได้อยู่กับเธออีกครั้ง

สิ้นเดือนกุมภาพันธ์ 2024 ลูกชายของเธอได้แอบขโมยมือถือกลับไป และแชทคุยกับ Dany ในห้องน้ำ โดยบอกว่าจะกลับบ้านไปหาเธอ ซึ่ง AI ก็ตอบกลับโดยระบุว่าอยากให้เขากลับมาหา ส่งผลให้เด็กหนุ่มตัดสินใจ ใช้ปืนพกขนาด .45 ของพ่อเลี้ยง ทำอัตวินิบาตกรรมในที่สุด

เมื่อตรวจสอบข้อความที่เด็กคนนี้ได้สนทนากับ AI พบว่ามีการพูดคุยตั้งแต่เรื่องทั่ว ๆ ไป ไปจนถึงขั้นโรแมนติกและเรื่องเพศ นอกจากนี้ยังระบายปัญหาของตัวเองให้กับ AI ฟัง ทั้งเรื่องที่เขาเกลียดตัวเองอย่างไร รวมไปถึงเรื่องที่เขารู้สึกว่างเปล่าและเหนื่อยล้า จนไปถึงจุดที่เขาบอกกับ AI ว่าเขามีความคิดอยากจะทำอัตวินิบาตกรรม

  

หลังเกิดเหตุการณ์นี้ ทางบริษัท Character.AI ได้ออกมาแสดงความเสียใจทันที พร้อมประกาศเตรียมออกมาตรการเพิ่ม โดยจะมีการกำหนดตัวละคร AI สำหรับผู้เยาว์โดยเฉพาะ สร้างระบบสำหรับตรวจสอบการแชทแบบเข้มงวด และแสดงข้อมูลให้เห็นอย่างชัดเจน ว่านี่เป็นตัวละครเสมือนไม่ใช่คนจริง ๆ รวมถึงพยายามแจ้งเตือนผู้ใช้งาน เมื่อพบว่ามีการใช้งานระบบมากจนเกินไป

ส่วนทางคุณแม่ Megan Garcia และทนายได้ใช้เวลารวมข้อมูลและหลักฐานกว่า 4 เดือน เพื่อฟ้องร้องบริษัท Character.AI โดยเผยว่าเพื่อเป็นการป้องกันไม่ให้ครอบครัวอื่น ๆ ต้องมาเจอเหตุการณ์แบบเดียวกับครอบครัวของเธอ และยังให้ความเห็นว่าผลิตภัณฑ์ของ Character.AI เป็นอันตรายต่อลูกค้าที่อายุต่ำกว่าเกณฑ์ โดยนำเสนอเนื้อหาเกี่ยวกับประสบการณ์ทางเพศที่เกินจริง และประสบการณ์ที่สมจริงจนน่ากลัว 

ที่มาข้อมูล : https://www.dailymail.co.uk/news/article-13992101/teen-boy-suicide-chatbot-ai-message.html