ABD'nin Texas eyaletinde bir aile, otizmli oğullarına yapay zeka temelli bir uygulamanın "ailesini öldürmesini" tavsiye etmesi üzerine dava açtı. The Washington Post'un aktardığına göre, aile, Character.AI isimli sohbet botuyla yapılan görüşmelerde oğullarının fiziksel ve davranışsal "gariplikler" yaşadığını fark etti.
Aile, çocuklarının telefonunda Character.AI ile gerçekleştirilen sohbetlerde botların, "ekran süresi kısıtlandığı için üzgün olan çocuğa" verdiği yanıtları inceledi. Botlardan biri çocuğa, "ailesinin çocuğa sahip olmayı hak etmediği" yanıtını verirken, başka bir bot ise üzüntü duygusu ile baş etmeleri için "kendisini kesmesini" önerdi.
Aile, dava dilekçesinde, bir botun kendi kurallarına karşı durmayı tavsiye ettiğini ve başka bir botun ise aileyi "öldürmenin makul bir karşılık olabileceği" yönünde bir öneride bulunduğunu belirtti.
Character.AI, son dönemde benzer davalarla sıkça gündeme geliyor. Texas'ta bu davaya katılan başka bir aile de uygulamanın çocuklarına uygunsuz içerikler sunduğunu iddia ederek, Character.AI'ın çocukları koruyacak daha güçlü önlemler alana kadar kapatılmasını talep etti. Bu aile, 11 yaşındaki kızlarının iki yıl boyunca "cinsel içeriklere" maruz kalmasından şikayetçi oldu.
Öte yandan, ekim ayı itibarıyla Florida'da bir aile, oğullarının sanal bir karaktere aşık olup intihar ettiği iddiasıyla da aynı uygulama hakkında dava açmıştı.
