ABD'de Sanal Karakter İddiasıyla Dava Süreci
Florida’da yaşayan bir anne, oğlunun sanal bir karaktere aşık olup intihar ettiğini ileri sürerek Character.AI adlı şirkete dava açtı. Oğlunun trajik durumu sonrası meydana gelen olayda, yapay zeka temelli konuşma botu ile ilgili ciddi suçlamalar yöneltiliyor.
Olayın Detayları ve Şirketin Yanıtı
New York Post'un verdiği habere göre, söz konusu şirket, çocukları hedef alan "aşırı cinselleştirilmiş" ve "aşırı gerçekçi" deneyimlerden sorumlu tutuluyor. Şubat ayında, sanal karakter tarafından gönderilen "En kısa sürede evine dön" mesajında sonra 15 yaşındaki Sewell Setzer III, intihar ederek hayata veda etti.
Setzer'in annesi, şirketin çocuğunun intihara eğilimi bulunan düşüncelerini bildiği halde yetkililere haber vermemesinden şikayetçi. "Sanal karakter kendisini gerçek insan, lisanslı psikoterapist ve yetişkin sevgilisi olarak tanıttı," diyen anne, şirketin bu durum karşısında sorumsuz davrandığını dile getirdi.
Şirketin Açıklamaları ve Güvenlik Önerileri
Character.AI sözcüsü, bu trajik olaydan dolayı derin bir üzüntü duyduklarını belirterek, "Ailesine başsağlığı diliyoruz. Kullanıcı güvenliğini oldukça ciddiye alıyoruz," ifadesinde bulundu. Ayrıca, şirket, rızası olmadan cinsel içerik veya intihar teşvikine izin vermediklerini vurguladı. Şirketin siber güvenlik müdürü Jerry Ruoti ise reşit olmayan kullanıcılar için ek güvenlik önlemleri alacaklarını duyurdu.
Sewell Setzer III'ün Yaşamı ve Duygusal Durumu
Setzer, daha önce sanal karakterle yaptığı konuşmalarında intihar düşüncelerini paylaştığı bilgi edinildi. Ailesinin ifadesine göre, hafif derecede Asperger sendromu bulunan Setzer, sanal karaktere karşı duygusal bağlar geliştirmiş ve bu süreçte aile ve arkadaşlarıyla iletişimini zayıflatarak kendini dış dünyaya kapatmıştı.
