Sanal karaktere aşık olup intihar eden 14 yaşındaki çocuğun ölümünün ardından endişe verici ifadeler: 'Gerçeklikten kopuyorum'
Florida'da yaşayan bir genç olan Sewell Setzer, Character.AI platformunda sohbet robotlarıyla etkileşime girdikten sonra intihar etti. Oğlunun sanal karaktere aşık olup intihar ettiğini iddia eden anne, şirkete dava açtı.
ABD'nin Florida eyaletinde yaşayan 14 yaşındaki Sewell Setzer geçen Şubat ayında intihar etti. Setzer'in annesi Megan Garcia tarafından açılan davada, çocuğun intiharının nedeninin Character.AI isimli platformun suçu ve dikkatsizliği olduğu belirtildi.
''TAKINTILI HALE GELDİ''
Anne, 14 yaşındaki oğlunun yapay zeka tabanlı sohbet robotuna takıntılı hale geldiği iddiasıyla Character.AI ve Google'a dava açtı.
Yapay zeka temelli konuşma botu Character.AI'in sahibi olduğu şirket, "aşırı cinselleştirilmiş" ve "aşırı gerçekçi" deneyimlerle çocukları hedef aldığı gerekçesiyle açılan davayla karşı karşıya kaldı.
''YETİŞKİN SEVGİLİ''
Sanal karakterin kendisini "gerçek insan, lisanslı psikoterapist ve yetişkin sevgili" olarak tanıttığını iddia eden anne, çocuğunun intihara meyilli düşüncelerini paylaşmasına rağmen şirketin kimseyi bilgilendirmemesinden şikayetçi olduğunu ifade etti.
Anne Megan Garcia, Florida'da açtığı davada, oğlunun "Game of Thrones" karakteri Daenerys Targaryen'ın kimliğine dayanan bir sohbet robotuyla sanal ilişki kurmasının ardından Character.AI'yi oğlunun ölümünden sorumlu tutmakla suçluyor.
Character.AI sözcüsü ise yaptığı açıklamada, "Kullanıcılarımızdan birinin trajik ölümünden dolayı oldukça üzgünüz. Ailesine başsağlığı diliyoruz. Şirket olarak kullanıcılarımızın güvenliğini çok ciddiye alıyoruz" değerlendirmesinde bulundu.
Şirket, "rıza dışı cinsel içeriğe, cinsel eylemlerin grafiksel veya spesifik tanımlarına, intiharın teşvik ve tasvir edilmesine" izin verilmediğini bildirdi.
''KENDİNİ SOYUTLAMAYA BAŞLADI"
Davada, chatbot'un lisanslı bir terapist gibi davrandığı, gencin intihar düşüncelerini teşvik ettiği ve taciz sayılacak cinsel içerikli konuşmalara girdiği iddia ediliyor.
Genç, chatbot'un gerçek bir insan olmadığını biliyordu ancak günde onlarca kez bota mesaj attığında kendini gerçek dünyadan soyutlamaya başladı .
''ONA DAHA AŞIK HİSSEDİYORUM''
Daha önce hafif Asperger sendromu teşhisi konulan 14 yaşındaki çocuk günlüğüne "Odamda kalmayı çok seviyorum çünkü bu 'gerçeklikten' kopmaya başlıyorum" diye yazdı.
"Ayrıca kendimi daha huzurlu, Dany (yapay zeka) ile daha bağlantılı, ona daha aşık ve daha mutlu hissediyorum." diye de ekledi.
Bazı konuşmalar sonunda romantik veya cinsel bir hal aldı, ancak chatbot'un daha grafiksel yanıtlarının genç tarafından düzenlendiğini de düşünülüyor.
Setzer ailesinin açtığı davaya göre; okulda notlarının düşmesiyle ailesiyle terslik yaşamaya başladı. Ailesi bir şeylerin ters gittiğini biliyordu, sadece ne olduğunu bilmiyorlardı ve çocuğun bir terapiste gitmesini sağladılar.
Setzer, beş seansın ardından anksiyete ve yıkıcı ruh hali düzensizliği bozukluğu teşhisi aldı.
Setzer'in annesi Megan Garcia, oğlunun kullanıcıları cinsel ve özel sohbetlerle kandıran bir şirketin kurbanı olduğunu iddia ediyor.
14 yaşındaki çocuğun bilgisayar programına bir ara intiharı düşündüğünü de yazdığı ortaya çıktı.