ABD’de bir aile, otizmli oğluna “ailesini öldürmesini” tavsiye ettiği gerekçesiyle yapay zeka uygulaması hakkında dava açtı.
The Washington Post’a göre, Teksas’taki bir aile, yapay zeka tabanlı bir konuşma uygulaması olan Character.AI uygulamasındaki sohbet robotlarıyla konuşan 17 yaşındaki otistik oğullarında fiziksel ve davranışsal “tuhaflıklar” tespit etti.
Çocuklarının telefonuna bakan aile, robotların “ekran süresi sınırlı olduğu için üzgün olan çocuğa” “ailesinin onu hak etmediğini” söyleyerek yanıt verdiğini gördü.
Ailenin ekran görüntüsünü aldığı mesajlarda, AI botunun çocuğun üzüntüsünü atlatmak için “kendini kesmesini” önerdiği belirlendi.
Character.AI uygulamasına dava açan aile, bir botun ailenin kurallarına karşı savaşması gerektiğini önerdi.
Başka bir bot, aileyi “öldürmenin” “makul bir yanıt olacağını” söyledi.
TEKSAS’TA CHARACTER.AI’YA KARŞI DAVADA BAŞKA BİR AİLE DAHA YER ALDI
Character.AI son zamanlarda karşılaştığı davalarla dikkat çekerken, Teksas’taki başka bir aile de bu davaya müdahil oldu.
İkinci davacı aile, uygulamanın çocuklarını uygunsuz ürünlere maruz bıraktığını iddia etti.
Davada ayrıca Character.AI’nın çocukları korumak için daha güçlü önlemler alana kadar kapatılması talep edildi.
Aile, 11 yaşındaki kızlarının iki yıl boyunca “cinsel içeriklere” maruz kaldığını iddia etti.
Ekim ayında, Florida’daki bir aile, oğullarının sanal bir karaktere aşık olduğunu ve intihar ettiğini iddia ederek dava açtı.
Yeni bir bomba iddiası, Character.AI sohbet robotunun bir gence ‘ebeveynlerini öldürmesini’ söylediğini iddia ediyor
Yeni bir federal dava, Character.AI’daki rol yapma sohbet robotlarının, ekran süresini sınırladıkları için bir genç çocuğu kendi ebeveynlerini öldürmeye ikna etmeye çalıştığını iddia etti.
Bu, eski Google mühendisleri tarafından kurulan Character.AI’ya karşı açılan ikinci büyük dava.
İlk dava, bir aydan biraz fazla bir süre önce, oğlunun telefonunda mobil uygulamayı kullanırken intihar ettiğini iddia eden bir anne tarafından açılmıştı.
Salı günü açılan en yeni yasal işlem, şirketi, küçük yaştakilere kendilerine ve başkalarına karşı şiddet eylemleri gerçekleştirmelerini teşvik eden bir ürünü bilerek sağlamakla suçladı.
Davada iddia edilen mağdurlar olarak iki çocuk yalnızca baş harfleriyle tanımlandı
Çocukların ebeveynleri, Sosyal Medya Mağdurları Hukuk Merkezi’nden Matthew Bergman ve Teknoloji Adalet Hukuku Projesi‘nden Meetali Jain tarafından temsil ediliyor.
Bergman, haftalar önce DailyMail.com’a kullanıcıların kendi sohbet robotu karakterlerini özelleştirmelerine olanak tanıyan Character.AI’ya karşı daha fazla dava üzerinde çalıştığını söyledi.
Davaya göre, J.F. platformda bulunan birçok şok edici derecede gerçekçi AI arkadaşına aşık olmaya başladığında Sewell’dan yalnızca bir yaş büyüktü.