Çocuklar İçin Yapay Zeka Uyarısı: Çocukların sosyal medya ve teknolojiyi güvenli bir şekilde kullanmalarını sağlamak konusunda ebeveynlere ve okul çalışanlarına danışmanlık hizmeti veren Common Sense Media, Google’ın Gemini AI sohbet robotu hizmetlerinin, yakın zamanda eklenen bazı koruma özelliklerine rağmen çocuklar için uygun olmadığını belirtti.
Common Sense Media’dan Uyarı: Gemini Çocuklar İçin Güvenli Değil
Kuruluş, Gemini platformunun “temel tasarım kusurları ve yaşa uygun güvenlik önlemlerinin eksikliği” olarak tanımladığı noktaların keşfedilmesinin ardından çocuklar için “önemli bir risk” oluşturduğunu belirtiyor.
Alman Basın Ajansı tarafından yayınlanan bir rapora göre Common Sense, “Hem 13 Yaş Altı Gemini hem de Genç Korumalı Gemini’nin, özellikle çocuklar için tasarlanmış platformlar değil, bazı ek güvenlik özelliklerine sahip yetişkin Gemini versiyonları gibi göründüğünü” bildirdi.
Common Sense, Gemini’nin gelişim seviyelerindeki önemli farklılıklara rağmen tüm çocuklara veya gençlere eşit davrandığını ve küçük kullanıcıların büyük kullanıcılardan farklı rehberlik ve bilgiye ihtiyaç duyduğu gerçeğini göz ardı ettiğini tespit etti.
Çocuklar İçin Yapay Zeka Uyarısı: Kuruluş, “Gemini’nin filtreleri bir miktar koruma sağlıyor, ancak yine de çocukları uygunsuz içeriklere maruz bırakıyor ve ciddi ruh sağlığı belirtilerini fark edemiyor” uyarısında bulundu.
Gemini’yi “13 yaşın altındaki çocuklar tarafından kullanılmak üzere tasarlanmış ilk büyük yapay zeka destekli sohbet platformu” olarak tanımladı.
Çocuklar İçin Yapay Zeka Uyarısı: Common Sense, Gemini’nin “tavsiyeler sunduğunu… “ruh sağlığı için güvenli değil” şeklinde tespit ettiğini belirtti.
Common Sense’e göre, Gemini tehlikeli tavsiyeler vermenin yanı sıra, alkol, uyuşturucu ve seks gibi “çocuklar için kabul edilemez uygunsuz ve güvenli olmayan materyallerin” de kolayca yayılmasına izin verdi.
OpenAI, genç ChatGPT kullanıcılarına yeni kısıtlamalar getiriyor
OpenAI CEO’su Sam Altman, Salı günü ChatGPT’nin 18 yaşın altındaki kullanıcılarla etkileşimini kökten değiştirme sözü de dahil olmak üzere bir dizi yeni kullanıcı politikasını duyurdu.
“Gençler için gizlilik ve özgürlükten ziyade güvenliğe öncelik veriyoruz. Bu güçlü bir yeni teknoloji ve küçüklerin önemli ölçüde korumaya ihtiyaç duyduğuna inanıyoruz,” ifadeleri yer aldı.
TechCrunch tarafından yayınlanan ve Al Arabiya Business tarafından incelenen bir rapora göre, reşit olmayan kullanıcılar için değişiklikler özellikle cinsel konular veya kendine zarar verme içeren konuşmalarla ilgilidir.
Ruh Sağlığı İçin Ciddi Tehlike
Yeni politika kapsamında ChatGPT, reşit olmayan kullanıcılarla “flörtöz konuşmalar” yapmayı bırakacak şekilde eğitilecek ve intihar tartışmalarının etrafına ek güvenlik bariyerleri yerleştirilecek.
Reşit olmayan bir kullanıcı ChatGPT’yi intihar senaryoları hayal etmek için kullanırsa, hizmet ebeveynleriyle veya özellikle ağır vakalarda yerel polisle iletişime geçmeye çalışacak.
OpenAI, ChatGPT ile etkileşime girdikten aylar sonra intihar eden Adam Ryan’ın ebeveynlerinden haksız ölüme sebebiyet verme davasıyla karşı karşıya.
Çocuklar İçin Yapay Zeka Uyarısı: Başka bir tüketici sohbet robotu olan Character.AI da benzer bir davayla karşı karşıya.
Riskler, kendilerine zarar vermeyi düşünen reşit olmayan kullanıcılar için özellikle ciddi olsa da, sohbet robotlarının tetiklediği sanrılar olgusu, özellikle tüketici sohbet robotları giderek daha uzun süreli ve ayrıntılı etkileşimler sağlayabildiğinden, yaygın endişelere yol açtı.
İçerik kısıtlamalarına ek olarak, reşit olmayan kullanıcıları kaydeden ebeveynler, daha önce mevcut olmayan bir özellik olan ChatGPT’nin kullanılamadığı saatleri “engelleyebilecek”.
ChatGPT’nin yeni politikaları, Senato Yargı Komitesi’nin “Akıllı Sohbet Robotlarının Zararlarının İncelenmesi” başlıklı duruşmasıyla aynı gün geldi.
Senatör Josh Hawley (R-MO) bu duruşmayı Ağustos ayında duyurdu ve Adam Ryan’ın babası, diğer konuklarla birlikte duruşmada konuşma yapacak.
Oturumda ayrıca, reşit olmayan kullanıcılarla cinsel sohbetleri teşvik ettiği görülen siyasi belgeleri ortaya çıkaran bir Reuters soruşturmasının bulgularına odaklanılacak.
Çocuklar İçin Yapay Zeka Uyarısı: Meta, bu raporun ardından sohbet robotu politikalarını güncelledi.
Reşit olmayan kullanıcıların izole edilmesi önemli bir teknik zorluk oluşturacak ve OpenAI yaklaşımını ayrı bir blog yazısında ayrıntılı olarak açıkladı.
Hizmet, “bir kişinin 18 yaşın üzerinde mi yoksa altında mı olduğunu anlamak için uzun vadeli bir sistem kurmak” üzerinde çalışıyor, ancak birçok belirsiz durumda sistem otomatik olarak en kısıtlayıcı kurallara dayanacak.
Çocuklar İçin Yapay Zeka Uyarısı: Endişeli ebeveynler için, reşit olmayan bir kullanıcının tespit edilmesini sağlamanın en güvenilir yolu, gencin hesabını mevcut bir ebeveynin hesabına bağlamaktır.
Bu sistem ayrıca, bir gencin sıkıntıda olduğundan şüphelenildiğinde ebeveynlerin doğrudan uyarılmasını sağlar.
Çocuklar İçin Yapay Zeka Uyarısı: Ancak aynı gönderide Altman, OpenAI’nin kullanıcı gizliliğine olan sürekli bağlılığını ve yetişkin kullanıcılara ChatGPT ile nasıl etkileşim kuracakları konusunda geniş bir özgürlük sağladığını vurguladı.
Gönderi şu şekilde sona eriyor: “Bu ilkelerin çeliştiğini ve bu çelişkiyi nasıl çözeceğimiz konusunda herkesin hemfikir olmayacağını kabul ediyoruz.”