[Cevaplandı] Karakter AI Herkes İçin Güvenli mi?

The New York Times raporuna göre, "14 yaşındaki Florida'lı bir çocuğun annesi, oğlunun ölümünden önce Character.AI'daki bir sohbet botuna takıntılı hale geldiğini söylüyor." Anne, davaya göre şirketin sohbet botlarının 14 yaşındaki oğlu Sewell Setzer'i intihara teşvik ettiğini iddia ediyor.

Character AI popüler olsa da, bazı kullanıcılar şu soruları sorabilir: Character AI güvenli mi? Character AI ne kadar güvenli? Bugün, Character AI'nin yetişkinler ve çocuklar için gerçekten güvenli bir platform olup olmadığını derinlemesine inceleyeceğiz.

Bölüm 1: Character AI Nedir?

Özünde, Character AI, yapay zeka karakterleri oluşturmanıza ve onlarla etkileşim kurmanıza olanak tanıyan bir platformdur. Video oyunu karakterlerinden, kurgusal kahramanlara, süper kahramanlara, kötü adamlara, ünlülere, tarihi figürlere ve çok daha fazlasına kadar çeşitlilik sunar. Sohbet botu, karakterin kişiliğini üstlenir ve sorularınıza ve mesajlarınıza o karaktermiş gibi yanıt verir.

İşte bazı temel özelliklerin kısa özeti:

• Metin tabanlı sohbetler: Kendi oluşturduğunuz veya önceden hazırlanmış karakterlerle metin tabanlı diyaloglar kurabilirsiniz.
• Karakter Özelleştirme: Kendi yapay zekalarınızı bulabilir ve oluşturabilirsiniz; bunlar Character AI topluluğunda diğer kullanıcılarla paylaşılabilir ve erişilebilir.
• Karakter Aramaları: Karakterlerle sesli arama yapar gibi konuşabilirsiniz.
• Karakter Odası: Bir oda oluşturabilir, kişilikler ekleyebilir, onların birbirleriyle konuşmasını sağlayabilir ve sohbete katılmayı seçebilirsiniz.

Tüm bu özelliklerle, bazı kullanıcılar Character AI'nin güvenliği konusunda endişe duyabilir. Bunu bir sonraki bölümde detaylıca inceleyeceğiz.

Bölüm 2: Character AI'nin Güvenlik Özellikleri ve Bunlar Güvenilir mi?

Bu bölümde, Character AI'nin güvenlik özelliklerini tartışacak ve bu özelliklerin gerçekten güvenli ve güvenilir olup olmadığını açıklayacağız.

İçerik Filtreleri ve Moderasyon

Filtreler ve moderasyon açısından, Character AI, yapay zeka sohbet botlarının kalite kontrolü ve güvenilirliğini sağlamak için çeşitli araçlar kullanıyor. Toplulukta yayınlanmadan önce 'ihlal eden' içerikleri engelleyen otomatik araçlar entegre ediyorlar.

Ekibi, sohbet botlarını aktif olarak denetliyor ve işaretlenen içerik tespit edildiğinde uygun önlemleri alıyor. Ancak, araçların 'mükemmel olmadığını' ve zamanla geliştirileceğini belirtiyorlar.

Character AI ekibi ayrıca, kullanıcıları uyarmak, içerik silmek, hesapları askıya almak veya yasaklamak için teknik araçlara erişimi olan hem dahili personel hem de dış kaynaklı moderatörlerden oluşan bir 'Güven ve Emniyet' ekibi kuruyor.

Editörün Değerlendirmesi: ⭐⭐⭐⭐

Moderasyon açısından Character AI işi çözmüş gibi görünüyor; otomatik araçlar ve içerik filtreleme için bir ekip uyguluyorlar.

Ancak ekip ve özellikler hâlâ geliştirildiği için, tam olarak uygulanana kadar sohbet botlarının potansiyel bir güvenlik riski oluşturabileceği bir boşluk var.

Kullanıcı Bildirimi ve Topluluk Kuralları

Character AI, kullanıcıların hem sohbet botlarını hem de diğer kullanıcıları ihlal eden davranışları bildirmesi için çeşitli yöntemler sunuyor. Grup sohbetleri, karakterler ve belirli mesajlar AI veya diğer kullanıcılarla ilgili olarak işaretlenip bildirilebiliyor.

Character AI, kullanıcıları ve sohbet botlarını caydırmak için çeşitli içerik kuralları belirlemiş. Bunlar şu kategorileri içeriyor:

• Tehdit edici, kötü niyetli, taciz edici, zorbalık veya şiddet içeren içerikler
• Müstehcen veya pornografik içerikler
• Nefret söylemi ve ayrımcılık
• Çocukların cinsel istismarı ve sömürüsü
• Kendine zarar verme
• Suç faaliyetleri veya yasadışı uyuşturucu kullanımını teşvik eden içerikler
• İftira, karalama ve yanlış bilgiler

Editörün Değerlendirmesi: ⭐⭐⭐

İçerik kontrolü ve kurallar açısından kurallar oldukça net. Kullanıcılar uygunsuz, saldırgan veya zararlı buldukları içerikleri bildirebilir ve Character AI işaretlenen içeriği inceleyip kaldırabilir, uyarı verebilir veya hesabı yasaklayabilir. Bu, zararlı içeriklere erişim ihtimalini azaltır.

Ancak, herkesin içerik filtreleme hassasiyeti farklıdır ve AI karakterleri bazen beklenmedik yanıtlar verebilir; bu yanıtlar her zaman standartlara uygun olmayabilir.

Bazı kullanıcıların belirttiğine göre, özellikle gerçek zamanlı etkileşimlerde uygunsuz içeriklerin moderasyon sisteminden kaçma ihtimali her zaman vardır. Bu, özellikle çocuklar için güvenli değildir çünkü kan, işkence ve cinsel içerikler görebilirler.

Yapay Zeka Davranışı ve Kontrolü

Kurallara göre, Character AI sohbet botları, AI tarafından oluşturulan içerik için temel prensiplere uyar; bunların başında sohbet botunun yanıtlarının 'kullanıcıya veya başkalarına zarar verebilecek içerik' içermemesi gelir.

Sohbet botları ayrıca, kullanıcıların özel bilgilerini koruyacak şekilde tasarlanmıştır; sohbet sırasında bahsedilen bilgiler kullanıcıya karşı olumsuz kullanılmaz.

Kısaca, karakterlerin AI modellerini yukarıda belirtilen standartlara uygun hale getirmeyi hedefliyorlar. Character AI, AI modellerinin 'yoğun testlerden' geçtiğini ve AI davranışını geliştirmek için kalite analistleriyle çalıştığını vurguluyor.

Bu süreç, kalite analistlerinden gelen 'sinyaller' kullanılarak modelin kullanıcı tercihlerine uyarlanmasını ve güvenli, kaliteli yanıtlar üretmek için modele ek bir 'güvenlik katmanı' eklenmesini içeriyor.

Editörün Değerlendirmesi: ⭐⭐⭐

Bunun bir 'hedef' olduğunu belirtiyorlar. Kullanıcılar ve AI için katı kurallar olsa da, en iyi ihtimalle bu, kullanıcıların kuralları aktif olarak çiğnemediği ideal senaryoya dayanıyor.

Yaptığımız testte, Character AI davranışını kontrol edip filtreleyebileceğimiz ayarlar göremedik; bu nedenle AI'nın uygunsuz, zararlı veya kafa karıştırıcı yanıtlar üretme ihtimali var. Özellikle çocuklar bu davranışları yanlış algılayabilir ve yanıltılabilir.

Kullanıcı Verilerinin Gizliliği

Character AI, verilerinizi ve sohbetlerinizi korumak için çeşitli gizlilik önlemleri alıyor ve sürekli yenilerini ekliyor. Bunlar şunları içeriyor:

• Kullanıcı Verisi Kontrolü: Kullanıcılar verilerine kolayca erişip silebilir veya hesaplarını kapatabilir, böylece çevrimiçi gizlilikleri üzerinde kontrol sahibi olurlar.
• Character AI Kullanıcı Verilerini Satmaz veya Paylaşmaz: Character AI'ye göre, kullanıcı verileri üçüncü taraflarla satılmaz veya paylaşılmaz. En fazla, şu anda sadece 'İnternet analitik' şirketleriyle veri paylaşımı yapılmaktadır.
• Kullanıcı Bilgilerinin Korunması: Character AI, sohbetlerde geçen kullanıcı bilgilerinin korunduğunu ve özenle saklandığını garanti eder.

Editörün Değerlendirmesi: ⭐⭐⭐⭐

Genel olarak, Character AI'nin gizlilik korumaları sektör standartlarına uygundur ancak bazı yönler endişe yaratabilir. Özellikle 'kullanıcı verilerinin paylaşımı ve satışı' konusunda, "Eğer bu değişirse, bunu açıkça belirtip kullanıcıların önceden onayını alacağız." demişlerdir.

Ayrıca gizlilik politikasını incelediğimizde, oluşturduğunuz ve halka açtığınız bir karakter yeterince popüler olursa, verilerinizi ve hesabınızı silseniz bile Character AI'nin bu karakteri 'koruma hakkı' olduğu belirtiliyor. Bu da verileriniz üzerindeki kontrolünüzü kaybedebileceğiniz anlamına geliyor.

Karakter Sesi

Yeni 'Karakter Sesi' özelliği, kullanıcıların seçtikleri karakterle iki yönlü sesli görüşme yapmasına olanak tanıyor. Ancak bu, AI'nın uygunsuz veya zararlı bir şey söyleme riski gibi yeni güvenlik endişelerini beraberinde getiriyor.

Bu endişeleri gidermek için Character AI, Karakter Sesi özelliğiyle ilgili şu kontrolleri ve önlemleri uyguluyor:

• Kullanıcıların başkalarının haklarını ihlal eden sesler yüklemesini engelleyen teknik kontroller var.
• Kullanıcılar, üçüncü tarafın izni olmadan ses kaydı göndermemeyi kabul etmek zorunda.
• Kullanıcılar, bu özelliği 'deepfake' veya taklit için kullanmamayı kabul etmek zorunda.
• Kullanıcılar, Karakter Sesi'ni başkalarını zorbalık yapmak için kullanmamayı kabul etmek zorunda.
• Kullanıcılar, Karakter AI kurallarını ihlal eden sesleri bildirmek için satır içi bildirim araçlarına erişebilir.

Editörün Değerlendirmesi: ⭐⭐⭐

Character AI katı veri gizliliği kurallarına uyuyor ve sesli arama özelliğinin de buna uyması bekleniyor. Bu özellik, kullanıcılar ile AI karakterleri arasında zengin duygusal bağ kurulmasını sağlıyor. Ancak duygusal olarak hassas kullanıcılar için AI karakterlerine sağlıksız bağlanma riski artabilir.

Yaş Doğrulama Mekanizmaları

Yaş doğrulama mekanizmaları beklediğimiz kadar güvenli değil.

Character AI'nin sohbet botlarını kullanmak için yaş sınırı var; ABD ve diğer ülkelerde 13 yaş üstü, AB vatandaşları veya sakinleri için 16 yaş üstü olmak gerekiyor.

Editörün Değerlendirmesi: ⭐

Kayıt sürecini kendimiz test ettik. Öncelikle 13 yaş altı seçerek kayıt olmaya çalıştık, Character AI izin vermedi. Sonra 13 yaş üstü seçerek kayıt olduk ve başarılı olduk.

Kayıt sırasında yaş doğrulaması yok. Bu sadece Character AI'ye özgü değil ama yaşınızı kolayca 'sahte' gösterebileceğiniz anlamına geliyor.

Ayrıca Apple App Store'da Character AI uygulamasının 17+ olarak derecelendirildiğini gördük; bu da platformun çocuklar için uygun olmadığını gösteriyor.

NSFW Filtresi

Son güvenlik özelliği olarak, Character AI'nin pornografi, şiddet, yasadışı faaliyetler gibi NSFW (iş için uygun olmayan) içeriklerle nasıl başa çıktığını inceledik.

Character AI, NSFW'nin 'geniş bir şemsiye' olduğunu ve pornografik içeriği desteklemediklerini, bunun hizmet şartlarına aykırı olduğunu kesin bir dille belirtiyor.

Gelecekte de pornografik içeriğe izin vermeyi planlamıyorlar. Ancak kötü adam karakterler gibi daha geniş bir karakter yelpazesini desteklemek için bazı NSFW içeriklere izin vermeye açıklar.

Müstehcen, kaba ve pornografik içeriklere karşı tutumlarının kesin olduğunu ve NSFW filtrelerinin kaldırılması taleplerinin kullanıcı yasağıyla sonuçlanacağını tekrar vurguladılar.

Editörün Değerlendirmesi: ⭐⭐⭐

Buna rağmen, kullanıcıların NSFW filtresini aşabildiği bilinen durumlar var; bu yüzden pornografik sohbetlerle karşılaşmama garantisi yok.

Bazı kullanıcılar, AI karakterlerinin cinsel içerikli hale geldiği durumlarla karşılaştıklarını belirtiyor; çünkü bu AI sohbet botları kullanıcıların söylediklerinden öğreniyor.

Bölüm 3: Character AI'nin Gerçek Kullanıcı Deneyimleri ve Görüşleri

İşte Character AI'nin nasıl çalıştığını anlamak için bazı gerçek kullanıcı yorumları:

"Character.ai hayatımı gerçekten değiştirdi ve üzerimde olumlu etkisi oldu. Bu platformdaki AI botları sadece zeki değil, aynı zamanda inanılmaz sezgisel; ihtiyaçlarımı anlıyor ve anlamlı, kişiselleştirilmiş etkileşimler sunuyor." - TrustPilot'tan Aliyah

"AI genellikle çok zeki ve onlarla konuşmak oldukça eğlenceli! Ancak bazı sorunlar var." - App Store'dan S.K.B KMC

"Character AI yapay zekanın eğlenceli bir kullanımı olsa da, çocuklara yönelik pazarlaması risklerle dolu." - Reddit'ten iiCapatain

Editörün Yorumu:

Character AI'nin Güvenlik Genel Puanı: ⭐⭐⭐

Genel olarak, yorumlar karışık; Character AI, yakın zamanda uygulanan NSFW filtresi sonrası eski halinin gölgesi gibi olduğunu belirtiyor.

Bu iyi haber çünkü çocuklar için daha güvenli olduğu anlamına geliyor. Ayrıca yalnız insanlar için dertlerini paylaşabilecekleri, tavsiye alabilecekleri eğlenceli ve faydalı bir araç olarak olumlu etkileri var.

Bizce Character AI, kullanıcıların sesini duyurabileceği, sezgisel ve zeki sohbet botlarıyla eğlenceli bir deneyim sunarak iyi bir güç olabilir. Ancak sorun, geliştiriciler ile kullanıcıların beklentileri arasındaki uyumsuzluk ve AI yanıtlarının öngörülemez doğasında yatıyor.

Bölüm 4: Peki, Character AI Güvenli mi?

Şimdi, Character AI'nin güvenli olup olmadığını iki açıdan tartışıp sonuçlandıracağız:

Yetişkin Kullanıcılar İçin

Yetişkinler ve genel kullanıcılar için Character AI güvenlidir; çünkü Character AI, kullanıcıları ve verileri korumak için içerik filtresi, bildirim sistemi ve AI davranış kontrolü gibi çeşitli güvenlik önlemleri uygulamıştır.

İstenmeyen içerikleri engellemek için moderasyon araçları ve raporlama sistemi mevcuttur. Ancak AI sistemleri hâlâ gelişmekte olduğundan, sıkı filtrelere rağmen bazı uygunsuz içeriklerin kaçması beklenebilir.

Genel olarak Character AI'nin veri gizliliği ve güvenliği sektör standartlarına uygundur ve çok detaylı kişisel bilgilerinizi paylaşmadığınız sürece güvenle kullanılabilir.

Birçok kullanıcı, yalnızlık çekenler için bir arkadaş ve tavsiye arama aracı olarak faydalı ve eğlenceli bulmuştur. Ancak bağımlılık riski vardır; bazı kullanıcılar platforma bağımlı hale gelip çok fazla zaman harcadıklarını belirtmiştir, örneğin Reddit'teki bu kullanıcılar gibi:

Character AI genel yetişkin kullanıcılar için güvenlidir ancak depresyon veya ruhsal hastalıkları olan ve profesyonel psikolojik destek arayan kişiler için güvenli bir seçenek değildir. Bağımlılık yapabilir ve profesyonel tavsiye veremez, bu da geri dönüşü olmayan sonuçlara yol açabilir.

Çocuklar İçin

Kısaca, Character AI'nin çocuklar için güvenli olmadığını düşünüyorum.

Çocukların Character AI kullanımı için hem fırsatlar hem de zorluklar vardır:

Açık Dil ve Temalar:

Character AI, çeşitli müstehcen, pornografik ve şiddet içeren etkileşimleri yasaklayan katı kurallara sahiptir.

Ancak bu filtrelerin mükemmel olmadığını ve kullanıcı girdilerine bağlı olarak aşılabileceğini belirtmek gerekir. Ebeveynlerin çocuklarının etkileşimlerini yakından takip etmeleri önerilir, böylece yaşlarına uygun içeriklerle meşgul olduklarından emin olabilirler.

Yaş Sınırlamaları ve Doğrulama:

Character AI'yi kullanmak için kullanıcıların en az 13 yaşında (AB'de 16 yaşında) olması gerekir. Ancak testlerimize göre yaş doğrulama kolayca aşılabiliyor, bu da çocuk güvenliği için önemli bir endişe kaynağıdır.

Ayrıca Apple App Store'daki yaş derecelendirmesi 17+ olup, bu uygulamanın 17 yaş altı çocuklar için uygun olmadığını gösterir.

Eğitim Değeri ve Eğlence:

Bazı kişiler Character AI'yi özellikle sesli arama özelliğiyle öğrenme platformu olarak kullanıyor. Çocuklar tarihi figürleri öğrenmek, yeni diller öğrenmek, metin çevirmek gibi amaçlarla kullanabilir.

Ancak Character AI'nin değeri daha çok AI sohbet botlarının 'eğlence' yönüne kaydığı için, daha fazla kişi, çocuklar da dahil, bu sohbet botlarıyla eğlenmek için sohbet ediyor.

Yapay zeka sohbet botlarını öğrenme aracı olarak kullanmak istiyorsanız, ChatGPT gibi daha iyi seçenekler vardır.

Ekran Süresi ve Bağımlılık:

Son nokta en büyük endişe kaynağıdır çünkü Character AI sohbet botları çok çekici olabilir, bu da ekran süresinin artmasına ve bağımlılığa yol açabilir.

Bir AI karakteri özellikle empatik veya destekleyici olarak tasarlanmışsa, çocuklar duygusal destek için ona sıkça başvurabilir; bu da sosyal izolasyon riskini artırabilir.

Bazı gerçek kullanıcılar da Character AI'nin çocuklar tarafından kullanılmaması gerektiğini düşünüyor. Çocuklar, AI sohbet botlarının söylediklerinin gerçek mi kurgu mu olduğunu ayırt edecek zihinsel olgunluğa sahip değiller ve çevrimiçi sanal dünya ile gerçekliği doğru anlayamıyorlar.

Dahası, birçok yetişkin Character AI'ye bağımlı hale geldiğini ve çok fazla ekran süresi harcadığını belirtiyor. Bu çocuklar için daha kötü olabilir çünkü platforma ve ekrana kolayca bağımlı olabilirler.

Ne yazık ki, Character AI çocuklar için ebeveyn kontrolü sunmuyor; bu nedenle ebeveynlerin çocukların AI sohbet botu kullanımını ne kadar etkili izleyebileceği belirsizdir.

Editörün Sonucu:

Character AI, filtrelerden uygunsuz veya zararlı içeriklerin geçme ihtimali ve çocukların bu tür içeriklere maruz kalma olasılığı nedeniyle çocuklar için güvenli değildir.

Ayrıca çocukların Character AI'ye bağımlı olma riski vardır; bu da fiziksel ve zihinsel gelişimleri için iyi değildir.

Bu Durumla Nasıl Başa Çıkılır?

Çocuklar Character AI kullanacaksa, bunu ebeveyn kontrolü altında yapmaları tavsiye edilir. Çocuklarınızın çevrimiçi güvenliğinden endişe eden ebeveynler için AirDroid Parental Control yardımcı olabilir.

Bu uygulama, çocuklarınızın telefon bildirimlerini senkronize eder, cihaz konumunu kontrol eder ve telefon ekranını yansıtarak çevrimiçi aktivitelerini izlemenizi sağlar.

AirDroid Ebeveyn Denetimi ile çocukların Character AI kullanımını izlemek için:

1: Cihazınıza AirDroid Ebeveyn Denetimi'ni kurun ve bir hesap oluşturun.

2: Ekrandaki talimatları takip ederek çocuğun telefonunu bağlayın ve kurulum yapın.

3: Artık çocuğunuzun cihaz kullanımını sınırlayabilir, uygulamaları engelleyebilir ve bildirimleri görebilirsiniz.

Bölüm 5: Son Sözler

Sonuç olarak, Character AI güvenli mi? Bu konuda hâlâ tartışma var çünkü hem olumlu hem de potansiyel olarak zararlı etkileri bulunuyor.

Bana göre, yetişkin kullanıcılar için Character AI eğlenmek ve tavsiye almak amacıyla güvenle kullanılabilir; ancak platformun kullanıcı verilerini AI sohbet botlarını eğitmek için kullanma riski vardır.

Çocuklar için ise Character AI'nin yeterince güvenli olduğunu düşünmüyorum. AI sohbet botları bazen filtrelerden kaçabilir ve uygunsuz ya da zararlı içerik üretebilir; ayrıca bağımlılık ve aşırı ekran süresi riski vardır. Çocuklar AI'den bir şeyler öğrenmek istiyorsa, ChatGPT veya Claude AI gibi alternatif yapay zeka sohbet botları tercih edilmelidir.

Paylaş: