Telegram'daki Yüz Değiştirme Botları: Ebeveynlerin Bilmesi Gereken Deepfake Riski

2025 NCMEC raporuna göre, Iowa’daki bir lisede dört erkek öğrenci, 44 kız sınıf arkadaşlarının çıplak yapay zeka ile oluşturulmuş görüntülerini üretmekle suçlandı.

Olay birçok aileyi şoke etti. Ancak çoğu ebeveyn, deepfake teknolojisinin artık sadece uygulamalarla sınırlı olmadığını fark etmiyor.

Telegram gibi platformlarda, yapay zeka destekli Face Swap botları saniyeler içinde gerçekçi yüz değiştirme fotoğrafları ve videoları oluşturabiliyor. Bu araçlar daha erişilebilir hale geldikçe, ebeveynlerin nasıl çalıştıklarını, taşıdıkları riskleri ve bunları nasıl azaltabileceklerini anlaması önemlidir.

Telegram’daki Face Swap Botları Nedir?

Telegram’ın Face Swap botları, Telegram içinde doğrudan çalışan yapay zeka destekli araçlardır. Ayrı bir uygulama yüklemek veya abonelik satın almak yerine, kullanıcılar sadece bir botla sohbet açar, orijinal fotoğrafı yükler ve saniyeler içinde manipüle edilmiş bir görüntü alır.

Farklı ihtiyaçlara göre bu botlar iki kategoriye ayrılır:

• Yüz değiştirme botları: bir fotoğraf, video, meme veya GIF’de bir kişinin yüzünü başka biriyle değiştiren botlar.
• Undress AI veya deepfake botları: sıradan fotoğraflardan kıyafetleri kaldıran veya açık içerikli görüntüler oluşturan botlar.

Ebeveynler Neden Telegram Face Swap Botlarına Dikkat Etmeli?

Yüz değiştirme teknolojisi günümüzde yaygın olsa da, Telegram bu sorunu çok daha endişe verici hale getiriyor. İşte bu platform ve yüz değiştirme botlarının neden dikkatinizi hak ettiği:

1 Çocuğunuz Hem Kurban Hem Katılımcı Olabilir

Birçok ebeveyn çocuklarının deepfake kötüye kullanımının kurbanı olmasından endişe eder. Ancak Telegram Face Swap botuna birkaç dokunuşla çocuklar kolayca içerik oluşturucu, paylaşan veya katılımcı olabilir.

Bir araştırma, ABD’de 13-17 yaş arası gençlerin %55,3’ünün en az bir çıplaklaştırılmış görüntü oluşturduğunu ve çoğunluğun erkek olduğunu ortaya koydu.

2 Face Swap Botları Kolayca Bulunabilir

Birçok yüz değiştirme botu, Telegram aramaları, paylaşılan linkler veya gruplar ve kanallardaki önerilerle kolayca bulunabilir. Çocuğunuz Telegram kullanıyorsa, meraklı bir aramayla bu araçlara erişebilir. Bazı botların milyonlarca aylık aktif kullanıcısı bile vardır.

3 Telegram Tespiti Zorlaştırıyor

iMessage veya standart SMS’in aksine, Telegram’ın uçtan uca şifreleme ve kendini yok eden mesajlar gibi özellikleri neredeyse hiç görünür iz bırakmaz. Bu da demek oluyor ki, çocuğunuz Telegram deepfake kurbanı olursa, siz fark ettiğinizde kanıtlar çoktan kaybolmuş olabilir.

4 Görüntü Tepki Vermeden Hızla Yayılır

Ayrıca, anlık mesajlaşma uygulaması olarak, Telegram yüz değiştirme botlarında oluşturulan görüntü, sadece iletme butonuyla hızlıca birçok sohbet veya platformda paylaşılabilir.

Telegram Face Swap Botlarının Gerçek Riskleri

İlk örnek olayda görüldüğü gibi, yüz değiştirme botları çocuğunuzun güvenliği, itibarı ve ruh sağlığı için tehdit oluşturabilir. Telegram’daki yüz değiştirme botlarının bazı riskleri şunlardır:

Risk 1: Yapay Zeka ile Oluşturulan Çıplak Deepfake’ler

Bu en yıkıcı risktir. 2024’te Telegram yetkililerce uyarıldı

Bu risk okullarda da yaşanıyor. Iowa olayı izole değil. Avustralya’nın Tasmania bölgesindeki özel bir okulda 21 kız öğrenci de deepfake olayının hedefi oldu.

Sosyal medyadan alınan bir selfie veya kişisel fotoğraf, kişinin haberi olmadan açık içerikli hale getirilebilir ve paylaşılabilir. Gençler için bu durum utanç, kaygı, siber zorbalık ve okula gitmeme gibi sorunlara yol açabilir.

Bazı durumlarda, bu görüntüler yayıldıktan sonra kaldırılması zordur. İtibar kaybı da uzun süreli olur.

Risk 2: Okul Zorbalığı

İlk bakışta, birçok genç Telegram’daki yüz değiştirme botlarını arkadaşları veya sınıf arkadaşları için komik memeler oluşturmak amacıyla kullanır. Ancak şakalar genellikle zorbalığa zemin hazırlar.

Çocuğunuzun yüzü aşağılayıcı veya açık içerikli bir görüntüye yerleştirilip tekrar tekrar paylaşılıp akranları tarafından alay konusu olursa, bu bir şaka mı olur? Açıkça, bu bir tür siber zorbalıktır.

Yapay zeka ile oluşturulan görüntüler genellikle gerçekçi göründüğü için, mağdur için utanç ve aşağılanma çok gerçekçi hissedilir.

Risk 3: Taklit Yoluyla Dolandırıcılık

Yüz değiştirme teknolojisi, taklit dolandırıcılığı ve şantaj için araç olarak kullanılmıştır.

Bazı Telegram Face Swap botları, çocuğunuzu ve sesini taklit eden çok inandırıcı görüntü veya videolar oluşturabilir. Dolandırıcılar burada durmaz.

Bu "yapay zeka ile oluşturulmuş" gerçekçi videoları kullanarak, çocukmuş gibi davranıp ebeveynleri arar, acil para transferi ister veya şantaj yapar. FTC de 2023’te aileleri bu tür yapay zeka dolandırıcıları konusunda uyardı.

Hindistan’da yakın zamanda yaşanan bir örnekde, bir aile oğullarının kaçırılıp bıçaklandığını gösteren yapay zeka ile oluşturulmuş bir video çağrısı aldı. Sonra 1 lakh ₹ fidye ödediler, ancak çocuk başka bir yerde güvendeydi.

Risk 4: Hukuki Sonuçlar

Artan sayıda yasa, yapay zeka ile oluşturulan küçük yaşta kişilerin mahrem görüntülerini çocuk cinsel istismarı materyali (CSAM) olarak kabul ediyor. Yani deepfake içerik oluşturmak, paylaşmak veya dağıtmak ciddi hukuki sonuçlar doğurabilir:

• İngiltere, yapay zeka cinsel istismar suçlarını içeren yeni yasaları çıkaran ilk ülkedir.
• ABD’de TAKE IT DOWN Yasası, S.146, rızasız mahrem görsellerin yayınlanmasını suç sayar. İhlaller para cezası ve hapis cezası ile sonuçlanabilir.
• Federal yasaların yanı sıra, Kaliforniya, Teksas gibi birçok eyalet, deepfake pornografi paylaşımını hedef alan kendi yasalarını çıkarmıştır. Bu da çocuğunuzun katılımcı olması halinde medeni veya cezai yaptırımlarla karşılaşabileceği anlamına gelir.

Risk 5: Değerler ve Davranışlarda Bozulma

Belki de en az fark edilen risk, bu araçlara tekrar tekrar maruz kalmanın çocuğun düşünce ve davranışlarını nasıl etkilediğidir.

İzinsiz yüz değiştirme normal hale geldiğinde, gerçek ile sahteyi ayırt etme yetenekleri yavaş yavaş zayıflar. Microsoft’un bir anketine göre, dünya genelindeki kullanıcıların (gençler dahil) sadece %25’i yapay zeka ile oluşturulmuş deepfake’leri tanımaya güveniyor. Bu oran daha önce %46 idi.

Aynı zamanda, yüz değiştirmeyi sıradan eğlence olarak gördüklerinde, gizliliğin önemli olmadığına inanabilir ve yüz değiştirme botlarını diğer sınıf arkadaşlarını hedeflemek için kullanmaya başlayabilirler.

Çocuğunuz Risk Altında mı? Ebeveynler İçin Hızlı Kontrol Listesi

Her yüz değiştirme botu kullanan genç sorun yaşamaz. Ancak bazı davranışlar, onların kurban veya katılımcı olma olasılığını artırır.

Bu nedenle, çocuğunuzun yüz değiştirme risklerine ne kadar kolay kapılabileceğini belirlemek için bu listeyi gözden geçirin.

Ebeveynler Deepfake Risklerinden Çocukları Nasıl Koruyabilir?

Riskleri bilmek ilk adımdır. Peki, bunun için gerçekten ne yapabilirsiniz?

Kız Çocuğu Ebeveyniyseniz:

Araştırmalar ve gerçek vakalar, kadınların ve kız çocuklarının deepfake cinsel görüntü ve videolarında %99 oranında mağdur olduğunu gösteriyor. Bu nedenle kızınızı korumak için şunları yapmanız iyi olur:

• Sosyal hesapları gizli yapmayı öğretin

Hesapları veya paylaşımları sınırlandırarak, yabancıların ve kötü niyetlilerin orijinal yüksek kaliteli fotoğraflara erişimi azalır ve sahte görüntü oluşturması zorlaşır. Ayrıca, selfie’lerini profil fotoğrafı olarak kullanmamaları gerektiğini anlatın.

• Deepfake’ler hakkında konuşun

Deepfake hedefi olan birçok kız, şantaj veya utanç nedeniyle ebeveynlerine söylemez. Önceden açıkça belirtin ki böyle bir şey olursa size gelebilir, kanıtları toplayabilir ve yetkililere veya platforma bildirebilir.

• Telegram’da hedef olup olmadığını kontrol edin

AirDroid Ebeveyn Denetimi gibi araçlar, ebeveynlerin Telegram ve sosyal uygulamalardaki sohbetleri riskli anahtar kelimelerle izlemelerini sağlar.

Erkek Çocuğu Ebeveyniyseniz:

Belgelenmiş okul vakalarının çoğunda, Iowa dahil, yapay zeka ile çıplak deepfake oluşturanlar ergen erkeklerdir. Birçoğu yaptıklarının suç olduğunu düşünmemiştir. Bu yüzden göreviniz oğlunuzun böyle bir duruma düşmemesini sağlamaktır.

• "Rıza" hakkında konuşun

Birinin görüntüsünü izni olmadan, hatta komik bir sahte meme yapmak için kullanmak saygısızlıktır. Şaka amaçlı veya arkadaşlar yapıyor olsa bile fark etmez.

• Hukuki sonuçları gerçek hikayelerle gösterin

Yasal sonuçları somutlaştırın. Rızasız mahrem deepfake oluşturmanın suç olduğunu söylemek yerine, bunun nasıl göründüğünü gösterin. Örneğin, iki genç denetimli serbestliğe alındı ve mağdurlarına 12.000 dolar ödemeleri emredildi.

Sıkça Sorulan Sorular

Paylaş: