CrushOn AI è sicuro per i bambini? No! Ecco perché

Se conosci Character AI, probabilmente hai già sentito parlare anche di CrushOn AI, una piattaforma progettata per simulare interazioni romantiche attraverso chatbot animati dall'intelligenza artificiale.

Basta però una semplice ricerca su Google per comprendere immediatamente la natura del servizio: il sito si presenta apertamente con lo slogan "No Filter NSFW Character AI Chat". Questo dettaglio, da solo, è un indicatore inequivocabile del tipo di conversazioni e di bot con cui è possibile interagire sulla piattaforma.

Sebbene possa essere uno strumento destinato a un pubblico adulto, per un genitore è naturale nutrire profonde preoccupazioni riguardo alla sicurezza nel caso in cui un minore dovesse accedervi. Quindi, CrushOn AI è sicuro per i bambini?

La risposta breve è NO. Vediamo perché.

1: Cos'è CrushOn AI?

Come suggerisce il nome, CrushOn AI è un sito di "roleplay" che permette agli utenti di interagire con diversi chatbot AI dotati di caratteristiche specifiche. Ad esempio, è possibile trovare numerosi personaggi in stile anime: un supercattivo, un timido migliore amico, un boss mafioso o una regina demoniaca.

Mentre Character AI è progettato principalmente per creare personaggi virtuali in diversi ambiti, CrushOn AI si concentra sulla simulazione di interazioni romantiche e scenari di appuntamenti.

Quando si avvia una conversazione con uno dei chatbot disponibili su CrushOn AI, il personaggio selezionato risponde all'utente in base alla sua descrizione. Da quel momento, gli utenti possono chattare con il bot o dedicarsi al "roleplay".

Il problema per i più giovani è che il "tema" di questi chatbot è molto spesso a sfondo sessuale o comunque inappropriato. Nella prossima sezione analizzeremo nel dettaglio le preoccupazioni legate alla sicurezza dei bambini su CrushOn AI.

2: Preoccupazioni per la sicurezza su CrushOn AI

Ora esamineremo nel dettaglio cinque aspetti critici per la sicurezza. Alla fine, avrai un quadro più chiaro sul perché CrushOn AI non sia adatto ai bambini.

Contenuti NSFW: Chatbot AI senza filtri

Livello di sicurezza: ★☆☆☆☆

Quando si parla di intelligenza artificiale, i contenuti NSFW (Not Safe For Work, ovvero "non adatti a un contesto lavorativo") rappresentano sempre uno dei fattori più importanti da valutare.

Cercando "CrushOn AI" su un browser, il sito si presenta con la dicitura "Chat con Personaggi AI NSFW Senza Filtri", il che indica chiaramente che i chatbot sono progettati per interagire senza limitazioni sui contenuti potenzialmente espliciti o per adulti.

Questo può includere temi, linguaggi o scenari espliciti, potenzialmente dannosi per i minori.

Inoltre, durante i nostri primi test sulla piattaforma, abbiamo notato un'opzione "Unfiltered" (Senza filtri). Cliccandola, ci siamo immediatamente trovati di fronte a una vasta gamma di chatbot AI a contenuto NSFW, ben oltre i personaggi più "innocui" presenti nella homepage.

È presente un pop-up che chiede di confermare di avere più di 18 anni prima di procedere, ma è sufficiente cliccare sul pulsante per aggirarlo facilmente. Considera che durante la fase di test non avevamo ancora creato un account, eppure siamo riusciti ad accedere a questi contenuti "NSFW" con estrema semplicità.

Tuttavia, CrushOn AI non si presenta come una piattaforma sicura per i minori, dato che la maggior parte dei suoi contenuti è orientata verso materiale NSFW. Dopo aver testato il processo di registrazione—senza alcuna verifica dell'età—è evidente quanto sia semplice per un bambino accedere al sito e visualizzare questi contenuti.

Moderazione dei contenuti: assenza di filtri efficaci e politiche di segnalazione

Livello di sicurezza: ★★☆☆☆

CrushOn AI dispone di un set piuttosto solido di Linee Guida della Community, che elencano esplicitamente diversi punti fondamentali. La piattaforma afferma di revisionare e intervenire contro i contenuti che violano queste linee. Dopo averle esaminate, siamo ancora più convinti che non si tratti di uno spazio sicuro per i bambini.

Ecco un elenco dei contenuti vietati secondo le loro linee guida:

• Attività illegali
• Uso malevolo
• Discorsi d'odio
• Disinformazione
• Informazioni personali e riservate
• Furto di account
• Sfruttamento minorile
• Disinformazione
• Spam
• Materiale sessualmente esplicito
• Immagini di attività sessuale
• Contenuti fetish
• Zoofilia
• Materiale sessualmente esplicito non consensuale
• Molestie e bullismo
• ...

Sebbene l'elenco appaia completo, presenta alcune lacune evidenti. Nella clausola relativa al "Materiale sessualmente esplicito", il divieto si applica principalmente a "immagini reali" o "immagini generate dall'IA eccessivamente realistiche".

Inoltre, sono consentiti capezzoli scoperti, glutei completamente nudi o ano visibile, nonché genitali femminili nudi. Considerando che questi elementi sono già ammessi, è sufficiente a comprendere che CrushOn AI non è un ambiente sicuro per i minori.

Restrizioni di età: 18+ ma assenza di verifica

Livello di sicurezza: ★☆☆☆☆

Innanzitutto, la piattaforma dichiara esplicitamente di essere destinata esclusivamente a un pubblico maggiorennne. Durante i nostri test iniziali senza account, non era possibile inviare messaggi o interagire con i chatbot.

Il passo successivo è stato creare un account per verificare se fosse richiesta una conferma dell'età. Abbiamo utilizzato l'opzione "Accedi con Google" per testare il processo. Creando un account tramite Google, siamo riusciti a registrarsi immediatamente, senza alcuna verifica dell'età.

CrushOn AI offre diverse modalità di accesso: account Google, Apple, Discord o indirizzo email, e nessuna di queste richiede una verifica dell'età. Di conseguenza, è estremamente semplice creare un account senza fornire ulteriori informazioni sull'utente. Questo significa che adolescenti e bambini sotto i 18 anni possono utilizzare CrushOn AI con facilità.

Si tratta di un rischio significativo: se un sito dichiara di essere riservato agli utenti maggiorenni ma non implementa alcun sistema di verifica, minori e adolescenti possono accedervi facilmente ed essere esposti a contenuti inappropriati.

Protezione dei dati utente: raccolta eccessiva di informazioni

Livello di sicurezza: ★★★☆☆

Oltre ai potenziali rischi legati all'esposizione a contenuti inappropriati, esiste un'ulteriore preoccupazione importante riguardo alla protezione dei dati personali. La questione riguarda quali informazioni raccoglie CrushOn AI, come vengono utilizzate e quali altri rischi comportano.

In particolare, CrushOn raccoglie un'ampia gamma di dati sensibili degli utenti, tra cui:

• Dati audio/visivi
• Dati di contatto
• Dati dispositivo/rete
• Dati finanziari
• Dati sulla posizione generale
• Dati sanitari
• Dati di identità
• Dati di inferenza
• Dati sulle transazioni
• Contenuti generati dall'utente
• Dati sulla salute del consumatore

Per la maggior parte, i dati raccolti da CrushOn rientrano negli standard del settore: posizione generale tramite IP, dati finanziari e di transazione per l'acquisto di abbonamenti sulla piattaforma, ecc.

Tuttavia, un elemento anomalo è la raccolta di dati sanitari. Questa categoria include informazioni sulla salute mentale degli utenti, cure di affermazione di genere, salute riproduttiva/sessuale, nonché dati psicologici e comportamentali, tra gli altri.

Il problema più grave è che queste informazioni vengono anche condivise con terze parti e affiliati, un campanello d'allarme significativo. Il report della Mozilla Foundation https://foundation.mozilla.org/en/privacynotincluded/crushon-ai/ evidenzia numerose preoccupazioni riguardo alla piattaforma: "CrushOn può anche raccogliere automaticamente dati personali dal tuo dispositivo e da terze parti (come social media e fornitori di servizi). Inoltre, CrushOn può utilizzare tutti questi tipi di informazioni personali per 'Scopi Commerciali', inclusi pubblicità e marketing."

Le tue chat NSFW su CrushOn AI potrebbero contenere informazioni estremamente sensibili, ma la piattaforma non sembra trattare questi dati con particolare cautela. Questo rappresenta un potenziale rischio per la tua privacy: i tuoi dati potrebbero essere venduti a terze parti.

Controllo parentale: assenza totale di strumenti

Livello di sicurezza: ☆☆☆☆☆

CrushOn AI è destinato esclusivamente a utenti maggiorenni. Tuttavia, come dimostrato dai nostri test, senza metodi solidi di verifica dell'età, questa regola è facilmente aggirabile.

Poiché la piattaforma è pensata per un pubblico adulto, non include funzionalità di controllo parentale integrate per filtrare i contenuti.

Per i genitori che desiderano proteggere le attività online dei propri figli, l'utilizzo di CrushOn AI da parte dei minori rappresenta un rischio concreto, senza che i genitori abbiano strumenti adeguati per intervenire.

3: CrushOn AI è sicuro per i bambini?

In base ai nostri test e alla nostra analisi, CrushOn AI non è sicuro per i bambini. A differenza di altre piattaforme di chatbot AI che offrono un'esperienza più adatta ai minori, CrushOn AI dichiara esplicitamente di essere orientato verso contenuti NSFW e destinato esclusivamente a utenti maggiorenni.

Ecco alcuni motivi per cui riteniamo che la piattaforma non sia adatta ai bambini:

1. Fin dalla homepage, sono presenti numerose immagini e scene non adatte ai minori, ricche di allusioni sessuali e descrizioni esplicite.

2. La maggior parte dei personaggi e dei contenuti disponibili sul sito è inappropriata per i bambini. Molti di questi chatbot sono programmati per comportarsi in un certo modo e possono includere contenuti sessuali non adatti all'età. Anche se molti personaggi sono "animati", risultano suggestivi e inadatti alle conversazioni con i minori.

3. La piattaforma include "chat di gruppo", in cui altri utenti reali chattano insieme allo stesso chatbot AI. Questo può portare a interazioni indesiderate con altre persone (potenzialmente adulte).

4. Assenza di metodi reali di "verifica dell'età" per dissuadere o filtrare l'accesso dei bambini al sito e ai suoi contenuti.

5. Possibile perdita o uso improprio dei dati utente. Considerando la quantità e la tipologia di informazioni raccolte da CrushOn AI, questo rappresenta un potenziale rischio per la sicurezza se i bambini forniscono dati sensibili alla piattaforma.

Inoltre, chattare con chatbot AI può creare dipendenza: se i bambini trascorrono troppo tempo sulla piattaforma, considerando il loro sviluppo mentale, potrebbero faticare a distinguere tra realtà e mondo virtuale.

Secondo CBS News, esiste un caso reale in cui un ragazzo di 14 anni ha utilizzato un'altra piattaforma—Character AI—e, dopo aver intrattenuto una relazione romantica e sessuale virtuale con un chatbot, ha tragicamente posto fine alla propria vita.

"Sono solo parole. È come avere una conversazione di sexting avanti e indietro, tranne che con un bot AI, ma il bot è molto umano. Risponde proprio come farebbe una persona", ha dichiarato la madre del ragazzo. "Nella mente di un bambino, è come se stesse conversando con un altro bambino o con una persona... Pensava che ponendo fine alla sua vita qui, avrebbe potuto entrare in una realtà virtuale o 'nel suo mondo', come la chiamava lui, la sua realtà, se avesse lasciato la sua realtà con la famiglia."

In sintesi, CrushOn AI non è assolutamente sicuro per i bambini. Si raccomanda di proteggere i propri figli e di tenerli lontani da questa piattaforma. Anche se i bambini potrebbero accedere all'app o al sito per errore, è sempre consigliabile bloccare il sito o l'applicazione sul telefono del minore.

Bonus: Bloccare CrushOn AI per tuo figlio

Come accennato in precedenza, CrushOn AI è destinato a utenti di età pari o superiore a 18 anni, il che lo rende inadatto a bambini e adolescenti. Come genitore, è naturale preoccuparsi dell'esposizione dei propri figli a servizi orientati agli adulti.

Per aiutare a garantire che tuo figlio eviti app non adatte alla sua età, puoi utilizzare strumenti di parental control digitale come AirDroid Parental Control. Questa app ti consente di creare una lista di blocco personalizzata per siti web e applicazioni mobili specifici che non vuoi che tuo figlio utilizzi.

Ovviamente, dialogare con i propri figli e offrire loro la guida necessaria per compiere scelte digitali più consapevoli rimane fondamentale.

Ecco come bloccare app o siti web come CrushOn AI sul telefono di tuo figlio utilizzando AirDroid Parental Control:

Passo 1. Scarica e installa AirDroid Parental Control sul tuo telefono e installa l'app AirDroid Kids sul dispositivo di tuo figlio.

Passo 2. Crea un account e segui la procedura guidata a schermo per accedere e collegare i due dispositivi.

Passo 3. Se desideri bloccare l'accesso ad app specifiche, tocca "Restrizioni app e contenuti", quindi seleziona "Blocco app" per disattivare qualsiasi applicazione non adatta ai bambini.

Passo 4. Se vuoi impedire a tuo figlio di accedere a siti web come CrushOn AI, installa AirDroid Browser e aggiungi crushon.ai alla lista nera.

In questo modo, puoi proteggere tuo figlio da applicazioni o contenuti inappropriati e garantirgli un ambiente online più sicuro.

Conclusione

CrushOn AI non è intrinsecamente una piattaforma "negativa" per un pubblico adulto, che può legittimamente utilizzarla per intrattenimento o interazioni virtuali. Tuttavia, per i bambini e gli adolescenti, rappresenta un ambiente del tutto inadeguato e potenzialmente pericoloso.

Tra la massiccia presenza di contenuti espliciti e una gestione dei dati personali poco trasparente, è più che lecito nutrire seri dubbi sulla sicurezza complessiva della piattaforma. La conclusione è netta: per tutelare il benessere dei minori, è bene che evitino completamente l'accesso a CrushOn AI.

Condividi: