Ist CrushOn AI für Kinder sicher? Nein! Hier sind die Gründe dafür:

Wenn Sie Character AI kennen, haben Sie möglicherweise auch schon von CrushOn AI gehört, einer Plattform, die romantische Interaktionen durch KI-Chatbots simuliert.

Wenn Sie die Website „CrushOn AI” googeln, wird ausdrücklich darauf hingewiesen, dass es sich um einen „No Filter NSFW Character AI Chat” handelt, was bereits einen ausreichenden Hinweis auf die Art der Inhalte und Chatbots gibt, mit denen man sich auf der Website beschäftigen kann.

Für Erwachsene mag die Nutzung von CrushOn AI in Ordnung sein. Als Eltern haben Sie jedoch möglicherweise verschiedene Sicherheitsbedenken, wenn Kinder CrushOn AI nutzen. Ist CrushOn AI für Kinder sicher?

Die kurze Antwort lautet NEIN! Hier finden Sie die Bewertung und Erklärung.

1: Was ist CrushOn AI?

Wie der Name schon sagt, ist CrushOn AI eine „Rollenspiel”-Website, auf der Nutzer mit einer Vielzahl von KI-Chatbots mit bestimmten Eigenschaften interagieren können. Wir haben beispielsweise mehrere „Anime-Charaktere“ gesehen, die Superbösewichte, schüchterne beste Freunde, Mafiabosse oder Dämonenköniginnen sein könnten.

Während Character AI in erster Linie für die Erstellung von KI-Charakteren in verschiedenen Bereichen konzipiert ist, konzentriert sich CrushOn AI auf die Simulation romantischer Interaktionen und Dating-Szenarien.

Wenn Sie eine Unterhaltung mit einem der auf CrushOn AI verfügbaren KI-Chatbots beginnen, antwortet der ausgewählte themenbezogene Chatbot dem Benutzer gemäß der Beschreibung. Von dort aus können Benutzer mit dem Bot interagieren und chatten oder „Rollenspiele“ spielen.

Das Problem für Kinder besteht darin, dass das „Thema“ dieser Chatbots häufig sexuell oder anderweitig unangemessen ist. Im nächsten Teil werden wir die Sicherheitsbedenken für Kinder auf CrushOn AI ausführlich diskutieren.

2: Sicherheitsbedenken bei CrushOn AI

Nun werden wir die 5 Sicherheitsbedenken im Detail besprechen. Danach werden Sie besser verstehen, ob CrushOn AI für Kinder sicher ist und warum.

NSFW: Kein NSFW-Charakter-KI-Chatbot

Sicherheitsbewertung: ★☆☆☆☆

Wenn es um KI geht, ist NSFW (Not Safe For Work, nicht sicher für die Arbeit) immer einer der entscheidenden Faktoren, die es zu berücksichtigen gilt.

Wenn Sie „CrushOn AI” in Ihrem Browser googeln, sehen Sie, dass auf der Website „Kein Filter NSFW-Charakter-KI-Chat” steht, was in der Regel bedeutet, dass die KI-Chatbots so konzipiert sind, dass sie ohne Einschränkungen hinsichtlich von Inhalten interagieren, die als „nicht sicher für die Arbeit” angesehen werden könnten.

Dies kann explizite oder nicht jugendfreie Themen, Sprachen oder Szenarien umfassen, die für Kinder schädlich sein können.

Darüber hinaus haben wir bei unseren ersten Tests der CrushOn AI-Website einen Schalter mit der Bezeichnung „Unfiltered” entdeckt. Wir haben auf den Schalter geklickt und wurden sofort mit einer Vielzahl von NSFW-KI-Chatbots konfrontiert, die weit über die „unschuldigeren” Bots auf der Startseite hinausgingen.

Es gibt zwar ein Pop-up-Fenster „Bestätigen Sie Ihr Alter”, um zu bestätigen, dass Sie über 18 Jahre alt sind, bevor Sie fortfahren, aber dieses konnte einfach durch Anklicken der Schaltfläche umgangen werden. Beachten Sie, dass wir uns für die Testphase noch nicht für ein Konto angemeldet hatten, daher war ich überrascht, dass ich so einfach auf diese „NSFW”-Bots zugreifen konnte.

CrushOn AI präsentiert sich jedoch nicht als eine für Kinder sichere Plattform, da ein Großteil der Inhalte nicht jugendfrei ist. Nach dem Testen des Anmeldeprozesses und ohne Altersüberprüfung wird deutlich, wie einfach es ist, die Website zu nutzen und die Inhalte für Kinder anzusehen.

Inhaltsmoderation: Keine wirksamen Filter- und Melderichtlinien

Sicherheitsbewertung: ★★☆☆☆

CrushOn AI verfügt über ziemlich solide Community-Richtlinien, in denen mehrere wichtige Punkte ausdrücklich genannt werden. Darin wird erwähnt, dass Inhalte, die gegen die Richtlinien verstoßen, überprüft und geahndet werden. Nach Durchsicht der Community-Richtlinien sind wir doppelt sicher, dass es sich nicht um einen sicheren Ort für Kinder handelt.

Hier ist eine Liste der Inhalte, die gegen die Community-Richtlinien verstoßen:

• Illegale Aktivitäten
• Böswillige Nutzung
• Hassrede
• Fehlinformationen
• Persönliche und vertrauliche Informationen
• Kontoübernahme
• Ausbeutung von Kindern
• Fehlinformationen
• Spam
• Sexuell eindeutiges Material
• Darstellungen sexueller Handlungen
• Fetischistische Inhalte
• Bestialität
• Nicht einvernehmliches sexuell explizites Material
• Belästigung und Mobbing
• ...

Obwohl die Liste umfassend erscheint, gibt es einige offensichtliche Lücken. In der Klausel „Sexuell eindeutiges Material” werden lediglich „echte Bilder” oder „übermäßig realistische, KI-generierte Bilder” verboten.

Außerdem sind entblößte Brustwarzen, vollständig nackte Gesäße oder sichtbare Anusse sowie nackte weibliche Genitalien erlaubt. Angesichts der Tatsache, dass diese Aspekte bereits erlaubt sind, lässt sich leicht erkennen, dass CrushOn AI für Kinder nicht sicher ist.

Altersbeschränkungen: 18+, jedoch keine Altersüberprüfung

Sicherheitsbewertung: ★☆☆☆☆

Zunächst einmal gibt die Plattform bereits an, dass sie nur für ein Publikum ab 18 Jahren bestimmt ist. Als wir die Plattform zunächst ohne Konto testeten, konnten wir keine Nachrichten senden oder mit einem der Chatbots interagieren.

Unser nächster Schritt bestand darin, ein Konto zu erstellen und zu prüfen, ob eine Altersüberprüfung erforderlich ist. Wir haben die Option „Google-Anmeldung” genutzt, um dies zu testen. Mit Google konnten wir sofort ein Konto erstellen, ohne dass eine Altersüberprüfung erforderlich war.

CrushOn AI bietet mehrere Möglichkeiten zur Anmeldung: Google-Konto, Apple-Konto, Discord-Konto oder E-Mail-Adresse. Eine Altersüberprüfung ist nicht erforderlich, sodass wir sehen werden, wie einfach es ist, ein Konto einzurichten, ohne zusätzliche Angaben zum Nutzer machen zu müssen. Das bedeutet, dass Jugendliche und Kinder unter 18 Jahren CrushOn AI problemlos nutzen können.

Dies stellt ein Risiko dar, wenn die Website angibt, nur für Nutzer ab 18 Jahren verfügbar zu sein, aber keine Altersüberprüfung für die Nutzer durchführt. Jugendliche und Kinder können leicht auf die Plattform zugreifen und mit unangemessenen Inhalten konfrontiert werden.

Schutz der Nutzerdaten: Übermäßige Datenerfassung

Sicherheitsbewertung: ★★★☆☆

Neben dem potenziellen Sicherheitsrisiko für Kinder, die mit unangemessenen Inhalten in Berührung kommen, gibt es noch ein weiteres großes Problem hinsichtlich des Schutzes von Benutzerdaten. Dies betrifft die Art der von CrushOn gesammelten Daten, deren Verwendung und andere bedenkliche Aspekte.

Insbesondere sammelt CrushOn eine Vielzahl sensibler Benutzerinformationen, darunter:

• Audio-/Videodaten
• Kontaktdaten
• Geräte-/Netzwerkdaten
• Finanzdaten
• Allgemeine Standortdaten
• Gesundheitsdaten
• Identitätsdaten
• Inferenzdaten
• Transaktionsdaten
• Benutzerinhalte
• Gesundheitsdaten der Verbraucher

Die von CrushOn gesammelten Daten entsprechen größtenteils dem Branchenstandard, wie beispielsweise der allgemeine Standort anhand Ihrer IP-Adresse, Finanz- und Transaktionsdaten für den Kauf von Abonnements auf ihrer Plattform usw.

Eine Ausnahme bildet jedoch die Erfassung von Gesundheitsdaten. Dazu gehören unter anderem Informationen über die psychische Gesundheit der Nutzer, geschlechtsbejahende Pflege, reproduktive/sexuelle Gesundheit sowie psychologische und Verhaltensdaten.

Das größere Problem besteht darin, dass diese Informationen auch an Dritte und verbundene Unternehmen weitergegeben werden, was ein deutliches Warnsignal darstellt. Der Bericht der Mozilla Foundation „https://foundation.mozilla.org/en/privacynotincluded/crushon-ai/” (Die Daten von CrushOn AI: Ein Einblick in die Datenerfassung und -nutzung) hebt ebenfalls viele Bedenken hinsichtlich der Plattform hervor: „CrushOn kann auch automatisch personenbezogene Daten von Ihrem Gerät und von Dritten (wie sozialen Medien und Dienstleistern) erfassen. Und CrushOn kann all diese Arten von personenbezogenen Daten für „kommerzielle Zwecke” verwenden, darunter Werbung und Marketing.”

Ihre nicht jugendfreien Chats könnten in CrushOn AI wirklich sensible Informationen enthalten, aber es scheint, als würden diese Daten in keiner Weise anders behandelt. Dies stellt ein potenzielles Risiko für unsere Daten dar. Ihre Daten könnten an andere Dritte verkauft werden.

Kindersicherung: Fehlende Kindersicherung

Sicherheitsbewertung: ☆☆☆☆☆

CrushOn AI ist nur für Nutzer über 18 Jahren verfügbar. Wie unsere Tests jedoch gezeigt haben, lässt sich diese Regel ohne zuverlässige Methoden zur Altersüberprüfung leicht umgehen.

Da die Plattform für Nutzer über 18 Jahren gedacht ist, gibt es keine integrierten Kindersicherungsfunktionen, mit denen sich die Inhalte filtern lassen.

Für Eltern, die die Aktivitäten ihrer Kinder schützen möchten, bestehen Risiken, wenn Kinder CrushOn AI nutzen und die Eltern nicht wissen, wie sie sie schützen können.

3: Ist CrushOn AI für Kinder sicher?

Nach unseren Tests und Bewertungen ist CrushOn AI für Kinder nicht sicher. Im Gegensatz zu anderen KI-Chatbot-Plattformen, die etwas kinderfreundlicher sind, gibt CrushOn AI ausdrücklich an, dass es nicht für den Arbeitsplatz geeignet ist und nur für Personen über 18 Jahren bestimmt ist.

Hier sind einige Gründe, warum wir die Plattform für Kinder als nicht sicher erachten:

1. Bereits auf der Startseite befinden sich zahlreiche Bilder und Szenen, die für Kinder nicht geeignet sind und voller sexueller Anspielungen und Beschreibungen sind.

2. Die meisten KI-Chatbot-Charaktere und Inhalte auf der Website sind für Kinder ungeeignet. Viele dieser Chatbots sind darauf trainiert, sich auf eine bestimmte Weise zu verhalten, und können sexuelle Inhalte enthalten, die nicht altersgerecht sind. Auch wenn viele der Charaktere „animiert” sind, sind sie anzüglich und für Kinder ungeeignet.

3. Die Plattform verfügt über „Gruppenchats”, in denen andere echte Menschen zusammen mit demselben KI-Chatbot chatten. Dies kann zu unerwünschten Interaktionen mit anderen (möglicherweise erwachsenen) Personen führen.

4. Es fehlen echte „Altersüberprüfungsmethoden”, um Kinder davon abzuhalten oder herauszufiltern, auf die Website und deren Inhalte zuzugreifen.

5. Mögliche Datenlecks oder Missbrauch von Benutzerdaten. Angesichts der Menge und Art der von CrushOn AI gesammelten Informationen kann dies ein potenzielles Sicherheitsrisiko darstellen, wenn Ihre Kinder sensible Informationen an die Plattform weitergeben.

Darüber hinaus kann das Chatten mit KI-Chatbots süchtig machen. Wenn Kinder zu viel Zeit auf der Plattform verbringen, können sie angesichts ihrer geistigen Entwicklung nicht zwischen Realität und Internet unterscheiden.

Laut CBS News gab es einen realen Fall, in dem ein 14-jähriger Junge eine andere Plattform nutzte – Character AI – mit angeblich sexuell aufgeladenen KI-Bots eine virtuelle romantische und sexuelle Beziehung zu einem Chatbot und sich anschließend auf tragische Weise in den Kopf schoss.

„Es sind Worte. Es ist, als würde man eine Sexting-Konversation führen, nur dass es sich um einen KI-Bot handelt, der jedoch sehr menschenähnlich ist. Er antwortet genau wie ein Mensch“, sagte die Mutter des Jungen. „In den Augen eines Kindes ist das wie ein Gespräch, das es mit einem anderen Kind oder einer anderen Person führt ... Er dachte, wenn er hier sein Leben beendet, könnte er in eine virtuelle Realität oder ‚ihre Welt‘, wie er es nennt, ihre Realität, eintreten, wenn er seine Realität mit seiner Familie hier verlässt.“

Insgesamt ist CrushOn AI für Kinder definitiv nicht sicher. Es wird empfohlen, Ihre Kinder zu schützen und sich von dieser Plattform fernzuhalten. Auch wenn Kinder die App oder Website versehentlich nutzen könnten, ist es immer ratsam, die Website oder Anwendung auf dem Smartphone Ihres Kindes zu sperren.

Bonus: Blockieren Sie CrushOn AI für Ihr Kind

Wie bereits erwähnt, ist CrushOn AI für Nutzer ab 18 Jahren gedacht, was bedeutet, dass es für Kinder oder Jugendliche nicht geeignet ist. Als Elternteil ist es nur natürlich, dass Sie sich Sorgen darüber machen, dass Ihr Kind mit Dienstleistungen für Erwachsene in Berührung kommt.

Um sicherzustellen, dass Ihr Kind von Apps ferngehalten wird, die nicht altersgerecht sind, können Sie digitale Erziehungshilfen wie AirDroid Kindersicherung verwenden. Damit können Sie eine benutzerdefinierte Sperrliste mit bestimmten Websites und mobilen Apps erstellen, auf die Ihr Kind nicht zugreifen soll.

Natürlich ist es auch wichtig, mit Ihrem Kind zu sprechen und ihm die nötige Anleitung zu geben, damit es bessere digitale Entscheidungen treffen kann.

So blockieren Sie Apps/Websites wie CrushOn AI auf dem Smartphone Ihres Kindes mit AirDroid Kindersicherung:

Schritt 1. Laden Sie AirDroid Parental Control auf Ihr Smartphone herunter und installieren Sie es. Installieren Sie anschließend die AirDroid Kids-App auf dem Smartphone Ihres Kindes.

Schritt 2. Erstellen Sie ein Konto und folgen Sie den Anweisungen auf dem Bildschirm, um sich anzumelden und zwei Geräte zu verknüpfen.

Schritt 3. Wenn Sie den Zugriff auf bestimmte Apps blockieren möchten, tippen Sie auf „App- und Inhaltsbeschränkungen“ und anschließend auf „App-Blocker“, um alle Apps zu blockieren, die für Kinder ungeeignet sind.

Schritt 4. Wenn Sie verhindern möchten, dass Ihr Kind auf Websites wie CrushOn AI zugreift, installieren Sie den AirDroid Browser und fügen Sie crushon.ai zur Blacklist hinzu.

Auf diese Weise können Sie Ihr Kind vor unangemessenen Anwendungen oder Inhalten schützen und ihm einen sicheren Online-Raum bieten.

Fazit

Im Kern ist CrushOn AI keine „schlechte“ Plattform, da sie für Erwachsene ein nützliches Werkzeug sein kann, um mit „jemandem“ zu kommunizieren und sich nicht einsam zu fühlen. Für Kinder ist die Plattform jedoch nicht sicher, da sie leicht mit nicht jugendfreien Inhalten konfrontiert werden können.

Ganz zu schweigen von den scheinbar „zwielichtigen“ Datenverwendungspraktiken der Plattform, die uns daran zweifeln lassen, ob die Website wirklich für jedermann sicher ist.

Als TL;DR lässt es sich sagen, dass Ihre Kinder sich von CrushOn AI fernhalten sollten.

Teilen: