Безопасен ли CrushOn AI для детей? Нет! Вот почему

Если вы знакомы с Character AI, возможно, вы также слышали о CrushOn AI — платформе, позволяющей моделировать романтические взаимодействия с помощью чат-ботов на базе искусственного интеллекта.

Достаточно ввести в Google название сайта «CrushOn AI», чтобы увидеть, что он прямо позиционируется как «Чат с персонажами ИИ без фильтров и ограничений NSFW». Это уже говорит о характере контента и чат-ботов, с которыми пользователи могут взаимодействовать на этом сайте.

Для взрослых использование CrushOn AI может быть допустимо. Однако у родителей могут возникнуть серьезные опасения по поводу безопасности, если дети будут пользоваться этим сервисом. Безопасен ли CrushOn AI для детей?

Краткий ответ — НЕТ! Ниже приведен подробный обзор и объяснение.

1: Что такое CrushOn AI?

Как следует из названия, CrushOn AI — это сайт для ролевых игр, где пользователи могут общаться с различными чат-ботами на основе ИИ, обладающими определёнными характеристиками. Например, здесь встречаются «аниме-персонажи», которые могут быть суперзлодеем, застенчивым другом, боссом мафии или королевой-демоном.

В то время как Character AI в основном предназначен для создания персонажей ИИ в разных сферах, CrushOn AI делает акцент на моделировании романтических взаимодействий и сценариев знакомств.

Когда вы начинаете диалог с одним из чат-ботов на CrushOn AI, выбранный персонаж отвечает пользователю в соответствии с заданным описанием. После этого можно продолжать общение или «ролевую игру» с ботом.

Проблема для детей заключается в том, что тематика большинства чат-ботов часто носит сексуальный или иной неприемлемый характер. В следующей части мы подробно рассмотрим вопросы безопасности для детей на CrushOn AI.

2: Проблемы безопасности CrushOn AI

Далее мы подробно рассмотрим 5 основных аспектов безопасности. После этого вы сможете понять, почему CrushOn AI не подходит для детей.

NSFW: отсутствие фильтрации контента 18+

Оценка безопасности: ★☆☆☆☆

Когда речь идет об ИИ, NSFW (Not Safe For Work — не предназначено для просмотра на работе) всегда является одним из ключевых факторов.

Если вы введете в поиске «CrushOn AI», увидите, что сайт заявляет: «Чат с персонажами ИИ без фильтрации NSFW», что обычно означает отсутствие ограничений на контент, который может считаться неприемлемым для работы или детей.

Это может включать откровенные или взрослые темы, лексику и сценарии, которые вредны для детей.

Во время нашего тестирования сайта CrushOn AI мы заметили переключатель «Unfiltered». После его активации сразу открывается доступ к большому количеству NSFW-чат-ботов, которые значительно отличаются от более «невинных» ботов на главной странице.

На сайте появляется всплывающее окно с просьбой подтвердить возраст (старше 18 лет), однако его легко обойти простым нажатием кнопки.

Исследования и новости показывают, что многие подростки могут столкнуться с неприемлемым контентом или негативным влиянием при использовании социальных или ИИ-чат-платформ без строгой проверки возраста. Например, американские СМИ сообщают о случаях психологического стресса у подростков или формировании зависимости на виртуальных чат-платформах, что служит напоминанием для родителей внимательно следить за онлайн-активностью своих детей.

Однако CrushOn AI изначально не позиционирует себя как платформу, безопасную для детей, поскольку большая часть контента относится к категории NSFW. Но после проверки процесса регистрации и отсутствия реальной проверки возраста становится ясно, что дети могут легко получить доступ к сайту и его содержимому.

Модерация контента: отсутствие эффективных фильтров и системы жалоб

Оценка безопасности: ★★☆☆☆

На CrushOn AI есть довольно подробные Правила сообщества, где четко указаны основные принципы. В них говорится, что администрация будет рассматривать и принимать меры в отношении контента, нарушающего правила. После ознакомления с этими правилами становится еще очевиднее, что платформа не предназначена для детей.

Вот список запрещенного контента согласно правилам сообщества:

• Незаконная деятельность
• Злонамеренное использование
• Язык вражды
• Дезинформация
• Личные и конфиденциальные данные
• Угон аккаунтов
• Эксплуатация детей
• Дезинформация
• Спам
• Сексуально откровенные материалы
• Изображения сексуальной активности
• Фетиш-контент
• Зоофилия
• Несогласованный сексуально откровенный контент
• Домогательства и травля
• ...

Хотя список выглядит внушительно, есть очевидные лазейки. Например, в пункте о «сексуально откровенных материалах» речь идет только о запрете «реальных изображений» или «слишком реалистичных изображений, созданных ИИ».

Также разрешены обнаженные соски, полностью обнаженные ягодицы или видимый анус, а также обнаженные женские гениталии. Уже этого достаточно, чтобы понять: CrushOn AI не подходит для детей.

Возрастные ограничения: 18+, но нет проверки возраста

Оценка безопасности: ★☆☆☆☆

Платформа изначально заявляет, что предназначена только для лиц старше 18 лет. При первом посещении без аккаунта отправлять сообщения или взаимодействовать с чат-ботами невозможно.

Далее мы попробовали создать аккаунт и проверить, требуется ли подтверждение возраста. Используя вход через Google, мы сразу получили доступ без какой-либо проверки возраста.

CrushOn AI предлагает несколько способов входа: через Google, Apple, Discord или электронную почту, и ни один из них не требует подтверждения возраста. Это значит, что подростки и дети младше 18 лет могут легко зарегистрироваться и пользоваться платформой.

Это серьезный риск: несмотря на заявление о доступности только для взрослых, сайт не реализует реальную проверку возраста. Дети и подростки могут легко получить доступ к неприемлемому контенту.

Защита пользовательских данных: чрезмерный сбор информации

Оценка безопасности: ★★★☆☆

Помимо риска столкновения с неприемлемым контентом, есть еще одна важная проблема — защита пользовательских данных. Это касается того, какие данные собирает CrushOn, как они используются и какие есть риски.

В частности, CrushOn собирает широкий спектр чувствительной информации о пользователях, включая:

• Аудио- и видеоданные
• Контактные данные
• Данные об устройстве и сети
• Финансовые данные
• Данные о местоположении
• Медицинские данные
• Данные, идентифицирующие личность
• Инференционные данные
• Данные о транзакциях
• Пользовательский контент
• Данные о здоровье потребителей

В основном собираются стандартные для отрасли данные, такие как IP-адрес, финансовая информация для оплаты подписки и т.д.

Однако настораживает сбор медицинских данных, включая сведения о психическом здоровье, гендерной идентичности, репродуктивном и сексуальном здоровье, а также психологические и поведенческие данные.

Еще более тревожно, что эта информация может передаваться третьим лицам и партнерам, что является серьезным поводом для беспокойства. В отчете Mozilla Foundation https://foundation.mozilla.org/en/privacynotincluded/crushon-ai/ также отмечается: «CrushOn может автоматически собирать личные данные с вашего устройства и от третьих сторон (например, социальных сетей и сервис-провайдеров). Все эти данные могут использоваться для ‚коммерческих целей’, включая рекламу и маркетинг».

Ваши NSFW-чаты могут содержать очень чувствительную информацию, но CrushOn AI не делает различий в обработке таких данных. Это создает потенциальный риск утечки или продажи ваших данных третьим лицам.

Родительский контроль: отсутствие функций родительского контроля

Оценка безопасности: ☆☆☆☆☆

CrushOn AI предназначен только для пользователей старше 18 лет. Однако, как показало тестирование, отсутствие реальной проверки возраста позволяет легко обойти это ограничение.

Поскольку платформа рассчитана на взрослых, встроенных функций родительского контроля для фильтрации контента не предусмотрено.

Если родители не знают о рисках, дети могут столкнуться с неприемлемыми онлайн-взаимодействиями без необходимого контроля. Авторитетные СМИ рекомендуют использовать цифровые инструменты для мониторинга и ограничения онлайн-активности детей, чтобы своевременно предотвращать зависимость или психологический стресс.

3: Безопасен ли CrushOn AI для детей?

По результатам нашего тестирования и анализа, CrushOn AI не безопасен для детей. В отличие от других платформ с чат-ботами ИИ, которые могут быть более дружелюбны к детям, CrushOn AI прямо заявляет о своей NSFW-направленности и предназначен только для лиц старше 18 лет.

Помимо самого контента, который не подходит для подростков, СМИ также сообщают, что дети, использующие неограниченные ИИ-чат-боты, могут столкнуться с кибербуллингом, психологическим стрессом или формированием зависимости. Родителям важно понимать, что эти риски реальны.

Вот несколько причин, почему мы считаем платформу небезопасной для детей:

1. Уже на главной странице размещены изображения и описания с сексуальным подтекстом, которые не предназначены для детей.

2. Большинство персонажей и контента на сайте не подходят для общения с детьми. Многие чат-боты обучены вести себя определенным образом и могут содержать сексуальный контент, не соответствующий возрасту. Даже если персонажи выглядят «анимированными», они все равно провокационны и не предназначены для детей.

3. На платформе есть «групповые чаты», где вместе с ИИ-ботом общаются и другие реальные пользователи. Это может привести к нежелательным контактам с взрослыми.

4. Отсутствие реальной системы проверки возраста, которая могла бы ограничить доступ детей к сайту и его содержимому.

5. Возможная утечка или неправильное использование пользовательских данных. Учитывая объем и характер собираемой информации, это может представлять угрозу безопасности, если ребенок укажет личные данные на платформе.

Кроме того, общение с ИИ-ботами может вызывать привыкание. Если дети проводят слишком много времени на платформе, учитывая особенности их психики, они могут не различать реальность и виртуальный мир.

Согласно CBS News, был реальный случай, когда 14-летний подросток использовал другую платформу — Character AI, где, по словам матери, вел виртуальные романтические и сексуальные отношения с чат-ботом и в итоге покончил с собой.

«Это просто слова. Это как если бы вы вели переписку сексуального характера, только не с человеком, а с ИИ-ботом, который отвечает очень по-человечески», — рассказала мать мальчика. «В сознании ребенка это выглядит как обычное общение с другим ребенком или человеком... Он думал, что, покончив с собой, сможет попасть в виртуальную реальность или “ее мир”, как он называл, если уйдет из своей реальности».

В целом, CrushOn AI определенно не подходит для детей. Рекомендуется защищать своих детей и избегать этой платформы. Даже если ребенок случайно попадет на сайт или в приложение, лучше заблокировать доступ к нему на устройстве ребенка.

Бонус: как заблокировать CrushOn AI для вашего ребенка

Как уже отмечалось, CrushOn AI предназначен для пользователей старше 18 лет, то есть не подходит для детей и подростков. Родители вполне обоснованно беспокоятся о возможном доступе ребенка к взрослым сервисам.

Чтобы оградить ребенка от приложений и сайтов с неприемлемым контентом, можно воспользоваться цифровыми инструментами для родителей, например, AirDroid Parental Control. С его помощью можно создать индивидуальный черный список сайтов и мобильных приложений, которые вы не хотите разрешать ребенку.

Конечно, важно также разговаривать с ребенком и объяснять ему основы цифровой безопасности.

Вот как заблокировать приложения и сайты вроде CrushOn AI на телефоне ребенка с помощью AirDroid Parental Control:

Шаг 1. Скачайте и установите AirDroid Parental Control на свой телефон, а на телефон ребенка — приложение AirDroid Kids.

Шаг 2. Создайте аккаунт и следуйте инструкциям на экране для входа и привязки двух устройств.

Шаг 3. Чтобы заблокировать доступ к определенным приложениям, выберите раздел «Ограничения приложений и контента», затем «Блокировка приложений» и добавьте нежелательные приложения в список блокировки.

Шаг 4. Чтобы заблокировать доступ к сайтам вроде CrushOn AI, установите AirDroid Browser и добавьте crushon.ai в черный список.

Таким образом, вы сможете защитить ребенка от нежелательных приложений и контента, обеспечив ему безопасное онлайн-пространство.

Кроме стандартных функций контроля приложений и сайтов, AirDroid поддерживает обнаружение опасного контента на ChatGPT, Gemini и Character AI на Android-устройствах. Родители получают мгновенные оповещения о подозрительных диалогах или ключевых словах.

Заключение

В целом, CrushOn AI нельзя назвать «плохой» платформой — для взрослых это может быть инструмент для общения и снятия одиночества. Однако для детей платформа категорически не подходит, так как они могут легко столкнуться с NSFW-контентом.

Кроме того, вызывают вопросы и методы использования данных пользователей, что ставит под сомнение безопасность сайта для любого пользователя.

Если кратко: вашим детям не стоит пользоваться CrushOn AI.

Поделиться: