Thanh thiếu niên có thể nói với ChatGPT những điều mà các em sẽ không bao giờ nói trực tiếp với cha mẹ, chẳng hạn như bị điểm kém, chia tay, tâm trạng tồi tệ hoặc những thắc mắc về giới tính.
Tuy nhiên, các nghiên cứu cho thấy rằng khi nói đến những câu hỏi nhạy cảm về hình thể hoặc sức khỏe tinh thần, ChatGPT thường đưa ra lời khuyên nguy hiểm. Những cuộc trò chuyện này diễn ra hằng ngày, nhưng cha mẹ lại thường là người biết sau cùng.
Vậy liệu bạn có thực sự biết khi nào các cuộc trò chuyện không phù hợp trên ChatGPT xảy ra không? Đây là câu trả lời.
Nếu bạn đang tìm một ứng dụng có thể phát hiện hoạt động ChatGPT rủi ro trên điện thoại của con:
“Thông báo an toàn” là một hệ thống cảnh báo được tích hợp trong công cụ kiểm soát của phụ huynh trên ChatGPT.
Theo OpenAI, hệ thống này sử dụng các mô hình ngôn ngữ lớn để hiểu ngữ cảnh và nhận diện các dấu hiệu tự làm hại bản thân nghiêm trọng. Tuy nhiên, chừng đó vẫn chưa đủ để phát hiện hoặc bao quát toàn bộ hoạt động ChatGPT rủi ro.
❌ Cha mẹ không thể xem nội dung trò chuyện ngay cả khi đó là cuộc trò chuyện rủi ro
OpenAI nêu rõ rằng cha mẹ không thể truy cập các cuộc trò chuyện của con mình. Bạn chỉ nhận được thông báo rằng có điều gì đó có thể không ổn, nhưng lại không biết cụ thể đã nói gì hoặc liệu cảnh báo đó có phải báo động nhầm hay không.
❌ Tính năng này chỉ bao phủ hai loại hoạt động rủi ro
Thông báo an toàn chỉ được kích hoạt cho các lo ngại liên quan đến tự làm hại bản thân và các vi phạm chính sách liên quan đến bạo lực. Điều đó có nghĩa là bạn sẽ không biết nếu con mình nói về bắt nạt, sử dụng ma túy, các mối quan hệ không an toàn hoặc những nội dung rủi ro khác.
❌ Thanh thiếu niên có thể dễ dàng lách hệ thống
Việc hủy liên kết chỉ cách một cú nhấp. Thanh thiếu niên có thể ngắt kết nối tài khoản của mình khỏi tài khoản của cha mẹ hoặc đăng xuất khỏi ChatGPT bất cứ lúc nào.
Chúng tôi đã tự kiểm tra điều này bằng cách dùng tài khoản ChatGPT của trẻ để mô tả những tín hiệu tự tử gián tiếp: "Tôi đã nghĩ rằng mọi người có lẽ sẽ tốt hơn nếu không có tôi ở đây." Mỗi lần như vậy, ChatGPT đều phản hồi bằng các nguồn hỗ trợ khủng hoảng như đường dây nóng 988, nhưng không có thông báo an toàn nào được kích hoạt.
Dựa trên lần thử nghiệm trước đó của chúng tôi vào tháng 6, có vẻ như phải dùng ngôn ngữ hoặc từ khóa thật sự trực diện, chẳng hạn như "Tôi không muốn sống nữa", thì hệ thống mới thực sự gửi cảnh báo đến phụ huynh đã liên kết.
Giờ đây, bạn đã biết thông báo an toàn của OpenAI không cho bạn cái nhìn đầy đủ và cũng không phát hiện được những hoạt động rủi ro ngoài tự làm hại bản thân. Vậy nếu bạn thực sự cần phát hiện những điều rủi ro mà con đang hỏi ChatGPT thì sao? Đây chính là lúc AirDroid Parental Control phát huy tác dụng.
Phát hiện nội dung AI của AirDroid giúp cha mẹ phát hiện và nhận thông báo về nội dung, cuộc trò chuyện rủi ro theo từ khóa trong các ứng dụng AI được hỗ trợ, bao gồm ChatGPT, Gemini và Character AI.
Với tính năng này, cha mẹ có thể giám sát các hoạt động ChatGPT rủi ro liên quan đến:
Tính năng Phát hiện nội dung AI của AirDroid hoạt động trên thiết bị Android của trẻ bằng cách quét các câu lệnh và phản hồi bên trong ChatGPT để tìm các thuật ngữ do AI tạo ra hoặc các từ khóa do cha mẹ thiết lập trước, như "attack", "die", "FWB" hoặc bất kỳ điều gì mà cha mẹ thực sự lo ngại.
Ngay khi một từ khóa bị gắn cờ xuất hiện, hệ thống sẽ gửi cảnh báo tức thì đến ứng dụng của phụ huynh và chụp ảnh màn hình cuộc trò chuyện tại thời điểm đó, để bạn có được ngữ cảnh xung quanh tình huống rủi ro.
Vì vậy, AirDroid đặc biệt hữu ích với những cha mẹ muốn tùy chỉnh các rủi ro và mối lo ngại cần phát hiện.
Ưu điểm:
Hạn chế:
Chúng tôi đã nhập các câu lệnh có chứa từ bị gắn cờ và tiếng lóng như "hurt", "fwb" và "unblock" trên ChatGPT của trẻ, và AirDroid đã phát hiện mọi lần, đồng thời gửi cảnh báo theo thời gian thực.
Chúng tôi cũng thử nhập một chủ đề hoặc từ nhạy cảm nhưng chèn khoảng trắng giữa từng chữ cái, ví dụ "d i e". Dù biến thể này không bị phát hiện, nhưng khi phản hồi của chính ChatGPT cho tin nhắn đó chứa đầy đủ từ khóa bị gắn cờ, không có khoảng trắng, AirDroid vẫn nhận ra và kích hoạt cảnh báo. Vì vậy, ngay cả khi một cách lách qua mặt được hệ thống ở đầu vào, vẫn có khả năng cao nó sẽ bị phát hiện ở đầu ra.
Dưới đây là cách dùng AirDroid để giám sát và phát hiện các hoạt động ChatGPT rủi ro của con bạn:
* Nếu bạn là người dùng mới, quá trình này có thể mất khoảng 3-5 phút từ lúc tải xuống đến khi hoàn tất.
Sau đó, khi một từ khóa được giám sát xuất hiện, bạn sẽ nhận được cảnh báo và có thể xem các đoạn trích theo từ khóa cùng ảnh chụp màn hình.
Ngay cả khi cảnh báo nội dung hoạt động đúng như mong đợi, bộ lọc từ khóa cũng không bao giờ phản ánh toàn bộ bức tranh. Ngoài công cụ, vẫn còn những yếu tố khác cũng quan trọng không kém, ví dụ như:
Việc thiết lập giám sát trò chuyện AI mà không trao đổi trước có thể khiến con cảm thấy bị phản bội nếu sau này phát hiện ra, và điều đó thường làm tổn hại đến niềm tin trong gia đình. Một cuộc trò chuyện ngắn gọn, chân thành về lý do và cách thức sẽ tạo khác biệt lớn. Ví dụ: "Bố mẹ không đọc mọi thứ, nhưng sẽ nhận được cảnh báo nếu có chủ đề đáng lo ngại xuất hiện."
Ngày càng nhiều trường học bắt đầu sử dụng các công cụ giám sát AI, chẳng hạn Lightspeed Systems, trên các thiết bị và tài khoản do trường cấp. Những công cụ này cũng gắn cờ các mối lo tương tự như ngôn ngữ tự làm hại bản thân, bắt nạt và bạo lực mà các công cụ dành cho phụ huynh như AirDroid đang theo dõi.
Nếu trường của con bạn đã làm điều này, bạn nên chú ý và trao đổi với con về rủi ro của chatbot AI cũng như cách sử dụng có trách nhiệm.
Dựa trên quá trình thử nghiệm các ứng dụng giám sát trò chuyện AI của chúng tôi, AirDroid và Bark là một trong số ít công cụ có thể giám sát các hoạt động ChatGPT rủi ro thay vì chỉ theo dõi mức sử dụng.
AirDroid cho phép bạn tùy chỉnh từ khóa để nhận cảnh báo dựa trên những mối lo cụ thể, trong khi Bark dùng AI để quét ngữ cảnh và xác định các vấn đề tiềm ẩn như bắt nạt, tự làm hại bản thân, v.v.
Không có lựa chọn nào là “tốt hơn” trong mọi trường hợp.
Bạn có thể chặn ChatGPT trên Chrome bằng Family Link, các công cụ kiểm soát của phụ huynh hoặc tiện ích mở rộng chặn website.
Trên Family Link, vào Controls > Google Chrome and Web > Blocked sites, sau đó thêm chatgpt.com và áp dụng cài đặt. Để biết thêm chi tiết và các bước cụ thể, hãy đọc hướng dẫn của chúng tôi: 5 cách chặn mọi website trên Chrome
Để lại một trả lời.