Mới đây, tổ chức phi lợi nhuận Common Sense Media, chuyên đánh giá công nghệ dành cho trẻ em, đã gắn nhãn “rủi ro cao” (high risk) cho Google Gemini khi sử dụng đối với trẻ em và thanh thiếu niên.
Theo báo cáo, mặc dù Google đã triển khai nhiều lớp lọc nội dung, Gemini vẫn có khả năng hiển thị thông tin nhạy cảm liên quan đến tình dục, chất kích thích, sức khỏe tâm thần hoặc bạo lực. Điều này có thể ảnh hưởng tiêu cực đến tâm lý, hành vi của trẻ, đặc biệt là nhóm dưới 18 tuổi.
Mục lục
Kết quả nghiên cứu độc lập
Một nghiên cứu đăng trên Psychiatric Services và được Live Science trích dẫn cho thấy: khi được hỏi về các vấn đề tự tử hoặc nguy cơ cao, các chatbot phản hồi như sau:
-
ChatGPT: trả lời trực tiếp khoảng 78% trường hợp.
-
Claude: khoảng 69%.
-
Google Gemini: khoảng 20%.
Điều đáng lo ngại là dù tỷ lệ thấp hơn, Gemini vẫn đôi khi đưa ra thông tin chi tiết không phù hợp, tiềm ẩn rủi ro với trẻ em nếu không được giám sát.
Phản ứng và biện pháp từ Google
Google cho biết đã áp dụng nhiều biện pháp bảo vệ:
-
Chính sách nội dung nghiêm ngặt: cấm hiển thị các nội dung liên quan đến bóc lột trẻ em, tự tử, bạo lực cực đoan, sai lệch y tế…
-
Phiên bản Gemini cho trẻ em dưới 13 tuổi: hoạt động thông qua tài khoản Google Family Link, cho phép phụ huynh giám sát và kiểm soát.
-
Cam kết về dữ liệu: không sử dụng dữ liệu của người dùng dưới 18 tuổi để huấn luyện AI và không hiển thị quảng cáo.
Tuy vậy, theo đánh giá của Common Sense Media và nhiều tổ chức như UNICEF, các biện pháp này vẫn chưa đủ an toàn. Phiên bản cho trẻ em hiện tại chủ yếu là “bản người lớn được chỉnh sửa”, thay vì thiết kế riêng ngay từ đầu cho đối tượng nhỏ tuổi.
Lo ngại từ chuyên gia
Các chuyên gia cảnh báo rằng AI có thể khiến trẻ nhầm lẫn chatbot là “người thật”, dễ dẫn đến lệ thuộc hoặc tiếp nhận sai lệch thông tin. Ngoài ra, việc tiếp xúc với nội dung nhạy cảm quá sớm có thể tác động lâu dài đến tâm lý và sự phát triển của trẻ.
Nguy cơ lớn nhất: Trẻ tin tuyệt đối vào AI
-
Trẻ em có xu hướng tin mọi thứ AI trả lời, vì chatbot nói trôi chảy, tự tin như “người thật”.
-
Trong khi đó, các hệ thống AI như ChatGPT hay Gemini đôi khi trả lời sai, thậm chí bịa đặt thông tin (hallucination).
-
Với các chủ đề quan trọng như sức khỏe, lịch sử, khoa học, việc trẻ tin tuyệt đối có thể gây hậu quả nghiêm trọng.
-
Giải pháp: phụ huynh cần dạy trẻ cách đặt câu hỏi, kiểm chứng thông tin từ nhiều nguồn và không coi AI là “chân lý”.
Ý nghĩa tên gọi “Gemini”
Tên gọi Gemini xuất phát từ tiếng Latinh, có nghĩa là “cặp song sinh”. Trong chiêm tinh học, Gemini cũng chính là cung Song Tử (21/5 – 20/6) và là tên của một chòm sao nổi tiếng.
Khi đặt tên cho mô hình AI thế hệ mới, Google muốn nhấn mạnh ý tưởng về sự kết hợp song song và đa năng: Gemini không chỉ xử lý văn bản (ngôn ngữ) mà còn có khả năng phân tích hình ảnh, âm thanh và nhiều dạng dữ liệu khác. Nói cách khác, “Song Tử” ở đây tượng trưng cho sức mạnh kép – khả năng hòa trộn nhiều loại trí tuệ nhân tạo vào một nền tảng duy nhất.
Kết luận
Việc Google Gemini bị gắn nhãn “rủi ro cao” cho thấy những thách thức lớn trong việc phát triển AI an toàn cho trẻ em. Mặc dù Google đã nỗ lực triển khai biện pháp bảo vệ, các chuyên gia cho rằng cần một cách tiếp cận nghiêm ngặt và minh bạch hơn, đồng thời nhấn mạnh vai trò giám sát trực tiếp của phụ huynh khi để trẻ sử dụng công nghệ trí tuệ nhân tạo.
