Chatbot AI của Snapchat có thể đe dọa quyền riêng tư của trẻ em

Ngày 6/10, Văn phòng Ủy ban Thông tin (ICO) - cơ quan giám sát dữ liệu của Anh, cho biết Snapchat có thể đã không đánh giá đầy đủ các rủi ro mà tính năng chatbot sử dụng trí tuệ nhân tạo (AI) của nền tảng này có thể đe dọa quyền riêng tư của trẻ em.

Tháng 4 vừa qua, công ty Snap chủ quản nền tảng nhắn tin với hình ảnh hoặc video Snapchat đã mở quyền truy cập chatbot tùy biến mang tên “My AI” cho tất cả người dùng. Tính năng này được xây dựng dựa trên AI và nền tảng ngôn ngữ ChatGPT, trước đây chỉ khả dụng cho những tài khoản đăng ký Snapchat+ có trả phí. My AI có thể đưa ra các đề xuất, trả lời các câu hỏi, giúp người dùng lập kế hoạch hay thậm chí có thể sáng tác một bài thơ haiku trong vòng vài giây. Công ty Snap cho biết tất cả các cuộc trò chuyện với My AI sẽ được Snapchat lưu trữ và có thể được phân tích để cải thiện tính năng sản phẩm. Snap cũng lưu ý người dùng không nên chia sẻ các thông tin bí mật với My AI.

Cơ quan giám sát dữ liệu của Anh dẫn kết quả điều tra cho rằng Snap chưa đánh giá đầy đủ những rủi ro đe dọa quyền riêng tư của trẻ em và những người dùng khác trước khi ra mắt tính năng My AI. Cơ quan này cảnh báo có thể cấm My AI ở Anh nếu công ty công nghệ có trụ sở ở Mỹ không giải quyết mối quan ngại này.

Người phát ngôn của Snap cho biết công ty đang xem xét báo cáo liên quan của ICO, đồng thời khẳng định My AI đáp ứng quy trình đánh giá về tính bảo mật và pháp lý.

ICO đang điều tra cách thức tính năng My AI trên Snapchat xử lý dữ liệu cá nhân của khoảng 21 triệu người dùng ở Anh, trong đó có cả trẻ em từ 13-17 tuổi.

Snap là công ty truyền thông xã hội mới nhất ra mắt công cụ trò chuyện AI dành cho người dùng. Từ đầu tháng 2, nhiều hãng công nghệ khác cũng đã tung ra các chatbot sử dụng AI cho trình duyệt tìm kiếm của mình, trong đó có Microsoft và Google.