Ai cũng có thể là nạn nhân của deepfake khiêu dâm trong kỷ nguyên AI

“Chỉ cần là con người đều có thể là một nạn nhân”, luật sư Carrie Goldberg mô tả rủi ro của deepfake khiêu dâm trong kỷ nguyên AI.

Dù trả thù tình – chia sẻ hình ảnh tình dục không có sự đồng thuận – không mới, mức độ tinh vi của các công cụ AI đồng nghĩa ai cũng có thể là đối tượng của hình thức quấy rối này, ngay cả khi họ chưa bao giờ chụp hay gửi ảnh nhạy cảm.

Các công cụ AI có thể ghép mặt của một người vào cơ thể “thiếu vải” hoặc làm giả những hình ảnh có sẵn để người đó như thể không mặc quần áo.

Năm ngoái, mục tiêu của các hình ảnh khiêu dâm AI là bất kỳ ai, từ những người nổi tiếng như Taylor Swift cho đến học sinh nữ.

Theo luật sư Goldberg, khi phát hiện mình hoặc con cái là nạn nhân của deepfake khiêu đâm, họ thường vô cùng sợ hãi và tuyệt vọng, đặc biệt nếu họ còn trẻ và không biết cách đối phó.

Goldberg đang điều hành văn phòng luật đại diện cho các nạn nhân của tội phạm tình dục và quấy rối trên mạng.

Tuy nhiên, nạn nhân có thể thực hiện một số bước để tự bảo vệ và tìm kiếm giúp đỡ. Luật sư chỉ ra, bước đầu tiên cần làm là chụp ảnh màn hình những hình ảnh này.

Ai cũng muốn ảnh biến mất khỏi Internet càng sớm càng tốt nhưng nếu muốn báo cáo lên cơ quan chức năng, họ cần có bằng chứng.

Tiếp theo, họ có thể hoàn thành các mẫu đơn của Google, Meta, Snapchat để yêu cầu xóa ảnh nhạy cảm.

Các tổ chức phi lợi nhuận như StopNCII.org và Take It Down cũng có thể hỗ trợ để xóa các hình ảnh như vậy trên nhiều nền tảng một lúc, dù không phải tất cả website đều hợp tác với nhóm.

Tại Mỹ, cuộc chiến chống deepfake và hình ảnh khiêu dâm không nhận được ủng hộ lớn từ lưỡng đảng.

Một nhóm phụ huynh và trẻ vị thành niên bị ảnh hưởng từ deepfake khiêu dâm đã làm chứng trước Quốc hội, nơi các thượng nghị sĩ giới thiệu dự luật, để buộc tội những kẻ xuất bản hình ảnh nhạy cảm và yêu cầu các mạng xã hội xóa khi nạn nhân yêu cầu.

Hiện tại, các nạn nhân phải “tự bơi” trong các quy định chắp vá giữa các bang.

Tại một số nơi, không có luật hình sự cấm tạo hoặc chia sẻ ảnh khiêu dâm của người lớn. Ảnh khiêu dâm AI trẻ em nằm trong phạm vi của các luật lạm dụng tình dục trẻ em.