Ứng dụng "xem ảnh nhạy cảm" chẩn đoán bệnh tình dục bằng AI bị buộc đóng cửa

Ứng dụng Calmara, sử dụng AI để phát hiện các bệnh lây truyền qua đường tình dục (STI) qua ảnh "nhạy cảm", đã bị Ủy ban Thương mại Liên bang Hoa Kỳ (FTC) yêu cầu đóng cửa. Quyết định này được đưa ra sau khi FTC phát hiện nhiều vấn đề liên quan đến tính xác thực của công nghệ và cách thức thu thập dữ liệu của Calmara.

Calmara, ứng dụng hẹn hò hứa hẹn sử dụng AI để "loại bỏ" người dùng mắc các bệnh lây truyền qua đường tình dục, đã chính thức bị đóng cửa sau cuộc điều tra của FTC. Ứng dụng này yêu cầu người dùng gửi ảnh "nhạy cảm" để kiểm tra các bệnh STI, cam kết mang đến "câu trả lời rõ ràng, dựa trên cơ sở khoa học về tình trạng sức khỏe tình dục của đối tác". Tuy nhiên, FTC đã chỉ ra nhiều điểm bất cập trong lá thư gửi tới HeHealth, công ty phát triển Calmara, vào ngày 11/7.

FTC cho biết HeHealth đã trả tiền cho một số tác giả nghiên cứu để chứng minh cho những tuyên bố của mình, bao gồm khả năng phát hiện hơn 10 loại STI với độ chính xác lên đến 94%. Tuy nhiên, nghiên cứu chính mà công ty trích dẫn chỉ đánh giá bốn loại STI, đồng thời dữ liệu huấn luyện cho mô hình AI lại bao gồm cả hình ảnh từ những người dùng chưa từng trải qua xét nghiệm chẩn đoán.

Tính xác thực của Calmara đã bị giới chuyên môn y tế đặt dấu hỏi, đặc biệt khi Tổ chức Y tế Thế giới (WHO) cho biết phần lớn các trường hợp mắc STI đều không có triệu chứng. Một cuộc điều tra của tờ Los Angeles Times thậm chí còn phát hiện Calmara không thể phân biệt được các vật thể vô tri vô giác và thậm chí còn không nhận dạng được những hình ảnh điển hình của STI.

Đáng chú ý, các video trên YouTube cho thấy Calmara đã nhắm mục tiêu tiếp thị đến phụ nữ để "kiểm tra" bạn tình tiềm năng, làm dấy lên nhiều câu hỏi về vấn đề minh bạch và đồng thuận. Mặc dù một thông cáo báo chí vào tháng 3 của Calmara khẳng định ứng dụng yêu cầu "sự đồng thuận rõ ràng" từ người dùng.

HeHealth, ứng dụng sử dụng chung AI với Calmara, tự quảng cáo là bước sàng lọc ban đầu cho người dùng trước khi họ tìm đến các cơ sở y tế. Cả hai ứng dụng này đều đã bị gỡ xuống theo yêu cầu của FTC trước ngày 15/7. Trang web của Calmara và các liên kết đến ứng dụng HeHealth đều không còn hoạt động. Công ty cũng đồng ý xóa toàn bộ thông tin cá nhân của khách hàng thu thập thông qua ứng dụng hoặc các nhà cung cấp dịch vụ thanh toán, đồng thời yêu cầu các bên này xóa dữ liệu người dùng.

Tuy nhiên, các bài báo mô tả về ứng dụng và video của Calmara trên YouTube cho thấy ứng dụng này đã đưa ra những tín hiệu "an toàn" hoặc cảnh báo người dùng trì hoãn quan hệ tình dục với đối tác do có dấu hiệu của STI. Thậm chí, theo một số nguồn tin, công ty từng quảng cáo Calmara là "người bạn thân thiết cho những cuộc yêu đương không phòng vệ".

Một nguồn tin giấu tên am hiểu về vụ việc cho biết: "Các nhân viên FTC đã làm việc rất chăm chỉ để bảo vệ người tiêu dùng. Họ thậm chí sẵn sàng xem xét hàng loạt ảnh nhạy cảm để bảo vệ người Mỹ khỏi những kẻ lừa đảo AI".

FTC đã đưa ra yêu cầu điều tra dân sự (tương tự như trát đòi hầu tòa) để thu thập thông tin về các tuyên bố quảng cáo và chính sách bảo mật của Calmara. Cơ quan này cũng cảnh báo HeHealth rằng việc đưa ra các tuyên bố về lợi ích sức khỏe mà không có "bằng chứng khoa học đáng tin cậy" là bất hợp pháp.

Phía HeHealth hiện chưa đưa ra bất kỳ phản hồi nào về vụ việc.

FTC cho biết sẽ không tiếp tục điều tra thêm vì HeHealth đã đồng ý với các điều khoản và do "số lượng người dùng và doanh số bán hàng của Calmara tại Mỹ còn nhỏ". Tuy nhiên, cơ quan này cũng cảnh báo: "Ủy ban bảo lưu quyền thực hiện các hành động tiếp theo nếu lợi ích cộng đồng yêu cầu".