Sự bùng nổ của trí tuệ nhân tạo (AI) đang mở ra nhiều tiện ích mới, nhưng đồng thời cũng kéo theo những rủi ro khó lường như công nghệ deepfake khi có thể tạo ra hình ảnh, giọng nói và video giả mạo với độ chân thực cao, đánh lừa người dùng chỉ bằng vài thao tác đơn giản.
Ranh giới thật giả bị xóa nhòa, người dùng trở thành mục tiêu của deepfake
Theo Báo cáo nghiên cứu, khảo sát an ninh mạng năm 2025 khu vực người dùng cá nhân do Hiệp hội An ninh mạng Quốc gia thực hiện, cứ khoảng 555 người thì có 1 người là nạn nhân lừa đảo.
Chuyên gia Vũ Duy Hưng - Hưng AI Creative nhận định, deepfake đang trở thành một trong những thách thức nghiêm trọng nhất của kỷ nguyên trí tuệ nhân tạo, khi ranh giới giữa thật và giả ngày càng bị xóa nhòa. Từ hình ảnh, giọng nói đến video, các công cụ AI hiện nay cho phép tạo ra nội dung giả mạo với độ chân thực cao, dễ tiếp cận và rất khó phân biệt bằng mắt thường.
Theo Hiệp hội An ninh mạng quốc gia, chỉ riêng quý I/2025, tổng thiệt hại toàn cầu do lừa đảo deepfake đã lên tới 200 triệu USD, với tần suất tấn công cứ 5 phút xảy ra một vụ.
Thực tế ghi nhận cho thấy, các chiêu trò lừa đảo bằng deepfake không còn dừng ở mức cảnh báo mà đã xuất hiện với những kịch bản rất cụ thể, đánh trúng tâm lý nạn nhân.
Chị Nguyễn Thu Lam (32 tuổi) - nhân viên kế toán của một công ty tại Hà Nội kể lại, vào cuối tháng 11.2025, chị nhận được một cuộc gọi video qua ứng dụng Telegram từ tài khoản có ảnh đại diện và tên giống hệt một lãnh đạo của công ty. Trong cuộc gọi, người này xuất hiện với khuôn mặt và giọng nói rất giống sếp của mình, yêu cầu chị chuyển gấp 370 triệu đồng để xử lý hợp đồng với đối tác nước ngoài.
“Anh ấy nói nhanh, tỏ ra rất sốt ruột và yêu cầu tôi không được làm phiền các bộ phận khác. Hình ảnh và giọng nói giống đến mức tôi không nghi ngờ gì”, chị Hà nhớ lại. Chỉ đến khi chuyển tiền xong và gọi lại bằng số điện thoại cá nhân của giám đốc, chị mới bàng hoàng nhận ra mình đã bị lừa.
Một trường hợp khác xảy ra tại Bắc Ninh. Ông Tạ Quang Hanh (45 tuổi) - chủ một cửa hàng kinh doanh cho biết, đã nhận được cuộc gọi từ số lạ với giọng nói giống hệt con trai đang du học tại Trung Quốc. Người này nói đang gặp tai nạn, cần chuyển gấp 150 triệu đồng để đóng viện phí.
“Giọng nói run run, gọi đúng cách xưng hô trong gia đình nên tôi không chút nghi ngờ. Tôi chỉ kịp chuyển tiền rồi mới gọi lại cho con qua video thì mới biết không có chuyện gì xảy ra”, ông Hanh kể lại.
Theo chuyên gia AI Vũ Thanh Thắng - Chủ tịch đơn vị phát triển AIZ, các vụ lừa đảo dùng hình ảnh, giọng nói, video giả mạo có thể là biểu hiện của deepfake. Công nghệ này tái tạo con người với độ chân thực cao, khiến nạn nhân khó nhận biết. Khi kết hợp các kịch bản gây áp lực thời gian, giả danh người quen hoặc người có thẩm quyền, deepfake bị lợi dụng để biến thành công cụ lừa đảo đặc biệt nguy hiểm, có thể qua mặt cả những người am hiểu công nghệ.
Điểm chung của những vụ việc này là kẻ gian thường thu thập dữ liệu hình ảnh, giọng nói từ mạng xã hội, sau đó sử dụng công cụ AI để dựng kịch bản lừa đảo có tính cá nhân hóa cao.
Deepfake còn bị lợi dụng tạo video, hình ảnh câu view, bán hàng, giả mạo người nổi tiếng, cắt ghép phát ngôn sai lệch để trục lợi. Thực tế cho thấy, deepfake đã trở thành mối nguy hiện hữu, len lỏi vào đời sống với mức độ tinh vi ngày càng tăng.
Tăng kiểm soát với các nền tảng công nghệ đứng sau sản phẩm deepfake
Ông Trần Văn Sơn - Phó Viện trưởng Viện Công nghệ số và Chuyển đổi số quốc gia (Bộ Khoa học và Công nghệ) cho biết, phần lớn các hệ thống AI tạo sinh hiện nay được xếp vào nhóm rủi ro trung bình do có khả năng tạo ra nội dung gây nhầm lẫn hoặc tác động tiêu cực đến người sử dụng. Đây cũng chính là nền tảng công nghệ đứng sau các sản phẩm deepfake, khi cho phép tạo dựng hình ảnh, âm thanh và video giả mạo với độ chân thực cao, làm gia tăng nguy cơ bị lợi dụng cho các hành vi lừa đảo và vi phạm pháp luật.
Luật AI (Luật Trí tuệ nhân tạo có hiệu lực từ ngày 1.3.2026) quy định rõ trách nhiệm của các chủ thể liên quan trong việc phát hiện sự cố, áp dụng biện pháp kỹ thuật để khắc phục, thậm chí tạm dừng hoặc thu hồi hệ thống khi cần thiết. Nhà cung cấp và đơn vị triển khai cũng phải giải trình về mục đích sử dụng, nguyên lý hoạt động và các biện pháp quản lý rủi ro trước cơ quan có thẩm quyền.
Đáng chú ý, luật nghiêm cấm hành vi sử dụng công nghệ deepfake để lừa đảo hoặc vi phạm pháp luật. Các hệ thống AI tạo sinh bắt buộc phải dán nhãn đối với nội dung do AI tạo ra hoặc chỉnh sửa, đồng thời áp dụng giải pháp nhận dạng nhằm phục vụ công tác quản lý và truy vết. Trong trường hợp không đáp ứng yêu cầu kiểm soát rủi ro, hệ thống có thể bị xếp vào nhóm rủi ro cao và chịu sự giám sát chặt chẽ hơn.
Ông Trần Văn Sơn nhấn mạnh, với các hành vi vi phạm nghiêm trọng như sử dụng deepfake để xâm hại trẻ em hoặc gây mất trật tự xã hội, cá nhân và tổ chức liên quan không chỉ bị xử phạt hành chính mà còn có thể bị truy cứu trách nhiệm hình sự và phải bồi thường thiệt hại theo quy định của pháp luật.
Dưới góc độ pháp lý, Luật sư Trần Thế Anh - Phó Giám đốc Công ty luật TNHH XTVN cho biết, dù chưa có tội danh riêng cho deepfake, nhưng các hành vi lợi dụng công nghệ này vẫn có thể bị xử lý theo quy định hiện hành.
Hành vi dùng deepfake để chiếm đoạt tài sản có thể bị xử lý về tội lừa đảo chiếm đoạt tài sản theo Điều 174 Bộ luật Hình sự năm 2015 (sửa đổi năm 2017), với mức phạt cao nhất đến tù chung thân. Trường hợp phát tán nội dung giả mạo, gây ảnh hưởng đến tổ chức, cá nhân có thể bị xử lý theo Điều 288 hoặc Điều 155 Bộ luật Hình sự.
Nếu chưa đến mức truy cứu trách nhiệm hình sự, người vi phạm có thể bị xử phạt hành chính theo Nghị định 15/2020/NĐ-CP (sửa đổi, bổ sung năm 2022) với mức phạt từ 10 triệu đồng đến 20 triệu đồng đối với hành vi cung cấp, chia sẻ thông tin sai sự thật trên mạng.
Luật sư khuyến nghị người dân cần nâng cao cảnh giác trước các nội dung bất thường trên không gian mạng, đặc biệt là các cuộc gọi hoặc video yêu cầu chuyển tiền gấp. Việc xác minh thông tin qua nhiều kênh độc lập là cần thiết để tránh rơi vào bẫy lừa đảo.
Bên cạnh đó, người dùng không nên chia sẻ tùy tiện hình ảnh, video cá nhân lên mạng xã hội, bởi đây có thể trở thành dữ liệu đầu vào để các đối tượng xấu tạo ra sản phẩm deepfake phục vụ mục đích lừa đảo. Khi phát hiện dấu hiệu bất thường, cần nhanh chóng báo cho cơ quan chức năng để được hỗ trợ xử lý.
