Sự bùng nổ của trí tuệ nhân tạo tạo sinh đang làm trầm trọng thêm tình trạng quảng cáo rác và lừa đảo trực tuyến vốn tồn tại từ lâu. Từ các quảng cáo “thuốc thần” đến video giả giọng người nổi tiếng, nhiều nội dung lừa đảo hiện được tạo ra bằng AI với tốc độ và quy mô chưa từng có.
Theo các chuyên gia, AI không tạo ra vấn đề mới mà chỉ “tăng tốc” một vấn đề cũ, giúp cả đối tượng xấu lẫn các nền tảng công nghệ mở rộng hoạt động. Báo cáo của FBI ghi nhận hơn 22.000 đơn khiếu nại liên quan đến lừa đảo sử dụng AI trong năm qua, với tổng thiệt hại vượt 893 triệu USD.
Trước làn sóng này, các tập đoàn công nghệ cũng tăng cường ứng dụng AI để đối phó. Google cho biết hệ thống AI Gemini của hãng đã chặn hơn 99% quảng cáo vi phạm trước khi tiếp cận người dùng. Trong năm 2025, công ty đã gỡ bỏ hoặc ngăn chặn hơn 8,3 tỷ quảng cáo, trong đó có 602 triệu quảng cáo liên quan trực tiếp đến lừa đảo, đồng thời đình chỉ gần 25 triệu tài khoản quảng cáo.
Google nhấn mạnh việc sử dụng AI giúp phân tích hàng trăm tỷ tín hiệu, từ hành vi tài khoản đến mô hình chiến dịch, nhằm xác định ý đồ của nhà quảng cáo. Công nghệ này không chỉ nâng cao khả năng phát hiện nội dung độc hại mà còn giảm 80% các trường hợp đình chỉ nhầm.
Tuy nhiên, cuộc chiến giữa AI lừa đảo và AI phòng vệ được dự báo sẽ tiếp diễn khi công nghệ ngày càng phát triển. Các chuyên gia nhận định, quy mô vấn đề đã vượt quá khả năng xử lý thủ công, mở ra giai đoạn “AI đối đầu AI” trong việc kiểm soát nội dung trực tuyến.
