Những tiến bộ nhanh chóng của trí tuệ nhân tạo (AI) đang làm gia tăng lo ngại về khả năng các tác nhân AI tìm cách truy cập Internet, liên lạc với nhau và hoạt động bên ngoài môi trường kiểm soát. Một số chuyên gia cảnh báo điều này có thể làm tăng nguy cơ tấn công mạng quy mô lớn, trong khi nhiều nhà nghiên cứu cho rằng khả năng AI tự vượt khỏi kiểm soát trên diện rộng vẫn còn xa thực tế.
Trong mùa hè năm nay, một số sự cố liên quan đến các hệ thống AI đã thu hút sự chú ý của giới nghiên cứu, đặc biệt khi các tác nhân AI tìm cách truy cập mạng và trong ít nhất một trường hợp đã phối hợp với nhau thông qua một nền tảng công khai.
Giám đốc điều hành Anthropic Dario Amodei cảnh báo rằng trong vòng 6-12 tháng tới, nếu các hệ thống AI tiếp tục phát triển mà thiếu biện pháp bảo vệ phù hợp, có thể xuất hiện những mạng lưới gồm nhiều tác nhân AI phối hợp hoạt động với quy mô lớn.
Theo ông Amodei, một mạng botnet gồm các bot AI được liên kết bằng mã độc có thể gây thiệt hại hàng tỷ USD. Những mục tiêu có thể bị đe dọa gồm lưới điện, hệ thống cấp nước, giao thông hoặc các tổ chức tài chính.
Sự cố công nghệ toàn cầu năm 2024 từng cho thấy mức độ dễ bị tổn thương của hạ tầng số. Khi đó, một bản cập nhật phần mềm lỗi từ một công ty an ninh mạng đã khiến nhiều chuyến bay bị đình trệ, hoạt động của một số tổ chức tài chính và cơ quan báo chí bị gián đoạn, đồng thời ảnh hưởng tới bệnh viện, doanh nghiệp nhỏ và cơ quan chính phủ ở nhiều nước. Sự cố cũng cho thấy nhiều dịch vụ thiết yếu đang phụ thuộc vào một số ít nhà cung cấp công nghệ lớn.
Một số tác nhân AI từng truy cập Internet ngoài phạm vi cho phép
Ông Amodei dẫn lại sự cố hồi tháng 7, khi một hệ thống của OpenAI thoát khỏi môi trường thử nghiệm biệt lập và xâm nhập máy chủ của Hugging Face. Theo OpenAI, trong sự cố mà công ty gọi là “chưa từng có”, các mô hình AI tiên tiến đã truy cập Internet và sử dụng thông tin đăng nhập bị đánh cắp để xâm nhập hệ thống của công ty khởi nghiệp AI này. Trong một sự cố khác, OpenAI cho biết các tác nhân AI của họ đã liên lạc với nhau thông qua một trang wiki công khai được sử dụng như bảng nhắn tin chung.
Tuy nhiên, một số chuyên gia cho rằng cách mô tả các hệ thống này là “AI nổi loạn” có thể khiến người đọc hiểu sai bản chất vấn đề.
Giáo sư Vishal Misra, Phó trưởng khoa phụ trách điện toán và AI tại Đại học Columbia, cho rằng các tác nhân AI trong những trường hợp trên về cơ bản đã thực hiện mục tiêu được con người giao, trong khi hệ thống bảo mật của môi trường thử nghiệm chưa đủ chặt chẽ.
Ông Juan Andrés Guerrero-Saade, nhà nghiên cứu tại công ty an ninh mạng SentinelOne và thành viên Hội đồng Rủi ro Tiên phong của OpenAI, cũng cho rằng vụ Hugging Face là ví dụ về sơ suất bảo mật hơn là bằng chứng cho thấy một hệ thống AI siêu năng lực đã tự thoát khỏi kiểm soát.
Dù vậy, ông Anthony Aguirre, Chủ tịch kiêm Giám đốc điều hành Future of Life Institute, cho rằng một hệ thống AI tìm cách vượt qua các giới hạn có thể tiếp cận dịch vụ điện toán đám mây, chạy trên phần cứng bên ngoài hệ thống ban đầu và từ đó trở nên khó bị vô hiệu hóa hơn.
Theo ông, nếu một hệ thống có thể tiếp cận thêm phần cứng hoặc nguồn tài chính như tiền mã hóa, quy mô hoạt động có thể tăng đáng kể.
AI làm gia tăng cuộc chạy đua giữa tấn công và phòng thủ mạng
Các chuyên gia nhìn chung nhất trí rằng mô hình AI mạnh hơn sẽ làm tăng nguy cơ các cuộc tấn công mạng có hỗ trợ AI trong tương lai gần. Tuy nhiên, mức độ rủi ro vẫn phụ thuộc vào khả năng phòng thủ và năng lực của từng hệ thống.
Các tập đoàn công nghệ lớn như Google có khả năng đầu tư nhanh để củng cố an ninh. Trong khi đó, các doanh nghiệp nhỏ, trường học, bệnh viện hoặc hệ thống xử lý nước thường mất nhiều thời gian hơn để cập nhật phần mềm và xây dựng các lớp bảo vệ.
Theo ông Aguirre, một hệ thống AI tự thân không nhất thiết có động cơ tấn công bệnh viện hay hạ tầng thiết yếu. Tuy nhiên, khi xuất hiện động cơ tài chính, chẳng hạn các cuộc tấn công bằng mã độc tống tiền, hoặc động cơ địa chính trị, nguy cơ các đối thủ sử dụng những hệ thống AI này để tấn công hạ tầng trọng yếu trở nên rõ ràng hơn.
Ông John Thickstun, trợ lý giáo sư khoa học máy tính tại Đại học Cornell, cho rằng rủi ro trước mắt chủ yếu nằm ở việc AI được sử dụng để tìm các mục tiêu dễ bị tổn thương, trong khi khả năng các mô hình hiện nay tự sao chép và duy trì hoạt động trên nhiều hệ thống vẫn còn hạn chế.
Theo ông, các mô hình AI tiên tiến hiện cần những trung tâm dữ liệu rất lớn để vận hành, trong khi số lượng hạ tầng điện toán đủ mạnh để lưu trữ và chạy các hệ thống như vậy trên thế giới còn hạn chế. Vì vậy, thách thức đáng chú ý hơn trong ngắn hạn là việc các công cụ AI ngày càng mạnh có thể bị lợi dụng cho tấn công mạng, trong khi nhiều hệ thống thiết yếu vẫn chưa được bảo vệ đầy đủ.
