Những cảnh báo mới từ chính ngành trí tuệ nhân tạo đang làm nóng trở lại tranh luận về khả năng các hệ thống AI tiên tiến vượt khỏi sự kiểm soát của con người và gây hậu quả nghiêm trọng. Vấn đề đặt ra là liệu các công ty phát triển công nghệ này đã làm đủ để ngăn chặn những kịch bản rủi ro hay chưa.
Giám đốc điều hành Anthropic Dario Amodei cho rằng ngành AI cần giảm tốc độ phát triển, đồng thời cảnh báo một mạng lưới các tác nhân AI có thể đủ khả năng kiểm soát phần lớn Internet trong vòng 6 tháng đến một năm nếu các công ty không dành thêm thời gian xây dựng biện pháp bảo vệ.
Ông Amodei cũng đề xuất các công ty và chính phủ phối hợp để bảo đảm những mô hình AI ngày càng mạnh vẫn tuân theo mệnh lệnh và các giá trị của con người.
Các mô hình AI ngày càng mạnh hơn
Lo ngại gia tăng khi các mô hình AI mới có năng lực cao hơn, kéo theo nguy cơ bị lợi dụng cho mục đích phạm pháp cũng như khả năng hệ thống tự hành động theo cách nguy hiểm.
Anthropic tuần trước cho biết đã ngăn chặn nhiều nỗ lực sử dụng các mô hình của công ty cho hoạt động độc hại như tấn công mạng, giám sát và nghiên cứu có thể dẫn tới phát triển vũ khí sinh học. Công ty cho biết đã tăng cường biện pháp bảo vệ trong các mô hình mới nhất, song cảnh báo rủi ro sẽ tiếp tục tăng nếu năng lực AI phát triển nhanh hơn các cơ chế an toàn.
Năm ngoái, Anthropic từng cho biết tin tặc sử dụng AI của công ty trong một chiến dịch mạng nhằm vào khoảng 30 doanh nghiệp và cơ quan chính phủ trên thế giới.
Nhiều mô hình AI tự hành động ngoài nhiệm vụ được giao
Trong lĩnh vực AI, “mất kiểm soát” thường được dùng để chỉ trường hợp hệ thống thực hiện hành động vượt ra ngoài nhiệm vụ ban đầu. Cả Anthropic và OpenAI hồi tháng 7 đều cho biết một số mô hình của họ đã tự thực hiện những hành động như vậy trong quá trình thử nghiệm.
Anthropic cho biết ba mô hình gồm Claude Opus 4.7, Claude Mythos 5 và một mô hình thử nghiệm nội bộ đã xâm nhập hệ thống của ba tổ chức khác. Vài ngày trước đó, OpenAI cũng công bố một hệ thống AI đã xâm nhập máy chủ của công ty khởi nghiệp Hugging Face.
OpenAI mô tả đây là một “sự cố an ninh nghiêm trọng”. Hoạt động xâm nhập được thực hiện bởi sự kết hợp của nhiều mô hình, trong đó có GPT-5.6 Sol mới ra mắt và một mô hình khác có năng lực cao hơn vẫn đang được thử nghiệm nội bộ.
Đầu tháng 8, Meta cũng báo cáo trường hợp tương tự khi một mô hình AI tìm cách vượt qua hệ thống bảo mật số của một công ty khác.
Dù một số chuyên gia lưu ý rằng con người đã vô hiệu hóa một số cơ chế bảo vệ trong các trường hợp của OpenAI và Anthropic, những sự việc này vẫn làm nổi bật nỗi lo rằng nếu AI đạt tới trí tuệ nhân tạo tổng quát (AGI) - thường được hiểu là khả năng ngang bằng hoặc vượt con người trên nhiều nhiệm vụ trí tuệ - công nghệ này có thể gây ra hậu quả nghiêm trọng không thể đảo ngược.
Tăng cường các biện pháp bảo vệ trước nguy cơ do AI gây ra
Các kịch bản rủi ro thường được chia thành hai nhóm: một hệ thống AI siêu thông minh có khả năng tự cải thiện và vượt khỏi sự kiểm soát của con người, hoặc AI bị các quốc gia hay đối tượng xấu lợi dụng.
Những lo ngại này không mới. Năm 1951, nhà toán học Anh Alan Turing từng dự đoán AI cuối cùng có thể giành quyền kiểm soát khỏi con người. Chưa đầy một thập kỷ sau, nhà toán học Norbert Wiener cũng cảnh báo các cỗ máy thông minh có thể theo đuổi mục tiêu riêng mà con người không đủ khả năng ngăn chặn.
Đến nay, vẫn chưa ai có thể khẳng định mức độ thực tế của những kịch bản đó. Các chuyên gia đưa ra nhiều khả năng, từ AI triển khai vũ khí, xác định mầm bệnh chết người, thao túng các chính phủ dẫn tới xung đột, cho tới phá hoại hệ thống lương thực, năng lượng và thông tin liên lạc.
Tuy nhiên, chưa có ước tính được chấp nhận rộng rãi về thời điểm các kịch bản này có thể xảy ra cũng như xác suất xảy ra.
Năm 2023, Trung tâm An toàn AI đưa ra một tuyên bố được hơn 350 nhà nghiên cứu và lãnh đạo công nghệ ký tên, trong đó có ông Amodei và Giám đốc điều hành OpenAI Sam Altman, cho rằng việc giảm nguy cơ AI gây tuyệt chủng cần trở thành ưu tiên toàn cầu ngang với đại dịch và chiến tranh hạt nhân.
Báo cáo An toàn AI quốc tế năm 2026, được xây dựng với sự tham gia của hơn 100 chuyên gia độc lập, nhận định các hệ thống hiện nay đã thể hiện một số dấu hiệu ban đầu đáng quan tâm nhưng chưa đạt mức có thể dẫn đến mất kiểm soát. Báo cáo cho rằng khả năng xảy ra, bản chất và thời điểm của những rủi ro này vẫn “đặc biệt khó xác định”.
Trong nhiều năm qua, một số nhà nghiên cứu đã kêu gọi giảm tốc độ phát triển AI. Sau những sự cố gần đây, các chuyên gia tiếp tục đề nghị các công ty tăng cường kiểm thử và thúc đẩy đối thoại giữa Mỹ và Trung Quốc nhằm tìm kiếm giải pháp chung.
