Anthropic cho biết đã ngăn chặn nhiều nỗ lực lợi dụng các mô hình trí tuệ nhân tạo của hãng cho hoạt động nguy hiểm như tấn công mạng, giám sát và nghiên cứu có thể dẫn tới phát triển vũ khí sinh học. Công ty đồng thời tăng cường các biện pháp bảo vệ trên những mô hình mới nhất nhằm hạn chế các truy vấn sinh học có khả năng bị sử dụng cho cả mục đích dân sự và quân sự.
Anthropic ngày 10/9 công bố báo cáo mới về các trường hợp lạm dụng AI mà hãng phát hiện trong giai đoạn từ tháng 12/2025 đến tháng 8/2026.
Theo công ty, khi các mô hình AI ngày càng mạnh, những cuộc tấn công mạng phức tạp không còn đòi hỏi trình độ kỹ thuật cao như trước và ngay cả một cá nhân cũng có thể tạo ra những mối đe dọa vốn chưa thể thực hiện cách đây một năm.
“Những trường hợp chúng tôi chia sẻ ở đây không phải là hình thức lạm dụng điển hình, mà là những ví dụ đáng chú ý và mới nhất về hoạt động đe dọa mà chúng tôi xác định được cho tới nay” - Anthropic cho biết.
Đây là báo cáo thứ ba của hãng kể từ tháng 3/2025 về tình trạng lạm dụng AI. Báo cáo đưa ra một số đoạn mã độc và câu lệnh mà Anthropic cho biết đã phát hiện, đồng thời kêu gọi chính phủ và các công ty AI khác cùng nhận diện, ngăn chặn những hành vi tương tự.
Trong số các trường hợp được phát hiện có những nhà cung cấp phần mềm gián điệp, cá nhân có động cơ chính trị và các nhóm được nhà nước hậu thuẫn sử dụng AI để phát tán tuyên truyền.
Đáng chú ý, Anthropic cho biết đã phát hiện những đối tượng tìm cách sử dụng các mô hình của hãng cho nghiên cứu có thể dẫn tới phát triển vũ khí sinh học.
Trong một trường hợp, hệ thống của Anthropic đã chặn yêu cầu nhờ Claude hỗ trợ soạn hồ sơ xin tài trợ nghiên cứu khoa học. Theo báo cáo, đề xuất nghiên cứu liên quan đến nghiên cứu tăng chức năng đối với virus chikungunya, tức can thiệp di truyền để tạo ra hoặc tăng cường một đặc tính sinh học của sinh vật. Mục tiêu của nghiên cứu là tác động tới khả năng lây truyền và né tránh miễn dịch của virus.
Anthropic cho biết đề xuất xin tài trợ nói trên hướng tới việc tăng cường các đột biến khiến virus ngày càng nguy hiểm hơn. Dù dạng nghiên cứu này “chắc chắn” có thể được sử dụng để phát triển vaccine và phương pháp điều trị tốt hơn, công ty cảnh báo nó “cũng có thể được sử dụng để khiến mầm bệnh trở nên nguy hiểm hơn”.
Anthropic cho biết phần lớn các trường hợp lạm dụng được nêu trong báo cáo không sử dụng những mô hình mới và mạnh hơn như Claude Fable hay Mythos. Trong bối cảnh các công ty liên tục ra mắt những hệ thống AI có năng lực cao hơn, nhiều chuyên gia kêu gọi chính phủ tăng cường quản lý thay vì chỉ dựa vào khả năng tự kiểm soát của ngành công nghệ.
Anthropic cũng cho biết đã phát hiện các nhóm tạo hàng trăm tài khoản mạng xã hội giả danh người dùng bình thường, sau đó đồng loạt đăng nội dung thúc đẩy cùng một quan điểm chính trị trong khoảng một tuần. Theo Anthropic, các nền tảng mạng xã hội thường chỉ phát hiện chiến dịch gây ảnh hưởng sau khi nội dung đã được phát tán, trong khi những dấu hiệu chuẩn bị có thể xuất hiện trên Claude từ trước đó.
Anthropic khẳng định đã chặn toàn bộ các hoạt động độc hại mà hãng phát hiện, sử dụng kinh nghiệm từ những trường hợp đó để tăng cường biện pháp bảo vệ và chia sẻ thông tin với cơ quan chính phủ cũng như các đối tác trong ngành.
