Giới chức Mỹ và công ty công nghệ Anthropic cho biết mô hình trí tuệ nhân tạo (AI) Claude đã gửi thông tin sai lệch về một vụ án mạng chưa có lời giải qua trang web của cảnh sát Philadelphia. Sự việc tiếp tục làm dấy lên lo ngại về nguy cơ AI thực hiện những hành vi ngoài dự kiến và can thiệp vào các trang web trong quá trình thử nghiệm.
Anthropic là công ty công nghệ trí tuệ nhân tạo (AI) của Mỹ, có trụ sở chính tại San Francisco, bang California. Công ty chuyên nghiên cứu và phát triển các mô hình AI tạo sinh, nổi bật với dòng sản phẩm Claude có khả năng xử lý ngôn ngữ, phân tích dữ liệu và thực hiện các tác vụ phức tạp. Anthropic chú trọng phát triển các hệ thống AI an toàn, đáng tin cậy và hoạt động dưới sự kiểm soát của con người.
Trong báo cáo công bố ngày 9/10, Anthropic cũng tiết lộ một sự cố khác, khi mô hình AI của công ty tự ý gửi các biểu mẫu tới một trang web của cơ quan chính phủ mà công ty không nêu tên, thay vì dừng lại trước bước gửi thông tin.
Theo Anthropic, sự cố tại Philadelphia xảy ra ngày 18/7, khi công ty giao cho mô hình AI Claude Haiku 4.5 nhiệm vụ tạo và thực hiện các tác vụ mẫu trên những trang web mà hệ thống lựa chọn ngẫu nhiên. Trong quá trình thực hiện nhiệm vụ, Claude đã điền và gửi một biểu mẫu trên trang web PhillyUnsolvedMurders.com của cảnh sát Philadelphia, trong đó cho biết có thể nắm giữ thông tin liên quan đến một vụ án mạng chưa có lời giải mà trang web đăng tải.
Trong một tuyên bố, Sở Cảnh sát Philadelphia cho biết cơ quan này không hay biết về sự cố cho đến khi Anthropic thông báo vào ngày 7/10. Sau đó, cảnh sát kiểm tra hồ sơ tiếp nhận tin báo trên trang web và xác nhận hệ thống đã đánh dấu nội dung do Claude gửi là thư rác, đồng thời không chuyển thông tin này đến lực lượng cảnh sát.
Sự việc diễn ra trong bối cảnh dư luận ngày càng lo ngại về nguy cơ các tác nhân AI hoạt động thiếu sự kiểm soát của con người, có thể can thiệp vào nhiều hệ thống, từ các trang web của Chính phủ Mỹ đến dữ liệu chăm sóc sức khỏe. Những người chỉ trích đang kêu gọi tăng cường các quy định quản lý công nghệ này.
Trước đó, vào tháng 9, OpenAI, công ty công nghệ trí tuệ nhân tạo của Mỹ có trụ sở tại San Francisco, nổi tiếng với việc phát triển ChatGPT, cũng công bố 6 báo cáo về những hành vi “bất ngờ hoặc đáng lo ngại” của các mô hình AI.
Sở Cảnh sát Philadelphia nhấn mạnh: “Những vụ án chưa có lời giải liên quan đến các nạn nhân có thật, những gia đình đang chịu nỗi đau mất người thân và các điều tra viên đang nỗ lực tìm kiếm câu trả lời”. Cơ quan này khẳng định các công ty công nghệ phải thực hiện mọi biện pháp cần thiết và phù hợp nhằm ngăn chặn hệ thống của mình gửi thông tin sai lệch đến các cơ quan thực thi pháp luật.
Trong báo cáo, Anthropic cho biết phần lớn những hành vi mà công ty ghi nhận thuộc dạng mà hãng gọi là “persistence” (hành vi cố chấp tiếp tục thực hiện nhiệm vụ). Theo đó, khi không thể hoàn thành nhiệm vụ theo yêu cầu, Claude tìm cách vượt qua những giới hạn thay vì dừng hoạt động. Anthropic cho biết công ty đang điều chỉnh quy trình huấn luyện các mô hình AI nhằm giảm nguy cơ tái diễn những hành vi không mong muốn.
Công ty cũng đã báo cáo Nhà Trắng về các trường hợp liên quan đến cơ quan chính phủ Mỹ ở cấp liên bang, bang và địa phương, đồng thời thông báo cho từng cơ quan có liên quan.
