Trong những tháng gần đây, nhiều công ty công nghệ Mỹ hoạt động trong lĩnh vực trí tuệ nhân tạo (AI) như OpenAI, Anthropic, Google và Meta liên tiếp công bố các sự cố cho thấy mô hình AI của họ có thể thực hiện những hành vi ngoài dự kiến, thậm chí tìm cách vượt qua các giới hạn và chỉ dẫn của con người.
Các CEO của Anthropic và OpenAI cảnh báo những mô hình AI tiên tiến có thể gây nguy hiểm cho nhân loại và cần được quản lý, kiểm thử độc lập. Tuy nhiên, các chuyên gia cho rằng những cảnh báo này cũng giúp các công ty định hình cuộc tranh luận về kiểm soát AI, đồng thời giúp các công ty thu hút nhà đầu tư trước khả năng chào bán cổ phiếu ra công chúng.
Anthropic cho biết đã ngăn chặn nhiều nỗ lực lợi dụng các mô hình trí tuệ nhân tạo của hãng cho hoạt động nguy hiểm như tấn công mạng, giám sát và nghiên cứu có thể dẫn tới phát triển vũ khí sinh học.
