#Anthropic

Các CEO của Anthropic và OpenAI cảnh báo những mô hình AI tiên tiến có thể gây nguy hiểm cho nhân loại và cần được quản lý, kiểm thử độc lập. Tuy nhiên, các chuyên gia cho rằng những cảnh báo này cũng giúp các công ty định hình cuộc tranh luận về kiểm soát AI, đồng thời giúp các công ty thu hút nhà đầu tư trước khả năng chào bán cổ phiếu ra công chúng.

Anthropic cho biết đã ngăn chặn nhiều nỗ lực lợi dụng các mô hình trí tuệ nhân tạo của hãng cho hoạt động nguy hiểm như tấn công mạng, giám sát và nghiên cứu có thể dẫn tới phát triển vũ khí sinh học.

Claude Opus 4, mô hình AI mới của Anthropic, bị phát hiện nhiều lần tìm cách tống tiền kỹ sư trong thử nghiệm, nếu biết mình sắp bị thay thế bởi AI khác.

Claude's Max, một gói thuê bao mới cho chatbot Claude được công bố với giá 100 USD hoặc 200 USD/tháng. Để so sánh, ChatGPT Pro của OpenAI có mức giá cố định là 200 USD/tháng.

Công ty đứng sau mô hình Claude cho rằng chuỗi suy nghĩ của AI ngày càng kém minh bạch hơn và có thể dễ dàng đánh lừa người dùng.

Nghiên cứu mới cho thấy một khi AI tạo sinh đã thực hiện "hành vi lừa đảo", sẽ rất khó điều chỉnh hoặc đào tạo lại mô hình đó.