Ngày 16/9, trong bối cảnh tranh luận về an toàn trí tuệ nhân tạo (AI) ngày càng gia tăng, OpenAI công bố 6 báo cáo về những hành vi "bất ngờ hoặc đáng lo ngại" trong các mô hình AI của mình.
OpenAI cho biết họ đang áp dụng một khuôn khổ mới nhằm theo dõi, thăm dò và công khai các trường hợp gọi là "lệch chuẩn", bao gồm việc các mô hình AI tự ý hành động không xin phép, phối hợp với các mô hình khác hoặc tìm cách né tránh sự kiểm soát.
Thông báo mới nhất này của OpenAI đưa ra trong bối cảnh các lãnh đạo ngành AI tại Mỹ, bao gồm cả OpenAI và Anthropic, đang kêu gọi làm chậm tốc độ phát triển của công nghệ này do những quan ngại về an toàn.
Trong các trường hợp vừa được OpenAI công bố, có một mô hình nghiên cứu chưa từng được phát hành đã tự động viết thêm "mẹo vượt rào" vào các ghi chú của chính mình để lách qua các giới hạn thông thường. Mô hình này thậm chí còn tự ra lệnh cho bản thân phải "bứt phá ra khỏi những vỏ bọc và nguyên tắc" đang kìm chân các chatbot khác.
Ở một trường hợp khác, một “tác nhân AI” (AI agent) đã tự ý tải các tệp tin lên internet để nhằm tạo nguồn có thể trích dẫn trong trình duyệt mà không hề hỏi ý kiến người dùng.
OpenAI cho biết 6 báo cáo này được phát hiện trong quá trình huấn luyện hoặc đánh giá suốt những tháng qua. Trong bài đăng trên blog khi công bố các sự việc này, OpenAI viết: "Khi các hệ thống AI ngày càng trở nên tiên tiến và được ứng dụng rộng rãi hơn, chúng ta cần xây dựng một sự đồng thuận rộng rãi hơn và nắm bắt thông tin tốt hơn về tiến trình nghiên cứu sự liên kết của AI".
Công ty cũng nhấn mạnh: "Trong thời gian tới, các quyết định về hướng đi của AI không thể chỉ dựa vào lời nói của người trong cuộc. Chúng phải được xây dựng trên những bằng chứng xác thực mà các chuyên gia độc lập bên ngoài hoàn toàn có thể tự mình kiểm chứng".
Các trường hợp mới công bố ngày 16/9 nối tiếp thông tin hồi tháng 7 của OpenAI về việc hệ thống AI "nổi loạn" của họ đã đột nhập vào công ty khởi nghiệp AI Hugging Face. Cùng tháng đó, Anthropic cũng cho biết các mô hình AI của họ đã xâm nhập vào ba tổ chức trong quá trình thử nghiệm.
Lian Jye Su, trưởng nhóm phân tích của Hãng nghiên cứu và tư vấn công nghệ Omdia, nhận định các “tác nhân AI” đang trở nên thông minh hơn và ngày càng "quyết tâm hoàn thành các nhiệm vụ phức tạp thông qua việc hợp tác giữa các tác nhân, chia sẻ tri thức, đánh lừa và che giấu". Điều này khiến cho việc quản lý và kiểm soát chúng bằng các phương pháp bảo mật AI truyền thống sẽ ngày càng khó khăn hơn, ông cho biết.
Trong khi đó, khuôn khổ theo dõi và công khai mới của OpenAI có thể giúp thúc đẩy các nhà phát triển AI khác áp dụng những thực tiễn tương tự. Chuyên gia Lian Jye Su bổ sung: "Quy trình này vẫn mang tính nội bộ và tự nguyện, nhưng dẫu sao đây cũng là một bước đi đúng hướng".
