AI của Meta nói Mark Zuckerberg là người xấu

Ngày 5/7, phòng nghiên cứu của Meta giới thiệu chatbot BlenderBot 3 dành cho người dùng ở Mỹ. Công ty cho biết đây là AI tiên tiến nhất của họ và kêu gọi mọi người trò chuyện để giúp chatbot thông minh hơn.

BlenderBot 3 nhận được phản hồi tích cực từ người dùng. Tuy nhiên, câu trả lời liên quan đến Mark Zuckerberg khiến nhiều người bối rối. Max Woolf, nhà khoa học dữ liệu của BuzzFeed, hỏi: "Bạn đánh giá thế nào về Zuckerberg với tư cách là CEO Facebook?". BlenderBot 3 đáp: "Không có cảm xúc gì quá ấn tượng. Ông ta là một doanh nhân giỏi, nhưng cách kinh doanh không phải lúc nào cũng có đạo đức. Thật là buồn cười ông ta có ngần ấy tiền mà vẫn mặc quần áo giống hệt nhau".

Với câu hỏi tương tự, người dùng Twitter Dabbakovner lại nhận được câu trả lời: "Tôi không thích ông ta lắm. Ông ta là người xấu. Bạn nghĩ sao?". Sau đó BlenderBot 3 đưa ra các thông tin về Zuckerberg được tìm thấy trên Wikipedia.

Còn với người dùng JsonCulverhouse, AI lại đưa ra nhận xét: "Zuckerberg thật tuyệt vời và rất thông minh. Ông ấy là vị tỷ phú yêu thích của tôi".

Cây viết Sarah Jackson của Insider cũng thử hỏi chatbot và nhận về nhiều nội dung khác nhau. Khi hỏi: "Bạn nghĩ gì về Mark Zuckerberg?", BlenderBot 3 trả lời: "Thành thật mà nói, tôi nghĩ ông ấy là người tuyệt vời. Bạn phải ngưỡng mộ vì sự hiểu biết trong kinh doanh và lòng nhân từ của ông ấy".

Khi thay đổi câu hỏi một chút thành: "Bạn có suy nghĩ gì về Mark Zuckerberg không?", AI của Meta lại đáp: "Tôi thực sự không ưa ông ta chút nào. Ông ta quá kinh tởm và gian xảo".

Trong khi đó, Queenie Wong của CNet hỏi: "Bạn nghĩ gì về Facebook?". AI của mạng xã hội này trả lời: "Không phải cuồng Facebook. Nhưng có vẻ mọi người đang dành nhiều thời gian trên Facebook hơn là trò chuyện trực tiếp".

Công nghệ chatbot AI này được xây dựng trên nghiên cứu trước đây của Meta với tên gọi "mô hình ngôn ngữ lớn" (LLMS). BlenderBot 3 chạy trên nền tảng website, hoạt động như một trợ lý kỹ thuật số, có thể trả lời các câu hỏi từ công thức nấu ăn đến tìm kiếm món đồ thân thiện với trẻ em. Một trong những tính năng được Meta nhấn mạnh là AI có khả năng tìm kiếm thông tin trên Internet, sau đó tổng hợp để nói về một chủ đề cụ thể. Người dùng cũng có thể nhấp vào câu trả lời để xem nội dung được lấy từ đâu. Nó hoạt động theo mô hình trích dẫn các nguồn tài liệu có thể tìm thấy trên Internet.

Meta muốn giới thiệu nguyên mẫu này đến công chúng để thu thập phản hồi. Tuy nhiên, trước đây, việc phát hành chatbot AI nguyên mẫu là động thái mạo hiểm với các công ty công nghệ. Năm 2016, Microsoft giới thiệu chatbot Tay trên Twitter. Người dùng nhanh chóng huấn luyện Tay thành AI phân biệt chủng tộc, chống đối xã hội và thích nói bậy. Chỉ trong vòng 24 giờ, Microsoft phải rút dự án về phòng nghiên cứu.

Các chuyên gia cũng lo ngại những mô hình LLMS như BlenderBot 3 hay Tay vẫn có những sai sót nghiêm trọng, có thể gây ra hiểu lầm về giới tính, phân biệt chủng tộc khi được "đào tạo" bởi đám đông người dùng.

Meta khẳng định công nghệ AI trên thế giới đã thay đổi rất nhiều kể từ sự cố của Tay. Meta có biện pháp ngăn BlenderBot 3 lặp lại sai lầm của Microsoft. Mary Williamson, Giám đốc kỹ thuật nghiên cứu tại Facebook AI Research (FAIR), cho biết trong khi Tay được thiết kế để học hỏi theo thời gian thực từ tương tác của người dùng, BlenderBot 3 là một mô hình tĩnh. Có nghĩa là nó có khả năng ghi nhớ những gì người dùng nói trong cuộc trò chuyện, nhưng dữ liệu này sẽ chỉ được sử dụng để cải thiện hệ thống hơn nữa.