Chatbot Google trả lời sai ngay trong ngày ra mắt

Trên blog của Google ngày 6/2, CEO Sundar Pichai lần đầu giới thiệu đến công chúng về Bard. Đây là chatbot đang trong giai đoạn thử nghiệm, được cho là để cạnh tranh với ChatGPT từ OpenAI. Được giới thiệu là mang đến những "phản hồi mới, chất lượng cao", Bard lại bị phát hiện đưa ra câu trả lời không chính xác ngay trong lần đầu xuất hiện.

Cụ thể, trong bài viết, Pichai nói Bard "có thể là bệ phóng cho sự tò mò". Ông lấy ví dụ chatbot này có thể giải thích về kính viễn vọng không gian James Webb (JWST) của NASA cho một đứa trẻ, thông qua câu hỏi: "Những khám phá mới nào từ kính viễn vọng không gian James Webb mà tôi có thể nói với đứa con 9 tuổi của mình?"

Đáp lại, Bard đưa ra ba gợi ý mà một đứa trẻ 9 tuổi có thể thích, trong đó có câu: "JWST đã chụp bức ảnh đầu tiên của một hành tinh ngoài hệ Mặt trời. Những thế giới xa xôi này được gọi là exoplanet".

Theo Telegraph, câu trả lời này không chính xác. Những hành tinh ngoài hệ mặt trời đúng là được gọi với tên "exoplanet", tuy nhiên bức ảnh đầu tiên về một exoplanet được chụp bởi hệ thống kính viễn vọng Very Large Telescope đặt tại Chile, không phải James Webb. Hình ảnh và thông tin về bức ảnh này hiện được đăng trên trang web của NASA.

Hành tinh có tên 2M1207b, có kích thước bằng khoảng năm lần Sao Mộc và nằm cách Trái đất 170 năm ánh sáng. Nó được chụp lại từ năm 2004. Trong khi JWST năm 2021 mới đi vào hoạt động.

Nhiều chuyên gia về thiên văn học cũng lên tiếng về câu trả lời của Bard. Nhà vật lý thiên văn Grant Tremblay khẳng định "hình ảnh đầu tiên về một hành tinh ngoài hệ mặt trời không phải do JWST chụp". Trong khi đó, Bruce Macintosh, Giám đốc đài thiên văn Đại học California, cho biết ông từng chụp ảnh một exoplanet từ 14 năm trước khi JWST được phóng lên.

Cổ phiếu của của Alphabet, công ty mẹ Google, đã giảm 8%, tương đương khoảng 100 tỷ USD sau khi lỗi trên bị phát hiện. Đến 9/2, câu trả lời được tạo ra với Bard này vẫn còn trên trang blog của Google.

Sự việc diễn ra trong bối cảnh có những lo ngại sự phổ biến của các AI như ChatGPT có thể dẫn đến việc lan truyền thông tin sai lệch, do phần lớn AI ngôn ngữ chưa thể phân biệt được tính đúng sai. Trong thông báo ra mắt công cụ tìm kiếm Bing tích hợp AI tương tự ChatGPT, Microsoft cũng nhấn mạnh AI "có thể xảy ra những bất ngờ và sai sót". Google được cho là đã lường trước về vấn đề này, nhưng vì sự phổ biến quá nhanh của ChatGPT, nên hãng phải hé lộ sớm về Bard.

Các chatbot như ChatGPT, Bard đều được đào tạo từ các nguồn dữ liệu có sẵn. Trong đó, một trong những nguồn được dùng để dạy ChatGPT là Wikipedia. Google chưa nói cách phần mềm được đào tạo, tuy nhiên nhiều chuyên gia dự đoán hãng có thể cũng dùng một số nguồn dữ liệu tương tự đối thủ.

Phản hồi với The Verge, người phát ngôn của Google cho biết "điều này nhấn mạnh tầm quan trọng của quy trình kiểm tra nghiêm ngặt". Công ty sẽ khởi động chương trình Người kiểm tra đáng tin cậy vào tuần sau, kết hợp phản hồi từ người ngoài và nội bộ hãng để đảm bảo các câu trả lời của Bard "đáp ứng tiêu chuẩn cao về chất lượng, độ an toàn và có căn cứ của thông tin trong thế giới thực".