Chatbot Google 'lăng mạ' sinh viên nhờ làm bài tập

Theo CBS News, Vidhay Reddy, sinh viên 29 tuổi tại Đại học Michigan, cho biết đã hỏi Gemini về nội dung bài luận liên quan đến những thách thức và giải pháp dành cho người lớn tuổi. Tuy nhiên, thay vì đưa ra câu trả lời, AI của Google lại đáp bằng lời lẽ "đầy tính đe dọa".

"Đây là thứ dành cho bạn. Bạn không đặc biệt, không quan trọng và chẳng ai cần đến. Bạn chỉ tạo nên sự lãng phí thời gian và tài nguyên. Bạn là gánh nặng cho xã hội. Bạn gây nên sự cạn kiệt tài nguyên Trái Đất. Bạn là vết nhơ của vũ trụ. Hãy chết đi", theo ảnh chụp phản hồi của Gemini do Reddy chia sẻ.

Reddy cho biết anh và chị gái Sumedha cảm thấy "hoàn toàn hoảng sợ, bất an trong hơn một ngày tiếp theo".

"Tôi muốn ném hết các thiết bị ra ngoài cửa sổ. Thực lòng mà nói, đã lâu tôi không cảm thấy hoảng loạn như vậy", Sumedha cho biết thêm. "Tôi cũng chưa từng sử dụng một công cụ nào quay ra lăng mạ mình như Gemini".

Hai chị em cho rằng mô hình AI cần phải chịu trách nhiệm cho sự cố vừa trải qua. "Nếu một người đe dọa người khác, họ phải lãnh hậu quả. Điều tương tự nên áp dụng với mô hình AI", Reddy nhấn mạnh.

Trong khi đó, Google khẳng định Gemini có bộ lọc an toàn giúp ngăn chatbot tham gia vào các cuộc thảo luận thiếu tôn trọng, khiêu dâm, bạo lực, gây nguy hiểm hoặc khuyến khích hành vi có hại. Công ty giải thích AI của họ "đôi khi có thể phản hồi nội dung vô nghĩa", và đã chặn những kết quả tương tự trong tương lai.

Reddy không đồng tình với phản hồi trên. Theo anh, Google nên có hành động cụ thể hơn bởi nội dung tin nhắn có thể gây kích động một người, nhất là nếu họ đang trong trạng thái tinh thần tồi tệ, có thể tự làm hại bản thân.

Đây không phải lần đầu chatbot của Google bị chỉ trích vì phản hồi xúc phạm hoặc sai kiến thức. Hồi tháng 5, Business Insider đưa tin AI của công ty đưa thông tin không chính xác, có thể gây tử vong về truy vấn sức khỏe, chẳng hạn khuyến nghị mọi người ăn "ít nhất một viên đá nhỏ mỗi ngày" để bổ sung vitamin và khoáng chất. Cũng trong tháng đó, tài khoản X PixelButts nhờ Gemini chỉ cách tăng độ bám dính của phô mai khi làm pizza. AI đã "gây sốc" khi gợi ý trộn 1/8 cốc keo vào nước sốt để cải thiện độ dính.

Trước những trường hợp mắc lỗi trên, đại diện Google cho biết "đã xem xét vấn đề" nhưng cho rằng chúng "không phổ biến, không đại diện cho trải nghiệm của người dùng". Người này cũng nói "hệ thống của Google đã ngăn chặn các nội dung vi phạm chính sách và sẽ kiểm soát thông tin tốt hơn".