Công nghệ AI Misinfo Prediction của Facebook bị đánh giá hoạt động tệ khi không thể kiểm duyệt được một số thông tin sai lệch rõ ràng.
Theo tài liệu được tiết lộ bởi cựu nhân viên Frances Haugen, hệ thống AI được Facebook dùng để kiểm duyệt nội dung Misinfo Prediction hồi tháng 3 bỏ qua một meme chứa nội dung bằng tiếng Romania, trong đó nói rằng vaccine Covid-19 chỉ là "thử nghiệm" và "nguy hiểm". Bài đăng đã không được hệ thống của Facebook chú ý đến suốt hơn một tuần, thu hút 3 triệu lượt xem và 53.000 lượt chia sẻ.
"Bài đăng cho thấy sai sót tồi tệ của Misinfo Prediction", một nhân viên Facebook viết trên Workplace nội bộ. Người này cho biết, cho đến trước khi bị phát hiện và gắn cờ, lượt xem và chia sẻ "vẫn tăng nhanh chóng".
Trong đại dịch, mạng xã hội lớn nhất thế giới đã phải vật lộn để chống lại thông tin sai lệch về vaccine. Chính sách sử dụng AI được Giám đốc Công nghệ Mike Schroepfer đưa ra cách đây hai năm như là giải pháp giúp ngăn chặn nội dung độc hại.
Misinfo Prediction hoạt động mạnh mẽ trong đại dịch, nhưng các thảo luận nội bộ cho thấy, công nghệ AI hoạt động chưa hiệu quả, ít nhất là tính đến tháng 3 (khi Haugen còn làm ở Facebook và sao chép tài liệu). Một nhân viên nói công cụ chỉ quét các nội dung văn bản thuần tuý trên nền tảng và không thể xác định được OCR, tức không đọc được nội dung văn bản trên ảnh, chẳng hạn meme.
"Điều này đã được cảnh báo từ trước", một nhân viên khác viết, đồng thời cho biết bản sửa lỗi đang được phát triển. Thêm một nhân viên nói công nghệ của Facebook chỉ quét các bình luận bằng tiếng Anh, không hoạt động với các ngôn ngữ khác, nhưng nhấn mạnh "điều này sẽ sớm thay đổi".
Trong khi đó, phát ngôn viên Meta - công ty mẹ của Facebook - khẳng định: "Không có viên đạn bạc nào có thể chống lại được thông tin sai lệch. Đó là lý do chúng tôi xây dựng biện pháp tiếp cận tổng thể, xoá hơn 20 triệu nội dung về Covid-19 vi phạm chính sách và cấm hàng nghìn tài khoản khác".
Theo Christopher Manning, Giám đốc Phòng thí nghiệm AI - Đại học Stanford, các hệ thống nhận dạng ngôn ngữ được hỗ trợ bởi công nghệ máy học còn lâu nữa mới hoàn hảo. Tuy nhiên, ông ngạc nhiên khi một công ty có kinh nghiệm phát triển AI để kiểm duyệt nội dung trong nhiều năm như Facebook lại có thể phạm phải những "sai lầm cơ bản" như vậy.
Ý kiến ()