5 năm trước, Facebook bổ sung 5 biểu tượng cảm xúc để người dùng tương tác với các bài viết trên News Feed, ngoài nút like truyền thống, gồm thả tim, haha, ngạc nhiên, buồn bã và tức giận.
Mạng xã hội này cũng xây dựng thuật toán quyết định nội dung hiển thị trên tường của người dùng, sử dụng các biểu tượng cảm xúc để đánh giá và thúc đẩy những nội dung gây xúc động, trong đó gồm cả kích động sự tức giận. Tài liệu nội bộ được tiết lộ cho thấy từ năm 2017, thuật toán xếp hạng của Facebook đã đánh giá biểu tượng cảm xúc có giá trị cao gấp 5 lần nút like thông thường.
Quy tắc áp dụng thuật toán này rất đơn giản. Các bài viết thu hút nhiều biểu tượng cảm xúc sẽ khiến người dùng tương tác nhiều hơn, đây chính là yếu tố cốt lõi với hoạt động kinh doanh của Facebook.
Các nhà nghiên cứu tại Facebook cũng nhanh chóng nhận ra một khuyết điểm nghiêm trọng. "Ưu tiên các bài viết gây tranh cãi, bao gồm các nội dung khiến người dùng tức giận, có thể mở ra cánh cửa cho bài viết rác, lạm dụng hoặc câu khách", một nhân viên Facebook được giấu tên cho hay.
Cảnh báo này đã được chứng minh đúng. Những nhà khoa học dữ liệu của Facebook năm 2019 xác nhận bài viết thu hút nhiều biểu tượng giận dữ thường đi kèm tin giả, nội dung độc hại và tin tức chất lượng thấp.
Điều này có nghĩa Facebook đã cố tình thúc đẩy nội dung độc hại trên nền tảng của mình suốt ba năm, khiến chúng xuất hiện nhiều hơn trên dòng tin của người dùng và phát tán ra lượng người xem rộng hơn. Sức mạnh của thuật toán đã cản trở nỗ lực của đội ngũ kiểm duyệt, những người phải chiến đấu chống lại nội dung độc hại.
"Tức giận và thù ghét là cách dễ nhất để phát triển trên Facebook", cựu quản lý Frances Haugen nói hôm 25/10.
Noah Giansiracusa, giáo sư tại Đại học Bentley ở bang Massachusetts, cho rằng thuật toán của Facebook "có vẻ bí ẩn và đáng sợ" vì được phát triển trên công nghệ máy học phức tạp để dự đoán cách tương tác của người dùng. "Tuy nhiên, vẫn chỉ có một kết quả được dự đoán và con người quyết định kết quả đó", ông nói.
"Chúng tôi vẫn nghiên cứu những nội dung nào gây ra trải nghiệm tiêu cực để giảm độ phát tán của chúng, trong đó có những nội dung thu hút lượng lớn phản ứng tức giận", phát ngôn viên Facebook Dani Lever cho biết.
Cảm xúc tức giận chỉ là một trong nhiều yếu tố được các kỹ sư Facebook dùng để định hình dòng tin tức và trao đổi trên mạng xã hội lớn nhất thế giới. Tất cả được thuật toán cộng lại thành điểm số cho từng bài viết trên News Feed của người dùng và quyết định vị trí hiển thị của chúng.
Facebook không tiết lộ những thông số được thuật toán sử dụng, cũng như hơn 10.000 "tín hiệu" có thể được tính đến để dự đoán khả năng tương tác của bài viết. Hãng từ chối công bố hoạt động của thuật toán với lý do kẻ xấu có thể lợi dụng chúng.
Rất nhiều tín hiệu trong số này không được người dùng chú ý tới, như số bình luận dài trong một bài viết, video được quay hay chiếu trực tiếp, bình luận chỉ có chữ bình thường hay sử dụng hình ảnh nhân vật hoạt hình... Thuật toán thậm chí còn tính đến năng lực tính toán của thiết bị và tín hiệu Internet ở nơi người dùng kết nối. Một điều chỉnh nhỏ trong thuật toán cũng tác động đến toàn hệ thống, dẫn tới mức độ tin cậy của tin tức xuất hiện trên tường người dùng.
Tài liệu cho thấy bài viết trung bình thường được chấm vài trăm điểm, nhưng một chuyên gia dữ liệu Facebook hồi năm 2019 phát hiện hệ thống chấm điểm không có giới hạn.
Nếu thuật toán cho rằng một bài viết có chất lượng xấu, hệ thống sẽ giảm một nửa số điểm và khiến nó chìm sâu dưới News Feed. Tuy nhiên, một số bài viết có thể đạt 1 tỷ điểm, khiến việc cắt giảm gần như vô dụng bởi chúng vẫn xuất hiện ở trang nhất của người dùng.
Facebook lần đầu giảm ảnh hưởng của biểu tượng tức giận vào năm 2018, nhưng nó vẫn có giá trị bằng 4 lượt like. Đến tháng 4/2019, Facebook triển khai cơ chế "hạ cấp" nội dung nhận số lượng cảm xúc tức giận cao đột biến, nhưng tài liệu nội bộ do Haugen công bố không làm rõ chức năng này được sử dụng ở đâu và hiệu quả như thế nào.
Vài tháng sau, một số nhân viên Facebook đề xuất hạ giá trị của các biểu tượng cảm xúc xuống tương đương nút like hoặc loại bỏ khỏi cơ chế tính điểm. Lý do là không chỉ tức giận, các biểu tượng như wow và haha cũng thường xuyên xuất hiện trên các nội dung độc hại và tin giả.
Facebook giảm giá trị của biểu tượng tức giận về 0 vào tháng 9/2020, trong khi thả tim và buồn bã giữ giá trị tương đương 2 lượt like vì an toàn hơn. Đây là một phần trong nỗ lực tinh chỉnh các tín hiệu ảnh hưởng đến thuật toán hiển thị của Facebook.
"Giống mọi biện pháp tối ưu, luôn có những cách lạm dụng. Đó là lý do chúng tôi có nhóm bảo đảm liêm chính để truy tìm những phương pháp lợi dụng thuật toán và hạn chế chúng hiệu quả hết mức", Phó chủ tịch Facebook phụ trách kỹ thuật Lars Backstrom cho hay.
Các nhà khoa học dữ liệu của Facebook xác nhận người dùng bắt đầu nhận được ít tin giả và nội dung gây kích động hơn từ khi điểm của cảm xúc tức giận giảm về 0. Biện pháp này cũng không buộc mạng xã hội đánh đổi điều gì, khi hoạt động của người dùng trên Facebook hoàn toàn không bị ảnh hưởng.
Ý kiến ()