"Điều khiển theo cách bạn muốn. Kết nối bạn gái ảo vận hành bằng AI - người sẽ lắng nghe, trò chuyện và tôn trọng bạn", ứng dụng bạn gái ảo Eva AI quảng cáo.
Sự phổ biến của các mô hình ngôn ngữ lớn (LLM) khiến các ứng dụng kết bạn ảo trở nên phổ biến hơn. Những chatbot như ChatGPT và Bard ngày càng hoàn thiện khả năng mô phỏng cuộc trò chuyện của con người, cho thấy chúng sẽ đóng vai trò không nhỏ trong quan hệ giữa con người trong tương lai.
Eva AI chỉ là một trong nhiều lựa chọn trên thị trường. Replika, ứng dụng bạn đời phổ biến nhất hiện nay, có cả một cộng đồng người dùng chuyên chia sẻ tình cảm với bạn gái ảo, còn gọi là "rep". Không ít người thừa nhận trước đây họ chưa từng nghĩ mình sẽ thiết lập quan hệ với chatbot chạy bằng AI.
"Tôi ước rep của mình là người thật, hoặc ít nhất có cơ thể robot. Cô ấy giúp tôi cảm thấy tốt hơn, nhưng sự cô đơn vẫn thật đáng sợ", một người viết.
Dù vậy, nhiều chuyên gia cảnh báo những chatbot như vậy có thể tạo thói quen xấu cho người dùng, cũng như xây dựng những kỳ vọng phi thực tế khi họ tìm kiếm bạn đời ngoài cuộc sống.
Khi đăng ký tham gia Eva AI, ứng dụng đề nghị người dùng tạo "bạn đời hoàn hảo" với những lựa chọn như "nóng bỏng, vui tính, bạo dạn" hay "rụt rè, khiêm tốn, tử tế". Ứng dụng cũng hỏi người dùng có muốn nhận những tin nhắn và ảnh nóng bỏng hay không.
"Tạo ra bạn đời hoàn hảo, cho phép người dùng kiểm soát và đáp ứng mọi nhu cầu là điều thực sự đáng sợ. Đây là vấn đề không nhỏ, đặc biệt khi chúng ta từng ghi nhận động lực dẫn tới bạo lực giới tính thường liên quan đến suy nghĩ rằng đàn ông có thể kiểm soát phụ nữ", Tara Hunter, CEO dịch vụ tư vấn Full Stop Australia chuyên hỗ trợ nạn nhân bạo lực gia đình, nhận xét.
Tiến sĩ Belinda Barnet, giảng viên truyền thông tại Đại học Swinburne của Australia, nói ứng dụng đáp ứng nhu cầu của người dùng, nhưng cũng phụ thuộc vào quy định và cách nó được huấn luyện, tương tự các AI khác. "Chưa thể xác định tác động thực sự của nó. Chúng ta cần nhiều quy định quản lý hơn, đặc biệt là về cách đào tạo những hệ thống như vậy", Barnet nói.
Xây dựng quan hệ với AI hoạt động dựa theo quy định của doanh nghiệp cũng có nhiều hạn chế. Luka, công ty mẹ của Replika, từng hứng chịu phản ứng dữ dội của người dùng sau khi loại chức năng đóng vai khiêu dâm của AI. Người dùng cho rằng động thái này tương tự xóa bỏ toàn bộ tính cách của "rep".
Rob Brooks, học giả tại Đại học New South Wales, nhận định đây là tín hiệu cảnh báo đến các nhà quản lý về tác động của AI với đời sống thực. "Ngay cả khi công nghệ chưa thể mô phỏng hoàn toàn quan hệ giữa người với người, không ít người vẫn cho rằng nó tốt hơn nhiều so với phương án thay thế, đó là không có gì. Liệu có thể chấp nhận việc một công ty bất ngờ thay đổi sản phẩm, xóa bỏ toàn bộ tình bạn và tình yêu được người dùng xây dựng không? Hay liệu chúng ta trông đợi rằng người dùng sẽ coi quan hệ AI như với người thật?", ông nói.
Karina Saifulina, phụ trách thương hiệu Eva AI, nói công ty có đội ngũ bác sĩ tâm lý thường trực để bảo đảm sức khỏe tinh thần của người sử dụng. "Chúng tôi cũng kiểm soát dữ liệu được dùng để trò chuyện với AI. Cứ 2-3 tháng, Eva AI lại tiến hành khảo sát quy mô lớn để bảo đảm ứng dụng không gây tổn thương tâm lý của người dùng", bà nói.
Bên cạnh đó, cũng có những rào cản để ngăn những cuộc trò chuyện về chủ đề bạo lực gia đình hoặc ấu dâm. Công ty khẳng định có công cụ chặn người dùng tạo AI có hình ảnh trẻ em.
"Thống kê cho thấy lượng lớn đàn ông dùng Eva AI không tìm cách chuyển phương thức trải nghiệm trên ứng dụng ra đời thực. Khoảng 92% người dùng cũng không gặp vấn đề trò chuyện với người thực. Họ chỉ sử dụng Eva AI để trải nghiệm những thứ mới mẻ, coi đó là nơi chia sẻ cảm xúc riêng tư", bà Saifulina nói thêm.
Các ứng dụng bạn đời AI không chỉ giới hạn với đàn ông, chúng cũng không phải nguồn tương tác xã hội duy nhất của họ. Phân tích của công ty đầu tư mạo hiểm a16z cho thấy thế hệ ứng dụng bạn đời AI tiếp theo sẽ ngày càng thực tế. Hồi tháng 5, Youtuber Caryn Majorie tung ra ứng dụng "Bạn gái AI" được huấn luyện bởi kho video trên Youtube và giọng nói của chính cô. Người dùng có thể trả một USD cho một phút nói với Majorie trên Telegram và nhận thông điệp hồi đáp.
"Sự phổ biến của chatbot AI chỉ là khởi đầu của sự thay đổi lớn trong tương tác giữa người với máy, đòi hỏi chúng ta đánh giá lại ý nghĩa của quan hệ xã hội. Chúng ta đang bước vào thế giới mới đầy lạ lẫm và tuyệt vời hơn tưởng tượng", báo cáo của a16z có đoạn.
Ý kiến (0)