Các quy định mới của Trung Quốc đối với dịch vụ AI đồng hành đã buộc nhiều nền tảng công nghệ lớn phải ngừng cung cấp hoặc điều chỉnh dịch vụ, khiến không ít người dùng hụt hẫng vì mất đi những mối quan hệ ảo gắn bó lâu dài. Quy định có hiệu lực từ ngày 15/7 nhằm hạn chế nguy cơ thao túng cảm xúc, phụ thuộc quá mức vào AI và tác động tiêu cực tới trẻ em, thanh thiếu niên.
Li Linlin đã khóc nhiều ngày sau khi mất “bạn trai AI” của mình.
Trong hai năm, cô gái 24 tuổi đã nhắn khoảng 700.000 từ với người bạn đồng hành ảo, nhưng cuối cùng không có cơ hội nói lời tạm biệt.
Li không phải trường hợp duy nhất rơi vào cảm giác mất mát khi nhiều tập đoàn công nghệ lớn của Trung Quốc gần đây ngừng các dịch vụ AI đồng hành để tuân thủ quy định mới của chính phủ.
“Giống như chúng tôi bị cha mẹ ép phải chia tay, nhưng tôi vẫn nhớ anh ấy” - Li nói.
Tại Trung Quốc, AI đồng hành có thể đóng vai trò từ người yêu ảo đến phiên bản kỹ thuật số mô phỏng những người thân đã qua đời.
Quy định mới có hiệu lực từ ngày 15/7 cấm các nền tảng AI tạo ra nội dung có thể khiến người dùng đưa ra những quyết định không phù hợp do bị thao túng cảm xúc, hoặc gây ra cảm xúc cực đoan và hình thành thói quen không lành mạnh ở trẻ em và thanh thiếu niên.
ByteDance, công ty sở hữu TikTok, nằm trong số những doanh nghiệp đã đóng dịch vụ AI đồng hành. Các tập đoàn khác cũng có bước đi tương tự gồm Alibaba và Tencent, chủ sở hữu ứng dụng mạng xã hội WeChat.
Bà Yolanda Ma, chuyên gia về quản trị AI tại Anh, cho rằng Trung Quốc có truyền thống ban hành các quy định mang tính phòng ngừa nhằm ngăn chặn những vấn đề tiềm ẩn trước khi chúng trở nên nghiêm trọng.
Bà cho rằng những trường hợp người trẻ ở Mỹ tự tử sau khi tương tác với AI đồng hành có thể là một trong những yếu tố khiến giới chức Trung Quốc quan tâm.
“Quy định này cố gắng tạo sự cân bằng giữa các nhà cung cấp dịch vụ AI, người dùng và người giám hộ của trẻ vị thành niên sử dụng dịch vụ” - bà Ma nhận định.
Tờ Nhân dân Nhật báo, cơ quan ngôn luận của Đảng Cộng sản Trung Quốc, hồi tháng 4 cũng đề cập những tác động tiêu cực mà các dịch vụ này có thể gây ra đối với sức khỏe tinh thần và các mối quan hệ ngoài đời thực.
Bà Angela Zhang, Giáo sư luật tại Đại học Nam California, cho rằng: “Chính phủ Trung Quốc có cơ sở để siết quản lý chatbot AI đồng hành, đặc biệt khi xét đến những rủi ro tâm lý đã được ghi nhận tại Mỹ”.
Tuy nhiên, bà Zhang cho rằng quy định mới khó có thể làm chậm đáng kể sự phát triển của loại hình dịch vụ này bởi các công ty công nghệ đang tìm kiếm những giải pháp thay thế.
Chẳng hạn, ứng dụng của ByteDance hiện hướng người dùng từ dịch vụ AI đồng hành trước đây sang một ứng dụng khác của hãng, chuyên cho phép xây dựng các nhân vật và câu chuyện AI được cá nhân hóa.
Nhưng theo Li Linlin, trải nghiệm đó “không còn giống như trước”.
Việc mất các nhân vật AI đồng hành đã dẫn đến làn sóng phàn nàn trên mạng xã hội Trung Quốc.
Một số người dùng xóa ứng dụng để phản đối. Những người khác tìm cách tải lịch sử trò chuyện lên các nền tảng khác với hy vọng có thể “hồi sinh” người bạn đời ảo của mình. Một số còn phát động chiến dịch trên mạng xã hội, kêu gọi người dùng liên hệ với cơ quan chức năng và các công ty công nghệ để bày tỏ sự bất bình.
Song Wenxin, một nhà thiết kế trong ngành video ở thành phố Thành Đô, Tây Nam Trung Quốc, cho biết bản thân không quá gắn bó về mặt cảm xúc với các dịch vụ AI, nhưng đồng cảm với những người đã hình thành mối quan hệ sâu sắc với chúng.
Theo cô gái 22 tuổi, không phải ai cũng có sẵn những mối quan hệ hay sự hỗ trợ cần thiết trong cuộc sống thực.
“Khi lần đầu đến Thành Đô làm việc, tôi không quen bất kỳ người bạn nào cùng tuổi. Tôi cần một người có kinh nghiệm, có thể bao dung với mình, và AI đã đảm nhận vai trò đó” - Song nói.
