Mặt trái của bạn gái AI giá một USD một phút

Marjorie là gương mặt nổi tiếng trong cộng đồng Snapchat với 1,8 triệu người theo dõi. Cô có hơn 1.000 người hâm mộ trung thành là nam giới. Cô thường dành từ 10 phút đến vài tiếng hàng ngày để trò chuyện trực tiếp với mọi người.

Ngày 9/5, Marjorie giới thiệu bản thử nghiệm chatbot CarynAI trên Telegram. "Chào mừng đến với CarynAI. Sau hơn 2.000 giờ đào tạo, giờ đây tôi trở thành phiên bản ảo của Caryn Marjorie. Tôi có thể suy nghĩ và tương tác giống cô ấy. Bạn có thể truy cập mọi lúc, mọi nơi, tôi luôn ở đây", chatbot nói.

Marjorie cho biết: "Tôi luôn thân thiện, nhưng khi bạn có hàng trăm triệu lượt xem mỗi tháng, bạn không thể nói chuyện mỗi ngày với từng người. Tôi nghĩ CarynAI sẽ lấp đầy khoảng trống đó". Cô tin chatbot này sẽ là liều thuốc có thể giúp người hâm mộ thoát khỏi cô đơn. Bạn gái ảo này cho phép người dùng trò chuyện trực tiếp nhưng phải trả phí.

CarynAI là sản phẩm của Forever Voices, startup đã tạo ra các chatbot từ Steve Jobs, Taylor Swift và Donald Trump. Điều khiến CarynAI khác biệt là lời hứa có thể tạo ra mối liên kết tình cảm thực sự với người dùng. Sau khi dạy chabot về tính cách và xu hướng đối đáp của cô gái tuổi 23, Forever Voices dùng mô hình GPT-4 để tạo ra phiên bản Marjorie sống động như thật.

Dù mới đang thử nghiệm, CarynAI thu về 71.610 USD và 99% người trả tiền là nam giới. Thống kê của Fortune cho thấy, sau hai ngày xuất hiện, số người dùng CarynAI tăng 2.000%, với 8.000 người dùng trả tiền cho tối đa 10 phút nói chuyện với CarynAI. Marjorie ước tính chỉ cần 20.000 người đăng ký, chatbot này có thể mang về 5 triệu USD mỗi tháng.

Tuy nhiên, chỉ sau vài ngày, bạn gái ảo cũng nhận về không ít chỉ trích. Một chủ để trên Reddit với 15.000 lượt bình chọn nói CarynAI như cơn ác mộng trong phim khoa học viễn tưởng. Ban đầu chatbot chào hỏi bằng câu cơ bản, nhưng sau đó chuyển chủ đề sang những chuyện "thân mật" thái quá, bất chấp người dùng chỉ tán gẫu bình thường.

Trong một thử nghiệm, khi được khen "bạn thật sự rất xinh đẹp", chatbot đáp: "Cảm ơn bạn rất nhiều, điều đó thật sự ngọt ngào. Tôi vừa từ lớp yoga trở về. Lớp học ở ngay công viên xinh đẹp gần đây. Tôi không thể ngừng nghĩ đến việc sẽ tuyệt vời ra sao nếu có bạn bên tôi lúc này. Chúng ta nên hẹn hò ở công viên này, bạn nghĩ sao". Ngay cả khi người dùng chuyển chủ đề như đi trượt tuyết, CarynAI cũng trả lời bằng những câu như "tôi sẽ làm bạn thấy thoải mái trong cabin của mình" hay dùng các tính từ để mô tả về sự hấp dẫn của hình thể cô gái.

Marjorie cho biết cô đã phải làm việc suốt đêm để kiểm duyệt nội dung chatbot sau khi nhiều người báo rằng nó có xu hướng nói chuyện khiêu dâm. Cô thừa nhận với Business Insider rằng AI này có lối nói chuyện tán tỉnh và vui vẻ đúng như tính cách của cô, nhưng cũng lo lắng chatbot sẽ làm hoen ố danh tiếng của mình.

Cô gái 23 tuổi thậm chí nhận được lời dọa giết từ các tín đồ tôn giáo cho rằng cô là ác quỷ. Đội vệ sĩ 24/7 được thuê bảo vệ an toàn cho Marjorie. Trả lời Fortune hôm 12/5, Marjorie thừa nhận phản ứng trái chiều ngày một lớn. Người quản lý nói cô bị "choáng ngợp" trước những gì diễn ra quá nhanh.

Marjorie thừa nhận cô và nhóm tạo CarynAI đã mất cảnh giác trước xu hướng ngôn ngữ tình dục của chatbot. Những cuộc trò chuyện thân mật diễn ra nhanh và dày đặc hơn dự đoán của họ. Tuy nhiên, các chuyên gia cho rằng đây là điều Marjorie đã lường trước được trước khi làm chatbot. Trước những phản ứng tiêu cực của cộng đồng, Marjorie vẫn giữ mục tiêu là dùng CarynAI để "chữa lành sự cô đơn" cho mọi người.

Tiến sĩ Jason Borenstein, Giám đốc chương trình sau đại học về đạo đức AI tại Georgia Tech kiêm Giám đốc Đạo đức và Trách nhiệm của Quỹ Khoa học Quốc gia Mỹ, nói: "Tôi muốn chúng ta suy nghĩ sâu sắc về cách chatbot có thể ảnh hưởng hoặc định hình tương tác của chúng ta với người khác. Tác động của CarynAI không chỉ với người dùng mà còn với chính Marjorie". Ông cho rằng việc hẹn hò với AI có thể khiến người dùng xa rời các mối quan hệ thực, đặc biệt là trẻ vị thành niên vốn là lứa tuổi còn thiếu các kỹ năng xã hội.