Cơn sốt "tokenmaxxing" AI hạ nhiệt khi doanh nghiệp siết chi phí

Trào lưu "tokenmaxxing" (tối đa hóa việc sử dụng các mô hình AI tạo sinh trong công việc) đang dần hạ nhiệt khi nhiều doanh nghiệp nhận thấy chi phí đầu tư cho AI tăng nhanh nhưng năng suất không tăng tương xứng.

Biểu tượng OpenAI và giao diện ứng dụng ChatGPT trên điện thoại. Ảnh: AP.
Biểu tượng OpenAI và giao diện ứng dụng ChatGPT trên điện thoại. Ảnh: AP.

Khái niệm "tokenmaxxing" xuất hiện từ làn sóng bùng nổ AI tạo sinh đầu năm nay, khuyến khích người dùng khai thác tối đa số lượng token (đơn vị dữ liệu văn bản mà các mô hình như ChatGPT hay Claude sử dụng để xử lý thông tin). Càng sử dụng nhiều token, chi phí vận hành càng cao.

Ông Vincent Gusdorf, Giám đốc phân tích AI của Moody's Ratings, cho rằng nhiều doanh nghiệp đã nhanh chóng nhận ra AI có thể tạo ra rất nhiều nội dung không thực sự cần thiết.

"Khi hóa đơn bắt đầu tăng lên, mọi người nhận ra những công cụ mới này khá đắt đỏ và cần được sử dụng một cách hợp lý" - Ông Vincent Gusdorf nói.

Trước đó, nhiều lãnh đạo công nghệ tại Thung lũng Silicon từng coi việc tiêu thụ nhiều token là dấu hiệu của một nhân viên làm việc hiệu quả. Giám đốc điều hành OpenAI Sam Altman từng bày tỏ: "Tôi rất háo hức chờ xem điều gì sẽ xảy ra với các startup theo đuổi tokenmaxxing, cả trong cách họ vận hành lẫn những sản phẩm họ có thể tạo ra". Trong khi đó, CEO Nvidia Jensen Huang gây chú ý khi nhận định: "Nếu một kỹ sư trị giá 500.000 USD mỗi năm không sử dụng lượng token trị giá khoảng 250.000 USD thì có điều gì đó chưa ổn". Meta thậm chí còn tổ chức các cuộc thi nội bộ nhằm khuyến khích nhân viên sử dụng AI nhiều hơn.

Tuy nhiên, khi chi phí tăng nhanh, nhiều doanh nghiệp bắt đầu xem xét lại hiệu quả đầu tư. CEO Microsoft Satya Nadella cảnh báo doanh nghiệp có thể phải "trả tiền hai lần" khi sử dụng AI, vừa trả phí cho token, vừa đưa dữ liệu độc quyền của mình vào các mô hình AI bên ngoài.

Trong khi đó, CEO Palantir Alex Karp cho biết nhiều doanh nghiệp Mỹ đang ngày càng bất bình với xu hướng này. "Quan điểm của nhiều doanh nghiệp hiện nay là: Tôi sẽ tiêu tốn thời gian với token, không tạo ra giá trị nào nhưng lại đánh đổi tài sản trí tuệ của mình" - Ông Palantir Alex Karp nói.

Theo hãng tư vấn Bain & Company, chi phí dành cho token tại nhiều tập đoàn lớn gần như tăng gấp đôi sau mỗi vài tháng. Với những doanh nghiệp có hàng chục nghìn lập trình viên, tổng chi phí sử dụng AI có thể lên tới hàng triệu USD mỗi năm, buộc các nhà quản lý phải đánh giá lại hiệu quả đầu tư.

Bà Jue Wang, chuyên gia của Bain & Company, cho biết nhiều doanh nghiệp đang thay đổi cách sử dụng AI. Theo bà, "Không phải mọi công việc đều cần đến Claude Opus 4.6". Bà cho rằng nhiều doanh nghiệp đang mặc nhiên lựa chọn các mô hình AI mạnh và đắt tiền ngay cả với những tác vụ đơn giản như soạn email, trong khi các công việc này hoàn toàn có thể được xử lý bằng những mô hình rẻ hơn.

Xu hướng mới hiện nay là lựa chọn mô hình AI phù hợp với từng nhiệm vụ thay vì sử dụng một mô hình cao cấp cho mọi công việc. Những tác vụ đơn giản sẽ được chuyển tới các mô hình chi phí thấp, còn những bài toán phức tạp mới sử dụng các hệ thống AI mạnh hơn.

Bên cạnh đó, sự xuất hiện của các mô hình AI mã nguồn mở từ Trung Quốc như Kimi của Moonshot hay GLM của Zhipu, với chi phí thấp hơn đáng kể nhưng có năng lực ngày càng tiệm cận các mô hình AI hàng đầu của Mỹ, cũng khiến nhiều doanh nghiệp cân nhắc các giải pháp AI có chi phí thấp hơn.

Ông Hassan El Mghari, Giám đốc trải nghiệm lập trình viên của Together AI, cho rằng doanh nghiệp không nên khuyến khích nhân viên sử dụng AI càng nhiều càng tốt. "Tốt hơn là hãy trao cho nhân viên quyền chủ động và để họ sử dụng AI khi nào, cũng như ở mức độ nào, thực sự cần thiết" - Ông Hassan El Mghari chia sẻ.

Đồng quan điểm, Giám đốc Công nghệ Mozilla Raffi Krikorian nhận định tokenmaxxing không phải là một cách tiếp cận hợp lý. Ông ví xu hướng này với việc ngành công nghệ trước đây từng đánh giá năng suất lập trình viên bằng số dòng mã được viết ra. "Đó sẽ chỉ là một hiện tượng nhất thời và có lẽ một năm nữa chúng ta sẽ nhìn lại rồi bật cười" - Ông Mozilla Raffi Krikorian nói.

Cùng chuyên mục