Microsoft mua gần nửa triệu chip AI của Nvidia AI

Số lượng chip AI Nvidia mà Microsoft mua năm nay nhiều hơn bất kỳ đối thủ nào khác tại Mỹ và Trung Quốc.

Hãng tư vấn công nghệ Omdia ước tính, Microsoft đã mua 485.000 chip "Hopper" của Nvidia trong năm nay, nhiều gấp đôi công ty đứng thứ hai – Meta với 224.000 chip, cũng như các đối thủ điện toán đám mây là Amazon và Google.

Với tình hình cầu vượt quá cung, kho dự trữ chip khổng lồ mang đến lợi thế lớn cho Microsoft trong cuộc đua xây dựng thế hệ hệ thống AI tiếp theo.

Năm nay, Big Tech đã chi hàng chục tỷ USD cho các trung tâm dữ liệu dùng chip mới nhất của Nvidia - mặt hàng ‘hot’ nhất Thung lũng Silicon kể từ khi ChatGPT ra mắt cách đây hai năm. Hạ tầng Azure của Microsoft được sử dụng để đào tạo mô hình o1 mới nhất của OpenAI.

Omdia ước tính ByteDance và Tencent mỗi bên đã đặt hàng khoảng 230.000 chip của Nvidia trong năm 2024, bao gồm cả mẫu H20, phiên bản Hopper yếu hơn, được sửa đổi để đáp ứng các biện pháp kiểm soát xuất khẩu của Mỹ đối với khách hàng Trung Quốc.

Amazon và Google cùng với Meta đang đẩy mạnh triển khai chip AI tùy chỉnh của riêng họ như một giải pháp thay thế cho Nvidia. Hai công ty mua lần lượt 196.000 và 169.000 chip Hopper, theo Omdia.

Số liệu được Omdia đưa ra sau khi phân tích chi phí vốn công khai, lô hàng máy chủ và nguồn tin nội bộ chuỗi cung ứng.

Vốn hóa Nvidia tăng vọt lên hơn 3.000 tỷ USD nhờ các hãng công nghệ chạy đua lắp ráp các cụm GPU ngày càng lớn. ByteDance và Tencent nổi lên như hai trong số những khách hàng lớn nhất của hãng, bất chấp những hạn chế xuất khẩu chip AI của chính phủ Mỹ.

Microsoft là công ty tích cực nhất trong số Big Tech của Mỹ trong việc xây dựng cơ sở hạ tầng trung tâm dữ liệu, vừa để chạy các dịch vụ AI của riêng mình như trợ lý Copilot, vừa cho khách hàng thuê thông qua bộ phận Azure.

Lô hàng chip Nvidia mà Microsoft mua năm nay cao gấp ba lần năm 2023. Alistair Speirs, Giám đốc cấp cao về Hạ tầng toàn cầu Azure cho biết, hạ tầng trung tâm dữ liệu rất tốn kém và thâm dụng vốn, cần lên kế hoạch trong nhiều năm.

Theo Omdia, các hãng công nghệ khắp thế giới sẽ chi khoảng 229 tỷ USD cho máy chủ năm 2024, dẫn đầu là Microsoft (31 tỷ USD) và Amazon (26 tỷ USD). Giám đốc nghiên cứu đám mây và trung tâm dữ liệu Omdia Vlad Galabov cho biết, khoảng 43% chi phí máy chủ dành cho Nvidia.

Trong khi Nvidia vẫn thống trị thị trường chip AI, đối thủ AMD đang có những bước tiến đáng chú ý. Meta mua 173.000 chip MI300 của AMD, còn Microsoft mua 96.000, theo Omdia.

Các công ty công nghệ lớn cũng tăng cường sử dụng chip AI tự phát triển trong năm nay để giảm sự phụ thuộc vào Nvidia. Google và Meta dùng khoảng 1,5 triệu chip riêng và Amazon là 1,3 triệu. Amazon có kế hoạch xây dựng một cụm mới bằng cách sử dụng hàng trăm nghìn chip Trainium mới nhất cho Anthropic, đối thủ của OpenAI, để đào tạo các mô hình AI tiếp theo.

Microsoft dường như xuất phát chậm hơn trong nỗ lực này, khi mới triển khai khoảng 200.000 chip Maia năm nay. Theo Speirs, ngay cả khi sử dụng chip AI, nhà sản xuất Windows vẫn phải đầu tư đáng kể vào công nghệ riêng để cung cấp dịch vụ độc đáo cho khách hàng.