Những máy chủ DGX H100 đầu tiên của Nhà máy trí tuệ nhân tạo

Mới đây, FPT đã nhập khẩu hệ thống máy chủ DGX H100 đầu tiên về nước, bước đầu hiện thực hóa dự án hợp tác chiến lược nhằm thúc đẩy phát triển trí tuệ nhân tạo tại Việt Nam cùng NVIDIA là xây dựng Nhà máy trí tuệ nhân tạo (AI Factory) trị giá 200 triệu USD.

Trước đó, vào cuối tháng 4, FPT đã ký kết hợp tác toàn diện với NVIDIA phát triển hệ sinh thái giải pháp AI. Theo biên bản ghi nhớ, FPT dự kiến đầu tư 200 triệu USD để xây dựng AI Factory cung cấp nền tảng Điện toán đám mây phục vụ nghiên cứu phát triển AI và có chủ quyền tại Việt Nam.

Việc FPT nhập khẩu hệ thống máy chủ DGX H100 là để từng bước thực hiện biên bản ghi nhớ hợp tác ký kết cùng NVIDIA, nhằm phát triển hệ sinh thái AI và Cloud có chủ quyền tại Việt Nam.

Đây là hệ thống máy chủ tiên tiến nhất của NVIDIA, theo NVIDIA là cỗ máy AI mạnh nhất hiện nay, được hàng loạt công ty công nghệ hàng đầu thế giới như Tesla, Meta, Microsoft… săn đón.

Đại diện FPT Smart Cloud, đơn vị thành viên của FPT phụ trách triển khai dự án cho biết, đây là đợt nhập khẩu hệ thống đầu tiên để bảo đảm tiến độ tích hợp công nghệ, xây dựng những siêu máy tính phục vụ phát triển trí tuệ nhân tạo, từng bước triển khai kế hoạch xây dựng AI Factory.

Loạt hệ thống DGX-H100 còn lại sẽ được đưa về Việt Nam trong thời gian tới để hoàn thiện công nghệ, đẩy nhanh tiến độ nghiên cứu và phát triển sản phẩm, tạo tiền đề xây dựng các giải pháp, dịch vụ AI và Cloud thế hệ mới.

Hợp tác cùng NVIDIA trong dự án xây dựng AI Factory tại Việt Nam, FPT sẽ cung cấp dịch vụ đám mây GPU giúp khách hàng doanh nghiệp của FPT trên toàn cầu tiếp cận với nguồn lực cốt lõi nhất để nâng cao năng lực nghiên cứu, đẩy nhanh tốc độ ứng dụng AI, đặc biệt là AI tạo sinh (Generative AI), đạt được những đột phá trong nâng cao năng suất, trải nghiệm khách hàng.

Mỗi máy chủ DGX H100 chứa 8 GPU H100 kết nối qua NVIDIA NVLink, kết hợp cùng chip Intel Xeon Platinum 8480C kép, tổng cộng 112 lõi và bộ nhớ hệ thống 2TB phục vụ cho các công việc AI chuyên sâu nhất. Bên cạnh đó là hai NVIDIA BlueField-3 DPU để giảm tải, tăng tốc và cô lập các dịch vụ mạng, lưu trữ và bảo mật nâng cao.

DGX H100 sở hữu hiệu suất cao hơn 6 lần và kết nối mạng nhanh hơn 2 lần so với máy chủ thế hệ trước, đáp ứng các yêu cầu tính toán khổng lồ với hàng nghìn tỷ thông số của các mô hình ngôn ngữ lớn (LLM), hệ thống khuyến nghị, nghiên cứu y tế và lĩnh vực khoa học khí hậu.

DGX H100 giúp xây dựng nền tảng trí tuệ nhân tạo tinh chỉnh, hệ thống hóa và có khả năng mở rộng giúp các doanh nghiệp xử lý ngôn ngữ, phân tích dữ liệu… Đây cũng là hệ thống nền tảng tạo nên Eos - siêu máy tính mạnh nhất của NVIDIA, đứng thứ 9 trong số các siêu máy tính nhanh nhất thế giới. NVIDA khẳng định: DGX H100 có thể vượt qua các ranh giới về công nghệ và cơ sở hạ tầng AI.

Máy chủ DGX H100 đang được các tập đoàn và công ty công nghệ trên thế giới sử dụng. Tesla phát triển các sản phẩm xe tự lái trên nền tảng GPU H100. Tại Nhật Bản, start-up Xeureka ứng dụng DGX-H100 trong quá trình nghiên cứu phát triển thuốc, cải thiện hoạt động khám chữa và điều trị bệnh. Tại Ecuador, Thụy Điển, hàng loạt dự án tài chính, chăm sóc sức khỏe, luật, CNTT và viễn thông ứng dụng AI trên nền tảng DGX-H100.

Trong buổi cà-phê sáng cuối tháng 4, ông Lê Hồng Việt, Tổng giám đốc FPT Smart Cloud cho biết, AI Factory hay Nhà máy AI là cơ sở hạ tầng điện toán đám mây cung cấp nền tảng phục vụ nghiên cứu phát triển AI và có chủ quyền. Sản phẩm của nhà máy là những ứng dụng AI. Nguyên liệu đầu vào của nhà máy là dữ liệu và mô hình huấn luyện.

Nhà máy AI bao gồm các hệ thống siêu máy tính được tích hợp công nghệ GPU hiệu năng cao và chip đồ họa AI chuyên dụng để có thể xử lý nhiều tác vụ AI khác nhau từ AI training & inference, HPC, data analytics, digital twins, cloud graphics, gaming, và hàng triệu các ứng dụng hyperscale cloud và hệ thống phần mềm cũng như đội ngũ vận hành.