Nvidia ra mắt máy chủ DGX-2H nâng cấp về cấu hình, sức mạnh đến 2,1 PetaFLOPS

Nvidia vừa giới thiệu đến thị trường phiên bản mới của máy chủ DGX-2 với CPU và GPU hiệu năng cao, mang lại sức mạnh tính toán lên đến 2,1 PetaFLOPS. Giá bán của nó vẫn chưa được tiết lộ nhưng phiên bản mà nó thay thế trước đó đã có giá đến gần 400.000 USD.

Thời gian ra mắt

DGX là dòng máy trạm được Nvidia ra mắt vào năm 2016 với phiên bản DGX-1 lúc đó đã chạy 2 CPU Intel Xeon dòng E5-2600 v4 cùng với 8 GPU Tesla P100 kiến trúc Pascal. Phiên bản DGX-2 ra mắt 1 năm sau sở hữu năng lực tính toán mạnh hơn nhờ 2 x CPU Xeon Platinum 8168 24 nhân cùng với 16 GPU Tesla V100 kiến trúc Volta, kết nối với nhau bằng cầu NVLink. Lần này với DGX-2H, nó được nâng cấp về CPU với Xeon Platinum 8174 24 nhân, hệ thống GPU vẫn tương tự là 16 x Tesla V100 nhưng TDP của hệ thống đã tăng thành 450 W thay vì 350 W như DGX-2.

Nâng cấp

Điều này cho thấy một sự thay đổi về hệ thống tản nhiệt, giúp các GPU chạy ở xung cao hơn từ đó mang lại hiệu năng tính toán tốt hơn theo như Nvidia là 2,1 PFLOPS, cao hơn mức 2 PFLOPS của DGX-2. Song song với hiệu năng cải thiện, Nvidia phải giảm nhiệt độ hoạt động tối đa của DGX-2H xuống còn 25 độ C từ mức 35 độ C của DGX-2.

Bên cạnh sự nâng cấp về CPU và tăng trần nhiệt của GPU để đưa hiệu năng lên thì những thông số còn lại của DGX-2H vẫn tương tự DGX-2. Hệ thống GPU vẫn dùng bộ nhớ HBM2 có lợi thế về băng thông và dung lượng với 32 GB mỗi GPU > tổng 512 GB. Bộ nhớ RAM vẫn là DDR4 với dung lượng tối đa 1,5 TB và hệ thống lưu trữ dùng các ổ SSD NVMe tiêu chuẩn 30 TB và tối đa 60 TB. Kết nối mạng Ethernet cũng được cải tiến với 2 card mạng 100 GbE. Mức tiêu thụ điện năng toàn hệ thống là 12 kW, cao hơn 2 kW so với DGX-2.

Công nghệ

Dòng máy chủ DGX-2H được Nvidia nhắm đến khối doanh nghiệp với các trung tâm dữ liệu, triển khai hạ tầng AI, mạng thần kinh ảo cũng như xử lý các ứng dụng AI và Deep Learning (DL). DGX-2H cũng được thiết kế nhằm đáp ứng yêu cầu RAS viết tắt của độ ổn định, sự sẵn có và khả năng bảo trì.