Thông báo tăng tốc AI của Dell PowerEdge tại NVIDIA GTC

Hội nghị Công nghệ GPU NVIDIA (GTC) là sự kiện hàng đầu của NVIDIA dành cho các nhà đổi mới, nhà phát triển và người đam mê AI. Dell Technologies, công ty hàng đầu về cơ sở hạ tầng AI, sẽ giới thiệu một số hợp tác công nghệ mới nhất của chúng tôi với NVIDIA tại sự kiện này.

Trong gian hàng và trong các phiên ảo trực tuyến, chúng tôi đang trình diễn Giải pháp AI sáng tạo của Dell với NVIDIA và các dịch vụ chuyên nghiệp được thiết kế để đưa AI vào dữ liệu của bạn.

Dell PowerEdge XE9680 là máy chủ tăng tốc GPU tám chiều hàng đầu của chúng tôi để đào tạo AI tổng quát, tùy chỉnh mô hình và suy luận AI quy mô lớn. Dòng sản phẩm Dell PowerEdge XE cho phép bạn tự do lựa chọn cấu hình làm mát bằng không khí hoặc làm mát bằng chất lỏng siêu đậm đặc. Các máy chủ PowerEdge XE thậm chí còn mang đến cho bạn nhiều lựa chọn hơn để tăng tốc điện toán, chẳng hạn như NVIDIA Tensor Core H100 tám chiều mạnh mẽ có trong PowerEdge XE9680 hoặc các máy chủ PowerEdge XE9640 và PowerEdge XE8640 bốn chiều NVIDIA H100 HGX được tăng tốc . Máy chủ PowerEdge XE là Hệ thống được NVIDIA chứng nhận và bao gồm các giải pháp mạng Ethernet NVIDIA Quantum-2 InfiniBand và Spectrum-X tiên tiến cũng như phần mềm NVIDIA AI Enterprise .

PowerEdge XE9680 có tính linh hoạt cao kỷ niệm ba thế hệ GPU NVIDIA. XE9680 hỗ trợ GPU NVIDIA A100 Tensor Core, dựa trên kiến ​​trúc NVIDIA Ampere và GPU NVIDIA H100 Tensor Core, dựa trên kiến ​​trúc NVIDIA Hopper, khi ra mắt. Hôm nay, Dell công bố hỗ trợ GPU kiến ​​trúc Blackwell mới của NVIDIA để tăng tốc AI và các bản cập nhật sau.

Dell PowerEdge XE9680 Hỗ trợ cho NVIDIA HGX H200

PowerEdge XE9680 bổ sung hỗ trợ cho GPU NVIDIA H200 Tensor Core và BlueField-3 SuperNIC. Việc làm mới NVIDIA HGX H200 dựa trên kiến ​​trúc GPU tám chiều NVIDIA Hopper tương tự của PowerEdge XE9680 với NVIDIA HGX H100 với bộ nhớ HBM3e được cải tiến. Với bộ nhớ mở rộng 141 GB cho mỗi GPU, PowerEdge XE 9680 dự kiến ​​sẽ cung cấp nhiều tham số mô hình AI hơn cho hoạt động đào tạo và suy luận trong cùng cấu hình 6RU làm mát bằng không khí để có TCO thấp hơn. NVIDIA BlueField-3 SuperNIC tăng tốc và giảm tải lưu lượng mạng cụm thường gặp trong các mô hình AI lớn, cho phép giao tiếp trực tiếp giữa GPU với GPU và tăng tốc thời gian tìm kiếm giải pháp.

PowerEdge XE9680 làm mát bằng không khí với NVIDIA HGX B100

PowerEdge XE9680 với dòng NVIDIA Blackwell HGX B100 sẽ cung cấp cho các doanh nghiệp GPU tám chiều thế hệ tiếp theo dành cho AI tổng hợp với sức mạnh xử lý cao hơn ở mức công suất 700W của NVIDIA HGX H100. PowerEdge XE9680 làm mát bằng không khí với GPU NVIDIA HGX B100 sẽ có tổng dung lượng khổng lồ 1,54 TB bộ nhớ GPU HBM3e được kết nối với NVIDIA NVLink và cho phép doanh nghiệp của bạn thu được những hiểu biết chính xác về GenAI với các mô hình chứa hàng nghìn tỷ thông số.

Cấu hình PowerEdge XE9680 làm mát bằng chất lỏng đầu tiên của Dell: NVIDIA HGX B200

Chúng tôi xin công bố cấu hình máy chủ PowerEdge XE9680 làm mát bằng chất lỏng đầu tiên của Dell. DLC PowerEdge XE9680 với NVIDIA HGX B200 dự kiến ​​sẽ mang lại hiệu suất suy luận AI cao hơn 25 lần, với TCO thấp hơn 20 lần và mức sử dụng năng lượng ít hơn 20 lần so với NVIDIA HGX H100.

Kiến trúc máy chủ mở rộng quy mô đa nút NVIDIA GB200 NVL72 của Dell sẽ vượt qua tám máy chủ GPU Hiệu suất mô hình AI lớn với tối đa 72 GPU được kết nối NVLink

Trong một lần đầu tiên khác, Dell công bố CPU ARM đầu tiên của mình với việc giới thiệu Superchip NVIDIA GB200. Dell sẽ hợp tác với NVIDIA để cung cấp nền tảng điện toán thế hệ tiếp theo dựa trên CPU Grace ARM lai NVIDIA với GPU B200 vi kiến ​​trúc Blackwell trên chip.

Kiến trúc mới này sẽ trở thành “vua đồi” mới cho việc suy luận và huấn luyện các mô hình AI lớn nhất với hàng nghìn tỷ tham số. Kiến trúc máy chủ mở rộng quy mô đa nút GB200 NVL72 sẽ cung cấp 72 GPU kết nối NVIDIA NVLink siêu dày đặc trong một giá đỡ duy nhất.

Hỗ trợ PowerEdge cho Bộ điều hợp Ethernet NVIDIA BlueField-3

Dell PowerEdge sẽ mang đến cho khách hàng nhiều sự lựa chọn hơn nữa với sự hỗ trợ cho NVIDIA BlueField-3 SuperNIC cho kết cấu Ethernet AI hiệu suất cao NVIDIA Spectrum-X . Cấu trúc hiệu suất cao này kết hợp bộ chuyển đổi NVIDIA Spectrum-4 và BlueField-3 SuperNIC như một phần của kiến ​​trúc tham chiếu NVIDIA OVX và NVIDIA HGX để cung cấp năng lượng cho khối lượng công việc NVIDIA Omniverse và NVIDIA AI Enterprise .

Bạn muốn tìm hiểu thêm về các giải pháp sáng tạo và mạnh mẽ này cho AI? Chúng tôi mời bạn đến gian hàng của chúng tôi tại hội nghị NVIDIA GTC hoặc đăng ký trực tuyến để tham dự hội nghị ảo miễn phí . Xem các phiên trực tiếp và ảo của chúng tôi để biết Dell Technologies và NVIDIA có thể giúp bạn tăng tốc hành trình AI của mình như thế nào.

Vui lòng truy cập blog thông báo NVIDIA GTC của Dell để tìm hiểu thêm về Dell AI Factory với NVIDIA và thông cáo báo chí của Dell Technologies để tìm hiểu thêm về các bản cập nhật sản phẩm mới và thông báo về Giải pháp AI sáng tạo của Dell.