Đánh giá rủi ro tài chính bằng máy chủ Dell PowerEdge XE9680 Rack với 8 GPU NVIDIA H100 SXM5 80GB

Được trang bị bộ xử lý Intel® Xeon® có thể mở rộng thế hệ thứ 4 và GPU NVIDIA H100 SXM5 80 GB, máy chủ rack Dell PowerEdge XE9680 mang đến khả năng tăng tốc hiệu suất vô song, tiết kiệm năng lượng và lợi tức đầu tư nhanh nhất.

Máy chủ này cung cấp khả năng tính toán GPU song song có khả năng mở rộng và hiệu suất cao. Nó cũng tăng tốc độ xử lý ứng dụng và tối ưu hóa hiệu quả sử dụng năng lượng cho cả ứng dụng điện toán và ứng dụng sử dụng nhiều bộ nhớ.  

PowerEdge XE9680 cũng nhằm mục đích hỗ trợ các lĩnh vực ứng dụng khác nhau như AI sáng tạo, học sâu, học máy, điện toán tài chính và khối lượng công việc điện toán hiệu suất cao truyền thống. Ngoài vai trò là máy chủ có hệ số dạng 6U, XE9680 còn là nền tảng GPU 8x đầu tiên của Dell Technologies, bao gồm các tính năng và khả năng nâng cao sau:

  • Bộ xử lý có khả năng mở rộng Intel® Xeon® thứ 4 với tối đa 56 lõi cho mỗi bộ xử lý
  • 32 khe DIMM DDR5, hỗ trợ bộ nhớ RDIMM tối đa 4 TB, với tốc độ lên tới 4800 MT/s
  • 8x GPU NVIDIA H100 80GB 700W SXM hoặc 8x GPU NVIDIA A100 80GB 500W SXM
  • Lên đến 10 x16 Gen5 (x16 PCIe) toàn chiều cao, một nửa chiều dài
  • Khe cắm SSD NVMe/SAS/SATA 8 x 2,5 inch (U.2) và bộ điều khiển RAID NVMe BOSS-N1

Kiểm tra điểm chuẩn STAC/A2

Các kỹ sư hiệu suất tại Dell HPC và Phòng thí nghiệm đổi mới AI gần đây đã thực hiện các thử nghiệm trên Máy chủ PowerEdge XE9680 bằng tiêu chuẩn STAC-A2™. Điểm chuẩn này là tiêu chuẩn ngành để thử nghiệm các nhóm công nghệ nhằm phân tích tính toán và sử dụng nhiều bộ nhớ trong việc định giá và quản lý rủi ro. STAC-A2™ tạo ra các báo cáo về hiệu suất, thông lượng, khả năng mở rộng phần cứng, chất lượng kiểm tra và hiệu suất năng lượng của bất kỳ nhóm công nghệ nào có khả năng xử lý khối lượng công việc. Điều này bao gồm ước tính Monte Carlo của những người Hy Lạp có trụ sở tại Heston về một lựa chọn đa tài sản, phụ thuộc vào con đường với việc thực hiện sớm. Kết quả kiểm tra hiệu suất đã được tổ chức STAC chính thức xác minh, xác nhận và phê duyệt để công bố.  

Kết quả thực hiện

Trong bài kiểm tra điểm chuẩn hiệu năng STAC-A2, PowerEdge XE9680 được trang bị 8 GPU H100 80GB SXM5 mới nhất của NVIDIA. HPC và Phòng thí nghiệm đổi mới AI của Dell đã so sánh kết quả này với ba kết quả STAC-A 2 khác gần đây sử dụng công nghệ tăng tốc GPU. Tóm tắt so sánh được thể hiện trong các biểu đồ và bảng sau. 

Hình này hiển thị máy chủ rack PowerEdge XE9680

Hình 1. Máy chủ rack PowerEdge XE9680 8x GPU NVIDIA H100 

Vào năm 2024, máy chủ PowerEdge XE9680 đã xác nhận năm bản ghi điểm chuẩn hiệu suất quản lý rủi ro và giá STAC-A2 mới, bao gồm:

  1. Tốc độ xử lý thông lượng
  2. Điểm chuẩn của Hy Lạp cơ bản
  3. Điểm chuẩn lớn của Hy Lạp
  4. Năng lực xử lý khối lượng công việc
  5. Hiệu suất năng lượng

Tốc độ xử lý thông lượng

Số liệu này đo tỷ lệ các tùy chọn đã hoàn thành so với thời gian đã trôi qua. Dell đã lập kỷ lục về thông lượng tùy chọn mỗi giây cao nhất.

Hình ảnh này hiển thị biểu đồ mô tả tốc độ xử lý của từng máy chủ trong nghiên cứu này.

Hình 2. So sánh thông lượng của các tùy chọn tốc độ xử lý

Điểm chuẩn của Hy Lạp cơ bản

Số liệu này mô tả số giây để tính toán tất cả người Hy Lạp với năm nội dung, 25 K đường dẫn và 252 dấu thời gian. Dell đã lập kỷ lục về thời gian khởi động lại ấm nhanh nhất trong tiêu chuẩn của Baseline Greeks.

Hình này cho thấy điểm chuẩn cơ bản của người Hy Lạp về thời gian chạy ấm.  Dell có thời gian xử lý nhanh nhất.

Hình 3. So sánh các điểm chuẩn cơ bản của Hy Lạp Thời gian chạy ấm

Điểm chuẩn lớn của Hy Lạp

Số giây để tính toán tất cả người Hy Lạp có 10 nội dung, 100 K đường dẫn và 1260 dấu thời gian. Dell đã lập kỷ lục về cả thời gian chạy khởi động lại ấm và thời gian chạy khởi động lại nguội nhanh nhất.

Hình ảnh này hiển thị điểm chuẩn của Large Greeks về thời gian chạy ấm.  Dell có thời gian xử lý nhanh nhất.

Hình 4. Điểm chuẩn của Hy Lạp lớn So sánh thời gian chạy ấm

Hình này cho thấy thời gian chạy nguội tiêu chuẩn lớn của Hy Lạp.  Dell có thời gian xử lý nhanh nhất.

Hình 5. Điểm chuẩn của Hy Lạp lớn So sánh thời gian chạy lạnh

Năng lực xử lý khối lượng công việcxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

Điểm chuẩn này mô tả các nội dung có mối tương quan nhất và đường dẫn Monte Carlo được mô phỏng trong 10 phút. Dell đã đạt được kỷ lục về khả năng xử lý cao nhất về nội dung và số lượng đường dẫn Monte Carlo. 

Bảng 1. So sánh năng lực xử lý khối lượng công việc

Hình ảnh này là một bảng hiển thị thứ hạng, SUT thử nghiệm, số lượng nội dung và số lượng đường dẫn monte carlo.  Dell thể hiện khả năng xử lý cao nhất

Hiệu suất năng lượng  

Hiệu quả năng lượng đo lường năng lượng tiêu thụ. Phép đo này là tổng số chỉ số Watt trong một giây trong chuỗi xử lý HPORTFOLIO và được điều chỉnh cho các tài nguyên CTNH/SW được chia sẻ. Dell đã lập kỷ lục về hiệu suất năng lượng tốt nhất trong các tùy chọn trên mỗi KHW.

Đây là hình ảnh biểu đồ so sánh hiệu quả sử dụng năng lượng theo tùy chọn/kHw.  Dell có hiệu quả cao nhất.

Hình 6. So sánh hiệu quả sử dụng năng lượng