Mở đầu

MLPerf là ​​tiêu chuẩn hiệu suất AI tiêu chuẩn công nghiệp. Để biết thêm thông tin về điểm chuẩn MLPerf, hãy xem Benchmark Work | Điểm chuẩn MLCommons .

Hôm nay đánh dấu việc phát hành một bộ kết quả mới cho MLPerf Training v3.1. Các máy chủ Dell PowerEdge XE9680, XE8640 và XE9640 trong bài gửi đã thể hiện hiệu suất tuyệt vời. Các nhiệm vụ bao gồm phân loại hình ảnh, phân đoạn hình ảnh y tế, phát hiện đối tượng nhẹ và nặng, nhận dạng giọng nói, mô hình hóa ngôn ngữ, đề xuất và chuyển văn bản thành hình ảnh. Kết quả MLPerf Training v3.1 cung cấp cơ sở để người dùng cuối đặt ra kỳ vọng về hiệu suất.

Có gì mới trong MLPerf Training 3.1 và nội dung gửi của Dell Technologies?

Sau đây là những điểm mới cho bài nộp này:

• Đối với bộ điểm chuẩn, một điểm chuẩn mới đã được thêm vào: phổ biến ổn định với bộ dữ liệu Laion400.   
• Dell Technologies đã giới thiệu hệ thống PowerEdge XE9640 được làm mát bằng không khí được hỗ trợ bằng chất lỏng (LAAC) mới được giới thiệu, đây là một phần của máy chủ Dell PowerEdge thế hệ mới nhất.

Tổng quan về kết quả

Dell Technologies đã gửi 30 kết quả. Những kết quả này đã được gửi bằng năm hệ thống khác nhau. Chúng tôi đã gửi kết quả cho các máy chủ PowerEdge XE9680, XE8640 và XE9640. Chúng tôi cũng đã gửi kết quả đa nút cho máy chủ PowerEdge XE9680 và XE8640. Máy chủ PowerEdge XE9680 được cung cấp bởi tám GPU NVIDIA H100 Tensor Core , trong khi các máy chủ PowerEdge XE8640 và XE9640 được cung cấp bởi bốn GPU NVIDIA H100 Tensor Core mỗi máy chủ.

Điểm dữ liệu quan tâm

Các điểm dữ liệu thú vị bao gồm:

• Kết quả khuếch tán ổn định mới của chúng tôi với máy chủ PowerEdge XE9680 đã được gửi lần đầu tiên và là độc quyền. Dell Technologies, NVIDIA và Habana Labs là những đơn vị duy nhất đã nộp đơn chính thức. Việc gửi này rất quan trọng vì sự bùng nổ của khối lượng công việc AI sáng tạo. Bài nộp sử dụng khung NVIDIA NeMo , có trong NVIDIA AI Enterprise để hỗ trợ AI sản xuất ổn định, an toàn và được hỗ trợ.  
• Máy chủ Dell PowerEdge XE8640 và XE9640 đã bảo đảm một số tựa game có hiệu suất cao nhất (danh hiệu số 1) trong số các hệ thống khác được trang bị bốn GPU NVIDIA H100. Các nhiệm vụ bao gồm mô hình hóa ngôn ngữ, đề xuất, phát hiện đối tượng nặng, lời nói thành văn bản và phân đoạn hình ảnh y tế.
• Một số kết quả đa nút đã được gửi cho vòng trước, có thể so sánh với vòng này. Kết quả đa nút PowerEdge XE9680 đã được gửi. Ngoài ra, vòng này là lần đầu tiên kết quả đa nút với máy chủ PowerEdge XE8640 thế hệ mới hơn được gửi. Kết quả cho thấy tỷ lệ gần tuyến tính. Hơn nữa, Dell Technologies là đơn vị gửi duy nhất ngoài NVIDIA, Habana Labs và Intel thực hiện gửi kết quả tại chỗ, đa nút.
• Kết quả đối với máy chủ PowerEdge XE9640 có làm mát bằng không khí được hỗ trợ bằng chất lỏng (LAAC) tương tự với máy chủ làm mát bằng không khí PowerEdge XE8640.

Hình dưới đây hiển thị tất cả thời gian hội tụ của hệ thống Dell và khối lượng công việc tương ứng trong điểm chuẩn. Vì các điểm chuẩn khác nhau được bao gồm trong cùng một biểu đồ nên trục y được biểu thị theo logarit. Nhìn chung, những con số này cho thấy thời điểm tuyệt vời để tập trung xử lý khối lượng công việc đang được đề cập.

Hình 1. Trục logarit y: Tổng quan về kết quả Dell MLPerf Training v3.1

Phần kết luận

Chúng tôi đã gửi kết quả tuân thủ cho điểm chuẩn MLCommons Training v3.1. Những kết quả này dựa trên thế hệ máy chủ Dell PowerEdge XE9680, XE8640 và XE9640 mới nhất, được hỗ trợ bởi GPU NVIDIA H100 Tensor Core. Tất cả các kết quả là xuất sắc. Họ chứng minh rằng việc chia tỷ lệ đa nút là tuyến tính và nhiều máy chủ hơn có thể giúp giải quyết cùng một vấn đề nhanh hơn. Các kết quả khác nhau cho phép người dùng cuối đưa ra quyết định về hiệu suất dự kiến ​​trước khi triển khai khối lượng công việc đào tạo chuyên sâu về điện toán của họ. Khối lượng công việc trong quá trình gửi bao gồm phân loại hình ảnh, phân đoạn hình ảnh y tế, phát hiện đối tượng nhẹ và nặng, nhận dạng giọng nói, mô hình hóa ngôn ngữ, đề xuất và chuyển văn bản thành hình ảnh. Các doanh nghiệp có thể kích hoạt và tối đa hóa quá trình chuyển đổi AI của mình bằng Dell Technologies một cách hiệu quả với các giải pháp của Dell.