Tóm tắt

MLPerf là một chuẩn mực hiệu suất AI tiêu chuẩn công nghiệp. Để biết thêm thông tin về chuẩn mực MLPerf, hãy xem Benchmark Work | Benchmarks MLCommons .

Hôm nay đánh dấu việc công bố một loạt kết quả mới cho MLPerf Training v3.1. Các máy chủ Dell PowerEdge XE9680, XE8640 và XE9640 trong bài dự thi đã chứng minh hiệu suất vượt trội. Các tác vụ bao gồm phân loại hình ảnh, phân đoạn hình ảnh y tế, phát hiện vật thể nhẹ và nặng, nhận dạng giọng nói, mô hình hóa ngôn ngữ, đề xuất và chuyển đổi văn bản thành hình ảnh. Kết quả của MLPerf Training v3.1 cung cấp cơ sở để người dùng cuối đặt ra kỳ vọng về hiệu suất.

Có gì mới trong MLPerf Training 3.1 và các bài nộp của Dell Technologies?

Những nội dung mới sau đây được đưa vào bài nộp này:

Đối với bộ chuẩn đánh giá, một chuẩn đánh giá mới đã được thêm vào: khuếch tán ổn định với tập dữ liệu Laion400.
Dell Technologies đã đệ trình hệ thống PowerEdge XE9640 làm mát bằng không khí hỗ trợ bằng chất lỏng (LAAC) mới ra mắt, đây là một phần của máy chủ Dell PowerEdge thế hệ mới nhất.

Tổng quan về kết quả

Dell Technologies đã gửi 30 kết quả. Những kết quả này được gửi bằng năm hệ thống khác nhau. Chúng tôi đã gửi kết quả cho các máy chủ PowerEdge XE9680, XE8640 và XE9640. Chúng tôi cũng đã gửi kết quả đa node cho các máy chủ PowerEdge XE9680 và XE8640. Máy chủ PowerEdge XE9680 được trang bị tám GPU NVIDIA H100 Tensor Core , trong khi máy chủ PowerEdge XE8640 và XE9640 được trang bị bốn GPU NVIDIA H100 Tensor Core.

Điểm dữ liệu quan tâm

Các điểm dữ liệu thú vị bao gồm:

Kết quả phân tán ổn định mới của chúng tôi với máy chủ PowerEdge XE9680 đã được gửi lần đầu tiên và độc quyền. Dell Technologies, NVIDIA và Habana Labs là những đơn vị duy nhất đã gửi bài dự thi chính thức. Bài dự thi này rất quan trọng vì sự bùng nổ của khối lượng công việc AI tạo sinh. Bài dự thi sử dụng nền tảng NVIDIA NeMo , được tích hợp trong NVIDIA AI Enterprise, cho AI sản xuất an toàn, được hỗ trợ và ổn định.
Máy chủ Dell PowerEdge XE8640 và XE9640 đã giành được một số danh hiệu hàng đầu (#1) so với các hệ thống khác được trang bị bốn GPU NVIDIA H100. Các tác vụ bao gồm mô hình hóa ngôn ngữ, đề xuất, phát hiện đối tượng nặng, chuyển giọng nói thành văn bản và phân đoạn hình ảnh y tế.
Một số kết quả đa node đã được gửi cho vòng trước, có thể được so sánh với vòng này. Kết quả đa node PowerEdge XE9680 đã được gửi. Ngoài ra, vòng này là lần đầu tiên kết quả đa node với máy chủ PowerEdge XE8640 thế hệ mới được gửi. Kết quả cho thấy khả năng mở rộng gần như tuyến tính. Hơn nữa, Dell Technologies là đơn vị duy nhất gửi kết quả đa node, tại chỗ, cùng với NVIDIA, Habana Labs và Intel.
Kết quả đối với máy chủ PowerEdge XE9640 sử dụng hệ thống làm mát bằng không khí hỗ trợ bằng chất lỏng (LAAC) tương tự như máy chủ làm mát bằng không khí PowerEdge XE8640.

Hình dưới đây hiển thị tất cả thời gian hội tụ của các hệ thống Dell và khối lượng công việc tương ứng trong bài kiểm tra chuẩn. Vì các bài kiểm tra chuẩn khác nhau được đưa vào cùng một biểu đồ, trục y được biểu diễn theo dạng logarit. Nhìn chung, những con số này cho thấy thời gian hội tụ lý tưởng cho khối lượng công việc đang xem xét.

Hình 1. Trục y logarit: Tổng quan về kết quả Dell MLPerf Training v3.1

Phần kết luận

Chúng tôi đã nộp kết quả đạt chuẩn cho bài kiểm tra chuẩn MLCommons Training v3.1. Những kết quả này dựa trên thế hệ máy chủ Dell PowerEdge XE9680, XE8640 và XE9640 mới nhất, được hỗ trợ bởi GPU NVIDIA H100 Tensor Core. Tất cả các kết quả đều rất xuất sắc. Chúng chứng minh rằng việc mở rộng đa node là tuyến tính và việc nhiều máy chủ hơn có thể giúp giải quyết cùng một vấn đề nhanh hơn. Các kết quả khác nhau cho phép người dùng cuối đưa ra quyết định về hiệu suất mong đợi trước khi triển khai khối lượng công việc đào tạo chuyên sâu về tính toán của họ. Các khối lượng công việc trong bài nộp bao gồm phân loại hình ảnh, phân đoạn hình ảnh y tế, phát hiện đối tượng nhẹ và nặng, nhận dạng giọng nói, mô hình hóa ngôn ngữ, đề xuất và chuyển đổi văn bản thành hình ảnh. Các doanh nghiệp có thể kích hoạt và tối đa hóa quá trình chuyển đổi AI của mình với Dell Technologies một cách hiệu quả với các giải pháp của Dell.