Giữ một cái đầu lạnh với Nhà cung cấp máy chủ DLC số 1

Việc sử dụng và làm mát GPU và CPU hiệu suất cao mới nhất cho AI là chủ đề nóng theo nhiều cách.

Dell Technologies đã xuất xưởng nhiều máy chủ DLC (làm mát bằng chất lỏng trực tiếp) hơn bất kỳ máy chủ OEM¹ nào khác và là công ty tiên phong về công nghệ máy chủ được thiết kế để hỗ trợ AI và các khối lượng công việc máy chủ đòi hỏi khắt khe khác. Dell đã sử dụng kinh nghiệm và kiến ​​thức chuyên môn đó để thiết kế một danh mục máy chủ làm mát bằng không khí và làm mát bằng chất lỏng trực tiếp được xây dựng có mục đích nhằm hỗ trợ các CPU và GPU mới nhất. Việc kết hợp hệ thống làm mát thông minh của Dell—danh mục máy chủ hỗ trợ DLC—cho phép khách hàng của Dell nâng mật độ tính toán trên mỗi giá đỡ và hiệu suất làm mát lên một tầm cao mới, trong khi nền tảng làm mát bằng không khí cho phép triển khai ở hầu hết mọi trung tâm dữ liệu.

Tận dụng chuyên môn về kỹ thuật nhiệt của Dell, hệ thống làm mát Dell Smart khai thác khả năng làm mát đa vector để quản lý hoạt động của quạt và nhiệt trên toàn bộ danh mục sản phẩm. Trong quá trình phát triển sản phẩm, các kỹ sư nhiệt của Dell sử dụng các thay đổi thiết kế dựa trên mô phỏng để cải thiện tốc độ và hiệu quả, chẳng hạn như phát hiện ra mức tăng luồng khí đáng kể cho phép công suất thiết kế nhiệt cao hơn (gọi là TDP) so với các lần lặp vật lý truyền thống. Phương pháp này làm tăng độ chính xác và giảm thời gian phát triển sản phẩm.

Hình 1 Phát triển sản phẩm dựa trên mô phỏng

PowerEdge XE: Mật độ cao và tính đa dạng của silicon trong hoạt động

Máy chủ PowerEdge XE được tối ưu hóa khả năng tăng tốc, được thiết kế dành riêng cho Trí tuệ nhân tạo (AI) và Điện toán hiệu năng cao (HPC). Với khả năng tăng tốc vượt trội và các tùy chọn GPU đa dạng, các nền tảng mạnh mẽ này được tối ưu hóa để biến dữ liệu thành hành động nhanh hơn. Danh mục này cung cấp nhiều lựa chọn về GPU/thương hiệu cũng như nhiều tùy chọn và khả năng làm mát khác nhau; Làm mát bằng không khí có hỗ trợ bằng chất lỏng, không khí, LAAC và làm mát bằng chất lỏng trực tiếp DLC. Sự đa dạng silicon này cho phép các nhà nghiên cứu và nhà khoa học dữ liệu tinh chỉnh hệ thống của họ để có hiệu suất tối ưu, cho dù họ đang xử lý ngôn ngữ tự nhiên, phân tích các tập dữ liệu khổng lồ hay đào tạo các mạng thần kinh phức tạp.

Hình 2 Lựa chọn GPU làm mát bằng không khí hoặc bằng chất lỏng được tăng tốc trong danh mục máy chủ XE.

Máy chủ GPU bốn chiều làm mát bằng không khí XE8640

PowerEdge XE8640 là nền tảng làm mát bằng không khí 4U cung cấp bốn GPU NVIDIA H100 Tensor 700W SXM5 được kết nối hoàn toàn với NVIDIA NVLink. Thiết kế làm mát bằng không khí của nó hỗ trợ CPU và GPU có công suất cao nhất—nhiệt độ môi trường lên tới 35 C. Được thiết kế để cho phép khách hàng triển khai máy chủ này ở hầu hết mọi trung tâm dữ liệu, XE8640 đơn giản hóa hoạt động của trung tâm dữ liệu bằng cách sử dụng hệ thống làm mát bằng không khí hỗ trợ bằng chất lỏng (LAAC). Phương pháp này sử dụng chất lỏng để thu nhiệt từ CPU và GPU, sau đó nhiệt này được truyền đến bộ tản nhiệt làm mát bằng không khí đặt ở phía sau máy chủ. Bộ tản nhiệt sau đó được làm mát bằng cách tận dụng không khí làm mát của trung tâm dữ liệu.

Hình 3 XE8640 LAAC lắp ráp Mô-đun làm mát bằng chất lỏng bên trong vòng kín làm mát bằng không khí cho GPU.

Nền tảng đa dạng GPU được tối ưu hóa về mật độ và làm mát XE9640

PowerEdge XE9640 là máy chủ socket kép 2U sử dụng DLC ​​đầy đủ để làm mát cả CPU và GPU. XE9640 được xây dựng dựa trên thành tích đã được chứng minh của Dell với khả năng làm mát bằng chất lỏng để hỗ trợ bốn dòng GPU Intel Data Center Max 1550 được kết nối hoàn toàn với XeLink hoặc bốn GPU NVIDIA H100 SXM được kết nối hoàn toàn với NVLink. XE9640 cũng hỗ trợ sử dụng thẻ PCIe tiêu chuẩn để cung cấp nhiều lựa chọn kết nối. Công nghệ làm mát bằng chất lỏng trực tiếp cung cấp giải pháp hiệu quả và tiết kiệm chi phí hơn so với các hệ thống làm mát bằng không khí truyền thống. Nó mang lại mật độ giá đỡ gấp đôi so với sản phẩm cùng loại làm mát bằng không khí, diện tích giá đỡ Dell XE8640 (2U so với 4U), đồng thời giảm nhu cầu về không khí lạnh trong trung tâm dữ liệu. Dựa trên thành tích đã được chứng minh của Dell về làm mát bằng chất lỏng, các máy chủ này được cung cấp ở dạng giá đỡ 42U hoặc 48U với các bộ phận làm mát bằng chất lỏng, bao gồm bộ phân phối làm mát (máy bơm), ống góp giá đỡ (như PDU nhưng dành cho chất làm mát) và các dịch vụ xây dựng và cài đặt toàn bộ DLC các giải pháp. Ngày nay, khách hàng đã sử dụng nền tảng này, chẳng hạn như Đại học Cambridge, nơi đã xây dựng cụm siêu máy tính AI nhanh nhất Vương quốc Anh dựa trên Dell XE9640.

Hình 4 XE9640 Mô-đun làm mát bằng chất lỏng bên trong dành cho GPU NVIDIA.

Cả XE8640 và XE9640 đều trang bị cho khách hàng sức mạnh xử lý đáng kinh ngạc, như đã thấy trong các kết quả hiệu suất gần đây sử dụng khối lượng công việc suy luận mô hình ngôn ngữ BERT ( kết quả hiệu suất PowerEdge XEx640 ). Việc triển khai XE9640 sẽ tăng gấp đôi hiệu suất suy luận trên mỗi giá so với XE8640. Dell gần đây đã xuất bản một đồ họa thông tin so sánh về lợi ích của từng cấu hình XE9640 và XE8640, bao gồm nêu bật lợi tức đầu tư điển hình của DLC trong 1,3 năm. StorageReview, một tổ chức phân tích bên thứ ba, cũng đã làm việc với ban quản lý sản phẩm của Dell để tạo ra kết quả hiệu suất PowerEdge XEx640 thực tế , khám phá các tính năng của cả hai nền tảng máy chủ.

Máy chủ GPU tám chiều tăng tốc cực cao XE9680

Được thiết kế dành cho những khách hàng có nhu cầu đào tạo các mô hình lớn về máy học và học sâu có yêu cầu khắt khe nhất, Dell PowerEdge XE9680 là máy chủ GPU giá 6U làm mát bằng không khí, ổ cắm kép, mang đến cho khách hàng nhiều sự lựa chọn hơn khi nói đến hiệu suất AI. Được thiết kế để hỗ trợ tám GPU NVIDIA H100 SXM5 hoặc tám GPU NVIDIA A100 SXM4 và bộ tăng tốc AMD Instinct™ MI300X sắp ra mắt , mang đến cho khách hàng nhiều sự lựa chọn hơn khi nói đến hiệu năng AI.

Tiến độ thúc đẩy đổi mới

Cam kết của Dell đối với sự đổi mới và chuyên môn về công nghệ máy chủ thể hiện rõ qua vai trò dẫn đầu trong việc vận chuyển các máy chủ DLC và danh mục toàn diện được thiết kế để đáp ứng nhu cầu về AI và các khối lượng công việc chuyên sâu khác. Bằng cách ưu tiên hiệu suất, hiệu quả và tính linh hoạt, Dell cho phép khách hàng khai thác sức mạnh của điện toán tiên tiến đồng thời tối đa hóa hiệu quả làm mát. Khi bối cảnh công nghệ máy chủ tiếp tục phát triển, Dell vẫn luôn dẫn đầu, thúc đẩy sự tiến bộ và trao quyền cho các tổ chức để họ tự tin đạt được các mục tiêu tính toán của mình. Dell Technologies giúp việc tìm kiếm máy chủ phù hợp cho khối lượng công việc AI và trung tâm dữ liệu của bạn trở nên dễ dàng hơn bao giờ hết. Tìm hiểu thêm về Hệ thống làm mát thông minh của Dell tại Giải pháp nguồn và làm mát trung tâm dữ liệu .

1 Tuyên bố miễn trừ trách nhiệm: Ước tính dựa trên phân tích nội bộ về các lô hàng từ năm 2018 đến năm 2022.