Dẫn đầu xu hướng: Các giải pháp OCP của Dell thúc đẩy đổi mới AI

Trong thế giới năng động của các trung tâm dữ liệu, các tiêu chuẩn mở đã trở thành nền tảng cho sự đổi mới và hiệu quả. Đến năm 2029, các doanh nghiệp trên toàn cầu dự kiến ​​sẽ phát triển cơ sở hạ tầng trí tuệ nhân tạo (AI) của mình với chi tiêu đạt 422,55 tỷ đô la, tăng trưởng với tốc độ kép là 44 phần trăm trong năm năm tới ¹ . Cộng đồng Nền tảng điện toán mở (OCP), với sự tận tâm dành cho phần cứng nguồn mở, đang đi đầu trong phong trào này. Hệ thống có thể mở rộng giá tích hợp (IRSS) của Dell thể hiện các nguyên tắc này, cung cấp các giải pháp mạnh mẽ, có khả năng thích ứng được thiết kế để đáp ứng các nhu cầu riêng biệt của các triển khai AI quy mô lớn.  

Hệ thống mở rộng tích hợp Rack (IRSS) của Dell – Phù hợp hoàn hảo cho AI quy mô lớn và điện toán dày đặc

Giới thiệu Integrated Rack 7000 (IR7000), PowerEdge M7725 và PowerEdge XE9712 mới. Các sản phẩm mới này cung cấp giải pháp liền mạch và mạnh mẽ cho các trung tâm dữ liệu hiện đại khi khối lượng công việc AI làm tăng nhu cầu về công nghệ cung cấp khả năng tính toán dày đặc, tiết kiệm năng lượng có thể đáp ứng các tiến bộ công nghệ trong tương lai. IRSS của Dell phù hợp với các tiêu chuẩn giá đỡ của Dự án tính toán mở và hỗ trợ hoạt động của trung tâm dữ liệu thông qua khả năng mở rộng và hiệu quả năng lượng được cải thiện.  

Các tính năng chính của IR7000, PowerEdge M7725 và XE9712

Dell Integrated Rack 7000 (IR7000) là cơ sở hạ tầng rack dựa trên Open Rack Version 3 (Orv3) 21” với khả năng tính toán dày đặc và làm mát bằng chất lỏng cho GPU và CPU TDP cao. Trước ORV3, các kết nối đa tạp làm mát bằng chất lỏng trực tiếp (DLC) là độc quyền và không tương thích khi cố gắng thêm các máy chủ có các OEM DLC khác nhau vào một rack duy nhất. Cơ sở hạ tầng mô-đun kết nối nhanh thế hệ tiếp theo của Dell thiết lập hướng đi trong tương lai cho khối lượng công việc hiệu suất cao đào tạo các mô hình AI lớn. 

• Nguồn điện linh hoạt: Các kệ nguồn điện xoay chiều hiện hỗ trợ 33kW đến 264kW cho mỗi giá đỡ với mục tiêu đạt 480kW cho các triển khai trong tương lai 
• Sẵn sàng cho tương lai: Hệ thống dạng 44OU & 50OU dựa trên tiêu chuẩn OCP với các thanh trượt rộng hơn, cao hơn sẽ hỗ trợ nhiều thế hệ kiến ​​trúc CPU 
• Hiệu quả: Tiêu thụ và tản nhiệt và công suất cao bằng cách cung cấp khả năng mở rộng công suất liền mạch và thu nhiệt gần 100% 
• Tối ưu hóa IO phía trước: Cấu hình tùy chỉnh có thể chứa I/O linh hoạt hoặc lưu trữ trong thiết kế vỏ bọc 21 inch 

Dell PowerEdge M7725 được thiết kế chuyên dụng cho tính toán dày đặc. PowerEdge M7725 hỗ trợ hai bộ xử lý AMD EPYC thế hệ thứ 5 cung cấp 37% lệnh trên mỗi xung nhịp (IPC) cao hơn cho điện toán hiệu suất cao (HPC) so với các thế hệ trước. Một IR7000 duy nhất có thể chứa 72 nút máy chủ M7725 và cung cấp tới 27.000 lõi trên mỗi giá đỡ. M7725 cung cấp khả năng bảo trì được cải thiện với IO phía trước cũng như nguồn điện không cần cáp và kết nối DLC. M7725 với Giá đỡ IR7000 cho phép khả năng thu nhiệt trung tính trong phòng (gần 100%) thông qua công nghệ thu nhiệt cửa sau độc quyền của Dell. 

• Có thể mở rộng : Có thể hỗ trợ tối đa 72 nút trên mỗi giá 50OU, cung cấp tối đa 27.000 lõi trên mỗi giá. Bộ xử lý AMD thế hệ thứ 5 cung cấp IPC cao hơn 37% cho khối lượng công việc HPC 
• IO tốc độ cao : 2 khe cắm IO (PCIe Gen5 x 16) trên mỗi nút cho phép tốc độ truyền dữ liệu tốt nhất trong phân khúc (hỗ trợ cả tùy chọn Ethernet và InfiniBand) và một khe cắm OCP bổ sung để kết nối quản lý máy chủ 
• Nguồn điện & Làm mát : Cung cấp nguồn điện và làm mát hiệu quả cho hai bộ xử lý 500W trong một hệ số hình thức dày đặc với Cơ sở hạ tầng giá đỡ IR7000 

Dell PowerEdge XE9712 mở rộng Nhà máy AI của Dell với giải pháp NVIDIA GB200 NVL72. Dựa trên thành công của XE9680 với GPU HGX 8 chiều, XE9712 cung cấp hiệu suất LLM nhanh hơn với 72 GPU hoạt động như một trong một giá đỡ duy nhất. Nó sẽ được triển khai như các siêu POD ở quy mô lớn, hoàn chỉnh với mạng lưới đầy đủ giữa các giá đỡ, được hỗ trợ bởi các dịch vụ triển khai theo quy mô giá đỡ chìa khóa trao tay của Dell, chuỗi cung ứng và hậu cần.

• Hiệu quả hơn 25 lần so với H100
• Suy luận LLM tham số nghìn tỷ thời gian thực nhanh hơn 30 lần so với H100 
• Kiến trúc làm mát bằng chất lỏng đảm bảo quản lý nhiệt hiệu quả, cho phép hiệu suất cao hơn và xử lý dữ liệu nhanh hơn. 

AI sẵn sàng cho tương lai

Hệ thống Rack Scalable tích hợp của Dell, bao gồm IR7000, PowerEdge M7725 và XE9712, cung cấp giải pháp liền mạch, gắn kết được thiết kế riêng cho khách hàng OCP. Bằng cách áp dụng các tiêu chuẩn mở và cung cấp hiệu suất và hiệu quả vô song, những cải tiến này trao quyền cho các trung tâm dữ liệu để đáp ứng những thách thức của tương lai. 

Truy cập trang web Máy chủ Dell PowerEdge mới của chúng tôi để biết thêm thông tin về cách thúc đẩy sự đổi mới và tính bền vững trong hoạt động của bạn.   

^{1 WSJ, Các trung tâm dữ liệu sẵn sàng cho AI đang chuẩn bị cho sự tăng trưởng nhanh chóng, https://www.wsj.com/articles/ai-ready-data-centers-are-poised-for-fast-growth-fadae952, tháng 8 năm 2023}