Hệ sinh thái mở AI sáng tạo của Dell với Bộ tăng tốc bản năng AMD

Generative AI ( GenAI ) là công cụ tăng tốc đổi mới hứa hẹn nhất trong thập kỷ với 78% những người ra quyết định CNTT cho biết họ rất hào hứng với tiềm năng mà GenAI có thể mang lại cho tổ chức của họ.¹ Hầu hết đều coi GenAI như một phương tiện để tăng năng suất, hợp lý hóa các quy trình và đạt được tiết kiệm chi phí. Khai thác công nghệ này là rất quan trọng để đảm bảo các tổ chức có thể cạnh tranh trong kỷ nguyên kỹ thuật số mới này.

Dell Technologies và AMD sắp cùng nhau công bố bản mở rộng cho danh mục Giải pháp AI sáng tạo của Dell , tiếp tục công việc tăng tốc khối lượng công việc nâng cao và mang đến cho các doanh nghiệp nhiều lựa chọn hơn để tiếp tục hành trình GenAI độc đáo của họ. Công nghệ mới này nêu bật vai trò then chốt của hệ sinh thái mở và sự đa dạng silicon trong việc trao quyền cho khách hàng bằng các giải pháp đơn giản, đáng tin cậy và phù hợp để đưa AI vào dữ liệu của họ.

Sự phát triển ngày càng tăng của dữ liệu và câu hỏi phải làm gì với dữ liệu đó là trọng tâm trong bối cảnh AI ngày nay. AI là làn sóng đổi mới mới nhất và việc nỗ lực giúp đảm bảo các tổ chức có quyền truy cập vào sức mạnh tính toán cần thiết để thúc đẩy động cơ đổi mới của họ chính là chìa khóa. Cùng với AMD, chúng tôi có thể mang đến cho khách hàng nhiều sự lựa chọn hơn để hỗ trợ khối lượng công việc AI và GenAI của họ hơn trước.

Giải pháp tăng tốc nhanh nhất trong lịch sử Dell,² Dell PowerEdge XE9680 , sẽ hỗ trợ bộ tăng tốc AMD Instinct™ MI300X sắp ra mắt, mang đến cho khách hàng nhiều sự lựa chọn hơn khi nói đến hiệu suất AI. PowerEdge XE9680 với AMD Instinct MI300X cung cấp khả năng hiệu suất cao cho các doanh nghiệp đang tìm cách khai thác giá trị dữ liệu và tạo sự khác biệt cho hoạt động kinh doanh của họ bằng các mô hình ngôn ngữ lớn (LLM) tùy chỉnh. Với tám GPU MI300X, 192GB Bộ nhớ băng thông cao 5,3 TB/giây (HBM3) trên mỗi GPU cho tổng dung lượng HBM3 nhất quán là 1,5 TB trên mỗi máy chủ và hơn 21 petaflop hiệu suất FP16, PowerEdge XE9680 với MI300X sẵn sàng dân chủ hóa hơn nữa quyền truy cập vào GenAI dành cho các doanh nghiệp mong muốn đào tạo các mô hình lớn hơn, giảm diện tích trung tâm dữ liệu, giảm TCO và đạt được lợi thế cạnh tranh.

Cùng với sự hỗ trợ cho Bộ tăng tốc bản năng AMD MI300X, chúng tôi cũng công bố bước tiếp theo của Giải pháp AI sáng tạo của Dell, giúp các tổ chức triển khai GenAI đáng tin cậy dễ dàng hơn với Thiết kế được xác thực của Dell cho AI sáng tạo với AMD.

Thiết kế được xác thực mới này của Dell dành cho Generative AI với khung AI hỗ trợ AMD ROCm™, sẽ ra mắt vào năm tới, mở rộng hệ sinh thái Giải pháp AI thế hệ của Dell và sẽ bao gồm các mô hình ngôn ngữ lớn nguồn mở. AMD ROCm™ là một tập hợp các trình điều khiển, bộ công cụ dành cho nhà phát triển và API mã nguồn mở dành cho bộ tăng tốc AMD Instinct. Thiết kế được xác thực của Dell dành cho Generative AI giúp khách hàng của Dell dễ dàng xây dựng nền tảng GenAI đáng tin cậy phù hợp với nhu cầu của họ bằng cách loại bỏ phỏng đoán khỏi các cân nhắc về tích hợp, hiệu suất và kích thước.

Sách điện tử và đồ họa thông tin mới nhất của Dell trình bày cách các khung AI và ML nguồn mở được tối ưu hóa ROCm như PyTorch, TensorFlow, ONNX-RT, JAX và OpenAI Triton có hỗ trợ riêng cho PowerEdge XE9680 với MI300X, cho phép hỗ trợ cài đặt đơn giản cho LLM dựa trên những framework phổ biến này. Đọc loạt blog gồm ba phần của chúng tôi để tìm hiểu thêm và khám phá các mẫu mã:

Phần 1: AMD ROCm đã sẵn sàng triển khai khối lượng công việc AI hàng đầu chưa?

Phần 2: Cách chạy dòng máy Hugging Face với AMD ROCm trên Dell PowerEdge

Phần 3: Cách chạy Llama 2 qua model Hugging Face với AMD ROCm

PowerEdge XE9680 là một cỗ máy mạnh mẽ về hiệu suất và là nhà vô địch về tính bảo mật và sự đơn giản. Phần mềm Dell Open Management Enterprise đơn giản hóa và tăng tốc việc triển khai cơ sở hạ tầng GenAI, trong khi phần mềm CloudIQ cung cấp khả năng tự động hóa thông minh từ mọi nơi. PowerEdge XE9680 được hỗ trợ bởi tính năng phục hồi không gian mạng tích hợp và phương pháp tiếp cận Zero Trust rộng rãi để bảo mật cao hơn.

PowerEdge XE9680 tận dụng Nền tảng Bản năng AMD được hỗ trợ bởi tám bộ tăng tốc AMD Instinct MI300X, cho phép đào tạo và suy luận GenAI phân tán có độ trễ thấp và quy mô gần như tuyến tính với Kết nối bộ nhớ toàn cầu (xGMI) trải rộng trên một cụm máy chủ PowerEdge kết nối các GPU MI300X qua Ethernet dựa trên Cấu trúc AI sử dụng cấu trúc GPU được Dell xác nhận với Dell PowerSwitch Z9664F-ON .

Là thành viên của Hiệp hội Ultra Ethernet (UEC), Dell tiếp tục ủng hộ mạng dựa trên tiêu chuẩn. Dell Technologies có vị thế độc đáo để nhận ra toàn bộ tiềm năng của một phương pháp tiếp cận mở bằng cách triển khai nó trên toàn bộ giải pháp GenAI: điện toán, kết cấu và lưu trữ. Dell PowerEdge XE9680 với bộ tăng tốc AMD Instinct™ MI300X và Thiết kế được xác thực của Dell cho Generative AI với AMD sẽ có mặt trên thị trường vào nửa đầu năm 2024.

Tìm hiểu thêm về dòng máy chủ tăng tốc Dell PowerEdge XE.

Xem thông tin mới nhất về các sản phẩm tăng tốc AI ngày càng tăng của Dell, bao gồm cả AMD Instinct MI300X.

AMD, logo AMD Arrow, AMD Instinct và sự kết hợp của chúng là thương hiệu của Advanced Micro Devices.
¹ Khảo sát xung AI sáng tạo của Dell Technologies , tháng 10 năm 2023
² Dựa trên phân tích của Dell, tháng 8 năm 2023