Tăng tốc khối lượng công việc hiện đại với Đổi mới AI của AMD và Dell

Thúc đẩy giá trị từ một trong những thay đổi mô hình đột phá nhất trong thời đại của chúng ta, AI tạo sinh (GenAI), là ưu tiên quan trọng đối với các nhà lãnh đạo khi họ nỗ lực tận dụng công nghệ này vào tổ chức của mình và vượt qua các thách thức kinh doanh. Tuy nhiên, việc triển khai cơ sở hạ tầng AI phù hợp nhất để cung cấp năng lượng cho tổ chức đồng thời hỗ trợ các nhà phát triển bị hạn chế bởi sự phức tạp của việc hoạch định chiến lược AI, thường phụ thuộc vào các giải pháp hệ thống khép kín, độc quyền.

Dell Technologies và AMD đang cung cấp các giải pháp AI “nút bấm dễ dàng” mới cho phép các nhà phát triển và bộ phận CNTT linh hoạt triển khai kiến ​​trúc giúp đổi mới trong hệ sinh thái mở và các khung AI mở. Hơn nữa, khách hàng có thể dựa vào các phương pháp đã được chứng minh để tạo ra chiến lược thắng lợi nhằm tăng tốc kết quả AI với Dịch vụ của Dell.

Tăng quy mô với giá trị GenAI

Các nhà khoa học và nhà phát triển ứng dụng thường có nhiều kinh nghiệm về AI và ML. Nhưng với LLM kích thước lớn hơn, việc bắt đầu với GenAI phụ thuộc vào GPU mạnh, nhiều khung AI và công cụ tích hợp hơn, thường yêu cầu đầu tư đáng kể vào nền tảng, cấp phép phần mềm AI, v.v. Hơn nữa, các nhà phát triển có thể phải đối mặt với những rào cản đáng kể trong việc tích hợp các công cụ trong nước và mô hình thị trường mở, tùy chỉnh trình điều khiển và quan trọng nhất là thêm IP công ty vì nhiều bộ phần mềm AI tất cả trong một hạn chế việc tích hợp tùy chỉnh và có thể yêu cầu đầu tư thêm.

Đây là nơi bộ công cụ AI, phần mềm và khung công tác nguồn mở dựa trên tiêu chuẩn có thể cho phép các nhà phát triển tích hợp và mở rộng quy trình làm việc, mã và các công cụ quen thuộc của họ vào chuỗi giá trị của tổ chức để tăng tốc đổi mới.

Khai thác tính linh hoạt của nguồn mở cho điểm khởi đầu AI của bạn

Tham gia phương pháp tiếp cận khung AI nguồn mở mới nhất của Dell Technologies để cho phép phát triển các ứng dụng tùy chỉnh đồng thời loại bỏ các giới hạn của GenAI với nền tảng khung mở.

Thiết kế được xác thực mới của Dell dành cho Generative AI với khung AI hỗ trợ AMD Instinct™ và ROCm™ sẽ mở rộng hệ sinh thái Dell để giúp tăng tốc kết quả với thiết kế nhiều nút dựa trên những cải tiến mới nhất, bộ tăng tốc AMD Instinct™ MI300X và bộ AI AMD ROCm.

Giải pháp này dựa trên giải pháp tăng tốc nhanh nhất trong lịch sử Dell, ¹ máy  chủ Dell PowerEdge XE9680 , hỗ trợ tám bộ tăng tốc AMD Instinct™ MI300X. Với 192GB bộ nhớ cho mỗi GPU (hoặc tổng dung lượng 1,5 TB cho mỗi máy chủ), PowerEdge XE9680 của AMD còn cho phép các tổ chức đào tạo các mô hình lớn hơn, giảm TCO và đạt được lợi thế cạnh tranh. PowerEdge XE9680 với GPU AMD đã có sẵn để đặt hàng và sẽ có sẵn đầy đủ vào tháng 6.

Các nhà phát triển cũng có thể bắt đầu từ các ứng dụng xây dựng bàn làm việc của riêng mình, tận dụng các máy trạm Precision dựa trên AMD, chẳng hạn như Precision 7875 Tower có bộ xử lý AMD Ryzen™ Threadripper™ PRO với tối đa 96 lõi và GPU chuyên nghiệp có khả năng mở rộng.

Khối xây dựng để thúc đẩy quy mô

Với cách tiếp cận tại chỗ, giải pháp GenAI mới mang lại trải nghiệm nhanh hơn với khả năng lưu trữ AI được tối ưu hóa và kết nối AI Fabric từ Dell PowerScale F710 và Dell PowerSwitch Z9664F-ON mới nhất.

PowerScale F710 mới mang lại thời gian nhanh hơn cho những hiểu biết về AI với mức tăng lớn về hiệu suất phát trực tuyến giúp tăng tốc tất cả các giai đoạn của quy trình AI. Nó cung cấp gấp đôi thông lượng ghi trên mỗi RU so với đối thủ cạnh tranh chỉ có flash ² và có tới 10 ổ SSD NVMe ở dạng 1U nhỏ gọn để nâng cao hơn nữa hiệu quả lưu trữ và giảm thiểu dung lượng trung tâm dữ liệu. PowerScale tận dụng phần mềm OneFS và trang bị công nghệ mới nhất để mang lại sự linh hoạt cho nhiều đám mây với tích hợp Lưu trữ tệp APEX, bảo mật cấp liên bang và hiệu quả đặc biệt cho cơ sở hạ tầng AI.

Hiệu suất mạng rất quan trọng để hỗ trợ các hoạt động AI giữa GPU, máy chủ và bộ lưu trữ. Dell PowerSwitch Z9664-ON , cung cấp 64 cổng 400GbE, cung cấp kết cấu có độ trễ thấp và thông lượng cao cho các cụm AI hiện đại cùng với phân phối nguồn mở Enterprise SONiC của Dell . Những cải tiến sắp tới vào mùa hè này và các thẻ giao diện mạng mới của Broadcom sẽ tăng cường hiệu suất kết cấu AI. Sự tham gia của Dell vào Ultra Ethernet Consortium (UEC) đảm bảo các tổ chức có thể dựa vào các giải pháp mạng dựa trên tiêu chuẩn, cách tiếp cận mở để mở rộng chiến lược AI phù hợp của họ.

Tích hợp giá trị với nền tảng và công cụ phần mềm mở AI

Bộ phần mềm tiêu chuẩn mở tăng cường phát triển ứng dụng và tự động hóa quy trình làm việc. Bộ AMD ROCm mã nguồn mở được thiết kế để giải phóng sức mạnh của GPU AMD, với sự lựa chọn và khả năng tương tác cao hơn từ các khung và công cụ phần mềm phổ biến (bao gồm PyTorch và TensorFlow cũng như các ứng dụng AI khác). Được xây dựng trên các tiêu chuẩn mở, AMD ROCm giảm nhu cầu về bộ phần mềm AI độc quyền, cho phép các nhà phát triển đơn giản hóa việc phát triển và tự do tùy chỉnh quy trình công việc của họ. Hơn nữa, các nhà phát triển có thể dễ dàng phát triển với các mô hình LLM nguồn mở từ các đối tác bao gồm Hugging Face và Meta.

Việc mở rộng quy mô phát triển GenAI sang sản xuất được hỗ trợ bởi phần mềm nguồn mở Dell Omnia, phần mềm này triển khai và quản lý các cụm hiệu suất cao cho khối lượng công việc AI cùng với các phần mềm khác. Omnia cài đặt Kubernetes nguồn mở để quản lý công việc và dịch vụ. Các nhà phát triển đang liên tục mở rộng Omnia để tăng tốc độ triển khai cơ sở hạ tầng mới vào các nhóm tài nguyên có thể dễ dàng phân bổ cho các khối lượng công việc khác nhau. Với Omnia, CNTT có thể tối ưu hóa hơn nữa để nhanh chóng cung cấp cơ sở hạ tầng AI của họ. Ngoài ra, Dell còn cung cấp hỗ trợ doanh nghiệp cho Omnia, giúp khách hàng tự tin triển khai Omnia trong các môi trường quan trọng.

Đẩy nhanh hành trình AI của bạn

Để nhanh chóng phát huy sức mạnh của các giải pháp Dell Generative AI với AMD, Dell Services—gần đây được  Forbes công nhận là một trong những công ty tư vấn quản lý hàng đầu thế giới —mang đến kiến ​​thức chuyên môn sâu sắc trong mọi giai đoạn trong hành trình AI của bạn, bất kể quá trình phát triển bắt đầu từ đâu, trên một máy trạm chuyên dụng hoặc trong các máy chủ tại trung tâm dữ liệu.

Từ việc điều chỉnh chiến lược AI thành công hay chuẩn bị sẵn dữ liệu để hỗ trợ các dự án AI, đến triển khai cơ sở hạ tầng cần thiết để nhanh chóng hiện thực hóa mô hình an toàn, tối ưu hóa cho các trường hợp sử dụng chính hoặc vận hành đầy đủ giải pháp cho bạn, chúng tôi sẽ gặp bạn dù bạn ở đâu. Bằng cách giảm thiểu nỗ lực vận hành tiêu tốn thời gian và cung cấp cho nhóm của bạn các kỹ năng, phương pháp hay nhất và thời gian để tập trung vào đổi mới, bạn sẽ nhận ra ROI tối đa hiện tại và trong tương lai. Tận dụng Hội thảo tăng tốc của chúng tôi để bắt đầu phát triển quan điểm về cách doanh nghiệp của bạn sẽ tối đa hóa lợi ích từ GenAI.

Cách tiếp cận toàn diện về GenAI với nền tảng mở

Dell Technologies và AMD nhằm mục đích cho phép các nhà phát triển và CNTT tăng tốc các sáng kiến ​​AI của họ bằng cách tiếp cận các giải pháp mở, đã được chứng minh:

• • Hỗ trợ phát triển ứng dụng và trường hợp sử dụng được hỗ trợ bởi AI
  • Cung cấp các ứng dụng AI tại chỗ, an toàn trên quy mô lớn
  • Giảm rào cản trong việc tích hợp IP của công ty, các quy trình và công cụ phát triển tùy chỉnh
  • Giảm TCO và đầu tư với cơ sở hạ tầng phù hợp nhất