Dell, VMware và NVIDIA mang AI vào dữ liệu của bạn

Thông báo của VMware Explore mở rộng nhiều giải pháp đa dạng của Dell Technologies cho AI tổng hợp.

Giải pháp AI sáng tạo của Dell ra mắt vào tháng 7 năm nay. Dell cung cấp kiến ​​trúc mô-đun đầy đủ cho các doanh nghiệp đang tìm kiếm kiến ​​trúc an toàn, hiệu suất cao, đã được chứng minh để triển khai các mô hình ngôn ngữ lớn (LLM). Nhu cầu đột ngột về AI sáng tạo (GenAI) tại nơi làm việc đã tạo ra sự thay đổi lớn trong việc lập kế hoạch CNTT và tiếp tục tạo ra những làn sóng trong ngành. Theo đó, nhu cầu về các máy chủ được tăng tốc GPU nhằm thúc đẩy hoạt động đào tạo và suy luận cường độ cao về mặt tính toán của quy trình công việc GenAI đã bùng nổ. Danh mục máy chủ, máy trạm, bộ lưu trữ và mạng Dell được tăng tốc GPU hàng đầu trong ngành là nền tảng của Giải pháp AI Sáng tạo của Dell. Thiết kế được xác thực của Dell cho Generative AI với NVIDIA kết hợp điều này vào các thiết kế cơ sở hạ tầng AI đã được thử nghiệm với NVIDIA AI Enterprise.

Hoạt động đào tạo và suy luận LLM thiên về điện toán đòi hỏi cơ sở hạ tầng tốt nhất cho trung tâm dữ liệu, được hỗ trợ bởi các dịch vụ chuyên nghiệp của chuyên gia và chứng nhận cứng nhắc về các giải pháp phần mềm doanh nghiệp. Thông báo về VMware Private AI do NVIDIA cung cấp tại VMware Explore tiếp tục xác nhận phương pháp tiếp cận tốt nhất của Dell đối với các giải pháp dành cho GenAI. Khách hàng của Dell giờ đây thậm chí còn có nhiều lựa chọn hơn để quản lý cơ sở hạ tầng GenAI và tài nguyên CNTT. Với sự ra mắt của VMware Private AI, VMware và NVIDIA hứa hẹn sẽ dân chủ hóa GenAI và khơi dậy sự đổi mới kinh doanh cho tất cả các doanh nghiệp.

Nền tảng mới dành cho GenAI với phần mềm NVIDIA AI Enterprise và VMware Cloud Foundation ™, khi chạy trên máy chủ Dell PowerEdge hoặc hệ thống VxRail , mang lại AI tổng quát cho các doanh nghiệp đang tìm cách tích hợp các giải pháp AI vào đám mây riêng hoặc trung tâm dữ liệu của họ. VMware Private AI cũng hỗ trợ các nền tảng MLOps từ cnvrg.io , Domino , Kubeflow và run:ai .

Quỹ VMware Private AI Foundation do NVIDIA cung cấp được thiết kế để giúp các tổ chức dễ dàng áp dụng và triển khai GenAI trên quy mô lớn bằng cách sử dụng các công cụ quen thuộc để quản lý máy ảo, bộ chứa và cơ sở hạ tầng đám mây lai. Bằng cách kết hợp NVIDIA AI Enterprise với tính linh hoạt và khả năng mở rộng của VMware Cloud Foundation, được hỗ trợ bởi máy chủ Dell PowerEdge, các tổ chức có thể tăng tốc các dự án GenAI của mình và mang lại giá trị kinh doanh nhanh hơn.

Hình 1. Kiến trúc tham chiếu AI của VMware Private

Tại sao VMware Private AI Foundation được hỗ trợ bởi NVIDIA?

Với VMWare Private AI, các tổ chức tránh được các rào cản trong cơ sở hạ tầng CNTT của doanh nghiệp – giảm bớt những vấn đề đau đầu về quản lý, rủi ro bảo mật hoặc lỗ hổng kỹ năng có thể xảy ra khi quản lý nhiều nhóm phần mềm. Khả năng chạy các giải pháp AI tổng quát trong môi trường nền tảng đám mây vSphere hoặc VMware truyền thống của bạn kết hợp khả năng quản lý và quản trị hoàn thiện của VMware với tiềm năng thú vị của AI tổng quát. Ngoài ra, giải pháp này còn cho phép CNTT:

    • Sự linh hoạt của sự lựa chọn . Kiến trúc mô-đun hỗ trợ nhiều loại phần mềm AI giúp tổ chức linh hoạt lựa chọn giải pháp đáp ứng tốt nhất nhu cầu của mình.
    • Sự tự tin trong việc triển khai . Đẩy nhanh quá trình đổi mới và chuyển đổi kinh doanh bằng các thiết kế đã được xác thực dành cho GenAI. Giảm thiểu rủi ro AI, chẳng hạn như rò rỉ dữ liệu và IP cũng như độ chính xác của mô hình.
    • Hiệu suất không khoan nhượng . Nền tảng này hỗ trợ nhiều công nghệ GPU và tổng hợp GPU, có thể cung cấp hiệu suất tương đương với kim loại trần.
    • Tăng năng suất . Tự động hóa các nhiệm vụ và quy trình thủ công lặp đi lặp lại, giúp nhân viên rảnh tay để tập trung vào công việc mang tính chiến lược hơn.

GenAI trong doanh nghiệp

Nền tảng VMware Private AI Foundation do NVIDIA cung cấp được thiết kế để khai thác giá trị của dữ liệu và cho phép các nhóm tập trung vào các hoạt động chiến lược mang lại nhiều giá trị hơn cho doanh nghiệp của bạn. Việc đào tạo và tùy chỉnh GenAI LLM được điều chỉnh để đáp ứng nhu cầu của bạn có thể mang lại kết quả chính xác hơn và mang lại lợi thế cạnh tranh cho doanh nghiệp của bạn. Các trường hợp sử dụng bao gồm:

    • Tạo mã . Tạo mã để giúp các nhà phát triển tăng tốc độ của họ
    • Độ phân giải của trung tâm liên lạc . Cải thiện chất lượng và độ chính xác của các tương tác dịch vụ khách hàng
    • Tạo nội dung/Quản lý nội dung . Tạo và quản lý văn bản, nội dung web, đồ họa và video
    • Tự động hóa hoạt động CNTT . Tự động hóa các nhiệm vụ CNTT lặp đi lặp lại, giảm chi phí và nâng cao hiệu quả
    • Truy xuất thông tin nâng cao . Tìm kiếm thông tin nhanh chóng và hiệu quả.
    • Bán hàng . Sử dụng chatbot với khả năng sáng tạo nội dung ngày càng tinh vi
Hình 2. Dòng sản phẩm Dell PowerEdge dành cho GenAI

Giải pháp Dell GenAI

Dell có danh mục cơ sở hạ tầng GenAI rộng nhất thế giới, trải dài từ đám mây, trung tâm dữ liệu đến thiết bị khách  tất cả ở một nơi.¹

Máy chủ Dell PowerEdge mạnh mẽ và đáng tin cậy, hỗ trợ một số cấu hình lý tưởng để chạy khối lượng công việc GenAI. Danh mục Dell PowerEdge bao gồm nhiều máy chủ PowerEdge R760xa chính thống có GPU dựa trên PCIe như NVIDIA L40 để tùy chỉnh và suy luận GenAI, đến các máy chủ chuyên dụng như PowerEdge XE9680 với GPU NVIDIA H100 Tensor Core SXM tám chiều mới nhất cho LLM lớn khối lượng công việc đào tạo. Dell Technologies, VMware và NVIDIA đang mang đến cho các doanh nghiệp một hướng đi mới với các giải pháp mở khóa GenAI trên toàn doanh nghiệp. Các công ty đang tiến hành xác nhận chéo và chứng nhận liên tụccủa các công nghệ kết hợp. Dell cũng duy trì một danh mục chương trình cơ sở và các hình ảnh tùy chỉnh của các bản phát hành hệ điều hành VMware ESXi để tích hợp và triển khai các sản phẩm VMware một cách dễ dàng.

Cơ sở hạ tầng siêu hội tụ (HCI) của Dell VxRail tăng tốc con đường dẫn tới các giải pháp đám mây riêng và đám mây lai của VMware cho GenAI với VMware Cloud Foundation (VCF) trên VxRail .

    • Hỗ trợ khối lượng công việc đòi hỏi khắt khe với hàng nghìn tùy chọn cấu hình và cơ sở hạ tầng được chứng minh trong tương lai với hỗ trợ nút thế hệ hỗn hợp trên HCI được thiết kế chung duy nhất với VMware
    • Cung cấp khả năng quản lý vòng đời tự động của toàn bộ ngăn xếp, từ phần cứng đến bộ ảo hóa, bao gồm cả GPU NVIDIA
    • VxRail là một trong những hệ thống HCI đầu tiên được NVIDIA AI Enterprise chứng nhận về giải pháp được quản lý để dễ dàng triển khai và quản lý khối lượng công việc GenAI

Giải pháp phát triển cho trí tuệ nhân tạo

Dell Technologies, VMware và NVIDIA hợp tác chặt chẽ với nhau để cung cấp danh mục ngày càng tăng các Thiết kế và dịch vụ được Dell xác thực cho AI, có thể giúp các tổ chức bắt đầu với AI một cách nhanh chóng và dễ dàng. Những giải pháp này bao gồm:

    • AI cho môi trường ảo hóa . Thiết kế này sử dụng VMware Cloud Foundation và NVIDIA AI Enterprise để triển khai khối lượng công việc AI trên cơ sở hạ tầng ảo hóa cho máy chủ Dell PowerEdge và VxRail HCI.
    • AI sáng tạo với NVIDIA . Thiết kế này sử dụng NVIDIA AI Enterprise trên máy chủ Dell PowerEdge để mang lại hiệu suất cao và khả năng mở rộng cho khối lượng công việc AI.

1 Dựa trên phân tích của Dell, tháng 8 năm 2023. Dell Technologies cung cấp các giải pháp được thiết kế để hỗ trợ khối lượng công việc AI từ PC máy trạm (di động và cố định) đến Máy chủ dành cho Điện toán hiệu năng cao, Lưu trữ dữ liệu, Cơ sở hạ tầng được xác định bằng phần mềm trên nền tảng đám mây, Bộ chuyển mạch mạng, Bảo vệ dữ liệu, HCI và Dịch vụ.