Bản tóm tắt

Quan hệ đối tác giữa VMware by Broadcom, Intel và Dell Technologies giúp đơn giản hóa việc triển khai cơ sở hạ tầng AI, mang đến cho khách hàng trải nghiệm liền mạch và hiệu quả. Việc tích hợp CPU Intel Xeon Scalable với Advanced Matrix Extensions (AMX) trong VMware Cloud Foundation trên Dell VxRail mang đến một giải pháp toàn diện bao gồm các thành phần phần mềm và phần cứng hỗ trợ khối lượng công việc AI trên toàn bộ cơ sở hạ tầng mà không cần phần cứng bổ sung như GPU. Khách hàng có thể chọn CPU thay vì GPU cho cơ sở hạ tầng AI của mình để phù hợp hơn với chi phí yêu cầu khối lượng công việc cụ thể và giảm mức tiêu thụ điện năng. Cách tiếp cận này giúp điều chỉnh đúng quy mô cơ sở hạ tầng, tránh các giải pháp thiết kế quá mức, tốn kém và tiết kiệm chi phí vận hành trong khi vẫn đáp ứng nhu cầu về hiệu suất.

Bằng cách sử dụng khả năng của bộ xử lý Intel Xeon thế hệ ^thứ 4 , các doanh nghiệp có thể khai thác đầy đủ lợi thế của công nghệ AI, dẫn đến kết quả kinh doanh được cải thiện. Cách tiếp cận chiến lược này mở rộng phạm vi lợi thế của AI bằng cách sử dụng hiệu quả các tài nguyên cơ sở hạ tầng hiện tại và các tính năng mạnh mẽ của bộ xử lý Intel Xeon được trang bị công nghệ AMX. Hơn nữa, khả năng tương thích liền mạch với VMware Cloud Foundation trên môi trường Dell VxRail giúp nâng cao hiệu quả chi phí, khả năng truy cập, hiệu quả vận hành và trải nghiệm, từ đó giảm Tổng chi phí sở hữu (TCO) và đẩy nhanh Thời gian đạt giá trị (TTV). Nỗ lực hợp tác giữa VMware, Intel và Dell Technologies giúp khách hàng đẩy nhanh các sáng kiến AI, từ đó hiện thực hóa tầm nhìn AI Everywhere.

Tổng quan về giải pháp

VMware Private AI là một khuôn khổ kiến trúc chiến lược được thiết kế để khai thác lợi ích kinh doanh của việc áp dụng AI, đồng thời giải quyết các yêu cầu quan trọng về quyền riêng tư và tuân thủ của tổ chức. Phương pháp tiếp cận sáng tạo này bao gồm một bộ thành phần toàn diện và chuyên môn chuyên biệt để cung cấp các dịch vụ AI ưu tiên quyền riêng tư dữ liệu, tuân thủ quy định và kiểm soát vận hành. Được phát triển hợp tác với các đối tác trong ngành – Intel và Dell Technologies, VMware Private AI cung cấp một giải pháp được thiết kế riêng, giúp doanh nghiệp duy trì quyền riêng tư dữ liệu, tận dụng sự kết hợp giữa các công cụ AI nguồn mở và thương mại, đẩy nhanh thời gian đạt giá trị và đảm bảo an ninh và quản trị mạnh mẽ.

Về cốt lõi, nền tảng VMware Private AI with Intel được xây dựng dựa trên VMware Cloud Foundation trên nền tảng Dell VxRail. Nền tảng này tận dụng các khả năng tăng tốc như tập lệnh Intel AMX, được cung cấp như một phần của hệ thống tích hợp VxRail với CPU Intel Xeon Scalable thế hệ ^thứ 4 , cung cấp một khuôn khổ cơ sở hạ tầng được tối ưu hóa, được thiết kế để tạo điều kiện thuận lợi cho việc triển khai các giải pháp AI Private trong doanh nghiệp. Khuôn khổ này cho phép khách hàng khai thác hiệu quả các lợi thế của công nghệ AI, đồng thời vẫn kiểm soát được việc sử dụng và lưu trữ dữ liệu của họ cho các trường hợp sử dụng GenAI khác nhau. Vì phương pháp này không yêu cầu bộ tăng tốc GPU, nên nó cũng không yêu cầu SR-IOV.

Bằng cách tận dụng VMware Private AI với Intel trên Dell VxRail, các tổ chức có thể hưởng lợi từ việc tích hợp bộ phần mềm AI của Intel, bộ xử lý Intel Xeon với bộ tăng tốc AI tích hợp trên chip và VMware Cloud Foundation trên Dell VxRail. Giải pháp cộng tác này cho phép khách hàng phát triển và triển khai các mô hình AI riêng trong cơ sở hạ tầng hiện có của họ, dẫn đến giảm tổng chi phí sở hữu và tập trung vào tính bền vững của môi trường. Quan hệ đối tác giữa VMware, Intel và Dell Technologies cho phép tối ưu hóa các mô hình AI nhỏ hơn, tiết kiệm chi phí và hiện đại, dễ bảo trì và cập nhật hơn trong các môi trường ảo dùng chung. Khi các tác vụ AI hàng loạt hoàn tất, các tài nguyên có thể liền mạch trở lại nhóm tài nguyên dùng chung của CNTT, sẵn sàng hỗ trợ các tác vụ suy luận đang diễn ra hoạt động liên tục thay vì theo lô. Phương pháp tiếp cận linh hoạt này hỗ trợ nhiều trường hợp sử dụng, chẳng hạn như tạo mã hỗ trợ AI, các trung tâm dịch vụ khách hàng sáng tạo sử dụng xử lý ngôn ngữ tự nhiên và phân tích thống kê/học máy truyền thống. Tất cả các ứng dụng này có thể cùng tồn tại trên cùng một máy chủ đa năng chạy các ứng dụng truyền thống và ứng dụng đám mây gốc, tối ưu hóa việc sử dụng tài nguyên và hiệu quả.

Hình 1: Kiến trúc cấp cao của VMware Private AI với Intel trên VMware Cloud Foundation trên Dell VxRail

Thành phần giải pháp

Dell VxRail

VxRail, được hỗ trợ bởi nền tảng máy chủ Dell PowerEdge và Phần mềm Hệ thống VxRail HCI, tích hợp công nghệ tiên tiến để đảm bảo tuổi thọ và khả năng thích ứng của cơ sở hạ tầng, đồng thời thúc đẩy tích hợp sâu rộng trong hệ sinh thái VMware. Phần mềm Hệ thống VxRail HCI, một bộ phần mềm tích hợp nằm giữa các thành phần cơ sở hạ tầng như vSAN và VMware Cloud Foundation, mang đến trải nghiệm vận hành liền mạch và tự động. Bằng cách sử dụng CPU Intel Xeon Scalable thế hệ ^thứ 4 của Intel với các cải tiến về AMX, bộ nhớ và lưu trữ, VxRail có thể hỗ trợ các công nghệ mới nhất. Kiến trúc linh hoạt của nó bao gồm các tùy chọn tính toán, bộ nhớ, lưu trữ, mạng và đồ họa, cho phép hiệu suất tối ưu trên nhiều ứng dụng và khối lượng công việc khác nhau.

VxRail đóng vai trò quan trọng trong việc tối ưu hóa chi phí bằng cách hợp nhất các khối lượng công việc kinh doanh quan trọng vào một nền tảng hiệu suất cao, vượt trội về độ tin cậy, chức năng và hiệu suất. Sự hợp nhất này nâng cao hiệu quả vận hành và cho phép các nhóm CNTT phân bổ lại nguồn lực hiệu quả thông qua các tính năng tăng cường năng suất như triển khai hợp lý hóa và tự động vá lỗi và cập nhật. Hơn nữa, bằng cách giảm thiểu tần suất và thời gian gián đoạn dịch vụ, VxRail là một rào cản bảo vệ chống lại thất thoát doanh thu, đảm bảo trải nghiệm người dùng liền mạch đồng thời tăng cường khả năng sao lưu, bảo vệ và phục hồi dữ liệu. Bộ xử lý Intel Xeon Scalable thế hệ ^thứ
4 với AMX và bộ phần mềm AI của Intel

Intel AMX là bộ tăng tốc AI phần cứng tích hợp trên chip, hỗ trợ bộ xử lý Intel Xeon Scalable thế hệ ^thứ 4 và ^{thứ 5 nhằm nâng cao hiệu suất đào tạo học sâu (DL) và khối lượng công việc suy luận. Nhờ tận dụng Intel AMX, các bộ xử lý này có thể chuyển đổi liền mạch giữa việc tối ưu hóa các tác vụ điện toán chung và khối lượng công việc AI. Bộ xử lý Intel Xeon Scalable thế hệ thứ 4 và}^thứ 5 mang đến cho các nhà phát triển sự linh hoạt để tận dụng bộ lệnh Intel AMX cho các chức năng chuyên biệt về AI, đồng thời sử dụng kiến trúc bộ lệnh (ISA) của bộ xử lý cho các tác vụ không liên quan đến AI. Intel đã tích hợp thêm Thư viện Mạng Nơ-ron Sâu Intel oneAPI (oneDNN) và công cụ oneAPI DL vào các công cụ AI nguồn mở được sử dụng rộng rãi như TensorFlow, PyTorch, PaddlePaddle và OpenVINO, giúp tăng cường khả năng truy cập và hiệu quả của các ứng dụng AI.

Bộ phần mềm AI của Intel được trang bị một loạt các công cụ nguồn mở mạnh mẽ và các thành phần cấp phép tùy chọn. Nó được thiết kế để hỗ trợ các nhà phát triển chạy toàn bộ quy trình công việc AI từ chuẩn bị dữ liệu đến tinh chỉnh đến suy luận, tăng tốc xây dựng khả năng mở rộng đa nút và triển khai AI trên cơ sở hạ tầng CNTT của doanh nghiệp. Sử dụng khuôn khổ oneAPI mở, bộ phần mềm này cho phép phát triển không phụ thuộc vào bộ xử lý và bộ tăng tốc phần cứng. Điều này có nghĩa là các nhà phát triển có thể tạo ứng dụng một lần và triển khai chúng trên các kiến trúc khác nhau, tránh nhu cầu duy trì nhiều cơ sở mã hoặc học các ngôn ngữ lập trình chuyên biệt. Ngoài ra, Transformer Extensions và PyTorch Extensions của Intel được tích hợp chặt chẽ với các thư viện nguồn mở Hugging Face được sử dụng rộng rãi, cung cấp các kỹ thuật tối ưu hóa tự động giúp hợp lý hóa quy trình tinh chỉnh và nén mô hình để suy luận hiệu quả. Các nhà phát triển muốn tận dụng các công cụ này có thể tải xuống Công cụ AI từ AI Tools Selector .

Nền tảng đám mây VMware

VMware Cloud Foundation đại diện cho bước tiến tiếp theo của nền tảng đám mây lai của VMware, được xây dựng dựa trên công nghệ ảo hóa máy chủ hàng đầu trong ngành là VMware vSphere. Sự cải tiến này mở rộng trình quản lý ảo hóa cốt lõi bằng cách tích hợp các tính năng lưu trữ, mạng và bảo mật được định nghĩa bằng phần mềm, mang đến cho người dùng các tùy chọn sử dụng linh hoạt tại chỗ hoặc trên đám mây công cộng. Với việc tích hợp các khả năng quản lý đám mây, nền tảng này mang đến một giải pháp đám mây lai thống nhất, trải rộng liền mạch giữa môi trường riêng tư và công cộng. Nền tảng này cung cấp một mô hình vận hành nhất quán, tận dụng các công cụ và quy trình vSphere quen thuộc, cho phép doanh nghiệp tự do triển khai ứng dụng trên nhiều môi trường khác nhau mà không gặp phải sự phức tạp của việc viết lại ứng dụng.

VMware Cloud Foundation trên VxRail

VMware Cloud Foundation trên VxRail kết hợp Dell VxRail và VMware Cloud Foundation, mang đến một giải pháp đơn giản và trực tiếp cho các ứng dụng hiện đại và đám mây lai trên một nền tảng hoàn chỉnh, tự động hóa. Tích hợp sâu giữa VxRail và VMware Cloud Foundation kết hợp các khả năng minh bạch vận hành, tự động hóa, hỗ trợ và khả năng bảo trì, mang đến trải nghiệm đám mây lai trọn gói. Doanh nghiệp có thể triển khai, lưu trữ và quản lý các máy ảo (VM) truyền thống cùng với khối lượng công việc gốc đám mây trên các môi trường lõi, biên và đám mây. Các hoạt động được tinh giản giúp CNTT nhanh chóng cung cấp cơ sở hạ tầng cho các nhà phát triển, giúp họ tạo và triển khai mã nhanh hơn để đưa ra thị trường và thúc đẩy đổi mới kinh doanh.

VxRail là hệ thống HCI duy nhất được thiết kế chung với tích hợp sâu rộng VMware Cloud Foundation. Sự tích hợp sâu rộng này mang đến trải nghiệm độc đáo với việc triển khai và quản lý cụm từ một giao diện người dùng quen thuộc, duy nhất và quản lý LCM tự động từ đầu đến cuối, đảm bảo các cụm VxRail luôn ở trạng thái được xác thực liên tục.