Tăng cường trải nghiệm AI cho doanh nghiệp

Quá trình chuyển đổi AI đã đạt được tốc độ và khả năng hỗ trợ to lớn trên toàn cầu trong năm qua, nhờ AI sáng tạo (GenAI) và tiềm năng của nó đối với các doanh nghiệp: phát triển các tính năng và sản phẩm mới nhanh hơn, tăng năng suất của người dùng, tạo ra lợi thế cạnh tranh và hơn thế nữa.

Tuy nhiên, việc đưa và mở rộng AI tổng quát trong toàn tổ chức vẫn còn là thách thức và các doanh nghiệp đang tìm kiếm các giải pháp “dễ dàng bấm nút” nhanh hơn, toàn diện hơn.

Vào năm 2024, nhiều lựa chọn AI hơn sẽ dẫn đến sự do dự

Quay lại một năm trước, khi máy chủ Dell PowerEdge XE9680 với tám GPU NVIDIA H100 Tensor Core có mặt tại NVIDIA GTC 2023—cung cấp nền tảng để tăng tốc các ứng dụng AI tổng hợp. Dell nhanh chóng làm theo với các bản thiết kế giải pháp hoàn chỉnh, cho phép các tổ chức bắt đầu phát triển AI của họ.

Những thách thức ngày nay phản ánh những tiến bộ mà ngành đã đạt được nhưng vẫn khiến các tổ chức không thể hiện thực hóa các giải pháp có thể đưa hoạt động kinh doanh của họ tiến lên phía trước: kết quả chất lượng cao, kho lưu trữ dữ liệu, sự tin cậy, quản trị và bảo mật dữ liệu, hướng dẫn và kiến ​​thức chuyên môn để vượt qua vô số lựa chọn của các mô hình, kiến ​​trúc và giải pháp trên thị trường. Dell Technologies đang mang đến những phương pháp tiếp cận mới để hỗ trợ khách hàng và vượt qua những thách thức này, với thông báo hôm nay của chúng tôi về Nhà máy Dell AI với NVIDIA.

Hiện đại hóa hoạt động với các giải pháp AI toàn diện

Việc thực hiện chiến lược AI và triển khai nó trên toàn tổ chức với khuôn khổ và cách tiếp cận nhất quán là điều khó khăn, ngay cả đối với các tổ chức tiên tiến nhất. Dell AI Factory đưa tất cả các nền tảng và dịch vụ cần thiết vào phương pháp chìa khóa trao tay để hỗ trợ toàn bộ vòng đời mô hình cho các hoạt động AI và AI tổng hợp.

Dell và NVIDIA đã hợp tác để cung cấp một giải pháp tích hợp đầy đủ và liền mạch, được thiết kế để đáp ứng các nhu cầu đa dạng trong doanh nghiệp về AI và hỗ trợ nhu cầu vận hành AI phân tán, dân chủ hóa trên nhiều địa điểm, bao gồm từ trung tâm dữ liệu đến biên và đám mây.

Dell AI Factory với NVIDIA là giải pháp đầu cuối đầu tiên trong ngành tích hợp khả năng tính toán, lưu trữ, thiết bị khách, phần mềm và dịch vụ của Dell với bộ phần mềm và cơ sở hạ tầng AI tiên tiến của NVIDIA, tất cả đều được củng cố bởi kết cấu mạng NVIDIA tốc độ cao.

Được cung cấp dưới dạng giải pháp tích hợp đầy đủ, giải pháp này tận dụng thiết kế ở cấp độ giá đỡ, với quá trình kiểm tra và xác thực nghiêm ngặt để cung cấp giải pháp liền mạch nhằm chuyển đổi dữ liệu thành thông tin chuyên sâu và kết quả có giá trị, được thiết kế đặc biệt cho các tiêu chuẩn quản trị và bảo mật dữ liệu doanh nghiệp. Nhà máy Dell AI với NVIDIA hiện đã sẵn sàng, mang đến cho doanh nghiệp cơ hội duy nhất để khai thác sức mạnh của AI nhằm thúc đẩy đổi mới và đạt được kết quả thông minh hơn, có giá trị cao hơn.

Mang lại kết quả tốt hơn với những khả năng mới

Sự phát triển của LLM và các trường hợp sử dụng đã khiến những người áp dụng sớm sử dụng các mô hình được đào tạo trước và các phương pháp tiếp cận riêng biệt để phát triển các ứng dụng cho AI tổng quát. Thật không may, các nhà phát triển, nhà khoa học CNTT và dữ liệu đã nhanh chóng nhận ra rằng LLM có mục đích chung gây ảo giác, rằng dữ liệu của công ty phải luôn được bảo mật sau tường lửa và không được chuyển tiếp lên đám mây, đồng thời việc tinh chỉnh và đào tạo cần có thời gian cũng như sức mạnh tính toán.

Áp dụng cách tiếp cận nhanh hơn việc tinh chỉnh trên các mô hình được đào tạo trước hoặc xây dựng mô hình của riêng họ (một cách tiếp cận khó khăn hơn nhiều): tạo tăng cường truy xuất (RAG) . Không phải là một cách tiếp cận mới, RAG cho phép các tổ chức tích hợp dữ liệu của họ đồng thời giảm nhu cầu dựa vào các mô hình và chuyên môn nguồn mở.

Dell AI Factory với NVIDIA hỗ trợ nhiều trường hợp và ứng dụng sử dụng AI. Nó bao gồm các giải pháp, phần mềm, phương pháp và dịch vụ toàn diện để hỗ trợ toàn bộ vòng đời của GenAI từ suy luận và RAG đến tạo mô hình và điều chỉnh mô hình.

Nhà máy Dell AI với NVIDIA mở rộng danh mục GenAI với các giải pháp mới , cho phép các tổ chức đẩy nhanh việc áp dụng AI theo cách tiếp cận đáng tin cậy và tích hợp nhiều dữ liệu hơn để có kết quả có độ chính xác cao hơn:

• • Khả năng dựa trên RAG mới cho phép khách hàng cải thiện chất lượng phản hồi LLM của họ, giảm ảo giác. RAG giảm chi phí tính toán và chuyên môn thường cần thiết để tinh chỉnh các mô hình. Khách hàng có thể tăng tốc quá trình triển khai RAG bằng cách sử dụng vi dịch vụ NVIDIA NIM và NVIDIA NeMo Retriever — sắp có bộ phần mềm NVIDIA AI Enterprise — trên cơ sở hạ tầng Dell của họ.
  • Các phương pháp tiếp cận mô hình đào tạo tùy chỉnh cho phép các nhóm khoa học dữ liệu giải quyết các vấn đề phức tạp bằng các mô hình ngôn ngữ nhỏ hơn được xây dựng hoàn toàn từ miền dữ liệu dành riêng cho doanh nghiệp. Việc đào tạo các mô hình nhỏ hơn cũng làm giảm chi phí tính toán và ảo giác từ LLM nguồn mở.

Đổi mới và kết nối được tối ưu hóa bằng AI

Khi các tổ chức mở rộng yêu cầu và xác định các trường hợp sử dụng giúp tăng năng suất và mang lại giá trị cho khách hàng cuối, họ sẽ tìm cách áp dụng các chiến lược cơ sở hạ tầng AI phục vụ nhu cầu ngày nay cũng như tương lai của họ.

Các máy chủ ngày nay được hỗ trợ bởi GPU mạnh mẽ để mang lại kết quả nhanh hơn. Và việc kết nối dữ liệu với điện toán yêu cầu kết nối tốc độ cao, kết cấu mạng được tối ưu hóa và khả năng truy cập không hạn chế vào dữ liệu, dù dữ liệu đó nằm ở đâu trong tổ chức. Nhu cầu của ngày mai sẽ thúc đẩy công nghệ hơn nữa để hỗ trợ nhiều dự án AI cho nhiều bộ phận trong một tổ chức. Cần có hiệu suất cao hơn để hỗ trợ nhu cầu suy luận ngày càng tăng cũng như đào tạo mô hình và RAG nhiều hơn cho các trường hợp sử dụng mới.

Dell Technologies đang mở rộng sự hợp tác của chúng tôi với NVIDIA để đẩy nhanh các yêu cầu trong tương lai của khách hàng:

• • Máy chủ Dell PowerEdge XE9680 đang được cải tiến để hỗ trợ GPU NVIDIA H200 Tensor Core , cũng như GPU NVIDIA B100 và B200 Tensor Core mới nhất, mang lại lộ trình hiệu suất rõ ràng để duy trì các tổ chức có yêu cầu cao và nhiều trường hợp sử dụng.
  • Dell cũng công bố hỗ trợ cho NVIDIA GB200 Grace Blackwell Superchip như một nền tảng độc lập cho các hoạt động triển khai cụ thể. Thông tin thêm sẽ có trong nửa cuối năm nay.
  • Các máy chủ Dell PowerEdge cũng đang hỗ trợ NVIDIA BlueField – 3 SuperNIC , giúp tăng tốc khả năng kết nối mở rộng cho cơ sở hạ tầng AI và khi được kết nối với các bộ chuyển mạch NVIDIA Spectrum-4 như một phần của nền tảng mạng NVIDIA Spectrum-X Ethernet hoàn chỉnh cho AI, sẽ cho phép một giao diện mới mức độ hiệu suất truyền thông mạng AI được tối ưu hóa. Hơn nữa, kết cấu AI hiệu suất cao này còn hỗ trợ kiến ​​trúc NVIDIA OVX để tăng tốc khối lượng công việc AI tổng hợp và cho phép mô phỏng song sinh kỹ thuật số với máy chủ PowerEdge.
  • Bộ lưu trữ Dell PowerScale rất quan trọng để lưu trữ các tập dữ liệu, mô hình LLM và khung phát triển. PowerScale F710 hiện đã được xác nhận với NVIDIA DGX SuperPOD với hệ thống DGX H100 . Giờ đây, khách hàng có thể xây dựng các giải pháp AI của mình với PowerScale, bộ lưu trữ dựa trên Ethernet đầu tiên được xác thực bằng DGX SuperPOD, lý tưởng cho các trung tâm dữ liệu đã được thiết kế bằng Ethernet. Dell PowerScale là một kiến ​​trúc mở rộng quy mô đã được chứng minh có khả năng giúp GPU được tận dụng tối đa trong khi vẫn duy trì tính khả dụng cao, hiệu quả vượt trội và bảo vệ các mô hình AI khỏi bị nhiễm độc dữ liệu, đảo ngược mô hình và các cuộc tấn công mạng.
  • Các giải pháp cơ sở hạ tầng được tăng tốc NVIDIA của Dell được kết hợp với bộ phần mềm NVIDIA AI Enterprise , hiện bao gồm hỗ trợ cho các vi dịch vụ suy luận NVIDIA NIM để tăng cường triển khai AI sản xuất với khả năng suy luận được tối ưu hóa trên hàng chục mô hình cộng đồng và NVIDIA.

Khả năng hiển thị dữ liệu và chuyên môn

Các tổ chức thường có kho dữ liệu, làm giảm hiệu quả tìm kiếm và chuẩn bị dữ liệu cho AI tổng hợp. Và việc thiếu chuyên môn về AI có thể tạo ra hơn nữa có thể khiến các doanh nghiệp tụt lại phía sau khi họ cố gắng bắt đầu dự án của mình. Việc tìm kiếm dữ liệu phù hợp để mang lại kết quả chất lượng cao là điều quan trọng—cũng như có được đối tác phù hợp để đẩy nhanh quá trình triển khai của khách hàng.

Dell Technologies đang tăng tốc thời gian đạt được giá trị kinh doanh ngay hôm nay với:

• • Dell Data Lake House có sẵn đầy đủ , cho phép khách hàng đưa AI vào dữ liệu của họ, cho phép các nhà khoa học dữ liệu xác định các bộ dữ liệu phù hợp cho từng dự án GenAI.
  • Dịch vụ Chuyên nghiệp của Dell tiếp tục thúc đẩy kết quả GenAI nhanh hơn với các ưu đãi Dịch vụ mới:
    • Đẩy nhanh việc triển khai hệ thống RAG.
    • Triển khai cơ sở hạ tầng đào tạo kiểu mẫu.
    • Mở rộng các dịch vụ quản lý dữ liệu cho Generative AI, bao gồm bảo mật dữ liệu .

Tăng sức mạnh cho hành trình AI của bạn với danh mục AI hàng đầu

Với các khả năng mới được công bố ngày hôm nay tại Dell AI Factory với NVIDIA, các tổ chức có thể thúc đẩy ROI nhanh hơn cũng như đạt được kết quả về thời gian nhanh hơn từ các dự án của họ bằng chiến lược AI có thể giải quyết vô số nhu cầu và trường hợp sử dụng của họ , tất cả đều được hỗ trợ bởi giải pháp AI chìa khóa trao tay, toàn diện từ đầu đến cuối. Danh mục đầu tư mở rộng của Dell Technologies thúc đẩy các mục tiêu của khách hàng bằng chiến lược cơ sở hạ tầng, nền tảng và đối tác đã được xác thực, mang đến sự đổi mới và các phương pháp đã được chứng minh để tăng tốc độ hiểu biết sâu sắc, từ dữ liệu của chính họ.