Đường ống AI Agent tăng cường bảo mật và triển khai trong NVIDIA AI Enterprise

Các tổ chức ngày càng áp dụng các tác nhân AI để tăng hiệu quả hoạt động, cải thiện năng suất và thúc đẩy đổi mới. Các tác nhân AI tiên tiến này có thể suy luận tự động, cộng tác với các công cụ khác và tận dụng dữ liệu doanh nghiệp để nâng cao kết quả kinh doanh.

Với Dell AI Factory with NVIDIA, bạn có thể truy cập các tính năng mới nhất trong nền tảng phần mềm NVIDIA AI Enterprise để đơn giản hóa việc triển khai, tăng cường tính ổn định và hỗ trợ các luồng tác nhân AI cho các ứng dụng và trường hợp sử dụng AI mới nổi. Một luồng tác nhân AI là một quy trình làm việc có cấu trúc cho phép hệ thống AI xử lý dữ liệu đầu vào, phân tích dữ liệu, đưa ra quyết định và tạo ra đầu ra, thường có vòng phản hồi để cải tiến liên tục.

Quản lý đường ống tác nhân AI hợp lý

NVIDIA NIM , một phần của NVIDIA AI Enterprise, cung cấp một bộ các dịch vụ vi mô suy luận gốc đám mây dễ sử dụng giúp đẩy nhanh thời gian đưa ra thị trường và đơn giản hóa việc triển khai các mô hình AI tạo ra trong trung tâm dữ liệu của bạn trong khi vẫn đảm bảo dữ liệu của bạn được an toàn. Khách hàng của Dell Technologies hiện có ba con đường để triển khai các dịch vụ vi mô NIM: NIM Operator mới hơn, cung cấp tính linh hoạt cho tích hợp đường ống AI cấp sản xuất, cũng như Helm và KServe.

Với sự ra mắt gần đây của NVIDIA NIM Operator để tự động triển khai, cấu hình và quản lý các dịch vụ vi mô NIM cho các ứng dụng AI tạo sinh, việc quản lý các đường ống AI chưa bao giờ dễ dàng đến thế. Đối với các tổ chức tận dụng cơ sở hạ tầng của Dell, NIM Operator giúp tự động triển khai đường ống AI và tối ưu hóa hiệu suất trong khi xử lý việc triển khai trên toàn bộ cụm Kubernetes.

Tăng tốc triển khai tùy chỉnh với AI tạo sinh

NVIDIA NIM cũng là một thành phần quan trọng để hỗ trợ các ứng dụng AI, từ trợ lý kỹ thuật số đến sáng tạo nội dung và thị giác máy tính.

Bằng cách cung cấp NVIDIA AI Blueprints, Dell Technologies cung cấp các công thức giúp các nhà phát triển triển khai nhanh chóng và hiệu quả các ứng dụng AI với các tác nhân AI. Bổ sung vào danh mục đang phát triển, NVIDIA AI Blueprint cho tìm kiếm và tóm tắt video là để mở khóa thông tin chi tiết từ các luồng video lưu trữ hoặc trực tiếp .

Tác nhân thu thập video quy mô doanh nghiệp này tạo ra bản tóm tắt tương tác và chính xác cao về nội dung video. Nó cũng cho phép tương tác Hỏi & Đáp bằng ngôn ngữ tự nhiên được hỗ trợ bởi các mô hình ngôn ngữ trực quan (VLM). Các tác nhân này hoàn hảo cho các ứng dụng trong thành phố thông minh để quản lý giao thông và an toàn, tối ưu hóa bán lẻ, hoạt động sản xuất, v.v.

Bản phát hành mới nhất cũng tích hợp một số mô hình AI nổi bật vào nhánh sản xuất, bao gồm Llama 3.1 của Meta và Mistral 7B của Mistral AI, cùng với các mô hình NVIDIA như Nemotron-4 để tạo dữ liệu tổng hợp. Thông qua Dell Technologies, khách hàng có thể tự tin triển khai các dịch vụ vi mô NIM này, biết rằng chúng sẽ được duy trì an toàn mà không phá vỡ các phụ thuộc ứng dụng hiện có.

Đưa ra quyết định sáng suốt, nhanh hơn

Bằng cách kết hợp các bản thiết kế AI Enterprise, NIM và Agent, giờ đây khách hàng có thể áp dụng các tài nguyên này để sử dụng tác nhân AI cho hoạt động RAG hoặc Agentic RAG.

Thông báo gần đây về Agentic RAG trên Dell AI Factory với NVIDIA mang lại lợi ích cho các tổ chức trong nhiều ngành công nghiệp với bước tiến đáng kể trong việc truy xuất và xử lý thông tin do AI điều khiển. Các tổ chức quy mô lớn và dữ liệu điều khiển, bao gồm các tổ chức chăm sóc sức khỏe và tài chính hiện có thể truy cập các loại dữ liệu khác nhau để triển khai RAG, triển khai AI Agents để hợp lý hóa quy trình và cung cấp các đầu ra khác nhau hoặc kết quả đa phương thức.

Thiết kế RAG của agentic cho thấy cách các tổ chức, ví dụ như chăm sóc sức khỏe, có thể vượt qua những thách thức về dữ liệu phân mảnh (truy cập dữ liệu có cấu trúc, chẳng hạn như lịch trình và hồ sơ bệnh nhân, cùng với dữ liệu không có cấu trúc, chẳng hạn như ghi chú y tế và tệp hình ảnh) trong khi vẫn tuân thủ HIPAA (Đạo luật về khả năng chuyển đổi và trách nhiệm giải trình bảo hiểm y tế) và các yêu cầu khác.

Với AI Enterprise, NIM và NeMo Retriever, các doanh nghiệp có điểm khởi đầu toàn diện để đưa ra nhiều quyết định dựa trên dữ liệu của họ một cách nhanh chóng.

Khả dụng

Dell Technologies giúp các doanh nghiệp tận dụng NVIDIA AI Enterprise trên nhiều môi trường khác nhau. Nền tảng phần mềm NVIDIA AI Enterprise hiện có thể tải xuống cho khách hàng của Dell Technologies có giấy phép hợp lệ.

Với các bản cập nhật nhánh sản xuất và các dịch vụ vi mô NIM bổ sung sắp ra mắt, các tổ chức có thể tin tưởng vào Dell AI Factory cùng NVIDIA để được hỗ trợ toàn diện và có độ tin cậy cấp doanh nghiệp trong quá trình triển khai AI của họ.