Thúc đẩy phát triển ứng dụng AI

Không có gì bí mật khi các ứng dụng và mô hình AI thường rất cần dung lượng lưu trữ, dù là để lưu trữ dữ liệu cho mục đích huấn luyện, lưu trữ các mô hình đã huấn luyện, cho các tập dữ liệu bổ sung cho Retrieval-Augmented Generation (RAG), hay cho dữ liệu đầu vào để hệ thống xử lý. Các mô hình lớn đòi hỏi rất nhiều bộ nhớ GPU và thậm chí cả các tập dữ liệu lớn hơn trên các hệ thống lưu trữ chia sẻ có thể truy cập qua mạng để huấn luyện.

Với sự hỗ trợ liên tục cho bộ lưu trữ khối Dell PowerFlex và hiện tại là hỗ trợ cho bộ lưu trữ đối tượng S3 bằng các giải pháp như Dell ObjectScale, phiên bản mới nhất của Dell APEX Cloud Platform dành cho OpenShift có thể mở ra nhiều khả năng lưu trữ linh hoạt hơn để giúp bạn làm được nhiều việc hơn với dữ liệu của mình.

Ngoài ra, với khả năng hỗ trợ mới cho GPU NVIDIA L40s, chúng tôi giúp việc theo dõi kích thước mô hình dễ dàng hơn một chút và cung cấp khả năng đồng thời và khả năng mở rộng cao hơn cho các ứng dụng. Những cải tiến này biến Dell APEX Cloud Platform for OpenShift trở thành nền tảng lý tưởng để phát triển và triển khai các ứng dụng AI.

Trợ lý kỹ thuật số được Dell xác thực có thiết kế bộ não lớn hơn

Để giới thiệu phần cứng và hỗ trợ lưu trữ mới, Thiết kế được Dell xác thực dành cho trợ lý kỹ thuật số đã được cập nhật để sử dụng mô hình Llama2-13b được lưu trữ trên bộ lưu trữ đối tượng Dell.

Thiết kế Xác thực của Dell Technologies là những cấu hình được kiểm tra và chứng minh, được thiết kế ngay từ đầu để đáp ứng linh hoạt nhu cầu dựa trên các trường hợp sử dụng cụ thể. Các giải pháp tích hợp này đã được kiểm tra và ghi chép nghiêm ngặt để giúp tăng tốc và đơn giản hóa việc triển khai các giải pháp mới. Bằng cách cung cấp các giải pháp CNTT với các lựa chọn thiết kế linh hoạt và hướng dẫn lựa chọn linh kiện phù hợp, Thiết kế Xác thực này có thể rút ngắn thời gian triển khai – giảm thiểu, hoặc trong một số trường hợp, loại bỏ, thời gian thiết kế, kiểm tra và tích hợp linh kiện.

Thiết kế trợ lý kỹ thuật số được cập nhật dựa trên kiến ​​trúc vi dịch vụ có sẵn trong OpenShift và tận dụng khả năng xây dựng và phục vụ ứng dụng AI của OpenShift AI, bao gồm việc sử dụng các quy trình khoa học dữ liệu.  

Các pipeline có thể được tạo trong sổ ghi Jupyter, xuất ra và sau đó nhập vào OpenShift AI để cho phép thực thi tự động lặp lại và lên lịch. Trong trường hợp này, chúng tôi sử dụng nó để thăm dò chia sẻ tệp mạng, tìm tài liệu mới được thêm vào và cập nhật cơ sở dữ liệu vector nhúng với kết quả mới. Điều này giúp kết quả của chúng tôi phù hợp hơn khi thông tin thay đổi, vì các mô hình cơ sở có xu hướng tụt hậu so với kiến ​​thức mới nhất và cập nhật nhất.

Để thể hiện tất cả các khả năng tinh chỉnh trợ lý AI, giao diện người dùng đã được cập nhật với một số tính năng mới. Giờ đây, giao diện cho phép bạn chọn các kho lưu trữ tài liệu RAG khác nhau để tách biệt các danh mục tài liệu được nhập. (Hãy tưởng tượng việc bạn muốn đảm bảo rằng bộ phận kỹ thuật không có quyền truy cập vào tài liệu của bộ phận tài chính, và ngược lại.) Bạn có thể thay đổi chính mô hình và điều chỉnh các tham số bổ sung để tăng tính sáng tạo hoặc độ chính xác.

Phiên âm âm thanh bằng AI: Nói và đánh vần bằng dịch vụ giọng nói NVIDIA Riva

Phiên âm và dịch thuật âm thanh bằng AI là một giải pháp khác có tiềm năng kinh doanh trong nhiều ngành. Thật dễ dàng để thấy công nghệ nhận dạng giọng nói tự động và xử lý ngôn ngữ tự nhiên NVIDIA Riva, chạy trên nền tảng Dell APEX Cloud Platform dành cho OpenShift với GPU L40S, có thể giúp mọi người cùng hiểu rõ và giải quyết các vấn đề vượt qua rào cản ngôn ngữ.

Thiết kế tham khảo của Dell dành cho dịch vụ giọng nói NVIDIA Riva trên OpenShift AI không chỉ cho thấy cách OpenShift AI có thể được sử dụng để kiểm tra và làm quen với công nghệ AI mà còn cho thấy cách sau khi phát triển ứng dụng hoàn tất, trình xây dựng OpenShift có thể lấy mã của bạn và nhanh chóng biến nó thành ứng dụng chứa trong container.

Từ khâu ươm tạo ứng dụng AI đến khâu sản xuất, Nền tảng Đám mây Dell APEX không chỉ là một sân chơi cho các trợ lý ảo: đó là một môi trường nơi các nhà khoa học dữ liệu và nhà phát triển có thể hợp tác, sáng tạo và giải quyết các vấn đề kinh doanh bằng AI. Dell và các đối tác của chúng tôi tiếp tục cung cấp các giải pháp phần cứng và phần mềm có thể là bệ phóng cho sự đổi mới, và chúng tôi cam kết cung cấp các công cụ liền mạch, mạnh mẽ và trực quan, giúp chuyển đổi cách chúng ta tương tác với công nghệ AI.