Trong bối cảnh kinh doanh ngày nay, chìa khóa để triển khai và sử dụng AI hiệu quả là hiểu các trường hợp sử dụng trong tổ chức và xác định các phương pháp tiếp cận AI tốt nhất và thường nhanh nhất, mang lại kết quả nhanh chóng. Dữ liệu chất lượng cao và các phương pháp truy xuất hiệu quả như RAG (thế hệ tăng cường truy xuất) cũng có nhu cầu cao. Tại SC24, sự đổi mới mới trong Nhà máy AI Dell với NVIDIA tiếp tục đẩy nhanh giá trị của AI đối với các doanh nghiệp trong khi chuẩn bị cho tương lai.
Ứng dụng AI đặt ra những yêu cầu mới
Khi các tổ chức cảm thấy tự tin hơn về kết quả AI được áp dụng cho các trường hợp sử dụng của phòng ban, các ứng dụng genAI đang tăng nhanh và mở rộng trên toàn tổ chức. Việc sử dụng các LLM nền tảng, quy mô lớn hơn cũng tăng lên cũng như sự lựa chọn để giải quyết các trường hợp sử dụng khác nhau với kết quả đa phương thức, đặt ra nhiều nhu cầu hơn đối với cơ sở hạ tầng AI.
Sự quan tâm đến RAG cũng tăng lên đáng kể, do khả năng cho phép đưa ra quyết định phong phú hơn dựa trên dữ liệu của chính công ty, đồng thời giảm ảo giác. RAG có thể dễ dàng được mở rộng trên toàn tổ chức cho những người làm công việc trí óc và đặc biệt hữu ích cho trợ lý kỹ thuật số và chatbot có dữ liệu theo ngữ cảnh. Tuy nhiên, dữ liệu không đầy đủ, thiếu nhiều nguồn và lời nhắc phức tạp vẫn có thể hạn chế tiềm năng của RAG, đặc biệt là đối với các tổ chức lớn dựa trên dữ liệu.
Việc cung cấp cho quản trị viên CNTT một kế hoạch tăng trưởng và hỗ trợ cho khối lượng công việc mới nổi ở quy mô lớn với phương pháp tiếp cận cơ sở hạ tầng AI nhất quán cũng như các phương pháp tiếp cận mới để chuyển đổi các tập dữ liệu lớn thành giá trị sẽ rất quan trọng.
Nâng cao tiêu chuẩn hiệu suất AI
Dell AI Factory với NVIDIA cung cấp hiệu suất cho các ứng dụng AI, cho phép khách hàng có cách tiếp cận hợp lý để đơn giản hóa việc triển khai AI với cách tiếp cận tập trung vào kết quả có thể mở rộng và nhất quán. Hôm nay, Dell công bố các nền tảng tính toán tăng tốc NVIDIA mới được thêm vào Dell AI Factory với NVIDIA, mang lại hiệu suất cho các ứng dụng AI mới nổi, tăng hiệu quả cho suy luận và tăng tốc trên nhiều ứng dụng doanh nghiệp.
Các trung tâm dữ liệu siêu nạp, nền tảng NVIDIA HGX H200 và NVIDIA H100 NVL, mang đến công nghệ tiên tiến với sức mạnh xử lý mạnh mẽ và hiệu quả năng lượng được cải thiện cho các ứng dụng genAI và HPC. Với những bổ sung này dành cho PowerEdge XE9680 và máy chủ rack, những khách hàng đã triển khai Dell AI Factory với NVIDIA có thể nhanh chóng mở rộng phạm vi hoạt động của mình với cùng nền tảng, hướng dẫn và hỗ trợ chất lượng cao để đẩy nhanh các dự án AI của họ. Việc cung cấp các cấu hình này với NVIDIA HGX H200 và H100 NVL được lên lịch vào cuối năm.
Đưa ra quyết định sáng suốt, nhanh hơn
RAG đã thúc đẩy năng suất và cung cấp thông tin tình báo thực sự cho các tổ chức. Tuy nhiên, việc cho phép truy cập rộng rãi hơn vào RAG trên toàn tổ chức có thể gây ra những thách thức trong việc triển khai và tác động đến khả năng phản hồi nhanh chóng. Các tổ chức quy mô lớn và dựa trên dữ liệu, bao gồm các tổ chức chăm sóc sức khỏe và tài chính cũng cần truy cập vào các loại dữ liệu khác nhau để cung cấp các đầu ra khác nhau hoặc kết quả đa phương thức.
Agentic RAG cung cấp các giải pháp tiên tiến để xử lý các tập dữ liệu khổng lồ này. Bằng cách sử dụng các tác nhân AI, nó tự động hóa việc phân tích, xử lý và lý luận trong khuôn khổ RAG. Phương pháp này cho phép người dùng tích hợp liền mạch cả dữ liệu có cấu trúc và không có cấu trúc, cung cấp thông tin chi tiết theo thời gian thực với thông tin đáng tin cậy, có liên quan theo ngữ cảnh.
Agentic RAG trên Dell AI Factory với NVIDIA cho phép các tổ chức trong nhiều ngành công nghiệp hưởng lợi với bước tiến đáng kể trong việc truy xuất và xử lý thông tin do AI thúc đẩy. Thiết kế agentic RAG cho thấy cách các tổ chức, ví dụ như chăm sóc sức khỏe, có thể vượt qua những thách thức của dữ liệu phân mảnh (truy cập dữ liệu có cấu trúc, chẳng hạn như lịch trình và hồ sơ bệnh nhân, cùng với dữ liệu không có cấu trúc, chẳng hạn như ghi chú y tế và tệp hình ảnh) trong khi vẫn duy trì sự tuân thủ HIPAA và các yêu cầu khác. Giải pháp đầu cuối được xây dựng trên nền tảng Dell AI Factory với NVIDIA có các tính năng:
-
- Máy chủ Dell PowerEdge với GPU NVIDIA L40S
- Lưu trữ Dell PowerScale
- Mạng Ethernet NVIDIA Spectrum-X
- Nền tảng phần mềm NVIDIA AI Enterprise
- NVIDIA NeMo nhúng và xếp hạng lại các dịch vụ vi mô NVIDIA NIM, cùng với dịch vụ vi mô NVIDIA Llama-3.1-8b-instruct LLM NIM
Giải pháp này dựa trên Kiến trúc tham chiếu doanh nghiệp NVIDIA mới được công bố dành cho GPU NVIDIA L40S, giúp giảm thời gian, chi phí và độ phức tạp cho các doanh nghiệp đang xây dựng nhà máy AI để thúc đẩy làn sóng giải pháp AI tạo sinh tiếp theo.
Sự tích hợp hoàn chỉnh của các yếu tố này mang lại phương pháp tiếp cận khởi đầu toàn diện cho các tổ chức để điều chỉnh và triển khai RAG agentic của riêng họ và nâng cao tiêu chuẩn cung cấp giá trị. Tìm hiểu thêm về RAG Agentic tại đây .
Chuẩn bị cho Kỷ nguyên AI tiếp theo
Các ứng dụng và cách sử dụng mới cho AI đang có mặt trên thị trường hàng ngày khi người lao động, nhà phát triển và doanh nghiệp bắt đầu tận dụng AI và tạo ra giá trị. Việc chuẩn bị cho việc áp dụng trên diện rộng có thể rất khó khăn, nhưng với cách tiếp cận, đối tác và tầm nhìn phù hợp, bất kỳ tổ chức nào cũng có tiềm năng chuyển đổi doanh nghiệp của mình.
Từ hoạt động AI tiên tiến đến thu thập dữ liệu khổng lồ và kết quả chất lượng cao, nhà máy AI của Dell hợp tác với NVIDIA cung cấp một kiến trúc có khả năng mở rộng và phát triển theo nhu cầu thay đổi của tổ chức.
Dell AI Factory hợp tác với NVIDIA là giải pháp AI doanh nghiệp đầu cuối và duy nhất trong ngành¹, được thiết kế để đẩy nhanh quá trình áp dụng AI bằng cách cung cấp các khả năng tích hợp của Dell và NVIDIA để đẩy nhanh các trường hợp sử dụng hỗ trợ AI, tích hợp dữ liệu và quy trình làm việc của bạn và cho phép bạn thiết kế hành trình AI của riêng mình để có kết quả có thể lặp lại và mở rộng quy mô.
Để tìm hiểu thêm, hãy nhấp vào đây. Ghé thăm chúng tôi tại gian hàng Dell số 2831.
Bài viết mới cập nhật
Cung cấp sự đổi mới AI cho làn sóng chuyển đổi kinh doanh tiếp theo
Các tổ chức có thể nhanh chóng triển khai các ứng ...
Nạp năng lượng cho nhà máy AI của bạn bằng dữ liệu chất lượng cao
Danh mục dữ liệu và đường ống thúc đẩy việc sử ...
Cách mạng hóa việc áp dụng AI PC: Một kỷ nguyên mới
Thắp sáng tương lai số của bạn với những đột phá ...
Dell Data Lakehouse tạo ra dữ liệu lớn với Apache Spark
Dell Data Lakehouse + Apache Spark: Con đường hướng tới một ...