Con đường nhanh chóng đến AI: Tăng tốc, an toàn và sẵn sàng cho chính phủ

Bài viết này giới thiệu thế hệ máy chủ PowerEdge XE-Series tiếp theo của Dell, được thiết kế riêng cho các công nghệ đột phá mới nhất của NVIDIA, chẳng hạn như GPU NVIDIA CPX và DPU NVIDIA BlueField-4 . Bài viết minh họa cách Dell kết hợp hiệu suất tiên tiến với khả năng ứng dụng dễ dàng, kỹ thuật bền vững và các dịch vụ AI của Dell để giải quyết các thách thức về bảo mật, khả năng mở rộng và cơ sở hạ tầng.

Tại NVIDIA GTC DC, nơi Dell Technologies tự hào là nhà tài trợ Kim cương, một làn sóng đổi mới cơ sở hạ tầng mới đang chiếm vị trí trung tâm—báo hiệu một bước tiến vượt bậc trong lĩnh vực AI doanh nghiệp. Cơ hội cho AI tạo sinh trong kinh doanh, khoa học và chính phủ là vô cùng lớn, nhưng việc hiện thực hóa tiềm năng của nó đòi hỏi nhiều hơn là sức mạnh tính toán thô sơ. Việc mở ra tương lai của AI an toàn và sẵn sàng cho sản xuất đòi hỏi một cơ sở hạ tầng đột phá, được thiết kế để đáp ứng thực tế của khối lượng công việc khắt khe nhất hiện nay.

Với máy chủ Dell PowerEdge XE-Series và Dell AI Factory hợp tác với NVIDIA , các tổ chức đang ở vị thế độc nhất để biến tầm nhìn AI thành hành động. Điều này càng trở nên quan trọng hơn khi NVIDIA giới thiệu NVIDIA Rubin CPX , được thiết kế để tăng tốc suy luận trên các cửa sổ ngữ cảnh lớn và khối lượng công việc đa phương thức. Cùng với những tiến bộ như mạng NVIDIA BlueField-4 vừa được công bố , những đổi mới này sẽ cho phép các doanh nghiệp và cơ quan chính phủ tự tin đẩy nhanh tiến độ.

NVIDIA Rubin CPX: cung cấp năng lượng cho suy luận ngữ cảnh lớn

Các mô hình AI tạo sinh hiện đại đòi hỏi quy mô chưa từng có, hỗ trợ cửa sổ ngữ cảnh lên đến hàng triệu token và hơn thế nữa. Các mô hình ngôn ngữ lớn (LLM) và mô hình đa phương thức, hỗ trợ mọi thứ từ tạo mã đến tạo video, đòi hỏi thông lượng và hiệu suất cao mà không ảnh hưởng đến tính tuân thủ hoặc bảo mật. NVIDIA Rubin CPX đáp ứng nhu cầu này.

Công nghệ Rubin CPX được thiết kế để mang lại khả năng tăng tốc suy luận đột phá cho các khối lượng công việc với ngữ cảnh khổng lồ, chẳng hạn như mô hình 1M-token. Bằng cách kết hợp kiến ​​trúc GPU tiên tiến, bộ nhớ tích hợp lớn và băng thông bộ nhớ cao, Rubin CPX giúp mở khóa tốc độ suy luận nhanh hơn đáng kể ở quy mô lớn—giúp hỗ trợ tạo dữ liệu tăng cường truy xuất (RAG), tìm kiếm doanh nghiệp giàu ngữ cảnh và quy trình làm việc tài liệu đa phương thức quy mô lớn, tất cả đều với hiệu suất ấn tượng.

Dell dự kiến ​​tích hợp NVIDIA CPX vào các máy chủ PowerEdge XE-Series sắp ra mắt. Tìm hiểu thêm về các máy chủ PowerEdge XE-Series từng đoạt giải thưởng IT Brand Pulse Market and Innovation, cũng như mức độ sẵn sàng cho GPU NVIDIA thế hệ tiếp theo tại Dell.com/server .

BlueField-4: mạng thông minh cho các trung tâm dữ liệu sử dụng AI

Mỗi đột phá về AI đều đòi hỏi một cơ sở hạ tầng đáp ứng được việc di chuyển, sắp xếp và bảo mật dữ liệu. Bộ xử lý tín hiệu số (DPU) NVIDIA BlueField-4 thế hệ tiếp theo được thiết kế chuyên dụng để hỗ trợ các trung tâm dữ liệu hiện đại với khả năng tăng tốc mạnh mẽ, có thể lập trình cho các tác vụ mạng, lưu trữ và bảo mật.

BlueField-4 giảm tải các hoạt động mạng và lưu trữ quan trọng khỏi CPU máy chủ, mang lại hiệu suất tốc độ đường truyền cho các tác vụ như mã hóa dữ liệu, quản lý lưu lượng và phân đoạn mạng. Bằng cách xử lý các chức năng này một cách độc lập, BlueField-4 cho phép các hệ thống Dell tối đa hóa thông lượng tính toán cho các ứng dụng AI – đảm bảo GPU và CPU của bạn luôn tập trung vào điều quan trọng nhất: tăng tốc độ hiểu biết và đổi mới.

Dell dự kiến ​​sẽ cung cấp BlueField-4 cho các máy chủ PowerEdge dòng XE trong tương lai. Tìm hiểu thêm về giải pháp mạng AI của Dell tại Dell.com/Servers và Dell.com/Networking .

Nhà máy AI của Dell hợp tác với NVIDIA: sẵn sàng cho chính phủ, sẵn sàng cho bạn

Những tiến bộ về AI phải dễ tiếp cận và an toàn cho cả các nhiệm vụ thương mại và công cộng. Đó là lý do tại sao Dell sẽ hỗ trợ thiết kế tham chiếu NVIDIA AI Factory for Government mới – với phần mềm NVIDIA AI Enterprise dành cho chính phủ và các giải pháp đối tác được đóng gói trong các container phần mềm được bảo mật, đáp ứng các tiêu chuẩn bảo mật liên bang của Hoa Kỳ. Việc triển khai tham chiếu này đảm bảo các cơ quan khu vực công có thể tận dụng cùng một sự đổi mới thúc đẩy doanh nghiệp toàn cầu, với sự hỗ trợ tích hợp cho các yêu cầu bảo mật và quyền riêng tư nghiêm ngặt.

Dell AI Factory hợp tác với NVIDIA kết hợp các công nghệ tính toán, mạng, lưu trữ, phần mềm và tự động hóa hàng đầu trong một nền tảng trọn gói, đã được kiểm chứng. Cho dù bạn đang triển khai các LLM (Lập trình học máy) tiên tiến, AI đa phương thức hay phân tích thời gian thực, giải pháp của Dell đều giúp bạn rút ngắn đáng kể thời gian đạt được kết quả – loại bỏ những trở ngại và sự phức tạp trong hành trình AI của bạn.

Đối với cả các cơ quan liên bang và doanh nghiệp, điều này đồng nghĩa với việc triển khai nhanh hơn, tuân thủ nhất quán và sự linh hoạt để thúc đẩy các nhiệm vụ quan trọng. Để tìm hiểu thêm về Dell AI Factory với các giải pháp NVIDIA tại GTC DC, vui lòng đọc bài viết ” Cung cấp Nền tảng Khả năng Mở rộng để Tinh giản Độ phức tạp và Tác nhân AI”.

Bắt đầu ngay hôm nay

Khám phá cách Dell và NVIDIA đang định hình tương lai của cơ sở hạ tầng AI đáng tin cậy, hiệu suất cao trong phiên thảo luận đặc biệt này với NVIDIA GTC DC: Đường đến AI nhanh chóng cùng Dell PowerEdge và NVIDIA . Lắng nghe các nhà lãnh đạo của Dell và NVIDIA thảo luận về cách Dell AI Factory hợp tác với NVIDIA đang định hình tương lai của AI. Tìm hiểu cách người tham dự đang xây dựng cơ sở hạ tầng sẵn sàng cho AI với máy chủ Dell PowerEdge XE7740 và XE7745 , với tối đa tám GPU NVIDIA RTX PRO 6000 Blackwell Server Edition kết hợp với tối đa tám giao diện mạng hiệu suất cực cao – tất cả trong một thiết kế thân thiện với trung tâm dữ liệu doanh nghiệp.

Hãy để Dell Technologies và Dell AI Factory cùng NVIDIA đồng hành cùng bạn trong việc tạo ra các giải pháp AI an toàn, hiệu quả và mang tính tầm nhìn. Chương tiếp theo của sự tiến bộ nhân loại đã đến – hãy cùng nhau xây dựng.