Xây dựng các ứng dụng dựa trên Agent nhanh hơn với các giải pháp AI của Dell

Dell Technologies và Meta cam kết thúc đẩy một cộng đồng AI rộng mở, cởi mở và toàn diện cho các nhà phát triển và chuyên gia công nghệ. Các công nghệ nguồn mở đang chuyển đổi ngành công nghiệp AI và sự hợp tác giữa Dell và Meta tiếp tục mang đến những khả năng mới cho AI doanh nghiệp.

Là một công ty hàng đầu trong ngành, Dell tự hào là nhà cung cấp cơ sở hạ tầng tại chỗ đầu tiên cung cấp các giải pháp AI chuẩn hóa được tối ưu hóa cho hệ sinh thái Llama.¹ Cùng với Meta, chúng tôi đang cung cấp các Giải pháp AI Dell mới với các mô hình Llama 4 mới nhất và phân phối Llama Stack với Dell AI Factory . Điều này cho phép các tổ chức phát triển các giải pháp tiên tiến mà không bị giới hạn bởi môi trường chỉ có đám mây công cộng.

Theo đuổi những cơ hội mới với Agentic AI

AI Agentic đánh dấu một bước tiến lớn trong trí tuệ nhân tạo. Không giống như AI truyền thống với các quy tắc cố định hoặc AI tạo ra nội dung, AI agentic l và chủ động để đạt được các kết quả cụ thể. Nó mở khóa tự động hóa thông minh hơn bằng cách hợp lý hóa các quy trình đầu cuối, nâng cao khả năng ra quyết định với các hoạt động nhanh hơn và chính xác hơn, đồng thời thúc đẩy tăng trưởng mới.

Agentic AI đại diện cho một sự thay đổi đầy hứa hẹn hướng đến thông minh và tự chủ hơn Tuy nhiên, nó đòi hỏi phải có kế hoạch cẩn thận và khuôn khổ mạnh mẽ để mang lại kết quả có ý nghĩa. Xây dựng lòng tin thông qua các khuôn khổ AI minh bạch, có thể giải thích được là điều cần thiết để đảm bảo trách nhiệm giải trình. Tích hợp chặt chẽ với các hệ thống hiện có cũng là điều cần thiết để giảm thiểu gián đoạn quy trình làm việc và quản lý dữ liệu hiệu quả là điều cần thiết để các tác nhân hoạt động tối ưu.

Đây là lúc Llama Stack xuất hiện. Llama Stack là một nền tảng mã nguồn mở toàn diện cung cấp một bộ công cụ và API thống nhất để xây dựng, mở rộng và triển khai các ứng dụng AI. Nó cho phép các nhà phát triển tạo, tích hợp và sắp xếp nhiều dịch vụ và khả năng AI thành các quy trình làm việc nhiều bước có thể cấu thành, mang lại kết quả có thể lặp lại.

Kiến trúc tham chiếu đã được xác thực của Dell kết hợp các khối xây dựng phần mềm Llama Stack với máy chủ Dell PowerEdge để mang lại hiệu suất và khả năng mở rộng nhất quán. Các nhà phát triển có thể tự tin sử dụng các công cụ Llama Stack và các biện pháp thực hành tốt nhất của Dell để đào tạo mô hình, tinh chỉnh và suy luận trong quá trình triển khai sản xuất, duy trì hiệu quả trong mọi bước. Điều này giúp đơn giản hóa đáng kể quá trình phát triển ứng dụng với các mô hình Llama 4 mới nhất.

Những lợi ích chính của việc sử dụng Llama Stack với Dell AI Factory bao gồm:

• • Hỗ trợ khối lượng công việc đòi hỏi cao với kiến ​​trúc có khả năng mở rộng và thích ứng cho các tổ chức ở mọi quy mô.
  • Triển khai đơn giản hơn để tích hợp AI nhanh hơn với chuỗi công cụ AI, công cụ suy luận và cấu hình cơ sở dữ liệu vector, giúp rút ngắn thời gian tạo giá trị.
  • Bảo vệ các mô hình AI, nguồn dữ liệu và đầu ra bằng giải pháp bảo vệ dữ liệu Dell PowerProtect, đảm bảo dữ liệu và ứng dụng AI có thể phục hồi được trong trường hợp mất dữ liệu, hỏng hóc, sự cố vận hành hoặc mối đe dọa ngày càng gia tăng của các cuộc tấn công mạng.
  • Hỗ trợ nhiều trường hợp sử dụng khác nhau bao gồm tìm kiếm doanh nghiệp với thế hệ tăng cường truy xuất đa phương thức (RAG), phân tích tài liệu dài, tự động hóa quy trình phức tạp với tác nhân AI, tạo mã nâng cao và dịch ngôn ngữ hỗ trợ AI.
  • Hiệu quả về chi phí với cơ sở hạ tầng Dell có quy mô phù hợp và các mô hình của Meta giúp giảm chi phí đồng thời tối đa hóa ROI.

Tận dụng lợi thế của Llama 4 Innovation

Các mô hình Llama 4 mới nhất được thiết kế để cải thiện hiệu quả và cung cấp khả năng xử lý AI nhanh hơn, mạnh mẽ hơn. Được xây dựng với kiến ​​trúc hỗn hợp chuyên gia (MoE) tiên tiến, các mô hình có thể tận dụng thế mạnh của nhiều “chuyên gia”, là các mạng nơ-ron chuyên biệt nhỏ hơn trong mô hình MoE lớn hơn. Mỗi chuyên gia được đào tạo để đặc biệt giỏi xử lý một số loại dữ liệu hoặc tác vụ nhất định. Các mô hình chỉ kích hoạt một tập hợp con các chuyên gia cho mỗi đầu vào, giúp giảm chi phí tính toán trong khi vẫn duy trì hiệu suất cao.

Có hai mô hình mới: Llama 4 Scout (17B tham số hoạt động) và Llama 4 Maverick (17B tham số hoạt động, 128 chuyên gia). Mô hình trước có thể phù hợp với một GPU NVIDIA H100 duy nhất trong khi mô hình sau phù hợp với một máy chủ duy nhất với nhiều GPU H100. Được thiết kế cho đa phương thức gốc, các mô hình này sử dụng để tích hợp các mã thông báo văn bản và thị giác, cho phép đào tạo trước chung trên dữ liệu quy mô lớn và có bộ mã hóa thị giác được cải tiến để nâng cao hiệu suất. Ngoài ra, Meta đã phát hành Llama Guard 4, một bộ phân loại an toàn đa phương thức với 12B tham số có khả năng phân tích văn bản và nhiều hình ảnh để phân loại nội dung nhằm đảm bảo an toàn trong cả lời nhắc và phản hồi.

Những điểm nổi bật của Llama 4 bao gồm:

• • Khả năng đa phương thức kết hợp xử lý văn bản, hình ảnh và video, mở ra cánh cửa cho các ứng dụng AI mạnh mẽ trong nhiều ngành.
  • Mở rộng độ dài ngữ cảnh để phân tích các tập dữ liệu lớn như tài liệu pháp lý hoặc khoa học với độ chính xác cao hơn.
  • Tối ưu hóa hiệu quả tính toán bằng cách sử dụng kiến ​​trúc hỗn hợp chuyên gia (MoE) tiên tiến chỉ kích hoạt một vài chuyên gia cho mỗi đầu vào.
  • Các mô hình có thể tùy chỉnh và tinh chỉnh để nâng cao hiệu suất cho từng ứng dụng cụ thể.

Những tiến bộ này định vị Llama 4 như một công cụ thiết yếu cho các doanh nghiệp muốn xây dựng các khuôn khổ AI an toàn, có khả năng mở rộng cho các ứng dụng dựa trên tác nhân. Nhiều cấu hình cơ sở hạ tầng Dell AI Factory được hỗ trợ bằng cách sử dụng máy chủ PowerEdge R-Series và XE-Series với GPU tiên tiến từ NVIDIA và AMD. PowerEdge, với cấu trúc mạng trong nút và liên nút tốc độ cao, là một nền tảng lý tưởng cho cả suy luận LLM một nút và nhiều nút với các mô hình Llama.

Các cấu hình sau đây được xác thực bằng Llama 4 trên Dell Enterprise Hub :

Bắt đầu ngay hôm nay

Sẵn sàng đưa chiến lược AI của bạn lên tầm cao mới? Dell giúp bạn dễ dàng khám phá và áp dụng các giải pháp AI của mình với Llama. Các nhà phát triển có thể tải xuống các container đã sẵn sàng triển khai với các mô hình Llama 4 trực tiếp từ Dell Enterprise Hub trên Hugging Face để triển khai tại chỗ liền mạch. Ngoài ra, nhóm dịch vụ AI của Dell luôn sẵn sàng cung cấp hỗ trợ chuyên môn dựa trên kinh nghiệm toàn cầu sâu rộng của chúng tôi trong việc triển khai AI ở quy mô lớn. Liên hệ với đại diện bán hàng của Dell để thiết lập  hội thảo miễn phí kéo dài nửa ngày có sự hỗ trợ  để xác định cách doanh nghiệp của bạn có thể hưởng lợi từ AI.

Đối với những người tham dự Dell Technologies World, hãy ghé qua gian hàng Dell Technologies (#833) để xem bản demo Llama Stack và trò chuyện với các chuyên gia về các giải pháp chung của chúng tôi.

¹ Dựa trên phân tích nội bộ, tháng 9 năm 2024.