Trí tuệ nhân tạo đang cách mạng hóa cách chúng ta làm việc và đổi mới. Sự hợp tác giữa Dell Technologies và Meta tiếp tục mở rộng ranh giới của những gì có thể trong hệ sinh thái AI. Công việc của chúng tôi với Meta tập trung vào việc tạo ra cơ sở hạ tầng AI tại chỗ tích hợp liền mạch với các mô hình Llama và Llama Stack mới ra mắt. Mối quan hệ này cho phép các tổ chức phát triển các giải pháp AI tinh vi, thoát khỏi sự phức tạp và hạn chế liên quan đến môi trường chỉ có đám mây.
Là những người dẫn đầu trong ngành, chúng tôi tự hào là nhà cung cấp cơ sở hạ tầng tại chỗ đầu tiên cung cấp các giải pháp AI chuẩn hóa được tối ưu hóa cho hệ sinh thái Llama. 1 Phương pháp tiếp cận của chúng tôi đặt ra một tiêu chuẩn mới trong tích hợp AI nguồn mở, cung cấp các giải pháp sáng tạo và thúc đẩy sự hợp tác.
Nâng cao các ứng dụng AI với quy trình làm việc của Agentic
Dell AI Solutions với Llama được thiết kế cẩn thận để bổ sung cho Llama Stack và đơn giản hóa đáng kể trải nghiệm của nhà phát triển với các mô hình Llama. Llama Stack định nghĩa và chuẩn hóa các khối xây dựng phần mềm cần thiết để xây dựng các ứng dụng AI tạo sinh. Nó hỗ trợ nhiều giai đoạn khác nhau của vòng đời phát triển AI, từ đào tạo mô hình ban đầu đến tinh chỉnh, thông qua triển khai trong môi trường sản xuất. Các bản cập nhật mới nhất cho Llama Stack bao gồm tích hợp chặt chẽ với bộ thư viện PyTorch đầy đủ, cho phép triển khai chìa khóa trao tay các ứng dụng tạo tăng cường truy xuất (RAG) và hỗ trợ công cụ.
Bằng cách kết hợp Llama Stack với Dell’s AI Factory, các tổ chức có cơ sở hạ tầng cấp doanh nghiệp giúp dễ dàng tạo nguyên mẫu và xây dựng các ứng dụng AI dựa trên tác nhân với các mô hình Llama. Được điều khiển bởi Dell PowerEdge XE9680 và được trang bị GPU NVIDIA H100, kiến trúc tham chiếu này đảm bảo hiệu suất và khả năng mở rộng tối ưu để đơn giản hóa quá trình phát triển ứng dụng. Kiến trúc cung cấp:
- Các khối xây dựng API chuẩn hóa giúp đơn giản hóa quá trình phát triển mã, thúc đẩy việc tái sử dụng mã và giúp các mô hình Llama hiện tại và tương lai có thể cắm và chạy.
- Triển khai an toàn với các biện pháp bảo mật và an ninh để đảm bảo các ứng dụng AI an toàn và tuân thủ.
- Cơ sở hạ tầng thích ứng cho nhiều trường hợp sử dụng AI khác nhau, từ suy luận một nút đến triển khai nhiều nút.
Dell AI Solutions với Llama cung cấp sức mạnh tính toán, độ tin cậy và khả năng mở rộng đặc biệt, giúp dễ dàng triển khai các quy trình làm việc của agentic liên quan đến nhiều mô hình và ngân hàng bộ nhớ hợp tác để giải quyết các vấn đề kinh doanh phức tạp. Kiến trúc tham chiếu với Llama Stack giúp đơn giản hóa việc triển khai các trường hợp sử dụng của doanh nghiệp như suy luận, RAG và tạo dữ liệu tổng hợp. Việc tích hợp những điều này với các mô hình Llama Guard cho phép doanh nghiệp thiết lập các rào chắn để tăng thêm sự an toàn.
“Sự hợp tác của chúng tôi với Dell Technologies đang chuyển đổi bối cảnh AI bằng cách tích hợp các mô hình Llama tiên tiến với các Giải pháp AI hàng đầu của Dell. Dell cung cấp các giải pháp triển khai tại chỗ được chuẩn hóa cho Llama Stack, được tối ưu hóa để tích hợp liền mạch với các khuôn khổ hiện có. Cùng nhau, chúng tôi cho phép các doanh nghiệp lớn triển khai và mở rộng Llama Stack một cách dễ dàng, trao quyền cho họ duy trì quyền kiểm soát dữ liệu trong trung tâm dữ liệu của riêng họ.”
-Ahmad Al-Dahle, Trưởng phòng GenAI, Meta
Trao quyền cho các nhà khoa học dữ liệu và nhà phát triển
Phát triển ứng dụng AI có thể đặt ra nhiều thách thức, từ chi phí cao và các vấn đề về khả năng mở rộng đến khó khăn trong việc mua sắm các nguồn lực cần thiết. Việc lựa chọn đúng kiến trúc đòi hỏi phải lựa chọn và tối ưu hóa mô hình cẩn thận, trong khi tính phức tạp của việc tích hợp và duy trì các giải pháp AI làm phức tạp thêm quá trình này. Những rào cản này đòi hỏi một cách tiếp cận chiến lược kết hợp trình độ kỹ thuật và đầu tư nguồn lực để đạt được thành công.
Dell AI Solutions với Llama giải quyết những thách thức này và mang lại một số lợi ích cho các nhà khoa học dữ liệu, nhà phát triển và người ra quyết định về CNTT bao gồm:
- Hướng dẫn rõ ràng. Kiến trúc tham chiếu cung cấp hướng dẫn chi tiết để đẩy nhanh việc triển khai mô hình Llama và tạo quy trình làm việc của agentic trên PowerEdge XE9680 với quy trình làm việc đã được xác thực và mã mẫu.
- Dễ dàng mua sắm. Các cấu hình đã được xác thực của Dell AI Factory đảm bảo cài đặt trung tâm dữ liệu dễ dàng, có thể mở rộng trên nhiều nút và được hỗ trợ bởi các dịch vụ triển khai tùy chỉnh.
- Sự đa dạng của silicon. Cung cấp khả năng phần cứng đa dạng của cơ sở hạ tầng Dell mà không cần phải sửa đổi nhiều.
- Tăng tốc thời gian tạo giá trị. Các nhà phát triển có thể nhanh chóng áp dụng các mô hình, công cụ và khuôn khổ mới bằng cách tận dụng các khối xây dựng chuẩn hóa và mã di động trên nhiều môi trường.
- Sắp xếp dữ liệu. Đơn giản hóa đường ống dữ liệu với Dell Data Lakehouse và PowerScale Platforms.
- Khả năng truy cập. Các mô hình Llama có sẵn thông qua Dell Enterprise Hub trên nền tảng Hugging Face tại hugface.co trong các container và tập lệnh sẵn sàng triển khai để triển khai hợp lý và an toàn.
- Dịch vụ chuyên nghiệp. Dell cung cấp các dịch vụ chuyên gia cho các mô hình và API Llama, hỗ trợ chiến lược, chuẩn bị dữ liệu, triển khai mô hình và tạo ra kết quả AI thông qua các giai đoạn của dự án.
Những lợi ích này giúp nâng cao hiệu quả, giảm chi phí và tạo ra lợi thế cạnh tranh trong bối cảnh AI đang phát triển nhanh chóng.
Giới thiệu Llama 3.2: Mở khóa trí thông minh đa phương thức
Meta cam kết xây dựng các mô hình mở tiên tiến để đẩy nhanh quá trình áp dụng AI tạo sinh. Việc phát hành Llama 3.2 đánh dấu bước tiến đáng kể trong khả năng AI, trao quyền cho các nhà phát triển tạo ra thế hệ trải nghiệm AI mới mang tính riêng tư, hiệu quả và có trách nhiệm. Llama 3.2 giới thiệu một bộ mô hình đa ngôn ngữ linh hoạt, bao gồm các tham số từ 1B đến 90B, có khả năng xử lý cả văn bản và hình ảnh. Các mô hình này bao gồm các tùy chọn chỉ có văn bản nhẹ (1B và 3B) cũng như LLM thị giác (11B và 90B), hỗ trợ độ dài ngữ cảnh dài và được tối ưu hóa để suy luận với các cơ chế chú ý truy vấn nâng cao. Được thiết kế để có khả năng truy cập, quyền riêng tư và đổi mới có trách nhiệm, Llama 3.2 cung cấp cho các doanh nghiệp một công cụ mạnh mẽ để triển khai AI trên nhiều môi trường và trường hợp sử dụng khác nhau.
Những điểm nổi bật của Llama 3.2 bao gồm:
- Khả năng đa phương thức. Llama 3.2 có thể xử lý cả dữ liệu văn bản và hình ảnh, cho phép triển khai các ứng dụng AI phức tạp và linh hoạt hơn.
- Các mô hình nhẹ. Các mô hình chỉ có văn bản 1B và 3B mới cho phép Llama chạy hiệu quả trên nhiều thiết bị, bao gồm môi trường di động và biên, bao gồm máy trạm Dell Precision và môi trường biên.
- Tin cậy và an toàn. Các mô hình có lan can đầu vào hình ảnh và cập nhật cho các mô hình Llama Guard 3 để hỗ trợ đổi mới có trách nhiệm và sử dụng có đạo đức.
Llama 3.2 11B và 90B hỗ trợ suy luận hình ảnh, bao gồm hiểu biết ở cấp độ tài liệu, chẳng hạn như giải thích biểu đồ và đồ thị, và chú thích hình ảnh. Llama 3.2 cũng hỗ trợ suy luận theo thời gian thực và theo lô, được tối ưu hóa cho cả khối lượng công việc tương tác và thông lượng cao. Khi triển khai với các giải pháp AI Factory của Dell, các mô hình đa phương thức mới này cho phép các doanh nghiệp sử dụng chúng một cách an toàn cho nhiều ứng dụng khác nhau, chẳng hạn như phát hiện lỗi sản xuất, nâng cao độ chính xác của chẩn đoán chăm sóc sức khỏe và cải thiện quản lý hàng tồn kho bán lẻ.
Bắt đầu ngay hôm nay
Dell Technologies cung cấp hướng dẫn về các trường hợp sử dụng mục tiêu AI, yêu cầu quản lý dữ liệu, kỹ năng vận hành và quy trình. Các chuyên gia của Dell Services có thể hỗ trợ bạn ở mọi giai đoạn trong hành trình GenAI của bạn và thúc đẩy kết quả kinh doanh nhanh hơn, toàn diện hơn với các mô hình Llama. Các chuyên gia dịch vụ AI của chúng tôi làm việc với nhóm của bạn để giúp nhóm của bạn xác định các cơ hội, thách thức và ưu tiên chính.
Bạn không biết nên bắt đầu từ đâu? Hãy liên hệ với đại diện bán hàng của Dell để được tham gia hội thảo miễn phí kéo dài nửa ngày nhằm xác định cách doanh nghiệp của bạn có thể hưởng lợi từ GenAI.
Tìm hiểu thêm về Giải pháp AI của Dell tại đây.
Dell và Meta cùng cam kết thúc đẩy một cộng đồng AI cởi mở và toàn diện, nơi các nhà phát triển và doanh nghiệp có thể hợp tác và đổi mới. Cho dù bạn đang tìm cách cải thiện quy trình làm việc AI hiện có hay tiên phong trong các giải pháp mới, sự hợp tác của Dell và Meta cung cấp các nguồn lực và hỗ trợ cần thiết để biến tầm nhìn AI của bạn thành hiện thực.
Bài viết mới cập nhật
AI trong Khoa học sự sống: Một cách tiếp cận thực tế với máy tính cá nhân
Máy tính Dell AI lý tưởng cho các tổ chức khoa ...
Dập tắt các mối đe dọa cấp BIOS bằng bảo mật được hỗ trợ bởi phần cứng
Tìm hiểu cách dữ liệu từ xa của thiết bị Dell ...
Thiết kế Edge cho tương lai
Dịch vụ Edge của Dell và nền tảng NativeEdge cải tiến ...
Máy tính lỗi thời là lỗ hổng trong lớp giáp an ninh mạng của bạn
Hiện đại hóa đội tàu của bạn để duy trì khả ...