Dell và Meta hợp tác để thúc đẩy đổi mới AI sáng tạo

Các tổ chức đang ngày càng áp dụng cách tiếp cận lấy con người làm trung tâm để áp dụng các mô hình Generative AI, cho phép nhóm của họ đổi mới và tăng năng suất. Các trường hợp sử dụng như chatbot, trợ lý ảo và phát triển mã yêu cầu doanh nghiệp đào tạo các mô hình trên dữ liệu độc quyền của riêng họ. Các giải pháp đám mây công cộng có thể tạo ra sự không chắc chắn với những lo ngại về chủ quyền dữ liệu, thách thức bảo mật và chi phí không thể đoán trước. Việc triển khai tại chỗ bằng cách sử dụng các mô hình ngôn ngữ lớn nguồn mở như Llama 2 mang lại cho khách hàng giá trị tốt hơn theo thời gian với chi phí có thể dự đoán được và kiểm soát hoàn toàn dữ liệu của họ, giảm rủi ro về bảo mật và rò rỉ IP cũng như đảm bảo tuân thủ các quy định.

Giải pháp AI Sáng tạo của Dell , với Thiết kế được xác thực của Dell cho AI sáng tạo , cung cấp cho khách hàng một nền tảng sẵn có gồm phần mềm và phần cứng đã được thử nghiệm trước, được xây dựng có mục đích cho các nỗ lực của GenAI. Và chúng tôi hiện đang mở rộng danh mục dịch vụ GenAI với sự cộng tác của Meta bằng cách giúp khách hàng của Dell dễ dàng triển khai các mô hình AI Llama 2 của Meta tại chỗ với danh mục cơ sở hạ tầng CNTT GenAI của Dell.

Thiết kế được xác thực của Dell dành cho Generative AI với Meta’s Llama 2 cung cấp cơ sở hạ tầng, phần mềm và dịch vụ đã được thử nghiệm và chứng minh trước của Dell để hợp lý hóa việc triển khai và quản lý các dự án tại chỗ. Llama 2 miễn phí cho nghiên cứu và sử dụng thương mại, đồng thời được thử nghiệm và xác minh trên Thiết kế được xác thực của Dell để suy luận và tinh chỉnh. Với hướng dẫn cấu hình và triển khai được ghi chép đầy đủ, các tổ chức có thể thiết lập và vận hành cơ sở hạ tầng GenAI một cách nhanh chóng cũng như vận hành Llama 2 với khả năng dự đoán cao hơn. Khách hàng có thể triển khai Llama 2 để tinh chỉnh trên trung tâm dữ liệu tại chỗ và phân tích mức sử dụng bộ nhớ, độ trễ và hiệu quả của mô hình ngôn ngữ lớn (LLM) bằng nền tảng Dell. Mục tiêu của chúng tôi là trở thành nhà cung cấp cơ sở hạ tầng tại chỗ được ưa thích cho khách hàng triển khai Llama 2 và mang đến các giải pháp AI tổng hợp tốt nhất cho khách hàng của chúng tôi.

Triển khai Llama 2 trên máy chủ Dell PowerEdge

Bằng cách chạy các mô hình tại chỗ, doanh nghiệp có thể đảm bảo chức năng không bị gián đoạn và đảm bảo bảo vệ quyền sở hữu trí tuệ. Dell  PowerEdge  XE9680 là máy chủ lý tưởng để tinh chỉnh và triển khai LLM như Llama 2. Đây là máy chủ đầu tiên trong ngành được trang bị tám GPU NVIDIA H100 và phần mềm NVIDIA AI. Llama 2 cũng có thể được triển khai trên nhiều cơ sở hạ tầng khác nhau của Dell bao gồm PowerEdge R760xa với NVIDIA L40S.

Một lĩnh vực nghiên cứu thú vị trong lĩnh vực AI tổng quát là lĩnh vực tùy chỉnh mô hình. Các mô hình Llama 2 giúp tinh chỉnh các mô hình bằng cách xuất bản các công thức nấu ăn dễ dàng hơn những gì có thể dễ dàng áp dụng cho Giải pháp AI Sáng tạo của Dell. Dell đã tiến hành điều tra và xác nhận kỹ thuật quan trọng để chứng minh việc áp dụng các kỹ thuật tùy chỉnh tiên tiến như tinh chỉnh có giám sát (SFT), LoRA và điều chỉnh p cho các mẫu Llama 2 7B, 13B và 70B. Chúng tôi đã triển khai mô hình Llama 2 70B với hệ điều hành Ubuntu 22.0 và GPU NVIDIA cần thiết trên PowerEdge XE9680.

Bảng hiển thị kết quả trò chuyện của ba mô hình Llama:

Như chúng ta có thể thấy, kết quả đầu ra của mẫu Llama 2 70B với GPU cần thiết trên PowerEdge XE9680 tạo ra câu trả lời ngắn gọn và chính xác.

Thông tin thêm, bao gồm các bước quy trình, thiết kế cơ sở hạ tầng tham chiếu và kết quả xác thực, có sẵn trong hướng dẫn thiết kế Dell Validated Design for Generative AI .

Với Llama 2 của Meta và danh mục giải pháp Generative AI, công nghệ và dịch vụ của Dell, các tổ chức thuộc mọi quy mô đều có quyền truy cập vào các công cụ đáng tin cậy để cung cấp giải pháp GenAI từ máy tính để bàn đến trung tâm dữ liệu cốt lõi, vị trí biên và đám mây công cộng. Dell cũng đã tích hợp các mô hình Llama 2 vào các công cụ định cỡ nội bộ của mình để giúp hướng dẫn khách hàng giải pháp phù hợp nhằm hỗ trợ các giải pháp AI dựa trên Llama 2 của họ.

Bắt đầu với Hội thảo về Máy gia tốc Dell dành cho AI sáng tạo

Dell Technologies cung cấp hướng dẫn về các trường hợp sử dụng mục tiêu GenAI, yêu cầu quản lý dữ liệu, kỹ năng và quy trình vận hành. Các chuyên gia dịch vụ của chúng tôi làm việc với nhóm của bạn để chia sẻ quan điểm của chúng tôi về GenAI và giúp nhóm của bạn xác định các cơ hội, thách thức và ưu tiên chính. Hãy liên hệ với đại diện bán hàng Dell của bạn để có một buổi hội thảo được tổ chức miễn phí trong nửa ngày.