Dell Technologies gia nhập PyTorch Foundation với tư cách là Thành viên cao cấp

Dell tham gia PyTorch Foundation để thúc đẩy đổi mới AI nguồn mở.

• • Động thái này củng cố sự tận tâm của Dell đối với các giải pháp AI nguồn mở, có khả năng mở rộng.
  • Sự hợp tác của chúng tôi sẽ tập trung vào việc tích hợp PyTorch vào các hệ sinh thái CNTT an toàn.

Trí tuệ nhân tạo (AI) phát triển mạnh mẽ nhờ sự hợp tác. Tại Dell Technologies, chúng tôi tin tưởng vào sức mạnh của một hệ sinh thái mở trong việc thúc đẩy sự tiến bộ của con người. Đó là lý do tại sao chúng tôi tự hào thông báo rằng Dell đã gia nhập PyTorch Foundation với tư cách là Thành viên Cao cấp.

Cam kết này nâng cao đóng góp của chúng tôi cho cộng đồng nguồn mở và củng cố ảnh hưởng của chúng tôi trong việc định hình tương lai của AI. Bằng cách hợp tác với các nhà lãnh đạo ngành khác trong cùng tổ chức, chúng tôi có thể góp phần đẩy nhanh quá trình phát triển AI, giúp AI trở nên mạnh mẽ và dễ tiếp cận hơn cho các tổ chức trên toàn thế giới. Mục tiêu cuối cùng của chúng tôi là giúp các tổ chức tự tin đổi mới và đạt được các mục tiêu chiến lược thông qua các ứng dụng AI trong thực tế.

Phát triển AI thông qua sự hợp tác mở

Dell từ lâu đã nhận thức được tầm quan trọng của PyTorch trong lĩnh vực AI. Dell AI Factory cung cấp cho khách hàng danh mục đầu cuối để xây dựng, triển khai và quản lý các giải pháp AI hoàn chỉnh. Cốt lõi của các giải pháp này là các nền tảng phần mềm nguồn mở tiên tiến như DeepSpeed. Những công cụ này rất cần thiết cho khách hàng sử dụng AI để nâng cao hiệu quả và giải quyết những thách thức kinh doanh phức tạp nhất của họ.

Dell cung cấp các thiết kế đã được xác thực và hướng dẫn tinh chỉnh, chẳng hạn như kinh nghiệm hợp tác với Torchtune về cơ sở hạ tầng AI của Dell , nhằm đơn giản hóa quy trình cho khách hàng. Trải nghiệm thực tế này thể hiện sự hiểu biết sâu sắc của chúng tôi về nền tảng này và các ứng dụng thực tế của nó. Dưới đây là một số lợi ích chính của việc tích hợp các nền tảng này vào các giải pháp AI của chúng tôi.

Tính đa dạng của Silicon : PyTorch và vLLM tạo ra một lớp trừu tượng, cho phép các mô hình AI chạy trên nhiều kiến ​​trúc khác nhau, bao gồm NVIDIA, AMD, Intel, Broadcom và các kiến ​​trúc khác. Điều này phù hợp với cam kết của Dell trong việc cung cấp sự linh hoạt và lựa chọn cho cơ sở hạ tầng AI, cho phép đổi mới với các công cụ tốt nhất hiện có, cả hiện tại và trong tương lai khi chúng tôi bổ sung thêm nhiều bộ tăng tốc.

Đào tạo và tinh chỉnh hiệu quả : DeepSpeed ​​được sử dụng để tăng tốc quá trình đào tạo phân tán và tinh chỉnh các mô hình lớn, cho phép cơ sở hạ tầng Dell tối ưu hóa việc sử dụng bộ nhớ GPU, tăng thông lượng và đạt được chu kỳ lặp nhanh hơn. Điều này cho phép các mô hình đa phương thức tận dụng dữ liệu hiệu quả và tính song song của mô hình, tạo điều kiện thuận lợi cho việc giao tiếp và mở rộng quy mô nhanh chóng trên nhiều GPU và nút.

Khả năng di động liền mạch : PyTorch là nền tảng phát triển mô hình AI hàng đầu, trong khi vLLM đã trở thành tiêu chuẩn cho suy luận AI hiệu suất cao. Các nền tảng này đóng vai trò then chốt trong việc cung cấp một ngăn xếp mã nguồn mở, tại chỗ cho Dell AI Factory, cho phép khả năng di động từ đám mây sang tại chỗ cho các bằng chứng khái niệm AI.

Tối ưu hóa hiệu suất: Các tối ưu hóa hiệu suất đáng kể liên tục được triển khai trong PyTorch và vLLM cho việc huấn luyện và suy luận. Những tối ưu hóa này, chẳng hạn như kiểm tra điểm bất đồng bộ, bộ nhớ đệm tiền tố và suy luận phân tách, cho phép chúng tôi chủ động thiết kế kiến ​​trúc hệ thống Dell AI Factory để đạt hiệu suất và hiệu quả tối ưu.

Tư cách thành viên cao cấp của PyTorch Foundation cho phép chúng tôi đóng góp trực tiếp hơn vào các khuôn khổ quan trọng này, thúc đẩy tối ưu hóa mạnh mẽ hơn và tích hợp chặt chẽ hơn giữa phần cứng và phần mềm hỗ trợ AI. Kết quả là trải nghiệm liền mạch, hiệu quả và có khả năng mở rộng hơn cho các nhà phát triển AI và người dùng cuối.

“Cam kết của Dell đối với đổi mới nguồn mở đóng vai trò quan trọng trong mục tiêu thúc đẩy sự tiến bộ của con người. PyTorch, vLLM và DeepSpeed ​​là những nền tảng phần mềm AI nguồn mở quan trọng trong các giải pháp Dell AI Factory của chúng tôi, cho phép khách hàng nâng cao hiệu quả trong việc giải quyết các nhu cầu kinh doanh. Việc trở thành Thành viên Premier của PyTorch Foundation cho phép Dell cung cấp khả năng tối ưu hóa và tích hợp sâu hơn, mang lại lợi ích cho các nhà phát triển AI, người dùng cuối và cộng đồng nguồn mở nói chung.”
— Ihab Tarazi, Giám đốc Công nghệ kiêm Phó Chủ tịch Cấp cao tại Dell Technologies, Nhóm Giải pháp Cơ sở hạ tầng Core .

Cùng nhau xây dựng tương lai của AI

Trở thành Thành viên Premier, chúng tôi không chỉ hỗ trợ Quỹ PyTorch mà còn tích cực đầu tư vào tương lai của toàn bộ cộng đồng AI. Dell cung cấp năng lượng cho các hệ thống AI tiên tiến nhất thế giới với danh mục máy chủ, lưu trữ, mạng và khả năng phục hồi an ninh mạng tiên tiến. Quy mô toàn cầu, hệ sinh thái đối tác rộng lớn và sự đổi mới trong lĩnh vực phần cứng và phần mềm giúp chúng tôi có thể đóng góp đáng kể cho cộng đồng nguồn mở. Sự hợp tác này sẽ mang lại:

Hiệu suất được cải thiện: Sự tích hợp chặt chẽ hơn giữa cơ sở hạ tầng AI Factory của Dell và PyTorch sẽ mở ra những cấp độ hiệu suất và hiệu quả mới, cho phép các tổ chức đào tạo và triển khai mô hình nhanh hơn.

Khả năng tiếp cận tốt hơn: Bằng cách đóng góp vào các tiêu chuẩn mở, chúng tôi giúp các công cụ AI tiên tiến dễ tiếp cận hơn với nhiều nhà phát triển và nhà nghiên cứu hơn.

Tăng cường đổi mới: Một cộng đồng nguồn mở mạnh mẽ hơn sẽ thúc đẩy đổi mới nhanh hơn, cung cấp cho các doanh nghiệp những công cụ tiên tiến mà họ cần để duy trì lợi thế cạnh tranh.

Cam kết về AI sẵn sàng cho doanh nghiệp

Đối với các nhà phát triển AI, người ra quyết định CNTT và lãnh đạo doanh nghiệp, tư cách thành viên này thể hiện sự tập trung của Dell vào việc cung cấp các giải pháp AI an toàn, có khả năng mở rộng và tiết kiệm chi phí. Chúng tôi hiểu rằng việc áp dụng AI không chỉ đòi hỏi phần cứng mạnh mẽ; mà còn đòi hỏi một hệ sinh thái đáng tin cậy, mở và được hỗ trợ, có thể tích hợp trơn tru vào các môi trường CNTT hiện có.

Bằng cách tận dụng các khuôn khổ mở, các tổ chức có thể tiếp cận các công cụ tiên tiến và một cộng đồng nhà phát triển mạnh mẽ, cho phép đổi mới nhanh hơn và giảm sự phụ thuộc vào nhà cung cấp. Dell tiếp tục tích hợp các công nghệ nguồn mở vào các nền tảng sẵn sàng cho doanh nghiệp, đảm bảo triển khai liền mạch, khả năng mở rộng, bảo mật và hiệu suất.

Chúng tôi rất hào hứng với hành trình này cùng PyTorch Foundation và cộng đồng nguồn mở. Cùng nhau, chúng ta có thể tiếp tục mở rộng ranh giới của những gì AI có thể làm được và xây dựng một tương lai nơi công nghệ thúc đẩy sự tiến bộ cho tất cả mọi người.