Đẩy nhanh đổi mới AI: Máy chủ mới và giải pháp giá đỡ tích hợp cho tương lai

Tiếp nối những thông báo thú vị tại Ngày phát triển AI của AMD và Hội nghị thượng đỉnh toàn cầu OCP 2024 , Dell Technology tiếp tục đà phát triển của mình tại SC24 bằng cách công bố thêm các máy chủ và giải pháp giá đỡ tích hợp đại diện cho những bổ sung mới nhất cho danh mục cơ sở hạ tầng của Dell AI Factory. Cơ sở hạ tầng mới này cho phép khách hàng đẩy nhanh thời gian tạo giá trị cho các nỗ lực AI của họ và cải thiện hiệu quả năng lượng để hỗ trợ các mục tiêu phát triển bền vững. 

Hai máy chủ Dell PowerEdge mới, XE7740 và XE9685L , sẽ được cung cấp trong dòng Dell Integrated Rack 5000 (IR5000) mới như một phần của chương trình Dell Integrated Rack Scalable Systems (IRSS) , cung cấp cơ sở hạ tầng AI tiết kiệm năng lượng, làm mát bằng không khí và chất lỏng với tính linh hoạt, khả năng mở rộng và hiệu suất được cải thiện. Dell cũng là công ty đầu tiên công bố hỗ trợ cho kiến ​​trúc NVIDIA GB200 NVL4 tiên tiến, sẽ được cung cấp trong dòng Dell Integrated Rack 7000.  

Thông tin chi tiết bổ sung về các sản phẩm mới này:

Dell PowerEdge XE7740 làm mát bằng không khí 4U sử dụng bộ xử lý Intel® Xeon® 6 kép với lõi P và tối đa 8 bộ tăng tốc rộng đôi, bao gồm bộ tăng tốc Intel Gaudi® 3 PCIe hoặc GPU NVIDIA H200 NVL Tensor Core hoặc tối đa 16 bộ tăng tốc rộng đơn, chẳng hạn như NVIDIA L4. Tính linh hoạt này cho phép các doanh nghiệp điều chỉnh đúng kích thước cấu hình máy chủ của mình cho khối lượng công việc đang xử lý, từ việc tinh chỉnh hoặc suy luận các mô hình AI tạo ra, đến việc trích xuất giá trị từ các tập dữ liệu lớn.   

• • Hiệu suất được cải thiện – hỗ trợ tối đa 16 GPU và 2 CPU với tối đa 384 lõi CPU, lý tưởng cho các tác vụ đòi hỏi tính toán chuyên sâu, như suy luận AI và tinh chỉnh.  
  • PowerEdge XE7740 bổ sung hỗ trợ cho tối đa 8 bộ tăng tốc Intel Gaudi 3 PCIe và bộ xử lý Intel® Xeon® 6 với lõi P. 
  • Làm mát hiệu quả – khung máy 4U làm mát bằng không khí đảm bảo quản lý nhiệt hiệu quả ngay cả khi sử dụng GPU 600W hiệu suất cao mà không cần hệ thống làm mát phức tạp.  
  • Dễ triển khai – dễ dàng triển khai hệ thống làm mát bằng không khí này trong các trung tâm dữ liệu hiện có để nhanh chóng tận dụng các khả năng của nó, giảm thiểu thời gian chết và gián đoạn, đẩy nhanh thời gian tạo ra giá trị. 
  • Hệ thống được thiết kế riêng – đáp ứng các yêu cầu khối lượng công việc cụ thể và dễ dàng điều chỉnh cấu hình cho phù hợp với quy trình làm việc đang phát triển của bạn.  

PowerEdge XE9685L là máy chủ 4U siêu dày đặc làm mát bằng chất lỏng trực tiếp từ hệ số điều khiển hiệu suất đào tạo LLM cao hơn 3 lần, được thiết kế để nâng cao các doanh nghiệp tham gia vào AI, học máy và các hoạt động sử dụng nhiều dữ liệu. Nó tích hợp bộ xử lý AMD EPYC™ 9005 thế hệ thứ 5 kép với GPU NVIDIA H200 hoặc B200 Tensor Core để mang lại hiệu suất và khả năng tùy chỉnh vượt trội cho khối lượng công việc nâng cao. 

• • Mật độ GPU tối đa – Hỗ trợ tới 96 GPU trên mỗi giá đỡ bằng cách sử dụng 8 GPU NVIDIA® Tensor Core H200 hoặc B200 trong hệ số dạng 4U. Hợp nhất sức mạnh tính toán của bạn và tăng tốc hiệu suất, tất cả trong một máy chủ duy nhất. 
  • Mạng hiệu suất cao với khả năng mở rộng linh hoạt – Có 12 khe cắm PCIe Gen 5.0 ở mặt trước để truyền dữ liệu bên trong và bên ngoài vượt trội đồng thời giảm thời gian bảo trì.  
  • Làm mát hiệu quả – Duy trì hiệu suất tối ưu với ống phân phối DLC kép tiên tiến của chúng tôi mang lại hiệu quả, khả năng bảo dưỡng và độ tin cậy vượt trội. 

Dell là công ty đầu tiên công bố hỗ trợ cho kiến ​​trúc máy chủ NVIDIA GB200 NVL4 sắp ra mắt với máy chủ Dell PowerEdge sắp ra mắt được thiết kế cho các giá đỡ tích hợp dòng Dell IR7000. Được thiết kế dưới dạng 1OU (giá đỡ 21 inch), máy chủ này sẽ được lắp đặt liền mạch vào giá đỡ IR7000 đã được công bố vào đầu năm nay tại OCP 2024 .   

• • Đổi mới đầu tiên trên thị trường: Dell là công ty đầu tiên công bố hỗ trợ cho dòng máy tính xách tay tiên tiến này bằng công nghệ Nvidia GB200 NVL4. 
  • Quản lý nhiệt hiệu quả: Giá đỡ IR7000 được thiết kế để thu được tới 100% nhiệt lượng tỏa ra từ các thanh trượt này, thúc đẩy các hoạt động tính toán hiệu quả. 
  • Dịch vụ vòng đời toàn diện: Nền tảng này bao gồm các dịch vụ vòng đời đầy đủ, giúp đẩy nhanh thời gian tạo giá trị đồng thời đơn giản hóa quá trình tích hợp AI. 
  • Hỗ trợ khối lượng công việc nâng cao: Kiến trúc được thiết kế để xử lý hiệu quả cả khối lượng công việc HPC và AI, tối đa hóa hiệu suất và khả năng mở rộng. 

Với thông báo ngày hôm nay, chúng tôi hiện hoàn thiện danh mục sản phẩm giá đỡ tích hợp của mình với dòng sản phẩm Giá đỡ tích hợp 5000 (IR5000), bổ sung giá đỡ 19” tiêu chuẩn EIA làm mát bằng không khí hoặc chất lỏng trực tiếp vào chương trình IRSS, cho phép Dell cung cấp XE9680L, XE9685L, XE7740 và XE7745 ở quy mô giá đỡ. Các cấu hình dòng sản phẩm IR5000 này cung cấp mật độ GPU cao nhất có sẵn cho các giá đỡ tiêu chuẩn, mang lại hiệu suất cao hơn trong cùng một không gian.  

• • Silicon đa dạng – Nhu cầu ngày càng tăng đối với GPU để cung cấp năng lượng cho AI và tính toán mật độ cao đang làm giảm tính khả dụng và do đó thúc đẩy nhu cầu ngày càng tăng đối với các tùy chọn silicon. Silicon đa dạng cũng hỗ trợ một hệ sinh thái mở cho AI, cung cấp cho khách hàng sự lựa chọn bộ xử lý và bộ tăng tốc từ Intel, AMD và NVIDIA. 
  • Mật độ cao – Tối đa 72 GPU trên mỗi giá cho môi trường làm mát bằng không khí hoặc 96 GPU trên mỗi giá cho trung tâm dữ liệu làm mát bằng chất lỏng hoặc làm mát kết hợp  
  • Tiết kiệm năng lượng – Công nghệ làm mát thông minh cung cấp cho khách hàng các lựa chọn làm mát bằng không khí, làm mát bằng chất lỏng hoặc môi trường kết hợp. 

Dell đã cung cấp các dịch vụ rack-scale tùy chỉnh và các rack tích hợp cho khách hàng trong hơn 15 năm. Với những thông báo mới này, Dell Technologies hiện cung cấp cho khách hàng quan tâm đến việc triển khai nhanh chóng cơ sở hạ tầng AI với sự lựa chọn về kiểu rack, hệ thống làm mát để quản lý nhiệt, các tùy chọn mạng và nhiều tùy chọn silicon trong danh mục rack tích hợp toàn diện. 

Dell Integrated Rack Scalable Solutions (IRSS) được thiết kế cho các triển khai AI và HPC quy mô rack, tối đa hóa không gian, hiệu quả năng lượng và giảm chi phí. Các hệ thống IRSS được cung cấp dưới dạng các bộ rack được xây dựng và thử nghiệm hoàn chỉnh, cho phép triển khai trong vài ngày thay vì vài tuần, với thời gian xây dựng, cung cấp và triển khai giảm 3 lần. Các giải pháp IRSS trải qua quá trình thử nghiệm QA toàn diện tại nhà máy và triển khai để đảm bảo chất lượng và bao gồm nhiều lựa chọn cho mạng. Các giải pháp IRSS trao quyền cho các doanh nghiệp mở rộng quy mô một cách liền mạch, khiến chúng trở thành một lựa chọn hấp dẫn cho các tổ chức muốn đơn giản hóa và đẩy nhanh quá trình triển khai cơ sở hạ tầng AI của mình. 

Dell PowerEdge XE7740 sẽ có mặt vào nửa đầu năm dương lịch 2025. Chương trình Dell PowerEdge XE9685L và Hệ thống tích hợp có thể mở rộng giá đỡ sẽ có mặt vào quý 1 năm dương lịch 2025.  

Khám phá trang web Dell IRSS để tìm hiểu thêm.