Tăng tốc đổi mới và tính bền vững của AI: Dell PowerScale F910 mật độ cao, hiệu suất cao

Trong kỷ nguyên tiến bộ công nghệ nhanh chóng, các doanh nghiệp phải đối mặt với một thách thức chưa từng có: đẩy nhanh quá trình đổi mới AI trong khi giảm thiểu tác động đến môi trường. Khi nhu cầu về sức mạnh xử lý AI tăng vọt, mức tiêu thụ năng lượng liên quan cũng tăng theo, do đó dẫn đến sự gia tăng đáng kể lượng khí thải carbon. Mức tiêu thụ điện đã trở thành chủ đề thường xuyên với sự ra đời của AI. Tờ New York Times đưa tin, AI có thể sớm cần lượng điện bằng cả một quốc gia (nytimes.com). Những thách thức này đòi hỏi một giải pháp hiện đại thu hẹp khoảng cách giữa hiệu suất và tính bền vững.

Hãy đến với nền tảng PowerScale F910 của Dell, một nút hiệu suất cao, mật độ cao được thiết kế để đẩy nhanh quá trình đổi mới AI đồng thời giảm đáng kể lượng khí thải carbon của doanh nghiệp. Một nền tảng tiên tiến, chuyển đổi cách các tổ chức tiếp cận AI, đạt được các mục tiêu hiệu suất đầy tham vọng mà không ảnh hưởng đến trách nhiệm bảo vệ môi trường của chúng tôi.

Chúng ta đang nói về mật độ cao hơn bao nhiêu? F910 cung cấp mật độ cao hơn 20% cho mỗi đơn vị giá đỡ so với F710 được phát hành chỉ ba tháng trước với hiệu suất phi thường. Hơn nữa, F910 cung cấp mật độ với hiệu suất, vì nó nhanh hơn tới 2,2 lần đối với các thông tin chi tiết về AI.

Trong bài đăng trên blog này, chúng ta sẽ khám phá cách nền tảng hiệu suất cao, mật độ cao của chúng tôi định nghĩa lại bối cảnh đổi mới và tính bền vững của AI. Khám phá cách doanh nghiệp của bạn có thể tận dụng công nghệ đột phá này để đẩy nhanh các sáng kiến ​​AI, thúc đẩy tăng trưởng kinh doanh và tạo ra tác động tích cực đến môi trường.

Thách thức về đổi mới và phát triển bền vững của AI

Nhiều thách thức nảy sinh khi các doanh nghiệp ngày càng dựa vào AI để thúc đẩy đổi mới và giành được lợi thế cạnh tranh. Một trong những thách thức quan trọng nhất là nhu cầu tăng theo cấp số nhân đối với sức mạnh xử lý AI. Khi các mô hình AI trở nên tinh vi hơn và khối lượng dữ liệu bùng nổ, các doanh nghiệp cần các giải pháp phần cứng để theo kịp những nhu cầu đang phát triển này.

Tuy nhiên, với sức mạnh xử lý lớn thì mức tiêu thụ năng lượng cũng lớn. Bản chất sử dụng nhiều năng lượng của khối lượng công việc AI đã dẫn đến sự gia tăng đáng lo ngại về lượng khí thải carbon của các doanh nghiệp. Các trung tâm dữ liệu chứa cơ sở hạ tầng AI tiêu thụ một lượng điện khổng lồ, thường được tạo ra từ các nguồn tài nguyên không tái tạo, góp phần đáng kể vào lượng khí thải nhà kính. Tác động ở đây không chỉ là môi trường mà còn là rủi ro đối với các doanh nghiệp với tư cách là người tiêu dùng, nhà đầu tư và cơ quan quản lý, những người ngày càng ưu tiên tính bền vững.

Hơn nữa, mức tiêu thụ năng lượng cao của phần cứng AI chuyển thành chi phí hoạt động đáng kể cho các doanh nghiệp. Điện năng cần thiết để cung cấp năng lượng và làm mát các hệ thống AI có thể nhanh chóng làm giảm lợi nhuận ròng của một tổ chức, khiến việc biện minh cho ROI của các sáng kiến ​​AI trở nên khó khăn. Trên thực tế, Forbes đưa tin AI tạo ra phá vỡ trung tâm dữ liệu: Cơ sở hạ tầng và chi phí vận hành của trung tâm dữ liệu dự kiến ​​sẽ tăng lên hơn 76 tỷ đô la vào năm 2028 (forbes.com) .

Để giải quyết những thách thức này, các doanh nghiệp cần các nền tảng phần cứng cung cấp hiệu suất cao trong khi vẫn ưu tiên hiệu quả năng lượng. Họ cần các nền tảng có thể xử lý khối lượng công việc đòi hỏi cao của đổi mới AI mà không ảnh hưởng đến các mục tiêu phát triển bền vững. Ngành công nghiệp đang kêu gọi một sự thay đổi mô hình trong thiết kế phần cứng AI, tập trung ngang bằng vào sức mạnh xử lý và trách nhiệm với môi trường.

May mắn thay, với tư cách là nhà máy AI , Dell Technologies đã trả lời lời kêu gọi cân bằng giữa đổi mới AI với tính bền vững, bằng cách phát triển nền tảng PowerScale mới giải quyết trực diện những thách thức này. Bằng cách tận dụng công nghệ tiên tiến và các nguyên tắc thiết kế sáng tạo, giải pháp của chúng tôi cho phép các doanh nghiệp đẩy nhanh quá trình đổi mới AI đồng thời giảm đáng kể lượng khí thải carbon. Trong phần tiếp theo, chúng ta sẽ xem xét cách nền tảng phần cứng của chúng tôi cách mạng hóa bối cảnh AI và mở đường cho một tương lai bền vững hơn.

Giới thiệu PowerScale F910

Tại Dell, chúng tôi hiểu nhu cầu cấp thiết về một giải pháp phần cứng có thể thu hẹp khoảng cách giữa đổi mới AI và tính bền vững. Từ nhu cầu này, chúng tôi đã phát triển một nền tảng phần cứng tiên tiến được thiết kế để giải quyết những thách thức mà các doanh nghiệp phải đối mặt trong bối cảnh AI.

Nền tảng phần cứng hiệu suất cao, mật độ cao của chúng tôi là minh chứng cho cam kết của chúng tôi trong việc thúc đẩy ranh giới của công nghệ AI trong khi ưu tiên trách nhiệm với môi trường. Bằng cách tận dụng phần cứng tiên tiến và các cải tiến kỹ thuật của OneFS, F910 cung cấp sức mạnh xử lý vô song trong một gói nhỏ gọn, tiết kiệm năng lượng.

Tổng quan

Mặt trước của F910 có viền bảo vệ 24 ổ SSD NVMe, như hình ảnh hiển thị bên dưới.

Bảng điều khiển phía trước có màn hình LCD cung cấp nhiều thông tin và cập nhật trạng thái. Nó cũng có tùy chọn thêm một nút vào cụm PowerScale hiện có. Màn hình LCD cũng được sử dụng để xem địa chỉ IP iDRAC, địa chỉ MAC, tên cụm, thẻ tài sản, công suất đầu ra và thông tin nhiệt độ của nút. Hơn nữa, bảng điều khiển phía trước có đèn LED cho trạng thái ở bên trái. Ví dụ, ổ đĩa bị lỗi sẽ sáng đèn LED màu hổ phách.

Di chuyển đến mặt sau của F910, chúng ta có thể thấy tất cả các kết nối.

Nguồn điện được chia đều trên backplane, cho phép luồng không khí tối đa đi qua trung tâm của khung máy. Giao diện mạng front-end và back-end nằm ở hai bên đối diện, cung cấp kết nối Ethernet. Các giao diện khác ở phía sau bao gồm iDRAC, serial và NIC quản lý.

Các nút F910 sử dụng SSD NVMe. Trong cấu hình giá đỡ 6 RU gồm 3 nút, dung lượng thô của F910 trải dài từ tối thiểu 276,5 TB đến tối đa 2,16 PB. Dung lượng ổ đĩa khả dụng cho F910 được liệt kê trong bảng sau.

*Khả năng có sẵn trong tương lai

Đối với triển khai cụm mới, cần tối thiểu 3 nút F910 để tạo thành một cụm. Đối với triển khai cụm hiện tại, F910 tương thích với nhóm nút F900, cho phép thêm F910 theo bội số của 1. Nếu cụm hiện tại không có bất kỳ F900 nào, cần tối thiểu 3 nút để tạo thành nhóm nút mới.

Mật độ cao

Ngoài việc là một nền tảng hiệu suất cao, F910 còn là nút PowerScale toàn flash có mật độ cao nhất. Chúng tôi đã thiết kế hệ thống của mình để không chỉ đóng gói một lượng điện toán đặc biệt mà còn thúc đẩy mật độ, tối đa hóa khả năng AI mà không cần cơ sở hạ tầng vật lý rộng lớn. Điều này làm giảm diện tích không gian của phần cứng AI và giảm thiểu năng lượng cần thiết để làm mát và bảo trì. Xem bảng bên dưới để so sánh F910 với các nền tảng toàn flash khác của chúng tôi.

F910 cung cấp mật độ cao hơn 20% so với F710. Con số này được phóng đại hơn nữa nếu chúng ta so sánh F910 với F810, trong đó F910 cung cấp mức tăng 55%! Bây giờ, chúng ta hãy mô tả điều này thành. Điều gì sẽ trông như thế nào trong một trung tâm dữ liệu? Hãy lấy một kịch bản mà một trung tâm dữ liệu hiện có 10 giá đỡ và mỗi giá đỡ được lấp đầy đến công suất tối đa hiện tại của nó. Với mức tăng 55% về mật độ trên mỗi đơn vị giá đỡ, giờ đây chúng ta có thể lắp thêm 55% tài nguyên tính toán và lưu trữ trong mỗi giá đỡ so với thiết lập trước đó. Nếu chúng ta lấy một kịch bản đơn giản mà một trung tâm dữ liệu hiện tại có 10 giá đỡ, với mức tăng mật độ 55%, thì đó là 10 ÷ 155% ≈ 6,45 giá đỡ.

Trong kịch bản này, tác động của việc tăng 55% mật độ trên mỗi đơn vị giá đỡ vẫn đáng kể, vì nó cho phép trung tâm dữ liệu giảm 35% mức tiêu thụ giá đỡ. Giảm yêu cầu về không gian vật lý có thể dẫn đến tiết kiệm chi phí, cải thiện hiệu quả và linh hoạt hơn cho sự phát triển trong tương lai. Bây giờ, hãy hình dung điều này trong hình ảnh bên dưới.

Giảm dữ liệu được bật theo mặc định khi xuất xưởng, giúp tăng thêm mật độ và dung lượng cao của F910. Quy trình giảm dữ liệu nội tuyến kết hợp cả nén và loại bỏ trùng lặp. Khi các yếu tố này được kết hợp, chúng sẽ tăng đáng kể mật độ tổng thể của một cụm. Khi mật độ trên mỗi Đơn vị giá đỡ (RU) tăng lên, nó sẽ làm giảm Tổng chi phí sở hữu (TCO) cho giải pháp, giúp giảm lượng khí thải carbon.

Hiệu suất cao

F910 đạt được hiệu suất tối ưu bằng cách tận dụng các bản cập nhật phần cứng và phần mềm. PowerScale OneFS 9.7 và 9.8 đã giới thiệu một số bản cập nhật hướng đến hiệu suất.

Lưu ý : PowerScale F910 yêu cầu tối thiểu OneFS 9.8. Việc đề cập đến OneFS 9.7 ở đây là để hiểu được bước nhảy vọt về hiệu suất so với các bản phát hành OneFS trước đó. 

OneFS 9.7 đã mang đến bước tiến đáng kể về hiệu suất bằng cách cải thiện những điểm sau:

• Việc triển khai chiến lược phân phối vòng tròn trên các nhóm luồng đã làm giảm đáng kể tình trạng tranh chấp khóa luồng, giúp tăng hiệu quả và hiệu suất tổng thể của OneFS.
• Sự cạnh tranh trên các ổ khóa cửa quay đã được giảm bớt bằng cách tăng giá trị thử lại Khóa Đọc-Ghi (RW), tối ưu hóa hiệu suất hệ thống.
• Trong bối cảnh các nút lưu trữ NVMe, các hoạt động ghi được thực hiện một cách chiến lược xung quanh nhật ký cho các khối mới được phân bổ, do đó duy trì hiệu suất cao và ngăn ngừa sự chậm trễ trong xử lý dữ liệu và truy cập.

OneFS 9.8 tiếp tục đẩy mạnh hiệu suất phần mềm thuần túy, tối ưu hóa các bản cập nhật OneFS 9.7 để tiếp tục xây dựng trên chúng. Ngoài ra, OneFS 9.8 giới thiệu các cải tiến về xử lý luồng và quản lý khóa. Cuối cùng, các bản cập nhật mã chung đã mang lại bước nhảy vọt đáng kể về hiệu suất.

Về mặt phần cứng, F910 tận dụng nền tảng PowerEdge để có hiệu suất cực cao. Được trang bị Bộ xử lý Intel® Xeon® Gold 6442Y ổ cắm kép, nó cung cấp số lượng lõi cao hơn, tốc độ bộ nhớ nhanh hơn và các tính năng bảo mật được cải thiện. F910 có công nghệ PCIe 5.0, tăng gấp đôi băng thông và giảm độ trễ của thế hệ trước, do đó cho phép truyền dữ liệu nhanh hơn và sử dụng bộ tăng tốc hiệu quả hơn. Hơn nữa, F910 tận dụng RAM DDR5, cung cấp tốc độ và băng thông lớn hơn. Bảng dưới đây tóm tắt thông số kỹ thuật phần cứng của F910:

Sự kết hợp giữa các bản cập nhật phần cứng và phần mềm cho phép F910 giải quyết ngay cả những khối lượng công việc khó khăn nhất, giảm thiểu thời gian cho các thông tin chi tiết về AI. Nhìn chung, F910 cung cấp thông tin chi tiết về AI nhanh hơn 2,2 lần so với các thế hệ trước. Hãy cùng xem xét bối cảnh trong một phút. Nếu việc học một mô hình AI mất 10 giờ để hoàn thành, thì việc có thể thực hiện nhanh hơn 2,2 lần có nghĩa là nó sẽ hoàn thành trong khoảng 4,55 giờ. Đó là một cải tiến đáng kể về hiệu quả và năng suất. Bạn tiết kiệm được khoảng 5,45 giờ có thể được sử dụng cho các mô hình AI khác.

Chứng nhận NVIDIA DGX SuperPOD

Dell PowerScale là giải pháp lưu trữ dựa trên Ethernet đầu tiên trên thế giới được chứng nhận trên NVIDIA DGX SuperPOD. Sự hợp tác giữa Dell và NVIDIA được thiết kế để giúp khách hàng đạt được lưu trữ AI nhanh hơn và hiệu quả hơn. Dell PowerScale vượt quá các yêu cầu về chuẩn hiệu suất cho DGX SuperPOD. Việc tích hợp PowerScale và DGX SuperPOD cho phép xử lý lượng dữ liệu khổng lồ với tốc độ chưa từng có, do đó đẩy nhanh quá trình đào tạo các mô hình AI.  

PowerScale F910 mở rộng dòng sản phẩm giải pháp lưu trữ đã được chứng nhận NVIDIA DGX SuperPOD, đồng thời tăng tốc thời gian đào tạo và cân bằng tính bền vững. Để biết thêm thông tin về chứng nhận PowerScale NVIDIA DGX SuperPOD, hãy xem h19971-powerscale-ethernet-superpod-certification.pdf (delltechnologies.com) .

Dịch vụ

Đẩy nhanh kết quả AI với sự trợ giúp ở mọi giai đoạn từ dịch vụ Dell Professional. Các chuyên gia đáng tin cậy làm việc cùng bạn để thống nhất chiến lược chiến thắng, xác thực bộ dữ liệu, triển khai, đào tạo và hỗ trợ các mô hình GenAI và thu hẹp khoảng cách kỹ năng để giúp bạn duy trì hoạt động F910 an toàn và tối ưu ngay bây giờ và trong tương lai. Hơn nữa, dịch vụ Dell nhúng tính bền vững vào danh mục dịch vụ của chúng tôi để chủ động giúp khách hàng tiếp cận những thách thức môi trường cấp bách nhất từ ​​tính bền vững đến giảm thiểu chất thải. 

Phản hồi của khách hàng

Trong chương trình beta F910 của chúng tôi, các đối tác và khách hàng đã thử nghiệm và xác thực hiệu suất của F910. Chúng tôi muốn xác nhận hiệu suất và mật độ tăng trong môi trường thực tế. Quan trọng hơn, chúng tôi muốn biết mức tăng sẽ là bao nhiêu trên khối lượng công việc hiện có.

Vào lúc bắt đầu, sau đợt thử nghiệm đầu tiên, tất cả phản hồi ban đầu đều nhất quán. Để diễn đạt lại,

“Tôi biết tất cả các bạn đều khẳng định có hiệu suất cao hơn nhiều, nhưng tôi không nghĩ nó tốt đến thế.” 

Chúng tôi rất vui mừng khi nghe được phản hồi đó. Khi các cuộc thử nghiệm tiếp tục, nhiều đánh giá tích cực hơn tiếp tục xuất hiện.

Cuối cùng, John Lochausen, Kiến trúc sư giải pháp kỹ thuật tại World Wide Technology , đã tóm tắt lại tình cảm một cách tốt nhất:

“Chúng tôi tập trung cao độ vào cải tiến AI tại  AI Proving Ground của mình và PowerScale F910 hoàn toàn bằng flash đã vượt quá mong đợi của chúng tôi. Nó tăng gấp đôi hiệu suất, giảm chi phí điện năng và năng lượng cần thiết cho cùng một khối lượng công việc, thúc đẩy hơn nữa các mục tiêu phát triển bền vững của khách hàng.”

Phần kết luận

Tóm lại, điều mà F910 chứng minh là khi nói đến đổi mới và tính bền vững của AI, bạn có thể vừa có bánh vừa ăn bánh. Các tổ chức hiện có thể đẩy nhanh đổi mới AI trong khi vẫn đẩy nhanh tính bền vững. Tóm lại, F910 kiểm tra tất cả các yêu cầu về khối lượng công việc AI hiện đại: Hiệu suất cao  🗹 Mật độ cao  🗹 Tiết kiệm điện  🗹 Được chứng nhận NVIDIA  🗹