Giải phóng AI với các trung tâm dữ liệu thế hệ tiếp theo

Với nhu cầu điện toán ngày càng tăng nhờ AI, hãy tìm hiểu cách bắt đầu kỷ nguyên cơ sở hạ tầng công nghệ tiếp theo với các chuyên gia từ Dell, NVIDIA và Applied Digital.

Trong bối cảnh công nghệ thông tin không ngừng phát triển, trí tuệ nhân tạo (AI) đang đi đầu, mở ra kỷ nguyên mới về thiết kế và vận hành trung tâm dữ liệu. Tại Dell Technologies World 2024, Mindy Cancila, Phó chủ tịch Chiến lược doanh nghiệp tại Dell Technologies, Wes Cummins, Tổng giám đốc điều hành kiêm Chủ tịch Applied Digital và Jeremy Williford, Phó chủ tịch Bán hàng chiến lược tại NVIDIA, đã khám phá sức mạnh chuyển đổi của AI tạo sinh và nhu cầu xác định lại kiến ​​trúc trung tâm dữ liệu, mở rộng ranh giới của mật độ năng lượng và ủng hộ điện toán bền vững.

Những điểm chính

  • Tương lai của các trung tâm dữ liệu
  • Vai trò quan trọng của điện toán bền vững
  • Tầm quan trọng của việc hiểu cấu trúc dữ liệu là chìa khóa để tận dụng AI hiệu quả
  • Quan hệ đối tác và hệ sinh thái mở rất quan trọng đối với sự phát triển của công nghệ AI

Xác định tương lai của các trung tâm dữ liệu

Cancila bắt đầu cuộc thảo luận bằng cách hỏi Cummins về khái niệm trung tâm dữ liệu thế hệ tiếp theo. Cummins giải thích: “Tất cả đều liên quan đến điện toán… chuyển từ làm mát bằng không khí sang làm mát bằng chất lỏng, nhưng thực sự, mật độ công suất cao là những gì chúng tôi đang xây dựng, với lượng điện năng lớn”. Sau đó, Cancila chuyển hướng và hỏi Williford tại sao chúng ta cần phải suy nghĩ khác về các trung tâm thế hệ tiếp theo của mình. Ông nhấn mạnh nhu cầu quan trọng là “xem xét toàn cảnh về cách chúng ta thực hiện AI tạo sinh, vì nó đòi hỏi phải triển khai toàn bộ trung tâm dữ liệu mới”. Điều này bao gồm sự thay đổi từ mạng lưới trung tâm dữ liệu truyền thống sang các trung tâm dữ liệu hỗ trợ băng thông cao và độ trễ thấp theo yêu cầu của lưu lượng truy cập bắc-nam để có thông lượng dữ liệu cao ở quy mô lớn và lưu lượng truy cập đông-tây cung cấp kết nối giữa các máy chủ GPU để tăng hiệu suất cho việc đào tạo AI và suy luận bên trong các cụm.

Máy tính bền vững là trọng tâm cốt lõi

Chủ đề về điện toán bền vững bắt đầu với Cancila đề cập đến mối giao thoa của nó với AI trong các trung tâm dữ liệu. Cancila lưu ý rằng “Bạn không thể có một cuộc trò chuyện về AI tạo ra mà không nói về tính bền vững”, nhấn mạnh vào sự tập trung kép vào tiến bộ công nghệ và điện toán bền vững. Khi được hỏi về các cách tiếp cận để xác định mục tiêu ESG, Cummins đã chia sẻ, “Chúng tôi đã làm việc với các tổ chức lớn như NVIDIA và có thể áp dụng các biện pháp tốt nhất để hướng tới tòa nhà và cơ sở hạ tầng hiệu quả nhất mà chúng tôi có thể xây dựng”. Điều này phản ánh một cách tiếp cận chiến lược đối với năng lượng và hiệu suất cũng như tác động về mặt cấu trúc của các hoạt động của trung tâm dữ liệu. Mindy Cancila chỉ ra rằng “Tính bền vững không thể là một suy nghĩ muộn màng trong cuộc trò chuyện về AI tạo ra”. Bà nhấn mạnh nhu cầu các trung tâm dữ liệu trong tương lai phải được vận hành hiệu quả nhất và với dấu chân môi trường tối thiểu nhất có thể, một quan điểm được các thành viên khác trong hội thảo của bà đồng tình. Williford nói thêm, “Mọi người cần hiểu cấu trúc dữ liệu của họ trông như thế nào”. Ông ủng hộ việc bắt đầu bằng một hội thảo để nắm bắt các nguyên tắc cơ bản của dữ liệu và ứng dụng của nó trong một môi trường bền vững do AI thúc đẩy.

Vai trò của cấu trúc dữ liệu trong AI

Williford nhấn mạnh tầm quan trọng của việc hiểu cấu trúc dữ liệu trong bối cảnh AI. Ông khen ngợi Dell vì đã cung cấp chuyên môn cần thiết thông qua các dịch vụ tư vấn của mình. “Họ là một trong những công ty tốt nhất trên thị trường trong việc đưa khách hàng từ nơi họ đang ở để phát triển các trường hợp sử dụng của riêng họ.” Cancila hỏi về việc đặt mục tiêu hiệu quả. “Có rất nhiều khía cạnh liên quan đến việc tối ưu hóa năng lượng để chúng tôi có được năng suất cao hơn”, Williford giải thích, đồng thời nêu bật các yếu tố khác nhau góp phần vào hiệu quả của trung tâm dữ liệu.

Cấu trúc dữ liệu là một định dạng chuyên biệt để tổ chức, xử lý, truy xuất và lưu trữ dữ liệu. Nó xác định cách dữ liệu được sắp xếp trong bộ nhớ và cách thực hiện các hoạt động như chèn, xóa và duyệt. Cấu trúc dữ liệu rất cần thiết trong AI để quản lý dữ liệu hiệu quả, triển khai thuật toán, tối ưu hóa hiệu suất, quản lý bộ nhớ, xử lý song song và nhận dạng mẫu.

Thúc đẩy cuộc cách mạng AI

Khi cuộc trò chuyện chuyển sang tương lai của AI, Williford đã giải thích về sự thay đổi mô hình điện toán từ mô hình truyền thống dựa trên hướng dẫn sang mô hình dựa trên ý định với AI tạo ra. Cancila khẳng định rằng quan hệ đối tác và hệ sinh thái mở là chìa khóa để mở ra một cấp độ năng suất mới. “Tôi nghĩ rằng đó là nơi chúng ta thực sự mở ra một cấp độ năng suất hoàn toàn khác”, bà nói, nhận ra tiềm năng đổi mới thông qua sự hợp tác. Cummins đồng ý, “Bạn phải nghĩ về tầm quan trọng của hệ sinh thái mở và các quan hệ đối tác như Dell’s forging.” Ông nhấn mạnh vai trò quan trọng của sự hợp tác trong việc thúc đẩy công nghệ trung tâm dữ liệu.

Các thành viên tham gia thảo luận đã đưa ra một tầm nhìn hấp dẫn về tương lai của các trung tâm dữ liệu trong thế giới do AI thúc đẩy. Các cuộc thảo luận nhấn mạnh nhu cầu về một góc nhìn mới về thiết kế trung tâm dữ liệu, tập trung vào điện toán bền vững, hiểu các cấu trúc dữ liệu và áp dụng các hệ sinh thái mở để cộng tác. Khi chúng ta tiến về phía trước, các nguyên tắc này sẽ là nền tảng để hiện thực hóa toàn bộ tiềm năng của AI trong trung tâm dữ liệu.