Đã đến lúc các NIC trở nên thông minh hơn?

Đã có rất nhiều cuộc thảo luận trong ngành trong vài năm qua xung quanh SMART-NIC. Trong blog này, chúng tôi chia sẻ quan điểm của mình về lớp máy gia tốc mạng mới này và vai trò của chúng trong tương lai của các nền tảng điện toán. SMART-NIC dự kiến ​​sẽ đóng một vai trò quan trọng trong các nền tảng điện toán cho các Trung tâm dữ liệu lớn, môi trường Edge và Telco 5G .

Có một xu hướng chung trong ngành xung quanh việc xây dựng các nền tảng điện toán bao gồm các CPU có mục đích chung kết hợp với các bộ tăng tốc chuyên dụng (SOC và ASIC). Ngành này cũng gọi chúng là Kiến trúc dành riêng cho miền, trong đó bộ xử lý máy chủ được sử dụng để thiết lập mọi thứ và bộ tăng tốc thực hiện xử lý điện toán cho miền có vấn đề cụ thể. Một số yếu tố đang thúc đẩy việc áp dụng kiến ​​trúc máy tính lai này :

1. Số lượng lõi trong CPU ngày càng tăng đã cải thiện hiệu suất của CPU, nhưng những cải tiến về băng thông I/O và bộ nhớ vẫn chưa theo kịp. Việc kết hợp CPU với bộ tăng tốc sẽ chuyển một số quá trình xử lý sang thẻ tăng tốc mà không chuyển dữ liệu qua lại giữa bộ nhớ, IO và CPU.
2. Khi tốc độ mạng và hiệu suất đĩa ngày càng tăng, một số quá trình xử lý liên quan (dịch vụ mạng và xử lý/phân tích dữ liệu) sẽ tiến gần hơn đến mạng dưới dạng FPGA để tránh gửi dữ liệu không cần thiết đến bộ nhớ máy chủ.
3. Các công ty viễn thông đang tiến tới ảo hóa biên mạng với sự phát triển lên 5G. Tăng tốc phần cứng sẽ đóng một vai trò quan trọng trong kiến ​​trúc 5G để giảm tải cho các dịch vụ mạng, chia mạng 5G và xử lý dữ liệu theo thời gian thực.

SMART-NIC là một loại máy gia tốc bao gồm một NIC (Bộ điều khiển giao diện mạng) tiêu chuẩn kết hợp với FPGA và lõi CPU (lõi ARM hoặc x86), như thể hiện trong Hình 1. Chúng được mong đợi sẽ đóng vai trò chính trong kiến ​​trúc hệ thống trong tương lai bởi vì hầu hết các dịch vụ và ứng dụng cơ sở hạ tầng đang hoặc sẽ được kết nối mạng. Một số ví dụ về dịch vụ cơ sở hạ tầng là dịch vụ mạng (thiết bị chuyển mạch ảo, tường lửa, bộ cân bằng tải, chức năng mạng ảo Telco, SD-WAN ), dịch vụ lưu trữ (phần mềm SDS cho lưu trữ khối, tệp, đối tượng ), phân tích và máy học. Các dịch vụ cơ sở hạ tầng này được chuyển sang kiến ​​trúc do phần mềm xác định với SDN (Mạng do phần mềm xác định), SDS (Lưu trữ do phần mềm xác định) và phân tích dữ liệu phân tán(Hadoop, Tia lửa).

Khi tốc độ mạng ngày càng tăng, cần phải di chuyển quá trình xử lý mạng liên quan từ CPU máy chủ sang bộ điều hợp mạng để theo kịp tốc độ dữ liệu và giảm lượng dữ liệu được gửi tới bus IO và bộ nhớ máy chủ để xử lý. Bộ chuyển mạch ảo thường trú của Hypervisor cung cấp một số chức năng bao gồm di chuyển dữ liệu, lớp phủ chuyển mạch ảo, mã hóa, kiểm tra gói sâu, cân bằng tải và tường lửa. Thật khó để mở rộng các tính năng này thành tốc độ mạng trong tương lai là 50/100/200G. FPGA và NIC trên SMART-NIC (Hình 1) cho phép giảm tải mặt phẳng dữ liệu này để mở rộng quy mô thành thông lượng cao hơn, độ trễ thấp hơn và hiệu suất gói trên giây (pps) cao hơn. Các dịch vụ mạng cấp cao khác và chức năng mạng ảo Telco(VNF) cũng đang bắt đầu tận dụng FPGA và NIC ASIC để giảm tải quá trình xử lý mặt phẳng dữ liệu và các tính năng mới như chia mạng cho 5G .

Một số chức năng của mặt phẳng dữ liệu cũng được hưởng lợi từ việc di chuyển mặt phẳng điều khiển được liên kết đến gần mặt phẳng dữ liệu hơn, dẫn đến các lõi CPU được nhúng trên SMART-NIC. Những lợi ích của việc làm này là gì?

1. Hỗ trợ bất kỳ hệ điều hành nào chạy trên CPU chủ và hỗ trợ các thùng chứa bằng kim loại trần.
2. Bảo mật mạnh hơn – hình ảnh được ký nhúng có thể được phân phối cho phần mềm trên SMART-NIC và nó không phụ thuộc vào bất kỳ cuộc tấn công bảo mật nào vào HĐH hoặc ứng dụng chạy trên CPU chủ.
3. Phần mềm chạy trên SMART-NIC có thể cách ly máy chủ khỏi phần còn lại của mạng nếu phát hiện thấy mối đe dọa bảo mật.

Việc giảm tải các chức năng mạng thông qua SMART-NIC tạo cơ hội tối ưu hóa hơn nữa các luồng dữ liệu trong hệ thống tính toán tổng thể như trong Hình 2. Phần mềm chạy trên SMART-NIC có thể cho phép truyền dữ liệu trực tiếp tới bộ lưu trữ máy chủ và GPU mà không cần sử dụng bộ nhớ máy chủ làm bộ nhớ khu vực tổ chức để truyền dữ liệu, do đó cải thiện hiệu suất, giảm độ trễ và giải phóng các chu kỳ CPU máy chủ.

Cần có một số nỗ lực tiêu chuẩn hóa cấp ngành để phát triển các API mở sao cho có thể sử dụng SMART-NIC từ bất kỳ nhà cung cấp nào để tăng tốc bất kỳ khối lượng công việc nào, chẳng hạn như:

1. Chuẩn hóa giao diện mặt phẳng dữ liệu cho các ứng dụng giảm tải xử lý mặt phẳng dữ liệu.
2. Tiêu chuẩn hóa các giao diện để quản lý vòng đời phần mềm của SMART-NIC.
3. Tiêu chuẩn hóa quản lý phần cứng và giám sát SMART-NIC thông qua giao diện DMTF Redfish.

Các SMART-NIC này sẽ đóng vai trò chính trong các nền tảng điện toán cho cả Trung tâm dữ liệu và Edge. Trong các trung tâm dữ liệu, SMART-NIC cho phép khối lượng công việc mở rộng quy mô lên tốc độ mạng cao hơn. Chúng cũng giải phóng các lõi CPU máy chủ và giảm mức tiêu thụ bộ nhớ cũng như mức sử dụng bus IO bằng cách di chuyển tính toán sử dụng nhiều CPU và dữ liệu sang phần cứng. Trong triển khai Edge , SMART-NIC cho phép di chuyển tới các máy chủ ổ cắm đơn thay vì nền tảng ổ cắm kép hiện tại và các tính năng mới như cắt mạng cho 5G, Tăng tốc Telco VNF, phân phối nội dung, xử lý hình ảnh và Suy luận học máy.

Do tầm quan trọng của kiến ​​trúc kết hợp này đối với khối lượng công việc thế hệ tiếp theo, các nhà cung cấp CPU, cụ thể là Intel , cũng đã phát triển từ quan điểm bộ xử lý sang quan điểm hệ thống với các khoản đầu tư vào FPGA, SMART-NIC, GPU và Bộ đồng xử lý. Thay đổi này sẽ cho phép thế hệ triển khai Edge và 5G được tối ưu hóa cao tiếp theo dựa trên nền tảng điện toán x86 và SMART-NIC kết hợp với bộ nhớ và lưu trữ liên tục tốc độ cao.

Dell Technologies đang dẫn đầu sự đổi mới trong kiến ​​trúc hệ thống lai trong tương lai với FPGA, SMART-NIC, GPU và các bộ tăng tốc đa lõi dựa trên SoC khác trong khi làm việc về tiêu chuẩn hóa API và khung. Dell Technologies đang hợp tác với các Nhà cung cấp Dịch vụ Viễn thông để mang công nghệ hàng đầu trên hành trình tiến tới 5G của chúng tôi.