Kiến trúc và quản lý OneFS SmartQoS

Kiến trúc giới hạn SmartQoS Protocol Ops, được giới thiệu trong OneFS 9.5, bao gồm ba khả năng chính:

Theo dõi tài nguyên
Phân phối giới hạn tài nguyên
Điều tiết

Bên trong, các đầu giao thức OneFS (NFS, SMB và S3) xác định và theo dõi số lượng hoạt động giao thức đang được xử lý thông qua một lần xuất hoặc chia sẻ cụ thể. Cơ sở hạ tầng báo cáo hiệu suất phân vùng (PP) hiện có được tận dụng để thu thập, tính toán và phân phối mức sử dụng tài nguyên trên toàn cụm, cùng với chức năng OneFS 9.5 mới để hỗ trợ giới hạn Ops giao thức khối lượng công việc được ghim.

Mô-đun lập lịch giao thức (LwSched) có khả năng điều tiết tích hợp cho phép trì hoãn việc thực hiện từng hoạt động bằng cách tạm dừng chúng hoặc ‘ngủ’. Ngoài ra, trong OneFS 9.5, các mô-đun hạt nhân hiệu suất phân vùng cũng đã được cải tiến để tính toán ‘thời gian ngủ’ dựa trên thông tin tài nguyên đếm hoạt động (yêu cầu, mức sử dụng trung bình, v.v.) – cả trong cửa sổ điều tiết hiện tại và cho một khối lượng công việc cụ thể.

Chúng ta có thể mô tả quy trình làm việc cơ bản của SmartQoS như sau:

Cấu hình bằng CLI, pAPI hoặc WebUI.
Bộ thu thập số liệu thống kê lấy dữ liệu Op/s từ hạt nhân hiệu suất phân vùng (PP).
Người thu thập số liệu thống kê truyền dữ liệu Op/s tới dịch vụ trưởng PP.
Người đứng đầu truy vấn trình quản lý cấu hình để biết giới hạn tốc độ cho mỗi cụm.
Người dẫn đầu tính toán giới hạn cho mỗi nút.
Dịch vụ theo dõi PP được thông báo về giới hạn Op/s trên mỗi nút.
Kernel được thông báo về giới hạn mới cho mỗi nút.
Công việc được lên lịch với nguồn lực hạn chế.
Kernel trả về thời gian ngủ nếu cần.

Khi quản trị viên cấu hình giới hạn Ops giao thức theo cụm, dịch vụ thu thập số liệu thống kê, isi_stats_d, bắt đầu thu thập thông tin tài nguyên khối lượng công việc cứ sau 30 giây theo mặc định từ hạt nhân hiệu suất phân vùng (PP) trên mỗi nút trong cụm và thông báo cho dịch vụ dẫn đầu isi_pp_d về thông tin tài nguyên này. Tiếp theo, dịch vụ dẫn đầu nhận được giới hạn Ops giao thức theo cụm cộng với các số liệu tiêu thụ tài nguyên bổ sung từ dịch vụ isi_acct_cpp từ isi_tardis_d, dịch vụ cấu hình cụm OneFS và tính toán giới hạn Ops giao thức của mỗi nút cho cửa sổ điều tiết tiếp theo. Sau đó, dịch vụ này hướng dẫn dịch vụ theo dõi isi_pp_d trên mỗi nút cập nhật hạt nhân với giới hạn Ops giao thức mới được tính toán, cộng với yêu cầu đặt lại cửa sổ điều tiết.

Khi nhân nhận được yêu cầu lập lịch cho một mục công việc từ trình lập lịch giao thức (LwSched), nhân sẽ tính toán giá trị ‘thời gian ngủ’ cần thiết, dựa trên giới hạn Ops giao thức nút hiện tại và mức sử dụng tài nguyên trong cửa sổ điều tiết hiện tại. Nếu không có đủ tài nguyên, luồng thực thi mục công việc sẽ được đưa vào trạng thái ngủ trong một khoảng thời gian cụ thể được trả về từ nhân PP. Nếu có sẵn tài nguyên hoặc luồng được kích hoạt lại từ trạng thái ngủ, nó sẽ thực thi mục công việc và báo cáo số liệu thống kê về mức sử dụng tài nguyên trở lại PP, giải phóng bất kỳ tài nguyên lập lịch nào mà nó có thể sở hữu.

SmartQoS có thể được cấu hình thông qua CLI, API nền tảng hoặc WebUI và OneFS 9.5 giới thiệu trang WebUI SmartQoS mới để hỗ trợ điều này. Lưu ý rằng SmartQoS chỉ khả dụng khi bản nâng cấp lên OneFS 9.5 đã được cam kết và mọi nỗ lực cấu hình hoặc chạy tính năng trước khi cam kết nâng cấp sẽ không thành công với thông báo sau:

# khối lượng công việc hiệu suất isi sửa đổi DS1 -w WS1 --limits protocol_ops:50000
 Thiết lập giới hạn hoạt động giao thức không khả dụng cho đến khi nâng cấp được cam kết

Khi một cụm đang chạy OneFS 9.5 và bản phát hành được cam kết, tính năng SmartQoS được bật theo mặc định. Tính năng này và cấu hình hiện tại có thể được xác nhận bằng lệnh CLI sau:

# isi thiết lập hiệu suất xem
                   Bộ sưu tập hàng đầu: 1024
        Ngưỡng thời gian trong hàng đợi (ms): 10.0
 Độ trễ đọc mục tiêu tính bằng micro giây: 12000.0
Độ trễ ghi mục tiêu tính bằng micro giây: 12000.0
          Giới hạn hoạt động giao thức được bật: Có

Trong OneFS 9.5, lệnh CLI ‘isi performance settings modify’ hiện bao gồm tham số ‘protocol-ops-limit-enabled’ để cho phép dễ dàng vô hiệu hóa (hoặc kích hoạt lại) tính năng trên toàn cụm. Ví dụ:

# thiết lập hiệu suất isi sửa đổi --protocol-ops-limit-enabled false
protocol_ops_limit_enabled: Đúng -> Sai

Tương tự như vậy, lệnh CLI ‘isi performance settings view’ đã được mở rộng để báo cáo trạng thái giới hạn của giao thức OP:

# chế độ xem cài đặt hiệu suất isi *
Bộ sưu tập hàng đầu: 1024
Giới hạn hoạt động giao thức được bật: Có

Để thiết lập giới hạn OPs giao thức trên khối lượng công việc từ CLI, các lệnh ‘isi performance workload pin’ và ‘isi performance workload modify’ hiện chấp nhận tham số ‘–limits’ tùy chọn. Ví dụ: để tạo khối lượng công việc được ghim với giới hạn ‘protocol_ops’ được đặt thành 10000:

# isi performance workload pin test protocol:nfs3 --limits
protocol_ops:10000

Tương tự như vậy, để sửa đổi giới hạn ‘protocol_ops’ của khối lượng công việc hiện tại thành 20000:

# isi performance workload modify test 101 --limits protocol_ops:20000
protocol_ops: 10000 -> 20000

Khi cấu hình SmartQoS, hãy luôn lưu ý rằng đây là một công cụ điều tiết mạnh mẽ có thể áp dụng cho các khu vực quan trọng của dữ liệu và cơ sở người dùng của cụm. Ví dụ, giới hạn OP giao thức có thể được cấu hình cho các số liệu như ‘path:/ifs’, sẽ ảnh hưởng đến toàn bộ hệ thống tệp /ifs hoặc ‘zone_name:System’ sẽ giới hạn vùng truy cập Hệ thống và tất cả người dùng trong đó.

Mặc dù các cấu hình như vậy hoàn toàn hợp lệ, nhưng chúng sẽ có tác động đáng kể trên toàn hệ thống. Do đó, hãy thận trọng khi cấu hình SmartQoS để tránh bất kỳ hạn chế hiệu suất vô ý, không mong muốn hoặc không mong muốn nào.

Để xóa giới hạn Ops của giao thức trên khối lượng công việc, lệnh CLI ‘isi performance workload modify’ đã được mở rộng để chấp nhận đối số ‘–noprotocol-ops-limit’ tùy chọn. Ví dụ:

# isi hiệu suất khối lượng công việc sửa đổi thử nghiệm 101 --no-protocol-ops-limit
protocol_ops: 20000 -> 18446744073709551615

Lưu ý rằng giá trị ‘18446744073709551615’ trong lệnh đầu ra ở trên biểu thị ‘NO_LIMIT’ được đặt.

Bạn có thể xem giới hạn Ops giao thức của khối lượng công việc bằng cách sử dụng lệnh CLI ‘isi performance workload list’ và ‘isi performance workload view’, đã được sửa đổi trong OneFS 9.5 để hiển thị giới hạn một cách phù hợp. Ví dụ:

# kiểm tra danh sách khối lượng công việc hiệu suất isi
Tên ID Giá trị số liệu Thời gian tạo Giới hạn tác động
---------------------------------------------------------------------
101 - giao thức:nfs3 2023-02-02T22:35:02 - protocol_ops:20000
---------------------------------------------------------------------
# isi performance khối lượng công việc xem thử nghiệm 101
Mã số: 101
Tên: -
Giá trị số liệu: protocol:nfs3
Thời gian tạo: 2023-02-02T22:35:02
Sự va chạm: -
Giới hạn: protocol_ops:20000

Trong bài viết tiếp theo của loạt bài này, chúng tôi sẽ hướng dẫn từng bước cấu hình và xác minh SmartQoS từ cả CLI và WebUI.

Tác giả : Nick Trimbee