GenAI: Con dao hai lưỡi cho an ninh mạng

Sự phát triển nhanh chóng của Generative AI (GenAI) đang thay đổi cục diện của các nhóm bảo mật, mang lại những tiến bộ về năng suất và độ chính xác, đồng thời giúp bảo vệ môi trường CNTT với độ tinh vi và quy mô cao hơn. Tuy nhiên, các tổ chức cũng phải chuẩn bị cho những tác động tiềm ẩn do việc mở rộng sử dụng GenAI trong doanh nghiệp. GenAI đại diện cho tiến bộ công nghệ tiếp theo sẽ đưa ra cả thách thức và giải pháp cho an ninh mạng.

Một báo cáo gần đây của Gartner®, AI sáng tạo 4 cách sẽ tác động đến CISO và nhóm của họ , nhấn mạnh những thách thức đặt ra do việc sử dụng GenAI không được quản lý, đưa ra các bề mặt tấn công và rủi ro mới cho các nhóm bảo mật. Việc sử dụng GenAI không được quản lý trong các ứng dụng doanh nghiệp sẽ gây ra những rủi ro trước mắt, bao gồm lộ dữ liệu nhạy cảm, vi phạm bản quyền và phản hồi thiên vị hoặc không chính xác, tất cả đều có thể dẫn đến tổn hại thương hiệu. Bất chấp những rủi ro này, các nhân viên và tổ chức vẫn mong muốn tận dụng GenAI cho các công việc hàng ngày, thường chuyển ra ngoài trước khi triển khai quản trị bảo mật mạnh mẽ để đáp ứng các mục tiêu kinh doanh.

Để giảm thiểu những thách thức này, Gartner® đề xuất các nhà lãnh đạo bảo mật nên thực hiện các chiến lược để kiểm soát tốt hơn mức tiêu thụ GenAI trong tổ chức của họ. Điều này bao gồm việc thiết lập một thực thể quản trị và quy trình làm việc, giám sát và chặn quyền truy cập, truyền đạt các chính sách sử dụng được chấp nhận, khám phá các tích hợp API và kỹ thuật nhanh chóng cũng như ưu tiên các tùy chọn lưu trữ riêng tư.

Khi GenAI được áp dụng rộng rãi, các nhà lãnh đạo an ninh cũng phải lường trước những kẻ có ý đồ xấu sẽ khai thác nó. Gartner® lưu ý sự không chắc chắn xung quanh tác động đầy đủ của việc sử dụng GenAI đối nghịch nhưng nêu bật những lợi ích tiềm năng cho những kẻ tấn công, từ nâng cao kỹ năng và tự động hóa các cuộc tấn công đến tạo ra những mồi nhử đáng tin cậy hơn và các tác phẩm giả mạo thực tế.

Nhưng những kẻ độc hại không chỉ sử dụng GenAI để tăng cường các cuộc tấn công của chúng. Bản thân các hệ thống GenAI cũng có thể là mục tiêu của các cuộc tấn công bất lợi và chức năng của chúng có thể bị sử dụng nhằm mục đích xấu nếu không được bảo mật thích hợp. Việc bảo mật đúng cách các môi trường này bắt đầu bằng cách triển khai các thiết bị đáng tin cậy và cơ sở hạ tầng đáng tin cậy có các biện pháp kiểm soát truy cập mạnh mẽ để ngăn chặn truy cập trái phép và khả năng lạm dụng hệ thống. Ngoài ra, vì hệ thống GenAI dựa vào lượng dữ liệu khổng lồ để học tập và ra quyết định nên việc đảm bảo quyền riêng tư và tính toàn vẹn của dữ liệu này là rất quan trọng. Để đảm bảo tính bảo mật của dữ liệu, cần phải có các khả năng như phân loại dữ liệu, mã hóa, lưu trữ dữ liệu an toàn, bảo vệ dữ liệu và kỹ thuật truyền tải.

Tuy nhiên, có nhiều lý do để lạc quan về tương lai. GenAI cũng là đồng minh quan trọng trong cuộc chiến chống lại các cuộc tấn công mạng của chúng tôi, mở ra những con đường mới để bảo vệ các doanh nghiệp trong bối cảnh mối đe dọa ngày càng gia tăng. Giá trị này sẽ có trong các ứng dụng, bao gồm cải thiện khả năng phát hiện và ứng phó với mối đe dọa, dự đoán các mối đe dọa trong tương lai, tự động phát hiện mối đe dọa, hỗ trợ phân tích pháp lý, cung cấp chương trình đào tạo nâng cao nhận thức bảo mật được cá nhân hóa và mở rộng quy mô hoạt động bảo mật. Nhìn chung, GenAI sẽ giúp các công ty không chỉ tăng hiệu quả mà còn giúp tăng thêm khoảng cách về kỹ năng bảo mật bằng cách giải phóng nhân viên an ninh con người để tập trung vào các nhiệm vụ chiến lược và phức tạp hơn.

Để khai thác lợi ích của GenAI, các nhóm bảo mật phải luôn cảnh giác, thích ứng với các mối đe dọa mới nổi, đầu tư vào các biện pháp phòng vệ học máy và hành vi thích ứng, đồng thời theo dõi tác động của GenAI đối với bối cảnh kẻ tấn công đang phát triển. Giải quyết các điểm mù, giảm rủi ro gian lận và tích hợp GenAI vào các chương trình đào tạo là những biện pháp cần thiết để vượt qua các mối đe dọa mạng.

GenAI đại diện cho con dao hai lưỡi cho an ninh mạng. Mặc dù cần phải đánh giá lại các chiến lược an ninh mạng để bảo vệ các mô hình ngôn ngữ lớn, nhưng nó cũng hứa hẹn nâng cao khả năng phát hiện mối đe dọa, khả năng dự đoán và hiệu quả hoạt động. Chìa khóa nằm ở việc tận dụng các lợi ích của nó đồng thời chủ động giải quyết các rủi ro thông qua các biện pháp bảo mật mạnh mẽ, giám sát liên tục, cập nhật và vá lỗi thường xuyên cũng như cách tiếp cận năng động đối với quyền riêng tư và đạo đức dữ liệu. Khi chúng ta bước vào kỷ nguyên GenAI, mối quan hệ cộng sinh giữa AI và an ninh mạng sẽ tiếp tục phát triển, đòi hỏi một cách tiếp cận chủ động và thích ứng để bảo vệ cảnh quan kỹ thuật số.

Đọc báo cáo đầy đủ của Gartner® và tìm hiểu thêm về cách Dell Technologies nhìn nhận sự giao thoa giữa GenAI và an ninh mạng.

Gartner, 4 cách Generative AI sẽ tác động đến CISO và nhóm của họ. Bởi Jeremy D’Hoinne, Avivah Litan, Peter Firstbrook, ngày 29 tháng 6 năm 2023.
GARTNER là nhãn hiệu và nhãn hiệu dịch vụ đã đăng ký của Gartner, Inc. và/hoặc các chi nhánh của nó ở Hoa Kỳ và quốc tế và được sử dụng ở đây với sự cho phép. Đã đăng ký Bản quyền.
Gartner không xác nhận bất kỳ nhà cung cấp, sản phẩm hoặc dịch vụ nào được mô tả trong các ấn phẩm nghiên cứu của mình và không khuyên người dùng công nghệ chỉ chọn những nhà cung cấp có xếp hạng cao nhất hoặc chỉ định khác. Các ấn phẩm nghiên cứu của Gartner bao gồm các ý kiến ​​của tổ chức Nghiên cứu & Tư vấn của Gartner và không được hiểu là tuyên bố thực tế. Gartner từ chối mọi bảo đảm, dù rõ ràng hay ngụ ý, đối với nghiên cứu này, bao gồm mọi bảo đảm về khả năng bán được hoặc sự phù hợp cho một mục đích cụ thể.