Bảo mật AI: Giải quyết những quan niệm sai lầm và xây dựng khả năng phục hồi

Những điểm chính

• Bảo vệ khối lượng công việc AI không có nghĩa là phải bắt đầu từ con số 0; hãy điều chỉnh các công cụ bảo mật hiện có của bạn.
• Loại bỏ những thông tin không cần thiết: tìm hiểu cách xác định rủi ro AI, chẳng hạn như các cuộc tấn công tiêm mã độc kịp thời và xóa tan những quan niệm sai lầm phổ biến.
• Tăng cường khả năng phục hồi AI của bạn bằng các biện pháp phòng thủ nhiều lớp, quản lý danh tính mạnh mẽ, giám sát thận trọng và các chiến lược phục hồi đã được chứng minh.

Trí tuệ nhân tạo (AI) là mối quan tâm hàng đầu của khách hàng chúng tôi, và việc bảo mật khối lượng công việc AI là ưu tiên hàng đầu. Tuy nhiên, những hiểu lầm thường gặp về bảo mật AI có thể cản trở và kìm hãm việc áp dụng AI. Để giúp làm rõ vấn đề, tôi đã ngồi lại với đồng nghiệp Chris Cicotte, chuyên gia tư vấn an ninh mạng cấp cao tại Dell, để cùng nhau giải quyết một số hiểu lầm phổ biến này và thảo luận về các giải pháp thực tế. Chúng tôi thậm chí còn đi sâu vào một kịch bản tấn công thực tế để xem những nguyên tắc này áp dụng như thế nào trong thực tế.

Để biết thêm tài nguyên và bài đọc ngắn, hãy khám phá trung tâm Tháng nâng cao nhận thức về an ninh mạng (CAM) của Dell về Bảo mật AI .

Nội dung sau đây đã được chỉnh sửa để ngắn gọn và dễ đọc hơn.  

Liệu hệ thống AI có trở nên quá phức tạp để bảo mật hiệu quả không?  

Cicotte: Có một quan niệm sai lầm rằng hệ thống AI trở nên quá phức tạp để bảo mật hiệu quả. Mặc dù AI có tiềm ẩn những rủi ro bảo mật mới như việc tiêm mã độc tức thời và thao túng dữ liệu, nhưng những thách thức này có thể được kiểm soát bằng cách tiếp cận đúng đắn. Các biện pháp bảo mật mạnh mẽ là rất quan trọng để bảo vệ hệ thống AI khỏi cả các mối đe dọa truyền thống và đặc thù của AI.  

Vậy phương pháp đúng đắn chính xác là gì? Điều này có nghĩa là tôi cần phải mua tất cả các công cụ mới để bảo mật AI không? 

Cicotte: Việc bảo mật AI nên tập trung vào việc nâng cao các công cụ hiện có, chứ không phải bắt đầu lại từ đầu. Nhiều khách hàng của chúng tôi đã có nền tảng bảo mật vững chắc, và nhiều công cụ hiện có của họ có thể được điều chỉnh. Hãy coi AI cũng như một khối lượng công việc kinh doanh khác, nhưng với những đặc điểm riêng biệt, đòi hỏi một phương pháp bảo mật riêng biệt. Các phương pháp nền tảng như quản lý danh tính và truy cập, phân đoạn mạng và bảo vệ điểm cuối vẫn rất quan trọng. Điều quan trọng là điều chỉnh các phương pháp này để giải quyết các rủi ro cụ thể liên quan đến AI, chẳng hạn như bảo vệ dữ liệu đào tạo, bảo mật thuật toán và giảm thiểu rủi ro như dữ liệu đầu vào đối nghịch.  

Khi suy nghĩ về các loại rủi ro AI mới mà bạn đã đề cập trước đó, tôi có một kịch bản để bạn thử nghiệm. Giả sử bạn làm việc trong bộ phận chăm sóc khách hàng của một hãng hàng không sử dụng chatbot AI. Bạn bị ngập trong các cuộc gọi từ những khách hàng không thể truy cập vào điểm thưởng khách hàng thường xuyên của họ. Sau khi điều tra, bạn nhận thấy các lỗi trong nhật ký như “lỗi cú pháp trong câu lệnh SQL”. Theo bạn, đây là loại sự cố an ninh mạng nào?  

Cicotte: Đây có thể là một lời nhắc hoặc một cuộc tấn công tiêm nhiễm SQL. Những lỗi này cho thấy kẻ tấn công đã khai thác các trường nhập liệu của chatbot bằng mã SQL độc hại để truy cập hoặc thay đổi dữ liệu tài khoản khách hàng.  

Vậy, bạn nhận ra mình đã bị tấn công SQL injection. Bạn sẽ khuyến nghị khách hàng này nên làm gì tiếp theo?  

Cicotte: Hãy ngay lập tức tắt chatbot. Bắt đầu điều tra nhật ký cơ sở dữ liệu để tìm kiếm truy cập trái phép và đảm bảo tuân thủ mọi luật tiết lộ thông tin tùy thuộc vào vị trí của bạn. Các bước này rất quan trọng để ngăn chặn việc khai thác, đánh giá thiệt hại và đáp ứng các nghĩa vụ theo quy định.  

Bạn có khuyến nghị gì để áp dụng trong tương lai nhằm giúp ngăn chặn hoặc giảm thiểu các cuộc tấn công nhắc nhở hoặc tấn công tiêm SQL tương tự không?  

Cicotte: Các nhóm phát triển cần được đào tạo để sử dụng các câu lệnh đã chuẩn bị hoặc các truy vấn được tham số hóa. Bạn cũng nên áp dụng quyền truy cập ít đặc quyền nhất bằng xác thực đa yếu tố, kiểm soát truy cập dựa trên vai trò và sử dụng tường lửa ứng dụng web để hạn chế tác động của các nỗ lực chèn mã độc.  

Làm thế nào để lấy lại dữ liệu khách hàng đó? Các bước khôi phục trong trường hợp này như thế nào?  

Cicotte: Khôi phục dữ liệu đó từ bản sao lưu mới nhất chưa bị xâm phạm. Đây là một trong những điều đầu tiên cần xem xét, vì kẻ tấn công thường nhắm vào cả bản sao lưu. Sau đó, bạn phải thông báo cho khách hàng, đặt lại mật khẩu và khuyên họ theo dõi hoạt động thẻ tín dụng và tài khoản của mình.  

Kịch bản đó thực sự nhấn mạnh tốc độ leo thang của sự việc—và tầm quan trọng của việc áp dụng cả các biện pháp chủ động lẫn phản ứng. Nhưng bảo mật AI không chỉ là ứng phó với các cuộc tấn công hay bảo vệ dữ liệu. Nó còn là việc hiểu rõ phạm vi đầy đủ của những gì cần được bảo mật và cách xây dựng khả năng phục hồi trên toàn bộ hệ sinh thái AI.  

Bây giờ, khi chúng ta nghĩ về việc bảo mật AI, liệu chỉ tập trung vào bảo mật dữ liệu có đủ không?  

Cicotte: Bảo mật AI toàn diện có nghĩa là bảo vệ toàn bộ hệ sinh thái: mô hình, API, đầu ra, hệ thống và thiết bị, chứ không chỉ dữ liệu. Khi AI trở nên quan trọng hơn đối với các ứng dụng quan trọng, rủi ro cũng tăng lên. Mô hình có thể bị can thiệp và API có thể bị khai thác. Bạn cần xây dựng hệ thống phòng thủ nhiều lớp để bảo vệ mô hình, bảo mật API bằng xác thực mạnh mẽ và giám sát đầu ra để phát hiện các mẫu đáng ngờ. Bảo mật AI toàn diện thúc đẩy niềm tin bằng cách đảm bảo hệ thống đáng tin cậy và linh hoạt.  

Khi AI ngày càng trở nên tự chủ hơn, tại sao sự giám sát của con người vẫn rất quan trọng khi nói đến an ninh mạng?  

Cicotte: Sự giám sát của con người là điều cần thiết để đảm bảo các hệ thống AI hoạt động có đạo đức, có trách nhiệm và phù hợp với các giá trị nhân văn. Nó trao quyền cho chúng ta xây dựng niềm tin và duy trì quyền kiểm soát. Bạn phải thiết lập các ranh giới rõ ràng thông qua quản trị, triển khai các biện pháp kiểm soát nhiều lớp cho phép con người can thiệp vào các quyết định quan trọng và thúc đẩy tính minh bạch. Cuối cùng, sự giám sát của con người đảm bảo rằng sự tiến hóa của AI được dẫn dắt bởi các giá trị nhân văn, giúp tạo ra các hệ thống đáng tin cậy và có thể dự đoán được mà chúng ta có thể tin tưởng.  

Trước khi kết thúc, bạn có suy nghĩ cuối cùng nào muốn chia sẻ không?  

Cicotte: Chúng ta hãy cùng điểm qua một số điểm chính. Thứ nhất, hãy sử dụng kiến ​​trúc bảo mật nhiều lớp với phân đoạn, tường lửa và xác thực mạnh. Thứ hai, giám sát và xác thực đầu ra bằng cách sử dụng tính năng phát hiện và ghi nhật ký bất thường. Thứ ba, lập kế hoạch phục hồi với các bản sao lưu thường xuyên và các kế hoạch phục hồi sau thảm họa đã được kiểm tra. Cuối cùng, điều quan trọng là đào tạo nhân viên bằng cách hướng dẫn các nhóm về phát triển an toàn và nhận diện mối đe dọa.