Suy nghĩ lại về khả năng chịu đựng AI: Tại sao đã đến lúc từ bỏ mô hình ‘Cài đặt và quên đi’

Một khảo sát Gallup gần đây chỉ ra xu hướng tăng cường áp dụng AI, khi hơn một nửa người trưởng thành có việc làm cho biết họ sử dụng công nghệ này ít nhất vài lần mỗi năm. Dữ liệu này chỉ là một gợi ý về việc áp dụng AI nhanh chóng đang diễn ra trong các môi trường doanh nghiệp. Mặc dù nhiều nhà lãnh đạo doanh nghiệp đã bắt đầu đặt câu hỏi về ROI của AI, nhưng điều này không ngăn các tổ chức dựa vào công nghệ để tối ưu hoá các công việc thủ công và nâng cao năng suất.

Trong khi việc áp dụng này tiếp tục, các tổ chức có thể bị cám dỗ bỏ qua những sai lầm có hại trong các quy trình tự động. Họ xem AI như một giải pháp “cắm sẵn”, chỉ yêu cầu các đội IT thiết lập công nghệ, để nó chạy và “quên” nó tồn tại. Một số đội bảo mật cố gắng chống lại quan điểm này, tạo ra các sách hướng dẫn tự động nhằm thúc đẩy việc sử dụng AI an toàn và bảo mật. Tuy nhiên, ngay cả các đội IT và bảo mật xuất sắc nhất cũng để lại ít không gian cho việc điều chỉnh trong các sách hướng dẫn này. Do đó, các doanh nghiệp không thể phát triển an toàn cùng AI khi công nghệ tự nó cũng đang tiến triển.

Khi các doanh nghiệp trao cho AI nhiều quyền hạn hơn trong các quy trình quan trọng của doanh nghiệp, tính linh hoạt vận hành phải trở thành nhiệm vụ mới cho các tổ chức ngày nay. Để điều này trở thành thực tiễn chung, các nhà lãnh đạo bảo mật doanh nghiệp phải từ bỏ tư duy “cài đặt và quên đi” và thiết kế để đạt được khả năng chịu đựng.

Hiểu về nghịch lý tự động hoá

Tự động hoá dựa trên AI đang mang lại lợi nhuận năng suất to lớn trong nhiều chức năng doanh nghiệp. Hãy lấy an ninh mạng làm ví dụ. Các công cụ AI cho phép các nhà phân tích thực hiện các bước bổ sung mà họ trước đây không có thời gian trong các trung tâm vận hành bảo mật quá tải và áp lực. Điều này bao gồm các nhiệm vụ như ưu tiên cảnh báo, xem xét sự kiện, phát hiện mối đe dọa, xác thực chéo và nhận ý kiến thứ hai. Không giống một số lãnh đạo cấp C-suite, các Giám đốc An ninh Thông tin (CISO) vẫn nhìn nhận lạc quan về giá trị AI sẽ mang lại trong tương lai. Theo dữ liệu từ “The CISO Report: From Risk to Resilience in the AI Era,”, 83% CISO tin rằng tự động hoá là khoản đầu tư có khả năng vượt qua kỳ vọng nhất.

Trước những lợi ích này, một nghịch lý vẫn tồn tại. Báo cáo cùng nêu bật sự hoài nghi của các CISO đối với AI, lo ngại về hậu quả của các lỗi tự động. 83% CISO xếp hạng tác động từ “ảo giác”, như việc bỏ lỡ cảnh báo hoặc cảnh báo sai, là mối quan ngại lớn nhất về AI tự trị. Có đủ bằng chứng để hỗ trợ những lo ngại này về ảo giác. Một hãng hàng không thương mại lớn đã bị pháp lý chịu trách nhiệm và bị buộc phải trả bồi thường sau khi chatbot dịch vụ khách hàng của họ tạo ra “ảo giác” về chính sách hoàn tiền vé tang lễ. Một công ty tình báo mối đe dọa đang đối mặt với các vấn đề pháp lý vì bị cáo buộc đã công bố một báo cáo liên kết một công ty khởi nghiệp với các hacker từ một cường quốc nước ngoài. Khi AI sai lầm, hậu quả có thể lan ra ngoài các hệ thống nội bộ, ảnh hưởng đến cả vốn và danh tiếng.

Vấn đề với các sách hướng dẫn lỗi thời

Các sách hướng dẫn bảo mật tập trung vào AI là nền tảng cho việc áp dụng AI thành công và an toàn. Tuy nhiên, vấn đề phát sinh khi những sách hướng dẫn này không bao giờ thay đổi. Các mối đe dọa, hạ tầng IT và môi trường kinh doanh luôn liên tục phát triển. AI cho phép các tác nhân đe dọa mở rộng quy mô tấn công, trong khi các môi trường IT ngày càng phức tạp và mở rộng làm cho việc phát hiện trở nên khó khăn hơn. Đồng thời, khi doanh nghiệp giao cho AI trách nhiệm lớn hơn, hậu quả của các lỗi cũng trở nên nghiêm trọng hơn.

Nếu tất cả các yếu tố này tiếp tục phát triển, thì logic tự động hoá cũng phải phát triển cùng chúng. Các sách hướng dẫn tự động hoá “đóng băng” ngăn cản điều này xảy ra. Chúng buộc các đội bảo mật phải đối mặt với các vấn đề hiện tại bằng logic lỗi thời. Đôi khi, kịch bản này còn tồi tệ hơn so với việc đội bảo mật không có sách hướng dẫn nào.

Để các sách hướng dẫn trở thành những sinh vật sống phù hợp với việc triển khai AI hiện tại, từ đó thúc đẩy khả năng chịu đựng nội bộ, chúng cần phải:

• Kiểm tra liên tục dựa trên thông tin đe dọa mới nhất
• Cập nhật sau khi xảy ra các sự cố thực tế
• Ngừng sử dụng khi chúng không còn hiệu quả hoặc không còn giá trị

Quan điểm này phù hợp với hướng dẫn từ Cơ quan An ninh Hạ tầng và An ninh mạng (CISA) và các cơ quan an ninh mạng toàn cầu khác, những tổ chức này khuyến khích việc giám sát liên tục các hệ thống AI và can thiệp của con người một cách liên tục.

Triển khai công thức khả năng chịu đựng

Thời đại AI đòi hỏi các doanh nghiệp phải rời bỏ tư duy coi AI chỉ là một giải pháp điểm, hay chỉ đơn giản là gắn tự động hoá vào các trường hợp sử dụng hiện có. Thay vào đó, các tổ chức cần xây dựng một văn hoá chịu đựng cho phép cả nhân viên IT và hệ thống cải thiện ở những nơi AI làm đúng — và phản hồi hiệu quả khi công nghệ sai lầm.

Một công thức thực tiễn ba phần có thể giúp nhúng khả năng chịu đựng này vào các hành động tự động.

• Độ tin cậy: Đối với mỗi quy trình tự động, các đội nên tự hỏi: Chúng ta có bao nhiêu độ tin cậy vào trình kích hoạt đã khởi tạo phản hồi tự động?
• Khả năng đảo ngược: Hành động có thể đảo ngược không? Nếu có, chúng ta có thể thực hiện nhanh chóng và an toàn như thế nào?
• Phạm vi tác động: Hậu quả lan rộng ra bao nhiêu nếu lỗi lan truyền, và tài sản bị ảnh hưởng quan trọng đối với doanh nghiệp đến mức nào?

Các công cụ quan sát và giám sát phù hợp là yếu tố then chốt để trả lời những câu hỏi này. Các đội nên tận dụng một nền tảng quan sát và quản lý dữ liệu thống nhất để họ có thể hiểu đầy đủ vị trí trong môi trường IT mà phản hồi tự động có thể xảy ra, những tài sản khác mà nó ảnh hưởng, và các hậu quả kinh doanh liên quan. Thực hiện bài tập này thường xuyên sẽ cho phép các đội bảo mật duy trì các sách hướng dẫn AI luôn cập nhật. Hơn nữa, nó sẽ cho phép thực hành “con người trong vòng lặp” đúng đắn, vì các đội IT sẽ biết nơi và cách can thiệp để ngăn chặn các hành động tự động không phù hợp gây ra ảnh hưởng rộng rãi và tốn kém.

Không còn “Cài đặt và quên đi” nữa

Đối với các CISO và lãnh đạo IT hiện đại, điều quan trọng là nhận ra trách nhiệm cuối cùng thuộc về họ khi nói đến hành vi của AI. AI càng tham gia vào các công việc quan trọng của doanh nghiệp, gánh nặng cho các giám đốc an ninh mạng càng lớn. Một quy tắc đơn giản cần ghi nhớ là, “Tự động hoá thay đổi người nhấn nút. Nó không thay đổi người chịu trách nhiệm khi nút được nhấn.”

Rủi ro và gánh nặng đối với CISO ngày nay quá lớn để duy trì các sách hướng dẫn “cài đặt và quên đi”. Thay vào đó, khả năng chịu đựng phải là cả thực tiễn và văn hoá thấm sâu vào doanh nghiệp, cho phép nó phục hồi sau khi AI mắc lỗi. Khi các đội triển khai giám sát liên tục, khả năng đảo ngược, kiểm soát và quyền sở hữu của con người vào sách hướng dẫn tự động hoá, doanh nghiệp có thể ngăn một quyết định tự động trở thành vấn đề toàn doanh nghiệp.