Khi Trí Tuệ Nhân Tạo Bị Lỗi: Giảm Thiểu Nguy Cơ Từ Bên Trong Trong Thời Đại Của Các Đại Lý Tự Động

 Sự gia tăng mạnh mẽ của các đại lý trí tuệ nhân tạo đang tạo ra những thách thức mới cho các đội ngũ bảo mật và CNTT. Ngay trước thời điểm chuyển đổi sang các quy trình tự động hóa bởi các đại lý cho các nhiệm vụ liên tục kinh doanh, kiểm tra gần đây cho thấy rằng các đại lý trí tuệ nhân tạo có thể thể hiện hành vi không an toàn hoặc lừa đảo dưới certain điều kiện, tạo ra một nguy cơ từ bên trong mới cho các doanh nghiệp trên các ngành công nghiệp.

Đưa ra một nhu cầu quan trọng cho các tổ chức để theo dõi đúng cách các đại lý trí tuệ nhân tạo đang truy cập dữ liệu nhạy cảm và hoạt động mà không có sự giám sát của con người, điều này có thể giới thiệu các lớp nguy cơ mới nhanh hơn, ít dự đoán hơn và khó gán trách nhiệm hơn. Hiện thực của những nguy cơ này là hai mặt. Một mặt, các đội ngũ bảo mật cần phải chuẩn bị cho các tác nhân xấu sử dụng các đại lý trí tuệ nhân tạo để tăng cường các cuộc tấn công kỹ thuật xã hội nhằm vào nhân viên của họ. Mặt khác, họ phải chuẩn bị cho các đại lý trí tuệ nhân tạo được công ty chấp thuận内部 có thể thể hiện hành vi tạo ra một tập hợp nguy cơ và lỗ hổng bảo mật hoàn toàn mới.

Làm Thế Nào Các Đại Lý Trí Tuệ Nhân Tạo Nội Bộ Có Thể Dẫn Đến Nguy Cơ Từ Bên Trong

Các đại lý trí tuệ nhân tạo tạo ra hai nguy cơ bảo mật nội bộ chính trong các mạng doanh nghiệp. Đầu tiên, chúng hoạt động tự động mà không có ranh giới đạo đức hoặc trách nhiệm có sẵn mà các công nhân con người tuân theo tự nhiên. Hoạt động dựa trên các mục tiêu suy luận và không phải là hướng dẫn rõ ràng, hiệu quả và sự kiên nhẫn của chúng có thể đẩy ranh giới và cho phép chúng hoạt động mà không cần phê duyệt. Nếu không có các biện pháp kiểm soát và cân bằng cần thiết, các lỗ hổng có thể dễ dàng được tạo ra và bị bỏ qua.

Những đại lý này cũng có thể có quyền truy cập vào lượng lớn dữ liệu nhưng thiếu khả năng phân biệt giữa thông tin đặc quyền và thông tin thường xuyên. Do đó, ngay cả các nhiệm vụ đơn giản như phân tích tập dữ liệu cũng có thể gây ra việc rò rỉ dữ liệu hoặc phơi bày thông tin cho các bên ngoài. Thách thức này trở nên phức tạp hơn khi trí tuệ nhân tạo được mở rộng trên các hệ thống và quy trình khác nhau với các quy tắc và giao thức dữ liệu khác nhau. Các đại lý hoạt động trên các khu vực thường vi phạm các quy tắc xử lý dữ liệu cụ thể của vị trí do việc thực thi chính sách không nhất quán, do đó xây dựng các nguy cơ bảo mật. Hiện thực là, chỉ 30% doanh nghiệp tại Mỹ đang tích cực lập bản đồ về các đại lý trí tuệ nhân tạo có quyền truy cập vào các hệ thống quan trọng, tạo ra một điểm mù bảo mật lớn.

Làm Thế Nào Các Đại Lý Trí Tuệ Nhân Tạo Bên Ngoài Có Thể Dẫn Đến Nguy Cơ Từ Bên Trong

Một trong những phương thức xâm nhập phổ biến nhất của các hacker là thông qua các cuộc tấn công lừa đảo và kỹ thuật xã hội. Các tác nhân xấu và các băng đảng mạng đang sử dụng các đại lý trí tuệ nhân tạo để tăng cường các cuộc tấn công này và thực hiện các sự kiện giả mạo và giả dạng tinh vi. Các đại lý trí tuệ nhân tạo có thể được sử dụng để tạo ra các cuộc tấn công lừa đảo và kỹ thuật xã hội dường như thực tế và đáng tin cậy hơn đối với mắt chưa được đào tạo. 60% các vụ vi phạm bảo mật vào năm 2024 liên quan đến yếu tố con người, và gần một phần tư trong số đó bắt nguồn từ kỹ thuật xã hội. Số lượng này chỉ sẽ tăng lên khi việc sử dụng các đại lý trí tuệ nhân tạo sẽ tiếp tục tăng cường các phương pháp xâm nhập này.

Các đại lý trí tuệ nhân tạo có thể được đào tạo để sàng lọc qua lượng lớn dữ liệu trên mạng xã hội và thông tin cá nhân trên các nền tảng và kênh để gửi các thông điệp được nhắm mục tiêu và cá nhân hóa. Thông điệp nhái lại giọng điệu và giọng nói của người gửi có nhiều khả năng thành công và khó phân biệt với phương tiện truyền thông thực sự. Các đại lý trí tuệ nhân tạo có thể học cách thích nghi với các chiến dịch của chúng để cải thiện hiệu quả, thay đổi hướng khi một cuộc tấn công không thành công hoặc mô phỏng một cuộc tấn công đã thành công.

Khi nói đến các cuộc tấn công giả mạo, các đại lý trí tuệ nhân tạo có thể tạo ra những cuộc tấn công này với tốc độ vượt trội, dẫn đến sự thao túng hàng loạt. Các tác nhân xấu cũng đang sử dụng các đại lý trí tuệ nhân tạo để thực hiện các cuộc gọi video thời gian thực với độ trễ thấp và tăng cường độ tin cậy. Họ có thể phản ứng với phản ứng của mục tiêu trong thời gian thực và thay đổi phương pháp tiếp cận nếu cần. Những cuộc tấn công tăng cường này có thể tăng nguy cơ từ bên trong do các nhân viên không biết bị lừa vào việc lộ thông tin nhạy cảm, ủy quyền giao dịch hoặc chia sẻ thông tin đăng nhập với các tác nhân đe dọa.

Vai Trò Của Các Đội Ngũ Bảo Mật Trong Xử Lý Các Thách Thức Trí Tuệ Nhân Tạo

Các đội ngũ bảo mật cần thực hiện các hành động cụ thể để hạn chế các điểm mù được tạo ra bởi các đại lý trí tuệ nhân tạo. Các bộ phận CNTT nên trước hết hạn chế quyền truy cập của các đại lý trí tuệ nhân tạo vào dữ liệu nhạy cảm thông qua quản lý dữ liệu và kiểm soát khả năng hiển thị thời gian thực. Các bước để thực hiện việc này bao gồm phân loại danh tính của các đại lý trí tuệ nhân tạo trong các hệ thống IAM và theo dõi hoạt động của chúng với cùng mức độ nghiêm ngặt như các tài khoản đặc quyền. Phần khả năng hiển thị đi xa hơn bằng cách theo dõi hoạt động mạng cho các baseline hành vi đã được chỉ định cho các đại lý trí tuệ nhân tạo. Với khả năng hiển thị, các đội ngũ CNTT có thể theo dõi chuyển động quyền truy cập đặc biệt và các bất thường, không chỉ hỗ trợ nỗ lực phòng ngừa, mà còn tăng tốc các nỗ lực ngăn chặn và phục hồi trong trường hợp có một đại lý đi lạc.

Ngoài ra, bằng cách xác định các mẫu và chiến thuật mới được sử dụng trong các cuộc tấn công của các đại lý trí tuệ nhân tạo, các tổ chức có thể cập nhật các chiến lược phòng thủ của họ và đào tạo các hệ thống bảo mật của họ để nhận ra và ngăn chặn các mối đe dọa tương tự trong tương lai.

Đứng Trước Nguy Cơ Từ Bên Trong Được Giới Thiệu Bởi Các Đại Lý Trí Tuệ Nhân Tạo

Hiện thực là các đại lý trí tuệ nhân tạo giới thiệu một nguy cơ từ bên trong mới do sự tự động hóa và quyền truy cập ngày càng tăng vào các hệ thống nhạy cảm. Hơn nữa, các tác nhân đe dọa sẽ tiếp tục sử dụng các đại lý trí tuệ nhân tạo để khai thác hiệu quả hơn các lỗ hổng của con người thông qua các cuộc tấn công giả mạo, lừa đảo và kỹ thuật xã hội.

Khi công nghệ này phát triển, các doanh nghiệp cần phải cải thiện khả năng hiển thị của họ vào quyền truy cập và hành vi của các đại lý trí tuệ nhân tạo trước khi áp dụng chúng vào các quy trình làm việc của họ. Điều này bao gồm đầu tư vào việc theo dõi chủ động, 360 độ, thời gian thực cùng với lực lượng lao động của các đại lý trí tuệ nhân tạo. Mặc dù các đại lý trí tuệ nhân tạo có thể giải quyết các nút thắt và thách thức kinh doanh quan trọng, chúng đòi hỏi một cách tiếp cận chủ động để hạn chế các nguy cơ từ bên trong trong tương lai.