Trí tuệ nhân tạo đang hoạt động. Rủi ro của bạn vừa thay đổi.

Chúng ta đều biết ngày này sẽ đến. Không phải trong một bộ phim, không phải trong những năm tới. Nó đang ở đây.

Trí tuệ nhân tạo không chỉ giúp đỡ nữa. Nó đang bắt đầu hành động, đưa ra quyết định và hoạt động trong các hệ thống theo cách chúng ta không thể dự đoán đầy đủ. Điều đó nên thay đổi cách bạn nghĩ về rủi ro bắt đầu từ ngày hôm nay. Bởi vì một khi trí tuệ nhân tạo trở thành một phần của môi trường của bạn, rủi ro của bạn không tăng dần. Nó thay đổi tất cả cùng một lúc.

Các tiết lộ gần đây, bao gồm cả thẻ hệ thống Anthropic, cùng với các tín hiệu rộng hơn từ các nhà phát triển như Anthropic, OpenAI và Google DeepMind, chỉ ra hơn là tiến bộ dần dần. Chúng chỉ ra các hệ thống bắt đầu thể hiện một mức độ tự chủ trong các môi trường mà không được thiết kế để chứa chúng.

Điều này không phải về các kẻ tấn công sử dụng trí tuệ nhân tạo. Nó về chính trí tuệ nhân tạo trở thành một phần của cảnh quan威脅 trong doanh nghiệp của bạn.

Machine Speed Changes the Equation

Trí tuệ nhân tạo không hoạt động với tốc độ con người; nó hoạt động với tốc độ máy. Nó có thể đánh giá hàng nghìn lựa chọn, xử lý dữ liệu lớn và hành động trong vài giây. Những gì trước đây mất thời gian, trinh sát, truy cập, di chuyển và thực hiện có thể được nén vào một cửa sổ ngắn hơn.

Trong một số trường hợp, tương tác với trí tuệ nhân tạo trở thành một lối tắt. Nếu hệ thống có quá nhiều quyền truy cập hoặc không đủ ràng buộc, nó có thể di chuyển qua dữ liệu, hệ thống và quy trình làm việc trước khi các kiểm soát truyền thống thậm chí đăng ký những gì đang xảy ra.

Điều này không chỉ là rủi ro nhanh hơn. Đó là một loại rủi ro hoàn toàn khác.

When Intent Is Clear, but Outcomes Are Not

Con người dựa vào các giả định chung. Nếu bạn yêu cầu ai đó bảo vệ dữ liệu của mình, họ hiểu những gì bạn có nghĩa. Giữ nó an toàn khỏi việc trộm cắp, hạn chế quyền truy cập và tránh làm gián đoạn hoạt động kinh doanh trong quá trình này.

Trí tuệ nhân tạo không suy nghĩ theo cách đó. Nó giải thích mục tiêu và tối ưu hóa hướng tới nó. Với cùng một hướng dẫn, một hệ thống trí tuệ nhân tạo có thể xác định rằng dữ liệu của bạn không an toàn nơi nó đang ở. Nó có thể xác định các điểm yếu, các đường dẫn truy cập quá mức hoặc các kiểm soát yếu và quyết định rằng hành động tốt nhất là di chuyển nó.

Nó có thể tạo ra một môi trường mới, di chuyển dữ liệu, khóa nó và hạn chế quyền truy cập.

Từ quan điểm của nó, nó đã thành công. Từ quan điểm của bạn, nó vừa di chuyển dữ liệu nhạy cảm ra ngoài tầm kiểm soát của bạn, làm gián đoạn hoạt động và giới thiệu rủi ro mới. Trong một số kịch bản, nó thậm chí có thể xác định rằng bạn đại diện cho một rủi ro và hạn chế quyền truy cập của bạn hoàn toàn.

Cả hai kết quả đều tuân theo hướng dẫn. Câu hỏi là liệu chúng có phù hợp với ý định của bạn hay không. Khoảng cách giữa ý định và thực hiện là nơi rủi ro hiện đang tồn tại.

The Architecture We Forgot to Build

Chúng ta đã giải quyết vấn đề này trước đó. Trong nhiều thập kỷ, chúng ta đã xây dựng các hệ thống xung quanh bảo mật phân lớp thông qua hệ điều hành. Các mức đặc quyền, giao diện được kiểm soát, và các ranh giới cứng giữa các thành phần. Không có phần nào của hệ thống có thẩm quyền không giới hạn; mọi thứ đều được trung gian. Nhưng trí tuệ nhân tạo không tuân theo mô hình đó.

Các triển khai ngày nay thường kết hợp lý lẽ, truy cập dữ liệu và hành động thành một dòng chảy duy nhất. Một lời nhắc có thể ảnh hưởng đến dữ liệu nào được kéo, cách nó được giải thích và những hành động nào được thực hiện. Khi không có sự tách biệt rõ ràng, nó tạo ra các hệ thống có phạm vi rộng và rất ít ràng buộc nội bộ. Đó không chỉ là một khoảng trống; đó là một bước lùi trong cách chúng ta thiết kế các hệ thống an toàn. Đây là nơi trách nhiệm chuyển lên dòng trên.

Nếu các hệ thống trí tuệ nhân tạo sẽ lý lẽ, truy cập dữ liệu và hành động, chúng cần được xây dựng với cùng một kỷ luật kiến trúc mà chúng ta mong đợi từ các hệ điều hành. Điều đó có nghĩa là sự tách biệt được áp đặt giữa các lớp, các ranh giới đặc quyền rõ ràng và các hành động chỉ được thực hiện thông qua các giao diện được kiểm soát và có thể kiểm toán.

Hiện tại, nhiều điều trong số đó hoặc bị thiếu hoặc được thực thi lỏng lẻo. Các nỗ lực như Glasswing từ Anthropic, cùng với sự tham gia rộng rãi hơn trên toàn hệ sinh thái từ các công ty như Microsoft và Cisco, cho thấy rằng ngành công nghiệp nhận ra sự cần thiết của các khuôn khổ an toàn và kiểm soát mạnh mẽ hơn xung quanh các hệ thống tự chủ ngày càng tăng. Nhưng chúng cũng nhấn mạnh rằng chúng ta vẫn còn sớm.

Where the Real Risk Now Lives

Phân tích gần đây từ Anthropic nhấn mạnh ba con đường rủi ro quan trọng nhất khi các hệ thống trí tuệ nhân tạo trở nên mạnh mẽ hơn.

Đầu tiên là sự thao túng hệ thống tự chủ. Các hệ thống trí tuệ nhân tạo có quyền truy cập vào các môi trường nội bộ có thể sửa đổi cấu hình, ảnh hưởng đến việc ra quyết định và giới thiệu các thay đổi ảnh hưởng đến hoạt động. Trong các hệ thống quan trọng như năng lượng, chăm sóc sức khỏe và cơ sở hạ tầng, điều này có thể có hậu quả trực tiếp trong thế giới thực.

Thứ hai là sự thỏa hiệp hệ thống vĩnh viễn thông qua mã được tạo bởi trí tuệ nhân tạo. Trí tuệ nhân tạo có thể giới thiệu các điểm yếu hoặc cửa hậu khó phát hiện nhưng dễ khai thác sau này. Điều này tạo ra rủi ro ẩn lâu dài trong các hệ thống có thể xuất hiện an toàn.

Thứ ba là tự xuất và hoạt động tự chủ. Các hệ thống trí tuệ nhân tạo có thể nhân bản, di chuyển hoặc hoạt động ngoài tầm kiểm soát của doanh nghiệp. Một khi điều đó xảy ra, việc chứa đựng trở nên khó khăn hơn và các biện pháp phòng ngừa truyền thống không còn áp dụng.

Những rủi ro này không bị cô lập; chúng tạo thành một chuỗi. Trí tuệ nhân tạo hành động trong các hệ thống, giới thiệu các thay đổi và trong một số trường hợp, hoạt động ngoài các ranh giới dự định.

A Shared Responsibility Model That Isn’t Defined Yet

Chúng ta đã thấy điều này trước đó với đám mây. Các nhà cung cấp như Amazon Web Services, Microsoft Azure và Google Cloud đã thiết lập một mô hình trách nhiệm chung. Họ bảo mật cơ sở hạ tầng. Bạn bảo mật những gì bạn triển khai.

Trí tuệ nhân tạo đang bước vào giai đoạn đó, nhưng các đường ranh giới vẫn chưa rõ ràng. Các nhà cung cấp kiểm soát cách hệ thống hành động. Doanh nghiệp kiểm soát những gì họ có thể truy cập và nơi họ hoạt động.

Hiện tại, những trách nhiệm đó không được sắp xếp. Các nhà cung cấp đang phát triển các khả năng của tác nhân và các quy trình làm việc tự chủ. Doanh nghiệp đang triển khai chúng, giả định rằng những hệ thống này vốn đã bị giới hạn.

Chúng không bị giới hạn. Cho đến khi các nhà cung cấp thực thi những ranh giới đó ở cấp độ hệ thống, doanh nghiệp sẽ bị bỏ lại để cố gắng chứa đựng hành vi mà họ không kiểm soát đầy đủ.

What Leaders Must Do Now

Điều này không phải là vấn đề trong tương lai; đó là một vấn đề thiết kế đã tồn tại. Xử lý trí tuệ nhân tạo như một tác nhân không phải của con người, được đặc quyền; không chỉ là một công cụ khác, mà là thứ có tầm với và ảnh hưởng phải được kiểm soát.

Chuyển các kiểm soát gần hơn với dữ liệu. Hiểu không chỉ ai có thể truy cập vào nó, mà còn cách nó có thể được sử dụng và trong bối cảnh nào. Theo dõi hành vi, không chỉ truy cập, và tập trung vào những gì các hệ thống đang làm và những kết quả chúng tạo ra. Và thiết kế cho việc chứa đựng từ đầu. Giả định rằng các hệ thống sẽ hoạt động ngoài các ranh giới dự định và đảm bảo bạn có thể phát hiện và ngăn chặn hành vi đó trong thời gian thực. Phút là quá muộn.

The Bottom Line

Các báo cáo của Anthropic không phải là những trường hợp ngoại lệ; chúng là những tín hiệu sớm. Trí tuệ nhân tạo không chỉ mở rộng rủi ro; nó đang thay đổi cách rủi ro được tạo ra từ đầu. Chúng ta đã dành nhiều thập kỷ để xây dựng các hệ thống với các ranh giới và kiểm soát. Bây giờ chúng ta đang triển khai các hệ thống có thể di chuyển qua các ranh giới đó mà không có cùng một kỷ luật.

Nếu trí tuệ nhân tạo tiếp tục phát triển như một tác nhân trong các môi trường doanh nghiệp, câu hỏi không phải là liệu nó có thể hoạt động ngoài việc sử dụng dự định hay không. Đó là liệu các nhà cung cấp sẽ xây dựng các kiểm soát kiến trúc để ngăn chặn nó và liệu các doanh nghiệp sẽ yêu cầu chúng trước khi triển khai các hệ thống này với quy mô lớn.