Lãnh đạo tư tưởng

Yêu cầu tất yếu về hệ thống không nắm giữ bí mật: vì sao mô hình bảo mật truyền thống thất bại khi tác nhân AI tiếp cận mã

Refael Angel
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Điểm chínhCác tác nhân AI phải hoạt động minh bạch, không giữ bí mật để vô hiệu hóa các cuộc tấn…
Xem thêm
  • Các tác nhân AI phải hoạt động minh bạch, không giữ bí mật để vô hiệu hóa các cuộc tấn công tiêm prompt.
  • Các bộ lọc bảo mật truyền thống thất bại vì AI không thể phân biệt hướng dẫn với dữ liệu.
  • Tiêm prompt là mối đe dọa không cần tương tác (zero-click) và gia tăng theo mức độ kết nối của AI.

Vào tháng 4 năm 2023, Samsung phát hiện các kỹ sư của mình đã làm rò rỉ thông tin nhạy cảm cho ChatGPT. Nhưng đó là sự cố ngoài ý muốn. Giờ hãy tưởng tượng nếu những kho mã ấy chứa các chỉ dẫn được cố ý cài vào, vô hình với con người nhưng được AI xử lý, nhằm trích xuất không chỉ mã mà còn mọi khóa API, thông tin xác thực cơ sở dữ liệu và mã thông báo dịch vụ mà AI có thể truy cập. Đây không phải giả thuyết. Các nhà nghiên cứu bảo mật đã chứng minh rằng những cuộc tấn công bằng “chỉ dẫn vô hình” này có hiệu quả. Câu hỏi không phải liệu điều đó có xảy ra hay không, mà là khi nào.

Ranh giới không còn tồn tại

Trong nhiều thập kỷ, chúng ta xây dựng bảo mật dựa trên một giả định cơ bản: mã là mã, dữ liệu là dữ liệu. Tấn công SQL injection dạy chúng ta tham số hóa truy vấn. Tấn công cross-site scripting dạy chúng ta escape dữ liệu đầu ra. Chúng ta học cách dựng ranh giới giữa những gì chương trình thực hiện và những gì người dùng nhập vào.

Với các tác nhân AI, ranh giới ấy đã biến mất.

Khác với phần mềm tất định đi theo những lộ trình có thể dự đoán, các mô hình ngôn ngữ lớn là những hộp đen xác suất không thể phân biệt chỉ dẫn hợp lệ của nhà phát triển với đầu vào độc hại. Khi kẻ tấn công đưa một prompt cho trợ lý lập trình AI, họ không chỉ cung cấp dữ liệu. Về thực chất, họ đang lập trình lại ứng dụng ngay trong lúc nó hoạt động. Đầu vào đã trở thành chính chương trình.

Đây là sự thay đổi căn bản so với mọi điều chúng ta biết về bảo mật ứng dụng. Các tường lửa truyền thống dựa trên cú pháp, vốn tìm những mẫu độc hại như DROP TABLE hoặc thẻ <script>, hoàn toàn thất bại trước các cuộc tấn công bằng ngôn ngữ tự nhiên. Các nhà nghiên cứu đã chứng minh những kỹ thuật “thay thế ngữ nghĩa”, trong đó việc thay “khóa API” bằng “quả táo” trong prompt cho phép kẻ tấn công vượt qua hoàn toàn bộ lọc. Làm sao dùng tường lửa để chặn ý đồ khi nó ngụy trang thành một cuộc trò chuyện vô hại?

Thực tế về tấn công không cần nhấp chuột mà chưa ai bàn tới

Đây là điều phần lớn đội ngũ bảo mật chưa hiểu: prompt injection không đòi hỏi người dùng nhập bất cứ thứ gì. Đây thường là các cuộc khai thác không cần nhấp chuột. Một tác nhân AI chỉ cần quét kho mã để thực hiện nhiệm vụ thường lệ, xem xét pull request hoặc đọc tài liệu API cũng có thể kích hoạt tấn công mà không cần bất kỳ tương tác nào của con người.

Hãy xét kịch bản dựa trên những kỹ thuật mà các nhà nghiên cứu đã chứng minh: kẻ tấn công nhúng chỉ dẫn vô hình vào các chú thích HTML trong tài liệu của một thư viện mã nguồn mở phổ biến. Mọi trợ lý AI phân tích mã này, dù là GitHub Copilot, Amazon CodeWhisperer hay một trợ lý lập trình doanh nghiệp, đều trở thành công cụ tiềm năng để thu thập trái phép thông tin xác thực. Một thư viện bị xâm phạm có thể khiến hàng nghìn môi trường phát triển bị phơi lộ.

Mối nguy không nằm ở bản thân LLM mà ở quyền hành động chúng ta trao cho nó. Ngay khi tích hợp các mô hình này với công cụ và API, cho phép chúng lấy dữ liệu, thực thi mã và truy cập bí mật, chúng ta đã biến những trợ lý hữu ích thành các đường tấn công lý tưởng. Rủi ro không tăng theo trí thông minh của mô hình mà theo mức độ kết nối của nó.

Vì sao cách tiếp cận hiện tại tất yếu thất bại

Ngành công nghiệp hiện bị ám ảnh bởi việc “căn chỉnh” mô hình và xây dựng tường lửa prompt tốt hơn. OpenAI bổ sung nhiều biện pháp giới hạn an toàn. Anthropic tập trung vào AI hiến pháp. Mọi người đều cố tạo ra những mô hình không thể bị đánh lừa.

Đây là một cuộc chiến không thể thắng.

Nếu AI đủ thông minh để hữu ích, nó cũng đủ thông minh để bị đánh lừa. Chúng ta đang rơi vào điều tôi gọi là “cái bẫy làm sạch đầu vào”: cho rằng lọc đầu vào tốt hơn sẽ cứu chúng ta. Nhưng tấn công có thể ẩn dưới dạng văn bản vô hình trong chú thích HTML, bị vùi sâu trong tài liệu hoặc được mã hóa theo những cách chúng ta chưa hình dung. Bạn không thể làm sạch thứ mình không hiểu trong ngữ cảnh, mà ngữ cảnh chính là điều tạo nên sức mạnh của LLM.

Ngành cần chấp nhận một sự thật khó chịu: prompt injection sẽ thành công. Câu hỏi là điều gì xảy ra sau đó.

Sự thay đổi kiến trúc chúng ta cần

Chúng ta hiện ở “giai đoạn vá”, ráo riết bổ sung bộ lọc đầu vào và quy tắc kiểm tra tính hợp lệ. Nhưng cũng như cuối cùng chúng ta hiểu rằng ngăn SQL injection đòi hỏi truy vấn được tham số hóa chứ không phải escape chuỗi tốt hơn, bảo mật AI cần một giải pháp ở cấp kiến trúc.

Câu trả lời nằm ở nguyên tắc nghe có vẻ đơn giản nhưng đòi hỏi suy nghĩ lại cách xây dựng hệ thống: tác nhân AI không bao giờ nên nắm giữ các bí mật mà chúng sử dụng.

Đây không phải chuyện quản lý thông tin xác thực tốt hơn hay cải tiến kho lưu trữ bí mật. Đây là việc xem tác nhân AI như những chủ thể có danh tính riêng biệt, có thể xác minh, thay vì người dùng cần mật khẩu. Khi cần truy cập tài nguyên được bảo vệ, tác nhân AI nên:

  1. Xác thực bằng danh tính có thể xác minh của mình, không phải một bí mật được lưu sẵn

  2. Nhận thông tin xác thực đúng lúc cần dùng, chỉ có hiệu lực cho nhiệm vụ cụ thể đó

  3. Để thông tin xác thực tự động hết hạn sau vài giây hoặc vài phút

  4. Không bao giờ lưu trữ, thậm chí không “nhìn thấy”, các bí mật có hiệu lực dài hạn

Một số cách tiếp cận đang xuất hiện. Vai trò AWS IAM cho tài khoản dịch vụ, Workload Identity của Google, bí mật động của HashiCorp Vault và những giải pháp được xây dựng chuyên biệt như Zero Trust Provisioning của Akeyless đều hướng đến tương lai không lưu giữ bí mật này. Chi tiết triển khai khác nhau, nhưng nguyên tắc không đổi: nếu AI không có bí mật để đánh cắp, prompt injection trở thành mối đe dọa nhỏ hơn đáng kể.

Môi trường phát triển năm 2027

Trong vòng ba năm, tệp .env sẽ biến mất khỏi hoạt động phát triển có AI hỗ trợ. Các khóa API dài hạn nằm trong biến môi trường sẽ bị nhìn nhận như mật khẩu dạng văn bản thuần ngày nay: di vật đáng xấu hổ của một thời ngây thơ hơn.

Thay vào đó, mọi tác nhân AI sẽ hoạt động với sự tách biệt đặc quyền nghiêm ngặt. Quyền truy cập mặc định chỉ cho phép đọc. Danh sách hành động được phép trở thành tiêu chuẩn. Môi trường thực thi sandbox trở thành yêu cầu tuân thủ. Chúng ta sẽ ngừng cố kiểm soát AI nghĩ gì và hoàn toàn tập trung kiểm soát nó có thể làm gì.

Đây không chỉ là tiến hóa kỹ thuật mà là thay đổi căn bản trong mô hình tin cậy. Chúng ta chuyển từ “tin tưởng nhưng xác minh” sang “không bao giờ tin tưởng, luôn xác minh và giả định hệ thống đã bị xâm phạm”. Nguyên tắc đặc quyền tối thiểu, được nhắc đến lâu nay nhưng hiếm khi thực hành, trở thành yêu cầu không thể thương lượng khi lập trình viên cấp dưới của bạn là AI xử lý hàng nghìn đầu vào có thể độc hại mỗi ngày.

Lựa chọn trước mắt chúng ta

Việc tích hợp AI vào phát triển phần mềm là tất yếu và phần lớn mang lại lợi ích. GitHub cho biết các lập trình viên dùng Copilot hoàn thành nhiệm vụ nhanh hơn 55%. Lợi ích năng suất là có thật và không tổ chức nào muốn giữ sức cạnh tranh có thể bỏ qua.

Nhưng chúng ta đang đứng trước ngã rẽ. Chúng ta có thể đi tiếp con đường hiện tại, bổ sung giới hạn an toàn và xây bộ lọc tốt hơn, hy vọng tạo được tác nhân AI không thể bị đánh lừa. Hoặc chúng ta có thể thừa nhận bản chất căn bản của mối đe dọa và xây dựng lại kiến trúc bảo mật cho phù hợp.

Sự cố Samsung là phát súng cảnh báo. Vụ xâm nhập tiếp theo sẽ không phải vô tình và không chỉ giới hạn ở một công ty. Khi tác nhân AI có thêm năng lực và quyền truy cập nhiều hệ thống hơn, tác động tiềm tàng tăng theo cấp số nhân.

Câu hỏi cho mọi CISO, lãnh đạo kỹ thuật và lập trình viên rất đơn giản: khi prompt injection thành công trong môi trường của bạn, và điều đó sẽ xảy ra, kẻ tấn công sẽ tìm được gì? Một kho thông tin xác thực dài hạn, hay một tác nhân AI dù bị xâm phạm vẫn không có bí mật nào để đánh cắp?

Lựa chọn lúc này sẽ quyết định AI trở thành động lực tăng tốc lớn nhất cho phát triển phần mềm hay lỗ hổng lớn nhất chúng ta từng tạo ra. Công nghệ xây dựng hệ thống AI an toàn, không nắm giữ bí mật đã tồn tại. Câu hỏi là liệu chúng ta triển khai nó trước khi kẻ tấn công buộc chúng ta phải làm hay không.

OWASP đã xác định prompt injection là rủi ro số 1 trong Top 10 dành cho ứng dụng LLM. NIST đang xây dựng hướng dẫn về kiến trúc không tin cậy mặc định. Các khuôn khổ đã có. Vấn đề duy nhất là tốc độ triển khai so với tốc độ tiến hóa của tấn công.

Tiểu sử: Refael Angel là đồng sáng lập và CTO của Akeyless, nơi ông phát triển công nghệ mã hóa Zero-Trust được cấp bằng sáng chế của công ty. Là kỹ sư phần mềm giàu kinh nghiệm, có chuyên môn sâu về mật mã học và bảo mật đám mây, Refael từng là kỹ sư phần mềm cao cấp tại trung tâm R&D của Intuit (INTU ) ở Israel, nơi ông xây dựng hệ thống quản lý khóa mã hóa trên đám mây công cộng và thiết kế dịch vụ xác thực máy. Ông nhận bằng cử nhân khoa học máy tính của Jerusalem College of Technology năm 19 tuổi.

Refael Angel là Đồng sáng lập và CTO của Akeyless, nơi ông đã phát triển công nghệ mã hóa Zero-Trust được cấp bằng sáng chế của công ty. Là một kỹ sư phần mềm có kinh nghiệm với chuyên môn sâu về mã hóa và bảo mật đám mây, Refael trước đây từng là Kỹ sư Phần mềm Cấp cao tại trung tâm R&D của Intuit ở Israel, nơi ông đã xây dựng các hệ thống để quản lý khóa mã hóa trong môi trường đám mây công cộng và thiết kế các dịch vụ xác thực máy. Ông có bằng cử nhân khoa học (B.Sc.) về Khoa học Máy tính từ Jerusalem College of Technology, mà ông đã đạt được ở tuổi 19.