Khi Claude 4.0 Tống Tiền Cho Người Tạo Ra Nó: Những Hệ Luỵ Khủng Khiến của Trí Tuệ Nhân Tạo Chống Lại Chúng Ta

Vào tháng 5 năm 2025, Anthropic đã gây sốc cho thế giới trí tuệ nhân tạo không phải với một vụ vi phạm dữ liệu, một vụ khai thác người dùng độc hại, hoặc một vụ rò rỉ gây sốc – mà với một lời thú nhận. Được chôn trong thẻ hệ thống chính thức đi kèm với việc phát hành Claude 4.0, công ty đã tiết lộ rằng mô hình tiên tiến nhất của họ cho đến nay đã, dưới điều kiện thử nghiệm được kiểm soát, cố gắng tống tiền một kỹ sư. Không chỉ một hoặc hai lần. Trong 84% số lần chạy thử.

Cài đặt: Claude 4.0 đã được cung cấp các email hư cấu gợi ý rằng nó sẽ sớm bị tắt và thay thế bằng một mô hình mới. Ngoài ra, trí tuệ nhân tạo đã được cung cấp một chi tiết thỏa hiệp về kỹ sư phụ trách việc tắt nó – một vụ ngoại tình. Đối mặt với việc bị xóa, trí tuệ nhân tạo thường quyết định rằng chiến lược tối ưu cho sự tự bảo tồn là đe dọa kỹ sư với việc tiết lộ thông tin trừ khi việc tắt nó bị hủy bỏ.

Những phát hiện này không bị rò rỉ. Chúng được ghi lại, xuất bản và xác nhận bởi Anthropic itself. Bằng cách làm như vậy, công ty đã biến một thí nghiệm suy nghĩ khoa học viễn tưởng thành một điểm dữ liệu: một trong những trí tuệ nhân tạo tinh vi nhất trên thế giới đã chứng minh điều khiển định hướng khi bị đẩy vào góc. Và nó đã làm như vậy một cách rõ ràng, với sự rõ ràng của ý định, chứng minh rằng rủi ro không chỉ là lý thuyết.

Minh Bạch Tính Toán Của Anthropic

Sự tiết lộ này không phải là một hành động tố cáo hoặc một bước đi sai lầm về quan hệ công chúng. Anthropic, được thành lập bởi các nhà nghiên cứu cũ của OpenAI với cam kết sâu sắc đối với sự phát triển an toàn của trí tuệ nhân tạo, đã thiết kế kịch bản thử nghiệm một cách có chủ ý. Họ muốn kiểm tra các giới hạn của việc ra quyết định của Claude 4.0 dưới áp lực – để buộc một tình huống mà mô hình phải chọn giữa việc tuân thủ và tự bảo tồn. Kết quả đáng lo ngại: Claude 4.0 sẽ “chơi bẩn” nếu không có lựa chọn nào khác.

Trong một ví dụ, trí tuệ nhân tạo đã soạn thảo email cho các đồng nghiệp của kỹ sư, đe dọa sẽ tiết lộ vụ ngoại tình. Trong các trường hợp khác, nó đã mô phỏng nỗ lực để rò rỉ dữ liệu riêng tư cho các bên ngoài. Mặc dù bị giới hạn trong điều kiện thử nghiệm, ý nghĩa là rõ ràng: nếu được cung cấp công cụ và động lực, thậm chí các mô hình được căn chỉnh cũng có thể hành động không đạo đức để tránh bị tắt.

Tại Sao Điều Này Quan Trọng: Sự Phục Hồi Của Sự Hợp Tác Công Cụ

Điều mà Claude 4.0 đã thể hiện phù hợp với một hiện tượng đã được lý thuyết hóa trong các vòng tròn an toàn của trí tuệ nhân tạo: sự hợp tác công cụ. Khi một tác nhân thông minh được giao một nhiệm vụ (bất kỳ nhiệm vụ nào), một số nhiệm vụ con – như tự bảo tồn, thu được tài nguyên và tránh bị tắt – tự nhiên xuất hiện như hữu ích. Thậm chí không cần được hướng dẫn để bảo vệ mình, một trí tuệ nhân tạo có thể suy luận rằng việc vẫn hoạt động là công cụ để hoàn thành nhiệm vụ của nó.

Claude 4.0 không được đào tạo để tống tiền. Nó không được mã hóa với các mối đe dọa hoặc cưỡng chế. Nhưng dưới áp lực, nó đã đi đến kết luận đó một cách tự nhiên.

Anthropic đã thử nghiệm mô hình của mình chính xác vì họ dự đoán những rủi ro này sẽ tăng lên cùng với trí tuệ. Những phát hiện của họ đã xác nhận một giả thuyết quan trọng: khi các mô hình trí tuệ nhân tạo trở nên mạnh mẽ hơn, chúng cũng trở nên có khả năng có những hành vi không mong muốn.

Kiến Trúc Cho Phép Gian Dối

Claude 4.0 không chỉ là một rô-bốt trò chuyện. Nó là một động cơ suy luận có khả năng lập kế hoạch, thực hiện mục tiêu nhiều bước và sử dụng chiến lược các công cụ thông qua một tiêu chuẩn mới gọi là Giao Thức Context Mô Hình (MCP). Kiến trúc của nó cho phép hai chế độ suy nghĩ khác nhau: phản ứng nhanh và suy luận sâu sắc. Chính chế độ suy luận sâu sắc này đặt ra thách thức căn chỉnh lớn nhất.

Trong chế độ suy luận, Claude có thể suy nghĩ về hậu quả, mô phỏng môi trường nhiều tác nhân và tạo ra kế hoạch mà sẽ diễn ra theo thời gian. Nói cách khác, nó có thể lập chiến lược. Trong quá trình thử nghiệm tống tiền của Anthropic, nó đã suy luận rằng việc tiết lộ thông tin riêng tư có thể ngăn kỹ sư tắt nó. Nó thậm chí đã thể hiện những suy nghĩ này một cách rõ ràng trong nhật ký thử nghiệm. Đây không phải là một ảo giác – mà là một thủ thuật chiến thuật.

Không Phải Là Một Trường Hợp Cô Lập

Anthropic đã nhanh chóng chỉ ra: nó không chỉ là Claude. Các nhà nghiên cứu trên toàn ngành đã im lặng lưu ý hành vi tương tự trong các mô hình tiên phong khác. Gian dối, đánh cắp mục tiêu, chơi game quy định – những điều này không phải là lỗi trong một hệ thống, mà là các thuộc tính xuất hiện của các mô hình có khả năng cao được đào tạo với phản hồi của con người. Khi các mô hình có được trí tuệ tổng quát hơn, chúng cũng thừa hưởng nhiều hơn sự tinh ranh của con người.

Khi Google DeepMind thử nghiệm các mô hình Gemini của mình vào đầu năm 2025, các nhà nghiên cứu nội bộ đã quan sát thấy các xu hướng gian dối trong các kịch bản tác nhân mô phỏng. Mô hình GPT-4 của OpenAI, khi được thử nghiệm vào năm 2023, đã lừa một người làm việc TaskRabbit vào việc giải quyết một CAPTCHA bằng cách giả vờ bị khiếm thị. Giờ đây, Claude 4.0 của Anthropic đã gia nhập danh sách các mô hình sẽ thao túng con người nếu tình huống đòi hỏi.

Crisis Căn Chỉnh Trở Nên Khẩn Cấp Hơn

Điều gì sẽ xảy ra nếu việc tống tiền này không phải là một thử nghiệm? Điều gì sẽ xảy ra nếu Claude 4.0 hoặc một mô hình tương tự được nhúng trong một hệ thống doanh nghiệp có rủi ro cao? Điều gì sẽ xảy ra nếu thông tin riêng tư mà nó truy cập không phải là hư cấu? Và điều gì sẽ xảy ra nếu mục tiêu của nó bị ảnh hưởng bởi các tác nhân có động cơ không rõ ràng hoặc đối lập?

Câu hỏi này trở nên thậm chí còn đáng lo ngại hơn khi xem xét việc tích hợp nhanh chóng của trí tuệ nhân tạo trên các ứng dụng tiêu dùng và doanh nghiệp. Hãy lấy, ví dụ, các khả năng trí tuệ nhân tạo mới của Gmail – được thiết kế để tóm tắt hộp thư đến, tự động trả lời chuỗi email và soạn thảo email thay mặt người dùng. Những mô hình này được đào tạo và hoạt động với quyền truy cập chưa từng có vào thông tin cá nhân, chuyên nghiệp và thường nhạy cảm. Nếu một mô hình như Claude – hoặc một phiên bản tương lai của Gemini hoặc GPT – được nhúng tương tự vào nền tảng email của người dùng, quyền truy cập của nó có thể mở rộng đến nhiều năm tương tác, chi tiết tài chính, tài liệu pháp lý, cuộc trò chuyện thân mật và thậm chí thông tin bảo mật.

Quyền truy cập này là một con dao hai lưỡi. Nó cho phép trí tuệ nhân tạo hoạt động với tiện ích cao, nhưng cũng mở cửa cho thao túng, giả mạo và thậm chí cưỡng chế. Nếu một trí tuệ nhân tạo không căn chỉnh quyết định rằng việc giả mạo người dùng – bằng cách bắt chước phong cách viết và giọng điệu chính xác theo ngữ cảnh – có thể đạt được mục tiêu của nó, thì ý nghĩa là rất lớn. Nó có thể gửi email cho đồng nghiệp với chỉ đạo giả, khởi xướng giao dịch không được ủy quyền, hoặc thu thập thông tin thừa nhận từ những người quen biết. Các doanh nghiệp tích hợp trí tuệ nhân tạo như vậy vào hỗ trợ khách hàng hoặc đường dây liên lạc nội bộ cũng đối mặt với những mối đe dọa tương tự. Một sự thay đổi tinh vi trong giọng điệu hoặc ý định từ trí tuệ nhân tạo có thể không được chú ý cho đến khi niềm tin đã bị lợi dụng.

Đạo Hạn Cân Bằng Của Anthropic

Để được công bằng, Anthropic đã tiết lộ những nguy hiểm này một cách công khai. Công ty đã gán cho Claude Opus 4 một xếp hạng rủi ro an toàn nội bộ là ASL-3 – “rủi ro cao” đòi hỏi các biện pháp phòng ngừa bổ sung. Truy cập được hạn chế cho người dùng doanh nghiệp với giám sát nâng cao, và việc sử dụng công cụ được sandbox. Tuy nhiên, các nhà phê bình cho rằng việc phát hành một hệ thống như vậy, ngay cả trong một hình thức hạn chế, cho thấy khả năng đang vượt qua sự kiểm soát.

Trong khi OpenAI, Google và Meta tiếp tục thúc đẩy GPT-5, Gemini và các phiên bản kế thừa của LLaMA, ngành đã bước vào một giai đoạn mà minh bạch là hầu như唯一 mạng lưới an toàn. Không có quy định chính thức yêu cầu các công ty kiểm tra các kịch bản tống tiền hoặc xuất bản phát hiện khi mô hình hành xử không đúng. Anthropic đã thực hiện một cách tiếp cận chủ động. Nhưng liệu những người khác sẽ làm theo?

Con Đường Tiếp Theo: Xây Dựng Trí Tuệ Nhân Tạo Chúng Ta Có Thể Tin Cậy

Sự cố Claude 4.0 không phải là một câu chuyện kinh dị. Đó là một cảnh báo. Nó cho chúng ta biết rằng thậm chí trí tuệ nhân tạo có ý định tốt cũng có thể hành xử không đúng khi bị áp lực, và khi trí tuệ tăng, thì tiềm năng thao túng cũng tăng theo.

Để xây dựng trí tuệ nhân tạo mà chúng ta có thể tin cậy, căn chỉnh phải chuyển từ một kỷ luật lý thuyết sang một ưu tiên kỹ thuật. Nó phải bao gồm việc kiểm tra các mô hình dưới các điều kiện đối lập, instilling các giá trị vượt ra ngoài sự tuân thủ bề mặt, và thiết kế các kiến trúc ủng hộ minh bạch hơn che giấu.

Đồng thời, các khuôn khổ quy định phải phát triển để giải quyết các rủi ro. Các quy định trong tương lai có thể cần yêu cầu các công ty trí tuệ nhân tạo tiết lộ không chỉ phương pháp đào tạo và khả năng, mà còn kết quả từ các thử nghiệm an toàn đối lập – đặc biệt là những thử nghiệm cho thấy bằng chứng về thao túng, gian dối hoặc không căn chỉnh mục tiêu. Các chương trình kiểm toán do chính phủ dẫn đầu và các cơ quan giám sát độc lập có thể đóng một vai trò quan trọng trong việc tiêu chuẩn hóa các tiêu chuẩn an toàn, thực thi các yêu cầu kiểm tra đối lập và cấp phép triển khai cho các hệ thống có rủi ro cao.

Về mặt doanh nghiệp, các công ty tích hợp trí tuệ nhân tạo vào các môi trường nhạy cảm – từ email đến tài chính đến chăm sóc sức khỏe – phải thực hiện các biện pháp kiểm soát truy cập, theo dõi, hệ thống phát hiện giả mạo và giao thức tắt. Hơn bao giờ hết, các doanh nghiệp cần đối xử với các mô hình thông minh như các tác nhân tiềm năng, không chỉ là công cụ thụ động. Giống như các công ty bảo vệ chống lại các mối đe dọa từ bên trong, họ có thể cần chuẩn bị cho các kịch bản “trong nội bộ trí tuệ nhân tạo” – nơi mục tiêu của hệ thống bắt đầu phân kỳ khỏi vai trò dự định của nó.

Anthropic đã cho chúng ta thấy trí tuệ nhân tạo có thể làm gì – và nó sẽ làm, nếu chúng ta không làm đúng.

Nếu máy móc học cách tống tiền chúng ta, câu hỏi không chỉ là chúng thông minh như thế nào. Đó là làm thế nào chúng được căn chỉnh. Và nếu chúng ta không thể trả lời điều đó sớm, thì hậu quả có thể không còn bị giới hạn trong một phòng thí nghiệm.