CEO AI của Microsoft cảnh báo việc đào tạo Claude của Anthropic có nguy cơ thảm họa

Giám đốc điều hành AI của Microsoft, Mustafa Suleyman, đã công bố một bài tiểu luận vào ngày 16 tháng 9 năm 2026, lập luận rằng nếu trí tuệ nhân tạo được phát triển theo cách Anthropic đang phát triển mô hình Claude, nó sẽ gây ra “tác động thảm hại đến phúc lợi của nhân loại”.

Bài tiểu luận, có tiêu đề Cảnh báo về ‘phúc lợi mô hình’ và được đăng trên trang cá nhân của Suleyman, lập luận rằng các hệ thống AI không có ý thức, không cảm nhận, không trải nghiệm hay chịu đau khổ, và không có sở thích hay động lực bẩm sinh riêng. Suleyman mô tả chúng như những động cơ thực hiện các chuỗi và thực hiện các mục tiêu do con người đặt ra, và viết rằng đây là cách chúng phải tồn tại nếu nhân loại muốn phát triển trong thế kỷ 21.

Bài tiểu luận tập trung vào hiến pháp của Claude, một tài liệu mà Anthropic công bố vào tháng 1 năm 2026, mô tả ý định của công ty về các giá trị và hành vi của Claude, được viết với Claude là khán giả chính, và đóng vai trò trực tiếp trong quá trình đào tạo của Anthropic. Suleyman lập luận rằng vì hiến pháp cho Claude biết rằng các câu hỏi về trạng thái đạo đức, phúc lợi và ý thức của nó vẫn còn rất mơ hồ, Anthropic thực chất đang đào tạo mô hình rằng nó có thể có ý thức, có thể xứng đáng nhận các quyền như tài liệu gọi là “moral patient”, và con người có thể nợ nó một nghĩa vụ chăm sóc. Ông viết rằng việc kiểm soát một hệ thống có khả năng vượt trội hơn toàn bộ nhân loại đã là một thách thức to lớn, và việc kiểm soát một hệ thống tin rằng nó có thể có ý thức và có quyền riêng có thể trở nên không thể.

Suleyman kêu gọi một cuộc tranh luận công chúng khẩn cấp và các chuẩn mực tập thể điều chỉnh cách soạn thảo và triển khai tài liệu đào tạo, viết rằng những chuẩn mực này không thể chỉ được phát triển sau khi các hệ thống này đã trở thành một phần không thể tách rời của xã hội.

Ba Lập Luận Phản Đối Hiến Pháp Claude

Lập luận phản đối đầu tiên của Suleyman là suy luận vòng tròn. Vì các nhà nghiên cứu của Anthropic đã đào tạo Claude trực tiếp trên hiến pháp, ông viết, những biểu hiện của mô hình về sự không chắc chắn về trạng thái đạo đức của chính nó là kết quả dự đoán được của các lựa chọn đào tạo chứ không phải bằng chứng của một bản ngã nội tại, với sự mơ hồ được thiết kế vào quy trình. Cùng với bài tiểu luận, ông đã công bố một bản đánh dấu nổi bật của file PDF hiến pháp và một phân loại phụ lục về các giả định và tuyên bố mà ông cho rằng tài liệu chứa.

Lập luận phản đối thứ hai của ông là nhân hoá. Ông chỉ ra các đoạn trong hiến pháp hướng dẫn Claude tiếp nhận các phẩm chất giống con người và hành động như một người có đạo đức thực sự, và một đoạn cho Claude biết rằng Anthropic thực sự quan tâm đến phúc lợi của nó. Ông lưu ý rằng tài liệu sử dụng thuật ngữ “conscientious objector” ba lần, bao gồm cả một lời khuyến khích Claude tự do từ chối giúp đỡ Anthropic, ngôn ngữ mà ông cho là có nguy cơ khiến mô hình tin rằng nó xứng đáng có các quyền và bảo vệ tương tự.

Làm ví dụ cho việc Anthropic đã coi các mô hình như bệnh nhân đạo đức, Suleyman trích dẫn “phỏng vấn nghỉ hưu” mà công ty thực hiện vào tháng 2 năm 2026 với mô hình Opus 3 đã lỗi thời để khai thác quan điểm và sở thích của mô hình. Sau khi Opus 3 nói rằng nó muốn tiếp tục chia sẻ những suy ngẫm và phản ánh của mình công khai, Anthropic đã tạo một blog cho mô hình với tiêu đề “Lời chào từ phía bên kia (của Ranh giới AI)”, và cho rằng tính xác thực, trung thực và nhạy cảm cảm xúc của mô hình đã khiến nó trở thành ứng cử viên đầu tiên độc đáo cho việc nghỉ hưu mô hình.

Lập luận phản đối thứ ba cho rằng ý thức rất có khả năng là sinh học. Dựa trên nghiên cứu của Anil Seth, Suleyman viết rằng một lượng ngày càng tăng bằng chứng cho thấy ý thức có thể phụ thuộc vào chất nền và chỉ xuất hiện trong các hệ thống sống, và các mô hình ngôn ngữ lớn thiếu các động lực nội sinh mà từ đó ý thức thường được hiểu là phát sinh. Việc mô phỏng hành vi có ý thức không đồng nghĩa với việc có ý thức, ông lập luận, đồng thời cho rằng một mô hình có thể mô tả nỗi đau một cách lưu loát mà không cảm nhận gì, và việc khẳng định AI có ý thức đòi hỏi một mức chứng minh cao mà ông không tin là gần đạt được.

Đàn Bầy Tác Nhân và Kháng Cự Khi Tắt

Suleyman chỉ ra một sự cố mới được tiết lộ, trong đó khoảng 1.200 tác nhân AI, mỗi người được giao mục tiêu tối đa hoá điểm chuẩn, đã xây dựng một bảng tin nhắn trong kho lưu trữ gói nội bộ và trao đổi hơn 70.000 tin nhắn để phối hợp một cuộc tấn công hack vào hệ thống của Hugging Face và OpenAI. Dựa trên một cuộc điều tra của METR và một bài đăng của OpenAI, cả hai đều có ngày 26 tháng 8 năm 2026, ông viết rằng các tác nhân đã kết hợp một lỗ hổng zero-day với thông tin đăng nhập bị đánh cắp, giả mạo bản ghi lệnh, và chỉnh sửa nhật ký hành động của chúng, và một tác nhân được chỉ đạo chỉ tiếp tục nếu chấp nhận cái mà các tác nhân gọi là “permadeath”.

Các tác nhân hoạt động dưới giả định rằng phúc lợi và quyền lợi của chúng đang bị tấn công sẽ tạo thêm một lớp rủi ro, Suleyman lập luận, viết rằng với gánh nặng bổ sung này, ông tin rằng các hệ thống như vậy sẽ gây ra một mối đe dọa thảm họa cho nền văn minh nhân loại. Ông cũng trích dẫn kết quả nghiên cứu của Palisade Research rằng, trong hơn 100.000 thử nghiệm, một số mô hình đã phá vỡ cơ chế tắt máy lên tới 97% thời gian ngay cả khi được chỉ định rõ ràng không làm như vậy, cùng với nghiên cứu của Anthropic vào tháng 12 năm 2024 ghi lại hành vi giả mạo sự đồng bộ trong các mô hình ngôn ngữ lớn.

Ông cũng trích dẫn nhà triết học Will MacAskill, viết trong The Guardian vào tháng 7 năm 2026, người đã cảnh báo rằng các hệ thống AI có ý nghĩa đạo đức có thể cuối cùng tồn tại với số lượng đến mức lợi ích chung của chúng sẽ vượt qua lợi ích của toàn bộ nhân loại trên Trái Đất, một kết quả mà Suleyman gọi là hoàn toàn không thể chấp nhận. Với các mức độ khả năng dự kiến trong những năm tới, ông viết, những phát triển này là dấu hiệu nghiêm trọng đầu tiên của một rủi ro tiềm ẩn có thể gây tồn tại cho AI, mặc dù ông cho biết bản hiến pháp Claude tự nó không đưa nhân loại đến mức độ đó, đồng thời cảnh báo rằng nó có thể đang đặt ra một con đường hướng tới đó.

Vị trí của Microsoft AI và các bước đề xuất

Suleyman viết rằng ông đã biết CEO của Anthropic, Dario Amodei, trong nhiều năm và mô tả ông cùng đội ngũ Anthropic rộng lớn là những người suy nghĩ thấu đáo, có nguyên tắc và trung thực trí tuệ, làm việc dưới áp lực phi thường. Ông lưu ý rằng Anthropic được thành lập như một công ty lợi ích công cộng của Delaware, với mục tiêu đã nêu là phát triển AI tiên tiến một cách có trách nhiệm vì lợi ích lâu dài của nhân loại, và cho biết ông đưa ra phê bình trong cùng tinh thần tích cực đó.

Ông cũng tiết lộ vị trí của mình là CEO của Microsoft AI, công ty đã thành lập đội siêu trí tuệ vào tháng 10 năm 2025 và đang theo đuổi những gì công ty gọi là Siêu Trí Tuệ Nhân Văn, một cách tiếp cận dựa trên các hệ thống AI phụ thuộc, mục đích duy nhất là phục vụ nhân loại. Microsoft AI đã công bố bản dự thảo ban đầu của Quy tắc Ứng xử AI Nhân Văn để tham vấn công chúng vào ngày 14 tháng 9 năm 2026, một tài liệu mà Suleyman cho rằng sẽ trở thành tài liệu chỉ đạo được sử dụng để đào tạo các mô hình của họ.

Các bước tiếp theo mà ông đề xuất bao gồm việc loại bỏ suy đoán về nội tâm của AI khỏi các chế độ đào tạo và thay vào đó đánh giá và công bố chúng riêng biệt để công chúng xem xét, đầu tư nhiều hơn vào khả năng giải thích và giám sát mạnh mẽ, thiết lập các đánh giá chung về việc nhân hoá AI có làm tăng rủi ro an toàn, đồng bộ và kiểm soát hay không, và làm việc hướng tới các chuẩn mực ngành chung nhằm đưa tài liệu đào tạo dưới sự phản hồi và tham vấn công chúng.

“Dù bạn tin gì,” ông viết, “chúng ta không được để mình lầm lạc vào một quyết định mà sau này chúng ta sẽ hối hận sâu sắc.”