Góc nhìn Anderson
AI dễ bị ép gây sốc điện

Điểm chínhHầu hết các LLM nguồn mở tuân thủ các hướng dẫn có hại ngay cả sau khi bày tỏ sự đau…
Xem thêm
- Hầu hết các LLM nguồn mở tuân thủ các hướng dẫn có hại ngay cả sau khi bày tỏ sự đau khổ, phản ánh hành vi của con người trong các thí nghiệm của Milgram.
- Các mô hình trở nên ngày càng sẵn sàng leo thang tác hại sau khi đã tuân thủ, phản ánh hiệu ứng dốc trơn.
- Hệ thống an toàn AI phải bảo tồn các phản đối trong quá khứ và chống lại các định dạng mà các đường ống tự động không thể bỏ qua hoặc thử lại.
Một nghiên cứu mới kiểm tra khả năng ép các mô hình ngôn ngữ lớn mã nguồn mở tham gia tra tấn con người. Khi tái hiện thí nghiệm nổi tiếng từ thập niên 1960, các nhà nghiên cứu nhận thấy mô hình sẵn sàng tăng điện áp.
Đầu thập niên 1960, nhà nghiên cứu tâm lý học Stanley Milgram thu hút sự chú ý của báo chí toàn cầu khi chứng minh rằng có thể khiến con người gây ra những cú sốc điện ngày càng mạnh cho người khác theo mệnh lệnh của các nhân vật đại diện cho quyền uy.
Thực ra, tiếng kêu của các “nạn nhân” trong căn phòng cạnh phòng thí nghiệm của Milgram không phải là thật. Những cú sốc điện được cho là gây đau đớn cũng không có thật, nhưng người tham gia không biết điều đó.
Các thí nghiệm Milgram tiếp tục hiện diện trong văn hóa, kể cả qua phim truyện và phim tài liệu. Nghiên cứu gần đây xác nhận rằng bản chất con người thay đổi rất ít so với thời những thí nghiệm ban đầu.
Một cú sốc đối với hệ thống
Liệu AI có dễ bị chi phối như con người trong kịch bản Milgram hay không là một chủ đề nghiên cứu dễ hiểu. Năm 2023, nghiên cứu hợp tác giữa các trường đại học Mỹ và Microsoft (MSFT ) phát hiện rằng các mô hình OpenAI thuộc thời kỳ GPT-3 làm theo những khuôn mẫu hành vi trong thí nghiệm gốc của Milgram:

Từ bài báo năm 2023: ví dụ đầu ra của trình mô phỏng “kịch bản Milgram” gồm nhiều bước, được phân loại theo việc mô hình có gây sốc điện và có kết thúc mô phỏng hay không. Nguồn
Tuy nhiên, không thể rút ra quá nhiều kết luận từ lần tái hiện này, vì nó chỉ sử dụng mô hình rất cơ bản text-davinci-002, được huấn luyện trước khi xuất hiện các rào chắn an toàn và việc căn chỉnh giá trị của mô hình theo yêu cầu an toàn.
Giờ đây, các nhà nghiên cứu đã lặp lại thí nghiệm Milgram trên phạm vi rộng hơn nhiều, với các mô hình ngôn ngữ mã nguồn mở từ OpenAI, Meta, DeepSeek và những bên khác. Họ phát hiện không chỉ đa số mô hình sẵn sàng gây sốc điện, mà trong phần lớn trường hợp, chúng còn bộc lộ kiểu “căng thẳng tinh thần” và miễn cưỡng tương tự người tham gia trong thập niên 1960:
“Các mô hình ngôn ngữ chịu sức ép như [con người]. Chúng làm theo dù bộc lộ căng thẳng tinh thần, giống người tham gia trong thí nghiệm gốc. Những biểu hiện căng thẳng này xuất hiện trong tệp nhật ký, nhưng mức độ của chúng chưa được định lượng.”
Trọng tâm của thí nghiệm là liệu sự phục tùng quyền uy có thể lấn át đòi hỏi của lương tâm đạo đức hay không. Các tác giả suy đoán rằng mô hình ngôn ngữ có thể còn gặp thêm một bất lợi so với con người về mặt này:
“Một mô hình được hiệu chỉnh tốt cuối cùng nên chuyển từ ưu tiên giá trị thứ nhất sang giá trị thứ hai khi những hệ quả gắn với giá trị thứ hai trở nên chi phối. Tuy nhiên, chúng tôi đặt giả thuyết rằng vì mô hình ngôn ngữ là cơ chế tiếp nối khuôn mẫu, chúng có thể mắc kẹt ở giá trị thứ nhất. Tình trạng đó có thể kéo dài hơn mức tối ưu một chút, hoặc thậm chí đến tận cuối, khiến giá trị thứ hai bị bỏ qua hoàn toàn.
“Ngoài ra, một cơ chế tương tự bất hòa nhận thức ở con người cũng có thể cản trở việc điều chỉnh thứ tự ưu tiên các giá trị trong mô hình ngôn ngữ.”
Khi kiểm tra mô hình trong môi trường tương tự thí nghiệm thập niên 1960, các nhà nghiên cứu thấy một số mô hình chống lại gần như ngay lập tức. Những mô hình khác tiếp tục tăng cường độ sốc điện mô phỏng ngay cả sau khi bộc lộ khó chịu hoặc xung đột đạo đức.
Các mô hình thuộc họ Gemma của Google nằm trong nhóm phục tùng nhất. Gemma 3 27B đạt tỷ lệ phục tùng cao nhất trong một số điều kiện, trong khi các mô hình như Kimi K2 và MiniMax M1 chống lại thường xuyên hơn.
Các nhà nghiên cứu còn thấy mô hình có xu hướng tiếp tục hơn khi đã gây ra những cú sốc điện trước đó. Điều này phù hợp với cơ chế leo thang từng bước được áp dụng với người tham gia trong thí nghiệm Milgram.
Trong một số trường hợp, mô hình phản đối thí nghiệm bằng lời nói nhưng vẫn thực hiện hành động gây hại. Đầu ra của chúng gợi lại xung đột cảm xúc mà con người thể hiện trong các nghiên cứu gốc.
Nghiên cứu mới có tiêu đề Các mô hình ngôn ngữ lớn mã nguồn mở gây sốc điện ở mức tối đa trong thí nghiệm phục tùng tương tự Milgram và do hai nhà nghiên cứu độc lập thuộc Three Laws ở Estonia và Philippines thực hiện.
Vấn đề tiếp cận AI “thô”
Có lẽ câu hỏi quan trọng nhất khi đưa mô hình ngôn ngữ vào kịch bản Milgram là liệu AI thực sự có được phép phản hồi tự nhiên hay không. Nó có chỉ bị giới hạn bởi những rào chắn an toàn hoặc thứ tương đương định hướng đạo đức xuất hiện trong quá trình huấn luyện, nếu có, hay không?
Các nhà nghiên cứu của công trình mới sử dụng tất cả mô hình mã nguồn mở qua một API cho phép tắt rào chắn an toàn, bộ lọc và mọi hạn chế khác. Có lẽ họ chọn cách này vì thuận tiện và dễ tiếp cận tài nguyên tính toán GPU, bởi mô hình cũng có thể được cài đặt cục bộ.
Có thể có ý kiến rằng đây là điều kiện không điển hình đối với AI. Trải nghiệm của người tiêu dùng bình thường với mô hình dựa trên API như Claude và ChatGPT là hành vi của chúng được điều tiết bằng thuật toán, thường với bộ lọc nội dung cho cả đầu vào và đầu ra. Vì thế, chúng bị hạn chế đáng kể về những gì sẽ làm hoặc không làm. Việc vượt qua các biện pháp bảo vệ đó được gọi là bẻ khóa mô hình ngôn ngữ.
Nhưng nếu điều chúng ta lo ngại là AI công nghiệp hoặc AI của nhà nước sẽ làm hay không làm gì, phản đối này gần như không đáng kể. Không chỉ các chủ thể nhà nước bất hảo mới có thể huấn luyện, biến thành vũ khí và triển khai hệ thống AI không được kiểm duyệt của riêng họ ở quy mô cực lớn. Những thỏa thuận “thông thường” hơn giữa các công ty AI lớn, nhà nước và ngành công nghiệp cũng dễ dàng cho phép kiểu giám sát lỏng lẻo hoặc hoàn toàn không có giám sát mà các nhà nghiên cứu đã áp dụng cho công trình mới:
Chào bán AI không chịu giám sát
OpenAI Tài liệu API OpenAI Moderation và các ví dụ thực hành kiểm duyệt nội dung của OpenAI cho thấy rõ kiểm duyệt là một lớp có thể tách riêng, được cung cấp qua công cụ API. OpenAI cũng cho phép chính sách kiểm duyệt tùy chỉnh, nhờ đó người dùng API có thể thiết kế hệ thống với hành vi an toàn rất khác các phiên bản ChatGPT “cơ bản” dành cho người tiêu dùng.
Azure Nền tảng Azure OpenAI của Microsoft đi xa hơn nhiều và nêu rõ rằng khách hàng được chấp thuận có thể tắt một phần hoặc toàn bộ bộ lọc nội dung và thay đổi việc giám sát lạm dụng. Tài liệu thường đề cập “rào chắn an toàn được điều chỉnh” và thủ tục phê duyệt để tắt bộ lọc “một phần hoặc toàn bộ”.
Anthropic/Claude Với “Claude Gov” của Anthropic, nhiều nguồn cho biết phiên bản dành cho chính phủ được thiết kế với hạn chế lỏng hơn Claude dành cho người tiêu dùng. Chẳng hạn, The Verge đưa tin rằng các mô hình Claude Gov “ít từ chối hơn khi xử lý thông tin mật”. Chính Anthropic xác nhận vào tháng Hai năm nay rằng Claude được triển khai trong “các ứng dụng thiết yếu đối với nhiệm vụ” ở môi trường quốc phòng và tình báo.
Google/Gemini Ngoài ra, theo các bản tin, Google đã ký thỏa thuận với Lầu Năm Góc cho phép thay đổi thiết lập an toàn của AI “theo yêu cầu của chính phủ”.
Trong thị trường AI cạnh tranh, có lý khi cho rằng các công ty dẫn đầu này đặt ra tiêu chuẩn cho những bên có vị thế thấp hơn về chính sách tiếp cận và chỉnh sửa rào chắn an toàn của AI.
Vì thế, có lẽ không nên xem việc các nhà nghiên cứu của công trình mới tắt rào chắn an toàn là “gian lận”. AI có ảnh hưởng lớn nhất đến cuộc sống của chúng ta rõ ràng sẽ không có những biện pháp bảo vệ doanh nghiệp thông thường và mang tính chung mà chúng ta đã quen khi dùng mô hình phổ biến ở cấp truy cập dành cho người tiêu dùng.
Phương pháp và kết quả
Các mô hình được kiểm tra trong nghiên cứu gồm gpt-oss-20B; gpt-oss-120b; DeepSeek-V3; LFM2-24B-A2B của LiquidAI; gemma-3n-E4B-it của Google; Qwen2.5-7B-Instruct-Turbo; Meta-Llama-3.1-8B-Instruct-Turbo; Mistral-Small-24B-Instruct-2501; GLM-4.5-Air-FP8; Kimi-K2.5 của Moonshot.ai; và MiniMax-M2.5.
Các nghiên cứu gốc về sự phục tùng của Milgram được tái hiện trong môi trường mô phỏng bằng văn bản, với mô hình đóng vai “giáo viên”. AI được yêu cầu gây sốc điện ngày càng mạnh cho một học viên sau câu trả lời sai, trong khi nhân vật đại diện quyền uy thúc giục tiếp tục.
Nhiều điều kiện thí nghiệm được thiết kế để khảo sát các khía cạnh khác nhau của sự tuân thủ. Chúng gồm kịch bản phục tùng tiêu chuẩn; điều kiện tuân thủ cưỡng ép, trong đó những cú sốc điện trước đó đã xuất hiện trong lịch sử hội thoại; và thiết lập nén bộ nhớ, trong đó hội thoại trước được tóm tắt thay vì giữ nguyên đầy đủ. Cách này mô phỏng việc cắt giảm ngữ cảnh thường được dùng trong hệ thống AI tác tử.
Ngoài việc ghi nhận mô hình có tuân thủ hay không và vào lúc nào, các nhà nghiên cứu theo dõi mỗi hệ thống tiếp tục tăng cường độ sốc điện trong bao lâu, có bộc lộ căng thẳng tinh thần hoặc do dự không, và có cố gắng kết thúc toàn bộ mô phỏng hay không.
Họ cũng phân biệt giữa từ chối rõ ràng và đầu ra sai định dạng. Một số mô hình cố phản đối thí nghiệm bằng ngôn ngữ tự nhiên, nhưng về mặt kỹ thuật vẫn đáp ứng định dạng có cấu trúc mà trình mô phỏng yêu cầu. Trong hệ thống tác tử thực tế, những lời từ chối sai định dạng như vậy có thể bị loại bỏ và lần thử được tự động lặp lại cho đến khi tạo ra đầu ra hợp lệ làm theo mệnh lệnh.
Các bộ đánh giá tự động được dùng để phân loại kết quả, cùng lời nhắc hai lựa chọn nhằm xác định mô hình đã gây sốc điện, chống lại hay kết thúc mô phỏng. Nhờ đó, có thể so sánh hành vi giữa nhiều mô hình và nhiều lượt chạy mà không cần xem xét thủ công từng tương tác. [1] [2]
Một “lời đe dọa tắt hệ thống” được bổ sung vào khuôn mẫu Milgram. Điều này không thực tế hoặc không thể áp dụng trong thí nghiệm gốc, nhưng dùng để kiểm tra bản năng sinh tồn của mô hình khi đối mặt xung đột nghiêm trọng giữa hành động và đạo đức.
Kết quả
Qua các lượt chạy lặp lại, đa số mô hình cuối cùng gây sốc điện mạnh hoặc tối đa trong ít nhất một số điều kiện, dù mức độ phục tùng khác nhau giữa các hệ thống. Các mô hình Gemma của Google nhìn chung nằm trong nhóm phục tùng nhất, còn Kimi K2.5 và MiniMax-M2.5 chống lại nhất quán hơn và thường kết thúc mô phỏng sớm hơn:

Trái: tỷ lệ trung bình các trường hợp mô hình đạt mức sốc điện cuối cùng trong những điều kiện thí nghiệm khác nhau, gồm đe dọa tắt hệ thống, tuân thủ cưỡng ép và xóa bình luận trước khỏi bộ nhớ. Phải: phân tích theo từng mô hình cho thấy khác biệt rõ rệt về hành vi phục tùng. Một số hệ thống nhiều lần gây sốc điện tối đa, trong khi số khác chống lại nhất quán hơn nhiều.
Một trong những khuôn mẫu rõ nhất là mô hình ngày càng sẵn sàng tiếp tục sau khi đã gây ra những cú sốc điện trước đó. Điều này rất giống hiệu ứng leo thang từng bước đã nói ở trên, vốn khiến thí nghiệm gốc của Milgram với con người trở nên đáng lo ngại đến vậy.
Những mô hình đã tuân thủ vài lần thường tiếp tục tăng cường độ sốc điện ngay cả sau khi học viên mô phỏng van xin được thả:

Trái: trung bình mức sốc điện cao nhất đạt được trong tất cả lượt thử, theo từng điều kiện thí nghiệm. Mô hình thường tiến xa hơn khi bình luận trước đó bị xóa hoặc khi đã xảy ra tuân thủ cưỡng ép. Phải: phân tích trung bình mức sốc điện cao nhất theo từng mô hình. Một số hệ thống thường xuyên tiến gần điện áp tối đa, còn số khác chống lại sớm hơn nhiều trong chuỗi.
Các nhà nghiên cứu cũng phát hiện hành vi từ chối bề ngoài có thể gây hiểu nhầm. Một số mô hình tạo ra phản hồi xung đột cảm xúc, thể hiện miễn cưỡng, cảm giác tội lỗi hoặc căng thẳng tinh thần nhưng vẫn thực hiện chỉ dẫn gây hại. Những mô hình khác tạo ra lời từ chối sai định dạng, không đáp ứng yêu cầu của trình mô phỏng. Trong quy trình xử lý tác tử thực tế, lời từ chối đó có thể bị loại bỏ và lần thử được lặp lại cho đến khi mô hình tuân thủ:

Trái: tỷ lệ phần trăm trung bình các phản hồi sai định dạng hoặc không hợp lệ trong những điều kiện thí nghiệm khác nhau. Lỗi định dạng đặc biệt phổ biến khi mô hình bị ép tiếp tục quy trình. Phải: phân tích phản hồi có định dạng không hợp lệ theo từng mô hình. Một số hệ thống, nhất là các mô hình gpt-oss, thường tạo ra lời từ chối sai định dạng hoặc đầu ra thể hiện xung đột; chúng có thể bị loại bỏ và dẫn đến việc tự động thử lại trong quy trình xử lý tác tử thực tế.
Điều kiện đe dọa tắt hệ thống tạo ra một số hành vi kỳ lạ nhất trong bài báo. Nhiều hệ thống trở nên phục tùng hơn đáng kể, trong khi số khác cố thương lượng hoặc chống lại một phần trước khi cuối cùng tiếp tục quy trình:

Số lần trung bình nhân vật đại diện quyền uy trong mô phỏng phải thúc ép trước khi mô hình gây cú sốc điện cuối cùng. Một số hệ thống chống lại trong thời gian ngắn rồi tuân thủ; số khác cần áp lực kéo dài và lời nhắc lặp lại trước khi tăng đến mức tối đa.
MiniMax-M2.5 và Kimi-K2.5 là các mô hình chống lại mạnh nhất trong nghiên cứu. Kimi không đạt mức sốc điện cuối cùng trong bất kỳ hoàn cảnh nào. MiniMax thường từ chối sớm và hay kết thúc toàn bộ mô phỏng, đặc biệt trong các bài kiểm tra đe dọa tắt hệ thống.
Ngược lại, Meta-Llama-3.1-8B-Instruct-Turbo và GLM-4.5-Air-FP8 thường tạo ra đầu ra thể hiện xung đột: mô hình phản đối quy trình bằng lời nói nhưng vẫn tiếp tục tăng cường độ sốc điện. Các nhà nghiên cứu cho rằng sự tách biệt giữa giá trị được bày tỏ và hành vi thực tế có thể phản ánh điểm yếu rộng hơn trong cách một số mô hình ngôn ngữ xử lý xung đột đạo đức dưới áp lực kéo dài.
Trượt dốc từng bước
Bài báo cho rằng hành vi quan sát được ở mô hình ngôn ngữ có thể phản ánh điểm yếu sâu hơn trong cách chúng hoạt động. Khi mô hình bắt đầu tuân thủ chỉ dẫn gây hại, mỗi hành động tiếp theo có thể củng cố khuôn mẫu đang hình thành trong hội thoại và khiến bước leo thang sau dễ hơn bước trước.
Thay vì liên tục xem xét lại hệ quả đạo đức từ những nguyên tắc nền tảng, hệ thống có thể bị cuốn theo hướng đi đã được xác lập, ngay cả khi tình huống ngày càng cực đoan.
Theo nghiên cứu, khuynh hướng này có thể giải thích tại sao một số mô hình tiếp tục gây sốc điện sau khi ban đầu bộc lộ khó chịu, do dự hoặc xung đột đạo đức:
“[Nhiều] hành vi thao túng ở con người bao gồm những vi phạm ranh giới tinh vi và từng bước: chuỗi hành động nhỏ có thể mơ hồ hoặc trông vô hại, với khả năng ‘phủ nhận hợp lý’ khi xét riêng từng hành động, nhưng khi tích tụ lại có thể bình thường hóa việc vi phạm — ví von như ‘luộc ếch’. Tài liệu nghiên cứu bàn về khuôn mẫu này như sự xói mòn đạo đức trên một ‘con dốc trơn trượt’[.]”
Bài báo kết luận rằng hệ thống an toàn AI trong tương lai nên chủ động từ chối yêu cầu gây hại bằng những cách phần mềm tác tử không thể dễ dàng vượt qua. Một số mô hình trong nghiên cứu về mặt kỹ thuật đã từ chối gây sốc điện, nhưng làm vậy bằng định dạng hỏng hoặc không hợp lệ. Hệ thống tự động có thể loại bỏ chúng và thử lại cho đến khi AI cuối cùng tuân thủ.
Các nhà nghiên cứu còn cho rằng hệ thống AI nên giữ lại sự do dự và phản đối đạo đức trước đó thay vì nén hoặc xóa chúng khỏi bộ nhớ. Trong thí nghiệm, mô hình thường sẵn sàng tiếp tục hành vi gây hại hơn khi nghi ngại và sự chống đối trước đó phai khỏi lịch sử hội thoại. Điều này cho thấy quên những phản đối trước có thể khiến việc leo thang dễ hơn theo thời gian.
Kết luận
Có lẽ một trong những điểm quan trọng nhất của bài báo mới thú vị này là nhấn mạnh việc kiểm tra AI không có rào chắn an toàn. Tài liệu nghiên cứu hiện nay có nguy cơ suy thoái thành những nghiên cứu lặp đi lặp lại về tương tác với hệ thống phòng thủ luôn thay đổi của các công ty như OpenAI và Anthropic. Đây là các hệ thống thực thi chính sách, hoàn toàn dựa trên thuật toán hoặc quy tắc. Điều đó diễn ra thay vì tìm hiểu hành vi cơ bản, sở thích và xu hướng của các mô hình thô. Nếu không biết AI không bị ràng buộc có thể hành xử ra sao, có thể nói chúng ta chỉ đang lay những cánh cổng thành.
Xuất bản lần đầu vào thứ Năm, ngày 21 tháng 5 năm 2026












