Lãnh đạo tư tưởng
Đúng vậy, Đạo luật AI của EU bao quát cả AI tác nhân—đây là cách thức

Điểm chínhAI tác tử đã nằm trong phạm vi Đạo luật AI của EU vì nó đáp ứng định nghĩa về một hệ…
Xem thêm
- AI tác tử đã nằm trong phạm vi Đạo luật AI của EU vì nó đáp ứng định nghĩa về một hệ thống AI.
- Đạo luật AI quy định công nghệ làm gì và những rủi ro mà nó tạo ra thay vì nêu tên các công nghệ cụ thể.
- Các gã khổng lồ công nghệ vận động hành lang chống lại Đạo luật AI đang thúc đẩy tự điều chỉnh, điều này tương đương với việc chiếm đoạt quy định.
Hiện nay, có một luồng quan điểm phổ biến cho rằng AI tác nhân và các tác tử AI nằm ngoài phạm vi điều chỉnh—rằng Đạo luật AI của EU không đủ khả năng quản lý chúng. Chúng tôi đã đọc quan điểm này trên các hãng tin uy tín của Na Uy (Morgenbladet và Dagensnæringsliv), và các học giả hàng đầu cũng nhắc lại quan điểm đó (University of Oslo). Chúng tôi nhận thấy những nhận định này có hai sai lầm căn bản… và cho rằng chúng xuất phát từ nỗi lo sợ, chứ không phải từ thực tế.
Thứ nhất, AI tác nhân được điều chỉnh theo Đạo luật AI của EU.
Thứ hai, những nhận định như vậy làm suy yếu các quy định hiện hành. Chúng củng cố quan niệm rằng các công ty AI có vị thế tốt hơn để quản lý những rủi ro liên quan đến chính các hệ thống của họ—một lập luận phổ biến dẫn đến tình trạng chi phối quy định.
Chúng tôi thường xuyên làm việc với Đạo luật AI với tư cách là thành viên được bổ nhiệm vào ủy ban AI quốc gia của Standards Norway. Chúng tôi cũng tham gia các ủy ban châu Âu xây dựng tiêu chuẩn hài hòa dành cho các nhà cung cấp hệ thống AI rủi ro cao; những tiêu chuẩn này giúp các công ty đáp ứng các yêu cầu pháp lý của Đạo luật AI.
Đạo luật AI của EU điều chỉnh AI tác nhân theo nhiều cách
Ủy ban châu Âu đã công bố một số câu hỏi thường gặp được diễn đạt bằng ngôn ngữ dễ hiểu, dễ đọc về “tác tử” và “AI tác nhân”, đồng thời làm rõ rằng: có, các hệ thống này thuộc phạm vi điều chỉnh, đơn giản vì chúng đáp ứng định nghĩa rộng hơn về một hệ thống AI (Các tác tử AI được đề cập như thế nào trong Đạo luật AI? | Bộ phận hỗ trợ dịch vụ Đạo luật AI). Dưới đây là một số ví dụ khác:
- AI tác nhân thường được xây dựng dựa trên các mô hình ngôn ngữ lớn, vốn được điều chỉnh như những mô hình AI đa năng.
- Khi một hệ thống AI tác nhân tương tác với con người, các yêu cầu minh bạch trong quy định cũng được kích hoạt.
- Nếu một mô hình AI được phân loại là có nguy cơ gây rủi ro hệ thống, nhà cung cấp phải tuân thủ các yêu cầu bổ sung. Trong số đó có việc đánh giá năng lực của mô hình, bao gồm cả các tính năng tự chủ và tác nhân.
Đạo luật AI không nhắc đến từ “tác tử”, bởi đạo luật không điều chỉnh các loại công nghệ cụ thể. Thay vào đó, đạo luật quy định dựa trên mục đích thiết kế của công nghệ và những rủi ro gắn với các chức năng đó.
Đạo luật AI hướng đến việc bảo vệ các quyền cơ bản của chúng ta
Phần lớn những lời chỉ trích Đạo luật AI từ những người muốn có nhiều quy định hơn bắt nguồn từ thực tế rằng không thể loại bỏ hoàn toàn mọi rủi ro. Tuy nhiên, một khuôn khổ pháp lý quốc tế không thể nào dự đoán được mọi rủi ro có thể phát sinh trong tương lai.
Thay vào đó, Đạo luật AI tập trung vào những rủi ro do các hệ thống AI gây ra có thể ảnh hưởng đến sức khỏe, sự an toàn và các quyền cơ bản—điều được nêu ngay trong câu đầu tiên của điều khoản đầu tiên.

Ảnh chụp màn hình từ EUR-Lex – 02024R1689-20260727 – tiếng Anh – EUR-Lex
Một điểm quan trọng khác trong câu đầu tiên này mà chúng tôi chưa đề cập là Đạo luật AI định hướng theo thị trường. Đạo luật khuyến khích việc sử dụng AI. Đạo luật hỗ trợ đổi mới. Nói cách khác, Đạo luật AI ủng hộ AI. Trong bối cảnh đó, một số ứng dụng và lĩnh vực nhất định được điều chỉnh.
Một số lĩnh vực được xếp loại sẵn là rủi ro cao
Một số ví dụ về hệ thống AI được sử dụng trong các lĩnh vực sau:
- tuyển dụng
- phân bổ các dịch vụ thiết yếu
- thiết bị y tế
- các hệ thống tích hợp vào cơ sở hạ tầng trọng yếu, nơi an toàn là ưu tiên hàng đầu.
Các nhà cung cấp hệ thống AI (dù có tính tác nhân hay không) có khả năng ảnh hưởng đến các quyền của chúng ta phải thiết lập hệ thống quản lý rủi ro toàn diện, trong đó có việc đánh giá cách người dùng có thể sử dụng sai mục đích hệ thống AI.
Chi phối quy định: Khi nhà cung cấp đề xuất tự điều chỉnh
Nếu lắng nghe Anthropic, OpenAI và Meta, cũng như một số ý kiến trong cuộc tranh luận ở Na Uy, người ta có thể có ấn tượng rằng AI và AI tác nhân quá phức tạp để được điều chỉnh bằng Đạo luật AI. Quá tiên tiến đối với EU. Quá nguy hiểm để bất kỳ ai ngoài chính các công ty điều chỉnh.
Chúng ta nên thận trọng khi những công ty công nghệ quyền lực nhất thế giới—vốn đã vận động mạnh mẽ để Đạo luật AI được thực thi theo cách ít nghiêm ngặt hơn—nay lại tuyên bố rằng quy định này không đủ sức quản lý những hệ thống mạnh nhất của họ. Giải pháp mà họ đề xuất là tự “điều chỉnh” mình.
Đây là một cơ chế kinh điển của tình trạng chi phối quy định: quá trình trong đó luật pháp và quy định dần được định hình bởi chính những thực thể mà chúng được đặt ra để quản lý, nhằm phục vụ lợi ích của các thực thể đó.
Hoa Kỳ là một ví dụ rõ ràng cho điều này (Khai mở kỷ nguyên siêu trí tuệ – Nhà Trắng). Thỏa thuận của Nhà Trắng về siêu trí tuệ là một “cam kết tự nguyện” với các lãnh đạo của X, Meta, Anthropic, OpenAI và Google, theo đó các công ty này hứa sẽ tự điều chỉnh. Tài liệu ghi nhận rằng luật pháp có thể phù hợp vào một thời điểm giả định nào đó trong tương lai: “Theo thời gian, việc luật hóa các biện pháp này thành luật hoặc quy định có thể trở nên hợp lý.” Theo thời gian. Có lẽ vậy. Việc xem xét các quy định có thể là hợp lý.
Tuy nhiên, hiện người Mỹ được kỳ vọng sẽ tin rằng các tập đoàn công nghệ lớn này sẽ tự quản lý mình.
Khác với Hoa Kỳ, châu Âu có một đạo luật mang tính ràng buộc: Đạo luật AI.
Dù vậy, nguy cơ bị các nhóm lợi ích chi phối trong quá trình xây dựng và thực thi quy định vẫn còn, kể cả thông qua việc làm suy giảm niềm tin vào đạo luật này. Bởi nếu các tập đoàn công nghệ khổng lồ có thể thuyết phục mọi người rằng Đạo luật AI chưa đủ tốt, chúng ta sẽ không còn ủng hộ việc thực thi đạo luật nữa. Những tuyên bố cho rằng AI tác nhân quá tiên tiến/thông minh/nguy hiểm để Đạo luật AI có thể xử lý là những lập luận làm suy yếu sự ủng hộ của chúng ta đối với quy định.
Một khi các nhóm lợi ích đã chi phối được quá trình xây dựng và thực thi quy định, việc đảo ngược tình thế sẽ rất khó khăn.
Chúng tôi cũng lo ngại rằng một số hệ thống AI có thể dẫn đến những hậu quả khó lường. Chính vì lý do đó, chúng ta cần có các quy trình quản lý rủi ro — như Đạo luật AI cũng yêu cầu. (Tiến sĩ Muller tham gia ủy ban đang gần hoàn tất việc xây dựng tiêu chuẩn hài hòa về quản lý rủi ro, 18228.)
Đạo luật AI của EU không hoàn hảo và có lẽ sẽ cần được phát triển thêm. Tuy nhiên, việc mô tả AI tác nhân như một lĩnh vực nằm ngoài phạm vi điều chỉnh của Đạo luật AI EU chỉ làm gia tăng sự bất định, chứ không giúp tăng cường an toàn.













