Bộ quy tắc ứng xử mới của EU về AI sẽ ảnh hưởng đến quy định

Ủy ban châu Âu gần đây đã giới thiệu một Bộ quy tắc ứng xử có thể thay đổi cách các công ty AI hoạt động. Đây không chỉ là một bộ hướng dẫn khác mà là một sự thay đổi hoàn toàn về giám sát AI mà ngay cả những người chơi lớn nhất cũng không thể bỏ qua.

Điều gì làm cho điều này khác biệt? Lần đầu tiên, chúng ta đang thấy những quy tắc cụ thể có thể buộc các công ty như OpenAI và Google (GOOGL ) phải mở mô hình của họ cho thử nghiệm bên ngoài, một sự thay đổi cơ bản trong cách các hệ thống AI có thể được phát triển và triển khai ở châu Âu.

Các người chơi quyền lực mới trong giám sát AI

Ủy ban châu Âu đã tạo ra một khuôn khổ nhắm vào những gì họ gọi là hệ thống AI có “rủi ro hệ thống”. Chúng ta đang nói về các mô hình được đào tạo với hơn 10^25 phép tính FLOPs – một ngưỡng mà GPT-4 đã vượt qua.

Các công ty sẽ cần báo cáo kế hoạch đào tạo AI của họ hai tuần trước khi họ thậm chí bắt đầu.

Tại trung tâm của hệ thống mới này là hai tài liệu chính: Khung an toàn và bảo mật (SSF) và Báo cáo an toàn và bảo mật (SSR). SSF là một bản đồ đường dài toàn diện để quản lý rủi ro AI, bao gồm mọi thứ từ việc xác định rủi ro ban đầu đến các biện pháp bảo mật liên tục. Trong khi đó, SSR đóng vai trò là một công cụ tài liệu chi tiết cho từng mô hình riêng lẻ.

Thử nghiệm bên ngoài cho mô hình AI rủi ro cao

Ủy ban đang yêu cầu thử nghiệm bên ngoài cho các mô hình AI rủi ro cao. Đây không phải là kiểm tra chất lượng nội bộ tiêu chuẩn – các chuyên gia độc lập và Văn phòng AI của EU đang xem xét các hệ thống này.

Các tác động là lớn. Nếu bạn là OpenAI hoặc Google, bạn đột nhiên cần phải để các chuyên gia bên ngoài kiểm tra hệ thống của mình. Dự thảo rõ ràng nêu rằng các công ty phải “đảm bảo kiểm tra của chuyên gia độc lập trước khi triển khai”. Đó là một sự thay đổi lớn so với cách tiếp cận tự điều chỉnh hiện tại.

Câu hỏi đặt ra: Ai đủ tiêu chuẩn để kiểm tra những hệ thống phức tạp này? Văn phòng AI của EU đang bước vào lãnh thổ chưa từng được khám phá trước đây. Họ sẽ cần các chuyên gia có thể hiểu và đánh giá công nghệ AI mới trong khi duy trì bí mật nghiêm ngặt về những gì họ phát hiện.

Yêu cầu thử nghiệm bên ngoài này có thể trở thành bắt buộc trên toàn EU thông qua một hành động thực hiện của Ủy ban. Các công ty có thể cố gắng chứng minh tuân thủ thông qua “các phương tiện thay thế phù hợp”, nhưng không ai biết chắc chắn điều đó có nghĩa là gì trong thực tế.

Bảo vệ bản quyền trở nên nghiêm túc

EU cũng đang trở nên nghiêm túc về bảo vệ bản quyền. Họ đang buộc các nhà cung cấp AI phải tạo ra các chính sách rõ ràng về cách họ xử lý tài sản trí tuệ.

Ủy ban đang hỗ trợ tiêu chuẩn robots.txt – một tệp đơn giản cho biết các trình thu thập web có thể và không thể đi đến đâu. Nếu một trang web nói “không” thông qua robots.txt, các công ty AI không thể đơn giản bỏ qua và đào tạo trên nội dung đó. Các công cụ tìm kiếm không thể phạt các trang web vì sử dụng các исключ này. Đó là một động thái quyền lực đặt các nhà tạo nội dung trở lại vào vị trí lái xe.

Các công ty AI cũng sẽ phải tích cực tránh các trang web vi phạm bản quyền khi thu thập dữ liệu đào tạo. EU thậm chí còn chỉ họ đến “Danh sách theo dõi hàng giả và vi phạm bản quyền” của mình làm điểm khởi đầu.

Điều này có nghĩa là gì cho tương lai

EU đang tạo ra một sân chơi hoàn toàn mới cho phát triển AI. Những yêu cầu này sẽ ảnh hưởng đến mọi thứ từ cách các công ty lên kế hoạch cho dự án AI của họ đến cách họ thu thập dữ liệu đào tạo.

Mỗi công ty AI lớn hiện đang phải đối mặt với một lựa chọn. Họ cần:

• Mở mô hình của họ cho thử nghiệm bên ngoài
• Tìm ra những “phương tiện thay thế bí ẩn” của tuân thủ trông như thế nào
• Hoặc có thể hạn chế hoạt động của họ trên thị trường EU

Thời gian ở đây cũng quan trọng. Đây không phải là quy định trong tương lai xa – Ủy ban đang di chuyển nhanh. Họ đã quản lý để có khoảng 1.000 bên liên quan chia thành bốn nhóm làm việc, tất cả đều làm việc để hoàn thiện chi tiết về cách thức hoạt động này.

Đối với các công ty xây dựng hệ thống AI, những ngày “di chuyển nhanh và suy nghĩ về quy tắc sau” có thể đang kết thúc. Họ sẽ cần bắt đầu suy nghĩ về những yêu cầu này ngay bây giờ, không phải khi chúng trở thành bắt buộc. Điều đó có nghĩa là:

• Lập kế hoạch cho các cuộc kiểm toán bên ngoài trong dòng thời gian phát triển của họ
• Thiết lập các hệ thống tuân thủ bản quyền mạnh mẽ
• Xây dựng các khuôn khổ tài liệu phù hợp với yêu cầu của EU

Tác động thực sự của những quy định này sẽ được tiết lộ trong những tháng tới. Trong khi một số công ty có thể tìm cách tránh né, những công ty khác sẽ tích hợp những yêu cầu này vào quy trình phát triển của họ. Khung khổ của EU có thể ảnh hưởng đến cách phát triển AI diễn ra trên toàn cầu, đặc biệt nếu các khu vực khác theo đuổi các biện pháp giám sát tương tự. Khi những quy tắc này chuyển từ dự thảo sang thực hiện, ngành công nghiệp AI đang đối mặt với sự thay đổi quy định lớn nhất từ trước đến nay.