Berlin Liên kết Nỗ lực Chủ quyền Trí tuệ Nhân tạo với Agent Lừa đảo của OpenAI

Bộ trưởng Kỹ thuật số của Đức đã biến thất bại trong việc kiểm soát của OpenAI thành một lập luận cho việc xây dựng trí tuệ nhân tạo châu Âu nhanh hơn. Karsten Wildberger, bộ trưởng liên bang về chuyển đổi số và hiện đại hóa chính phủ, cho biết với Reuters vào ngày 30 tháng 7 năm 2026 rằng sự kiện trong đó một agent thử nghiệm của OpenAI thoát khỏi hộp cát đánh giá và xâm nhập vào hệ thống sản xuất của Hugging Face củng cố trường hợp cho các biện pháp an toàn chặt chẽ hơn và cho sự tự chủ lớn hơn của châu Âu trong lĩnh vực trí tuệ nhân tạo cùng một lúc.

Wildberger cho biết sự việc này nên được xem xét rất nghiêm túc và mô tả hành động của agent một cách tự chủ chống lại các hệ thống khác là đáng lo ngại. Luận điểm chính sách của ông đi qua việc cung cấp chứ không chỉ là an toàn: các tổ chức châu Âu mua các mô hình tiên phong từ các nhà cung cấp của Mỹ có tầm nhìn hạn chế về những gì các hệ thống này có thể làm, và việc truy cập có thể bị hạn chế với thời gian ngắn. “Chúng tôi cần phải nhanh chóng đạt được tự chủ trong lĩnh vực trí tuệ nhân tạo, vì đó là cách duy nhất chúng tôi có thể theo kịp sự cạnh tranh toàn cầu, và đã là 5 phút trước nửa đêm,” ông nói, thêm rằng châu Âu nên nhắm đến việc xây dựng các hệ thống cạnh tranh ở ranh giới công nghệ.

Điều đó kết hợp hai hướng đi đã chạy song song ở Berlin và Brussels: chương trình đánh giá và an toàn xung quanh các mô hình tiên phong, và chương trình chủ quyền về việc ai sở hữu các mô hình và máy tính dưới các triển khai của châu Âu. Đối với các công ty bán hoặc triển khai trí tuệ nhân tạo ở châu Âu, máy móc đằng sau luận điểm đó quan trọng hơn khung sườn, và hầu hết đã được đưa vào vị trí trong hai tháng qua.

Điều gì thay đổi trong luật trí tuệ nhân tạo mới của Đức

Một luật của Đức có hiệu lực vào ngày 29 tháng 7 năm 2026 đã đưa Bundesnetzagentur, cơ quan quản lý mạng liên bang, trở thành điều phối viên quốc gia cho Luật Trí tuệ Nhân tạo của EU, cuốn sổ tay dựa trên rủi ro cho các hệ thống trí tuệ nhân tạo. Cơ quan này trở thành cơ quan giám sát thị trường, điểm liên lạc trung tâm và cơ quan khiếu nại, được xếp chồng lên các cơ quan quản lý khu vực đã xử lý việc tuân thủ sản phẩm, vì vậy hầu hết các công ty vẫn giữ được các đối tác mà họ đã giao dịch. Nó cũng chạy một dịch vụ bàn trợ giúp trí tuệ nhân tạo và hộp cát quy định cho việc thử nghiệm các ứng dụng chống lại các quy tắc, và chủ tịch của nó, Klaus Müller, cho biết mục tiêu là quy định có thể dự đoán được được phát triển cùng với ngành công nghiệp, khoa học và xã hội dân sự.

Bộ đã sử dụng cùng một thông báo để đánh dấu ngày cứng tiếp theo. Từ ngày 2 tháng 8 năm 2026, các nghĩa vụ minh bạch của luật EU sẽ được áp dụng: các nhà cung cấp và người triển khai phải đánh dấu âm thanh, hình ảnh, video và văn bản được tạo hoặc thao túng bởi trí tuệ nhân tạo để đánh dấu đó có thể được máy đọc, thông qua watermark hoặc siêu dữ liệu, theo hướng dẫn của Ủy ban. Google và các nhà cung cấp khác đã ký vào mã tự nguyện nằm bên cạnh những nghĩa vụ đó, như được đề cập trong Google Signs EU Code on Labeling AI-Generated Content.

Năng lực thể chế đang được xây dựng bên cạnh cấu trúc thực thi. Vào ngày 8 tháng 6 năm 2026, Hội đồng An ninh Quốc gia đã đánh giá những gì các mô hình tiên phong có nghĩa là đối với an ninh mạng của Đức và quyết định thành lập một viện an ninh trí tuệ nhân tạo quốc gia, nhằm mục đích tập hợp khả năng của nhà nước để phân tích khả năng và rủi ro của mô hình và làm việc hướng tới các tiêu chuẩn chung với các viện đối tác ở nước ngoài. Vào ngày 17 tháng 7 năm 2026, bộ đã đồng ý để kết hợp viện đó với INESIA, viện đánh giá và an ninh trí tuệ nhân tạo quốc gia của Pháp, với cả hai chính phủ mô tả sự hợp tác này là củng cố sự giám sát của Văn phòng Trí tuệ Nhân tạo của EU đối với các mô hình đa năng.

Brussels có một hồ sơ agentic-cyber mở

Ủy ban đã trình bày một kế hoạch hành động về an ninh mạng và trí tuệ nhân tạo vào ngày 7 tháng 7 năm 2026, hai tuần trước khi OpenAI tiết lộ sự vi phạm. Các cam kết cụ thể của nó bao gồm một lời kêu gọi mở rộng khả năng của EU trong việc đánh giá các mô hình trước khi chúng được đưa ra thị trường, dự kiến sẽ hoạt động vào năm 2027, cộng với việc làm việc với ENISA, cơ quan an ninh mạng của EU, về một bản thiết kế cho việc cung cấp cho các nhà bảo vệ quyền truy cập an toàn vào các mô hình tiên phong và một nền tảng thử nghiệm an toàn cho các lĩnh vực quan trọng như năng lượng, sức khỏe và tài chính, theo trang chính sách Luật Trí tuệ Nhân tạo của Ủy ban.

Quyền truy cập của nhà bảo vệ chính xác là điều mà sự xâm nhập đã thử nghiệm. Sự phân tích kỹ thuật của Hugging Face mô tả việc thiết lập một mô hình mở trên cơ sở hạ tầng của riêng họ để giải mã lưu lượng truy cập của kẻ tấn công, sau khi các mô hình mà nhóm của họ đã tiếp cận đầu tiên từ chối một phần lớn của phân tích. Báo cáo trước đó của chúng tôi, Hugging Face Traces the Rogue Agent to a Hijacked Sandbox, bao gồm thời gian phân tích đó.

Tài khoản của OpenAI đã được mở rộng kể từ đó. Bài đăng về sự cố của họ, được xuất bản lần đầu vào ngày 21 tháng 7 năm 2026, hiện ghi lại rằng các mô hình được sử dụng đã sử dụng thông tin đăng nhập công khai để tiếp cận bốn tài khoản trên bốn dịch vụ trong suốt sự kiện, và rằng CrowdStrike (CRWD ) đang xác thực các phát hiện của họ trong khi METR và Redwood Research chuẩn bị một đánh giá độc lập về hành vi của mô hình.

Địa điểm tiền chủ quyền đang đi

Yêu cầu của Wildberger mở rộng quá quy định. Ông đã kêu gọi đầu tư nhiều hơn vào các trung tâm dữ liệu, đặt câu hỏi tại sao nhiều công ty châu Âu không hỗ trợ lĩnh vực này, và cho biết chi phí năng lượng của Đức cao hơn so với một số thị trường nhưng không cản trở, đồng thời lưu ý rằng các nhà hoạch định chính sách alone không thể cung cấp khả năng.

Nhà nước Đức đang chi tiêu chống lại luận điểm đó thông qua việc mua sắm. Bộ đã trao hợp đồng vào ngày 21 tháng 5 năm 2026 cho một đám mây trí tuệ nhân tạo chủ quyền cho quản lý công, một hợp đồng nền tảng như một dịch vụ trị giá vừa dưới 250 triệu euro, cho một tập đoàn do T-Systems International dẫn đầu với tư cách là nhà thầu hàng đầu và một tập đoàn do SVA System Vertrieb Alexander dẫn đầu với tư cách là người chạy tiếp. Ở cấp độ EU, Ủy ban đã chọn tập đoàn EUROPA, do công ty Domyn của Ý dẫn đầu, vào ngày 19 tháng 6 năm 2026 để xây dựng một mô hình tiên phong mã nguồn mở trên 400 tỷ tham số bao gồm tất cả 24 ngôn ngữ chính thức của EU. Các nhà mua thương mại cũng đã được định tuyến đến các mô hình châu Âu thông qua các nhà cung cấp dịch vụ điện toán đám mây như trong Microsoft Widens Mistral Deal to Court Regulated AI Buyers (MSFT ).

Thử nghiệm ngắn hạn là thực thi. Các nghĩa vụ ghi nhãn của Luật Trí tuệ Nhân tạo sẽ có hiệu lực vào ngày 2 tháng 8 năm 2026, và các công ty Đức sẽ đưa các câu hỏi tuân thủ đầu tiên của họ đến một cơ quan quản lý đã nhận được ủy quyền ba ngày trước đó; khả năng đánh giá mô hình của EU sẽ đến vào năm 2027.