Những Khiếm Khuyết Của Dự Thảo Đạo Luật Trí Tuệ Nhân Tạo Của Liên Minh Châu Âu

Một đánh giá pháp lý mới về dự thảo ‘Đạo luật Trí tuệ nhân tạo’ của Liên minh Châu Âu đã đưa ra một loạt các chỉ trích đối với các quy định được đề xuất được phát hành vào tháng 4, kết luận rằng phần lớn tài liệu này được ‘khâu lại’ từ quy định tiêu dùng của những năm 1980 mà ít có liên quan; rằng nó thực sự thúc đẩy một môi trường trí tuệ nhân tạo không được quản lý ở Châu Âu, chứ không phải đưa lĩnh vực này dưới sự quản lý hợp lý; và – trong số nhiều chỉ trích khác – rằng các đề xuất vạch ra một khuôn khổ quản lý trí tuệ nhân tạo trong tương lai có ‘ít ý nghĩa và tác động’.

Được gọi là Demystifying the Draft EU Artificial Intelligence Act, bản in trước là một sự hợp tác giữa các nhà nghiên cứu từ UCL London và Radboud University ở Nijmegen.

Bản giấy này thêm vào một loạt ý kiến tiêu cực ngày càng tăng về việc thực hiện dự thảo (thay vì ý định được ngưỡng mộ) của một khuôn khổ quản lý trí tuệ nhân tạo, bao gồm cả việc tranh cãi vào tháng 4 của một trong những người đóng góp cho dự thảo quy định rằng các hướng dẫn được đề xuất là ‘làm nguội, tầm nhìn ngắn và cố ý mơ hồ’, mô tả tài liệu của Ủy ban Châu Âu là một người đề xuất ‘đạo đức giả’.

Hệ Thống Trí Tuệ Nhân Tạo Manipulative

Bản giấy mới cho rằng các hạn chế được đề xuất của Đạo luật Trí tuệ nhân tạo đối với ‘hệ thống manipulative’ bị hạn chế bởi một định nghĩa mơ hồ và thậm chí mâu thuẫn về ‘tổn hại’, nhận xét rằng ‘[m]ột người hoài nghi có thể cảm thấy Ủy ban quan tâm hơn đến giá trị tuyên bố của các lệnh cấm hơn là hiệu ứng thực tế’.

Các quy định dự thảo phác thảo hai thực hành bị cấm có thể xảy ra:

(a) việc đưa ra thị trường, đưa vào dịch vụ hoặc sử dụng một hệ thống trí tuệ nhân tạo triển khai các kỹ thuật tiềm thức vượt quá ý thức của một người để làm sai lệch đáng kể hành vi của một người theo cách gây ra hoặc có khả năng gây ra tổn hại thể chất hoặc tâm lý cho người đó hoặc người khác;

(b) việc đưa ra thị trường, đưa vào dịch vụ hoặc sử dụng một hệ thống trí tuệ nhân tạo khai thác bất kỳ điểm yếu nào của một nhóm người cụ thể do tuổi tác, khuyết tật thể chất hoặc tinh thần, để làm sai lệch đáng kể hành vi của một người thuộc nhóm đó theo cách gây ra hoặc có khả năng gây ra tổn hại thể chất hoặc tâm lý cho người đó hoặc người khác;

Các nhà nghiên cứu cho rằng những hạn chế này không giải quyết việc liệu nhà cung cấp dịch vụ hoặc phần mềm trí tuệ nhân tạo có thành công trong việc thúc đẩy mục tiêu của họ hay không, mà chỉ xem xét liệu người dùng cuối có bị ‘tổn hại’ trong quá trình này hay không. Họ thêm rằng định nghĩa về tổn hại trong dự thảo bị giới hạn ở mức cá nhân, chứ không phải là loại tổn hại tập thể hoặc xã hội có thể được suy luận một cách hợp lý từ một số vụ tranh cãi về trí tuệ nhân tạo trong những năm gần đây, chẳng hạn như vụ bê bối Cambridge Analytica.

Bản giấy này quan sát rằng ‘Trong đời thực, tổn hại có thể tích lũy mà không có một sự kiện đơn lẻ vượt quá ngưỡng nghiêm trọng, khiến nó khó chứng minh’.

Hệ Thống Trí Tuệ Nhân Tạo Có Hành Vi Hại Nhưng Không Phải Để Tiêu Dùng Tại Liên Minh Châu Âu

Đạo luật Trí tuệ nhân tạo đề xuất thực hiện một lệnh cấm đối với các hệ thống sinh trắc học ‘thời gian thực’ trong không gian công cộng bởi các cơ quan thực thi pháp luật. Mặc dù một số hoài nghi của công chúng đã được nhắm vào các trường hợp ngoại lệ mà các đề xuất này thực hiện cho chống khủng bố, buôn bán trẻ em và việc thực hiện một lệnh bắt giữ của Châu Âu, các nhà nghiên cứu lưu ý rằng không có gì có thể ngăn cản các nhà cung cấp bán các hệ thống sinh trắc học vi phạm cho các chế độ áp bức.

Bản giấy này quan sát thấy rằng đây đã là một thực tế lịch sử, như được tiết lộ trong một báo cáo năm 2020 từ Amnesty International.

Nó cũng tuyên bố rằng quy định của Đạo luật Trí tuệ nhân tạo về ‘hệ thống sinh trắc học thời gian thực’ là tùy ý, và loại trừ các hệ thống phân tích ngoại tuyến, chẳng hạn như xử lý sau này của cảnh quay từ các sự kiện biểu tình.

Ngoài ra, nó được lưu ý rằng các đề xuất không cung cấp cơ chế nào để hạn chế các hệ thống sinh trắc học không liên quan đến thực thi pháp luật, mà thay vào đó được chuyển sang GDPR một cách lười biếng; và rằng GDPR tự nó ‘đặt ra yêu cầu về sự đồng ý chất lượng cao, cá nhân cho mỗi người được quét, điều này về cơ bản là không thể thực hiện được’.

Ngôn ngữ của phần này của Đạo luật Trí tuệ nhân tạo cũng bị các nhà nghiên cứu chỉ trích. Dự thảo quy định rằng việc ủy quyền trước sẽ được yêu cầu cho việc triển khai các hệ thống sinh trắc học cho ‘sử dụng cá nhân’ của các cơ quan có thẩm quyền đối với các hệ thống này – nhưng không làm rõ ‘sử dụng cá nhân’ có nghĩa là gì trong ngữ cảnh này. Bản giấy này lưu ý rằng các lệnh truy nã có thể thematic, và liên quan đến các tổ chức, mục đích và địa điểm rộng lớn.

Hơn nữa, dự thảo quy định không quy định một cơ chế minh bạch cho số lượng và loại ủy quyền được cấp, khiến việc giám sát của công chúng trở nên khó khăn.

Outsourcing Quản Lý Đến ‘Tiêu Chuẩn Hóa’

Nghiên cứu cho rằng các thực thể quan trọng nhất trong Đạo luật Trí tuệ nhân tạo thực sự không được đề cập thậm chí một lần trong dự thảo quy định: CEN (Ủy ban Tiêu chuẩn hóa Châu Âu) và CENELEC (Ủy ban Tiêu chuẩn hóa Điện kỹ thuật Châu Âu) – hai trong số ba Tổ chức Tiêu chuẩn hóa Châu Âu (ESOs) mà Ủy ban Châu Âu có thể yêu cầu xây dựng các tiêu chuẩn hóa, điều này trong nhiều trường hợp sẽ vẫn là khuôn khổ quản lý quy định cho các loại dịch vụ và triển khai trí tuệ nhân tạo nhất định.

Điều này về cơ bản có nghĩa là các nhà sản xuất trí tuệ nhân tạo có thể chọn tuân theo các tiêu chuẩn của những gì về cơ bản là các quy định cạnh tranh chứ không phải bổ sung, thay vì đáp ứng các yêu cầu thiết yếu được nêu trong Đạo luật Trí tuệ nhân tạo. Điều này cho phép các nhà cung cấp giải thích các quy định được đề xuất một cách lỏng lẻo hơn khi chúng có hiệu lực vào năm 2024-5.

Các nhà nghiên cứu của bản giấy này cũng cho rằng những năm can thiệp của hoạt động vận động hành lang công nghiệp giữa các cơ quan tiêu chuẩn hóa có thể sẽ định nghĩa lại những ‘tiêu chuẩn thiết yếu’ này đáng kể, và đề xuất rằng ‘quy định lý tưởng’ nên bắt đầu từ một mức độ đạo đức và rõ ràng về lập pháp cao hơn, nếu chỉ để tính đến quá trình suy giảm không thể tránh khỏi này.

Chứng Nhận Sự Lầm Lỗi Của Các Hệ Thống Nhận Dạng Cảm Xúc

Đạo luật Trí tuệ nhân tạo có điều khoản chống lại việc triển khai các hệ thống nhận dạng và phân loại cảm xúc – các khuôn khổ có thể không nhất thiết xác định một cá nhân, nhưng tuyên bố hiểu những gì họ cảm thấy hoặc có thể phân loại họ theo giới tính, chủng tộc, và các dấu hiệu kinh tế và xã hội khác nhau.

Các nhà nghiên cứu cho rằng điều khoản này là vô nghĩa, vì GDPR đã yêu cầu những người bán các hệ thống như vậy phải cung cấp cho người dùng thông tin rõ ràng về việc sử dụng các hệ thống như vậy, để người dùng có thể chọn không tham gia (điều này có thể liên quan đến việc không sử dụng một dịch vụ trực tuyến, hoặc không vào một khu vực nơi các hệ thống như vậy được công bố).

Quan trọng hơn, bản giấy này cho rằng điều khoản này chứng nhận một công nghệ đã bị bác bỏ, và tiếp tục mô tả các hệ thống nhận dạng cảm xúc theo phong cách FACS trong ánh sáng của lịch sử đáng hổ thẹn của phrenology và các phương pháp gần như Shamanistic khác để phân loại xã hội từ thời đại công nghiệp sớm.

‘Những người tuyên bố phát hiện cảm xúc sử dụng các phân loại đơn giản hóa, đáng ngờ; giả định sai lầm về tính phổ quát trên các nền văn hóa và ngữ cảnh; và có nguy cơ ‘[đưa chúng ta trở lại quá khứ phrenological]’ phân tích các đặc điểm tính cách từ cấu trúc khuôn mặt. Các quy định của Đạo luật về nhận dạng cảm xúc và phân loại sinh trắc học dường như không đủ để giảm thiểu các rủi ro.’

Một Đề Xuất Quá Khiêm Tốn

Ngoài những điều này, các nhà nghiên cứu giải quyết các khiếm khuyết được nhận thức trong Đạo luật Trí tuệ nhân tạo liên quan đến quy định của deepfakes, thiếu giám sát đối với lượng khí thải carbon của các hệ thống trí tuệ nhân tạo, trùng lặp giám sát quy định với các khuôn khổ khác, và định nghĩa không đầy đủ về các thực thể pháp lý có thể truy tố.

Họ kêu gọi các nhà lập pháp và các nhà hoạt động dân sự hành động để giải quyết các vấn đề được xác định, và lưu ý thêm rằng thậm chí việc phân tích chi tiết của họ về dự thảo quy định đã phải bỏ qua nhiều lĩnh vực quan tâm khác do thiếu không gian.

Tuy nhiên, bản giấy này ca ngợi nỗ lực tiên phong của Đạo luật trong việc giới thiệu một hệ thống quản lý ngang hàng các hệ thống trí tuệ nhân tạo, trích dẫn nhiều ‘phần tử hợp lý’, chẳng hạn như tạo ra một hệ thống phân cấp các mức độ rủi ro, cam kết giới thiệu các lệnh cấm, và đề xuất một cơ sở dữ liệu công khai về các hệ thống mà các nhà cung cấp cần phải đóng góp để có được tính hợp pháp của Châu Âu, mặc dù lưu ý rằng yêu cầu này có thể gây ra các vấn đề pháp lý.