Sự thất bại của Dự thảo Đạo luật Trí tuệ Nhân tạo của Liên minh Châu Âu

Một phê bình pháp lý mới về dự thảo ‘Đạo luật Trí tuệ Nhân tạo’ của Liên minh Châu Âu đã đưa ra một loạt các chỉ trích đối với các quy định được đề xuất được phát hành vào tháng 4, kết luận rằng phần lớn tài liệu này là ‘được khâu lại’ từ các quy định của người tiêu dùng từ những năm 1980 mà hầu như không có ứng dụng; rằng nó thực sự thúc đẩy một môi trường trí tuệ nhân tạo không được quản lý ở châu Âu, chứ không phải đưa lĩnh vực này dưới sự quản lý hợp lý; và – trong số nhiều chỉ trích khác – rằng các đề xuất vạch ra một khuôn khổ quản lý trí tuệ nhân tạo trong tương lai có ‘ít ý nghĩa và tác động’.

Được gọi là Demystifying Dự thảo Đạo luật Trí tuệ Nhân tạo của Liên minh Châu Âu, bản bản in trước là một sự hợp tác giữa các nhà nghiên cứu từ UCL London và Radboud University ở Nijmegen.

Bản báo cáo này bổ sung vào một loạt ý kiến tiêu cực về việc thực hiện (thay vì ý định được đánh giá cao) của một khuôn khổ quản lý trí tuệ nhân tạo, bao gồm cả việc vào tháng 4 của một trong những người đóng góp cho dự thảo quy định rằng các hướng dẫn được đề xuất là ‘làm nguội, tầm nhìn ngắn và cố ý mơ hồ’, mô tả tài liệu của Ủy ban Châu Âu là một người ủng hộ ‘đạo đức giả’.

Hệ thống Trí tuệ Nhân tạo Manipulative

Bản báo cáo mới này cho rằng các hạn chế được đề xuất của Đạo luật Trí tuệ Nhân tạo đối với ‘hệ thống manipulative’ bị hạn chế bởi một định nghĩa ‘harm’ mơ hồ và thậm chí mâu thuẫn, nhận xét rằng ‘[một người hoài nghi có thể cảm thấy rằng Ủy ban quan tâm hơn đến giá trị tuyên bố của các lệnh cấm hơn là hiệu ứng thực tế’.

Các quy định dự thảo phác thảo hai hành vi bị cấm có thể xảy ra:

(a) Việc đưa ra thị trường, đưa vào sử dụng hoặc sử dụng một hệ thống trí tuệ nhân tạo triển khai các kỹ thuật tiềm thức vượt quá nhận thức của một người để làm sai lệch đáng kể hành vi của một người theo cách gây ra hoặc có khả năng gây ra tổn hại về thể chất hoặc tâm lý cho người đó hoặc người khác;

(b) Việc đưa ra thị trường, đưa vào sử dụng hoặc sử dụng một hệ thống trí tuệ nhân tạo khai thác bất kỳ điểm yếu nào của một nhóm người cụ thể do tuổi tác, khuyết tật về thể chất hoặc tinh thần, để làm sai lệch đáng kể hành vi của một người thuộc nhóm đó theo cách gây ra hoặc có khả năng gây ra tổn hại về thể chất hoặc tâm lý cho người đó hoặc người khác;

Các nhà nghiên cứu lập luận rằng những hạn chế này không giải quyết việc liệu các dịch vụ hoặc phần mềm của nhà cung cấp trí tuệ nhân tạo có thành công trong việc thúc đẩy mục tiêu của họ hay không, mà chỉ xem xét liệu người dùng cuối có bị ‘tổn hại’ trong quá trình này hay không. Họ thêm rằng định nghĩa về tổn hại trong dự thảo bị giới hạn ở mức độ cá nhân, thay vì loại tổn hại tập thể hoặc xã hội có thể được suy đoán hợp lý từ một số vụ việc liên quan đến trí tuệ nhân tạo trong những năm gần đây, chẳng hạn như vụ bê bối Cambridge Analytica.

Bản báo cáo nhận xét rằng ‘trong đời thực, tổn hại có thể tích lũy mà không có một sự kiện đơn lẻ vượt quá ngưỡng nghiêm trọng, khiến việc chứng minh điều đó trở nên khó khăn’.

Hệ thống Trí tuệ Nhân tạo Gây hại được Cho phép, nhưng Không dành cho Tiêu dùng của Liên minh Châu Âu

Đạo luật Trí tuệ Nhân tạo đề xuất thực hiện một lệnh cấm đối với các hệ thống sinh trắc học ‘thời gian thực’ trong không gian công cộng bởi cơ quan thực thi pháp luật. Mặc dù một số hoài nghi của công chúng đã được nhắm vào các trường hợp ngoại lệ mà các đề xuất này thực hiện cho chống khủng bố, buôn bán trẻ em và việc thực hiện một lệnh bắt giữ của châu Âu, các nhà nghiên cứu lưu ý rằng không có gì có thể ngăn cản các nhà cung cấp bán các hệ thống sinh trắc học vi phạm cho các chế độ áp bức.

Bản báo cáo nhận xét rằng đây đã là một thực tế lịch sử, như được tiết lộ trong một báo cáo năm 2020 từ Tổ chức Ân xá Quốc tế.

Nó tuyên bố thêm rằng quy định của Đạo luật Trí tuệ Nhân tạo về ‘hệ thống sinh trắc học thời gian thực’ là tùy ý và loại trừ các hệ thống phân tích ngoại tuyến, chẳng hạn như xử lý sau này các cảnh quay từ các sự kiện biểu tình.

Ngoài ra, nó được lưu ý rằng các đề xuất không cung cấp cơ chế nào để hạn chế các hệ thống sinh trắc học không liên quan đến thực thi pháp luật, mà thay vào đó được chuyển sang GDPR một cách lười biếng; và rằng GDPR tự đặt ra yêu cầu về sự đồng ý chất lượng cao, cá nhân cho mỗi người được quét, điều này về cơ bản là không thể thực hiện được.

Ngôn ngữ của phần này của Đạo luật Trí tuệ Nhân tạo cũng bị các nhà nghiên cứu chỉ trích. Dự thảo quy định rằng sự ủy quyền trước sẽ được yêu cầu cho việc triển khai các hệ thống sinh trắc học cho ‘sử dụng cá nhân’ của các cơ quan có thẩm quyền – nhưng không làm rõ ‘sử dụng cá nhân’ có nghĩa là gì trong ngữ cảnh này. Bản báo cáo lưu ý rằng các lệnh truy nã có thể là ‘thematic’, và liên quan đến các tổ chức, mục đích và địa điểm rộng lớn.

Hơn nữa, dự thảo quy định không quy định một cơ chế minh bạch cho số lượng và loại ủy quyền được cấp, khiến việc giám sát của công chúng trở nên khó khăn.

Outsourcing Quản lý đến ‘Tiêu chuẩn Hóa’

Nghiên cứu cho rằng các thực thể quan trọng nhất trong Đạo luật Trí tuệ Nhân tạo thực sự không được đề cập đến trong dự thảo quy định: CEN (Ủy ban Tiêu chuẩn Hóa Châu Âu) và CENELEC (Ủy ban Tiêu chuẩn Hóa Điện Châu Âu) – hai trong số ba Tổ chức Tiêu chuẩn Hóa Châu Âu (ESO) mà Ủy ban Châu Âu có thể yêu cầu xây dựng các tiêu chuẩn hóa, sẽ là khuôn khổ quản lý quy định cho một số loại dịch vụ và triển khai trí tuệ nhân tạo.

Điều này về cơ bản có nghĩa là các nhà sản xuất trí tuệ nhân tạo có thể chọn tuân theo các tiêu chuẩn của những quy định cạnh tranh hơn là bổ sung, thay vì đáp ứng các yêu cầu thiết yếu được nêu trong Đạo luật Trí tuệ Nhân tạo. Điều này cho phép các nhà cung cấp giải thích các quy định được đề xuất một cách lỏng lẻo hơn khi chúng có hiệu lực vào năm 2024-5.

Các nhà nghiên cứu của bài báo cũng cho rằng những năm tháng vận động hành lang công nghiệp trong các tổ chức tiêu chuẩn sẽ có khả năng định nghĩa lại những ‘tiêu chuẩn thiết yếu’ này đáng kể, và đề xuất rằng ‘quy định lý tưởng’ nên bắt đầu từ một mức độ đạo đức và rõ ràng về lập pháp cao hơn, nếu chỉ để tính đến quá trình suy giảm không thể tránh khỏi này.

Chứng thực Sự sai lầm của Hệ thống Nhận dạng Cảm xúc

Đạo luật Trí tuệ Nhân tạo có quy định chống lại việc triển khai các hệ thống nhận dạng và phân loại cảm xúc – các khuôn khổ có thể không nhất thiết xác định một cá nhân, nhưng có thể tuyên bố hiểu những gì họ đang cảm thấy hoặc có thể phân loại họ theo các dấu hiệu kinh tế và xã hội khác nhau.

Các nhà nghiên cứu lập luận rằng điều khoản này là vô nghĩa, vì GDPR đã yêu cầu những người bán các hệ thống như vậy phải cung cấp cho người dùng thông tin rõ ràng về việc sử dụng các hệ thống như vậy, để người dùng có thể chọn không sử dụng (Điều này có thể liên quan đến việc không sử dụng một dịch vụ trực tuyến hoặc không vào một khu vực nơi các hệ thống như vậy được công bố).

Quan trọng hơn, bài báo cho rằng điều khoản này chứng thực một công nghệ đã bị bác bỏ, và tiếp tục mô tả các hệ thống nhận dạng cảm xúc theo phong cách FACS trong bối cảnh của lịch sử đáng hổ thẹn của việc phân loại xã hội từ thời kỳ đầu của thời đại công nghiệp.

‘Những người tuyên bố phát hiện cảm xúc sử dụng các phân loại đơn giản hóa, đáng ngờ; giả định sai về tính phổ quát trên các nền văn hóa và ngữ cảnh; và có nguy cơ ‘[đưa chúng ta trở lại quá khứ của việc phân tích các đặc điểm tính cách từ cấu trúc khuôn mặt’. Các quy định của Đạo luật về nhận dạng cảm xúc và phân loại sinh trắc học dường như không đủ để giảm thiểu các rủi ro.’

Một Đề xuất khiêm tốn Quá mức

Ngoài những điều này, các nhà nghiên cứu đã giải quyết các khiếm khuyết được nhận thức trong Đạo luật Trí tuệ Nhân tạo liên quan đến việc quản lý các bản sao giả, thiếu giám sát đối với lượng khí thải carbon của các hệ thống trí tuệ nhân tạo, sự trùng lặp của giám sát quản lý với các khuôn khổ khác và định nghĩa không đầy đủ về các thực thể pháp lý có thể bị truy tố.

Họ kêu gọi các nhà lập pháp và nhà hoạt động dân sự hành động để giải quyết các vấn đề đã được xác định, và lưu ý rằng ngay cả việc phân tích rộng rãi dự thảo quy định của họ cũng đã phải bỏ qua nhiều lĩnh vực quan tâm khác do thiếu không gian.

Dù vậy, bài báo ca ngợi nỗ lực tiên phong của Đạo luật trong việc giới thiệu một hệ thống quản lý ngang các hệ thống trí tuệ nhân tạo, trích dẫn ‘các yếu tố hợp lý’, chẳng hạn như tạo ra một hệ thống phân cấp các cấp độ đánh giá rủi ro, cam kết giới thiệu các lệnh cấm và đề xuất một cơ sở dữ liệu công khai về các hệ thống mà các nhà cung cấp cần phải đóng góp để có được tính hợp pháp của châu Âu, mặc dù lưu ý rằng yêu cầu này có khả năng gây ra các vấn đề pháp lý.