Bradford Newman, Chủ tịch Thực hành Bí mật Thương mại Bắc Mỹ – Loạt Phỏng vấn

Bradford chuyên về các vấn đề liên quan đến bí mật thương mại và Trí tuệ nhân tạo. Ông là Chủ tịch của Tiểu ban Trí tuệ nhân tạo của ABA. Được tạp chí Daily Journal (DJCO ) công nhận vào năm 2019 là một trong 20 luật sư Trí tuệ nhân tạo hàng đầu tại California, Bradford đã đóng vai trò quan trọng trong việc đề xuất luật liên bang về nơi làm việc và sở hữu trí tuệ Trí tuệ nhân tạo, vào năm 2018 đã được chuyển thành một dự thảo thảo luận của Hạ viện Hoa Kỳ. Ông cũng đã phát triển các phương pháp hay nhất về giám sát và quản trị doanh nghiệp Trí tuệ nhân tạo nhằm đảm bảo công bằng thuật toán.

Điều gì đã kích thích sự quan tâm của bạn đến trí tuệ nhân tạo?

Tôi đã đại diện cho các nhà đổi mới và sản xuất hàng đầu thế giới về sản phẩm và công nghệ Trí tuệ nhân tạo trong nhiều năm. Sự quan tâm của tôi luôn là đi sau hậu trường và hiểu các khía cạnh pháp lý và kỹ thuật của học máy, và theo dõi Trí tuệ nhân tạo phát triển. Tôi bị thu hút bởi những gì có thể áp dụng trong các lĩnh vực khác nhau.

Bạn là một người ủng hộ mạnh mẽ cho việc quản lý hợp lý Trí tuệ nhân tạo, đặc biệt là trong việc bảo vệ sức khỏe cộng đồng, bạn có thể thảo luận về một số mối quan tâm lớn của bạn?

Tôi tin rằng chúng ta đang ở giai đoạn đầu của một trong những cuộc cách mạng sâu sắc nhất mà loài người đã trải qua. Trí tuệ nhân tạo có tiềm năng ảnh hưởng đến mọi khía cạnh của cuộc sống chúng ta, từ giấc phút chúng ta thức dậy vào buổi sáng đến giấc phút chúng ta đi ngủ — và cũng trong khi chúng ta đang ngủ. Nhiều ứng dụng của Trí tuệ nhân tạo sẽ tích cực ảnh hưởng đến chất lượng cuộc sống của chúng ta, và có thể là tuổi thọ của chúng ta như một loài.

Hiện tại, từ góc độ khoa học máy tính và học máy, con người vẫn rất tham gia vào quá trình, từ mã hóa các thuật toán, đến hiểu các tập dữ liệu đào tạo, đến xử lý kết quả, nhận ra những điểm yếu và sản phẩm hóa công nghệ.

Tuy nhiên, chúng ta đang trong một cuộc đua chống lại thời gian trên hai mặt trận chính. Thứ nhất, vấn đề “hộp đen” thường được đề cập: sự tham gia và hiểu biết của con người về Trí tuệ nhân tạo sẽ giảm theo thời gian khi sự tinh vi của Trí tuệ nhân tạo (như mạng nơ-ron nhân tạo) phát triển. Và thứ hai, việc sử dụng Trí tuệ nhân tạo bởi các chính phủ và lợi ích tư nhân sẽ tăng lên.

Mối quan tâm của tôi là Trí tuệ nhân tạo sẽ được sử dụng, cả cố ý và vô ý, theo những cách trái với các lý tưởng dân chủ Tây phương về tự do và tự do cá nhân.

Làm thế nào chúng ta giải quyết những mối quan tâm này?

Đ xã hội đang ở điểm mà chúng ta phải giải quyết không phải là những gì có thể với Trí tuệ nhân tạo, mà là những gì nên bị cấm hoặc hạn chế một phần.

Trước hết, chúng ta phải xác định rõ ràng các quyết định không bao giờ có thể được thực hiện toàn bộ hoặc một phần bởi đầu ra thuật toán được tạo ra bởi Trí tuệ nhân tạo. Điều này có nghĩa là ngay cả trong những tình huống mà mọi chuyên gia đều đồng ý rằng dữ liệu vào và ra là hoàn toàn không thiên vị, minh bạch và chính xác, vẫn phải có một lệnh cấm pháp lý về việc sử dụng nó cho bất kỳ loại quyết định dự đoán hoặc quyết định thực chất nào.

Đúng là điều này trái ngược với trực giác trong một thế giới mà chúng ta khao khát sự chắc chắn toán học, nhưng việc thiết lập một “vùng cấm bay” cho Trí tuệ nhân tạo là thiết yếu để bảo tồn những tự do mà chúng ta tất cả đều quý trọng và phục vụ như nền tảng cho xã hội của chúng ta.

Thứ hai, đối với các quyết định khác dựa trên phân tích Trí tuệ nhân tạo mà không bị cấm hoàn toàn, chúng ta cần có luật định rõ ràng những quyết định nào cần có sự tham gia của con người trong quá trình ra quyết định.

Bạn đã đóng vai trò quan trọng trong việc đề xuất luật liên bang về nơi làm việc và sở hữu trí tuệ Trí tuệ nhân tạo, vào năm 2018 đã được chuyển thành một dự thảo thảo luận của Hạ viện Hoa Kỳ. Bạn có thể thảo luận về một số đề xuất này?

Đạo luật Bảo vệ Dữ liệu Trí tuệ nhân tạo nhằm mục đích thúc đẩy sự đổi mới và được thiết kế để (1) tăng cường minh bạch trong bản chất và sử dụng Trí tuệ nhân tạo; (2) giải quyết tác động của Trí tuệ nhân tạo đối với thị trường lao động và (3) bảo vệ sức khỏe và an toàn cộng đồng.

Nó có một số thành phần chính. Ví dụ, nó cấm các công ty được bảo hiểm chỉ dựa vào Trí tuệ nhân tạo để đưa ra một số quyết định, bao gồm quyết định về việc làm của các cá nhân hoặc từ chối hoặc hạn chế điều trị y tế, và cũng cấm các nhà phát hành bảo hiểm y tế đưa ra quyết định về phạm vi bảo hiểm dựa hoàn toàn vào phân tích Trí tuệ nhân tạo. Nó cũng thành lập Hội đồng Trí tuệ nhân tạo — một cơ quan liên bang mới được giao nhiệm vụ quản lý Trí tuệ nhân tạo liên quan đến sức khỏe và an toàn cộng đồng. Và nó yêu cầu các thực thể được bảo hiểm phải bổ nhiệm một Giám đốc Trí tuệ nhân tạo.

Bạn cũng đã phát triển các phương pháp hay nhất về giám sát và quản trị doanh nghiệp Trí tuệ nhân tạo nhằm đảm bảo công bằng thuật toán. Bạn có thể thảo luận về một số vấn đề hiện tại mà bạn thấy với công bằng hoặc thiên vị trong hệ thống Trí tuệ nhân tạo?

Chủ đề này đã được tập trung nghiên cứu bởi các học giả và hiện đang nhận được sự quan tâm của các cơ quan chính phủ Hoa Kỳ, như Ủy ban Cơ hội Việc làm Bình đẳng (EEOC), và các luật sư khởi kiện. Hầu hết thời gian, nguyên nhân của thiên vị là do sai sót trong các tập dữ liệu đào tạo hoặc thiếu hiểu biết và minh bạch trong môi trường kiểm tra. Điều này được khuếch đại bởi sự thiếu sở hữu và giám sát trung tâm của Trí tuệ nhân tạo bởi quản lý cấp cao.

Thiếu hiểu biết kỹ thuật và nhận thức tình huống này là một vấn đề trách nhiệm đáng kể. Tôi đã nói chuyện với một số luật sư khởi kiện nổi tiếng đang tìm kiếm các vụ việc thiên vị Trí tuệ nhân tạo.

Học sâu thường gặp phải vấn đề “hộp đen” khi chúng ta nhập dữ liệu vào Mạng nơ-ron nhân tạo (ANN), và sau đó chúng ta nhận được đầu ra, mà không có cách nào biết được đầu ra đó được tạo ra như thế nào. Bạn có nghĩ rằng đây là một vấn đề lớn?

Tôi nghĩ vậy. Và khi các thuật toán và mạng nơ-ron tiếp tục phát triển, và con người ngày càng không “trong vòng lặp”, có một rủi ro thực sự khi chúng ta sẽ không còn hiểu được các yếu tố quan trọng của chức năng và đầu ra.

Với COVID-19, các quốc gia trên toàn thế giới đã giới thiệu hệ thống giám sát nhà nước dựa trên Trí tuệ nhân tạo. Bạn có vấn đề gì với việc lạm dụng khả năng giám sát này?

Nó là ngây thơ, và thực sự, không có trách nhiệm từ góc độ quyền và tự do cá nhân, để bỏ qua hoặc giảm thiểu rủi ro lạm dụng. Trong khi việc theo dõi liên lạc có vẻ hợp lý trong thời kỳ đại dịch toàn cầu, và việc nhận dạng khuôn mặt dựa trên Trí tuệ nhân tạo cung cấp một biện pháp hiệu quả để thực hiện những gì con người không thể làm một mình, xã hội phải thiết lập các lệnh cấm pháp lý về việc lạm dụng cùng với các cơ chế giám sát và thực thi hiệu quả. Nếu không, chúng ta sẽ giao cho nhà nước một yếu tố cơ bản của quyền và tự do cá nhân của chúng ta. Một khi đã trao đi một cách toàn diện, yếu tố cơ bản này của tự do và quyền riêng tư của chúng ta sẽ không được trả lại.

Bạn trước đó đã tuyên bố rằng “Chúng ta phải thiết lập một ‘vùng cấm bay’ cho Trí tuệ nhân tạo nếu chúng ta muốn bảo tồn những tự do mà người Mỹ tất cả đều quý trọng và phục vụ như nền tảng cho xã hội của chúng ta.” Bạn có thể chia sẻ một số mối quan tâm mà bạn có?

Khi thảo luận về Trí tuệ nhân tạo, chúng ta phải luôn tập trung vào mục đích thiết yếu của Trí tuệ nhân tạo: sản xuất phân tích dự đoán chính xác từ các tập dữ liệu rất lớn, sau đó được sử dụng để phân loại con người và đưa ra quyết định. Tiếp theo, chúng ta phải kiểm tra những người ra quyết định là ai, họ quyết định gì, và họ dựa vào những gì để đưa ra quyết định.

Nếu chúng ta hiểu rằng những người ra quyết định là những người có tác động lớn nhất đến sức khỏe, sinh kế và tự do của chúng ta — các nhà tuyển dụng, chủ nhà, bác sĩ, người bảo hiểm, thực thi pháp luật và mọi doanh nghiệp tư nhân và chính phủ khác có thể tạo ra, thu thập hoặc mua phân tích Trí tuệ nhân tạo — thì sẽ dễ dàng thấy rằng trong một nền dân chủ tự do Tây phương, trái ngược với một chế độ độc tài, có những quyết định không nên và không được để lại hoàn toàn cho Trí tuệ nhân tạo.

Mặc dù nhiều quyết định rõ ràng đến tâm trí, như cấm giam giữ một người trước khi họ phạm tội, việc áp dụng Trí tuệ nhân tạo rộng rãi vào mọi khía cạnh của cuộc sống chúng ta đưa ra nhiều trường hợp khó khăn hơn của các vấn đề đạo đức. Ví dụ, nếu một thuật toán dự đoán chính xác rằng những người lao động đăng ảnh trên mạng xã hội về kỳ nghỉ biển nơi họ uống rượu sẽ bỏ việc hoặc bị sa thải sớm hơn trung bình 3,5 năm so với những người đăng ảnh về việc tập thể dục, thì liệu những người thuộc loại trước nên bị từ chối thăng tiến hoặc tăng lương dựa hoàn toàn vào đầu ra thuật toán? Nếu một thuật toán xác định rằng những thiếu niên chơi trò chơi điện tử hơn 2 giờ mỗi ngày có khả năng tốt nghiệp từ một trường đại học bốn năm thấp hơn, thì những học sinh như vậy có nên bị từ chối nhập học? Nếu phụ nữ châu Á ở tuổi 60 nhập viện vì các triệu chứng liên quan đến COVID-19 được xác định có tỷ lệ sống sót cao hơn so với nam giới da đen ở tuổi 70, thì phụ nữ có nên nhận được điều trị y tế ưu tiên?

Các ví dụ được đơn giản hóa này chỉ là một số trong nhiều quyết định mà việc dựa vào Trí tuệ nhân tạo một mình mâu thuẫn với quan điểm của chúng ta về những gì quyền con người cá nhân đòi hỏi.

Có gì khác mà bạn muốn chia sẻ về Trí tuệ nhân tạo hoặc Baker McKenzie?

Tôi rất hào hứng được giúp dẫn dắt thực hành Trí tuệ nhân tạo quốc tế真正 của Baker McKenzie trong bối cảnh đang thay đổi. Chúng tôi nhận ra rằng khách hàng của chúng tôi đang khao khát hướng dẫn về mọi thứ liên quan đến Trí tuệ nhân tạo, từ việc đàm phán hợp đồng, thiết lập giám sát nội bộ, tránh các khiếu nại về thiên vị, đến hiểu khuôn khổ pháp lý mới nổi trong nước và quốc tế.

Các công ty muốn làm điều đúng đắn, nhưng có rất ít công ty luật có chuyên môn và hiểu biết cần thiết về Trí tuệ nhân tạo và học máy để có thể giúp họ. Đối với những người chúng ta là cả “người nghiện Trí tuệ nhân tạo” và luật sư, đây là một thời điểm thú vị để thêm giá trị thực sự cho khách hàng của chúng ta.

Cảm ơn vì những câu trả lời tuyệt vời về một số mối quan tâm xã hội lớn liên quan đến Trí tuệ nhân tạo. Người đọc muốn tìm hiểu thêm về Bradford Newman có thể nhấn vào đây.