Andrew Pery, Người truyền bá Đạo đức, ABBYY – Chuỗi phỏng vấn

Andrew Pery, là Người truyền bá Đạo đức tại ABBYY, một công ty trí tuệ số. Họ trao quyền cho các tổ chức để tiếp cận thông tin quý giá, nhưng thường khó đạt được, về hoạt động của họ, điều này cho phép chuyển đổi kinh doanh thực sự.

ABBYY gần đây đã ra mắt một Sáng kiến Toàn cầu về Phát triển Trí tuệ Nhân tạo Tin cậy. Chúng tôi quyết định hỏi Andrew các câu hỏi về đạo đức trong AI, lạm dụng AI và những gì ngành công nghiệp AI có thể làm về những lo ngại này trong tương lai.

Điều gì đã kích thích sự quan tâm của bạn đến đạo đức AI?

Điều gì đã kích thích sự quan tâm của tôi đến đạo đức AI là một sự quan tâm sâu sắc đến sự giao thoa giữa luật pháp và công nghệ AI. Tôi bắt đầu sự nghiệp của mình trong hệ thống tư pháp hình sự, đại diện cho các bị cáo không có đủ khả năng tài chính để chi trả cho dịch vụ pháp lý. Sau đó, tôi chuyển sang công nghệ, tập trung vào ứng dụng tìm kiếm tiên tiến và AI trong thực hành luật. Là một chuyên gia bảo mật dữ liệu chứng nhận, tôi đặc biệt đam mê luật bảo mật và sử dụng đúng công nghệ AI phù hợp với và nâng cao quyền bảo mật.

Công nghệ nhận dạng khuôn mặt thường bị lạm dụng bởi các nguồn quyền lực, bao gồm cả chính phủ Mỹ. Điều này nên là một mối quan tâm xã hội lớn đến mức nào?

Ảnh hưởng của công nghệ nhận dạng khuôn mặt nên là một mối quan tâm xã hội lớn vì công nghệ này có thể ảnh hưởng đến nhiều quyền cơ bản, bao gồm quyền kinh tế, xã hội và an ninh.

Có bằng chứng rõ ràng và thuyết phục rằng các thuật toán nhận dạng khuôn mặt không đáng tin cậy. Một nghiên cứu của NIST về các thuật toán nhận dạng khuôn mặt cho thấy người Mỹ gốc Phi có thể bị nhầm lẫn tới 100 lần so với người da trắng. Một nghiên cứu tương tự của Trường Luật Georgetown cho thấy các thuật toán nhận dạng khuôn mặt dựa trên ảnh chụp tội phạm tạo ra tỷ lệ cao các kết quả dương tính giả liên quan đến các cá nhân người Mỹ gốc Phi, và một nghiên cứu năm 2018 của MIT về Phần mềm Nhận dạng Khuôn mặt của Amazon (AMZN ) cho thấy trong khi người da trắng được xác định chính xác 99% thời gian, các cá nhân có làn da sẫm màu tạo ra tới 35% kết quả dương tính giả.

Do những lý do này, các nhà quản lý đang bắt đầu thực hiện các bước để cấm sử dụng công nghệ nhận dạng khuôn mặt, đặc biệt là trong bối cảnh giám sát và lập hồ sơ. Ví dụ, Thượng viện California đã thông qua một lệnh cấm toàn bang về việc sử dụng công nghệ nhận dạng khuôn mặt và các phương pháp giám sát sinh trắc học khác.

Cũng có động lực trong cộng đồng công nghệ để từ bỏ việc bán phần mềm nhận dạng khuôn mặt. IBM đã tuyên bố rằng họ sẽ ngừng bán phần mềm nhận dạng khuôn mặt, viện dẫn rằng nó vi phạm các quyền cơ bản của con người và các quyền tự do cơ bản. Microsoft (MSFT ) cũng tuyên bố một quyết định tương tự để ngừng bán công nghệ nhận dạng khuôn mặt, cũng viện dẫn các quyền cơ bản của con người.

Phần mềm COMPAS, đã được sử dụng bởi các tòa án Mỹ để đánh giá rủi ro tội phạm, đã nhầm lẫn các tội phạm thuộc nhóm thiểu số có thể tái phạm hơn so với tội phạm da trắng. Biết điều này, việc sử dụng AI trong các tòa án có nên là một lựa chọn?

Các nghiên cứu về COMPAS cho thấy nó không tốt hơn trong việc dự đoán tội phạm so với những người ngẫu nhiên. Trong khi phân tích dự đoán mang lại giá trị đáng kể trong bối cảnh thương mại, nó đã được chứng minh là dẫn đến sự bất công trong ứng dụng của nó trong hệ thống tư pháp hình sự. Điều này rõ ràng trong một báo cáo được xuất bản bởi Pro Publica, cho thấy COMPAS, phần mềm phổ biến nhất được sử dụng bởi các tòa án Mỹ để đánh giá rủi ro tội phạm, đã nhầm lẫn các tội phạm thuộc nhóm thiểu số có thể tái phạm với tỷ lệ gấp đôi so với tội phạm da trắng.

Các bất công này đã khiến cựu Tổng chưởng lý Eric Holder đặt câu hỏi về sự công bằng và thể hiện mối quan ngại về các bất công tiềm ẩn được đặt ra bởi việc áp dụng công nghệ AI để dự đoán tỷ lệ tái phạm trong dân số phạm nhân.

Làm thế nào xã hội có thể tránh vô tình lập trình các thiên vị tiêu cực vào các hệ thống AI?

Trước hết, phải có sự thừa nhận rằng AI có thể có khả năng tạo ra thiên vị vô tình, còn được gọi là thiên vị vô thức. Để giảm thiểu tác động tiêu cực của nó, cần có một cách tiếp cận toàn diện bao gồm việc phát triển các hướng dẫn đạo đức cho AI, chẳng hạn như được đề xuất bởi Khung đạo đức của OECD. Điều này dựa trên bảy nguyên tắc cơ bản, bao gồm quyền tự chủ của con người và giám sát, sự mạnh mẽ về mặt kỹ thuật và an toàn, bảo mật và quản trị, minh bạch, đa dạng và không phân biệt đối xử, lợi ích xã hội và trách nhiệm.

Thứ hai, tuân thủ các khuôn khổ pháp lý để bảo vệ chống lại việc lập hồ sơ tự động là rất quan trọng. Ví dụ, Liên minh Châu Âu đã có một lịch sử lâu dài về việc tôn trọng và bảo vệ quyền bảo mật, với biểu hiện gần đây và mạnh mẽ nhất là Quy định Bảo vệ Dữ liệu Chung (GDPR), điều này đặc biệt bảo vệ chống lại quyết định tự động.

Thứ ba, cần có trách nhiệm giải trình trong ngành công nghiệp về cách công nghệ AI được phát triển và cam kết cung cấp minh bạch mà không ảnh hưởng đến quyền sở hữu trí tuệ. Có những phát triển tích cực ở đây. Ví dụ, Đối tác về AI là một tổ chức có hơn 80 thành viên ở 13 quốc gia, chuyên nghiên cứu và thảo luận về các vấn đề AI quan trọng.

Cuối cùng, các tổ chức công nghệ nên cam kết thực hiện đánh giá tác động thiên vị trước khi phát hành thương mại các thuật toán AI, đặc biệt là khi các ứng dụng của chúng ảnh hưởng đến quyền bảo mật và an ninh. Các câu hỏi mà các nhà lãnh đạo công nghệ nên xem xét trước khi phát hành các ứng dụng AI mới bao gồm: Dữ liệu mà công nghệ này được đào tạo có đủ đa dạng không? Làm thế nào để phát hiện thiên vị? Nó được thử nghiệm như thế nào và bởi ai? Những gì là động lực của nhà phát triển? Ai sẽ lợi ích thương mại từ nó?

Nó rất quan trọng để nhớ rằng các giải pháp AI phản ánh dữ liệu cơ bản mà các ứng dụng này được đào tạo, vì vậy đảm bảo rằng dữ liệu này không bị thiên vị và phản ánh đúng sự đa dạng của các bên liên quan mà giải pháp sẽ phục vụ là rất quan trọng. Trong lời của nhà nghiên cứu AI, Giáo sư Joanna Bryson, “nếu dữ liệu cơ bản phản ánh các khuôn mẫu, hoặc nếu bạn đào tạo AI từ văn hóa con người, bạn sẽ tìm thấy thiên vị. Và nếu chúng ta không cẩn thận, chúng ta có nguy cơ tích hợp thiên vị đó vào các chương trình máy tính đang nhanh chóng tiếp quản việc vận hành mọi thứ, từ bệnh viện đến trường học đến nhà tù – các chương trình được cho là sẽ loại bỏ những thiên vị đó.

ABBYY gần đây đã ra mắt một Sáng kiến Toàn cầu về Phát triển Trí tuệ Nhân tạo Tin cậy. Điều này quan trọng như thế nào đối với tương lai của ABBYY?

Quyết định phát triển sáng kiến toàn cầu của chúng tôi về AI đáng tin cậy là một quyết định quan trọng được thúc đẩy bởi niềm tin của chúng tôi rằng với tư cách là một tổ chức mà công nghệ của chúng tôi ảnh hưởng đến các doanh nghiệp trên toàn thế giới và phục vụ hàng chục nghìn người dùng cá nhân, chúng tôi có nghĩa vụ phải là những công dân doanh nghiệp tốt với lương tâm xã hội. Không chỉ điều này giúp tạo ra sự tin tưởng lớn hơn từ khách hàng và đối tác toàn cầu của chúng tôi, mà nó cũng giúp đảm bảo rằng công nghệ của chúng tôi sẽ tiếp tục có tác động sâu sắc theo cách mang lại lợi ích cho lợi ích chung.

Nó cũng mang lại ý nghĩa kinh doanh để thúc đẩy và hỗ trợ việc sử dụng AI đáng tin cậy. Nó củng cố giá trị thương hiệu của chúng tôi, tạo ra sự tin tưởng với hệ thống khách hàng và đối tác toàn cầu của chúng tôi. Sự tin tưởng chuyển thành doanh thu lặp lại và tăng trưởng bền vững.

Phần của sáng kiến này là ABBYY cam kết xây dựng một văn hóa thúc đẩy việc sử dụng AI một cách đạo đức và lợi ích xã hội. Những gì cần được thực hiện để các công ty khác xây dựng một văn hóa tương tự?

Các công ty công nghệ cần xây dựng một khuôn khổ cho việc sử dụng AI một cách đạo đức. Mức độ cam kết này phụ thuộc vào các ứng dụng dự kiến của các thuật toán AI. Cách tốt nhất để đánh giá tác động của nó là áp dụng nguyên tắc không gây hại và có cam kết từ trên xuống về việc sử dụng AI đáng tin cậy.

Không kém phần quan trọng là cam kết về minh bạch. Trong khi quyền sở hữu trí tuệ nên được cân bằng với nguyên tắc AI đáng tin cậy, tầm quan trọng của minh bạch và trách nhiệm giải trình trong việc sử dụng AI nên được thể hiện rõ ràng và truyền đạt trong toàn tổ chức.

Một trong những sáng kiến mà ABBYY đã cam kết là cung cấp các công nghệ AI mang lại lợi ích xã hội và kinh tế. Điều này có thể là một sự cân bằng khó đạt được. Làm thế nào các công ty có thể thực hiện điều này một cách tốt nhất?

Các nhà lãnh đạo có thể đạt được sự cân bằng này bằng cách xem xét các khuyến nghị được đề xuất bởi Deloitte: Thiết kế đạo đức vào AI bắt đầu bằng việc xác định những gì quan trọng đối với các bên liên quan như khách hàng, nhân viên, nhà quản lý và công chúng. Các công ty nên thiết lập một ủy ban tư vấn và quản trị AI chuyên dụng từ các nhà lãnh đạo chức năng chéo và các cố vấn bên ngoài sẽ tham gia với các nhóm làm việc đa bên liên quan và thiết lập và giám sát quản trị của các giải pháp được kích hoạt bởi AI, bao gồm thiết kế, phát triển, triển khai và sử dụng.

Làm thế nào chúng tôi cân bằng lợi ích thương mại và lợi ích xã hội đã được minh họa gần đây nhất trong đại dịch Coronavirus. Chúng tôi đã cung cấp nhiều công nghệ của mình miễn phí hoặc với giá giảm để giúp các cá nhân và tổ chức điều hướng khủng hoảng, duy trì tính liên tục kinh doanh và hỗ trợ khách hàng trong hoàn cảnh khó dự đoán.

Chúng tôi cũng gần đây đã cung cấp các khuôn khổ công nghệ của mình thông qua NeoML, thư viện học máy nguồn mở đa nền tảng của chúng tôi, cho phép các nhà phát triển phần mềm tận dụng các mô hình đáng tin cậy và đã được chứng minh để thúc đẩy đổi mới AI.

Bạn có thể chia sẻ quan điểm về việc sử dụng AI cho các ứng dụng COVID-19 để theo dõi liên lạc và nhu cầu cân bằng quyền riêng tư?

Đây là một vấn đề đặc biệt khó khăn. Có những người cho rằng việc triển khai các ứng dụng theo dõi di động đại diện cho một sự xâm phạm không mong muốn đối với quyền riêng tư. Mặt khác, khi nói đến an toàn công cộng, luôn có những hạn chế về quyền nói chung. Đó là một sự đánh đổi giữa quyền và trách nhiệm. Tuy nhiên, quyền không phải là tuyệt đối. Việc kiểm soát đại dịch toàn cầu đòi hỏi phải có hành động và ứng dụng phối hợp của các nguồn lực và công nghệ có thể được sử dụng một cách có trách nhiệm để bảo vệ dân số nói chung.

Sự cân bằng giữa quyền riêng tư cá nhân và lợi ích chung được công nhận trong một khuôn khổ pháp lý. Ví dụ, GDPR xác định sáu cơ sở cho việc xử lý thông tin cá nhân hợp pháp, bao gồm một điều khoản cho rằng khi xử lý là điều cần thiết cho lợi ích công cộng, việc xử lý thông tin cá nhân đó được bảo đảm mà không cần sự đồng ý của chủ thể dữ liệu.

Hơn nữa, Đoạn 46 của GDPR quy định rõ ràng rằng việc xử lý thông tin cá nhân được bảo đảm mà không cần sự đồng ý của chủ thể dữ liệu trong các trường hợp khẩn cấp nhân đạo, bao gồm cả dịch bệnh. Tuy nhiên, điều quan trọng cần lưu ý là Đoạn 46 giải thích việc áp dụng điều khoản lợi ích công cộng rất hẹp, lưu ý rằng nó chỉ nên xảy ra khi nó không thể dựa trên một cơ sở pháp lý khác.

Ngoài việc cân bằng giữa quyền riêng tư và lợi ích công cộng, cũng rất quan trọng đối với ngành công nghệ và các nhà hoạch định chính sách để thực hiện các hướng dẫn đạo đức, minh bạch và công bằng liên quan đến việc sử dụng hồ sơ AI và chia sẻ thông tin sức khỏe nhạy cảm. Các công ty công nghệ lớn như Google (GOOGL ) và Facebook (META ) đã bắt đầu các sáng kiến để theo dõi chuyển động của người dùng để xác định cách virus đang lan truyền và đánh giá hiệu quả của các biện pháp giãn cách xã hội.

Tôi tin rằng miễn là thông tin được ẩn danh, việc sử dụng nó có lợi ích xã hội.

Có điều gì khác mà bạn muốn chia sẻ về Sáng kiến Toàn cầu mới của ABBYY về Phát triển Trí tuệ Nhân tạo Tin cậy?

Quy định thường chậm hơn so với đổi mới công nghệ, do đó, các công ty cần phải chủ động trong việc thúc đẩy minh bạch và trách nhiệm giải trình với các công nghệ AI và cách chúng ảnh hưởng đến quyền bảo mật và an ninh. Sáng kiến của chúng tôi phản ánh cam kết của chúng tôi trong nỗ lực này. Từ khi thành lập, chúng tôi đã tạo ra các công nghệ đổi mới giúp bảo tồn thông tin quý giá và biến nó thành kiến thức có thể hành động.

Hơn nữa, việc sử dụng đạo đức các công nghệ AI không chỉ nên được xem xét trên cơ sở pháp lý mà còn là một nghĩa vụ đạo đức và một điều cấp bách kinh doanh. Nếu các giải pháp của bạn có phạm vi ảnh hưởng rộng lớn và ảnh hưởng đến các chức năng kinh doanh quan trọng, nó nên là một tiêu chuẩn ngành để minh bạch trong việc áp dụng các công nghệ AI.

Cảm ơn bạn rất nhiều vì đã trả lời những câu hỏi quan trọng này. Để xem các nguyên tắc và cách tiếp cận của ABBYY về việc tuân thủ và thúc đẩy các nguyên tắc AI đáng tin cậy, vui lòng nhấn vào đây. Bất kỳ ai muốn tìm hiểu thêm về ABBYY nói chung có thể truy cập trang web của ABBYY.