Grace Yee, Giám đốc cấp cao về Đổi mới Đạo đức (Đạo đức và Khả năng tiếp cận AI) tại Adobe – Loạt phỏng vấn

Grace Yee là Giám đốc cấp cao về Đổi mới Đạo đức (Đạo đức và Khả năng tiếp cận AI) tại Adobe, thúc đẩy công việc toàn cầu, toàn tổ chức về đạo đức và phát triển quy trình, công cụ, đào tạo và tài nguyên khác để giúp đảm bảo rằng những đổi mới AI hàng đầu của Adobe liên tục phát triển theo các giá trị cốt lõi và nguyên tắc đạo đức của Adobe. Grace thúc đẩy cam kết của Adobe trong việc xây dựng và sử dụng công nghệ một cách có trách nhiệm, tập trung vào đạo đức và hòa nhập trong tất cả công việc phát triển AI của công ty. Trong khuôn khổ công việc này, Grace giám sát Ủy ban Đạo đức AI và Hội đồng xem xét của Adobe, những người đưa ra khuyến nghị để giúp hướng dẫn các đội phát triển của Adobe và xem xét các tính năng và sản phẩm AI mới để đảm bảo chúng đáp ứng các nguyên tắc trách nhiệm, trách nhiệm và minh bạch của Adobe. Những nguyên tắc này giúp đảm bảo chúng tôi đưa các tính năng AI của mình ra thị trường trong khi giảm thiểu các kết quả có hại và thiên vị. Grace cũng làm việc với nhóm chính sách để thúc đẩy vận động giúp định hình chính sách công, luật và quy định về AI vì lợi ích của xã hội.

Trong khuôn khổ cam kết của Adobe về khả năng tiếp cận, Grace giúp đảm bảo rằng các sản phẩm của Adobe bao gồm và có thể tiếp cận được bởi tất cả người dùng, để bất kỳ ai cũng có thể tạo, tương tác và tham gia vào các trải nghiệm kỹ thuật số. Dưới sự lãnh đạo của cô, Adobe làm việc với các nhóm chính phủ, hiệp hội thương mại và cộng đồng người dùng để thúc đẩy và phát triển các chính sách và tiêu chuẩn về khả năng tiếp cận, thúc đẩy các giải pháp ngành công nghiệp có tác động.

Bạn có thể cho chúng tôi biết về hành trình của Adobe trong 5 năm qua trong việc định hình Đạo đức AI? Những cột mốc quan trọng nào đã định hình sự tiến hóa này, đặc biệt là trong bối cảnh những tiến bộ nhanh chóng như AI tạo sinh?

5 năm trước, chúng tôi đã chính thức hóa quy trình Đạo đức AI của mình bằng cách thiết lập các nguyên tắc Đạo đức AI của chúng tôi về trách nhiệm, trách nhiệm và minh bạch, những nguyên tắc này phục vụ as nền tảng cho quy trình quản trị Đạo đức AI của chúng tôi. Chúng tôi đã tập hợp một đội đa dạng, đa chức năng của nhân viên Adobe từ khắp thế giới để phát triển các nguyên tắc có thể thực thi và có thể đứng trước thử thách của thời gian.

Từ đó, chúng tôi đã phát triển một quy trình xem xét mạnh mẽ để xác định và giảm thiểu các rủi ro và thiên vị tiềm năng ngay từ đầu chu kỳ phát triển AI. Việc đánh giá nhiều phần này đã giúp chúng tôi xác định và giải quyết các tính năng và sản phẩm có thể duy trì các thiên vị và định kiến có hại.

Khi AI tạo sinh xuất hiện, chúng tôi đã điều chỉnh đánh giá Đạo đức AI của mình để giải quyết các thách thức đạo đức mới. ​Quy trình lặp lại này đã cho phép chúng tôi ở phía trước của các vấn đề tiềm năng, đảm bảo rằng các công nghệ AI của chúng tôi được phát triển và triển khai một cách có trách nhiệm. ​Cam kết của chúng tôi về việc học tập liên tục và hợp tác với các đội khác nhau trong công ty đã là rất quan trọng trong việc duy trì sự liên quan và hiệu quả của chương trình Đạo đức AI của chúng tôi, cuối cùng nâng cao trải nghiệm mà chúng tôi cung cấp cho khách hàng và thúc đẩy sự hòa nhập. ​

Làm thế nào các nguyên tắc Đạo đức AI của Adobe – trách nhiệm, trách nhiệm và minh bạch – được chuyển thành hoạt động hàng ngày? Bạn có thể chia sẻ một số ví dụ về cách các nguyên tắc này đã hướng dẫn các dự án AI của Adobe?

Chúng tôi tuân thủ các cam kết Đạo đức AI của Adobe trong các tính năng AI của mình bằng cách thực hiện các thực hành kỹ thuật mạnh mẽ để đảm bảo đổi mới có trách nhiệm, đồng thời liên tục thu thập phản hồi từ nhân viên và khách hàng của chúng tôi để cho phép điều chỉnh cần thiết.

Các tính năng AI mới phải trải qua một đánh giá đạo đức toàn diện để xác định và giảm thiểu các thiên vị và rủi ro tiềm năng. Khi chúng tôi giới thiệu Adobe Firefly, dòng sản phẩm mô hình AI tạo sinh của chúng tôi, nó đã trải qua đánh giá để giảm thiểu việc tạo ra nội dung có thể duy trì các định kiến có hại. ​Quy trình này là lặp lại và phát triển dựa trên sự hợp tác chặt chẽ với các đội sản phẩm, tích hợp phản hồi và kiến thức để duy trì sự liên quan và hiệu quả. Chúng tôi cũng tiến hành các bài tập khám phá rủi ro với các đội sản phẩm để hiểu các tác động tiềm năng và thiết kế các cơ chế kiểm tra và phản hồi phù hợp. ​

Làm thế nào Adobe giải quyết các vấn đề liên quan đến thiên vị trong AI, đặc biệt là trong các công cụ được sử dụng bởi một cơ sở người dùng đa dạng trên toàn cầu? Bạn có thể đưa ra một ví dụ về cách thiên vị được xác định và giảm thiểu trong một tính năng AI cụ thể?

Chúng tôi liên tục phát triển quy trình đánh giá và xem xét Đạo đức AI của mình trong sự hợp tác chặt chẽ với các đội sản phẩm và kỹ thuật. ​Đánh giá Đạo đức AI mà chúng tôi đã thực hiện một vài năm trước khác với đánh giá hiện tại, và tôi dự đoán sẽ có những thay đổi bổ sung trong tương lai. Cách tiếp cận lặp lại này cho phép chúng tôi tích hợp các kiến thức mới và giải quyết các vấn đề đạo đức mới nổi khi công nghệ như Firefly phát triển.

Ví dụ, khi chúng tôi thêm hỗ trợ đa ngôn ngữ cho Firefly, nhóm của tôi nhận thấy rằng nó không cung cấp đầu ra dự kiến và một số từ bị chặn không cố ý. Để giảm thiểu điều này, chúng tôi đã làm việc chặt chẽ với nhóm quốc tế hóa và người bản địa để mở rộng các mô hình của chúng tôi và bao gồm các thuật ngữ và ngữ nghĩa cụ thể của quốc gia. ​

Cam kết của chúng tôi trong việc phát triển cách tiếp cận đánh giá của mình khi công nghệ tiến bộ là điều giúp Adobe cân bằng đổi mới với trách nhiệm đạo đức. Bằng cách thúc đẩy một quy trình hòa nhập và phản hồi, chúng tôi đảm bảo rằng các công nghệ AI của chúng tôi đáp ứng các tiêu chuẩn cao nhất về minh bạch và tính toàn vẹn, cho phép các nhà sáng tạo sử dụng các công cụ của chúng tôi với sự tự tin.

Với sự tham gia của bạn trong việc định hình chính sách công, làm thế nào Adobe điều hướng sự giao thoa giữa các quy định AI đang thay đổi nhanh chóng và đổi mới? Vai trò của Adobe là gì trong việc định hình các quy định này?

Chúng tôi tích cực tham gia với các nhà hoạch định chính sách và nhóm ngành để giúp định hình chính sách cân bằng đổi mới với các xem xét đạo đức. Các cuộc thảo luận của chúng tôi với các nhà hoạch định chính sách tập trung vào cách tiếp cận của chúng tôi đối với AI và tầm quan trọng của việc phát triển công nghệ để nâng cao trải nghiệm của con người. Các nhà quản lý tìm kiếm các giải pháp thực tế để giải quyết các thách thức hiện tại và bằng cách trình bày các khuôn khổ như các nguyên tắc Đạo đức AI của chúng tôi – được phát triển hợp tác và áp dụng nhất quán trong các tính năng AI của chúng tôi – chúng tôi thúc đẩy các cuộc thảo luận hiệu quả hơn. Điều quan trọng là phải mang lại các ví dụ cụ thể đến bàn thảo luận để chứng minh cách các nguyên tắc của chúng tôi hoạt động trong thực tế và để展示 tác động thực tế, thay vì thảo luận về các khái niệm trừu tượng.

Adobe ưu tiên những xem xét đạo đức nào khi thu thập dữ liệu đào tạo, và làm thế nào để đảm bảo rằng các tập dữ liệu được sử dụng là cả đạo đức và đủ mạnh cho nhu cầu của AI?

Tại Adobe, chúng tôi ưu tiên một số xem xét đạo đức quan trọng khi thu thập dữ liệu đào tạo cho các mô hình AI của chúng tôi. ​Khi thiết kế Firefly để trở nên an toàn về mặt thương mại, chúng tôi đã đào tạo nó trên tập dữ liệu nội dung được cấp phép như Adobe Stock, và nội dung thuộc phạm vi công cộng nơi bản quyền đã hết hạn. Chúng tôi cũng tập trung vào sự đa dạng của các tập dữ liệu để tránh củng cố các thiên vị và định kiến có hại trong đầu ra của mô hình. Để đạt được điều này, chúng tôi hợp tác với các đội đa dạng và chuyên gia để xem xét và biên tập dữ liệu. Bằng cách tuân thủ các thực hành này, chúng tôi phấn đấu tạo ra các công nghệ AI không chỉ mạnh mẽ và hiệu quả mà còn đạo đức và hòa nhập cho tất cả người dùng. ​

Theo quan điểm của bạn, minh bạch trong việc truyền đạt cho người dùng cách các hệ thống AI của Adobe như Firefly được đào tạo và loại dữ liệu nào được sử dụng là quan trọng như thế nào?

Minh bạch là rất quan trọng khi nói đến việc truyền đạt cho người dùng cách các tính năng AI tạo sinh của Adobe như Firefly được đào tạo, bao gồm cả loại dữ liệu được sử dụng. Nó xây dựng niềm tin và sự tự tin vào các công nghệ của chúng tôi bằng cách đảm bảo người dùng hiểu các quy trình đằng sau sự phát triển AI tạo sinh của chúng tôi. Bằng cách cởi mở về các nguồn dữ liệu, phương pháp đào tạo và các biện pháp an toàn đạo đức mà chúng tôi đã thiết lập, chúng tôi trao quyền cho người dùng đưa ra quyết định thông minh về cách họ tương tác với các sản phẩm của chúng tôi. Sự minh bạch này không chỉ phù hợp với các nguyên tắc Đạo đức AI cốt lõi của chúng tôi mà còn thúc đẩy mối quan hệ hợp tác với người dùng.

Khi AI tiếp tục mở rộng quy mô, đặc biệt là AI tạo sinh, bạn nghĩ những thách thức đạo đức nào sẽ là quan trọng nhất mà các công ty như Adobe sẽ phải đối mặt trong tương lai gần?

Tôi tin rằng những thách thức đạo đức quan trọng nhất đối với các công ty như Adobe là giảm thiểu các thiên vị có hại, đảm bảo hòa nhập và duy trì niềm tin của người dùng. ​Khả năng AI vô tình duy trì các định kiến hoặc tạo ra nội dung có hại và sai lệch là một mối quan tâm đòi hỏi sự cảnh giác và cảnh báo liên tục. Ví dụ, với những tiến bộ gần đây trong AI tạo sinh, giờ đây dễ dàng hơn bao giờ hết cho “các tác nhân xấu” tạo ra nội dung lừa đảo, lan truyền thông tin sai lệch và thao túng dư luận, làm suy yếu niềm tin và minh bạch.

Để giải quyết vấn đề này, Adobe đã thành lập Sáng kiến Xác thực Nội dung (CAI) vào năm 2019 để xây dựng một hệ sinh thái kỹ thuật số đáng tin cậy và minh bạch hơn cho người tiêu dùng. CAI triển khai giải pháp của chúng tôi để xây dựng niềm tin trực tuyến – được gọi là Chứng chỉ Nội dung. Chứng chỉ Nội dung bao gồm “thành phần” hoặc thông tin quan trọng như tên người tạo, ngày tạo hình ảnh, công cụ được sử dụng để tạo hình ảnh và bất kỳ chỉnh sửa nào được thực hiện trên đường đi. Điều này trao quyền cho người dùng tạo ra một chuỗi niềm tin và xác thực kỹ thuật số.

Khi AI tạo sinh tiếp tục mở rộng quy mô, nó sẽ càng quan trọng hơn để thúc đẩy việc áp dụng rộng rãi Chứng chỉ Nội dung để khôi phục niềm tin vào nội dung kỹ thuật số.

Điều gì bạn khuyên các tổ chức khác đang bắt đầu suy nghĩ về các khuôn khổ đạo đức cho phát triển AI?

Lời khuyên của tôi sẽ là bắt đầu bằng cách thiết lập các nguyên tắc rõ ràng, đơn giản và thực tế có thể hướng dẫn nỗ lực của họ. Thường tôi thấy các công ty hoặc tổ chức tập trung vào những gì trông đẹp trong lý thuyết, nhưng các nguyên tắc của họ không thực tế. Lý do tại sao các nguyên tắc của chúng tôi đã đứng trước thử thách của thời gian là vì chúng tôi thiết kế chúng để có thể thực thi. Khi chúng tôi đánh giá các tính năng AI của mình, các đội sản phẩm và kỹ thuật của chúng tôi biết chúng tôi đang tìm kiếm gì và những tiêu chuẩn nào chúng tôi mong đợi từ họ.

Tôi cũng khuyên các tổ chức nên tham gia vào quá trình này với nhận thức rằng nó sẽ là lặp lại. Tôi có thể không biết Adobe sẽ phát minh ra điều gì trong 5 hoặc 10 năm, nhưng tôi biết rằng chúng tôi sẽ phát triển đánh giá của mình để đáp ứng những đổi mới và phản hồi mà chúng tôi nhận được.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm có thể truy cập Adobe.