Grace Yee, Diretora Sênior de Inovação Ética (Ética e Acessibilidade de IA) da Adobe – Série de Entrevistas

Grace Yee é a Diretora Sênior de Inovação Ética (Ética e Acessibilidade de IA) da Adobe, impulsionando trabalhos globais e organizacionais em torno da ética e desenvolvendo processos, ferramentas, treinamentos e outros recursos para ajudar a garantir que as inovações de IA líderes do setor da Adobe continuem a evoluir em linha com os valores e princípios éticos centrais da Adobe. Grace avança o compromisso da Adobe em construir e usar tecnologia de forma responsável, centralizando a ética e a inclusividade em todo o trabalho da empresa no desenvolvimento de IA. Como parte desse trabalho, Grace supervisiona o Comitê de Ética de IA e o Conselho de Revisão da Adobe, que faz recomendações para ajudar a orientar as equipes de desenvolvimento da Adobe e revisa novos recursos e produtos de IA para garantir que atendam aos princípios de responsabilidade, accountability e transparência da Adobe. Esses princípios ajudam a garantir que tragamos nossos recursos de IA para o mercado enquanto mitigamos resultados prejudiciais e enviesados. Grace também trabalha com a equipe de política para impulsionar a defesa, ajudando a moldar políticas públicas, leis e regulamentos em torno da IA para o benefício da sociedade.

Como parte do compromisso da Adobe com a acessibilidade, Grace ajuda a garantir que os produtos da Adobe sejam inclusivos e acessíveis a todos os usuários, para que qualquer pessoa possa criar, interagir e se envolver com experiências digitais. Sob sua liderança, a Adobe trabalha com grupos governamentais, associações comerciais e comunidades de usuários para promover e avançar políticas e padrões de acessibilidade, impulsionando soluções de impacto da indústria.

Podemos falar sobre a jornada da Adobe nos últimos cinco anos em moldar a Ética de IA? Quais são os principais marcos que definiram essa evolução, especialmente diante dos avanços rápidos como a IA geradora?

Há cinco anos, formalizamos nosso processo de Ética de IA, estabelecendo nossos princípios de Ética de IA de responsabilidade, accountability e transparência, que servem como a base para nosso processo de governança de Ética de IA. Reunimos uma equipe diversificada e multifuncional de funcionários da Adobe de todo o mundo para desenvolver princípios práticos que possam resistir ao teste do tempo.

A partir daí, desenvolvemos um processo de revisão robusto para identificar e mitigar riscos e vieses potenciais precocemente no ciclo de desenvolvimento de IA. Essa avaliação em várias partes nos ajudou a identificar e abordar recursos e produtos que pudessem perpetuar vieses e estereótipos prejudiciais.

À medida que a IA geradora surgiu, adaptamos nossa avaliação de Ética de IA para abordar novos desafios éticos. ​Esse processo iterativo permitiu que ficássemos à frente de problemas potenciais, garantindo que nossas tecnologias de IA sejam desenvolvidas e implantadas de forma responsável. ​Nosso compromisso com o aprendizado contínuo e a colaboração com várias equipes em toda a empresa foi crucial para manter a relevância e a eficácia de nosso programa de Ética de IA, melhorando, em última análise, a experiência que oferecemos aos nossos clientes e promovendo a inclusividade. ​

Como os princípios de Ética de IA da Adobe — responsabilidade, accountability e transparência — se traduzem nas operações diárias? Você pode compartilhar exemplos de como esses princípios orientaram os projetos de IA da Adobe?

Nós nos comprometemos com os compromissos de Ética de IA da Adobe em nossos recursos de IA, implementando práticas de engenharia robustas que garantem a inovação responsável, enquanto continuamos a coletar feedback de nossos funcionários e clientes para permitir ajustes necessários.

Novos recursos de IA passam por uma avaliação ética rigorosa para identificar e mitigar vieses e riscos potenciais. Quando introduzimos o Adobe Firefly, nossa família de modelos de IA geradora, ele passou por uma avaliação para mitigar a geração de conteúdo que pudessem perpetuar estereótipos prejudiciais. Essa avaliação é um processo iterativo que evolui com base na colaboração estreita com as equipes de produtos, incorporando feedback e aprendizados para permanecer relevante e eficaz. Também realizamos exercícios de descoberta de riscos com as equipes de produtos para entender os impactos potenciais e projetar mecanismos de teste e feedback apropriados. ​

Como a Adobe aborda as preocupações relacionadas ao viés em IA, especialmente em ferramentas usadas por uma base de usuários global e diversificada? Você pode dar um exemplo de como o viés foi identificado e mitigado em um recurso de IA específico?

Estamos continuamente evoluindo nossa avaliação e processo de revisão de Ética de IA em estreita colaboração com nossas equipes de produtos e engenharia. ​A avaliação de Ética de IA que tínhamos alguns anos atrás é diferente da que temos agora, e anticipo mudanças adicionais no futuro. Essa abordagem iterativa nos permite incorporar novos aprendizados e abordar preocupações éticas emergentes à medida que tecnologias como o Firefly evoluem.

Por exemplo, quando adicionamos suporte multilíngue ao Firefly, minha equipe notou que ele não estava fornecendo a saída pretendida e algumas palavras estavam sendo bloqueadas involuntariamente. Para mitigar isso, trabalhamos em estreita colaboração com nossa equipe de internacionalização e falantes nativos para expandir nossos modelos e cobrir termos e conotações específicas de país. ​

Nosso compromisso em evoluir nossa abordagem de avaliação à medida que a tecnologia avança é o que ajuda a Adobe a equilibrar a inovação com a responsabilidade ética. Ao promover um processo inclusivo e responsivo, garantimos que nossas tecnologias de IA atendam aos mais altos padrões de transparência e integridade, capacitando os criadores a usar nossas ferramentas com confiança.

Ao se envolver na formação de políticas públicas, como a Adobe navega a interseção entre regulamentações de IA rapidamente mudadas e inovação? Qual é o papel que a Adobe desempenha na formação dessas regulamentações?

Nós nos envolvemos ativamente com formuladores de políticas e grupos da indústria para ajudar a moldar políticas que equilibrem a inovação com considerações éticas. Nossas discussões com formuladores de políticas se concentram em nossa abordagem para a IA e na importância de desenvolver tecnologia para melhorar as experiências humanas. Os reguladores buscam soluções práticas para abordar desafios atuais e, ao apresentar estruturas como nossos princípios de Ética de IA — desenvolvidos colaborativamente e aplicados consistentemente em nossos recursos de IA —, promovemos discussões mais produtivas. É crucial trazer exemplos concretos para a mesa que demonstrem como nossos princípios funcionam na prática e mostrar impacto real, em vez de discutir conceitos abstratos.

Quais são as considerações éticas que a Adobe prioriza ao obter dados de treinamento, e como ela garante que os conjuntos de dados usados sejam éticos e suficientemente robustos para as necessidades da IA?

Na Adobe, priorizamos várias considerações éticas importantes ao obter dados de treinamento para nossos modelos de IA. ​Como parte de nosso esforço para projetar o Firefly para ser comercialmente seguro, treinamos ele em um conjunto de dados de conteúdo licenciado, como o Adobe Stock, e conteúdo de domínio público onde o direito autoral expirou. Também nos concentramos na diversidade dos conjuntos de dados para evitar reforçar vieses e estereótipos prejudiciais nas saídas do modelo. Para alcançar isso, colaboramos com equipes e especialistas diversificados para revisar e curar os dados. Ao aderir a essas práticas, nos esforçamos para criar tecnologias de IA que sejam não apenas poderosas e eficazes, mas também éticas e inclusivas para todos os usuários. ​

Em sua opinião, quão importante é a transparência ao comunicar aos usuários como os sistemas de IA da Adobe, como o Firefly, são treinados e que tipo de dados é usado?

A transparência é crucial ao comunicar aos usuários como os recursos de IA geradora da Adobe, como o Firefly, são treinados, incluindo os tipos de dados usados. Isso constrói confiança e confiabilidade em nossas tecnologias, garantindo que os usuários entendam os processos por trás do desenvolvimento de nossa IA geradora. Ao sermos abertos sobre as fontes de dados, metodologias de treinamento e salvaguardas éticas que temos em vigor, capacitamos os usuários a tomar decisões informadas sobre como interagir com nossos produtos. Essa transparência não apenas alinha com nossos princípios centrais de Ética de IA, mas também promove uma relação colaborativa com nossos usuários.

À medida que a IA continua a escalar, especialmente a IA geradora, o que você acredita que serão os principais desafios éticos que empresas como a Adobe enfrentarão no futuro próximo?

Acredito que os principais desafios éticos para empresas como a Adobe são mitigar vieses prejudiciais, garantir a inclusividade e manter a confiança do usuário. ​A possibilidade de a IA perpetuar involuntariamente estereótipos ou gerar conteúdo prejudicial e enganoso é uma preocupação que exige vigilância contínua e salvaguardas robustas. Por exemplo, com os recentes avanços na IA geradora, é mais fácil do que nunca para “atores ruins” criar conteúdo enganoso, espalhar desinformação e manipular a opinião pública, minando a confiança e a transparência.

Para abordar isso, a Adobe fundou a Iniciativa de Autenticidade de Conteúdo (CAI) em 2019 para construir um ecossistema digital mais confiável e transparente para os consumidores. A CAI implementa nossa solução para construir confiança online — chamada de Credenciais de Conteúdo. As Credenciais de Conteúdo incluem “ingredientes” ou informações importantes, como o nome do criador, a data em que uma imagem foi criada, quais ferramentas foram usadas para criar a imagem e quais edições foram feitas ao longo do caminho. Isso capacita os usuários a criar uma cadeia de confiança e autenticidade digital.

À medida que a IA geradora continua a escalar, será ainda mais importante promover a adoção generalizada de Credenciais de Conteúdo para restaurar a confiança no conteúdo digital.

Que conselho você daria a outras organizações que estão apenas começando a pensar em estruturas éticas para o desenvolvimento de IA?

Meu conselho seria começar estabelecendo princípios claros, simples e práticos que possam orientar seus esforços. Muitas vezes, vejo empresas ou organizações focadas no que parece bom na teoria, mas seus princípios não são práticos. O motivo pelo qual nossos princípios resistiram ao teste do tempo é porque os projetamos para serem práticos. Quando avaliamos nossos recursos de IA, nossas equipes de produtos e engenharia sabem o que estamos procurando e quais são os padrões que esperamos delas.

Também recomendaria que as organizações venham a esse processo sabendo que será iterativo. Eu não sei o que a Adobe vai inventar em cinco ou 10 anos, mas sei que vamos evoluir nossa avaliação para atender a essas inovações e ao feedback que recebemos.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Adobe.