Grace Yee, Directora Senior de Innovación Ética (Ética y Accesibilidad de la IA) en Adobe – Serie de Entrevistas

Grace Yee es la Directora Senior de Innovación Ética (Ética y Accesibilidad de la IA) en Adobe (ADBE ), impulsando el trabajo global y organizacional en torno a la ética y desarrollando procesos, herramientas, capacitaciones y otros recursos para ayudar a garantizar que las innovaciones de IA líderes en la industria de Adobe sigan evolucionando en línea con los valores y principios éticos fundamentales de Adobe. Grace impulsa el compromiso de Adobe para construir y utilizar tecnología de manera responsable, centrándose en la ética y la inclusividad en todo el trabajo de la empresa en el desarrollo de IA. Como parte de este trabajo, Grace supervisa el Comité de Ética de la IA y la Junta de Revisión de Adobe, que hace recomendaciones para ayudar a guiar a los equipos de desarrollo de Adobe y revisa las nuevas características y productos de IA para garantizar que cumplan con los principios de responsabilidad, rendición de cuentas y transparencia de Adobe. Estos principios ayudan a garantizar que llevemos nuestras características de IA al mercado mientras mitigamos los resultados perjudiciales y sesgados. Grace también trabaja con el equipo de políticas para impulsar la defensa y ayudar a dar forma a las políticas públicas, leyes y regulaciones en torno a la IA para beneficio de la sociedad.

Como parte del compromiso de Adobe con la accesibilidad, Grace ayuda a garantizar que los productos de Adobe sean inclusivos y accesibles para todos los usuarios, para que cualquier persona pueda crear, interactuar y participar en experiencias digitales. Bajo su liderazgo, Adobe trabaja con grupos gubernamentales, asociaciones comerciales y comunidades de usuarios para promover y avanzar en las políticas y normas de accesibilidad, impulsando soluciones de la industria efectivas.

¿Puede contarnos sobre el viaje de Adobe en los últimos cinco años en la configuración de la Ética de la IA? ¿Cuáles son los hitos clave que han definido esta evolución, especialmente frente a los avances rápidos como la IA generativa?

Hace cinco años, formalizamos nuestro proceso de Ética de la IA al establecer nuestros principios de Ética de la IA de responsabilidad, rendición de cuentas y transparencia, que sirven como base para nuestro proceso de gobernanza de la Ética de la IA. Reunimos un equipo diverso y multifuncional de empleados de Adobe de todo el mundo para desarrollar principios prácticos que puedan resistir la prueba del tiempo.

Desde allí, desarrollamos un proceso de revisión robusto para identificar y mitigar los riesgos y sesgos potenciales temprano en el ciclo de desarrollo de la IA. Esta evaluación multicomponente nos ha ayudado a identificar y abordar características y productos que podrían perpetuar prejuicios y estereotipos perjudiciales.

Al surgir la IA generativa, adaptamos nuestra evaluación de la Ética de la IA para abordar nuevos desafíos éticos. Este proceso iterativo nos ha permitido mantenernos por delante de los problemas potenciales, garantizando que nuestras tecnologías de IA se desarrollen y desplieguen de manera responsable. Nuestro compromiso con el aprendizaje continuo y la colaboración con varios equipos en toda la empresa ha sido crucial para mantener la relevancia y eficacia de nuestro programa de Ética de la IA, mejorando en última instancia la experiencia que brindamos a nuestros clientes y promoviendo la inclusividad.

¿Cómo se traducen los principios de Ética de la IA de Adobe —responsabilidad, rendición de cuentas y transparencia— en las operaciones diarias? ¿Puede compartir algunos ejemplos de cómo estos principios han guiado los proyectos de IA de Adobe?

Nos adherimos a los compromisos de Ética de la IA de Adobe en nuestras características de IA al implementar prácticas de ingeniería robustas que garanticen la innovación responsable, mientras recopilamos continuamente comentarios de nuestros empleados y clientes para permitir ajustes necesarios.

Las nuevas características de IA pasan por una evaluación ética exhaustiva para identificar y mitigar los sesgos y riesgos potenciales. Cuando presentamos Adobe Firefly, nuestra familia de modelos de IA generativa, se sometió a una evaluación para mitigar la generación de contenido que podría perpetuar estereotipos perjudiciales. Esta evaluación es un proceso iterativo que evoluciona en función de la colaboración estrecha con los equipos de productos, incorporando comentarios y conocimientos para mantener la relevancia y la eficacia. También realizamos ejercicios de descubrimiento de riesgos con los equipos de productos para comprender los impactos potenciales y diseñar mecanismos de prueba y comentarios adecuados.

¿Cómo aborda Adobe las preocupaciones relacionadas con el sesgo en la IA, especialmente en herramientas utilizadas por una base de usuarios global y diversa? ¿Puede darnos un ejemplo de cómo se identificó y mitigó el sesgo en una característica de IA específica?

Estamos evolucionando continuamente nuestra evaluación y proceso de revisión de la Ética de la IA en colaboración estrecha con nuestros equipos de productos y ingeniería. La evaluación de la Ética de la IA que tuvimos hace unos años es diferente a la que tenemos ahora, y anticipo cambios adicionales en el futuro. Este enfoque iterativo nos permite incorporar nuevos conocimientos y abordar preocupaciones éticas emergentes a medida que tecnologías como Firefly evolucionan.

Por ejemplo, cuando agregamos soporte multilingüe a Firefly, mi equipo notó que no estaba entregando la salida prevista y algunas palabras estaban siendo bloqueadas involuntariamente. Para mitigar esto, trabajamos en estrecha colaboración con nuestro equipo de internacionalización y hablantes nativos para ampliar nuestros modelos y cubrir términos y connotaciones específicos de cada país.

Nuestro compromiso con la evolución de nuestro enfoque de evaluación a medida que avanza la tecnología es lo que ayuda a Adobe a equilibrar la innovación con la responsabilidad ética. Al fomentar un proceso inclusivo y receptivo, garantizamos que nuestras tecnologías de IA cumplan con los más altos estándares de transparencia y integridad, permitiendo a los creadores utilizar nuestras herramientas con confianza.

Con su participación en la configuración de políticas públicas, ¿cómo navega Adobe la intersección entre las regulaciones de IA en rápida evolución y la innovación? ¿Cuál es el papel que desempeña Adobe en la configuración de estas regulaciones?

Nos involucramos activamente con los formuladores de políticas y grupos de la industria para ayudar a dar forma a políticas que equilibren la innovación con consideraciones éticas. Nuestras discusiones con los formuladores de políticas se centran en nuestro enfoque de la IA y la importancia de desarrollar tecnología para mejorar las experiencias humanas. Los reguladores buscan soluciones prácticas para abordar los desafíos actuales y, al presentar marcos como nuestros principios de Ética de la IA —desarrollados de manera colaborativa y aplicados consistentemente en nuestras características de IA—, fomentamos discusiones más productivas. Es crucial traer ejemplos concretos a la mesa que demuestren cómo funcionan nuestros principios en la práctica y mostrar un impacto real, en lugar de hablar sobre conceptos abstractos.

¿Qué consideraciones éticas prioriza Adobe al obtener datos de entrenamiento, y cómo garantiza que los conjuntos de datos utilizados sean éticos y lo suficientemente robustos para las necesidades de la IA?

En Adobe, priorizamos varias consideraciones éticas clave al obtener datos de entrenamiento para nuestros modelos de IA. Como parte de nuestro esfuerzo por diseñar Firefly para ser comercialmente seguro, lo entrenamos en un conjunto de datos de contenido con licencia, como Adobe Stock, y contenido de dominio público donde el copyright ha expirado. También nos centramos en la diversidad de los conjuntos de datos para evitar reforzar prejuicios y estereotipos perjudiciales en las salidas de nuestro modelo. Para lograr esto, colaboramos con equipos y expertos diversos para revisar y curar los datos. Al adherirnos a estas prácticas, nos esforzamos por crear tecnologías de IA que no solo sean poderosas y efectivas, sino también éticas e inclusivas para todos los usuarios.

¿Cuán importante es la transparencia al comunicar a los usuarios cómo se entrenan las sistemas de IA de Adobe, como Firefly, y qué tipo de datos se utilizan?

La transparencia es crucial al comunicar a los usuarios cómo se entrenan las características de IA generativa de Adobe, como Firefly, incluidos los tipos de datos utilizados. Esto genera confianza y confianza en nuestras tecnologías al garantizar que los usuarios comprendan los procesos detrás de nuestro desarrollo de IA generativa. Al ser abiertos sobre nuestras fuentes de datos, metodologías de entrenamiento y las salvaguardias éticas que tenemos en lugar, empoderamos a los usuarios para tomar decisiones informadas sobre cómo interactúan con nuestros productos. Esta transparencia no solo se alinea con nuestros principios fundamentales de Ética de la IA, sino que también fomenta una relación de colaboración con nuestros usuarios.

¿Qué desafíos éticos considera que serán los más significativos para las empresas como Adobe en el futuro cercano, a medida que la IA continúa escalando, especialmente la IA generativa?

Creo que los desafíos éticos más significativos para las empresas como Adobe son mitigar los prejuicios perjudiciales, garantizar la inclusividad y mantener la confianza del usuario. La posibilidad de que la IA perpetúe involuntariamente estereotipos o genere contenido perjudicial y engañoso es una preocupación que requiere vigilancia continua y salvaguardias robustas. Por ejemplo, con los avances recientes en la IA generativa, es más fácil que nunca para los “actores maliciosos” crear contenido engañoso, difundir información falsa y manipular la opinión pública, socavando la confianza y la transparencia.

Para abordar esto, Adobe fundó la Iniciativa de Autenticidad de Contenido (CAI) en 2019 para construir un ecosistema digital más confiable y transparente para los consumidores. La CAI implementa nuestra solución para construir confianza en línea — llamada Credenciales de Contenido. Las Credenciales de Contenido incluyen “ingredientes” o información importante como el nombre del creador, la fecha en que se creó la imagen, las herramientas utilizadas para crear la imagen y cualquier edición que se realizó en el camino. Esto permite a los usuarios crear una cadena de confianza y autenticidad digital.

A medida que la IA generativa continúa escalando, será aún más importante promover la adopción generalizada de Credenciales de Contenido para restaurar la confianza en el contenido digital.

¿Qué consejo daría a otras organizaciones que están comenzando a pensar en marcos éticos para el desarrollo de la IA?

Mi consejo sería comenzar estableciendo principios claros, simples y prácticos que puedan guiar sus esfuerzos. A menudo, veo que las empresas o organizaciones se centran en lo que parece bueno en teoría, pero sus principios no son prácticos. La razón por la que nuestros principios han resistido la prueba del tiempo es porque los diseñamos para ser prácticos. Cuando evaluamos nuestras características de IA, nuestros equipos de productos y ingeniería saben qué estamos buscando y qué estándares esperamos de ellos.

También recomendaría que las organizaciones vengan a este proceso sabiendo que va a ser iterativo. Puede que no sepa qué va a inventar Adobe en cinco o diez años, pero sí sé que evolucionaremos nuestra evaluación para satisfacer esas innovaciones y los comentarios que recibimos.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Adobe.