Alyssa Simpson Rochwerger, coautora de Inteligencia Artificial en el Mundo Real – Serie de Entrevistas

Alyssa Rochwerger es una líder de productos orientada al cliente, dedicada a crear productos que resuelvan problemas difíciles para personas reales. Ha ocupado numerosos puestos de liderazgo de productos para organizaciones de aprendizaje automático. Se desempeñó como vicepresidenta de productos para Figure Eight (adquirida por Appen), vicepresidenta de IA y datos en Appen, y directora de productos en IBM Watson. Recientemente dejó el espacio para perseguir su sueño de utilizar la tecnología para mejorar la atención médica. Actualmente, se desempeña como directora de productos en Blue Shield of California, donde está rodeada de mucha información, muchos problemas difíciles y nada más que oportunidades para tener un impacto positivo.

Hablamos sobre su nuevo libro: El Mundo Real de la IA: Una Guía Práctica para el Aprendizaje Automático Responsable

En la introducción del libro, describe cómo, como gerente de productos de IBM, se encontró por primera vez con un problema con un sistema de IA que entregaba información sesgada cuando una foto de una persona en silla de ruedas fue clasificada por el algoritmo como “perdedor”. ¿Cuánto fue un llamado de atención para usted sobre el sesgo de la IA?

No lo llamaría un llamado de atención, sino más bien mi primera experiencia al construir un producto basado en aprendizaje automático (solo llevaba unos meses en el puesto) y no sabía lo suficiente sobre cómo funcionaba esta tecnología para poner las debidas precauciones y mitigar activamente el sesgo no deseado. Fue una experiencia que me abrió los ojos y me hizo prestar atención a este tema – y me hizo consciente de que, en el futuro, debía ser más cuidadoso. La equidad, el acceso y la inclusión son temas que me apasionan – y me han apasionado durante mucho tiempo – incluso gané un premio en la universidad por mi defensa de los estudiantes con discapacidades. Esta experiencia en IBM me ayudó a entender, desde una perspectiva técnica, lo fácil que es que el sesgo sistémico de la sociedad se codifique en productos basados en aprendizaje automático si el equipo no está mitigando activamente. Me alegra haber estado trabajando en una institución que se preocupa profundamente por la equidad y pone recursos para mitigar.

¿Qué aprendió personalmente investigando y escribiendo este libro?

En lo personal, tuve que encontrar tiempo para escribir este libro mientras cambiaba de trabajo, tenía un hijo de 1 año y navegaba por la COVID. Aprendí a encontrar tiempo para priorizar esto y a pedir ayuda a mi familia, lo que me permitió dedicarle atención al libro.

Profesionalmente, fue maravilloso tener a tantos participantes que compartieron sus historias con nosotros para publicar. Los profesionales de aprendizaje automático, en mi experiencia, son un grupo de personas increíblemente pensativas y generosas – dispuestas a ayudar a otros y compartir errores y lecciones aprendidas. Desafortunadamente, muchas de estas historias de lecciones aprendidas no se incluyeron en este libro o tuvieron que ser anonimizadas significativamente, debido a la preocupación de hacer pública información detrás de escena que podría hacer que una empresa o individuo se viera mal si se tomaba de la manera incorrecta. Si bien eso es ciertamente lo normal, personalmente creo que es una lástima – creo en aprender y crecer de experiencias y errores pasados si pueden ser útiles para otros.

¿Cuáles son algunas de las lecciones más importantes que espera que la gente aprenda al leer esto?

Espero que la gente aprenda que el aprendizaje automático no es algo super aterrador o difícil de entender. Que es una tecnología poderosa pero también, a veces, frágil que necesita orientación y estructura para ser exitosa resolviendo problemas difíciles. También que el uso ético y responsable de esta tecnología es fundamental para la madurez y el éxito – y que centrarse en mitigar el sesgo perjudicial desde el principio es clave para el éxito empresarial.

Un ejemplo de sesgo de género de la IA que se describió en el libro fue la tarjeta de crédito de Apple que emitía líneas de crédito más bajas para las mujeres que para los hombres. Esto fue un ejemplo de cómo omitir el género como opción no tuvo en cuenta otras variables que pueden servir como proxy para el género. El ejemplo mostró que, sin la entrada de “género”, era imposible determinar que el resultado era sesgado hasta después de que se lanzó el producto final. ¿Qué tipos de entradas de datos cree que nunca deben omitirse para evitar el sesgo contra el género o las minorías?

No hay una regla fija – cada conjunto de datos, caso de uso y situación es diferente. Animaría a los practicantes a profundizar en los detalles y la complejidad de qué problema se está aplicando el algoritmo de aprendizaje automático para resolver – y qué sesgo perjudicial podría estar codificado en esa decisión.

El libro describe cómo una responsabilidad principal al comunicarse con el equipo de IA es definir con precisión los resultados que son importantes para el negocio. ¿Con qué frecuencia cree que las empresas fallan en esta tarea?

Diría que, en mi experiencia, la mayoría de las veces, los resultados no se definen o solo se definen a un nivel alto o suelto. Profundizar en los detalles sobre los resultados específicos es una forma sencilla de preparar al equipo para el éxito desde el principio.

El libro habla sobre la importancia de darse cuenta de que un sistema de IA no es un sistema de “configurarlo y olvidarlo”. ¿Podría discutir brevemente esto?

Este es el error clásico que cometen la mayoría de las empresas al lanzar un nuevo sistema de aprendizaje automático a producción. La realidad cambia – el tiempo pasa, lo que era cierto ayer (los datos de entrenamiento) puede que no sea cierto mañana. Depende de las circunstancias, pero en la mayoría de los casos, es importante poder aprender y ajustar y tomar decisiones mejores con el tiempo basadas en información más reciente.

Los productos basados en aprendizaje automático son esencialmente tomadores de decisiones. Para equiparar esto con un ejemplo humano – es como un árbitro en un partido de fútbol de alto riesgo. Muchas veces, si es un árbitro bien entrenado con experiencia, el árbitro toma una buena decisión y el juego continúa – pero, a veces, ese árbitro toma una mala decisión – o no está seguro de qué decisión tomar – y necesita volver a revisar el video – pedir a algunas otras personas para tomar una decisión sobre una jugada en particular. De manera similar, los productos de aprendizaje automático necesitan retroalimentación, entrenamiento y, a veces, no están seguros. Necesitan tener opciones de respaldo para recurrir a ellas, así como nueva información para aprender de ella y mejorar con el tiempo. Un buen árbitro aprenderá con el tiempo y mejorará al tomar decisiones.

¿Podría hablar sobre la importancia de crear un equipo multifuncional que pueda identificar qué problemas son los mejores para abordar utilizando IA?

La tecnología de aprendizaje automático está bien adaptada, generalmente, para problemas muy difíciles y específicos que no se resuelven con otros enfoques. Cualquier problema difícil – requiere un equipo para ser exitoso. Cuando las empresas son nuevas en IA – a menudo hay una narrativa falsa de que un solo científico de aprendizaje automático, o incluso un equipo de aprendizaje automático, puede resolver el problema por sí solo. Nunca he encontrado que eso sea cierto. Se necesita un equipo con diferentes antecedentes y enfoques para abordar un problema difícil – y, ciertamente, para implementar con éxito la tecnología de aprendizaje automático en producción.

Gracias por la gran entrevista, para los lectores (y especialmente los ejecutivos empresariales) que están interesados en aprender más, les recomiendo que lean el libro El Mundo Real de la IA: Una Guía Práctica para el Aprendizaje Automático Responsable.