Alyssa Simpson Rochwerger, coautora de Real World AI – Serie de entrevistas

Alyssa Rochwerger es una líder de productos orientada al cliente, dedicada a crear productos que resuelvan problemas difíciles para personas reales. Ha ocupado numerosos puestos de liderazgo en organizaciones de aprendizaje automático. Se desempeñó como vicepresidenta de productos de Figure Eight (adquirida por Appen), vicepresidenta de IA y datos en Appen, y directora de productos en IBM Watson. Recientemente dejó el espacio para perseguir su sueño de utilizar la tecnología para mejorar la atención médica. Actualmente, se desempeña como directora de productos en Blue Shield of California, donde está rodeada de mucha información, muchos problemas difíciles y nada más que oportunidades para tener un impacto positivo.

Hablamos sobre su nuevo libro: El mundo real de la IA: Una guía práctica para el aprendizaje automático responsable

En la introducción del libro, describe cómo, como gerente de productos de IBM, se encontró por primera vez con un problema con un sistema de IA que entregaba información sesgada cuando una imagen de una persona en una silla de ruedas fue clasificada por el algoritmo como “perdedor”. ¿Cuánto fue este despertar para usted sobre el sesgo de la IA?

No lo llamaría un despertar, sino más bien mi primera vez construyendo un producto basado en aprendizaje automático (solo había unos pocos meses en el cargo) y no sabía lo suficiente sobre cómo funcionaba esta tecnología para poner las barreras adecuadas y mitigar el sesgo no deseado. Fue una experiencia que me abrió los ojos y me hizo consciente de este problema – y me hizo entender desde una perspectiva técnica lo fácil que es que el sesgo sistémico de la sociedad se codifique en productos basados en aprendizaje automático si el equipo no está mitigando activamente. Me alegró estar trabajando en una institución que se preocupa profundamente por la equidad y pone recursos para mitigar.

¿Qué aprendió personalmente investigando y escribiendo este libro?

En lo personal, tuve que encontrar tiempo para escribir este libro mientras cambiaba de trabajo, tenía un hijo de 1 año y navegaba por la COVID. Aprendí a encontrar tiempo para priorizar esto y a pedir ayuda a mi familia, lo que me dio el tiempo para dedicarle atención a la escritura del libro.

Profesionalmente, fue maravilloso tener a tantos participantes que compartieron sus historias con nosotros para publicar. Los profesionales del aprendizaje automático, en mi experiencia, son un grupo de personas increíblemente pensativas y generosas, dispuestas a ayudar a otros y a compartir errores y lecciones aprendidas. Desafortunadamente, muchas de estas historias de lecciones aprendidas no se incluyeron en este libro o tuvieron que ser anonimizadas significativamente, debido a la preocupación de hacer pública información detrás de escena que podría hacer que una empresa o individuo se viera mal si se tomaba de la manera incorrecta. Aunque eso es ciertamente lo habitual, personalmente creo que es una lástima – creo en aprender y crecer a partir de experiencias y errores pasados si pueden ser útiles para otros.

¿Cuáles son algunas de las lecciones más importantes que espera que la gente saque de leer este libro?

Espero que la gente aprenda que el aprendizaje automático no es algo super aterrador o difícil de entender. Que es una tecnología poderosa, pero a veces frágil, que necesita orientación y estructura para resolver problemas difíciles. También que el uso ético y responsable de esta tecnología es fundamental para el éxito y la madurez – y que centrarse en mitigar el sesgo perjudicial desde el principio es clave para el éxito empresarial.

Un ejemplo de sesgo de género de la IA que se describió en el libro fue la emisión de líneas de crédito más bajas a las mujeres que a los hombres por la tarjeta de crédito de Apple. Este fue un ejemplo de cómo omitir el género como opción no tuvo en cuenta otras variables que pueden servir como proxy para el género. El ejemplo mostró que sin la entrada de “género” era imposible determinar que el resultado era sesgado hasta después de que se lanzó el producto final. ¿Qué tipos de entradas de datos cree que nunca deben omitirse para evitar el sesgo contra el género o las minorías?

No hay una regla fija – cada conjunto de datos, caso de uso y situación es diferente. Animaría a los practicantes a profundizar en los detalles y la complejidad de qué problema está resolviendo el algoritmo de aprendizaje automático – y qué sesgo perjudicial podría estar codificado en esa decisión.

El libro describe cómo una responsabilidad principal al comunicarse con el equipo de IA es definir con precisión los resultados que son importantes para el negocio. ¿Con qué frecuencia cree que las empresas fallan en esta tarea?

Diría que, en mi experiencia, la mayoría de las veces, los resultados no están definidos o solo están definidos a un nivel alto. Profundizar en los detalles sobre los resultados específicos es una forma fácil de preparar al equipo para el éxito desde el principio.

El libro habla sobre la importancia de darse cuenta de que un sistema de IA no es un sistema de “configurarlo y olvidarlo”. ¿Podría discutir brevemente esto?

Este es el error clásico que la mayoría de las empresas cometen al lanzar un nuevo sistema de aprendizaje automático a la producción. La realidad cambia – el tiempo pasa, lo que era cierto ayer (los datos de entrenamiento) puede que no sea cierto mañana. Depende de las circunstancias, pero en la mayoría de los casos, es importante poder aprender y ajustar y tomar mejores decisiones con el tiempo basadas en información más reciente.

Los productos basados en aprendizaje automático son fundamentalmente tomadores de decisiones. Para equiparar esto con un ejemplo humano – es como un árbitro en un partido de fútbol de alto riesgo. Muchas veces, si es un árbitro bien entrenado con experiencia, el árbitro toma una buena decisión y el juego continúa – pero a veces, ese árbitro toma una mala decisión – o no está seguro de qué decisión tomar – y necesita volver a ver el video – preguntar a unos cuantos otros para tomar una decisión sobre una jugada en particular. De manera similar, los productos de aprendizaje automático necesitan retroalimentación, entrenamiento y, a veces, no están seguros. Necesitan tener opciones de respaldo para recurrir, así como nueva información para aprender y mejorar con el tiempo. Un buen árbitro aprenderá con el tiempo y mejorará al tomar decisiones.

¿Podría hablar sobre la importancia de crear un equipo interfuncional que pueda identificar qué problemas son los mejores para abordar utilizando la IA?

La tecnología de aprendizaje automático es adecuada generalmente para problemas muy difíciles y específicos que no se resuelven con otros enfoques. Cualquier problema difícil – requiere un equipo para tener éxito. Cuando las empresas son nuevas en la IA – a menudo hay una narrativa falsa de que un solo científico de aprendizaje automático, o incluso un equipo de aprendizaje automático, puede resolver el problema por sí solo. Nunca he encontrado que eso sea cierto. Requiere un equipo con diferentes antecedentes y enfoques para abordar un problema difícil – y ciertamente para implementar con éxito la tecnología de aprendizaje automático a la producción.

Gracias por la gran entrevista, para los lectores (y especialmente los ejecutivos empresariales) que están interesados en aprender más, les recomiendo que lean el libro El mundo real de la IA: Una guía práctica para el aprendizaje automático responsable.