Investigadores de IA proponen poner recompensas a los sesgos de la IA para hacer que la IA sea más ética

Un equipo de investigadores de IA de empresas y laboratorios de desarrollo de IA como Intel (INTC ), Google (GOOGL ) Brain y OpenAI ha recomendado el uso de recompensas para ayudar a garantizar el uso ético de la IA. El equipo de investigadores acaba de publicar una serie de propuestas sobre el uso ético de la IA, y han incluido una sugerencia de que recompensar a las personas por descubrir sesgos en la IA podría ser una forma efectiva de hacer que la IA sea más justa.

Como informa VentureBeat, investigadores de una variedad de empresas en Estados Unidos y Europa se unieron para elaborar un conjunto de directrices éticas para el desarrollo de la IA, así como sugerencias sobre cómo cumplir con estas directrices. Una de las sugerencias que hicieron los investigadores fue ofrecer recompensas a los desarrolladores que encuentren sesgos dentro de los programas de IA. La sugerencia se hizo en un documento titulado “Hacia el desarrollo de la IA de confianza: mecanismos para respaldar afirmaciones verificables”.

Como ejemplos de los sesgos que el equipo de investigadores espera abordar, se han encontrado datos y algoritmos sesgados en todo, desde aplicaciones de atención médica hasta sistemas de reconocimiento facial utilizados por las fuerzas del orden. Uno de estos casos de sesgo es la herramienta de evaluación de riesgo PATTERN que se utilizó recientemente en el Departamento de Justicia de Estados Unidos para triagear a los prisioneros y decidir cuáles podían ser enviados a casa al reducirse la población carcelaria en respuesta a la pandemia del coronavirus.

La práctica de recompensar a los desarrolladores por encontrar comportamientos no deseados en los programas informáticos es antigua, pero esta podría ser la primera vez que un consejo de ética de la IA ha avanzado en serio esta idea como una opción para combatir el sesgo de la IA. Aunque es poco probable que haya suficientes desarrolladores de IA para encontrar suficientes sesgos para garantizar que la IA sea ética, aún así ayudaría a las empresas a reducir el sesgo general y a tener una idea de qué tipo de sesgo se filtra en sus sistemas de IA.

Los autores del documento explicaron que el concepto de caza de bugs se puede extender a la IA con el uso de recompensas por sesgo y seguridad, y que el uso adecuado de esta técnica podría conducir a conjuntos de datos y modelos mejor documentados. La documentación reflejaría mejor las limitaciones tanto del modelo como de los datos. Los investigadores incluso señalan que la misma idea se puede aplicar a otras propiedades de la IA, como la interpretación, la seguridad y la protección de la privacidad.

A medida que se produce más discusión sobre los principios éticos de la IA, muchos han señalado que los principios solos no son suficientes y que se deben tomar medidas para mantener la IA ética. Los autores del documento señalan que “las regulaciones y normas existentes en la industria y la academia son insuficientes para garantizar el desarrollo responsable de la IA”. El cofundador de Google Brain y líder de la industria de la IA Andrew Ng también opinó que los principios directivos solos carecen de la capacidad de garantizar que la IA se utilice de manera responsable y justa, diciendo que muchos de ellos necesitan ser más explícitos y tener ideas accionables.

La recomendación de cazar recompensas por sesgo del equipo de investigación es un intento de ir más allá de los principios éticos hacia un área de acción ética. El equipo de investigación también hizo una serie de otras recomendaciones que podrían impulsar la acción ética en el campo de la IA.

El equipo de investigación hizo una serie de otras recomendaciones que las empresas pueden seguir para hacer que su uso de la IA sea más ético. Sugieren que se debe crear una base de datos centralizada de incidentes de IA y que se debe compartir entre la comunidad de IA más amplia. De manera similar, los investigadores proponen que se debe establecer un registro de auditoría y que estos registros deben preservar la información sobre la creación y despliegue de aplicaciones de seguridad crítica en las plataformas de IA.

Para preservar la privacidad de las personas, el equipo de investigación sugirió que se deben emplear técnicas centradas en la privacidad, como comunicaciones cifradas, aprendizaje federado y privacidad diferencial. Más allá de esto, el equipo de investigación sugirió que se deben hacer disponibles alternativas de código abierto y que los modelos de IA comerciales deben ser sometidos a un escrutinio riguroso. Finalmente, el equipo de investigación sugiere que se debe aumentar la financiación gubernamental para que los investigadores académicos puedan verificar las afirmaciones de rendimiento del hardware.