Investigadores de IA proponen poner recompensas a los sesgos de la IA para hacer que la IA sea más ética

Un equipo de investigadores de IA de empresas y laboratorios de desarrollo de IA como Intel, Google Brain y OpenAI ha recomendado el uso de recompensas para ayudar a garantizar el uso ético de la IA. El equipo de investigadores acaba de publicar una serie de propuestas sobre el uso ético de la IA, y sugirieron que recompensar a las personas por descubrir sesgos en la IA podría ser una forma efectiva de hacer que la IA sea más justa.

Como informa VentureBeat, investigadores de una variedad de empresas en los Estados Unidos y Europa se unieron para crear un conjunto de directrices éticas para el desarrollo de la IA, así como sugerencias sobre cómo cumplir con estas directrices. Una de las sugerencias que los investigadores hicieron fue ofrecer recompensas a los desarrolladores que encuentren sesgos dentro de los programas de IA. La sugerencia se hizo en un documento titulado “Hacia el desarrollo de la IA confiable: mecanismos para respaldar afirmaciones verificables”.

Como ejemplos de los sesgos que el equipo de investigadores espera abordar, se han encontrado datos y algoritmos sesgados en todo, desde aplicaciones de atención médica hasta sistemas de reconocimiento facial utilizados por las fuerzas del orden. Uno de estos casos de sesgo es la herramienta de evaluación de riesgo PATTERN que se utilizó recientemente en el Departamento de Justicia de los Estados Unidos para triar a los prisioneros y decidir a quiénes se les podía enviar a casa cuando se redujeron los tamaños de la población carcelaria en respuesta a la pandemia del coronavirus.

La práctica de recompensar a los desarrolladores por encontrar comportamientos no deseados en los programas de computadora es antigua, pero esta podría ser la primera vez que un consejo de ética de la IA ha avanzado seriamente en la idea como una opción para combatir el sesgo de la IA. Aunque es poco probable que haya suficientes desarrolladores de IA para encontrar suficientes sesgos para garantizar que la IA sea ética, aún así ayudaría a las empresas a reducir el sesgo general y a tener una idea de qué tipo de sesgo se filtra en sus sistemas de IA.

Los autores del documento explicaron que el concepto de caza de bugs se puede extender a la IA con el uso de recompensas por sesgo y seguridad, y que el uso adecuado de esta técnica podría conducir a conjuntos de datos y modelos mejor documentados. La documentación reflejaría mejor las limitaciones tanto del modelo como de los datos. Los investigadores incluso señalan que la misma idea se podría aplicar a otras propiedades de la IA, como la interpretación, la seguridad y la protección de la privacidad.

A medida que se produce más discusión sobre los principios éticos de la IA, muchos han señalado que los principios solos no son suficientes y que se deben tomar medidas para mantener la IA ética. Los autores del documento señalan que “las regulaciones y normas existentes en la industria y la academia son insuficientes para garantizar el desarrollo responsable de la IA”. El cofundador de Google Brain y líder de la industria de la IA, Andrew Ng, también opinó que los principios directivos solos carecen de la capacidad de garantizar que la IA se utilice de manera responsable y justa, diciendo que muchos de ellos necesitan ser más explícitos y tener ideas accionables.

La recomendación de cazar recompensas por sesgo del equipo de investigación combinada es un intento de ir más allá de los principios éticos hacia un área de acción ética. El equipo de investigación también hizo una serie de otras recomendaciones que podrían impulsar la acción ética en el campo de la IA.

El equipo de investigación hizo una serie de otras recomendaciones que las empresas pueden seguir para hacer que su uso de la IA sea más ético. Sugirieron que se debe crear una base de datos centralizada de incidentes de IA y que se debe compartir con la comunidad de IA más amplia. De manera similar, los investigadores proponen que se debe establecer una auditoría y que estas auditorías deben preservar la información sobre la creación y la implementación de aplicaciones de seguridad crítica en las plataformas de IA.

Para preservar la privacidad de las personas, el equipo de investigación sugirió que se deben emplear técnicas centradas en la privacidad, como comunicaciones cifradas, aprendizaje federado y privacidad diferencial. Más allá de esto, el equipo de investigación sugirió que se deben hacer disponibles alternativas de código abierto y que los modelos de IA comerciales deben ser sometidos a un escrutinio riguroso. Finalmente, el equipo de investigación sugiere que se debe aumentar la financiación gubernamental para que los investigadores académicos puedan verificar las afirmaciones de rendimiento de hardware.