IA: De la gente, para la gente y por la gente

Por: Balakrishna (Bali) D R, Vicepresidente Senior, Líder de Oferta de Servicio – ECS, IA y Automatización en Infosys.

Tenemos la suerte de vivir en la era de la tecnología donde la Inteligencia Artificial trabaja arduamente para hacer que nuestras vidas sean más fáciles – nuestros teléfonos ahora nos reconocen y se desbloquean cuando nos “ven”, tenemos mapas que hablan que nos ayudan a encontrar los caminos más cortos y menos concurridos para llegar a donde queremos ir, dispositivos inteligentes que calientan y enfrian nuestros hogares incluso antes de que digamos la palabra, aplicaciones inteligentes que predicen y previenen el fraude, y mucho más.

Sin embargo, también hemos tenido casos en los que estos sistemas inteligentes alimentados por IA han fallado desde una perspectiva de equidad y ética. Por ejemplo, un banco reputado que trabaja con nosotros sospechó que los modelos de IA que utilizan para evaluar la solvencia crediticia antes de emitir préstamos podrían estar sesgados, y nos pidieron que los ayudáramos. En otra ocasión, un fabricante de maquinaria trabajó con nosotros para analizar patrones de reclamaciones de garantía para eliminar sesgos, desde el conjunto de datos y el proceso, antes de reingenierar y automatizar su proceso de aprobación de reclamaciones. Los modelos de IA relacionados con el reclutamiento, a menudo encontramos, están corrompidos por sesgos de edad, género, raza, incluso códigos postales a veces, en sus conjuntos de datos – lo que produce resultados injustos si no se controla.

Debido al tremendo impacto que el sesgo de IA puede tener en toda la empresa, las preguntas éticas han ocupado un lugar central en la forma en que se desarrollan, implementan y utilizan los sistemas de IA. Los sistemas de IA son la amalgama de muchas decisiones humanas, que inherentemente también se basan en sesgos humanos. La protección de la autonomía y la privacidad de los empleados, los riesgos de que los sesgos afecten el crecimiento y las oportunidades profesionales, la discriminación basada en el color de la piel, la raza o el género, la falta de explicación de las elecciones realizadas por la solución de IA, y por lo tanto, la responsabilidad de la toma de decisiones de IA, están siendo objeto de un debate apasionado cuando se habla de IA y sus méritos.

Creación de IA Responsable

El sesgo de IA puede tener un efecto de onda en toda la organización. Es pertinente que los líderes de TI aseguren que estén desplegando IA de manera ética que funcione con, y no en contra, de los empleados. Para hacerlo, las organizaciones deben incluir lo siguiente en sus despliegues de IA.

Gobernanza de datos: El uso ético de IA también se basa en el uso bien gobernado de los datos, comenzando desde la obtención de datos de manera ética y transparente. Para hacer esto, los líderes de TI deben establecer un marco de gobernanza bien definido que asegure la seguridad, la integridad y la privacidad de los datos, así como prevenir la corrupción y la pérdida de datos – son todos necesarios.

Responsabilidad: Los modelos de Aprendizaje Automático necesitan ser justos, imparciales, tratar a las personas de manera igualitaria y también compartir los beneficios de manera equitativa (similar tasa de aceptación y rechazo) en todos los atributos, como raza, religión, género, etc. Necesitan lograr una precisión aceptable no solo en la figura general, sino también en las clases minoritarias. Estos modelos deben ser explicables cuando se trata de describir cómo se llega al resultado. Por ejemplo, ser capaz de explicar por qué el modelo rechazó una solicitud de préstamo de un solicitante A pero aprobó la misma solicitud del solicitante B. Los líderes de TI que desarrollan soluciones de IA necesitan hacer que la lógica subyacente que impulsa estas decisiones sea clara para las partes interesadas comerciales para que haya una mayor transparencia dentro de la empresa.

Robustez adversaria: Todo el ecosistema de IA necesita estar de acuerdo en la necesidad de que los modelos de IA sean probados y pirateados a través de simulaciones para estudiar resultados adversos potenciales. Por ejemplo, los líderes de TI pueden utilizar las siguientes pruebas para probar sus sistemas de IA y prepararse para obstáculos potenciales.

• Modificar datos: cambiar directamente el conjunto de datos utilizado para el entrenamiento mediante inyección de datos, modificación y corrupción lógica
• Modificar modelos: probar la reducción de la confianza y la mala clasificación
• Herramientas auxiliares: utilizar herramientas para influir o corromper los resultados

Humanos en el bucle: Los modelos de IA necesitan ser des-risked teniendo humanos en el bucle para todos los puntos de decisión clave y teniendo un mecanismo de respaldo efectivo o una ruta alternativa si el sistema de IA necesita ser retirado.

Desarrollo del consentimiento social para IA

Además de estas pautas, necesitamos promover discusiones y deliberaciones inclusivas entre todos los líderes de la empresa, sobre los beneficios, intereses, costos y consecuencias de cualquier despliegue de IA a gran escala. Solo tales procesos inclusivos que involucran a todas las partes interesadas, para discutir y decidir resultados aceptables, y sopesar los riesgos y beneficios, es probable que ganen a las tecnologías de IA la licencia para operar en toda la empresa. a lo largo de la empresa, sobre los beneficios, intereses, costos y consecuencias de cualquier gran despliegue de IA. Solo tales procesos inclusivos que involucran a todas las partes interesadas, para discutir y decidir resultados aceptables, y sopesar los riesgos y beneficios, es probable que ganen a las tecnologías de IA la licencia para operar a lo largo de la empresa, sobre los beneficios, intereses, costos y consecuencias de cualquier gran despliegue de IA.