¿Qué es la Inteligencia Artificial Responsable? Principios, Desafíos y Beneficios

Inteligencia Artificial Responsable (RAI) se refiere al diseño y despliegue de sistemas de inteligencia artificial que son transparentes, imparciales, responsables y siguen pautas éticas. A medida que los sistemas de inteligencia artificial se vuelven más robustos y prevalentes, es esencial asegurarse de que se desarrollen de manera responsable y sigan pautas de seguridad y ética.

La salud, el transporte, la gestión de redes y la vigilancia son aplicaciones de inteligencia artificial críticas para la seguridad donde el fallo del sistema puede tener consecuencias graves. Las grandes empresas son conscientes de que la RAI es esencial para mitigar los riesgos tecnológicos. Sin embargo, según un informe de MIT Sloan/BCG que incluyó a 1093 encuestados, el 54% de las empresas carecían de experiencia y talento en Inteligencia Artificial Responsable.

Aunque los líderes de pensamiento y las organizaciones han desarrollado principios para la inteligencia artificial responsable, asegurar el desarrollo responsable de los sistemas de inteligencia artificial todavía presenta desafíos. Exploraremos esta idea en detalle:

5 Principios para la Inteligencia Artificial Responsable

1. Imparcialidad

Los tecnólogos deben diseñar procedimientos para que los sistemas de inteligencia artificial traten a todos los individuos y grupos de manera justa y sin prejuicios. Por lo tanto, la imparcialidad es el requisito principal en aplicaciones de toma de decisiones de alto riesgo.

La imparcialidad se define como:

“Examinar el impacto en varios grupos demográficos y elegir una de varias definiciones matemáticas de equidad de grupo que satisfaga adecuadamente el conjunto deseado de requisitos legales, culturales y éticos.”

2. Responsabilidad

La responsabilidad significa que los individuos y las organizaciones que desarrollan y despliegan sistemas de inteligencia artificial deben ser responsables de sus decisiones y acciones. El equipo que despliega los sistemas de inteligencia artificial debe asegurarse de que su sistema de inteligencia artificial sea transparente, interpretable, auditable y no dañe a la sociedad.

La responsabilidad incluye siete componentes:

1. Contexto (propósito para el cual se requiere responsabilidad)
2. Alcance (sujeto de responsabilidad)
3. Agente (quién es responsable)
4. Foro (a quién debe informar la parte responsable)
5. Estándares (criterios para la responsabilidad)
6. Proceso (método de responsabilidad)
7. Implicaciones (consecuencias de la responsabilidad)

3. Transparencia

La transparencia significa que la razón detrás de la toma de decisiones en los sistemas de inteligencia artificial es clara y comprensible. Los sistemas de inteligencia artificial transparentes son explicables.

Según la Lista de Evaluación para la Inteligencia Artificial Confiable (ALTAI), la transparencia tiene tres elementos clave:

1. Rastreabilidad (los datos, los pasos de preprocesamiento y el modelo son accesibles)
2. Explicabilidad (la razón detrás de la toma de decisiones/predicción es clara)
3. Comunicación abierta (sobre la limitación del sistema de inteligencia artificial)

4. Privacidad

La privacidad es uno de los principios principales de la inteligencia artificial responsable. Se refiere a la protección de la información personal. Este principio asegura que la información personal se recopila y procesa con consentimiento y se mantiene fuera de las manos de malintencionados.

Como se evidenció recientemente, hubo un caso de Clearview, una empresa que crea modelos de reconocimiento facial para fuerzas del orden y universidades. Los vigilantes de datos del Reino Unido demandaron a Clearview AI por £ 7,5 millones por recopilar imágenes de residentes del Reino Unido de las redes sociales sin consentimiento para crear una base de datos de 20 mil millones de imágenes.

5. Seguridad

La seguridad significa asegurarse de que los sistemas de inteligencia artificial sean seguros y no amenazan a la sociedad. Un ejemplo de una amenaza de seguridad de la inteligencia artificial es ataques adversarios. Estos ataques maliciosos engañan a los modelos de aprendizaje automático para que tomen decisiones incorrectas. Proteger los sistemas de inteligencia artificial de los ciberataques es imperativo para la inteligencia artificial responsable.

4 Desafíos y Riesgos Principales de la Inteligencia Artificial Responsable

1. Sesgo

Los sesgos humanos relacionados con la edad, el género, la nacionalidad y la raza pueden afectar la recopilación de datos, lo que puede llevar a modelos de inteligencia artificial sesgados. Un estudio del Departamento de Comercio de EE. UU. encontró que la inteligencia artificial de reconocimiento facial malidentifica a las personas de color. Por lo tanto, el uso de la inteligencia artificial para el reconocimiento facial en la aplicación de la ley puede llevar a arrestos incorrectos. Además, crear modelos de inteligencia artificial justos es desafiante porque hay 21 parámetros diferentes para definirlos. Así que hay un compromiso; satisfacer un parámetro de inteligencia artificial justa significa sacrificar otro.

2. Interpretabilidad

La interpretabilidad es un desafío crítico en el desarrollo de la inteligencia artificial responsable. Se refiere a entender cómo el modelo de aprendizaje automático ha llegado a una conclusión particular.

Las redes neuronales profundas carecen de interpretabilidad porque operan como cajas negras con múltiples capas de neuronas ocultas, lo que hace difícil entender el proceso de toma de decisiones. Esto puede ser un desafío en la toma de decisiones de alto riesgo, como la atención médica, las finanzas, etc.

Además, formalizar la interpretabilidad en los modelos de aprendizaje automático es desafiante porque es subjetivo y específico del dominio.

3. Gobernanza

La gobernanza se refiere a un conjunto de reglas, políticas y procedimientos que supervisan el desarrollo y despliegue de los sistemas de inteligencia artificial. Recientemente, ha habido un progreso significativo en el discurso de gobernanza de la inteligencia artificial, con organizaciones que presentan marcos y pautas éticas.

Las pautas éticas para la inteligencia artificial confiable de la UE, el Marco Ético de Inteligencia Artificial de Australia y los Principios de la OCDE sobre Inteligencia Artificial son ejemplos de marcos de gobernanza de la inteligencia artificial.

Pero el avance rápido en la inteligencia artificial en los últimos años puede superar a estos marcos de gobernanza de la inteligencia artificial. Por lo tanto, es necesario tener un marco que evalúe la equidad, la interpretabilidad y la ética de los sistemas de inteligencia artificial.

4. Regulación

A medida que los sistemas de inteligencia artificial se vuelven más prevalentes, es necesario regularlos para considerar los valores éticos y sociales. Desarrollar una regulación que no ahogue la innovación en la inteligencia artificial es un desafío crítico en la inteligencia artificial responsable.

Incluso con el Reglamento General de Protección de Datos (RGPD), la Ley de Privacidad del Consumidor de California (CCPA) y la Ley de Protección de la Información Personal (PIPL) como cuerpos regulatorios, los investigadores de inteligencia artificial encontraron que el 97% de los sitios web de la UE no cumplen con los requisitos legales del marco del RGPD.

Además, los legisladores enfrentan un desafío significativo para llegar a un consenso sobre la definición de la inteligencia artificial que incluya tanto los sistemas de inteligencia artificial clásicos como las últimas aplicaciones de inteligencia artificial.

3 Beneficios Principales de la Inteligencia Artificial Responsable

1. Sesgo Reducido

La inteligencia artificial responsable reduce el sesgo en los procesos de toma de decisiones, lo que genera confianza en los sistemas de inteligencia artificial. Reducir el sesgo en los sistemas de inteligencia artificial puede proporcionar un sistema de atención médica justo y equitativo y reduce el sesgo en los servicios financieros basados en la inteligencia artificial, etc.

2. Transparencia Mejorada

La inteligencia artificial responsable hace que las aplicaciones de inteligencia artificial sean transparentes, lo que genera confianza en los sistemas de inteligencia artificial. Los sistemas de inteligencia artificial transparentes disminuyen el riesgo de error y mal uso. La transparencia mejorada hace que sea más fácil auditar los sistemas de inteligencia artificial, gana la confianza de las partes interesadas y puede llevar a sistemas de inteligencia artificial responsables.

3. Mejor Seguridad

Las aplicaciones de inteligencia artificial seguras garantizan la privacidad de los datos, producen resultados confiables e inofensivos y están a salvo de los ciberataques.

Los gigantes de la tecnología como Microsoft (MSFT ) y Google (GOOGL ), que están a la vanguardia del desarrollo de sistemas de inteligencia artificial, han desarrollado principios de Inteligencia Artificial Responsable. La Inteligencia Artificial Responsable garantiza que la innovación en la inteligencia artificial no sea perjudicial para los individuos y la sociedad.

Los líderes de pensamiento, investigadores, organizaciones y autoridades legales deben revisar continuamente la literatura sobre la inteligencia artificial responsable para garantizar un futuro seguro para la innovación en la inteligencia artificial.

Para más contenido relacionado con la inteligencia artificial, visite unite.ai.