Lo que significa la Ley de Derechos de Inteligencia Artificial de la Casa Blanca para Estados Unidos y el resto del mundo

La Oficina de Política Científica y Tecnológica de la Casa Blanca (OSTP) publicó recientemente un documento titulado “El plan para una Ley de Derechos de Inteligencia Artificial: Hacer que los sistemas automatizados funcionen para el pueblo estadounidense”. Este marco se publicó un año después de que la OSTP anunciara el lanzamiento de un proceso para desarrollar “una ley de derechos para un mundo impulsado por la inteligencia artificial”.

El prefacio de este proyecto de ley ilustra claramente que la Casa Blanca entiende las amenazas inminentes a la sociedad que plantea la inteligencia artificial. Esto es lo que se establece en el prefacio:

“Entre los grandes desafíos que enfrenta la democracia hoy en día se encuentra el uso de la tecnología, los datos y los sistemas automatizados de manera que amenazan los derechos del público estadounidense. Con demasiada frecuencia, estas herramientas se utilizan para limitar nuestras oportunidades y evitar nuestro acceso a recursos o servicios críticos. Estos problemas están bien documentados. En Estados Unidos y en todo el mundo, los sistemas supuestamente diseñados para ayudar en la atención al paciente han demostrado ser inseguros, ineficaces o sesgados. Los algoritmos utilizados en la contratación y las decisiones crediticias se han encontrado que reflejan y reproducen las desigualdades existentes o incorporan nuevos sesgos y discriminación perjudiciales. La recopilación de datos de las redes sociales sin control se ha utilizado para amenazar las oportunidades de las personas, socavar su privacidad o rastrear su actividad de manera invasiva, a menudo sin su conocimiento o consentimiento”.

Lo que esta Ley de Derechos y el marco que propone significará para el futuro de la inteligencia artificial aún está por verse. Lo que sabemos es que nuevos desarrollos están surgiendo a un ritmo exponencial. Lo que una vez se consideró imposible, la traducción instantánea de lenguaje es ahora una realidad, y al mismo tiempo tenemos una revolución en la comprensión del lenguaje natural (NLU) liderada por OpenAI y su famosa plataforma GPT-3.

Desde entonces, hemos visto la generación instantánea de imágenes a través de una técnica llamada Difusión Estable que pronto puede convertirse en un producto de consumo mainstream. En esencia, con esta tecnología, un usuario puede simplemente escribir cualquier consulta que pueda imaginar, y como por arte de magia, la inteligencia artificial generará una imagen que coincida con la consulta.

Al considerar el crecimiento exponencial y la Ley de Aceleración de Retornos, pronto llegará un momento en que la inteligencia artificial habrá tomado el control de todos los aspectos de la vida diaria. Las personas y las empresas que sepan esto y se aprovechen de este cambio de paradigma obtendrán beneficios. Desafortunadamente, un gran segmento de la sociedad puede ser víctima de las consecuencias intencionadas y no intencionadas de la inteligencia artificial.

La Ley de Derechos de Inteligencia Artificial tiene como objetivo apoyar el desarrollo de políticas y prácticas que protejan los derechos civiles y promuevan los valores democráticos en la creación, implementación y gobernanza de sistemas automatizados. Cómo se comparará esta ley con el enfoque de China aún está por verse, pero es una ley de derechos que tiene el potencial de cambiar el panorama de la inteligencia artificial, y es probable que sea adoptada por aliados como Australia, Canadá y la Unión Europea.

Dicho esto, la Ley de Derechos de Inteligencia Artificial es no vinculante y no constituye una política del gobierno de Estados Unidos. No suplanta, modifica ni dirige la interpretación de ninguna ley, reglamento, política o instrumento internacional existente. Lo que esto significa es que dependerá de las empresas y los gobiernos cumplir con las políticas establecidas en este documento.

Esta ley ha identificado cinco principios que deben guiar el diseño, el uso y la implementación de sistemas automatizados para proteger al público estadounidense en la era de la inteligencia artificial. A continuación, se describen los 5 principios:

1. Sistemas Seguros y Eficaces

Hay un peligro claro y presente para la sociedad por parte de los sistemas de inteligencia artificial abusivos, específicamente aquellos que dependen del aprendizaje profundo. Esto se intenta abordar con estos principios:

“Deberías estar protegido de sistemas inseguros o ineficaces. Los sistemas automatizados deberían desarrollarse con la consulta de comunidades, partes interesadas y expertos en el dominio para identificar preocupaciones, riesgos y posibles impactos del sistema. Los sistemas deberían someterse a pruebas previas a la implementación, identificación y mitigación de riesgos, y monitoreo continuo que demuestre que son seguros y eficaces en función de su uso previsto, mitigación de resultados inseguros, incluidos aquellos más allá del uso previsto, y cumplimiento de los estándares específicos del dominio. Los resultados de estas medidas de protección deberían incluir la posibilidad de no implementar el sistema o retirarlo del uso. Los sistemas automatizados no deberían diseñarse con la intención o la posibilidad razonable de poner en peligro tu seguridad o la seguridad de tu comunidad. Deberían diseñarse para protegerte proactivamente de los daños que surgen de usos no intencionados o impactos de los sistemas automatizados. Deberías estar protegido de un uso inapropiado o irrelevante de los datos en el diseño, desarrollo y implementación de los sistemas automatizados, y del daño acumulado de su reutilización. La evaluación y el informe independientes que confirman que el sistema es seguro y eficaz, incluido el informe de los pasos tomados para mitigar los daños potenciales, deberían realizarse y los resultados deberían hacerse públicos siempre que sea posible.”

2. Protecciones contra la Discriminación Algorítmica

Estas políticas abordan algunos de los problemas más graves cuando se trata de que las empresas abusan de los individuos.

Un problema común al contratar personal utilizando sistemas de inteligencia artificial es que el sistema de aprendizaje profundo a menudo se entrena con datos sesgados para llegar a conclusiones de contratación. Esto significa esencialmente que las malas prácticas de contratación en el pasado resultarán en discriminación de género o racial por parte de un agente de contratación. Un estudio indicó la dificultad de intentar desgenerar los datos de entrenamiento.

Otro problema fundamental con los datos sesgados por parte de los gobiernos es el riesgo de encarcelación injusta, o incluso peor, algoritmos de predicción de criminalidad que ofrecen sentencias más largas a las minorías.

“Deberías no enfrentar discriminación por parte de algoritmos y los sistemas deberían utilizarse y diseñarse de manera equitativa. La discriminación algorítmica ocurre cuando los sistemas automatizados contribuyen a un trato o impactos injustificados que desfavorecen a las personas en función de su raza, color, etnia, sexo (incluido el embarazo, el parto y las condiciones médicas relacionadas, la identidad de género, el estado intersexual y la orientación sexual), religión, edad, origen nacional, discapacidad, estatus de veterano, información genética o cualquier otra clasificación protegida por la ley. Dependiendo de las circunstancias específicas, tal discriminación algorítmica puede violar las protecciones legales. Los diseñadores, desarrolladores y desplegadores de sistemas automatizados deberían tomar medidas proactivas y continuas para proteger a los individuos y las comunidades de la discriminación algorítmica y para utilizar y diseñar los sistemas de manera equitativa. Esta protección debería incluir evaluaciones de equidad proactivas como parte del diseño del sistema, el uso de datos representativos y la protección contra proxies de características demográficas, garantizando la accesibilidad para las personas con discapacidades en el diseño y el desarrollo, pruebas de disparidad y mitigación previas a la implementación y continuas, y una supervisión organizativa clara. La evaluación y el informe independientes en forma de evaluación de impacto algorítmico, incluidos los resultados de las pruebas de disparidad y la información de mitigación, deberían realizarse y hacerse públicos siempre que sea posible para confirmar estas protecciones.”

Debería tenerse en cuenta que Estados Unidos ha adoptado un enfoque muy transparente en cuanto a la inteligencia artificial, estas son políticas diseñadas para proteger al público en general, un contraste claro con los enfoques de inteligencia artificial adoptados por China.

3. Privacidad de Datos

Este principio de privacidad de datos es el que probablemente afectará al mayor segmento de la población. La primera mitad del principio parece preocuparse por la recopilación de datos, específicamente con los datos recopilados a través de Internet, un problema conocido especialmente para las plataformas de redes sociales. Estos mismos datos pueden utilizarse para vender anuncios, o incluso peor, para manipular la opinión pública y influir en las elecciones.

“Deberías estar protegido de prácticas abusivas de datos a través de protecciones integradas y deberías tener control sobre cómo se utilizan los datos sobre ti. Deberías estar protegido de violaciones de la privacidad a través de decisiones de diseño que garanticen que tales protecciones estén incluidas por defecto, incluyendo garantizar que la recopilación de datos se ajuste a expectativas razonables y que solo se recopilen datos estrictamente necesarios para el contexto específico. Los diseñadores, desarrolladores y desplegadores de sistemas automatizados deberían buscar tu permiso y respetar tus decisiones con respecto a la recopilación, el uso, el acceso, la transferencia y la eliminación de tus datos de manera apropiada y en la mayor medida posible; cuando no sea posible, deberían utilizarse salvaguardias alternativas de privacidad por diseño. Los sistemas no deberían emplear decisiones de diseño y experiencia del usuario que oscurezcan la elección del usuario o carguen a los usuarios con valores predeterminados que invaden la privacidad. El consentimiento solo debería utilizarse para justificar la recopilación de datos en casos en los que pueda darse de manera apropiada y significativa. Cualquier solicitud de consentimiento debería ser breve, ser comprensible en lenguaje plano y darte control sobre la recopilación de datos y el contexto específico de uso; las prácticas actuales de notificación y elección difíciles de entender para usos generales de datos deberían cambiarse.”

La segunda mitad del principio de Privacidad de Datos parece estar preocupada por la vigilancia tanto de los gobiernos como de las empresas.

Actualmente, las empresas pueden monitorear y espiar a los empleados, en algunos casos puede ser para mejorar la seguridad en el lugar de trabajo, durante la pandemia de COVID-19 fue para hacer cumplir el uso de mascarillas, la mayoría de las veces se hace simplemente para monitorear cómo se utiliza el tiempo en el trabajo. En muchos de estos casos, los empleados se sienten como si estuvieran siendo monitoreados y controlados más allá de lo que se considera aceptable.

“Deberías estar protegido de la vigilancia y la recopilación de datos sin control; las tecnologías de vigilancia deberían estar sujetas a una supervisión reforzada que incluya al menos una evaluación previa a la implementación de sus posibles daños y límites de alcance para proteger la privacidad y las libertades civiles. La vigilancia y el monitoreo continuos no deberían utilizarse en la educación, el trabajo, la vivienda o en otros contextos en los que el uso de tales tecnologías de vigilancia sea probable que limite los derechos, las oportunidades o el acceso. Siempre que sea posible, deberías tener acceso a informes que confirmen que tus decisiones sobre los datos han sido respetadas y proporcionen una evaluación del impacto potencial de las tecnologías de vigilancia en tus derechos, oportunidades o acceso.”

Debería tenerse en cuenta que la inteligencia artificial puede utilizarse para el bien para proteger la privacidad de las personas.

4. Notificación y Explicación

Esto debería ser el llamado a la acción para que las empresas desplieguen un consejo asesor de ética de inteligencia artificial, así como impulsar el desarrollo de inteligencia artificial explicativa. La inteligencia artificial explicativa es necesaria en caso de que un modelo de inteligencia artificial cometa un error, entender cómo funciona la inteligencia artificial permite el diagnóstico fácil de un problema.

La inteligencia artificial explicativa también permitirá el intercambio transparente de información sobre cómo se utilizan los datos y por qué se tomó una decisión por parte de la inteligencia artificial. Sin inteligencia artificial explicativa, será imposible cumplir con estas políticas debido al problema de la caja negra del aprendizaje profundo.

Las empresas que se centren en mejorar estos sistemas también incurrirán en beneficios positivos al comprender las complejidades y matices detrás de por qué un algoritmo de aprendizaje profundo tomó una decisión específica.

“Deberías saber que se está utilizando un sistema automatizado y entender cómo y por qué contribuye a los resultados que te afectan. Los diseñadores, desarrolladores y desplegadores de sistemas automatizados deberían proporcionar documentación en lenguaje plano y accesible, incluyendo descripciones claras del funcionamiento general del sistema y el papel que desempeña la automatización, notificación de que tales sistemas están en uso, la persona u organización responsable del sistema, y explicaciones de los resultados que son claras, oportunas y accesibles. Dicha notificación debería mantenerse actualizada y las personas afectadas por el sistema deberían ser notificadas de cambios significativos en el uso o la funcionalidad clave. Deberías saber cómo y por qué se determinó un resultado que te afecta por parte de un sistema automatizado, incluyendo cuando el sistema automatizado no es la única entrada que determina el resultado. Los sistemas automatizados deberían proporcionar explicaciones que sean técnicamente válidas, significativas y útiles para ti y para cualquier operador u otras personas que necesiten entender el sistema, y calibradas al nivel de riesgo en función del contenido. Los informes que incluyen información resumida sobre estos sistemas automatizados en lenguaje plano y evaluaciones de la claridad y la calidad de la notificación y las explicaciones deberían hacerse públicos siempre que sea posible.”

5. Alternativas Humanas, Consideración y Recuperación

A diferencia de la mayoría de los principios anteriores, este principio es más aplicable a entidades gubernamentales o instituciones privatizadas que trabajan en nombre del gobierno.

Incluso con un consejo asesor de ética de inteligencia artificial y una inteligencia artificial explicativa, es importante recurrir a la revisión humana cuando están en juego vidas. Siempre hay un potencial de error, y tener una revisión humana de un caso cuando se solicite podría evitar un escenario como el de una inteligencia artificial que envía a las personas equivocadas a la cárcel.

El sistema judicial y penal tiene más probabilidades de causar daños irreparables a los miembros marginados de la sociedad y debería prestar especial atención a este principio.

“Deberías poder optar por no participar, cuando corresponda, y tener acceso a una persona que pueda considerar y remediar rápidamente los problemas que encuentres. Deberías poder optar por no participar en los sistemas automatizados a favor de una alternativa humana, cuando corresponda. La idoneidad debería determinarse en función de expectativas razonables en un contexto determinado y con un enfoque en garantizar la accesibilidad general y proteger al público de impactos especialmente perjudiciales. En algunos casos, una alternativa humana puede ser requerida por la ley. Deberías tener acceso a una consideración y remedio humanos oportunos y a una recuperación de problemas si cualquier sistema automatizado falla, produce un error o deseas apelar o impugnar su impacto en ti. La consideración y la recuperación humanas deberían ser accesibles, equitativas, efectivas, mantenidas, acompañadas de una capacitación adecuada para los operadores y no deberían imponer una carga injustificada al público. Los sistemas automatizados con un uso previsto en dominios sensibles, incluyendo, pero no limitado a, el sistema penal, el empleo, la educación y la salud, deberían adaptarse además al propósito, proporcionar un acceso significativo a la supervisión, incluir capacitación para cualquier persona que interactúe con el sistema e incorporar una consideración humana para decisiones adversas o de alto riesgo. Los informes que incluyen una descripción de estos procesos de gobernanza humana y una evaluación de su oportunidad, accesibilidad, resultados y eficacia deberían hacerse públicos siempre que sea posible.”

Resumen

La OSTP debería recibir crédito por intentar introducir un marco que conecta los protocolos de seguridad necesarios para la sociedad, sin introducir políticas draconianas que podrían obstaculizar el progreso en el desarrollo del aprendizaje automático.

Después de que se describen los principios, el proyecto de ley continúa proporcionando un complemento técnico a los problemas que se discuten, así como información detallada sobre cada principio y las mejores formas de avanzar en la implementación de estos principios.

Los propietarios de negocios y las empresas astutas deberían prestar atención para estudiar este proyecto de ley, ya que solo puede ser ventajoso implementar estas políticas lo antes posible.

La inteligencia artificial explicativa continuará dominando en importancia, como se puede ver en esta cita del proyecto de ley.

“A lo largo del gobierno federal, las agencias están llevando a cabo y apoyando investigaciones sobre sistemas de inteligencia artificial explicativa. El NIST está llevando a cabo investigaciones fundamentales sobre la explicabilidad de los sistemas de inteligencia artificial. Un equipo multidisciplinario de investigadores tiene como objetivo desarrollar métodos de medición y mejores prácticas para apoyar la implementación de los principios básicos de la inteligencia artificial explicativa. La Agencia de Investigación y Desarrollo Avanzado de Defensa tiene un programa sobre Inteligencia Artificial Explicativa que tiene como objetivo crear una suite de técnicas de aprendizaje automático que produzcan modelos más explicativos, manteniendo al mismo tiempo un alto nivel de rendimiento del aprendizaje (precisión de predicción), y permitir a los usuarios humanos entender, confiar apropiadamente y gestionar de manera efectiva la generación emergente de socios artificialmente inteligentes. El programa de la Fundación Nacional de Ciencia sobre Justicia en la Inteligencia Artificial también incluye un interés específico en la investigación de los fundamentos de la inteligencia artificial explicativa.”

Lo que no debería pasarse por alto es que eventualmente los principios descritos aquí se convertirán en el nuevo estándar.