¿Qué significa la Ley de Derechos de la Inteligencia Artificial de la Casa Blanca para América y el resto del mundo

La Oficina de Política Científica y Tecnológica de la Casa Blanca (OSTP) acaba de publicar un documento titulado “El plan para una Ley de Derechos de la Inteligencia Artificial: Hacer que los sistemas automatizados funcionen para el pueblo estadounidense”. Este marco se publicó un año después de que la OSTP anunciara el lanzamiento de un proceso para desarrollar “una ley de derechos para un mundo impulsado por la inteligencia artificial”.

El prefacio de este proyecto de ley ilustra claramente que la Casa Blanca entiende las amenazas inminentes a la sociedad que plantea la inteligencia artificial. Esto es lo que se establece en el prefacio:

“Entre los grandes desafíos que se plantean a la democracia hoy en día está el uso de la tecnología, los datos y los sistemas automatizados de manera que amenazan los derechos del público estadounidense. Con demasiada frecuencia, estas herramientas se utilizan para limitar nuestras oportunidades y prevenir nuestro acceso a recursos o servicios críticos. Estos problemas están bien documentados. En Estados Unidos y en todo el mundo, los sistemas supuestamente diseñados para ayudar en la atención al paciente han demostrado ser inseguros, ineficaces o sesgados. Los algoritmos utilizados en la contratación y las decisiones crediticias han sido encontrados para reflejar y reproducir las desigualdades no deseadas o incorporar nuevos prejuicios y discriminación perjudiciales. La recopilación de datos de las redes sociales sin control ha sido utilizada para amenazar las oportunidades de las personas, socavar su privacidad o rastrear su actividad de manera invasiva, a menudo sin su conocimiento o consentimiento”.

Lo que esta Ley de Derechos y el marco que propone significará para el futuro de la inteligencia artificial aún está por verse. Lo que sabemos es que están surgiendo nuevos desarrollos a un ritmo exponencial. Lo que una vez se consideró imposible, la traducción instantánea de lenguaje es ahora una realidad, y al mismo tiempo estamos experimentando una revolución en la comprensión del lenguaje natural (NLU) liderada por OpenAI y su famosa plataforma GPT-3.

Desde entonces, hemos visto la generación instantánea de imágenes a través de una técnica llamada Difusión Estable que pronto podría convertirse en un producto de consumo mainstream. En esencia, con esta tecnología, un usuario puede simplemente escribir cualquier consulta que pueda imaginar, y como por arte de magia, la inteligencia artificial generará una imagen que coincida con la consulta.

Cuando se considera el crecimiento exponencial y la Ley de Aceleración de Retornos, pronto llegará un momento en que la inteligencia artificial habrá tomado el control de todos los aspectos de la vida diaria. Las personas y las empresas que sepan esto y se aprovechen de este cambio de paradigma obtendrán beneficios. Desafortunadamente, un gran segmento de la sociedad puede ser víctima de las consecuencias intencionadas y no intencionadas de la inteligencia artificial.

La Ley de Derechos de la Inteligencia Artificial tiene como objetivo apoyar el desarrollo de políticas y prácticas que protejan los derechos civiles y promuevan los valores democráticos en la creación, implementación y gobernanza de sistemas automatizados. Cómo esta ley se comparará con el enfoque de China aún está por verse, pero es una ley de derechos que tiene el potencial de cambiar el panorama de la inteligencia artificial, y es probable que sea adoptada por aliados como Australia, Canadá y la Unión Europea.

Esto dicho, la Ley de Derechos de la Inteligencia Artificial es no vinculante y no constituye una política del gobierno de los Estados Unidos. No suplanta, modifica o dirige una interpretación de ninguna ley, reglamento, política o instrumento internacional existente. Lo que significa que dependerá de las empresas y los gobiernos cumplir con las políticas establecidas en este documento.

Esta ley ha identificado cinco principios que deben guiar el diseño, uso y despliegue de sistemas automatizados para proteger al público estadounidense en la era de la inteligencia artificial, a continuación se describen los 5 principios:

1. Sistemas Seguros y Efectivos

Hay un peligro claro y presente para la sociedad por sistemas de inteligencia artificial abusivos, específicamente aquellos que dependen del aprendizaje profundo. Esto se intenta abordar con estos principios:

“Debes estar protegido contra sistemas inseguros o ineficaces. Los sistemas automatizados deben desarrollarse en consulta con comunidades, partes interesadas y expertos en el dominio para identificar preocupaciones, riesgos y posibles impactos del sistema. Los sistemas deben someterse a pruebas previas a la implementación, identificación de riesgos y mitigación, y monitoreo continuo que demuestre que son seguros y efectivos según su uso previsto, mitigación de resultados inseguros, incluidos aquellos más allá del uso previsto, y adherencia a estándares específicos del dominio. Los resultados de estas medidas de protección deben incluir la posibilidad de no implementar el sistema o retirarlo del uso. Los sistemas automatizados no deben diseñarse con la intención o posibilidad razonable de poner en peligro tu seguridad o la seguridad de tu comunidad. Deben diseñarse para protegerte proactivamente contra daños que provienen de usos no intencionados o impactos previsibles de los sistemas automatizados. Debes estar protegido contra el uso inapropiado o irrelevante de los datos en el diseño, desarrollo y despliegue de los sistemas automatizados, y del daño compuesto por su reutilización. La evaluación y el informe independientes que confirman que el sistema es seguro y efectivo, incluido el informe de los pasos tomados para mitigar los daños potenciales, deben realizarse y los resultados deben hacerse públicos siempre que sea posible”.

2. Protecciones contra la Discriminación Algorítmica

Estas políticas abordan algunos de los problemas más importantes cuando se trata de que las empresas abusan de las personas.

Un problema común cuando se contrata personal utilizando sistemas de inteligencia artificial es que el sistema de aprendizaje profundo a menudo se entrena con datos sesgados para llegar a conclusiones de contratación. Esto esencialmente significa que las malas prácticas de contratación en el pasado resultarán en discriminación de género o racial por parte de un agente de contratación. Un estudio indicó la dificultad de intentar desgenerar los datos de entrenamiento.

Otro problema fundamental con los datos sesgados de los gobiernos es el riesgo de encarcelación injusta, o incluso peor, algoritmos de predicción de criminalidad que ofrecen sentencias más largas a las minorías.

“No debes enfrentar discriminación por algoritmos y los sistemas deben utilizarse y diseñarse de manera equitativa. La discriminación algorítmica ocurre cuando los sistemas automatizados contribuyen a un trato o impacto desfavorable no justificado hacia las personas en función de su raza, color, etnia, sexo (incluido el embarazo, el parto y las condiciones médicas relacionadas, la identidad de género, el estatus intersexual y la orientación sexual) religión, edad, origen nacional, discapacidad, estatus de veterano, información genética o cualquier otra clasificación protegida por la ley. Dependiendo de las circunstancias específicas, como la discriminación algorítmica puede violar las protecciones legales. Los diseñadores, desarrolladores y desplegadores de sistemas automatizados deben tomar medidas proactivas y continuas para proteger a las personas y las comunidades de la discriminación algorítmica y para utilizar y diseñar sistemas de manera equitativa. Esta protección debe incluir evaluaciones de equidad proactivas como parte del diseño del sistema, uso de datos representativos y protección contra proxies para características demográficas, garantizando la accesibilidad para las personas con discapacidades en el diseño y el desarrollo, pruebas de disparidad y mitigación antes y después de la implementación, y una supervisión organizativa clara. La evaluación y el informe independientes en forma de evaluación de impacto algorítmico, incluidos los resultados de las pruebas de disparidad y la información de mitigación, deben realizarse y hacerse públicos siempre que sea posible para confirmar estas protecciones”.

Debería tenerse en cuenta que EE. UU. ha tomado un enfoque muy transparente cuando se trata de la inteligencia artificial, estas son políticas diseñadas para proteger al público en general, un claro contraste con los enfoques de la inteligencia artificial tomados por China.

3. Privacidad de Datos

Este principio de privacidad de datos es el que probablemente afecte al mayor segmento de la población. La primera mitad del principio parece preocuparse por la recopilación de datos, específicamente con los datos recopilados a través de Internet, un problema conocido especialmente para las plataformas de redes sociales. Estos mismos datos pueden utilizarse para vender anuncios, o incluso peor, manipular la opinión pública y influir en las elecciones.

“Debes estar protegido contra prácticas abusivas de datos a través de protecciones integradas y debes tener control sobre cómo se utilizan los datos sobre ti. Debes estar protegido contra las violaciones de la privacidad a través de decisiones de diseño que aseguren que estas protecciones estén incluidas de forma predeterminada, incluyendo garantizar que la recopilación de datos se ajuste a expectativas razonables, y que solo se recopilen datos estrictamente necesarios para el contexto específico. Los diseñadores, desarrolladores y desplegadores de sistemas automatizados deben buscar tu permiso y respetar tus decisiones con respecto a la recopilación, uso, acceso, transferencia y eliminación de tus datos de maneras apropiadas y en la mayor medida posible; cuando no sea posible, se deben utilizar salvaguardias de privacidad por diseño alternativas. Los sistemas no deben emplear decisiones de diseño y experiencia del usuario que oscurezcan la elección del usuario o carguen a los usuarios con valores predeterminados que invaden la privacidad. El consentimiento solo debe utilizarse para justificar la recopilación de datos en casos en los que pueda darse de manera apropiada y significativa. Cualquier solicitud de consentimiento debe ser breve, ser comprensible en lenguaje plano y darte control sobre la recopilación de datos y el contexto específico de uso; las prácticas actuales de notificación y elección para usos generales de datos deben cambiarse”.

La segunda mitad del principio de Privacidad de Datos parece estar preocupada por la vigilancia tanto de los gobiernos como de las empresas.

Actualmente, las empresas pueden monitorear y espiar a los empleados, en algunos casos puede ser para mejorar la seguridad en el lugar de trabajo, durante la pandemia de COVID-19 fue para hacer cumplir el uso de mascarillas, la mayoría de las veces se hace simplemente para monitorear cómo se utiliza el tiempo en el trabajo. En muchos de estos casos, los empleados se sienten monitoreados y controlados más allá de lo que se considera aceptable.

“Las protecciones y restricciones mejoradas para los datos y las inferencias relacionadas con dominios sensibles, incluidos la salud, el trabajo, la educación, la justicia penal y las finanzas, y para los datos relacionados con los jóvenes deben ponerte en primer lugar. En los dominios sensibles, tus datos y las inferencias relacionadas solo deben utilizarse para funciones necesarias, y debes estar protegido por la revisión ética y las prohibiciones de uso. Tú y tus comunidades deben estar libres de la vigilancia no controlada; las tecnologías de vigilancia deben estar sujetas a una supervisión reforzada que incluya al menos una evaluación previa a la implementación de sus posibles daños y límites de alcance para proteger la privacidad y las libertades civiles. La vigilancia y el monitoreo continuos no deben utilizarse en la educación, el trabajo, la vivienda o en otros contextos donde el uso de tales tecnologías de vigilancia sea probable que limite los derechos, las oportunidades o el acceso. Siempre que sea posible, debes tener acceso a informes que confirmen que se han respetado tus decisiones sobre los datos y que proporcionen una evaluación del impacto potencial de las tecnologías de vigilancia en tus derechos, oportunidades o acceso”.

Debería tenerse en cuenta que la inteligencia artificial puede utilizarse para proteger la privacidad de las personas.

4. Notificación y Explicación

Esto debería ser el llamado a la acción para que las empresas desplieguen un consejo asesor de ética de la inteligencia artificial, así como impulsar el desarrollo de inteligencia artificial explicativa. La inteligencia artificial explicativa es necesaria en caso de que un modelo de inteligencia artificial cometa un error, entender cómo funciona la inteligencia artificial permite el diagnóstico sencillo de un problema.

La inteligencia artificial explicativa también permitirá el intercambio transparente de información sobre cómo se utilizan los datos y por qué se tomó una decisión por parte de la inteligencia artificial. Sin inteligencia artificial explicativa, será imposible cumplir con estas políticas debido al problema de la caja negra del aprendizaje profundo.

Las empresas que se centran en mejorar estos sistemas también obtendrán beneficios positivos al comprender las complejidades detrás de por qué un algoritmo de aprendizaje profundo tomó una decisión específica.

“Debes saber que se está utilizando un sistema automatizado y entender cómo y por qué contribuye a los resultados que te afectan. Los diseñadores, desarrolladores y desplegadores de sistemas automatizados deben proporcionar documentación en lenguaje plano y accesible, incluyendo descripciones claras del funcionamiento general del sistema y el papel que juega la automatización, notificación de que se está utilizando dicho sistema, la persona u organización responsable del sistema, y explicaciones de los resultados que son claras, oportunas y accesibles. Dicha notificación debe mantenerse actualizada y las personas afectadas por el sistema deben ser notificadas de cambios significativos en el caso de uso o la funcionalidad clave. Debes saber cómo y por qué se determinó un resultado que te afecta por un sistema automatizado, incluyendo cuando el sistema automatizado no es la única entrada que determina el resultado. Los sistemas automatizados deben proporcionar explicaciones que sean técnicamente válidas, significativas y útiles para ti y para cualquier operador u otras personas que necesiten entender el sistema, y calibradas según el nivel de riesgo en función del contenido. Los informes que incluyen información resumida sobre estos sistemas automatizados en lenguaje plano y evaluaciones de la claridad y la calidad de la notificación y las explicaciones deben hacerse públicos siempre que sea posible”.

5. Alternativas Humanas, Consideración y Recursos

A diferencia de la mayoría de los principios anteriores, este principio es más aplicable a entidades gubernamentales o instituciones privatizadas que trabajan en nombre del gobierno.

Incluso con un consejo de ética de la inteligencia artificial y una inteligencia artificial explicativa, es importante recurrir a la revisión humana cuando están en juego vidas. Siempre hay un potencial de error, y tener una revisión humana de un caso cuando se solicite podría evitar un escenario como el de una inteligencia artificial que envía a las personas equivocadas a la cárcel.

El sistema judicial y penal tiene más margen para causar daños irreparables a los miembros marginados de la sociedad y debe prestar especial atención a este principio.

“Debes poder optar por no participar, cuando corresponda, y tener acceso a una persona que pueda considerar y remediar rápidamente los problemas que encuentres. Debes poder optar por no participar en los sistemas automatizados a favor de una alternativa humana, cuando corresponda. La idoneidad debe determinarse en función de expectativas razonables en un contexto determinado y con un enfoque en garantizar la accesibilidad general y proteger al público de impactos especialmente perjudiciales. En algunos casos, puede ser necesario un humano u otra alternativa por ley. Debes tener acceso a una consideración y recurso humanos oportunos si un sistema automatizado falla, produce un error o deseas apelar o impugnar su impacto en ti. La consideración y el recurso humanos deben ser accesibles, equitativos, efectivos, mantenidos, acompañados de capacitación adecuada para los operadores y no deben imponer una carga desproporcionada al público. Los sistemas automatizados con un uso previsto en dominios sensibles, incluidos, pero no limitados a, el sistema penal, el empleo, la educación y la salud, deben adaptarse adicionalmente al propósito, brindar un acceso significativo a la supervisión, incluir capacitación para cualquier persona que interactúe con el sistema e incorporar consideración humana para decisiones adversas o de alto riesgo. Los informes que incluyen una descripción de estos procesos de gobernanza humana y una evaluación de su oportunidad, accesibilidad, resultados y eficacia deben hacerse públicos siempre que sea posible”.

Resumen

La OSTP debe recibir crédito por intentar introducir un marco que conecta los protocolos de seguridad necesarios para la sociedad, sin introducir políticas draconianas que podrían obstaculizar el progreso en el desarrollo del aprendizaje automático.

Después de que se describen los principios, la ley continúa proporcionando un compañero técnico para los problemas que se discuten, así como información detallada sobre cada principio y las mejores formas de implementar estos principios.

Los propietarios de empresas y las empresas astutas deben tener en cuenta estudiar esta ley, ya que solo puede ser ventajoso implementar estas políticas lo antes posible.

La inteligencia artificial explicativa seguirá dominando en importancia, como se puede ver en esta cita de la ley.

“En todo el gobierno federal, las agencias están realizando y apoyando investigaciones sobre sistemas de inteligencia artificial explicativa. El NIST está realizando investigaciones fundamentales sobre la explicabilidad de los sistemas de inteligencia artificial. Un equipo multidisciplinario de investigadores tiene como objetivo desarrollar métodos de medición y mejores prácticas para apoyar la implementación de los principios básicos de la inteligencia artificial explicativa. La Agencia de Investigación y Desarrollo Avanzado de Defensa tiene un programa sobre Inteligencia Artificial Explicativa que tiene como objetivo crear un conjunto de técnicas de aprendizaje automático que produzcan modelos más explicativos, manteniendo al mismo tiempo un alto nivel de rendimiento del aprendizaje (precisión de la predicción), y permitir que los usuarios humanos comprendan, confíen adecuadamente y gestionen eficazmente la emergente generación de socios artificialmente inteligentes. El programa de la Fundación Nacional de Ciencia sobre Equidad en la Inteligencia Artificial también incluye un interés específico en las fundaciones de investigación para la inteligencia artificial explicativa”.

No debe pasarse por alto que, eventualmente, los principios establecidos aquí se convertirán en el nuevo estándar.