Crecientes llamadas a la regulación de la IA después de semanas de informes de noticias

En las últimas semanas, han aumentado las llamadas a una regulación más fuerte de la inteligencia artificial (IA). La preocupación surge después de que various historias de noticias revelaron los posibles abusos de la tecnología. Ahora, se plantean aún más preguntas con la publicación del esperado libro blanco sobre inteligencia artificial de la Comisión Europea (UE), que es el primer intento pan-nacional de regular la IA. Alrededor de la misma época, la Oficina de Política Científica y Tecnológica de la Casa Blanca (OSTP) publicó un informe sobre su Iniciativa de Inteligencia Artificial Americana. 

Antes de la publicación del libro blanco de la UE, The Intercept reveló una noticia sobre documentos internos de la Unión Europea filtrados. Según los documentos, la UE estaba considerando la creación de una red de bases de datos de reconocimiento facial en toda Europa. Las fuerzas policiales nacionales de 10 estados miembros de la UE produjeron un informe que pedía la creación y la interconexión de las bases de datos en cada estado miembro. Muchos temen que la creación de tales bases de datos inevitablemente estará conectada con similares en los Estados Unidos, lo que permitirá consolidar grandes cantidades de datos biométricos. Muchos esperaban que el libro blanco de la UE propusiera una prohibición de la regulación facial, pero no estaba allí. 

Según Edin Omanovic, director de defensa de Privacy International,  “Esto es preocupante a nivel nacional y a nivel europeo, especialmente cuando algunos países de la UE se inclinan hacia gobiernos más autoritarios”.

Una de las grandes noticias de las últimas semanas, iniciada por una investigación del New York Times en enero, tiene que ver con la startup Clearview AI. La aplicación de reconocimiento facial de la empresa identifica a las personas mediante el uso de una base de datos de imágenes tomadas de las redes sociales. La aplicación compara una foto con la base de datos de más de 3 mil millones de imágenes provenientes de sitios como Facebook, Venmo y Youtube. Una vez que la aplicación encuentra coincidencias, responde con enlaces al sitio donde se originaron las fotos. Esta tecnología podría llevar al descubrimiento de detalles personales sobre un individuo. Según el informe, la aplicación ha sido utilizada por más de 600 agencias de aplicación de la ley. Mientras que la base de datos de Clearview tiene más de 3 mil millones de imágenes, la base de datos del FBI solo contiene 641 millones de imágenes de ciudadanos estadounidenses. 

La historia ha estallado nuevamente con un nuevo informe de BuzzFeed News de la semana pasada. Según el informe, la empresa ha considerado expandirse más allá de solo fines de aplicación de la ley, con minoristas, bienes raíces, banca y mercados internacionales siendo considerados. El informe también afirmó que la aplicación de reconocimiento facial ya ha sido vendida a miles de organizaciones en todo el mundo y ha sido utilizada por el Departamento de Justicia, ICE, Macy’s, Walmart y la NBA. Quizás lo más problemático en la lista de clientes es un fondo de riqueza soberana de los Emiratos Árabes Unidos y miles de entidades gubernamentales.

Los nuevos desarrollos han causado preocupación entre los defensores de la privacidad sobre posibles usos de vigilancia masiva. Otra preocupación es la posibilidad de inexactitud con la tecnología, lo que lleva a que las fuerzas del orden objetivo a individuos inocentes. Además de todas las preocupaciones sobre la privacidad, empresas como Facebook, Google y Twitter están amenazando con acciones legales. Además de las acciones legales privadas, al menos dos senadores de los Estados Unidos han declarado que tienen la intención de investigar a la empresa.

Un ejemplo del abuso de esta tecnología se puede ver dentro de la Agencia de Inmigración y Control de Aduanas de los Estados Unidos (ICE). The Washington Post informó la semana pasada que los funcionarios de ICE han sido autorizados a utilizar tecnología de reconocimiento facial para buscar en millones de fotos de licencias de conducir de Maryland, y pueden hacerlo sin buscar la aprobación estatal o judicial. 

Según Harrison Rudolph, un asociado senior de la Escuela de Derecho de la Universidad de Georgetown, Centro sobre Privacidad y Tecnología, “ICE está utilizando información biométrica en las sombras, sin aviso gubernamental o aprobación pública, para cazar a las personas más vulnerables”. 

Estos son solo algunos de los ejemplos más públicos de cómo se está utilizando esta tecnología, pero mucho más está sucediendo detrás de escena. Debido a esto, ha habido un aumento en la llamada a la escrutinio y la regulación. La transparencia aumentada, ya sea voluntaria o a través de informes de investigación, está llevando muchas prácticas a la luz. Sin que el público tenga una comprensión de la inteligencia artificial y lo que podría significar para la economía, el gobierno, la aplicación de la ley, la vigilancia y todos los demás aspectos de la sociedad, hay poca esperanza de que los gobiernos y las empresas se auto-regulen. La sociedad está viendo tanto los enormes beneficios de la IA como las enormes preocupaciones, y todo está sucediendo demasiado rápido para que las empresas, los gobiernos y los individuos puedan seguir el ritmo.