Crecientes llamadas a la regulación de la IA después de semanas de informes de noticias

En las últimas semanas, ha habido un aumento en las llamadas a una regulación más fuerte de la inteligencia artificial (IA). La preocupación surge después de que various historias de noticias mostraron los posibles abusos de la tecnología. Ahora, se plantean aún más preguntas con la publicación del esperado libro blanco sobre inteligencia artificial de la Comisión Europea (UE), que es el primer intento pan-nacional de regular la IA. Alrededor de la misma época, la Oficina de Política de Ciencia y Tecnología de la Casa Blanca (OSTP) publicó un informe sobre su Iniciativa de Inteligencia Artificial Americana.

Antes de la publicación del libro blanco de la UE, The Intercept publicó una historia de noticias sobre documentos internos de la Unión Europea filtrados. Según los documentos, la UE estaba considerando la creación de una red de bases de datos de reconocimiento facial en toda Europa. Las fuerzas policiales nacionales de 10 estados miembros de la UE produjeron un informe que pedía la creación y la interconexión de las bases de datos en cada estado miembro. Muchos temen que la creación de tales bases de datos inevitablemente se conectará con bases de datos similares en los Estados Unidos, lo que permitiría la consolidación de grandes cantidades de datos biométricos. Muchos esperaban que el libro blanco de la UE propusiera una prohibición de la regulación facial, pero no estaba allí.

Según Edin Omanovic, director de defensa de Privacy International, “Esto es preocupante a nivel nacional y a nivel europeo, especialmente ya que algunos países de la UE se inclinan hacia gobiernos más autoritarios”.

Una de las grandes historias de noticias de las últimas semanas, iniciada por una investigación del New York Times en enero, tiene que ver con la startup Clearview AI. La aplicación de reconocimiento facial de la empresa identifica a las personas mediante el uso de una base de datos de imágenes tomadas de las redes sociales. La aplicación compara una foto con la base de datos de más de 3 mil millones de imágenes procedentes de sitios como Facebook (META ), Venmo y Youtube. Una vez que la aplicación encuentra coincidencias, responde con enlaces al sitio donde se originaron las fotos. Esta tecnología podría llevar al descubrimiento de detalles personales sobre un individuo. Según el informe, la aplicación ha sido utilizada por más de 600 agencias de aplicación de la ley. Mientras que la base de datos de Clearview tiene más de 3 mil millones de imágenes, la base de datos del FBI solo contiene 641 millones de imágenes de ciudadanos estadounidenses.

La historia ha vuelto a surgir con un nuevo informe de BuzzFeed News (BZFD ) la semana pasada. Según el informe, la empresa ha considerado expandirse más allá de solo fines de aplicación de la ley, con minoristas, bienes raíces, banca y mercados internacionales en consideración. El informe también afirmó que la aplicación de reconocimiento facial ya ha sido vendida a miles de organizaciones en todo el mundo y ha sido utilizada por el Departamento de Justicia, ICE, Macy’s (M ), Walmart (WMT ) y la NBA. Quizás lo más problemático en la lista de clientes es un fondo de riqueza soberana en los Emiratos Árabes Unidos y miles de entidades gubernamentales.

Los nuevos desarrollos han generado preocupaciones entre los defensores de la privacidad sobre posibles usos de vigilancia masiva. Otra preocupación es la posibilidad de inexactitud con la tecnología, lo que lleva a que las agencias de aplicación de la ley apunten a individuos inocentes. Además de todas las preocupaciones sobre la privacidad, empresas como Facebook, Google (GOOGL ) y Twitter están amenazando con acciones legales. Además de las acciones legales privadas, al menos dos senadores de los Estados Unidos han declarado que tienen la intención de investigar a la empresa.

Un ejemplo del abuso de esta tecnología se puede ver dentro de la Agencia de Aduanas y Protección Fronteriza de los Estados Unidos (ICE). The Washington Post informó la semana pasada que los funcionarios de ICE han sido autorizados a utilizar tecnología de reconocimiento facial para buscar en millones de fotos de licencias de conducir de Maryland, y pueden hacerlo sin buscar la aprobación estatal o judicial.

Según Harrison Rudolph, asociado senior en el Centro de Privacidad y Tecnología de la Facultad de Derecho de la Universidad de Georgetown, “ICE está utilizando información biométrica en las sombras, sin aviso gubernamental o aprobación pública, para cazar a las personas más vulnerables”.

Estos son solo algunos de los ejemplos más públicos de cómo se está utilizando esta tecnología, pero mucho más está sucediendo detrás de escena. Debido a esto, ha habido un aumento en las llamadas a la escrutinio y la regulación. Un aumento en la transparencia, ya sea voluntaria o a través de informes de investigación, está llevando muchas prácticas a la luz. Sin que el público tenga una comprensión de la inteligencia artificial y lo que podría significar para la economía, el gobierno, la aplicación de la ley, la vigilancia y todos los demás aspectos de la sociedad, hay poca esperanza para que los gobiernos y las empresas se autoregulen. La sociedad está viendo tanto los enormes beneficios de la IA como las grandes preocupaciones, y todo está sucediendo demasiado rápido para que las empresas, los gobiernos y los individuos puedan seguir el ritmo.