Propuestas de regulación de deepfakes en Europa y el Reino Unido son sorprendentemente limitadas

Análisis Para los activistas que esperaban que 2022 fuera el año en que la imaginería deepfaked cayera dentro de un marco legal más estricto, los indicadores iniciales son poco prometedores.

El pasado jueves, el Parlamento Europeo ratificó enmiendas a la Ley de Servicios Digitales (DSA, que entrará en vigor en 2023), en cuanto a la difusión de deepfakes. Las modificaciones abordan los deepfakes en dos secciones, cada una relacionada directamente con la publicidad en línea: la enmienda 1709 relativa al artículo 30, y una enmienda relacionada con el artículo 63.

La primera propone un artículo completamente nuevo 30a, titulado Deep fakes, que establece:

‘Cuando una gran plataforma en línea se entera de que un contenido es una imagen, audio o video generado o manipulado que se asemeja a personas, objetos, lugares o entidades existentes y falsamente parece auténtico o veraz (deepfakes), el proveedor debe etiquetar el contenido de una manera que informe que el contenido es inauténtico y que sea claramente visible para el destinatario de los servicios.’

La segunda agrega texto al artículo 63 existente, que se ocupa principalmente de aumentar la transparencia de las grandes plataformas publicitarias. El texto pertinente establece:

‘Además, las grandes plataformas en línea deben etiquetar cualquier video, audio o archivo de deepfake conocido.’

En efecto, la legislación parece estar preparándose para la creciente práctica de ‘deepfakes legítimos’, donde se ha concedido permiso y se han asegurado los derechos para el intercambio de caras en material publicitario o promocional – como el uso licenciado por la compañía de telecomunicaciones rusa Telefon de la identidad de Bruce Willis en una campaña publicitaria reciente.

Dudas para legislar

La DSA, hasta ahora, no parece abordar las preocupaciones de los activistas sobre el uso de técnicas de deepfake como se utilizan con más frecuencia – para volver a emitir videos pornográficos. Tampoco aborda la medida en que, si la utilización de deepfakes en películas y televisión necesitará ser desestimada a los espectadores de la misma manera que los deepfakes en publicidad serán, al menos en la UE, a partir de 2023.

El proceso de ratificación de la DSA ahora pasa a la negociación con los estados miembros de la UE, junto con el ámbito más amplio de la Ley de Mercados Digitales (DMA).

El informe de Europol de diciembre de 2020 Malicious Uses and Abuses of Artificial Intelligence afirmó que sería un error para la UE abordar tecnologías de deepfake específicas actuales (como DeepFaceLive), lo que podría llevar a que la ley de la UE estuviera constantemente detrás de la última estructura o método.

El informe estableció:

‘En particular, esas políticas deben ser agnósticas en cuanto a la tecnología para ser efectivas a largo plazo y evitar tener que revisar y reemplazarlas con frecuencia a medida que evoluciona la tecnología detrás de la creación y el abuso de deepfakes. ‘

‘Sin embargo, esas medidas también deben evitar obstaculizar las aplicaciones positivas de las GANs.’

El comentario final en la cita anterior, sobre Redes Generativas Adversarias (GANs) en general, caracteriza la vacilación europea y norteamericana para aplicar leyes que podrían obstaculizar un sector de investigación de IA emergente que ya se considera retrasado en Asia (cuyas naciones más didácticas han podido aprobar rápidamente la legislación sobre deepfakes).

Por ejemplo, un informe de 2018 del Comité Selecto de Inteligencia Artificial de la Cámara de los Lores del Reino Unido enfatiza varias veces el riesgo de permitir que la timidez detenga el desarrollo de la IA en la nación, ejemplificado en su título: IA en el Reino Unido: listo, dispuesto y capaz!. El pasado abril, Gran Bretaña se convirtió en el primer país en autorizar el despliegue de coches autónomos en autopistas.

América no es menos ávida; en los Estados Unidos, la Institución Brookings ha instado a la necesidad de una mayor legislación para la IA en los Estados Unidos, criticando a los legisladores por su postura de ‘esperar y ver’ sobre las ramificaciones de las tecnologías de aprendizaje automático.

Además del enfoque insípido de la DSA para abordar las preocupaciones sociales (en lugar de políticas) en torno a los deepfakes, el marco regulatorio propuesto de la UE para la IA, lanzado en abril de 2021, fue criticado por su propia evasión del tema.

Escasa regulación de deepfakes en el Reino Unido

Como una decepción adicional para los activistas anti-deepfake como la autora Helen Mort, quien campañó prominentemente por una nueva legislación en el Reino Unido en 2021 después de ser representada sin consentimiento en videos pornográficos deepfakes, un informe publicado hoy por el Comité de Cultura Digital, Medios y Deportes del Parlamento del Reino Unido critica al gobierno británico por no abordar los deepfakes en el proyecto de ley de seguridad en línea.

Citando el proyecto de ley actual de reparación legal contra el abuso de deepfakes como ‘inclear y poco práctico’, el informe sugiere que la legislación propuesta no hace nada para abordar el estatus de ‘legal pero perjudicial’ de las técnicas de manipulación de video y imagen asistidas por IA:

‘[Recomendamos] que el gobierno aborde proactivamente los tipos de contenido que son técnicamente legales, como partes insidiosas de secuencias de abuso infantil como breadcrumbing y tipos de violencia en línea contra mujeres y niñas como la “nudificación” de mujeres y la pornografía deepfake, al traerlos dentro del alcance de la ley primaria o como tipos de contenido perjudicial cubierto por las obligaciones de cuidado.’

La ley actual aplicable en el Reino Unido se limita a la difusión de ‘imágenes reales’, como casos de venganza pornográfica, donde, por ejemplo, material explícito confidencial y privado se comparte públicamente por un ex pareja. Si un perseguidor crea y publica material deepfake que superpone la identidad de su ‘objetivo’ en contenido pornográfico, solo puede ser procesado si directamente acosa a la víctima dirigiendo el material hacia ellos, o bajo legislación relacionada con los derechos de autor.

En el primer caso, la facilidad con la que el nuevo contenido deepfake gana tracción y espectadores casi inevitablemente significa que la víctima será informada por amigos preocupados o terceros no relacionados, en lugar de por la persona que la deepfaked, lo que permite que la viralidad del material proteja al deepfaker, cuyo trabajo aún ‘llega al objetivo’.

En el segundo caso, el enjuiciamiento solo sería probablemente factible donde un video o imagen pornográfica no manipulada (en la que se superpone la identidad de la víctima) sea producida profesionalmente y protegida legítimamente bajo el dominio de derechos de autor del Reino Unido (aunque un video adecuado puede provenir libremente de cualquier jurisdicción legal en el mundo). Un video ‘amateur’ de cualquier jurisdicción carece de estatus de derechos de autor claro, y un video personalizado que el deepfaker ha filmado expresamente para superponer a la víctima es (irónicamente) protegido por las leyes de derechos de autor, siempre que cumpla con otras leyes.

Por detrás de la curva

En diciembre de 2021, la Comisión de Derecho del Reino Unido propuso ampliar las leyes de discurso de odio para cubrir la hostilidad basada en el sexo, pero no propuso la inclusión de deepfakes en esta categoría, a pesar de múltiples ejemplos de tal uso en todo el mundo (especialmente en la India) de la tecnología utilizada contra políticas y activistas femeninas. Las mujeres son abrumadoramente el objetivo de contenido deepfake ilícito, ya sea que las motivaciones de los falsificadores sean socialmente abiertas (es decir, la intención de humillar, desplatar y desempoderar) o simplemente prurientes (es decir, pornográficas) en la naturaleza.

En marzo de 2021, la National Law Review con sede en Illinois criticó el marco legal del Reino Unido como ‘totalmente inadecuado en la actualidad para tratar con deepfakes’, y incluso carece de mecanismos legales básicos que protejan la semejanza de una persona.

Leyes de deepfakes en los Estados Unidos

En contraste, los Estados Unidos protegen en cierta medida el ‘Derecho de Publicidad’ de sus ciudadanos, aunque no a nivel federal (en la actualidad, tales estatutos existen en aproximadamente la mitad de los estados de EE. UU., con mecanismos legales muy variables).

Aunque es una mejora en el desempeño del Reino Unido en la legislación sobre deepfakes, los EE. UU. solo pueden presumir de una cobertura estatal esporádica, y parece determinado a abordar el potencial de manipulación política de la tecnología antes de abordar su impacto en individuos privados.

En 2019, el estado de Texas prohibió la creación o difusión de deepfakes políticos, con el Proyecto de Ley del Senado de Texas 751 (SB751), omitiendo cualquier declaración sobre la pornografía deepfake. Ese mismo año, el estado de Virginia agregó una enmienda a una ley existente sobre la Difusión o venta ilegal de imágenes de otra persona, agregando el término amplio ‘imagen videográfica o estática falsamente creada’.

En 2020, el estado de California promulgó la Ley de la Asamblea de California 602 (AB 602) que prohíbe la generación o difusión de deepfakes pornográficos. La ley no tiene cláusula de caducidad, pero tiene un estatuto de limitaciones de tres años, y viene acompañada de una cláusula separada que cubre los deepfakes políticos.

Al final de 2020, el estado de Nueva York aprobó el proyecto de ley del Senado S5959D, que no solo prohíbe la creación y/o republicación de deepfakes pornográficos, sino que también protege activamente el derecho de publicidad de un usuario en cuanto a una semejanza generada por computadora a través de deepfakes, CGI o cualquier otro medio, incluso después de la muerte (si la persona en cuestión era residente de Nueva York en el momento de su muerte).

Finalmente, el estado de Maryland ha enmendado sus leyes sobre pornografía infantil para abarcar y criminalizar el uso de deepfakes, aunque no aborda el impacto de los deepfakes en los objetivos adultos.

Esperando a ‘DeepfakeGate’

La historia indica que el daño que las nuevas tecnologías pueden causar debe volverse personal para una nación para acelerar su respuesta legislativa. La muerte reciente de una adolescente en Egipto que presuntamente estaba siendo chantajeada con pornografía deepfake de sí misma ha recibido una cobertura limitada en los medios occidentales*, mientras que las revelaciones sobre el robo de $35 millones de dólares en los Emiratos Árabes Unidos, que salieron a la luz en 2021, también representan un ‘evento distante’ que no es probable que acelere el senado, o encienda un fuego bajo los 45 estados restantes que aún no han promulgado legislación sobre deepfakes.

Si los EE. UU. adoptan una postura más unificada en torno al abuso de la tecnología de deepfake, es probable que la legislación generalizada afecte el aspecto de gobernanza de las telecomunicaciones y la infraestructura y almacenamiento de datos, lo que llevaría a cambios políticos rápidos impuestos a sus socios comerciales en todo el mundo. El hecho de que la adopción de la GDPR por parte de Europa no haya ‘cruzado’ a la política de recopilación y retención de datos en América del Norte no significa que la UE no pueda ganar influencia sobre las naciones menos complacientes con las que comercia – si alguna vez toma una postura legislativa más comprometida sobre la generación, almacenamiento y retención de pornografía deepfake.

Pero algo tiene que suceder en ‘ground zero’ primero, en uno de estos grupos de países líderes; y todavía estamos esperando: una gran redada de CSAM por las autoridades; un gran robo que utilice tecnologías de deepfake de audio y/o video para engañar a un director de una empresa estadounidense para que desvíe una gran cantidad de dinero; o un equivalente estadounidense del uso creciente de deepfakes para victimizar a las mujeres en países más patriarcales (si, de hecho, la cultura estadounidense está realmente equipada para reflejar estos eventos, lo que es cuestionable). Estas son cosas difíciles de desear, y buenas de evitar por cualquier otro método que no sea enterrar la cabeza en la arena o esperar a un evento ‘incendiario’.

Un problema central, que la UE está sorteando actualmente dirigiendo su destreza legislativa a las compañías publicitarias que quieren promocionar sus deepfakes legítimos y astutos, es que los deepfakes siguen siendo difíciles de detectar algorítmicamente; la mayoría de los métodos de detección que aparecen en arXiv cada mes dependen del marcado de agua, la verificación basada en blockchain o de alguna manera cambiar toda la infraestructura que actualmente usamos para consumir video libremente – soluciones que implican una revisión legal radical de la noción de video como proxy de ‘verdad’. El resto es rutinariamente superado por los avances continuos en los repositorios de deepfakes de código abierto.

Un problema adicional es que las naciones occidentales importantes tienen razón, en un sentido, al no ofrecer una reacción impulsiva a una sola hebra problemática en una serie de nuevas tecnologías de IA, muchas de las cuales prometen un gran beneficio para la sociedad y la industria, y muchas de las cuales podrían ser adversamente afectadas de alguna manera si la proscripción y regulación de los sistemas de síntesis de imágenes comenzaran en serio, en respuesta a un evento importante y al consiguiente clamor.

<p.Sin embargo, podría ser una buena idea acelerar el lento y a veces sin rumbo que estamos tomando hacia la regulación de los deepfakes, y encontrar los problemas potenciales en el medio, y en nuestros propios términos, en lugar de ser forzados por eventos posteriores a una respuesta menos considerada.

* Los presuntos autores están siendo acusados de chantaje; no hay ley egipcia que cubra la pornografía deepfake.

Publicado por primera vez el 24 de enero de 2022.