Las propuestas de regulación de deepfake en Europa y el Reino Unido son sorprendentemente limitadas

ECONOMÉTRICOS Para los activistas que esperan que 2022 sea el año en que las imágenes falsificadas caigan dentro de un ámbito legal más estricto, los primeros indicadores no son prometedores.

El pasado jueves el Parlamento Europeo ratificado reformas a la Ley de Servicios Digitales (DSA, que entrará en vigor en 2023), en lo que respecta a la difusión de deepfakes. Las modificaciones abordan los deepfakes en dos secciones, cada una directamente relacionada con la publicidad en línea: la enmienda 1709 relativa al artículo 30 y una enmienda relacionada al artículo 63.

La primera propone un artículo completamente nuevo 30a, Titulado falsificaciones profundas, Que dice lo siguiente:

'Cuando una plataforma en línea muy grande se da cuenta de que una pieza de contenido es una imagen, audio o video generado o manipulado que se asemeja apreciablemente a personas, objetos, lugares u otras entidades o eventos existentes y falsamente parece ser auténtico o veraz para una persona (falsificaciones profundas), el proveedor etiquetará el contenido de manera que informe que el contenido no es auténtico y que sea claramente visible para el destinatario de los servicios.

El segundo añade texto al artículo 63 existente, que se ocupa principalmente de aumentar la transparencia de las grandes plataformas publicitarias. El texto pertinente dice:

"Además, las plataformas en línea muy grandes deben etiquetar cualquier video, audio u otros archivos falsos profundos conocidos".

Efectivamente, la legislación parece estar preparándose para la práctica creciente de 'falsificaciones profundas legítimas', donde el permiso tiene sido concedido y derechos garantizados para el intercambio de caras en material promocional o publicitario, como el de la empresa de telecomunicaciones rusa Telefon uso con licencia de la identidad de Bruce Willis en una campaña publicitaria reciente.

Vacilación para legislar

La DSA, hasta el momento, no parece abordar las preocupaciones de los activistas sobre el uso de técnicas de falsificación profunda, ya que son más comúnmente utilizado – para refundir vídeos pornográficos. Tampoco aborda hasta qué punto, si es que hay alguno, el uso pendiente de deepfakes en películas y televisión deberá ser negado a los espectadores de la misma manera que lo serán los deepfakes en la publicidad, al menos en la UE, a partir de 2023.

El proceso de ratificación de la DSA ahora pasa a la negociación con los estados miembros de la UE, junto con el alcance más amplio de la Ley de Mercados Digitales (DMA).

Europol de diciembre de 2020 reporte Usos maliciosos y abusos de la inteligencia artificial afirmó que sería un error que la UE abordara las tecnologías deepfake actuales específicas (como cara profunda en vivo), lo que podría llevar a que la legislación de la UE se ponga constantemente al día con el marco o método más reciente.

El reporte fijado:

“En particular, esas políticas deben ser independientes de la tecnología para ser efectivas a largo plazo y evitar tener que revisarlas y reemplazarlas regularmente a medida que evoluciona la tecnología detrás de la creación y el abuso de deepfakes.

"Sin embargo, tales medidas también deben evitar obstruir las aplicaciones positivas de las GAN".

El comentario final en la cita anterior, con respecto a Redes generativas antagónicas (GAN) caracteriza ampliamente la vacilación de Europa y América del Norte a la hora de aplicar leyes que podrían obstaculizar un sector emergente de investigación de IA que ya se percibe como cayendo detrás de asia (cuyas naciones más didácticas han sido capaz de acelerar la legislación deepfake).

Por ejemplo, un 2018 reporte del Comité Selecto de Inteligencia Artificial del Reino Unido en la Cámara de los Lores enfatiza varias veces el riesgo de permitir que la timidez frene el desarrollo de la IA en la nación, ejemplificado en su título: IA en el Reino Unido: ¿preparada, dispuesta y capaz?. En abril pasado, Gran Bretaña también se convirtió en el primer país en dar luz verde al despliegue de coches autónomos en autopistas.

Estados Unidos no es menos ávido; en los Estados Unidos, The Brookings Institution ha instó la necesidad de una mayor legislación para la IA en los Estados Unidos, criticando a los legisladores por su punto de vista de "esperar y ver" sobre las ramificaciones de las tecnologías de aprendizaje automático

Además del enfoque insípido de la DSA para abordar las preocupaciones sociales (en lugar de políticas) en torno a las falsificaciones profundas, la UE marco regulatorio propuesto para la IA, lanzado en abril de 2021, fue objeto de críticas inmediatas por su propia evasión del tema.

Escasa regulación de Deepfake en el Reino Unido

Como una decepción adicional para los activistas contra las falsificaciones profundas como la autora Helen Mort, quien hizo una campaña prominente para la nueva legislación del Reino Unido en 2021 después de haber sido representado sin consentimiento en videos pornográficos falsos profundos, un informe publicado hoy por el Comité Digital, Cultura, Medios y Deporte del Parlamento del Reino Unido critica el gobierno británico por no abordar las falsificaciones profundas en el Proyecto de ley de seguridad en línea.

Citando la compensación legal actual del proyecto de ley contra el abuso de deepfake como "poco clara y poco práctica", el reporte sugiere que la legislación propuesta no hace nada para abordar el estado 'legal pero dañino' de las técnicas de manipulación de imágenes y videos pornográficos asistidos por IA:

'[Recomendamos] que el gobierno aborde de manera proactiva los tipos de contenido que son técnicamente legales, como partes insidiosas de secuencias de abuso infantil como migas de pan y tipos de violencia en línea contra mujeres y niñas como 'nudificación' de mujeres habilitada por tecnología y pornografía falsa. , llevándolos a su ámbito de aplicación ya sea a través de la legislación primaria o como tipos de contenido nocivo amparados por los deberes de cuidado.'

La ley aplicable actual en el Reino Unido se limita a la difusión de imágenes 'reales', como casos de pornografía de venganza, donde, por ejemplo, una expareja comparte públicamente material explícito confidencial y privado. Si un perseguidor lleva a cabo y publica material ultrafalso que superpone la identidad de su 'objetivo' en contenido pornográfico, solo puede ser procesado si acosa directamente al objetivo dirigiendo el material hacia él o en virtud de la legislación relacionada con los derechos de autor.

En el primer caso, la facilidad con la que el nuevo contenido falso profundo atrae la atención y los espectadores significa casi inevitablemente que la víctima será informada por amigos preocupados o terceros no relacionados, en lugar de por la persona que los falsificó, lo que permite que la viralidad de dicho material proteja el deepfaker, cuyo trabajo aún 'alcanza el objetivo'.

En el último caso, el enjuiciamiento probablemente solo sería factible cuando un video pornográfico de terceros no manipulado (en el que luego se superpone la identidad de la víctima) se produce profesionalmente y se protege legítimamente bajo el dominio de derechos de autor del Reino Unido (aunque un video adecuado puede obtenerse libremente de cualquier jurisdicción legal en el mundo). Un video 'aficionado' de cualquier jurisdicción carece de un estado claro de derechos de autor, y un video a medida que el deepfaker ha filmado expresamente para superponer a la víctima está (irónicamente) protegido por las leyes de derechos de autor, siempre que cumpla con otras leyes.

Detrás de la curva

En diciembre de 2021, la Comisión Jurídica del Reino Unido propuesto para extender las leyes de incitación al odio para cubrir la hostilidad basada en el sexo, pero no propuso la inclusión de deepfakes en esta categoría, a pesar de los múltiples ejemplos de dicho uso en todo el mundo (especialmente en la india) de la tecnología que se usa como arma contra las mujeres políticas y las mujeres activistas. Las mujeres son abrumadoramente el objetivo del contenido ilícito de deepfake, ya sea que los motivos de los falsificadores sean abiertamente sociales (es decir, la intención de humillar, eliminar la plataforma y desempoderar) o simplemente de naturaleza lasciva (es decir, pornográfica).

En marzo de 2021, la National Law Review, con sede en Illinois tomó el marco legal del Reino Unido a la tarea como 'totalmente inadecuado en la actualidad para lidiar con falsificaciones profundas', e incluso carente de mecanismos legales básicos que protejan la semejanza de una persona.

Leyes de Deepfake en los Estados Unidos

Por el contrario, Estados Unidos protege hasta cierto punto el 'Derecho de publicidad' de sus ciudadanos, aunque no a nivel federal (en la actualidad, tales estatutos existen en Estados Unidos). aproximadamente la mitad de los estados de EE. UU., con mecanismos legales muy variados).

Si bien es una mejora en el desempeño del Reino Unido en la legislación sobre falsificación profunda, EE. UU. solo puede presumir de una cobertura esporádica por estado, y parece decidido a abordar los problemas de la tecnología. potencial para la manipulación política antes de pasar, eventualmente, a su impacto en los particulares.

En 2019 el Estado de Texas fuera de la ley la creación o difusión de político deepfakes, con el proyecto de ley 751 del Senado de Texas (SB751), omitiendo cualquier declaración sobre pornografía deepfake. El mismo año, el Estado de Virginia añadió una enmienda a una ley existente con respecto a la Difusión o venta ilícita de imágenes de otro, agregando el término ampliamente abarcador 'imagen videográfica o fija creada falsamente'.

En 2020, el Estado de California promulgó California Assembly Bill 602 (AB 602) prohibiendo la generación o difusión de deepfakes pornográficos. El proyecto de ley no tiene una cláusula de caducidad, pero tiene un plazo de prescripción de tres años y va acompañado de una cláusula separada que cubre las falsificaciones políticas profundas.

A fines de 2020, el Estado de Nueva York aprobó proyecto de ley del Senado S5959D, que no solo prohíbe la creación y/o republicación de deepfakes pornográficos, sino que protege activamente el derecho de publicidad de un usuario con respecto a un generado por computadora semejanza a través de deepfakes, CGI o cualquier otro medio, incluso después de la muerte (si la persona en cuestión era residente de Nueva York en el momento de su muerte).

Finalmente, el Estado de Maryland ha modificada sus leyes sobre pornografía infantil para abarcar y criminalizar el uso de deepfakes, aunque no aborda el impacto de deepfakes en objetivos adultos.

Esperando 'DeepfakeGate'

La historia indica que el daño que pueden generar las nuevas tecnologías tiene que ser con a una nación para acelerar su respuesta legislativa. El muy reciente muerte de una adolescente en Egipto quien supuestamente estaba siendo chantajeada con pornografía falsa de sí misma ha recibido cobertura limitada en los medios occidentales*, mientras que las revelaciones sobre el robo de $35 millones de dólares en los Emiratos Árabes Unidos, que salió a la luz en 2021, también representan un 'evento distante' que probablemente no acelere el Senado, o encienda un fuego en los 45 estados restantes que aún no han promulgado la legislación deepfake.

Si EE. UU. adopta un frente más unido en torno al abuso de la tecnología deepfake, la legislación generalizada probablemente afectaría el aspecto de gobernanza de las telecomunicaciones y la infraestructura y el almacenamiento de datos, lo que conduciría a cambios rápidos de política de recuperación impuestos a sus socios comerciales en todo el mundo. El hecho de que la adopción del RGPD por parte de Europa no se "cruzara" en última instancia con la política de recopilación y retención de datos de América del Norte no significa que la UE no pueda ganar influencia sobre las naciones menos obedientes con las que comercia, en caso de que alguna vez tome un postura legislativa más comprometida sobre la generación, el almacenamiento y la retención de pornografía falsa.

Pero primero tiene que suceder algo en la 'zona cero', en uno de estos grupos líderes de países; y todavía lo estamos esperando: una colosal red oscura de MASI por parte de las autoridades; un atraco importante que utiliza tecnologías de falsificación profunda basadas en audio y/o video para engañar a un American director de la empresa en el desvío de una gran cantidad de dinero; o un equivalente estadounidense del creciente uso de deepfakes para victimizar a las mujeres en países más patriarcales (si, de hecho, la cultura estadounidense está realmente equipada para reflejar estos eventos, lo cual es cuestionable). Estas son cosas difíciles de desear y cosas buenas que evitar al cualquier otro método que esconder la cabeza en la arena, o esperar un evento 'incendiario'.

Un problema central, que la UE está eludiendo actualmente al dirigir su destreza legislativa a las empresas de publicidad que quieres para promover sus deepfakes inteligentes y legítimos, es que los deepfakes permanecen difícil de detectar algorítmicamente; la mayoría de los métodos de detección que aparecen en arXiv todos los meses dependen de la marca de agua, la verificación basada en blockchain o, de alguna manera, el cambio de toda la infraestructura que usamos actualmente para consumir video libremente, soluciones que implican una revisión legal radical de la noción de video como un proxy para la 'verdad'. El resto se ve superado de forma rutinaria por los avances en curso en los populares repositorios de deepfake de código abierto.

Otro problema es que las principales naciones occidentales tienen toda la razón, en cierto sentido, al no ofrecer una reacción instintiva a un solo hilo problemático en una serie de nuevas tecnologías de IA, muchas de las cuales prometen un inmenso beneficio para la sociedad y la industria, y muchos de los cuales podrían verse afectados negativamente de alguna manera si la proscripción y la regulación impetuosas de los sistemas de síntesis de imágenes comenzaran en serio, en respuesta a un evento importante y al clamor subsiguiente.

Sin embargo, podría ser una buena idea al menos acelerar el camino lento y, a veces, sin rumbo que estamos tomando hacia la regulación de las falsificaciones profundas, y enfrentar los problemas potenciales en el medio y en nuestros propios términos, en lugar de ser forzados por eventos posteriores en una respuesta menos considerada.

* Los presuntos responsables están siendo acusados ​​de chantaje; no existe una ley egipcia que cubra la pornografía falsificada.

Publicado por primera vez el 24 de enero de 2022.