China Propone un Aumento de la Regulación de los Deepfakes y Otros Sistemas de Síntesis de IA

La Administración del Ciberespacio de China (CAC) ha propuesto un nuevo conjunto de regulaciones provisionales para gobernar los sistemas de síntesis asistidos por IA, incluidos los deepfakes, escenas de realidad virtual, generación de texto, audio y otros subsectores de la síntesis de medios de IA – un campo en el que China produce un número prodigioso de artículos académicos y proyectos de investigación innovadores cada mes.

Un post (Google Translation, original here) en el sitio oficial de la CAC establece las obligaciones propuestas y caracteriza a los servicios afectados como ‘proveedores de servicios de síntesis profunda’, invitando a los ciudadanos a participar contribuyendo con comentarios sobre las propuestas provisionales, con un plazo límite del 28 de febrero.

No Solo Deepfakes

Aunque las regulaciones sugeridas se han informado en términos de su posible impacto en la creación y difusión de deepfakes, el documento intenta una visión general sobre la capacidad de los algoritmos para generar cualquier tipo de contenido que pueda interpretarse en el sentido ampliamente entendido de ‘medios’.

El Artículo 2 declara el alcance proyectado de las regulaciones en seis sectores*:

(1) Técnicas para generar o editar contenido de texto, como la generación de capítulos, la conversión de estilo de texto y el diálogo de preguntas y respuestas;

(2) Tecnologías para generar o editar contenido de voz, como la conversión de texto a voz, la conversión de voz y la edición de atributos de voz;

(3) Tecnologías para generar o editar contenido no vocal, como la generación de música y la edición de sonido de escena;

(4) Generación de caras, reemplazo de caras, edición de atributos de personajes, manipulación de caras, manipulación de gestos y otras tecnologías para generar o editar características biométricas como caras en contenido de imágenes y video;

(5) Técnicas para editar características no biológicas en imágenes y contenido de video, como la mejora de imágenes y la restauración de imágenes;

(6) Tecnologías para generar o editar escenas virtuales como la reconstrucción 3D.

Regulación de Deepfakes

China penalizó el uso de la IA para la difusión de noticias falsas a finales de 2019, en ese momento la CAC expresó su preocupación sobre las posibles implicaciones de la tecnología de deepfakes, lo que llevó a muchos a considerar que el gobierno chino eventualmente prohibiría la tecnología de deepfakes por completo.

Sin embargo, esto implicaría que China abandonaría oficialmente uno de los desarrollos más política y culturalmente significativos en la historia de la generación de medios, la IA y incluso la política, y se cortaría de los beneficios de la colaboración científica global y abierta.

Por lo tanto, parece que China ahora está decidida a experimentar con el control en lugar de la prohibición de la tecnología potencialmente deshonesta, que, muchos creen, eventualmente migrará de su fase de acelerador de pornografía a un conjunto legítimo y explotable de casos de uso, notablemente en el entretenimiento.

NeRF Incluido

El Artículo 2.6 se refiere a la generación o edición de escenas virtuales, como la reconstrucción 3D, una tecnología más naciente que la impersonación de deepfakes, y una que ha alcanzado la mayor prominencia en los últimos dos años a través del advenimiento de los Campos de Radiación Neural (NeRF), donde la fotogrametría se utiliza para sintetizar escenas enteras en el espacio latente explorable de los modelos de aprendizaje automático.

Sin embargo, NeRF se está expandiendo rápidamente desde los modelos y los recorridos de entornos a la generación de video de cuerpo completo, con investigadores chinos que han avanzado algunas innovaciones importantes en este respecto.

ST-NeRF de China en acción.

Aunque NeRF ha producido una tormenta de nuevas investigaciones desde su anuncio en 2020, su implementación en sistemas de RV o RA, o su idoneidad en pipelines de efectos visuales, todavía tiene muchos desafíos y cuellos de botella tecnológicos que atravesar. La creciente capacidad de NeRF para reconstituir y editar fisionomías humanas completas todavía no ha incorporado ninguna de las capacidades de transformación de identidad de deepfakes estándar que han caracterizado los titulares de noticias en los últimos dos años.

¿Deepfakes de Audio una Prioridad?

Si se toma el orden de la lista del Artículo 2 como una indicación de las tecnologías de síntesis profunda que China está más preocupada por controlar y regular, esto sugeriría que las noticias falsas generadas por IA basadas en texto son de preocupación principal, con la síntesis de voz por delante de los deepfakes de video en términos de su impacto potencial.

Si es así, esto se ajusta al hecho de que el deepfake de video aún no se ha utilizado en ningún delito no relacionado con la pornografía (Asia no ha dudado en penalizar el deepfake de pornografía), mientras que el deepfake de audio ha sido planteado como una tecnología activa en al menos dos delitos financieros importantes, en el Reino Unido en 2019, y en los Emiratos Árabes Unidos en 2021.

Las nuevas regulaciones provisionales obligan a los usuarios que deseen explotar la identidad de una persona a través del uso de sistemas de aprendizaje automático a buscar permiso escrito de la persona. Además, los medios sintetizados deben mostrar algún tipo de logotipo ‘destacado’ o marca de agua, o otros medios por los cuales la persona que consume el material pueda entender que el contenido es alterado o completamente fabricado. No está completamente claro cómo se puede lograr esto en el caso de los deepfakes de audio.

Registro

Si se ratifican, las propuestas provisionales obligarían a los proveedores de servicios de síntesis profunda a registrar sus aplicaciones pertinentes con el Estado, de acuerdo con las Disposiciones sobre la Administración de Recomendaciones de Algoritmos para Servicios de Información de Internet, y a cumplir con todos los procedimientos de archivo necesarios. Los proveedores de síntesis profunda también deberán cooperar libremente en términos de supervisión e inspección, y producir ‘apoyo y asistencia técnica y de datos necesarios’ a solicitud.

Además, dichos proveedores deberán establecer portales de usuario para quejas, y publicar límites de tiempo esperados para el procesamiento de dichas quejas, así como estar obligados a ofrecer ‘mecanismos de refutación de rumores’ – aunque las propuestas no proporcionan detalles con respecto a la implementación de esto.

Las infracciones podrían provocar multas de entre 10,000 y 100,000 yuan ($1,600 y $16,000), así como exponer a las empresas infractoras a demandas civiles y penales.

* Traducción por Google Translate, ver enlace al principio del artículo.

Publicado por primera vez el 28 de enero de 2022.