Ética
Microsoft Amplía las Herramientas de Integridad de Contenido para Apoyar las Elecciones Globales en Medio de Preocupaciones sobre la Inteligencia Artificial Generativa
El año 2024 está a punto de ser significativo para las elecciones en todo el mundo, con la Unión Europea celebrando elecciones parlamentarias este verano y aproximadamente la mitad de los países europeos preparándose para votaciones nacionales o regionales. A medida que se desarrolla este ejercicio democrático, el rápido avance de la inteligencia artificial generativa ha planteado preguntas sobre su posible impacto en las elecciones y el ecosistema de información más amplio. Han surgido preocupaciones sobre la capacidad de la tecnología para generar contenido diverso a alta velocidad y su posible uso en la difusión de desinformación.
Anuncio de Microsoft
En vista de estos desarrollos, Microsoft ha anunciado la expansión de la vista previa privada de sus herramientas de Integridad de Contenido a partidos y campañas políticas en la Unión Europea, así como a organizaciones de noticias en todo el mundo. La empresa declaró que las herramientas están diseñadas para ayudar a las organizaciones a informar a los votantes sobre el origen del contenido que encuentran en línea.
Las herramientas de Integridad de Contenido permiten a las organizaciones adjuntar “Credenciales de Contenido” seguras a sus medios originales, proporcionando información sobre quién creó o publicó el contenido, dónde y cuándo se creó, si se generó mediante inteligencia artificial y si el medio ha sido editado o alterado desde su creación. Al respaldar el estándar de Credenciales de Contenido ampliamente adoptado Content Credentials standard, Microsoft apunta a hacer que estas herramientas sean accesibles y interoperables en todas las plataformas.
Cómo Funcionan las Herramientas de Integridad de Contenido
Las herramientas de Integridad de Contenido de Microsoft consisten en tres componentes principales. Primero, hay una aplicación web accesible para campañas políticas, organizaciones de noticias y funcionarios electorales, que les permite agregar Credenciales de Contenido a su contenido. Segundo, una aplicación móvil privada, desarrollada en asociación con Truepic, permite a los usuarios capturar fotos, videos y audio seguros y autenticados agregando Credenciales de Contenido en tiempo real desde sus teléfonos inteligentes. Tercero, un sitio web público está disponible para verificadores de hechos y el público en general para revisar imágenes, audio y video en busca de la presencia de Credenciales de Contenido.
El estándar de Credenciales de Contenido proporciona un medio para autenticar los medios y informar a los usuarios sobre su procedencia. Sin embargo, es digno de destacar que este estándar ha enfrentado críticas por la relativa facilidad con la que los metadatos pueden ser eliminados del contenido. Además, actualmente no hay un método confiable para detectar texto generado por inteligencia artificial, lo que presenta un desafío continuo en la lucha contra la desinformación.
La primera de las tres imágenes tiene las Credenciales de Contenido aplicadas. (Fuente: Microsoft)
Esferas de Protección Electoral de Microsoft
Microsoft ha reconocido que las herramientas de Integridad de Contenido por sí solas no son una solución completa al problema de los medios engañosos en las elecciones. La empresa ha enfatizado que estas herramientas son parte de una estrategia de defensa más amplia contra el uso indebido del contenido generado por inteligencia artificial.
Al comienzo de este año, Microsoft se unió al Tech Accord to Combat Deceptive Use of AI junto con 20 otras empresas. Esta iniciativa apunta a abordar el uso indebido de video, audio e imágenes que alteran la apariencia, voz o acciones de candidatos y funcionarios electorales. Microsoft también está trabajando con partidos políticos globales para brindar apoyo y capacitación sobre cómo navegar los desafíos que plantea la inteligencia artificial en las elecciones. Además, la empresa ofrece asistencia de ciberseguridad a través de su equipo de Éxito de Campaña y el programa AccountGuard para ayudar a proteger contra los ciberataques estatales que apuntan a las elecciones.
Un Paso Crítico para Proteger la Integridad Electoral
A medida que se acercan las elecciones globales de 2024, la expansión de las herramientas de Integridad de Contenido de Microsoft representa un paso crítico para salvaguardar la integridad de los procesos democráticos frente a los desafíos tecnológicos en evolución. Al proporcionar a los partidos políticos, campañas y organizaciones de noticias los medios para autenticar sus medios y informar a los votantes sobre la procedencia del contenido en línea, Microsoft está contribuyendo a la creación de un ecosistema de información más transparente y confiable.
Sin embargo, es importante reconocer que las herramientas de Integridad de Contenido son solo una pieza del rompecabezas en la lucha contra el posible uso indebido de la inteligencia artificial generativa en las elecciones. La facilidad con la que los metadatos pueden ser eliminados del contenido y la falta actual de métodos confiables para detectar texto generado por inteligencia artificial subrayan la necesidad de investigación, colaboración y vigilancia continuas en este área.
El compromiso de Microsoft para proteger las elecciones en todo el mundo a través de iniciativas como el Tech Accord, el apoyo a los partidos políticos y la asistencia de ciberseguridad demuestra el reconocimiento de la empresa sobre la naturaleza multifacética del desafío. A medida que la tecnología continúa avanzando y el panorama de amenazas evoluciona, será crucial que los líderes de la industria, los formuladores de políticas y la sociedad civil trabajen juntos para desarrollar e implementar estrategias comprehensivas para salvaguardar la integridad de los procesos democráticos en la era digital.
