Ética
Microsoft amplía las herramientas de integridad de contenido para apoyar las elecciones globales en medio de las preocupaciones sobre la inteligencia artificial generativa
Añade Unite.AI a tus fuentes preferidas en Google
El año 2024 será significativo para las elecciones en todo el mundo, con la Unión Europea celebrando elecciones parlamentarias este verano y aproximadamente la mitad de los países europeos preparándose para votaciones nacionales o regionales. A medida que se desarrolla este ejercicio democrático, el rápido avance de la inteligencia artificial generativa ha planteado preguntas sobre su posible impacto en las elecciones y el ecosistema de información en general. Han surgido preocupaciones sobre la capacidad de la tecnología para generar contenido diverso a alta velocidad y su posible uso en la difusión de desinformación.
Anuncio de Microsoft
En vista de estos desarrollos, Microsoft (MSFT ) ha anunciado la expansión de la vista previa privada de sus herramientas de integridad de contenido a partidos y campañas políticas en la Unión Europea, así como a organizaciones de noticias de todo el mundo. La empresa declaró que las herramientas están diseñadas para ayudar a las organizaciones a informar a los votantes sobre el origen del contenido que encuentran en línea.
Las herramientas de integridad de contenido permiten a las organizaciones adjuntar “credenciales de contenido” seguras a sus medios originales, proporcionando información sobre quién creó o publicó el contenido, dónde y cuándo se creó, si se generó mediante inteligencia artificial y si los medios han sido editados o alterados desde su creación. Al respaldar el estándar de credenciales de contenido ampliamente adoptado, Microsoft tiene como objetivo hacer que estas herramientas sean accesibles e interoperables en todas las plataformas.
Cómo funcionan las herramientas de integridad de contenido
Las herramientas de integridad de contenido de Microsoft consisten en tres componentes principales. Primero, hay una aplicación web accesible para campañas políticas, organizaciones de noticias y funcionarios electorales, que les permite agregar credenciales de contenido a su contenido. Segundo, una aplicación móvil privada, desarrollada en colaboración con Truepic, permite a los usuarios capturar fotos, videos y audio seguros y autenticados agregando credenciales de contenido en tiempo real desde sus smartphones. Tercero, un sitio web público está disponible para que los verificadores de hechos y el público en general revisen imágenes, audio y video en busca de la presencia de credenciales de contenido.
El estándar de credenciales de contenido proporciona un medio para autenticar los medios y informar a los usuarios sobre su procedencia. Sin embargo, es importante destacar que este estándar ha enfrentado críticas por la relativa facilidad con la que se puede eliminar los metadatos del contenido. Además, actualmente no hay un método confiable para detectar texto generado por inteligencia artificial, lo que presenta un desafío continuo en la lucha contra la desinformación.
La primera de las tres imágenes tiene las credenciales de contenido aplicadas. (Fuente: Microsoft)
Esferas más amplias de protección electoral de Microsoft
Microsoft ha reconocido que las herramientas de integridad de contenido por sí solas no son una solución completa al problema de los medios engañosos en las elecciones. La empresa ha enfatizado que estas herramientas son parte de una estrategia de defensa más amplia contra el mal uso de contenido generado por inteligencia artificial.
Al comienzo de este año, Microsoft se unió al Acuerdo de tecnología para combatir el uso engañoso de la inteligencia artificial junto con 20 otras empresas. Esta iniciativa tiene como objetivo abordar el mal uso de video, audio e imágenes que alteran la apariencia, la voz o las acciones de los candidatos y funcionarios electorales. Microsoft también está trabajando con partidos políticos globales para brindar apoyo y capacitación sobre cómo navegar los desafíos planteados por la inteligencia artificial en las elecciones. Además, la empresa ofrece asistencia de ciberseguridad a través de su equipo de éxito de campaña y el programa AccountGuard para ayudar a proteger contra los ciberataques estatales que apuntan a las elecciones.
Un paso crítico para proteger la integridad electoral
A medida que se acercan las elecciones globales de 2024, la expansión de las herramientas de integridad de contenido de Microsoft representa un paso crítico para salvaguardar la integridad de los procesos democráticos frente a los desafíos tecnológicos en evolución. Al proporcionar a los partidos políticos, campañas y organizaciones de noticias los medios para autenticar sus medios y informar a los votantes sobre la procedencia del contenido en línea, Microsoft está contribuyendo a la creación de un ecosistema de información más transparente y confiable.
Sin embargo, es importante reconocer que las herramientas de integridad de contenido son solo una pieza del rompecabezas en la lucha contra el posible mal uso de la inteligencia artificial generativa en las elecciones. La facilidad con la que se pueden eliminar los metadatos del contenido y la falta actual de métodos confiables para detectar texto generado por inteligencia artificial subrayan la necesidad de investigación, colaboración y vigilancia continuas en este área.
El compromiso de Microsoft para proteger las elecciones en todo el mundo a través de iniciativas como el Acuerdo de tecnología, el apoyo a los partidos políticos y la asistencia de ciberseguridad demuestra el reconocimiento de la empresa de la naturaleza multifacética del desafío. A medida que la tecnología continúa avanzando y el panorama de amenazas evoluciona, será crucial que los líderes de la industria, los formuladores de políticas y la sociedad civil trabajen juntos para desarrollar e implementar estrategias comprehensivas para salvaguardar la integridad de los procesos democráticos en la era digital.
