Etikk
Microsoft utvider Content Integrity-verktøy for å støtte globale valg blant bekymringer om generativ AI
Legg til Unite.AI blant dine foretrukne kilder på Google
Året 2024 vil være et betydningsfullt år for valg verden over, med at Den europeiske union holder parlamentariske valg i sommer og omtrent halvparten av Europas land forbereder seg til nasjonale eller regionale valg. Mens denne demokratiske øvelsen utvikler seg, har den raske fremgangen i generativ AI reist spørsmål om dens potensielle innvirkning på valg og den bredere informasjonsøkosystemet. Bekymringer har oppstått om teknologiens evne til å generere diversifisert innhold i høy hastighet og dens potensielle bruk i å spre desinformasjon.
Microsofts annonsering
I lys av disse utviklingene, har Microsoft (MSFT ) annonsert utvidelsen av sine Content Integrity-verktøy private forhåndsvisning til politiske partier og kampanjer i Den europeiske union, samt nyhetsorganisasjoner verden over. Selskapet har uttalt at verktøyene er designet for å hjelpe organisasjoner med å informere velgere om opphavet til innholdet de møter på nettet.
Content Integrity-verktøyene lar organisasjoner feste sikre “Content Credentials” til sitt originale media, og gir informasjon om hvem som skapte eller publiserte innholdet, hvor og når det ble skapt, om det ble generert av AI, og om media har blitt redigert eller endret siden det ble skapt. Ved å støtte den bredt aksepterte Content Credentials-standarden, har Microsoft som mål å gjøre disse verktøyene tilgjengelige og kompatible på tvers av plattformer.
Hvordan Content Integrity-verktøy fungerer
Microsofts Content Integrity-verktøy består av tre hovedkomponenter. Først og fremst er det en webapplikasjon som er tilgjengelig for politiske kampanjer, nyhetsorganisasjoner og valgmyndigheter, som lar dem legge til Content Credentials til sitt innhold. For det andre er det en privat mobilapplikasjon, utviklet i samarbeid med Truepic, som muliggjør at brukerne kan fange sikre og autentiserte bilder, videoer og lyd ved å legge til Content Credentials i sanntid fra sine smarttelefoner. For det tredje er det en offentlig nettside tilgjengelig for faktasjekking og det generelle publikummet for å se gjennom bilder, lyd og video for å se om det finnes Content Credentials.
Content Credentials-standarden gir en måte å autentisere media og informere brukerne om dens opphav. Det er imidlertid verdt å merke seg at denne standarden har møtt kritikk for den relative lettheten med hvilken metadata kan fjernes fra innhold. I tillegg finnes det for øyeblikket ingen pålitelig metode for å oppdage AI-generert tekst, noe som presenterer en pågående utfordring i kampen mot desinformasjon.
Det første av de tre bildene har Content Credentials applied. (Kilde: Microsoft)
Microsofts bredere valgbeskyttelsesbestrebelser
Microsoft har erkjent at Content Integrity-verktøyene alene ikke er en fullstendig løsning på problemet med bedragerisk media i valg. Selskapet har understreket at disse verktøyene er en del av en bredere forsvarsstrategi mot misbruk av AI-generert innhold.
Tidligere i år sluttet Microsoft seg til Tech Accord to Combat Deceptive Use of AI sammen med 20 andre selskaper. Dette initiativet har som mål å takle misbruk av video, lyd og bilder som endrer utseendet, stemmen eller handlingene til politiske kandidater og valgmyndigheter. Microsoft samarbeider også med globale politiske partier for å gi støtte og opplæring om å navigere i utfordringene som AI presenterer i valg. I tillegg tilbyr selskapet cybersikkerhetsstøtte gjennom sitt Campaign Success-team og AccountGuard-program for å hjelpe med å beskytte mot nasjonale cyberangrep som målretter valg.
Et kritisk skritt i å beskytte valgintegritet
Ettersom de globale valgene i 2024 nærmer seg, representerer utvidelsen av Microsofts Content Integrity-verktøy et kritisk skritt i å beskytte integriteten til demokratiske prosesser i møte med utviklende teknologiske utfordringer. Ved å gi politiske partier, kampanjer og nyhetsorganisasjoner midler til å autentisere sitt media og informere velgere om opphavet til nettinnhold, bidrar Microsoft til å skape et mer gjennomsiktig og pålitelig informasjonsøkosystem.
Det er imidlertid viktig å erkjenne at Content Integrity-verktøyene bare er ett puzzlestykke i kampen mot det potensielle misbruk av generativ AI i valg. Lettheten med hvilken metadata kan fjernes fra innhold og mangelen på pålitelige metoder for å oppdage AI-generert tekst understreker behovet for kontinuerlig forskning, samarbeid og vigilans i dette området.
Microsofts forpliktelse til å beskytte valg verden over gjennom initiativer som Tech Accord, støtte til politiske partier og cybersikkerhetsstøtte, demonstrerer selskapets erkjennelse av den mangfoldige naturen til utfordringen. Ettersom teknologien fortsetter å utvikle seg og trussellandskapet endrer seg, vil det være avgjørende for industrilederne, politiske beslutningstakere og sivilsamfunnet å samarbeide for å utvikle og implementere komprehensive strategier for å beskytte integriteten til demokratiske prosesser i den digitale tidsalderen.
