etikk
Microsoft utvider innholdsintegritetsverktøy for å støtte globale valg blant generative AI-bekymringer
Året 2024 er satt til å bli et viktig år for valg over hele verden, med EU som holder parlamentsvalg denne sommeren og omtrent halvparten av europeiske land forbereder seg på nasjonale eller regionale avstemninger. Etter hvert som denne demokratiske øvelsen utfolder seg, har den raske utviklingen av generativ AI reist spørsmål om dens potensielle innvirkning på valg og det bredere informasjonsøkosystemet. Det har dukket opp bekymringer om teknologiens kapasitet til å generere mangfoldig innhold i høy hastighet og dens potensielle bruk for å spre desinformasjon.
Microsofts kunngjøring
I lys av denne utviklingen, Microsoft har annonsert utvidelsen av innholdsintegritetsverktøyets private forhåndsvisning til politiske partier og kampanjer i EU, samt nyhetsorganisasjoner rundt om i verden. Selskapet uttalte at verktøyene er utviklet for å hjelpe organisasjoner med å informere velgerne om opprinnelsen til innholdet de møter på nettet.
Verktøyene for innholdsintegritet lar organisasjoner knytte sikre "innholdslegitimasjoner" til sine originale medier, og gir informasjon om hvem som har laget eller publisert innholdet, hvor og når det ble opprettet, om det ble generert av AI, og om mediet er redigert eller endret siden opprettelsen. Ved å støtte de bredt vedtatte Innholdslegitimasjon standard, har Microsoft som mål å gjøre disse verktøyene tilgjengelige og interoperable på tvers av plattformer.
Hvordan innholdsintegritetsverktøy fungerer
Microsofts innholdsintegritetsverktøy består av tre hovedkomponenter. For det første er det en nettapplikasjon tilgjengelig for politiske kampanjer, nyhetsorganisasjoner og valgfunksjonærer, som lar dem legge til innholdslegitimasjon til innholdet sitt. For det andre en privat mobilapplikasjon utviklet i samarbeid med Truepic, gjør det mulig for brukere å ta sikre og autentiserte bilder, videoer og lyd ved å legge til innholdslegitimasjon i sanntid fra smarttelefonene sine. For det tredje, a offentlig nettsted er tilgjengelig for faktasjekkere og allmennheten for å se gjennom bilder, lyd og video for å se innholdslegitimasjon.
Innholdslegitimasjonsstandarden gir et middel til å autentisere media og informere brukere om dets herkomst. Det er imidlertid verdt å merke seg at denne standarden har møtt kritikk for den relative lettheten som metadata kan fjernes fra innholdet. I tillegg er det foreløpig ingen pålitelig metode for å oppdage AI-generert tekst, noe som utgjør en kontinuerlig utfordring i kampen mot desinformasjon.
Det første av de tre bildene har innholdslegitimasjonen brukt. (Kilde: Microsoft)
Microsofts bredere innsats for valgbeskyttelse
Microsoft har erkjent at innholdsintegritetsverktøyene alene ikke er en komplett løsning på problemet med villedende medier i valg. Selskapet har understreket at disse verktøyene er en del av en bredere forsvarsstrategi mot misbruk av AI-generert innhold.
Tidligere i år ble Microsoft med i Tech Accord for å bekjempe villedende bruk av AI sammen med 20 andre selskaper. Dette initiativet tar sikte på å adressere misbruk av video, lyd og bilder som endrer utseendet, stemmen eller handlingene til politiske kandidater og valgfunksjonærer. Microsoft jobber også med globale politiske partier for å gi støtte og opplæring i å navigere i utfordringene AI utgjør i valg. I tillegg tilbyr selskapet cybersikkerhetshjelp gjennom kampanjesuksessteamet og AccountGuard-programmet for å beskytte mot nettangrep fra nasjonalstater rettet mot valg.
Et kritisk skritt i å beskytte valgintegriteten
Når det globale valget i 2024 nærmer seg, representerer utvidelsen av Microsofts innholdsintegritetsverktøy et kritisk skritt for å sikre integriteten til demokratiske prosesser i møte med utviklende teknologiske utfordringer. Ved å gi politiske partier, kampanjer og nyhetsorganisasjoner midler til å autentisere mediene sine og informere velgerne om opprinnelsen til nettinnhold, bidrar Microsoft til å skape et mer transparent og pålitelig informasjonsøkosystem.
Det er imidlertid viktig å erkjenne at innholdsintegritetsverktøyene bare er en del av puslespillet for å bekjempe potensielt misbruk av generativ AI i valg. Den enkle metadata kan fjernes fra innhold og den nåværende mangelen på pålitelige metoder for å oppdage AI-generert tekst understreker behovet for pågående forskning, samarbeid og årvåkenhet på dette området.
Microsofts forpliktelse til å beskytte valg over hele verden gjennom initiativer som Tech Accord, støtte til politiske partier og cybersikkerhetshjelp viser selskapets anerkjennelse av utfordringens mangefasetterte natur. Ettersom teknologien fortsetter å utvikle seg og trussellandskapet utvikler seg, vil det være avgjørende for industriledere, beslutningstakere og sivilsamfunnet å samarbeide for å utvikle og implementere omfattende strategier for å ivareta integriteten til demokratiske prosesser i den digitale tidsalderen.
