Etik
Microsoft udvider Content Integrity-værktøjer til at støtte globale valg midt i bekymringer om generativ AI
Føj Unite.AI til dine foretrukne kilder på Google
Året 2024 vil være et betydningsfuldt år for valg verden over, da Den Europæiske Union afholder parlamentsvalg i sommer og omkring halvdelen af de europæiske lande forbereder sig på nationale eller regionale valg. Da denne demokratiske øvelse udvikler sig, har den hurtige udvikling af generativ AI rejst spørgsmål om dets potentielle indvirkning på valg og det bredere informationsøkosystem. Bekymringer er opstået om teknologiens evne til at generere diversificeret indhold i høj hastighed og dets potentielle brug til at sprede desinformation.
Microsofts meddelelse
I lyset af disse udviklinger har Microsoft meddelt (MSFT ), at de udvider deres Content Integrity-værktøjer i privat preview til politiske partier og kampagner i Den Europæiske Union, samt nyhedsorganisationer verden over. Selskabet erklærede, at værktøjerne er designet til at hjælpe organisationer med at informere vælgere om oprindelsen af det indhold, de møder online.
Content Integrity-værktøjerne giver organisationer mulighed for at tilføje sikre “Content Credentials” til deres originale medier, som giver information om, hvem der skabte eller offentliggjorde indholdet, hvor og hvornår det blev skabt, om det blev genereret af AI, og om mediet er blevet redigeret eller ændret siden dets skabelse. Ved at støtte den bredt accepterede Content Credentials-standard, sigter Microsoft mod at gøre disse værktøjer tilgængelige og interoperable på tværs af platforme.
Hvordan Content Integrity-værktøjer fungerer
Microsofts Content Integrity-værktøjer består af tre hovedkomponenter. Først er der en webapplikation, der er tilgængelig for politiske kampagner, nyhedsorganisationer og valgmyndigheder, som giver mulighed for at tilføje Content Credentials til deres indhold. Anden, en privat mobilapplikation, udviklet i samarbejde med Truepic, giver brugerne mulighed for at fange sikre og autentificerede fotos, videoer og lyd ved at tilføje Content Credentials i realtid fra deres smartphones. Tredje, en offentlig website er tilgængelig for faktatjek og den brede offentlighed til at gennemse billeder, lyd og video for tilstedeværelsen af Content Credentials.
Content Credentials-standarden giver en mulighed for at autentificere medier og informere brugere om deres oprindelse. Det er dog værd at bemærke, at denne standard har været udsat for kritik for den relative letthed, hvormed metadata kan fjernes fra indhold. Derudover findes der i øjeblikket ingen pålidelig metode til at detektere AI-genereret tekst, hvilket udgør en fortsat udfordring i kampen mod desinformation.
Det første af de tre billeder har Content Credentials anvendt. (Kilde: Microsoft)
Microsofts bredere valgbeskyttelsesindsats
Microsoft har erkendt, at Content Integrity-værktøjerne alene ikke er en komplet løsning på problemet med bedragerisk medie i valg. Selskabet har understreget, at disse værktøjer er en del af en bredere forsvarsstrategi mod misbrug af AI-genereret indhold.
Tidligere på året sluttede Microsoft sig til Tech Accord til at bekæmpe misbrug af AI sammen med 20 andre selskaber. Denne initiativ sigter mod at adressere misbrug af video, lyd og billeder, der ændrer udseendet, stemmen eller handlingerne af politiske kandidater og valgmyndigheder. Microsoft arbejder også med globale politiske partier for at give støtte og træning i at navigere i udfordringerne, som AI stiller i valg. Derudover tilbyder selskabet cybersikkerhedsassistance gennem deres Campaign Success-hold og AccountGuard-program til at hjælpe med at beskytte mod nationale cyberangreb, der målretter valg.
Et kritisk skridt i beskyttelsen af valgintegritet
Da de globale valg i 2024 nærmer sig, repræsenterer udvidelsen af Microsofts Content Integrity-værktøjer et kritisk skridt i beskyttelsen af valgintegriteten i mødet med udviklende teknologiske udfordringer. Ved at give politiske partier, kampagner og nyhedsorganisationer mulighed for at autentificere deres medier og informere vælgere om oprindelsen af online-indhold, bidrager Microsoft til skabelsen af et mere gennemsigtigt og troværdigt informationsøkosystem.
Det er dog vigtigt at erkende, at Content Integrity-værktøjerne kun er en del af puslespillet i bekæmpelsen af det potentielle misbrug af generativ AI i valg. Letten, hvormed metadata kan fjernes fra indhold, og manglen på pålidelige metoder til at detektere AI-genereret tekst, understreger behovet for fortsat forskning, samarbejde og vagtsomhed på dette område.
Microsofts engagement i at beskytte valg verden over gennem initiativer som Tech Accord, støtte til politiske partier og cybersikkerhedsassistance demonstrerer selskabets erkendelse af den multifacetterede natur af udfordringen. Da teknologien fortsætter med at udvikle sig, og trusselslandskabet ændrer sig, vil det være afgørende for branchens ledere, politikere og civilsamfund at arbejde sammen for at udvikle og implementere omfattende strategier for at beskytte integriteten af demokratiske processer i den digitale tidsalder.
