Hvem vil beskytte os mod AI-genereret desinformation?

Generativ AI er gået fra nul til hundred på under et år. Mens det er tidligt, har det vist sit potentiale til at forandre forretning. Det kan vi alle være enige om. Hvor vi divergerer, er i, hvordan vi kan indeholde de farer, det stiller.

For at være tydelig, er jeg pro-innovation, og langt fra en frygtsom. Men den seneste stigning i misinformations-aktiviteter – primært rettet mod polarisering omkring kontroversielle emner i øjeblikket – har gjort det klart, at hvis det ikke kontrolleres, kunne generativ AI volde stor skade på samfundene.

Vi har set denne film før med sociale medier, men det tog år og hårde lektioner, før vi vågnede op til dets fejl. Vi har (formodentlig) lært noget. Spørgsmålet i dag er hvem der vil hjælpe med at dæmpe bølgen af virkelighedsforvrængning fra generativ AI, og hvordan?

Forudsigeligt er regeringer begyndt at handle. Europa er i spidsen for dette, som de har vist mere og mere i regulering af teknologi. USA er lige bagved, med præsident Biden, der udstedte en ekssekutiv ordre sidste oktober.

Men det vil kræve en global landsby, der handler sammen, for at “holde generativ AI ærlig.” Og før regering kan hjælpe, har den brug for at forstå begrænsningerne af de tilgængelige tilgange.

Identitetsproblemet er blevet meget værre

I denne nye verden bliver sandheden en nål i en høstak af meninger, der udgiver sig for at være fakta. At vide hvem indholdet kommer fra betyder mere end nogensinde.

Og det er ikke så let som at dekretære, at hver enkelt sociale mediekonto skal være identitetsverificeret. Der er stærk modstand mod det, og i nogle tilfælde er anonymitet nødvendig for at beskytte konto-indehaverne. Desuden er mange forbrugere af det værste indhold ikke bekymret for, om det er troværdigt, eller hvor det kommer fra.

Trods disse forbehold er identitetens potentielle rolle i at tackle generativ AI underestimeret. Skeptikere, hør mig ud.

Lad os forestille os, at regulering eller social samvittighed får platforme til at give hver enkelt bruger disse valg:

1. Verificere deres identitet eller ej, og
2. Offentligt afsløre deres verificerede identitet, eller blot være markeret som “ID-verificeret”

Så kan det sociale medie-publikum bedre afgøre, hvem der er troværdig. Lige så vigtigt, om ikke mere, understøtter identitet ansvarlighed. Platforme kan beslutte, hvilke handlinger der skal træffes mod serie-“desinformations-forbrydere” og gentagne misbrugere af AI-genereret indhold, selv hvis de dukker op under forskellige brugernavne.

Med generativ AI, der øger indsatsen, mener jeg, at identitet – at vide præcis hvem der har publiceret hvad – er afgørende. Nogle vil modsætte sig det, og identitet er ikke en omfattende løsning. I virkeligheden vil ingen løsning tilfredsstille alle interessenter. Men hvis regulering tvinger platformene til at tilbyde identitetsverificering til alle konti, er jeg overbevist om, at effekten vil være en enorm positiv.

Moderations-dilemmaet

Indholdsmoderation – både automatisk og menneskelig – er den sidste forsvarslinje mod uønsket indhold. Menneskelig moderation er et hårdt job, med risiko for psykisk skade fra eksponering for det værste, som menneskeheden kan tilbyde. Det er også dyrt og ofte beskyldt for den fordømte censur, som platformene stræber efter at reducere.

Automatisk moderation kan skalere ud over menneskelig kapacitet til at tackle de enorme mængder nye indhold, men det fejler i at forstå kontekst (memes er et almindeligt eksempel) og kulturelle nuancer. Begge former for moderation er afgørende og nødvendige, men de er kun en del af løsningen.

Den ofte-hørte, konventionelle recept til at kontrollere generativ AI er: “Sammenarbejde mellem teknologilederne, regeringen og civilsamfundet er nødvendigt.” Ja, men hvad specifikt?

Regeringerne, for deres del, kan presse sociale og medie-platforme til at tilbyde identitetsverificering og prominentt vise det på alle indlæg. Regulatorer kan også banke vej for troværdighedsmål, der faktisk hjælper med at bedømme, om en kilde er troværdig. Sammenarbejde er nødvendigt for at udvikle universelle standarder, der giver specifik vejledning og retning, så den private sektor ikke behøver at gætte.

Til sidst, skal det være ulovligt at skabe ondsindet AI-udgang? Lovgivning, der forbyder indhold, der er beregnet til ulovlig aktivitet, kunne reducere mængden af giftigt indhold og lette byrden på moderatorerne. Jeg ser ikke regulering og love som i stand til at besejre desinformation, men de er essentielle i at konfrontere truslen.

Solsiden af gaden: innovation

Innovationsløftet gør mig til en optimist her. Vi kan ikke forvente, at politikere eller platform-ejere fuldt ud kan beskytte os mod AI-genereret bedrag. De efterlader en stor lukke, og det er netop det, der vil inspirere opfindelse af nye teknologier til at autentificere indhold og opdage falskneri.

Siden vi nu kender bagsiden af sociale medier, har vi været hurtige til at indse, at generativ AI kunne vise sig at være en enorm net-negativ for menneskeheden, med dens evne til at polarisere og forføre.

Optimistisk ser jeg fordelene ved multi-prongede tilgange, hvor kontrolmetoder arbejder sammen, først ved kildekilden, begrænsning af indhold designet til ulovlig brug. Herefter, før offentliggørelse, verificering af identiteten af dem, der afviser anonymitet. Næste, tydelig mærkning for at vise troværdighedsvurderinger og posterens identitet eller manglen på den. Til sidst kan automatisk og menneskelig moderation filtrere nogle af det værste ud. Jeg forventer, at ny autentificeringsteknologi kommer online snart.

Tilføj det hele, og vi vil have en langt bedre, om end ikke perfekt, løsning. Imens skal vi bygge vores færdighedsniveau op for at afgøre, hvad der er virkeligt, hvem der siger sandheden, og hvem der prøver at narre os.