Hvem vil beskytte oss mot AI-generert desinformasjon?

Generativ AI har gått fra null til hundre på under ett år. Mens det er tidlig, har det vist sitt potensiale til å transformere bedrifter. Det er noe vi alle kan være enige om. Hvor vi skilles er på hvordan vi skal begrense de farer det utgjør. 

For å være tydelig, jeg er for innovasjon, og langt ifra en frykthånd. Men den nylige økningen i desinformasjon—hovedsakelig rettet mot polarisering rundt kontroversielle spørsmål i øyeblikket—har gjort det klart at, hvis det ikke blir kontrollert, gen AI kunne ødelegge samfunnene våre.

Vi har sett denne filmen før med sosiale medier, men det tok år og harde lekser for oss å våkne opp til dens feil. Vi har (antageligvis) lært noe. Spørsmålet i dag er hvem som skal hjelpe med å stoppe strømmen av virkelighetsforvrengning fra gen AI, og hvordan? 

Forutsigbart, begynner regjeringer å handle. Europa leder an, som de har gjort stadig mer på å regulere teknologi. USA er like bak, med President Biden som utstedte en executive ordre i oktober.

Men det vil ta en global landsby som handler sammen for å “holde gen AI ærlig.” Og før regjering kan hjelpe, må den forstå begrensningene i de tilgjengelige tilnærmingene.

Identitetsproblemet har blitt mye verre

I denne nye verden, blir sannheten nålen i en høystak av meninger som forkler seg som fakta. Å vite hvem innholdet kommer fra betyr mer enn noen gang. 

Og det er ikke så enkelt som å påby sosiale medier å verifisere hver enkelt konto. Det er sterkt motstand mot det, og i noen tilfeller er anonymitet nødvendig for å beskytte konto-eierne. I tillegg bryr mange forbrukere av det verste innholdet seg ikke om om det er troverdig, eller hvor det kommer fra. 

Til tross for disse forbeholdene, er den potensielle rollen til identitet i å håndtere gen AI underveis. Skeptikere, hør meg ut. 

La oss forestille oss at regulering eller sosial samvittighet får plattformene til å gi hver enkelt konto-eier disse valgene: 

1. Verifisere sin identitet eller ikke, og
2. Offentliggjøre sin verifiserte identitet, eller bare bli merket som “ID-verifisert”
   

Da kan sosiale medie-publikummet bedre bestemme hvem som er troverdig. Like viktig, om ikke mer, støtter identitet ansvar. Plattformene kan bestemme handlinger mot gjentakende “desinformatorer” og gjentakende misbrukere av AI-generert innhold, selv om de dukker opp under forskjellige konto-navn. 

Med gen AI som øker spillene, tror jeg at identitet—å vite nøyaktig hvem som postet hva—er kritisk. Noen vil motsi det, og identitet er ikke en omfattende løsning. I virkeligheten vil ingen løsning tilfredsstille alle interessenter. Men hvis regulering tvinger plattformene til å tilby identitetsverifisering til alle kontoer, er jeg overbevist om at effekten vil være en enorm positiv. 

Modereringskonundrumet

Innholdsmoderering—automatisert og menneskelig—er den siste forsvarslinjen mot uønsket innhold. Menneskelig moderering er et tøft jobb, med risiko for psykisk skade fra eksponering for det verste menneskeheten kan tilby. Det er også dyrt og ofte anklaget for den partiske sensuren plattformene streber etter å kutte tilbake på.

Automatisert moderering skalerer utover menneskelig kapasitet til å håndtere strømmen av nytt innhold, men det feiler å forstå kontekst (memes er et vanlig eksempel) og kulturelle nyanser. Begge former for moderering er avgjørende og nødvendige, men de er bare en del av svaret. 

Den ofte-hørte, konvensjonelle resepten for å kontrollere gen AI er: “Samarbeid mellom teknologiledere, regjering og sivilsamfunn er nødvendig.” Sikker, men hva spesifikt?

Regjeringer, for deres del, kan trykke på sosiale og medieplattformer til å tilby identitetsverifisering og prominent vise det på alle innlegg. Regulatorer kan også åpne veien for troverdighetsmetrikker som faktisk hjelper med å vurdere om en kilde er troverdig. Samarbeid er nødvendig for å utvikle universelle standarder som gir spesifikke retningslinjer og veiledning så den private sektoren ikke må gjette.

Til slutt, bør det være ulovlig å lage skadelig AI-utgang? Lovgivning som forbryter innhold ment for ulovlig aktivitet kunne redusere volumet av giftig innhold og lette byrden på moderatorer. Jeg ser ikke på regulering og lover som i stand til å beseire desinformasjon, men de er essensielle i å konfrontere truslene.

Solsiden av gaten: innovasjon

Løftet om innovasjon gjør meg til en optimist her. Vi kan ikke forvente at politikere eller plattformeiere fullstendig skal beskytte mot AI-generert bedrag. De lar en stor lukke, og det er nettopp det som vil inspirere oppfinnelsen av ny teknologi for å autentisere innhold og oppdage falskhet. 

Siden vi nå vet nediden av sosiale medier, har vi vært rask til å innse at generativ AI kunne bli en stor nettnegativ for menneskeheten, med sin evne til å polarisere og mislede. 

Optimistisk ser jeg fordeler i multi-prongede tilnærminger hvor kontrollmetoder fungerer sammen, først ved kilde, begrensning av innhold designet for ulovlig bruk. Deretter, før publisering, verifisere identiteten til de som avviser anonymitet. Neste, tydelig merking for å vise troverdighetsvurderinger og postens identitet eller mangelen på det. Til slutt, automatisert og menneskelig moderering kan filtere ut noen av det verste. Jeg forventer ny autentiseringsteknologi å komme online snart. 

Legg alt sammen, og vi vil ha en mye bedre, om enn aldri fullstendig, løsning. I mellomtiden bør vi bygge opp vår ferdighet til å finne ut hva som er sant, hvem som forteller sannheten, og hvem som prøver å lure oss.