Vem ska skydda oss från AI-genererad desinformation?

Generativ AI har gått från noll till hundra på under ett år. Medan det fortfarande är i ett tidigt skede, har det visat sin potential att förvandla affärer. Det är något vi alla kan vara överens om. Där vi skiljer oss åt är i hur vi ska hantera de faror det medför.

För att vara tydlig, jag är för innovation och långt ifrån en varningsklocka. Men den senaste ökningen av desinformation – till stor del riktad mot polarisering kring kontroversiella frågor – har gjort det klart att, om det lämnas oreglerat, gen AI kunde förstöra samhällen.

Vi har sett den här filmen förut med sociala medier, men det tog år och hårda lärdomar för oss att vakna upp till dess brister. Vi har (förmodligen) lärt oss något. Frågan idag är vem som ska hjälpa till att stoppa floden av verklighetsförvrängning från gen AI, och hur?

Förutsägbart, börjar regeringar att agera. Europa leder an, som de alltmer har visat när det gäller att reglera tech. USA är rätt bakom, med President Biden som utfärdade en exekutiv order i oktober i fjol.

Men det kommer att ta en global by som agerar tillsammans för att “hålla gen AI ärlig”. Och innan regeringen kan hjälpa till, behöver den förstå begränsningarna i de tillgängliga metoderna.

Identitetsproblemet har blivit mycket värre

I den här nya världen, blir sanningen nålen i en höstack av åsikter som utger sig för att vara fakta. Att veta vem innehållet kommer från är viktigare än någonsin.

Och det är inte så enkelt som att förklara att varje sociala mediekonto måste vara identitetsverifierat. Det finns ett starkt motstånd mot det, och i vissa fall är anonymitet nödvändig för att skydda kontoinnehavarna. Dessutom bryr sig många konsumenter av det sämsta innehållet inte om det är trovärdigt, eller var det kommer ifrån.

Trots dessa varningar, är den potentiella rollen för identitet i att hantera gen AI underskattad. Skeptiker, lyssna på mig.

Låt oss föreställa oss att reglering eller social samvetsgrannhet får plattformarna att ge varje kontoinnehavare dessa val:

1. Verifiera sin identitet eller inte, och
2. Offentligt avslöja sin verifierade identitet, eller bara märkas som “ID-verifierad”
   

Då kan den sociala mediepubliken bättre bestämma vem som är trovärdig. Likaså viktigt, om inte mer, stöder identitet ansvar. Plattformarna kan besluta om åtgärder mot seriemässiga “desinformationsförare” och upprepad missbruk av AI-genererat innehåll, även om de dyker upp under olika kontonamn.

Med gen AI som höjer insatserna, tror jag att identitet – att veta exakt vem som publicerade vad – är avgörande. Vissa kommer att motsätta sig det, och identitet är inte ett omfattande svar. I själva verket kommer inget lösning att tillfredsställa alla intressenter. Men om reglering tvingar plattformarna att erbjuda identitetsverifiering till alla konton, är jag övertygad om att effekten kommer att vara enormt positiv.

Modéreringsdilemmat

Innehållsmoderering – automatiserad och mänsklig – är den sista försvarslinjen mot önskvärt innehåll. Mänsklig moderering är ett tufft jobb, med risk för psykologisk skada från exponering för det sämsta som mänskligheten kan erbjuda. Det är också dyrt och ofta anklagat för den partiska censuren som plattformarna strävar efter att minska.

Automatiserad moderering skalar bortom mänsklig kapacitet att hantera de stora mängderna nytt innehåll, men den misslyckas med att förstå sammanhang (memes är ett vanligt exempel) och kulturella nyanser. Båda formerna av moderering är avgörande och nödvändiga, men de är bara en del av svaret.

Den ofta hörda, konventionella receptet för att kontrollera gen AI är: “Samverkan mellan tech-ledare, regering och civilsamhälle behövs.” Självklart, men vad specifikt?

Regeringar, för sin del, kan trycka på sociala och medieplattformar att erbjuda identitetsverifiering och framträda med det på alla inlägg. Regulatorer kan också bana väg för trovärdighetsmått som faktiskt hjälper till att bedöma om en källa är trovärdig. Samverkan är nödvändig för att utveckla universella standarder som ger specifik vägledning och riktning så att den privata sektorn inte behöver gissa.

Till slut, borde det vara olagligt att skapa skadlig AI-utdata? Lagstiftning för att förbjuda innehåll som är avsett för olaglig verksamhet kunde minska volymen av giftigt innehåll och lätta bördan på moderatorer. Jag ser inte reglering och lagar som kapabla att besegra desinformation, men de är avgörande i att konfrontera hotet.

Solsidan: innovation

Löftet om innovation gör mig till en optimist här. Vi kan inte förvänta oss att politiker eller plattformsägare fullständigt ska skydda mot AI-genererad bedrägeri. De lämnar ett stort gap, och det är exakt vad som kommer att inspirera uppfinningen av ny teknik för att autentisera innehåll och upptäcka bedrägeri.

Eftersom vi nu känner till baksidan av sociala medier, har vi varit snabba att inse att generativ AI kunde visa sig vara en enorm nettonegative för mänskligheten, med dess förmåga att polarisera och vilseleda.

Optimistiskt ser jag fördelar med en multiprongad strategi där kontrollmetoder fungerar tillsammans, först vid källan, begränsar skapandet av innehåll som är avsett för olagligt bruk. Sedan, före publicering, verifierar identiteten hos de som vägrar anonymitet. Nästa, tydlig märkning för att visa trovärdighetsbetyg och inläggarens identitet eller brist därpå. Till sist, automatiserad och mänsklig moderering kan filtrera ut en del av det sämsta. Jag förväntar mig att ny autentiserings-teknik kommer att dyka upp snart.

Lägg allt detta till, och vi kommer att ha en mycket bättre, om än aldrig perfekt, lösning. Under tiden bör vi bygga upp vår färdighetsnivå för att ta reda på vad som är verkligt, vem som talar sanningen och vem som försöker lura oss.