Finns det en tydlig lösning på de integritetsrisker som genererande AI medför?

De integritetsrisker som genererande AI medför är mycket verkliga. Från ökad övervakning och exponering till mer effektiva phishing- och vishing-kampanjer än någonsin, urholkar genererande AI integriteten i stor skala, oberoende av sammanhang, samtidigt som den tillhandahåller skurkar, vare sig de är kriminella, statligt sponsrade eller regeringsanknutna, med de verktyg de behöver för att rikta in sig på individer och grupper.

Den tydligaste lösningen på detta problem innebär att konsumenter och användare kollektivt vänder ryggen mot AI-hypen, kräver transparens från dem som utvecklar eller implementerar så kallade AI-funktioner och effektiv reglering från de regeringsorgan som övervakar deras verksamhet. Även om detta är värt att sträva efter, är det inte sannolikt att detta kommer att hända inom en snar framtid.

Vad som återstår är rimliga, även om nödvändigt ofullständiga, tillvägagångssätt för att mildra genererande AI-integritetsrisker. Den långsiktiga, säkra, men tråkiga förutsägelsen är att ju mer allmänheten utbildas om dataskydd i allmänhet, desto mindre blir integritetsriskerna med den omfattande användningen av genererande AI.

Förstår vi alla begreppet genererande AI rätt?

Hypen kring AI är så allomfattande att en undersökning av vad människor menar med genererande AI knappast är nödvändig. Naturligtvis representerar ingen av dessa “AI”-funktioner, funktioner och produkter faktiskt exempel på verklig artificiell intelligens, oavsett vad det skulle kunna vara. Snarare är de mestadels exempel på maskinlärande (ML), djupinlärande (DL) och stora språkmodeller (LLM).

Genererande AI, som namnet antyder, kan generera nytt innehåll – antingen text (inklusive programmeringsspråk), ljud (inklusive musik och mänskliga röster) eller videor (med ljud, dialog, klipp och kamerabyten). Allt detta uppnås genom att träna LLM att identifiera, matcha och reproducera mönster i mänskligt genererat innehåll.

Låt oss ta ChatGPT som exempel. Liksom många LLM är det tränat i tre breda faser:

• Förträning: Under denna fas “matas” LLM med textmaterial från internet, böcker, akademiska tidskrifter och allt annat som innehåller potentiellt relevant eller användbart text.
• Övervakad instruktionsfinjustering: Modeller tränas för att svara mer sammanhängande på instruktioner med hjälp av högkvalitativa instruktions-svarpar, vanligtvis hämtade från människor.
• Stärkt inlärning från mänsklig feedback (RLHF): LLM som ChatGPT genomgår ofta denna ytterligare träningsfas, under vilken interaktioner med mänskliga användare används för att finslipa modellens anpassning till typiska användningsfall.

Alla tre träningsfaserna inbegriper data, antingen massiva lagrade datamängder (såsom de som används i förträning) eller data som samlas in och bearbetas nästan i realtid (såsom den som används i RLHF). Det är dessa data som bär den största delen av integritetsriskerna som härrör från genererande AI.

Vilka integritetsrisker medför genererande AI?

Integritet kränks när personlig information som rör en individ (dataskyddspersonen) görs tillgänglig för andra individer eller enheter utan dataskyddspersonens samtycke. LLM tränas först och finslipas på en extremt bred mängd data som kan och ofta innehåller personlig information. Denna data hämtas vanligtvis från offentligt tillgängliga källor, men inte alltid.

Även när denna data hämtas från offentligt tillgängliga källor kan det anses vara en ytterligare kränkning av integritet att den samlas in och bearbetas av en LLM och sedan i princip görs sökbar genom LLM:s gränssnitt.

Fasen med stärkt inlärning från mänsklig feedback (RLHF) komplicerar saken. Under denna träningsfas används verkliga interaktioner med mänskliga användare för att iterativt korrigera och finslipa LLM:s svar. Detta innebär att en användares interaktioner med en LLM kan ses, delas och spridas av vem som helst med tillgång till träningsdata.

I de flesta fall är detta inte en integritetskränkning, eftersom de flesta LLM-utvecklare inkluderar integritetspolicyer och användarvillkor som kräver att användare samtycker till att interagera med LLM. Integritetsrisken ligger snarare i det faktum att många användare inte är medvetna om att de har samtyckt till sådan datainsamling och användning. Sådana användare kommer sannolikt att avslöja privat och känslig information under sina interaktioner med dessa system, utan att inse att dessa interaktioner varken är konfidentiella eller privata.

På detta sätt kommer vi fram till de tre huvudsakliga sätten som genererande AI medför integritetsrisker:

• Stora lagrade träningsdata som potentiellt innehåller personlig information är sårbara för kompromiss och exfiltrering.
• Personlig information som ingår i träningsdata kan läcka till andra användare av samma LLM genom dess svar på frågor och instruktioner.
• Personlig och konfidentiell information som tillhandahålls under interaktioner med LLM hamnar hos LLM:s anställda och möjligtvis tredjepartsentreprenörer, varifrån den kan ses eller läcka ut.

Detta är alla risker för användarnas integritet, men sannolikheten för att personlig identifierbar information (PII) hamnar i fel händer verkar fortfarande ganska låg. Det är åtminstone så, tills dataförmedlare kommer in i bilden. Dessa företag specialiserar sig på att sniffa upp PII och samla in, aggregera och sprida, om inte direkt sända ut, den.

Med PII och annan personlig data som har blivit en slags vara och dataförmedlingsindustrin som har sprungit upp för att dra nytta av detta, är det alltför sannolikt att all personlig data som “kommer ut” kommer att plockas upp av dataförmedlare och spridas långt och brett.

Integritetsriskerna med genererande AI i sammanhang

Innan vi tittar på de risker som genererande AI medför för användarnas integritet i sammanhang med specifika produkter, tjänster och företagspartnerskap, låt oss ta ett steg tillbaka och titta på hela paletten av genererande AI-risker på ett mer strukturerat sätt. I en artikel i IAPP tog Moraes och Previtali en datadriven ansats för att förfinare Soloves “A Taxonomy of Privacy” från 2006, och reducerade de 16 integritetsrisker som beskrivs där till 12 AI-specifika integritetsrisker.

Dessa är de 12 integritetsrisker som ingår i Moraes och Previtalis reviderade taxonomi:

• Övervakning: AI förvärrar övervakningsrisker genom att öka omfattningen och allmänheten av personlig datainsamling.
• Identifiering: AI-teknologier möjliggör automatisk identitetslänkning över olika datakällor, vilket ökar riskerna relaterade till personlig identitetsexponering.
• Aggregering: AI kombinerar olika delar av data om en person för att göra antaganden, vilket skapar risker för integritetsintrång.
• Frenologi och fysiognomi: AI drar slutsatser om personlighet eller sociala attribut från fysiska egenskaper, en ny riskkategori som inte finns i Soloves taxonomi.
• Sekundär användning: AI förvärrar användningen av personlig data för andra ändamål än de ursprungligen avsedda genom att återanvända data.
• Exkludering: AI gör det värre att inte informera eller ge kontroll till användare över hur deras data används genom ogenomskinliga datapraxis.
• Säkerhet: AI:s datakrav och lagringspraxis riskerar datalekar och otillbörlig åtkomst.
• Exponering: AI kan avslöja känslig information, såsom genom genererande AI-tekniker.
• Förvrängning: AI:s förmåga att generera realistisk men falsk information ökar spridningen av felaktig eller vilseledande information.
• Avslöjande: AI kan orsaka otillbörlig delning av data när den drar slutsatser om ytterligare känslig information från rådata.
• Ökad tillgänglighet: AI gör känslig information mer tillgänglig för en bredare publik än avsett.
• Intrång: AI-teknologier invaderar personligt utrymme eller ensamhet, ofta genom övervakningsåtgärder.

Detta är ganska alarmerande läsning. Det är viktigt att notera att denna taxonomi, till sin fördel, tar hänsyn till genererande AI:s tendens att hallucinera – att generera och presentera faktamässigt inkorrekt information med tillförsikt. Detta fenomen, även om det sällan avslöjar verklig information, är också en integritetsrisk. Spridningen av falsk och vilseledande information påverkar ämnet för integritet på sätt som är mer subtila än i fallet med korrekt information, men det påverkar det ändå.

Låt oss gå ner till några konkreata exempel på hur dessa integritetsrisker kommer in i spel i sammanhang med faktiska AI-produkter.

Direkta interaktioner med textbaserade genererande AI-system

Det enklaste fallet är det som innebär att en användare interagerar direkt med ett genererande AI-system, som ChatGPT, Midjourney eller Gemini. Användarens interaktioner med många av dessa produkter loggas, lagras och används för RLHF (stärkt inlärning från mänsklig feedback), övervakad instruktionsfinjustering och till och med förträning av andra LLM.

En analys av integritetspolicys för många av dessa tjänster avslöjar också andra data-delningssysslor som backas upp av helt olika syften, som marknadsföring och dataförmedling. Detta är en helt annan typ av integritetsrisk som genererande AI medför: dessa system kan karakteriseras som enorma datainsamlingsverktyg, som samlar in data som tillhandahålls av användare samt den data som genereras genom deras interaktioner med den underliggande LLM.

Interaktioner med inbäddade genererande AI-system

Vissa användare kan interagera med genererande AI-gränssnitt som är inbäddade i den produkt de använder. Användaren kan veta att de använder en “AI”-funktion, men de är mindre benägna att veta vad det innebär i termer av integritetsrisker. Vad som kommer i förgrunden med inbäddade system är bristen på förståelse för det faktum att personlig data som delas med LLM kan hamna i händerna på utvecklare och dataförmedlare.

Det finns två grader av brist på medvetenhet här: vissa användare inser att de interagerar med ett genererande AI-produkt; och vissa tror att de använder den produkt som genererande AI är inbyggt i eller åtkomlig via. I båda fallen kan användaren mycket väl ha (och förmodligen har) tekniskt sett samtyckt till villkoren och användarvillkoren som är associerade med deras interaktioner med det inbäddade systemet.

Andra partnerskap som exponerar användare för genererande AI-system

Vissa företag inbäddar eller på annat sätt inkluderar genererande AI-gränssnitt i sin programvara på sätt som är mindre uppenbara, vilket får användare att interagera – och dela information – med tredjepartsföretag utan att inse det. Lyckligtvis har “AI” blivit så effektivt som säljpunkt att det är osannolikt att ett företag skulle hålla sådana implementationer hemliga.

Ett annat fenomen i detta sammanhang är den växande motreaktion som sådana företag har upplevt efter att ha försökt dela användar- eller kunddata med genererande AI-företag som OpenAI. Dataavlägsningsföretaget Optery, till exempel, återställde nyligen ett beslut att dela användardata med OpenAI på ett opt-out-basis, vilket innebär att användare var inskrivna i programmet som standard.

Inte bara var kunder snabba att uttrycka sin besvikelse, utan företagets dataavlägsningstjänst avfördes också från Privacy Guides lista över rekommenderade dataavlägsningstjänster. Till Opterys fördel återställde de snabbt och transparent sitt beslut, men det är den allmänna motreaktionen som är betydelsefull här: människor börjar inse riskerna med att dela data med “AI”-företag.

Optery-fallet är ett bra exempel här eftersom dess användare, i någon mening, är i framkanten av den växande skepticismen kring så kallade AI-implementationer. De typer av människor som väljer en dataavlägsningstjänst är också, vanligtvis, de som kommer att uppmärksamma förändringar i användarvillkor och integritetspolicyer.

Bevis på en växande motreaktion mot genererande AI-dataanvändning

Integritetsmedvetna konsumenter har inte varit de enda som har uttryckt oro över genererande AI-system och deras associerade integritetsrisker. På den lagstiftningsmässiga nivån har EU:s Artificiell intelligenslag klassificerat risker enligt deras allvarlighetsgrad, med integritet som det explicit eller implicit uttryckta kriteriet för att tilldela allvarlighetsgrad i de flesta fall. Lagen behandlar också frågorna om informerat samtycke som vi diskuterade tidigare.

USA, som är notoriskt långsamma att anta omfattande, federal integritetslagstiftning, har åtminstone några skyddsnät tack vare Exekutiv order 14110. Återigen är integritetsproblem i förgrunden för de syften som anges för ordern: “ansvarslös användning [av AI-teknologier] kan förvärra samhällsskador som bedrägeri, diskriminering, partiskhet och desinformation” – allt relaterat till tillgängligheten och spridningen av personlig data.

När vi återvänder till konsumentnivån är det inte bara särskilt integritetsmedvetna konsumenter som har reagerat mot integritetsinvasiva genererande AI-implementationer. Microsofts numera ökända “AI-aktiverade” Recall-funktion, som var avsedd för dess Windows 11-operativsystem, är ett primärexempel. När omfattningen av integritets- och säkerhetsrisker avslöjades, var motreaktionen tillräcklig för att få techjätten att backa. Tyvärr verkar Microsoft inte ha gett upp på idén, men den initiala offentliga reaktionen är ändå uppmuntrande.

Stanna hos Microsoft, dess Copilot-program har kritiserats för både integritets- och datasäkerhetsproblem. Eftersom Copilot tränades på GitHub-data (främst källkod), uppstod också kontrovers kring Microsofts påstådda brott mot programmerares och utvecklares programvarulicensavtal. Det är i fall som detta som gränserna mellan integritet och immateriella rättigheter börjar suddas ut, vilket ger integriteten ett monetärt värde – något som inte lätt kan göras.

Kanske är den största indikationen på att AI blir en röd flagga i konsumenternas ögon den ljumma, om inte rent ut sagt avvaktande, offentliga reaktionen Apple fick på sin initiala AI-lansering, specifikt i fråga om data-delningsavtal med OpenAI.

De styckvisa lösningarna

Det finns steg som lagstiftare, utvecklare och företag kan ta för att mildra några av de risker som genererande AI medför. Dessa är de specialiserade lösningarna på specifika aspekter av det övergripande problemet, ingen av dessa lösningar förväntas vara tillräcklig, men alla tillsammans kunde göra en verklig skillnad.

• Dataminimering. Att minimera den mängd data som samlas in och lagras är ett rimligt mål, men det är direkt motsatt till genererande AI-utvecklares önskan om träningsdata.
• Transparens. Givet den nuvarande tillståndet i ML, kan detta kanske inte ens vara tekniskt möjligt i många fall. Insikt i vilken data som bearbetas och hur när generering av ett visst utdata är ett sätt att säkerställa integritet i genererande AI-interaktioner.
• Anonymisering. All PII som inte kan uteslutas från träningsdata (genom dataminimering) bör anonymiseras. Problemet är att många populära anonymiserings- och pseudonymiseringstekniker är lätt besegrade.
• Användarsamtycke. Att kräva att användare samtycker till insamling och delning av deras data är nödvändigt men för öppet för missbruk och för benägna för konsumenternas likgiltighet för att vara effektivt. Det är informerat samtycke som behövs här och de flesta konsumenter, ordentligt informerade, skulle inte samtycka till sådan data-delning, så incitamenten är feljusterade.
• Säkra data under överföring och i vila. En annan grund för både integritet och datasäkerhet, skydda data genom kryptografiska och andra medel kan alltid göras mer effektivt. Genererande AI-system tenderar dock att läcka data genom sina gränssnitt, vilket gör detta till endast en del av lösningen.
• Genomdriva upphovsrätts- och immaterialrättslagstiftning i sammanhang med så kallad AI. ML kan fungera i en “svart låda”, vilket gör det svårt om inte omöjligt att spåra vilken upphovsrättsskyddad material och immateriella rättigheter som hamnar i vilket genererande AI-utdata.
• Revisoner. En annan viktig skyddsmekanism som förhindras av den svarta lådan i LLM och de genererande AI-system som stöds av dem. Detta förstärks av den slutna källkoden i de flesta genererande AI-produkter, vilket begränsar revisoner till endast de som utförs på utvecklarens bekvämlighet.

Alla dessa tillvägagångssätt för problemet är giltiga och nödvändiga, men ingen är tillräcklig. De kräver alla lagstiftningsstöd för att ha någon meningsfull effekt, vilket innebär att de är dömda att vara efter i tiden medan detta dynamiska område fortsätter att utvecklas.

Den tydliga lösningen

Lösningen på de integritetsrisker som genererande AI medför är varken revolutionerande eller spännande, men om den förs till sin logiska slutsats, kan resultaten vara båda. Den tydliga lösningen innebär att vanliga konsumenter blir medvetna om värdet av deras data för företag och det ovärderliga i integritet för sig själva.

Konsumenter är källorna och motorerna bakom den privata informationen som driver det som kallas den moderna övervakningsekonomin. När en kritisk massa av konsumenter börjar stoppa flödet av privat data in i den offentliga sfären och börjar kräva ansvar från de företag som hanterar personlig data, kommer systemet att tvingas korrigera sig själv.

Det uppmuntrande med genererande AI är att den, till skillnad från nuvarande reklam- och marknadsföringsmodeller, inte behöver inbegripa personlig information på något stadium. Förtränings- och finjusteringsdata behöver inte innehålla PII eller annan personlig data, och användare behöver inte avslöja samma under sina interaktioner med genererande AI-system.

För att ta bort sin personliga information från träningsdata kan människor gå rakt till källan och ta bort sina profiler från de olika dataförmedlare (inklusive personsökningswebbplatser) som samlar in offentliga register, vilket bringar dem in i omlopp på den öppna marknaden. Personlig dataavlägsningstjänster automatiserar processen, vilket gör den snabb och enkel. Naturligtvis har borttagning av personlig data från dessa företags databaser många andra fördelar och inga nackdelar.

Människor genererar också personlig data när de interagerar med programvara, inklusive genererande AI. För att stoppa flödet av denna data kommer användare att behöva vara mer medvetna om att deras interaktioner spelas in, granskas, analyseras och delas. Deras alternativ för att undvika detta begränsas till att begränsa vad de avslöjar för online-system och använda på-enhet, öppen källkod LLM där det är möjligt. Människor, i allmänhet, gör redan ett bra jobb med att modulera vad de diskuterar offentligt – vi behöver bara utöka dessa instinkter till området genererande AI.