Er der en klar løsning på de privatrisici, som generativ AI udgør?

De privatrisici, som generativ AI udgør, er meget virkelige. Fra øget overvågning og eksponering til mere effektive phishing- og vishing-kampagner end nogensinde før, underminerer generativ AI privatlivet i stor stil, uden diskrimination, samtidig med at det giver onde aktører, enten kriminelle, statsstøttede eller regeringsstøttede, de værktøjer, de har brug for for at målrette enkeltpersoner og grupper.

Den mest klare løsning på dette problem indebærer, at forbrugere og brugere kollektivt vender ryggen til AI-hysteriet, kræver transparens fra dem, der udvikler eller implementerer såkaldte AI-funktioner, og effektiv regulering fra de regeringsorganer, der overvåger deres operationer. Selv om det er værd at stræbe efter, er det ikke sandsynligt, at det sker meget snart.

Hvad der er tilbage, er rimelige, selv om nødvendigvis ufuldstændige, tilgange til at mindske generativ AI’s privatrisici. Den langsigtede, sikre, men kedelige forudsigelse er, at jo mere uddannet offentligheden bliver om dataprivatliv i almindelighed, desto mindre bliver privatrisiciene, som den massive anvendelse af generativ AI udgør.

Får vi alle begrebet generativ AI rigtigt?

Hysteriet omkring AI er så almindelig, at en undersøgelse af, hvad folk mener med generativ AI, knapt er nødvendig. Selvfølgelig repræsenterer ingen af disse “AI”-funktioner, funktioner og produkter virkelig eksempler på sand kunstig intelligens, hvad det så end ville se ud som. I stedet er de for det meste eksempler på maskinlæring (ML), dyb læring (DL) og store sprogmodeller (LLM).

Generativ AI, som navnet antyder, kan generere nyt indhold – enten tekst (herunder programmeringssprog), lyd (herunder musik og menneske-lignende stemmer) eller videoer (med lyd, dialog, klip og kameraændringer). Alt dette opnås ved at træne LLM til at identificere, matche og reproducere mønstre i menneskeskabt indhold.

Lad os tage ChatGPT som eksempel. Ligesom mange LLM er det trænet i tre brede faser:

• For-træning: Under denne fase bliver LLM “fodret” med tekstmateriale fra internettet, bøger, akademiske tidsskrifter og alt andet, der indeholder potentielt relevante eller nyttige tekst.
• Overvåget instruktionsfinjustering: Modellerne trænes til at svare mere sammenhængende på instruktioner ved hjælp af højkvalitets instruktion-svar-par, typisk kildeskrevet af mennesker.
• Forstærkning af læring fra menneskelig feedback (RLHF): LLM som ChatGPT undergår ofte denne yderligere træningsfase, under hvilken interaktioner med menneskelige brugere bruges til at finjustere modellens alignment med typiske brugstilfælde.

Alle tre faser af træningsprocessen indebærer data, enten massive lagre af forhåndssamlet data (som dem, der bruges i for-træning) eller data, der indsamles og bearbejdes næsten i realtid (som dem, der bruges i RLHF). Det er denne data, der udgør den største del af de privatrisici, som generativ AI udgør.

Hvad er de privatrisici, som generativ AI udgør?

Privatlivet krænkes, når personlige oplysninger vedrørende en person (dataemnet) bliver tilgængelige for andre personer eller enheder uden dataemnets samtykke. LLM bliver for-trænet og finjusteret på en ekstremt bred vifte af data, der kan og ofte også inkluderer personlige data. Disse data indhentes typisk fra offentligt tilgængelige kilder, men ikke altid.

Selv når disse data indhentes fra offentligt tilgængelige kilder, kan det at have dem samlet og bearbejdet af en LLM og derefter gøre dem nærmest søgbare gennem LLM’s interface anses for en yderligere krænkelse af privatlivet.

Den forstærkede læring fra menneskelig feedback (RLHF) komplicerer sagen. Under denne træningsfase bruges virkelige interaktioner med menneskelige brugere til at korrigere og finjustere LLM’s svar iterativt. Dette betyder, at en brugers interaktioner med en LLM kan ses, deles og videregive af hvem som helst med adgang til træningsdata.

I de fleste tilfælde er dette ikke en privatlivskrænkelse, da de fleste LLM-udviklere inkluderer privatlivspolitikker og servicevilkår, der kræver, at brugere samtykker, før de interagerer med LLM. Privatlivsriskoen ligger her snarere i, at mange brugere ikke er klar over, at de har samtykket til sådan en dataindsamling og -brug. Disse brugere er sandsynligvis tilbøjelige til at afsløre private og følsomme oplysninger under deres interaktioner med disse systemer, uden at være klar over, at disse interaktioner ikke er fortrolige eller private.

På denne måde kommer vi til de tre hovedmåder, hvorpå generativ AI udgør privatrisici:

• Store lagre af for-træningsdata, der potentielt kan indeholde personlige oplysninger, er sårbare over for kompromis og eksfiltration.
• Personlige oplysninger, der er inkluderet i for-træningsdata, kan lække til andre brugere af samme LLM gennem dets svar på forespørgsler og instruktioner.
• Personlige og fortrolige oplysninger, der gives under interaktioner med LLM, ender med LLM’s medarbejdere og muligvis tredjeparts-entreprenører, hvorfra de kan ses eller lække.

Disse er alle privatrisici for brugere, men sandsynligheden for, at personlige identificeringsoplysninger (PII) ender i forkerte hænder, synes stadig at være ret lav. Det er i hvert fald, indtil dataforhandlere kommer ind i billedet. Disse virksomheder specialiserer sig i at opsnappe PII og indsamle, aggregere og videregive, hvis ikke ligefrem transmittere, dem.

Med PII og andre personlige data, der er blevet en slags vare, og dataforhandlerindustrien, der springer op for at profitere heraf, er det alt for sandsynligt, at enhver personlige data, der “kommer ud”, bliver samlet op af dataforhandlere og spredt vidt og bredt.

De privatrisici, som generativ AI udgør, i sammenhæng

Før vi ser på de privatrisici, som generativ AI udgør for brugere i sammenhæng med bestemte produkter, tjenester og virksomhedsparnerskaber, lad os træde et skridt tilbage og se på det fulde spektrum af generativ AI-risici. I en artikel i IAPP tog Moraes og Previtali en data-dreven tilgang til at finjustere Solove’s “A Taxonomy of Privacy” fra 2006, og reducerede de 16 privatrisici, der blev beskrevet der, til 12 AI-specifikke privatrisici.

Disse er de 12 privatrisici, der er inkluderet i Moraes og Previtalis reviderede taksonomi:

• Overvågning: AI forværrer overvågningsrisici ved at øge omfanget og almindeligheden af personlige dataindsamling.
• Identifikation: AI-teknologier gør det muligt at automatisere identitetslinkning på tværs af forskellige datakilder, og øger dermed risici relateret til personlig identitetsudsættelse.
• Aggregat: AI kombinerer forskellige stykker af data om en person for at træffe slutninger, og skaber dermed risici for privatlivskrænkelse.
• Frenologi og fysiognomi: AI slutninger om personlighed eller sociale attributter på basis af fysisk udseende, en ny risikokategori, der ikke er inkluderet i Solove’s taksonomi.
• Sekundær brug: AI forværrer brugen af personlige data til formål, der ikke var tiltænkt, ved at genbruge data.
• Udelukkelse: AI gør det værre, at brugere ikke bliver informeret eller har kontrol over, hvordan deres data bliver brugt, gennem uigennemsigtige datapraksis.
• Usikkerhed: AI’s datakrav og lagringspraksis øger risikoen for dataleaks og utilbørlig adgang.
• Eksponering: AI kan afsløre følsomme oplysninger, såsom gennem generative AI-teknikker.
• Forvrængning: AI’s evne til at generere realistisk, men falsk indhold, øger spredningen af falske eller misvisende oplysninger.
• Afsløring: AI kan forårsage utilbørlig deling af data, når den slutninger om yderligere følsomme oplysninger fra rådata.
• Øget adgang: AI gør følsomme oplysninger mere tilgængelige for en bredere publikum, end det var tiltænkt.
• Krænkelse: AI-teknologier krænker personligt rum eller ensomhed, ofte gennem overvågningsforanstaltninger.

Dette er ret alarmerende læsning. Det er vigtigt at bemærke, at denne taksonomi, til sin ære, tager hensyn til generativ AI’s tendens til at hallucinere – at generere og præsentere faktisk ukorrekte oplysninger med sikkerhed. Dette fænomen, selv om det sjældent afslører virkelige oplysninger, er også en privatlivskrænkelse. Spredningen af falske og misvisende oplysninger påvirker privatlivet på måder, der er mere subtile end i tilfælde af korrekte oplysninger, men det påvirker det alligevel.

Lad os dykke ned i konkrete eksempler på, hvordan disse privatrisici kommer til udtryk i sammenhæng med virkelige AI-produkter.

Direkte interaktioner med tekstbaserede generative AI-systemer

Det enkleste tilfælde er det, hvor en bruger interagerer direkte med et generativt AI-system, som ChatGPT, Midjourney eller Gemini. Brugerens interaktioner med mange af disse produkter bliver logget, gemt og brugt til RLHF (forstærkning af læring fra menneskelig feedback), overvåget instruktionsfinjustering og endda for-træning af andre LLM.

En analyse af privatlivspolitikkerne for mange af disse tjenester afslører også andre data-delingsaktiviteter, der er underbygget af meget forskellige formål, såsom marketing og dataforhandling. Dette er en helt anden type privatlivskrænkelse, som generativ AI udgør: disse systemer kan karakteriseres som enorme data-kanaler, der indsamler data, der gives af brugere, såvel som data, der genereres gennem deres interaktioner med den underliggende LLM.

Interaktioner med indbyggede generative AI-systemer

Nogle brugere kan interagere med generative AI-grænseflader, der er indbygget i det produkt, de åbenbart bruger. Brugeren kan være klar over, at de bruger en “AI”-funktion, men de er mindre sandsynligt at vide, hvad det indebærer i forhold til dataprivatliv. Det, der kommer til syne her, er manglen på forståelse for, at personlige data, der deles med LLM, kan ende i udviklernes og dataforhandleres hænder.

Der er to grader af manglende bevidsthed her: nogle brugere er klar over, at de interagerer med et generativt AI-produkt; og nogle tror, at de bruger det produkt, som generativ AI er bygget ind i eller adgang til. I begge tilfælde kan brugeren sandsynligvis have (og sandsynligvis har) teknisk set samtykket til vilkårene og betingelserne, der er knyttet til deres interaktioner med det indbyggede system.

Andre partnerskaber, der udsætter brugere for generative AI-systemer

Nogle virksomheder indbygger eller inkluderer på anden vis generative AI-grænseflader i deres software på måder, der er mindre åbenlyse, og lader brugere interagere – og dele information – med tredjeparter uden at være klar over det. Heldigvis er “AI” blevet så effektivt som salgsargument, at det er usandsynligt, at en virksomhed ville holde sådanne implementeringer hemmelige.

En anden fænomen i denne sammenhæng er den voksende modreaktion, som sådanne virksomheder har oplevet efter at have forsøgt at dele bruger- eller kundedata med generative AI-virksomheder som OpenAI. Datafjernelsesvirksomheden Optery, for eksempel, omstødte nyligt en beslutning om at dele brugerdata med OpenAI på en opt-out-basis, hvilket betyder, at brugere var tilmeldt programmet som standard.

Ikke kun var kunderne hurtige til at udtrykke deres utilfredshed, men virksomhedens datafjernelsesservice blev straks fjernet fra Privacy Guides’ liste over anbefalede datafjernelsesservices. Til Opterys ære ændrede virksomheden hurtigt og gennemsigtigt sin beslutning, men det er den generelle modreaktion, der er betydningsfuld her: folk begynder at forstå de risici, der er forbundet med at dele data med “AI”-virksomheder.

Optery-sagen er et godt eksempel her, fordi dens brugere på en måde er i frontlinjen af den voksende skepsis omkring såkaldte AI-implementeringer. De mennesker, der vælger en datafjernelsesservice, er typisk også dem, der vil være opmærksomme på ændringer i servicevilkårene og privatlivspolitikker.

Bevis på en voksende modreaktion mod generativ AI-dataanvendelse

Privatlivsbevidste forbrugere har ikke været de eneste, der har rejst bekymringer om generative AI-systemer og deres tilhørende dataprivatlivsrisici. På det lovgivningsmæssige niveau har EU’s Artificial Intelligence Act kategoriserer risici efter deres alvorlighed, med dataprivatliv som det eksplisit eller implicit angivne kriterium for at tildele alvorlighed i de fleste tilfælde. Loven behandler også spørgsmålet om informeret samtykke, som vi diskuterede tidligere.

USA, der er notorisk langsom til at antage omfattende, føderale dataprivatlovgivning, har i hvert fald nogle sikkerhedsforanstaltninger på plads takket være Executive Order 14110. Igen er dataprivatlivs bekymringer i forgrunden for formålet med ordren: “iransvarlig brug [af AI-teknologier] kan forværre samfunds-skader såsom svindel, diskrimination, bias og desinformation” – alle relateret til tilgængeligheden og spredningen af personlige data.

Vendende tilbage til forbruger niveau, er det ikke kun særligt privatlivsbevidste forbrugere, der har reageret på privatlivskrænkende generative AI-implementeringer. Microsofts nu berømte “AI-drevne” Recall-funktion, der er bestemt for dens Windows 11-operativsystem, er et primært eksempel. Da omfanget af privatlivs- og sikkerhedsrisici blev afsløret, var modreaktionen stor nok til at få tech-giganten til at træde tilbage. Desværre synes Microsoft ikke at have opgivet idéen, men den initielle offentlige reaktion er alligevel opmuntrende.

Forbli ved Microsoft, har dets Copilot-program været bredt kritiseret for både dataprivatlivs- og datasikkerhedsproblemer. Da Copilot blev trænet på GitHub-data (for det meste kildekode), opstod kontrovers omkring Microsofts påståede krænkelser af programmører og udvikleres software-licensaftaler. Det er i tilfælde som dette, at grænserne mellem dataprivatliv og immaterielle rettigheder begynder at blive uklare, og giver det sidstnævnte en monetær værdi – noget, der ikke let kan gøres.

Måske det bedste tegn på, at AI er ved at blive et rødt flag i forbrugernes øjne, er den lunken, hvis ikke ligefrem forsigtige, offentlige reaktion, Apple fik på sin første AI-lancering, specifikt i forhold til data-delingsaftaler med OpenAI.

De stykkevis løsninger

Der er skridt, lovgivere, udviklere og virksomheder kan tage for at mildne nogle af de risici, som generativ AI udgør. Disse er de specialiserede løsninger til bestemte aspekter af det overordnede problem, og ingen af disse løsninger forventes at være nok, men alle sammen kan de gøre en reel forskel.

• Data-minimering. At minimere mængden af data, der indsamles og gemmes, er et rimeligt mål, men det er direkte modsat generativ AI-udvikleres ønske om træningsdata.
• Gennemsigtighed. Givet den nuværende stand af maskinlæring kan dette måske ikke engang være teknisk muligt i mange tilfælde. Indblik i, hvilke data der bearbejdes, og hvordan, når der genereres en given output, er en måde at sikre privatliv på i generative AI-interaktioner.
• Anonymisering. Enhver PII, der ikke kan udelades fra træningsdata (gennem data-minimering), bør anonymiseres. Problemet er, at mange populære anonymiserings- og pseudonymiserings-teknikker let kan brydes.
• Bruger-samtykke. At kræve, at brugere samtykker til indsamling og deling af deres data, er afgørende, men for åbent for misbrug og for tilbøjelig til forbruger-længsel til at være effektivt. Det er informeret samtykke, der er nødvendigt her, og de fleste forbrugere, ordentligt informeret, ville ikke samtykke til sådan en data-deling, så incitamenterne er misjusteret.
• Sikring af data under transmission og i hvile. En anden grundlæggende del af både dataprivatliv og datasikkerhed, beskyttelse af data gennem kryptografiske og andre midler kan altid gøres mere effektiv. Generative AI-systemer har dog tendens til at lække data gennem deres grænseflader, hvilket gør dette kun en del af løsningen.
• Gennemtvang af ophavsret og immaterielle rettighedslove i sammenhæng med såkaldt AI. Maskinlæring kan fungere i en “sort boks”, hvilket gør det svært, hvis ikke umuligt, at spore, hvilken ophavsret og hvilke immaterielle rettigheder, der ender i hvilken generativ AI-output.
• Revisoner. En anden afgørende sikkerhedsforanstaltning, der forhindres af den sorte boks-natur af LLM og de generative AI-systemer, de understøtter. Denne indre begrænsning kombineres med den lukkede kilde-natur af de fleste generative AI-produkter, hvilket begrænser revisoner til kun dem, der udføres af udviklerens behag.

Alle disse tilgange til problemet er gyldige og nødvendige, men ingen af dem er tilstrækkelig. De kræver alle lovgivningsmæssig støtte for at have en betydning, hvilket betyder, at de er dømt til at være bagud i forhold til, hvordan dette dynamiske felt fortsætter med at udvikle sig.

Den klare løsning

Løsningen på de privatrisici, som generativ AI udgør, er hverken revolutionerende eller spændende, men ført til sin logiske konklusion, kan dens resultater være både. Den klare løsning indebærer, at hverdagsforbrugere bliver klar over værdien af deres data for virksomheder og den prisløse værdi af dataprivatliv for sig selv.

Forbrugere er kilderne og motorerne bag de private oplysninger, der driver, hvad der kaldes den moderne overvågningsøkonomi. Når en kritisk masse af forbrugere begynder at standse strømmen af private data til den offentlige sfære og begynder at kræve ansvarlighed af de virksomheder, der handler med personlige data, vil systemet være nødt til at korrigere sig selv.

Det opmuntrende ved generativ AI er, at den, til forskel fra nuværende reklame- og markedsføringsmodeller, ikke behøver at involvere personlige oplysninger på noget stadium. For-trænings- og finjusteringsdata behøver ikke at inkludere PII eller andre personlige data, og brugere behøver ikke at afsløre det samme under deres interaktioner med generative AI-systemer.

For at fjerne deres personlige oplysninger fra træningsdata kan mennesker gå direkte til kilden og fjerne deres profiler fra de forskellige dataforhandlere (herunder personsøgningssteder), der samler offentlige optegnelser og bringer dem i omløb på det åbne marked. Personlige data-fjernelsesservices automatiserer processen, hvilket gør det hurtigt og let. Selvfølgelig har fjernelse af personlige data fra disse virksomheders database mange andre fordele og ingen ulemper.

Mennesker genererer også personlige data, når de interagerer med software, herunder generative AI. For at standse strømmen af denne data må brugere være mere opmærksomme på, at deres interaktioner bliver optaget, gennemgået, analyseret og delt. Deres muligheder for at undgå dette kan reduceres til at begrænse, hvad de afslører til online-systemer, og bruge på-enhed, åben kilde-LLM, hvor som helst det er muligt. Mennesker gør allerede generelt en god job med at regulere, hvad de diskuterer offentligt – vi skal bare udvide disse instinkter til generativ AI.