AI’s Data Dilemma: Privatliv, Regulation og Fremtiden for Etisk AI

AI-drevne løsninger bliver hurtigt adopteret på tværs af diverse industrier, services og produkter hver dag. however, deres effektivitet afhænger helt af kvaliteten af de data, de er trænet på – et aspekt, der ofte misforstås eller overses i dataset-creationsprocessen.

Da data beskyttelsesmyndigheder øger indsigt i, hvordan AI-teknologier er i overensstemmelse med privatliv og data beskyttelsesreguleringer, står virksomheder over for øget pres for at sourcere, annotere og raffinere datasets på compliant og etiske måder.

Er der virkelig en etisk tilgang til at bygge AI-datasets? Hvad er virksomheders største etiske udfordringer, og hvordan løser de dem? Og hvordan påvirker de udviklende juridiske rammer tilgængeligheden og brugen af træningsdata? Lad os udforske disse spørgsmål.

Data Privatliv og AI

Af sin natur kræver AI en masse personlige data for at udføre opgaver. Dette har rejst bekymringer om indsamling, gemme og brug af denne information. Mange love verden over regulerer og begrænser brugen af personlige data, fra GDPR og den nyligt indførte AI-lov i Europa til HIPAA i USA, som regulerer adgangen til patientdata i sundhedssektoren.

Reference for, hvor stramme data beskyttelseslove er verden over / DLA Piper

For eksempel har fjorten amerikanske stater i øjeblikket omfattende data privatlivslove, og seks flere skal træde i kraft i 2025 og begyndelsen af 2026. Den nye administration har signaleret en skift i deres tilgang til data privatlivs gennemførelse på det føderale niveau. En nøglefokus er AI-regulering, med vægt på at fremme innovation i stedet for at pålægge begrænsninger. Dette skift inkluderer at ophæve tidligere executive ordrer om AI og introducere nye direktiver til at guide dets udvikling og anvendelse.

Data beskyttelseslovgivning udvikler sig i forskellige lande: i Europa er lovene strengere, mens de i Asien eller Afrika tendere til at være mindre strenge.

Men personligt identificerbare information (PII) – såsom ansigtsbilleder, officielle dokumenter som pas eller andre følsomme personlige data – er generelt begrænset i de fleste lande til en vis grad. Ifølge FN’s Handel & Udvikling er indsamlingen, brugen og delingen af personlige oplysninger til tredjeparter uden varsel eller samtykke fra forbrugerne en stor bekymring for det meste af verden. 137 af 194 lande har reguleringer, der sikrer data beskyttelse og privatliv. Som resultat tager de fleste globale virksomheder omfattende foranstaltninger for at undgå at bruge PII til modeltræning, da reguleringer som dem i EU strengt forbuder sådanne praksisser, med sjældne undtagelser i tungt regulerede nicheområder som loven.

Over tid bliver data beskyttelseslove mere omfattende og globalt gennemført. Virksomheder tilpasser deres praksis for at undgå juridiske udfordringer og opfylde fremvoksende juridiske og etiske krav.

Hvordan Får Virksomheder Data?

Så, når vi studerer data beskyttelsesproblemer for modeltræning, er det vigtigt først at forstå, hvor virksomhederne får disse data fra. Der er tre primære kilder til data.

• Dataindsamling

Denne metode muliggør indsamling af data fra crowdsourcing-platforme, medieaktier og åbne datasets.

Det er vigtigt at bemærke, at offentlige medieaktier er underlagt forskellige licensaftaler. Selv en kommerciel brugslicens angiver ofte udtrykkeligt, at indhold ikke kan bruges til modeltræning. Disse forventninger varierer platform til platform og kræver, at virksomhederne bekræfter deres evne til at bruge indhold på de måder, de har brug for.

Selv når AI-virksomhederne får indhold lovligt, kan de stadig stå over for nogle problemer. Den hurtige udvikling af AI-modeltræning har langt overhalet de juridiske rammer, hvilket betyder, at reglerne og reguleringerne omkring AI-træningsdata stadig udvikler sig. Som resultat må virksomhederne holde sig informerede om juridiske udviklinger og nøje gennemgå licensaftaler, før de bruger medieindhold til AI-træning.

• Dataoprettelse

En af de sikreste dataset-forberedningsmetoder indebærer oprettelse af unikt indhold, såsom optagelse af mennesker i kontrollerede miljøer som studier eller udendørslokationer. Før deltagelse underskriver personerne en samtykkeerklæring til at bruge deres PII, som specificerer, hvilke data der indsamles, hvordan og hvor det vil blive brugt, og hvem der vil have adgang til det. Dette sikrer fuld juridisk beskyttelse og giver virksomhederne tillid til, at de ikke vil stå over for krav om ulovlig dataanvendelse.

Den primære ulempe ved denne metode er omkostningerne, især når data oprettes til randtilfælde eller store projekter. Men store virksomheder og erhvervsdrivende er stadig mere ved at bruge denne tilgang, for mindst to årsager. Først sikrer det fuld overensstemmelse med alle standarder og juridiske reguleringer. Anden giver virksomhederne data, der er fuldt tilpasset deres specifikke scenarier og behov, og garanterer den højeste nøjagtighed i modeltræning.

• Generering af syntetisk data

Brug af softwareværktøjer til at oprette billeder, tekst eller videoer baseret på en given scenarie. Men syntetisk data har begrænsninger: det genereres baseret på foruddefinerede parametre og mangler den naturlige variabilitet af rigtige data.

Denne mangel kan have en negativ indvirkning på AI-modeller. Selv om det ikke er relevant for alle tilfælde og ikke altid sker, er det stadig vigtigt at huske “model collapse” – et punkt, hvor overvældende afhængighed af syntetisk data får modellen til at degradere, hvilket fører til dårlige kvalitetsudgang.

Syntetisk data kan stadig være meget effektivt til grundlæggende opgaver, såsom at genkende generelle mønstre, identificere objekter eller skelne grundlæggende visuelle elementer som ansigter.

Men det er ikke den bedste løsning, når en virksomhed har brug for at træne en model helt fra scratch eller håndtere sjældne eller meget specifikke scenarier.

De mest afslørende situationer opstår i kabine-miljøer, såsom en chauffør, der er distraheret af et barn, nogen, der ser træt ud bag rattet, eller endda tilfælde af uansvarlig kørsel. Disse datapunkter er ikke almindeligt tilgængelige i offentlige datasets – og de burde heller ikke være det – da de involverer rigtige personer i private indstillinger. Da AI-modeller afhænger af træningsdata til at generere syntetiske udgang, kæmper de med at repræsentere scenarier, de aldrig har mødt nøjagtigt.

Når syntetisk data fejler, bliver oprettet data – indsamlet gennem kontrollerede miljøer med rigtige skuespillere – løsningen.

Data-løsningsselskaber som Keymakr placerer kameraer i biler, hyrer skuespillere og optager handlinger som at tage sig af et barn, drikke fra en flaske eller vise tegn på træthed. Skuespillerne underskriver kontrakter, der udtrykkeligt giver samtykke til at bruge deres data til AI-træning, hvilket sikrer overensstemmelse med privatlivslove.

Ansvar i Dataset-Creationsprocessen

Hver deltager i processen, fra klienten til annotationsvirksomheden, har specifikke ansvar, der er fastlagt i deres aftale. Første skridt er at etablere en kontrakt, der detaljerer naturen af forholdet, herunder klausuler om ikke-afsløring og immaterielle rettigheder.

Lad os overveje den første mulighed for at arbejde med data, nemlig når det oprettes fra scratch. Immaterielle rettigheder fastslår, at alle data, som leverandøren opretter, tilhører den ansættende virksomhed, hvilket betyder, at det oprettes på deres vegne. Dette betyder også, at leverandøren må sikre, at dataene indsamles lovligt og korrekt.

Som et data-løsningsselskab sikrer Keymakr data-overensstemmelse ved først at kontrollere den jurisdiktion, hvori dataene oprettes, at indhente ordentlig samtykke fra alle involverede personer og at garantere, at dataene kan bruges lovligt til AI-træning.

Det er også vigtigt at bemærke, at når dataene bruges til AI-modeltræning, bliver det næsten umuligt at bestemme, hvilke specifikke data bidrog til modellen, da AI blander det hele sammen. Så det specifikke output ikke tenderer til at være dets output, især når vi diskuterer millioner af billeder.

På grund af sin hurtige udvikling etablerer dette område stadig klare retningslinjer for distribution af ansvar. Dette ligner kompleksiteterne omkring selv kørende biler, hvor spørgsmål om ansvar – om det er chaufføren, fabrikanten eller software-virksomheden – stadig kræver en klar distribution.

I andre tilfælde, når en annotationsleverandør modtager en dataset til annotation, antager han, at klienten har indsamlet dataene lovligt. Hvis der er tydelige tegn på, at dataene er indsamlet ulovligt, skal leverandøren rapportere det. Men sådanne åbenlyse tilfælde er ekstremt sjældne.

Det er også vigtigt at bemærke, at store virksomheder, koncerner og mærker, der værdsætter deres rygte, er meget omhyggelige med, hvor de får deres data fra, selv hvis det ikke er oprettet fra scratch, men hentet fra andre lovlige kilder.

I sammenfattende betydning afhænger hver deltagers ansvar i dataarbejdsprocessen af aftalen. Du kunne overveje denne proces som en del af en bredere “bæredygtighedskæde”, hvor hver deltager har en afgørende rolle i at opretholde juridiske og etiske standarder.

Hvad er Misforståelser om AI-Udviklingens Baggrund?

En stor misforståelse om AI-udvikling er, at AI-modeller fungerer på samme måde som søgemaskiner, som indsamler og agregere information for at præsentere brugerne baseret på lært viden. Men AI-modeller, især sprogmodeller, fungerer ofte baseret på sandsynligheder i stedet for ægte forståelse. De forudsiger ord eller termer baseret på statistisk sandsynlighed, ved hjælp af mønstre set i tidligere data. AI “ved” ikke noget; det extrapolerer, gætter og justerer sandsynligheder.

Desuden antager mange, at træning af AI kræver enorme datasets, men meget af, hvad AI har brug for at genkende – som hunde, katte eller mennesker – er allerede velkendt. Fokus ligger nu på at forbedre nøjagtigheden og raffinere modellerne i stedet for at genopfinde genkendelsesevner. Meget af AI-udviklingen i dag handler om at lukke de sidste små huller i nøjagtighed i stedet for at starte fra scratch.

Etiske Udfordringer og Hvordan Den Europæiske Unions AI-Act og Formindskelse af US-Reguleringer Vil Påvirke Den Globale AI-Marked

Når vi diskuterer etik og lovlighed af at arbejde med data, er det også vigtigt at forstå, hvad der definerer “etisk” AI.

Den største etiske udfordring, som virksomheder står over for i dag i AI, er at bestemme, hvad der anses for uacceptabelt for AI at gøre eller blive undervist i. Der er en bred konsensus om, at etisk AI skal hjælpe i stedet for at skade mennesker og undgå bedrag. Men AI-systemer kan begå fejl eller “hallucinere”, hvilket udfordrer bestemmelse af, om disse fejl kvalificerer som desinformation eller skade.

AI-etik er en stor debat med organisationer som UNESCO involveret – med nøgleprincipper omkring gennemgang og sporing af udgang.

Juridiske rammer omkring dataadgang og AI-træning spiller en betydelig rolle i at forme AI’s etiske landskab. Lande med færre begrænsninger på dataanvendelse muliggør mere tilgængelig træningsdata, mens nationer med strengere data love begrænser data tilgængelighed for AI-træning.

For eksempel tilbyder Europa, som har antaget AI-Act, og USA, som har rullet tilbage mange AI-reguleringer, kontrasterende tilgange, der indikerer det nuværende globale landskab.

Den Europæiske Unions AI-Act har en betydelig indvirkning på virksomheder, der opererer i Europa. Den gennemfører en streng regulatorisk ramme, der gør det svært for virksomheder at bruge eller udvikle bestemte AI-modeller. Virksomhederne skal erhverve specifikke licenser til at arbejde med bestemte teknologier, og i mange tilfælde gør reguleringerne det effektivt for svært for små virksomheder at overholde disse regler.

Som resultat kan nogle startups vælge at forlade Europa eller undgå at operere der overhovedet, ligesom effekten set med kryptorreguleringer. Større virksomheder, der kan tilgodese den investering, der er nødvendig for at opfylde overensstemmelseskravene, kan tilpasse sig. Men loven kan drive AI-innovation ud af Europa til fordel for markeder som USA eller Israel, hvor reguleringerne er mindre strenge.

USAs beslutning om at investere store ressourcer i AI-udvikling med færre begrænsninger kan også have ulemper, men den kan også tilføre mere diversitet i markedet. Mens Den Europæiske Union fokuserer på sikkerhed og regulatorisk overensstemmelse, vil USA sandsynligvis fremme mere risikovillig og banebrydende eksperimentering.