Når AI’s ‘Viden’ Er 50 År Gammel: Den Overtrædelsesrisiko, Du Ikke Kan Ignorere

Spørgsmålet om fejlagtige AI-indsigter er en presserende udfordring, da virksomheder øger deres brug af generative værktøjer. Trods den bredt udbredte begejstring for AI-adoption er der også en stærk strøm af kritik. Kritiske kommentatorer peger ofte på åbenlyst tilfældige, uforudsigelige ukorrekte udsagn i AI’s output, som undergraver dens værdi – og kan endda true menneskers sikkerhed, især i sektorer som sundheds- og transportsektoren, hvor fejl kan føre til alt fra forkerte recepter til tog, der kolliderer.

Ofte er disse ukorrekte udsagn blevet tilskrevet AI-‘hallucinationer’ – tilfælde, hvor AI genererer et ‘bedst muligt’ svar, som præsenteres med samme sikkerhed som et ‘ægte’ svar, i stedet for at underrette brugeren om en mangler i sin viden eller evne. Hallucinationer kan være svære at spotte ved første øjekast – men der er et mere stille, lige så alvorligt problem, som er endnu sværere at opdage.

Datakvalitetsgæld: AI’s Achilles-hæl

Når AI-systemer trækker på forældede, ufuldstændige eller ukorrekte data, opstår fejl, men de er mindre umiddelbart synlige. For eksempel kan du bede en AI om at identificere symptomerne på en medicinsk tilstand og modtage et svar baseret på en 50 år gammel artikel i stedet for nuværende forskning. Resultatet er sandsynligvis ikke åbenlyst forkert – men den initiale overflade af plausibilitet udgør en reel risiko for både patienten og sundhedsudbyderen.

Det samme gælder på tværs af brancher – hvis data, der fødes til AI-modellen, indeholder gamle, forældede eller delvise oplysninger, er der en høj risiko for fejl. Og da flere virksomheder integrerer AI i forretningskritiske processer, øges risikoen for at trække fejlige konklusioner på grund af dårligt styrede data.

Nøjagtighed for regulator

Dette er ikke kun et problem for dag-til-dag-drift – det er også en betydelig overtrædelsesudfordring. Reguleringskravene udvikler sig hurtigt for at imødegå bekymringer om ukorrekte AI. For eksempel har der været flere tidlige reguleringsaktioner på AI; bemærkelsesværdigt, da Italien midlertidigt forbød ChatGPT på grund af bekymringer om brugerbeskyttelse, og EU’s Data Protection Board lancerede en dedikeret taskforce til at koordinere potentielle aktioner mod ChatGPT.

En af de mest betydningsfulde reguleringsændringer har været vedtagelsen af EU’s AI-lov, verdens første omfattende lovmæssige ramme for AI. Loven fastsætter forpligtelser baseret på risikoniveauet for AI-systemer, fra ‘uacceptabelt risiko’-systemer, som er forbudt, til ‘højrisiko’-systemer, som er underlagt strenge krav om gennemsigtighed, datakvalitet, styre og menneskelig tilsyn.

Betydningen af EU’s AI-lov ligger ikke i dens ambitiøse omfang, men vigtigt på det præcedens, den sætter. Regulatorer gør det klart, at AI vil være underlagt bindende, gennemførbare regler, og at organisationer må behandle overtrædelses- og gennemsigtighedsaspekter ved, hvor og hvordan AI bruges, som en integreret del af AI-adoption i stedet for en eftertanke.

Loven har et bredt anvendelsesområde, med potentialet til at påvirke en stor proportion af AI-udviklinger. I dens kerne handler det om at gøre AI sikker, samtidig med at man respekterer grundlæggende rettigheder og værdier. Inden for denne nye principperne økosystem kommer diagnosen af potentielle kilder til AI-ukorrekte, herunder data og datasæt, der fødes til modellerne, model-gennemsigtighed og adgang, samt systemdesign og brug. AI-løsninger er en konstruktion af alle tre – problemer med nogen af disse kan have en negativ udgang. Ikke blot det, men data, der indgår i design, modeludvikling, implementering og drift af AI, er sandsynligvis primært sammensat af forretningsoptegnelser, der selv er underlagt forskellige overtrædelseskrav.

I andre ord er den reguleringsmæssige omgang med AI blevet stadig mere streng – og det gælder lige så meget for dataindgang som for dataudgang, selvom sidstnævnte får mere opmærksomhed.

Fem trin til at føde AI-kompatibel, aktuel, relevant data

For at løse denne dobbelte udfordring – sikre både overtrædelsesvenlig datahåndtering og højkvalitetsinput, der muliggør højkvalitetsoutput – har virksomheder brug for kontrol over trænings- og slutningsdata. Desværre er dette noget, mange virksomheder stadig mangler.

I det mindste bør organisationer anvende deres bredere overtrædelses- og styreprogrammer på AI-initiativer. De skal begynde at indsamle og opbevare passende optegnelser over data, der fødes til AI-modeller, hvordan modeller og systemer er designede, samt beslutninger og indhold, der genereres via AI.

Men det er også blevet kritisk vigtigt for organisationer at gå et skridt videre og sikre, at de har fuld kontrol over alle data, der potentielt kan bruges i AI-udrulninger, enten til initial træning eller ‘live’-arbejde. Dette kræver en højkvalitets datastyrings- og lagringsstrategi, der sikrer, at alle relevante data indsamles intelligent, renses, opbevares, klassificeres og berettiges. For at opnå dette skal organisationer overveje fire vigtige trin:

1. Dataherkomst og -proveniens

Dette inkluderer at opretholde en optegnelse over datakildens herkomst, dens oprindelse, ejerskab og eventuelle ændringer i metadata (hvis tilladt) på tværs af dens livscyklus. Det indebærer også at opretholde rig metadata og alle underliggende dokumenter eller artefakter, som det er afledt fra.

2. Dataautenticitet

Dette kræver at opretholde en klar kæde af ejerskab for alle data, at opbevare objekter i deres native former og at hash-objekter, der modtages for at demonstrere, at data forbliver uændret. Derudover skal organisationer opretholde en fuld revisionshistorik for hvert objekt og for alle handlinger og begivenheder i forhold til ændringer.

3. Dataklassificering

At fastslå naturen af en samling eller type data er vigtigt. Organisationer skal kunne styre struktureret data, semistruktureret data og strukturerede datasæt. At give hver klasse en unik skema kan tillade organisationer at styre diverse datasæt uden en fast, én-størrelse-til-alle-ontologi – og undgå, at data påtvunget manipuleres for at passe ind i en infleksibel datastruktur.

4. Datanormalisering

At fastslå fælles definitioner og formater for metadata er vigtigt til brug i analyser og AI-løsninger. Tydeligt definerede skemaer er et vigtigt element, sammen med værktøjer, der kan transformere eller kortlægge data for at opretholde konsistente, normaliserede visninger af relaterede data.

5. Databerettigelse

Virksomheder har brug for detaljerede berettigelseskontroller, herunder på objektniveau eller felt-niveau, baseret på bruger- eller systemprofiler. Dette indebærer, at den rette data er tilgængelig for brugere og systemer, der er berettigede til adgang, mens adgang begrænses eller afvises for dem, der ikke er det.

Med disse afgørende elementer på plads vil virksomheder være bedst placeret til at sikre, at data, der fødes til AI-modeller, både er af høj kvalitet og overtrædelsesvenlig. AI vil drive forbedringer og effektivitet på tværs af brancher – men for at dette skal ske, er en solid datagrundlag afgørende.