Broen over AI-tillidskløften

AI-adoptionsniveauet er nået et kritisk vendepunkt. Virksomheder omfavner entusiastisk AI, drevet af dens løfte om at opnå størrelsesordensforbedringer i operationelle effektiviteter.

En ny Slack-undersøgelse fandt, at AI-adoptionsniveauet fortsætter med at stige, med en stigning på 24% i brugen af AI på arbejdspladserne og 96% af de adspurgte ledere mener, at “det er nødvendigt at integrere AI i deres forretningsoperationer.”

Der er dog en voksende kløft mellem AI’s nytte og den voksende bekymring om dets potentielle negative konsekvenser. Kun 7% af kontorarbejdere mener, at output fra AI er tillidsværdigt nok til at hjælpe dem med arbejdsrelaterede opgaver.

Denne kløft er tydelig i den skarpe kontrast mellem ledernes entusiasme for AI-integration og medarbejdernes skepsis i forhold til faktorer som:

• Forudindtagethed og Fairness: AI-systemer kan fastholde eller endda forværre eksisterende forudindtagelser, hvilket fører til uretfærdige resultater.
• Privatliv og Sikkerhed: Medarbejdere bekymrer sig om, hvordan deres personlige data indsamles, gemmes og bruges af AI-systemer.
• Uigennemsigtig beslutningstagning: AI-systemer opererer ofte som “sorte kasser”, hvor beslutninger er svært for mennesker at forstå eller forklare.
• Automatiseringsangst: Der er en udbredt frygt for, at AI vil erstatte menneskelige job, hvilket fører til arbejdsløshed og økonomisk ustabilitet.

Lovgivningens rolle i opbygning af tillid

For at løse disse komplekse tillidsproblemer ses lovgivningsmæssige foranstaltninger i stigende grad som en nødvendig skridt. Lovgivning kan spille en afgørende rolle i regulering af AI-udvikling og -implementering, hvilket kan øge tilliden. Nøglelovgivningsmæssige tilgange omfatter:

• Dataprotektions- og privatlivslove: Implementering af strenge dataprotektionslove sikrer, at AI-systemer behandler personlige data ansvarligt. Regler som General Data Protection Regulation (GDPR) i Den Europæiske Union sætter en standard ved at kræve gennemsigtighed, dataprotektion og brugerens samtykke. I særdeleshed Artikel 22 i GDPR beskytter datapersoner mod de potentielle negative konsekvenser af automatiseret beslutningstagning. Seneste retsafgørelser fra Den Europæiske Unions Domstol bekræfter en persons ret til ikke at være underlagt automatiseret beslutningstagning. I sagen Schufa Holding AG, hvor en tysk borger blev afvist for en banklån på grund af et automatiseret kreditvurderingssystem, fastslog domstolen, at Artikel 22 kræver, at organisationer implementerer foranstaltninger for at beskytte privatlivsrettigheder i forbindelse med brugen af AI-teknologier.
• AI-reguleringer: Den Europæiske Union har ratificeret EU AI-loven, som har til formål at regulere brugen af AI-systemer på basis af deres risikoniveau. Loven omfatter obligatoriske krav til højrisiko-AI-systemer, herunder områder som datakvalitet, dokumentation, gennemsigtighed og menneskelig oversigt. En af de primære fordele ved AI-reguleringer er fremme af gennemsigtighed og forklarbarhed af AI-systemer. Desuden etablerer EU AI-loven klare ansvarslige rammer, der sikrer, at udviklere, operatører og brugere af AI-systemer er ansvarlige for deres handlinger og resultaterne af AI-implementering. Dette inkluderer mekanismer for erstatning, hvis et AI-system forårsager skade. Når personer og organisationer holdes ansvarlige, opbygges tillid til, at AI-systemer håndteres ansvarligt.

Standardinitiativer til at fremme en kultur af tillidsværdig AI

Virksomheder behøver ikke at vente på, at nye love træder i kraft, for at fastslå, om deres processer er inden for etisk og tillidsværdigt rammer. AI-reguleringer virker i tandem med nye AI-standardinitiativer, der giver organisationer mulighed for at implementere ansvarlig AI-styring og bedste praksis under hele AI-systemets livscyklus, herunder design, implementering, drift og til sidst afvikling.

National Institute of Standards and Technology (NIST) i USA har udviklet en AI-risikostyringsramme for at vejlede organisationer i at håndtere AI-relaterede risici. Rammen er struktureret omkring fire kernefunktioner:

• Forståelse af AI-systemet og konteksten, det opererer i. Dette inkluderer definition af formålet, interessenter og potentielle konsekvenser af AI-systemet.
• Kvantificering af risiciene forbundet med AI-systemet, herunder tekniske og ikke-tekniske aspekter. Dette indebærer evaluering af systemets ydeevne, pålidelighed og potentielle forudindtagelser.

• Implementering af strategier for at mindske identificerede risici. Dette inkluderer udvikling af politikker, procedurer og kontroller for at sikre, at AI-systemet opererer inden for acceptable risikoniveauer.
• Etablering af styringsstrukturer og ansvarsmekanismer for at overvåge AI-systemet og dets risikostyringsprocesser. Dette indebærer regelmæssige gennemgang og opdatering af risikostyringsstrategien.

Som svar på fremskridt i generative AI-teknologier offentliggjorde NIST også Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, som giver vejledning i at mindske specifikke risici forbundet med grundlæggende modeller. Disse foranstaltninger omfatter beskyttelse mod skadelig brug (f.eks. desinformation, nedbrydende indhold, hadefuldt sprog) og etisk anvendelse af AI, der fokuserer på menneskelige værdier som fairhed, privatliv, informationsikkerhed, immaterielle rettigheder og bæredygtighed.

Desuden har Den Internationale Standardiseringsorganisation (ISO) og Den Internationale Elektrotekniske Kommission (IEC) udviklet ISO/IEC 23894, en omfattende standard for AI-risikostyring. Denne standard giver en systematisk tilgang til identifikation og håndtering af risici under hele AI-livscyklusen, herunder risikoidentifikation, vurdering af risikostørrelse, behandling for at mindske eller undgå det, og kontinuerlig overvågning og gennemgang.

Fremtiden for AI og offentlig tillid

Settende fremad vil fremtiden for AI og offentlig tillid sandsynligvis afhænge af flere nøglefaktorer, der er essentielle for alle organisationer at følge:

• Udførelse af en omfattende risikovurdering for at identificere potentielle overholdelsesproblemer. Vurder de etiske implikationer og potentielle forudindtagelser i jeres AI-systemer.
• Etablering af en tværfaglig arbejdsgruppe, der inkluderer juridiske, overholdelses-, IT- og datavidenskabsprofessionelle. Denne arbejdsgruppe skal være ansvarlig for at overvåge lovgivningsændringer og sikre, at jeres AI-systemer overholder nye reguleringer.
• Implementering af en styringsstruktur, der inkluderer politikker, procedurer og roller for at styre AI-initiativer. Sikrér gennemsigtighed i AI-operationer og beslutningsprocesser.
• Gennemførelse af regelmæssige interne revisioner for at sikre overholdelse af AI-reguleringer. Brug overvågningsværktøjer til at holde styr på AI-systemets ydeevne og overholdelse af reguleringer.
• Uddannelse af medarbejdere om AI-etik, lovgivningskrav og bedste praksis. Tilbyd løbende træningssessioner for at holde personalet informeret om ændringer i AI-reguleringer og overholdelsesstrategier.
• Vedligeholdelse af detaljerede optegnelser over AI-udviklingsprocesser, dataanvendelse og beslutningskriterier. Forbered jer på at generere rapporter, der kan indsendes til myndighederne, hvis nødvendigt.
• Opbygning af relationer med reguleringer og deltagelse i offentlige konsultationer. Tilbyd feedback på foreslåede reguleringer og søg klarifikation, når nødvendigt.

Kontekstualisering af AI for at opnå tillidsværdig AI

Til sidst afhænger tillidsværdig AI af dataintegriteten. Generativ AI’s afhængighed af store datasæt svarer ikke til nøjagtighed og pålidelighed af output; hvis noget, er det modsat standards. Retrieval Augmented Generation (RAG) er en innovativ teknik, der “kombinerer statiske LLM’er med kontekstspecifik data. Og det kan betragtes som en meget kyndig medhjælper. En, der matcher kontekst med specifik data fra en omfattende videnbase.” RAG giver organisationer mulighed for at levere kontekstspecifikke applikationer, der overholder privatlivs-, sikkerheds-, nøjagtigheds- og pålidelighedskrav. RAG forbedrer nøjagtigheden af genererede svar ved at hente relevante oplysninger fra en videnbase eller dokumentrepository. Dette giver mulighed for, at modellen baserer sin generation på nøjagtige og opdaterede oplysninger.

RAG giver organisationer mulighed for at opbygge formålsspecifikke AI-applikationer, der er højtydende, kontekstbevidste og tilpasningsdygtige for at forbedre beslutningstagning, forbedre kundeoplevelser, strømline operationer og opnå betydelige konkurrencemæssige fordele.

At bro over AI-tillidskløften indebærer sikring af gennemsigtighed, ansvarlighed og etisk anvendelse af AI. Selv om der ikke er ét enkelt svar på, hvordan man opretholder disse standarder, har virksomheder strategier og værktøjer til rådighed. Implementering af robuste dataprotektionsforanstaltninger og overholdelse af reguleringer bygger brugerfortroen. Regelmæssig gennemgang af AI-systemer for forudindtagelser og uregelmæssigheder sikrer fairhed. Tilføjning af formålsspecifik AI til Large Language Models (LLM’er) giver tillid ved at inkorporere proprietære videnbaser og datakilder. Engagement af interessenter om AI’s muligheder og begrænsninger giver også tillid og accept.

Tillidsværdig AI er ikke let at opnå, men det er en vital forpligtelse til vores fremtid.