Broen over AI-tillitsgapet

AI-tilpasningen når et kritisk vendepunkt. Bedrifter omfavner entusiastisk AI, drevet av dens løfte om å oppnå orden-forbedringer i operasjonelle effektiviteter.

En nylig Slack-undersøkelse fant at AI-tilpasningen fortsetter å akselerere, med bruk av AI på arbeidsplassen som har økt med 24% nylig og 96% av de underskuede lederne mener at “det er急 å integrere AI i bedriftens drift”.

Det er imidlertid et økende gap mellom nyttiggjøringen av AI og den voksende bekymringen for dens potensielle negative konsekvenser. Bare 7% av skrivebordsarbeidere tror at utdata fra AI er pålitelige nok til å assistere dem i arbeidsrelaterte oppgaver.

Dette gapet er tydelig i den skarpe kontrasten mellom lederes entusiasme for AI-integrasjon og ansattes skepsis i forhold til faktorer som:

• Bias og rettferdighet: AI-systemer kan vedlikeholde eller til og med forverre eksisterende fordommer, noe som fører til urettferdige resultater.
• Personvern og sikkerhet: Ansatte bekymrer seg om hvordan deres personlige data samles inn, lagres og brukes av AI-systemer.
• Opaque beslutningstakning: AI-systemer opererer ofte som “svarte bokser”, og tar beslutninger som er vanskelige for mennesker å forstå eller forklare.
• Automatiseringsangst: Det er en utbredt frykt for at AI vil erstatte menneskelige jobber, noe som fører til arbeidsledighet og økonomisk ustabilitet.

Rollen til lovgivning i å bygge tillit

For å møte disse multifacetterte tillitsproblemer, sees lovgivningsmessige tiltak nå som et nødvendig skritt. Lovgivning kan spille en avgjørende rolle i å regulere AI-utvikling og -implementering, og dermed øke tillit. Nøkkeltilnærminger til lovgivning inkluderer:

• Data beskyttelse og personvernlover: Implementering av strenge data beskyttelseslover sikrer at AI-systemer behandler personlige data på en ansvarlig måte. Reguleringer som General Data Protection Regulation (GDPR) i Den europeiske union setter et precedens ved å pålegge transparens, data minimisering og bruker samtykke. I særlig Artikkel 22 i GDPR beskytter data subjekter mot potensielle negative konsekvenser av automatisert beslutningstaking. Nylige avgjørelser fra Den europeiske unions domstol bekrefter en persons rettigheter til ikke å være underlagt automatisert beslutningstaking. I saken Schufa Holding AG, hvor en tysk borger ble avvist for en bankkredittakelse på grunn av et automatisert kredittvurderingssystem, fastslo domstolen at Artikkel 22 krever at organisasjoner implementerer tiltak for å beskytte personlige rettigheter i forbindelse med bruk av AI-teknologier.
• AI-reguleringer: Den europeiske union har ratifisert EU AI-loven (EU AIA), som har til hensikt å regulere bruk av AI-systemer basert på deres risikonivå. Loven inkluderer obligatoriske krav til høyrisikos AI-systemer, som omfatter områder som datakvalitet, dokumentasjon, transparens og menneskelig tilsyn. En av de primære fordelene med AI-reguleringer er fremmingen av transparens og forklarbarhet av AI-systemer. Videre etablerer EU AIA klare ansvarlige rammer, som sikrer at utviklere, operatører og til og med brukere av AI-systemer er ansvarlige for sine handlinger og resultater av AI-bruk. Dette inkluderer mekanismer for oppreising hvis et AI-system forårsaker skade. Når enkeltpersoner og organisasjoner holdes ansvarlige, bygges tillit til at AI-systemer håndteres ansvarlig.

Standardinitiativer for å fremme en kultur av pålitelig AI

Bedrifter trenger ikke å vente på nye lover for å avgjøre om deres prosesser er innenfor etiske og pålitelige retningslinjer. AI-reguleringer fungerer i tandem med nye AI-standardinitiativer som gir organisasjoner mulighet til å implementere ansvarlig AI-styring og beste praksis gjennom hele livssyklusen til AI-systemer, inkludert design, implementering, drift og til slutt avvikling.

National Institute of Standards and Technology (NIST) i USA har utviklet en AI-risikostyringsramme for å veilede organisasjoner i å håndtere AI-relaterte risikoer. Rammen er strukturert rundt fire kjernefunksjoner:

• Forstå AI-systemet og konteksten det opererer i. Dette inkluderer å definere formålet, interessenter og potensielle konsekvenser av AI-systemet.
• Kvantifisere risikoene forbundet med AI-systemet, inkludert tekniske og ikke-tekniske aspekter. Dette innebærer å evaluere systemets ytelse, pålitelighet og potensielle fordommer.

• Implementere strategier for å mildne identifiserte risikoer. Dette inkluderer å utvikle politikker, prosedyrer og kontroller for å sikre at AI-systemet opererer innenfor akseptable risikonivåer.
• Etablere styringsstrukturer og ansvarlige mekanismer for å overvåke AI-systemet og dets risikostyringsprosesser. Dette inkluderer regelmessige gjennomganger og oppdateringer av risikostyringsstrategien.

Som svar på fremgangen i generative AI-teknologier NIST har også publisert Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, som gir veiledning for å mildne spesifikke risikoer forbundet med grunnleggende modeller. Slike tiltak omfatter å beskytte mot skadelig bruk (f.eks. desinformasjon, degradering av innhold, hatytringer) og fokusere på etiske anvendelser av AI som prioriterer menneskelige verdier som rettferdighet, personvern, informasjonssikkerhet, immaterielle rettigheter og bærekraft.

Videre har Den internasjonale organisasjonen for standardisering (ISO) og Den internasjonale elektrotekniske kommisjon (IEC) utviklet ISO/IEC 23894, en omfattende standard for AI-risikostyring. Denne standarden gir en systematisk tilnærming til å identifisere og håndtere risikoer gjennom hele AI-livssyklusen, inkludert risikoidentifisering, vurdering av risikostørrelse, behandling for å mildne eller unngå det, og kontinuerlig overvåking og gjennomgang.

Fremtiden for AI og offentlig tillit

Ser vi fremover, vil fremtiden for AI og offentlig tillit sannsynligvis henge sammen med flere nøkkelaktører som er essensielle for alle organisasjoner å følge:

• Utføre en omfattende risikovurdering for å identifisere potensielle samarbeidsproblemer. Vurdere de etiske implikasjonene og potensielle fordommer i AI-systemene.
• Etablere en tverrfaglig gruppe inkludert juridiske, samarbeids-, IT- og data vitenskapsfolk. Denne gruppen skal være ansvarlig for å overvåke regulatoriske endringer og sikre at AI-systemene overholder nye reguleringer.
• Implementere en styringsstruktur som inkluderer politikker, prosedyrer og roller for å håndtere AI-initiativer. Sikre transparens i AI-operasjoner og beslutningsprosesser.
• Utføre regelmessige interne auditor for å sikre overholdelse av AI-reguleringer. Bruke overvåkingsverktøy for å holde øye på AI-systemets ytelse og overholdelse av regulatoriske standarder.
• Utdanne ansatte om AI-etikk, regulatoriske krav og beste praksis. Tilby kontinuerlige opplæringsprogrammer for å holde personalet informert om endringer i AI-reguleringer og samarbeidsstrategier.
• Vedlikeholde detaljerte registreringer av AI-utviklingsprosesser, dataanvendelse og beslutningskriterier. Forberede seg på å generere rapporter som kan leveres til regulatorer hvis nødvendig.
• Bygge relasjoner med regulatoriske organer og delta i offentlige konsultasjoner. Gi tilbakemelding på foreslåtte reguleringer og søke klarifikasjoner når nødvendig.

Kontekstualisere AI for å oppnå pålitelig AI

Til slutt henger pålitelig AI sammen med integriteten til data. Generativ AI sin avhengighet av store datamengder tilsvarer ikke nødvendigvis nøyaktighet og pålitelighet av utdata; hvis noe, er det motsatt av begge standarder. Retrieval Augmented Generation (RAG) er en innovativ teknikk som “kombinerer statiske LLM-er med kontekstspesifikke data. Og det kan betraktes som en svært kunnskapsrik assistent. En som matcher kontekstspørsmål med spesifikke data fra en omfattende kunnskapsbase.” RAG muliggjør at organisasjoner kan levere kontekstspesifikke applikasjoner som overholder forventninger til personvern, sikkerhet, nøyaktighet og pålitelighet. RAG forbedrer nøyaktigheten av genererte svar ved å hente relevante opplysninger fra en kunnskapsbase eller dokumentarkiv. Dette tillater modellen å basere sin generering på nøyaktige og oppdaterte opplysninger.

RAG muliggjør at organisasjoner kan bygge formålsspesifikke AI-applikasjoner som er svært nøyaktige, kontekstbevisste og tilpasningsdyktige for å forbedre beslutningstaking, forbedre kundeopplevelser, strømlinjeforme drift og oppnå betydelige konkurransefordeler.

Broen over AI-tillitsgapet innebærer å sikre transparens, ansvar og etisk bruk av AI. Mens det ikke finnes noen enkelt løsning for å opprettholde disse standardene, har bedrifter strategier og verktøy til disposisjon. Implementering av robuste datavernpolitikker og overholdelse av regulatoriske standarder bygger brukertillit. Regelmessig auditing av AI-systemer for fordommer og uakkurathet sikrer rettferdighet. Augmentering av Large Language Models (LLM) med formålsspesifikke AI leverer tillit ved å inkorporere proprietære kunnskapsbaser og datasources. Engasjement av interessenter om mulighetene og begrensningene til AI fremmer også tillit og aksept.

Pålitelig AI er ikke lett å oppnå, men det er en avgjørende forpliktelse til vår fremtid.