Åpne svarteboksen for AI-forståelse

Kunstig intelligens (AI) har blitt en integrert del av nesten alle aspekter av vårt daglige liv, fra personlige anbefalinger til kritiske beslutninger. Det er gitt at AI vil fortsette å utvikle seg, og med det, truslene forbundet med AI vil også bli mer sofistikerte. Mens bedrifter innfører AI-aktiverede forsvar som svar på den økende kompleksiteten, er neste skritt mot å fremme en organisasjonsomfattende kultur for sikkerhet å forbedre AI-s forståelighet.

Selv om disse systemene tilbyr imponerende kapasiteter, fungerer de ofte som “svartebokser” – produserer resultater uten klart innsikt i hvordan modellen kom frem til konklusjonen den gjorde. Problemet med AI-systemer som lager feil uttalelser eller tar feil handlinger kan forårsake betydelige problemer og potensielle forretningsavbrudd. Når bedrifter gjør feil på grunn av AI, krever deres kunder og forbrukere en forklaring og kort tid etter, en løsning.

Men hva er årsaken? Ofte er det dårlig data som brukes til trening. For eksempel er de fleste offentlige GenAI-teknologier trent på data som er tilgjengelig på Internett, som ofte er uverifisert og uriktig. Mens AI kan generere raske svar, avhenger nøyaktigheten av svarene av kvaliteten på dataene det er trent på.

AI-feil kan skje i ulike tilfeller, inkludert skriptgenerering med feil kommandoer og feil sikkerhetsbeslutninger, eller å utelukke en ansatt fra å arbeide på bedriftens systemer på grunn av feil anklager fremført av AI-systemet. Alt dette har potensialet til å forårsake betydelige forretningsavbrudd. Dette er bare ett av de mange grunnene til at sikring av transparens er nøkkel til å bygge tillit til AI-systemer.

Bygge inn tillit

Vi eksisterer i en kultur hvor vi innsetter tillit til alle slags kilder og informasjon. Men samtidig krever vi bevis og validering mer og mer, og må stadig validere nyheter, informasjon og påstander. Når det gjelder AI, setter vi tillit til et system som har potensialet til å være uriktig. Mer viktig er det umulig å vite om handlingene AI-systemene tar er korrekte uten noen transparens i grunnlaget for beslutningene. Hva hvis ditt cyber AI-system lukker ned maskiner, men det gjorde en feil i tolkningen av tegnene? Uten innsikt i hva informasjonen som ledet systemet til å ta denne beslutningen, er det ingen måte å vite om det tok riktig beslutning.

Selv om forstyrrelser i bedriftsdriften er frustrerende, er en av de mer betydelige bekymringene med AI-bruk datatilgang. AI-systemer, som ChatGPT, er maskinlæringsmodeller som henter svar fra dataene de mottar. Derfor, hvis brukere eller utviklere utilsiktet gir sensitive opplysninger, kan maskinlæringsmodellen bruke disse dataene til å generere svar til andre brukere som avslører konfidensielle opplysninger. Disse feilene har potensialet til å alvorlig forstyrre en bedrifts effektivitet, lønnsomhet og mest viktig, kundetillit. AI-systemer er ment å øke effektiviteten og forenkle prosessene, men i tilfeller hvor konstant validering er nødvendig fordi utdata ikke kan stoles på, åpner organisasjonene ikke bare for tidsøkonomi, men også for potensielle sårbarheter.

Trening av team for ansvarlig AI-bruk

For å beskytte organisasjoner mot de potensielle risikoene med AI-bruk, har IT-fagfolk en viktig ansvar for å trene sine kolleger til å sikre at AI brukes på en ansvarlig måte. Ved å gjøre dette, hjelper de med å holde sine organisasjoner trygge mot cyberangrep som truer deres levedyktighet og lønnsomhet.

Men før trening av team, må IT-ledere innenfor organisasjonen avgjøre hvilke AI-systemer som vil være best egnet for organisasjonen. Å rush inn i AI vil bare slå tilbake senere, så i stedet, start smått, fokusere på organisasjonens behov. Sikre at standardene og systemene du velger er i samsvar med organisasjonens nåværende teknologi og mål, og at AI-systemene møter de samme sikkerhetsstandardene som andre leverandører du velger.

Når et system er valgt, kan IT-fagfolk så begynne å eksponere sine team for disse systemene for å sikre suksess. Start med å bruke AI for små oppgaver og se hvor det fungerer bra og hvor det ikke gjør det, og lær hva de potensielle farene eller valideringene er som må pålegges. Deretter introduser bruk av AI for å supplere arbeid, muliggjøre raskere selvbetjening, inkludert enkle “hvordan”-spørsmål. Fra der kan det læres hvordan man setter valideringer på plass. Dette er verdifullt da vi vil begynne å se flere jobber bli om å sette grensebetingelser og valideringer sammen, og allerede sett i jobber som å bruke AI til å assistere i å skrive programvare.

I tillegg til disse praktiske skrittene for å trene teammedlemmer, er det også viktig å initiere og oppmuntre diskusjoner. Oppmuntre åpne, data-drevne samtaler om hvordan AI tjener brukernes behov – løser det problemer nøyaktig og raskere, driver vi produktivitet for både bedrift og sluttbruker, øker vår kundetilfredshetspoeng på grunn av disse AI-drevne verktøyene? Vær tydelig på avkastning på investering (ROI) og hold det fremme. Tydelig kommunikasjon vil tillate at bevissthet om ansvarlig bruk vokser, og når teammedlemmene får en bedre forståelse av hvordan AI-systemene fungerer, er de mer sannsynlig å bruke dem på en ansvarlig måte.

Hvordan oppnå transparens i AI

Selv om trening av team og økt bevissthet er viktig, er det for å oppnå transparens i AI avgjørende at det er mer kontekst rundt dataene som brukes til å trene modellene, og sikre at bare kvalitetsdata brukes. Kanskje vil det til slutt være en måte å se hvordan systemet resonerer så vi kan fullt ut stole på det. Men til da, trenger vi systemer som kan arbeide med valideringer og vegger og bevise at de overholder dem.

Mens full transparens vil uunngåelig ta tid å oppnå, den raske veksten av AI og dens bruk gjør det nødvendig å arbeide raskt. Mens AI-modellene fortsetter å øke i kompleksitet, har de kraften til å gjøre en stor forskjell for menneskeheten, men konsekvensene av deres feil vokser også. Som et resultat er det ekstremt verdifullt og nødvendig å forstå hvordan disse systemene kommer frem til sine beslutninger for å forbli effektive og pålitelige. Ved å fokusere på transparente AI-systemer, kan vi sikre at teknologien er like nyttig som den er ment å være, samtidig som den forbli ubiasert, etisk, effektiv og nøyaktig.