Hvorfor blind tillit til AI kan være ditt verste avgjørelse noen sinne

I 1979 kom en IBM-håndbok med en enkel, men slående advarsel: “En datamaskin kan aldri holdes ansvarlig; derfor må en datamaskin aldri ta en ledelsesbeslutning.” Og mer enn 45 år senere, føles denne uttalelsen som en ignorert profeti.

I 2025 gjør AI ikke bare assistanse; det tar autonome beslutninger, og i mange tilfeller, ikke bare bestemmer det, men leder det også. I virkeligheten, rundt 74% av ledere har mer tillit til AI for bedriftsråd sammenlignet med kolleger eller venner, 38% stoler på AI for å ta bedriftsbeslutninger for dem, og 44% henviser til teknologiens begrunnelser fremfor deres egne innsikter. Skiftet er tydelig; AI er det nye instinktet.

Men det er et problem. Tillit til AI er bare mulig hvis algoritmen er verdig tillit. Og når tillit plasseres blindt, spesielt i svarte bokser som vi ikke kan forstå eller gjennomgå, er det en risiko forkledd som fremgang. Som med menneskelig ledelse, er tillit uten ansvar farlig, og når AI tar feil, hvem tar fallet?

Når verktøyet blir sjefen

Hva begynte som et verktøy for å strømlinje bakkontor-operasjoner, brukes nå i kjerneprosesser for bedrifter. Men bedrifter bruker ikke bare AI for å støtte menneskelige beslutninger; de stoler nå på AI, spesielt generativ AI (GenAI), for å ta bedriftsbeslutninger, fra bedriftsstrategi til kundeservice, finansiell modellering og mer.

Dette skiftet er forståelig. AI blir ikke distraherende, glemmer ikke instruksjoner eller lar emosjoner skygge dømmingen. For mange bedrifter, tilbyr dette en tiltrekkende kur mot risikoen for menneskelig feil. Likevel, en viktig spørsmål forbli: kan vi stole på AI for å være sjefen og ta beslutninger uavhengig?

Det er ikke et rett frem og tilbake svar, men en måte å se på det er hvordan vi dømmer menneskers tillitsverdighet: ved deres kompetanse, pålitelighet og klare intensjoner. De samme prinsippene gjelder for AI.

For å være tillitsverdig, må et AI-system levere resultater som er nøyaktige, rettidige og passende. Men nivået av tillit og feilmarginen varierer avhengig av kontekst. For eksempel, når det gjelder å diagnostisere kreft fra medisinske bilder, er feilmarginen ekstremt lav. Omvendt, når det gjelder å generere ideer for en markedsføringskampanje, er det mer rom for eksperimentering.

Vi har sett AI brukt til å ta autonome beslutninger i områder som kredittgodkjenning, der banker bruker algoritmer til å bestemme låneberettigelse på få sekunder. Detaljister bruker AI til å håndtere lager og priser uten menneskelig inngripen. Men vi har også sett feil – som selvstyrende biler som misdømmer veiforhold.

En advarselshistorie viser risikoen ved å plassere for mye tillit til AI uten tilstrekkelig tilsyn. Derek Mobley – en svart mann over 40 – søkte om over 100 stillinger gjennom Workday AI-drevne rekrutteringssystem siden 2017 og ble avvist hver gang. Han påstod diskriminering basert på alder og rase. I mai 2025, ga retten en nasjonal kollektiv aksjon. Klassen inkluderer alle søkere over 40 som søkte gjennom Workday siden september 2020 og ble avvist basert på AI-anbefalinger.

Dette eksemplet gjør et viktig poeng: AI mangler emosjonell intelligens, moralsk begrunnelser eller en naturlig sans for rettferdighet. Og siden AI beveger seg fra menneskelig assistent til uavhengig beslutningstaker, er det nå et ansvarlig tomrom. Når algoritmer tillates å kjøre uten menneskelig kontroll, kan de og gjør de dårlige beslutninger og forsterker eksisterende fordommer.

Spørsmålet rundt svarte bokser

Svarte bokser – når et AI-system og logikk ikke er fullstendig synlige – er stadig mer vanlig. Selv om de kan ha synlige lag, kan utviklere og brukere likevel ikke se hva som skjer på hvert lag, og gjør dem ugjennomsiktige.

For eksempel er ChatGPT en svart boks, da selv dens skapere er usikre på hvordan det fungerer, da det er trent på så store datamengder. Men på grunn av mangelen på transparens, er det noen gang ok å “stole” på en AI-modell uten å fullstendig forstå hvordan den fungerer?

Kort sagt, nei: AI-hallusinasjoner blir verre. Dette betyr at i høyrisikoscenarier, som finansielle beslutninger, juridiske råd og medisinske innsikter, krever AI streng validering, kryssreferanser og menneskelig tilsyn.

Saken Disney og Universal-saken fra juni 2025 understreker dette punktet. Studioene påstår at GenAI-verktøy ble trent på opphavsrettslige materialer for å lage nytt innhold uten samtykke. Denne saken høydepunkter en ny realitet: når bedrifter setter i gang AI-modeller de ikke fullstendig forstår, kan de holdes ansvarlige for beslutninger tatt. Og uvitenhet er ingen forsvar; det er en ansvar.

Likevel, vi plasserer ofte tillit i komplekse systemer vi ikke forstår. For eksempel, de fleste flypassasjerer kan ikke forklare fysikken bak flyging, likevel går folk om bord i fly med tillit fordi vi har bygget tillit gjennom gjentakende eksponering, kollektiv erfaring og en sterk sikkerhetsrekord.

Samme logikk kan igjen gjelde for AI. Det er urimelig å forvente at alle skal forstå hvordan LLM fungerer. Men tillit bygges ikke på forståelse; det krever familiærhet, transparens om begrensninger og en bevist mønster av pålitelig ytelse. Aerospace-ingeniører vet hva tester å sette i gang og hva feil ser ut som, og vi må kreve det samme fra GenAI-leverandører. Grunnleggende prinsippet for AI bør være tillit, men verifiser.

Videre, tror mange ledere at AI vil være den sølvkula som løser alle deres bedriftsproblemer. Likevel, denne myten plager mange bedrifter når de integrerer AI. Ledere kan foretrekke komplekse og sofistikerte modeller, men en enklere løsning kan være bedre egnet hvis de utfører en kost-nytte-analyse. AI er et kraftfullt instrument, men det er ikke egnet for hver oppgave. Bedrifter må erkjenne problemet før de velger et verktøy.

Gjenoppbygging av tillit i AI

Selv om det er tydelig at blind tillit til AI er et problem, kan AI-systemer og algoritmer være det beste verktøyet en bedrift noen sinne eier – når brukt trygt.

For bedrifter som ønsker å utnytte AI-verktøy, er det første å forske på leverandør-due-diligence. Når en bedrift har identifisert et område som kan dra nytte av AI-effektivitet, bør ledere evaluere leverandører ikke bare på ytelseskrav, men på styringskontroller. Dette inkluderer å se på hvordan modeller utvikles, om forklaringsverktøy er på plass, hvordan fordommer overvåkes og om audittspor er tilgjengelige. Å velge en leverandør med transparente prosesser er essensielt for å minimere risiko fra starten.

Kanskje det viktigste punktet når det gjelder å bygge tillit i AI-systemer, er å sikre datastyring med rene, representative og godt dokumenterte datamengder. Som sagt: søppel inn, søppel ut. Derfor, hvis dataene er ufullstendige, fordomsfulle eller uriktige, vil selv de mest avanserte modellene produsere upålitelige resultater.

For å sikre at data er AI-klare, bør bedrifter:

• Gjennomgå eksisterende datamengder for hull og duplikater, og sjekk for kilder til fordommer

• Standardisere dataformat

• Implementere datastyringspolitikk som definerer eierskap og tilgangskontroll

En annen viktig oppgave for ledere er å utføre stresstesting under ulike forhold. Selv om en modell kan fungere bra i kontrollerte tester, er det kritisk å forstå modellens begrensninger når den møter nye data eller innputt den ikke forventet. Dette er hvorfor det er viktig å teste AI i en rekke situasjoner, med ulike typer brukere, forskjellige bruksområder og data fra ulike tidsperioder.

AI-validering er også en kontinuerlig oppgave. Ettersom data endrer seg over tid, kan selv pålitelige AI-modeller tape nøyaktighet. Derfor er det viktig å overvåke hvordan modellen fungerer dag for dag: er den fortsatt nøyaktig? Eller øker feilpositivene? Og like som ethvert system som trenger vedlikehold, bør modeller omtrennes regelmessig med ferske data for å forbli relevante.

AI er ikke tillitsverdig eller utillitsverdig; det er formet av dataene det lærer fra, menneskene som lager det og reglene som styrer det. Ettersom AI utvikler seg fra et nyttig verktøy til en bedriftsrådgiver, har ledere muligheten til ikke bare å bruke det, men å gjøre det på en tankefull og etisk måte. Hvis vi gjør dette riktig, vil AI ikke bare være kraftfull i fremtiden, men også ansvarlig, med ansvarligheit som tydelig sitter hos utviklerne og tilsynshaverne.