Hvorfor blind tillid til AI kan være dit værste valg nogensinde

I 1979 udgav IBM en træningsmanual, der indeholdt en enkel, men slående advarsel: “En computer kan aldrig holdes ansvarlig; derfor må en computer aldrig træffe en ledelsesbeslutning.” Og mere end 45 år senere føles denne udtalelse som en ignoreret profeti.

I 2025 assisterer AI ikke blot, men træffer også selvstændige beslutninger, og i mange tilfælde er det ikke blot AI, der beslutter, men også leder. Faktisk er det omkring 74% af ledere mere tilbøjelige til at stole på AI til forretningsråd end på kollegaer eller venner, 38% stoler på AI til at træffe forretningsbeslutninger for dem, og 44% følger teknologiens grundlag i stedet for deres egne indsigter. Skiftet er tydeligt; AI er den nye intuition.

Men der er et problem. Tillid til AI er kun mulig, hvis algoritmen er værdig til at stole på. Og når tillid placeres blindt, især i sorte kasser, som vi ikke kan forstå eller gennemgå, er det en risiko, der udgiver sig for fremskridt. Som med menneskelig ledelse er tillid uden ansvar farligt, og når AI tager fejl, hvem tager faldet?

Når værktøjet bliver chefen

Hvad startede som et værktøj til at strømline bagkontoroperationer bruges nu i kerneforretningsprocesser. Men virksomhederne bruger ikke blot AI til at støtte menneskelige beslutninger; de stoler nu på AI, især generativ AI (GenAI), til at træffe forretningsbeslutninger, fra forretningsstrategi til kundeservice, finansielle modeller og mere.

Dette skift er forståeligt. AI bliver ikke distraheret, glemmer ikke instruktioner eller lader følelser skygge dets dømmekraft. For mange virksomheder tilbyder dette en tillokkende kur mod risikoen for menneskeligt fejl. Men en vigtig spørgsmål bliver: Kan vi stole på AI til at være chef og træffe beslutninger uafhængigt?

Det er ikke et entydigt svar, men en måde at se på det er, hvordan vi bedømmer menneskers tillidværdighed: ved deres kompetence, pålidelighed og klare hensigt. De samme principper gælder for AI.

For at være tillidværdig skal et AI-system levere resultater, der er nøjagtige, rettidige og passende. Men niveauet for tillid og fejlmarginen varierer afhængigt af konteksten. For eksempel, når der diagnosticeres kræft fra medicinske billeder, er fejlmarginen ekstremt lav. Omvendt, når der genereres ideer til en markedsføringskampagne, er der mere plads til eksperimenter.

Vi har set AI brugt til at træffe selvstændige beslutninger på områder som kreditgodkendelser, hvor banker udnytter algoritmer til at bestemme låneberettigelse på få sekunder. Detailhandlende bruger AI til at styre lager og priser uden menneskelig indgriben. Men vi har også set fejl – som selvstyrende biler, der misbedømmer vejforhold.

En advarselshistorie viser risikoen ved at placere for megen tillid til AI uden tilstrækkelig tilsyn. Derek Mobley – en sort mand over 40 – ansøgte om over 100 stillinger gennem Workday AI-drevet rekrutteringssystem siden 2017 og blev afvist hver gang. Han påstod diskrimination baseret på alder og race. I maj 2025 gav retten en landsdækkende kollektiv sagsanlæg. Klassen inkluderer alle ansøgere over 40, der har ansøgt gennem Workday siden september 2020 og blev afvist på grund af AI-anbefalinger.

Dette eksempel gør et vigtigt punkt: AI manglede følelsesmæssig intelligens, moralsk grundlag eller en naturlig fornemmelse for retfærdighed. Og da AI bevæger sig fra menneskelig assistent til selvstændig beslutningstager, er der nu et ansvarligt tomrum. Når algoritmer tillades at køre uden menneskelig kontrol, kan de og gør de dårlige beslutninger og forstærker eksisterende fordomme.

Spørgsmålet omkring sorte kasser

Sorte kasser – når et AI-system og logik ikke er fuldt synlige – er mere og mere almindelige. Selv om de kan have synlige lag, kan udviklere og brugere ikke se, hvad der sker på hvert lag, hvilket gør dem uigennemsigtige.

For eksempel er ChatGPT en sort kasse, da selv dens skabere er usikre på, hvordan det fungerer, da det er trænet på så store datasæt. Men på grund af manglen på gennemsigtighed, er det nogensinde okay at ‘stole’ på en AI-model uden fuldt ud at forstå, hvordan den fungerer?

Kort sagt, nej: AI-hallucinationer bliver værre. Dette betyder, at i højestakes-scenarier, som finansielle beslutninger, juridisk rådgivning og medicinske indsigter, kræver AI omfattende validering, krydsreferencing og menneskelig tilsyn.

Sagen Disney og Universal-sagen fra juni 2025 understreger dette punkt. Studierne påstår, at GenAI-værktøjer blev trænet på ophavsretligt materiale til at skabe nyt indhold uden samtykke. Denne sag højligter en ny realitet: Når virksomheder udvikler AI-modeller, de ikke fuldt ud forstår, kan de og bliver ansvarlige for beslutninger, der tages. Og uvidenhed er ingen undskyldning; det er en ansvarlighed.

Men vi stoler ofte på komplekse systemer, vi ikke forstår. For eksempel kan de fleste luftrejsepassagerer ikke forklare fysikken bag flyvning, men mennesker går om bord på fly med tillid, fordi vi har bygget tillid gennem gentagen eksponering, fælles erfaring og en stærk sikkerhedsrekord.

Den samme logik kan igen anvendes på AI. Det er urimeligt at forvente, at alle forstår, hvordan LLM’er faktisk fungerer. Men tillid bygges ikke på forståelse; det kræver bekendtskab, gennemsigtighed om begrænsninger og en bevist mønster af pålidelig præstation. Aerospace-ingeniører ved, hvilke tests der skal indsættes, og hvilke fejl der ligner, og vi skal kræve det samme af GenAI-udbydere. Det grundlæggende princip for AI skal være tillid, men verificér.

Desuden tror mange virksomhedsledere, at AI vil være den magiske kugle, der løser alle deres forretningsproblemer. Men denne myte plager mange virksomheder, når de integrerer AI. Lederne kan foretrække komplekse og avancerede modeller, men en mere enkel løsning kan være bedre egnet, hvis de havde gennemført en omkostnings-benefitanalyse. AI er et kraftfuldt instrument, men det er ikke egnet til hver opgave. Virksomhederne skal erkende problemet, før de vælger et værktøj.

Genopbygning af tillid til AI

Selv om det er tydeligt, at blind tillid til AI er et problem, kan AI-systemer og algoritmer være det bedste værktøj, en virksomhed nogensinde ejer – når det bruges sikkert.

For virksomheder, der ønsker at udnytte AI-værktøjer, skal de først og fremmest undersøge leverandørduelighed. Når en virksomhed har identificeret et område, der kan drage fordel af AI-effektivitet, skal virksomhedslederne evaluere leverandører ikke blot på ydelseskrav, men på styrekontroller. Dette inkluderer en gennemgang af, hvordan modeller udvikles, om forklaringsværktøjer er på plads, hvordan fordomme overvåges og om audit-spor er tilgængelige. At vælge en leverandør med gennemsigtige processer er afgørende for at mindske risikoen fra starten.

Måske det vigtigste punkt, når man bygger tillid til AI-systemer, er at sikre datastyring med rene, repræsentative og vel-dokumenterede datasæt. Som det gamle ordsprog siger: “Skrald ind, skrald ud”. Derfor, hvis data er ufuldstændige, fordomsfulde eller upræcise, vil selv den mest avancerede model producere upålidelige resultater.

For at sikre, at data er AI-klar, skal virksomheder:

• Gennemgå eksisterende datasæt for huller og duplikation og tjek for kilder til fordomme

• Standardisere dataformater

• Implementere datastyrepolitikker, der definerer ejerskab og adgangskontrol

En anden vigtig opgave for virksomhedsledere er at udføre stresstest under forskellige betingelser. Selv om en model kan fungere godt i kontrollerede tests, er det afgørende at forstå modellens begrænsninger, når den står over for nye data eller input, som den ikke havde forventet. Dette er hvorfor det er vigtigt at teste AI i en række situationer, med forskellige typer brugere, forskellige brugsområder og data fra forskellige tidsperioder.

AI-validering er også en løbende opgave. Da data ændrer sig over tid, kan selv pålidelige AI-modeller miste nøjagtighed. Derfor er det vigtigt at overvåge, hvordan modellen fungerer fra dag til dag: Er den stadig nøjagtig? Eller er der falske positiver, der dukker op? Og ligesom ethvert system, der kræver vedligeholdelse, skal modeller genoptrænes regelmæssigt med frisk data for at forblive relevante.

AI er ikke tillidværdig eller utillidværdig; det er formet af de data, det lærer af, de mennesker, der skaber det, og de regler, der styrer det. Da AI udvikler sig fra et nyttigt værktøj til en forretningsrådgiver, har ledere muligheden for ikke blot at bruge det, men at gøre det på en tankefuld og etisk måde. Hvis vi gør det rigtigt, vil AI ikke blot være kraftfuldt i fremtiden, men også ansvarligt, med ansvarligehed, der tydeligt sidder hos udvikleren og tilsynsførerne.