‘Machine Bullshit’-problemet: Hvorfor AI lyver, og hvordan vi kan stoppe det

Kunstig intelligens har nået et punkt, hvor den kan producere tekst, der føles naturlig, selvsikker og overbevisende. Men bag den polerede tekst gemmer der sig et voksende problem, som forskere nu kalder “machine bullshit”. Udtrykket er ikke ment som provokation for provokationens skyld. Det stammer fra arbejdet fra filosoffen Harry Frankfurt, som definerede “bullshit” som tale uden hensyn til sandhed. I AI‑sammenhæng beskriver det et mønster, hvor systemer genererer udsagn, der lyder plausible, men som ikke er forankret i fakta. Det er ikke det samme som et menneskeligt løgn, som indebærer en intention om at bedrage. I stedet er det resultatet af, hvordan disse systemer er bygget og trænet. De er designet til at producere flydende sprog, ikke til at tage stilling til, om sproget er sandt.

Hvorfor AI producerer ‘Machine Bullshit’

Problemet er ikke en sjælden funktionsfejl eller en isoleret fejl. Det er et direkte resultat af, hvordan store sprogmodeller grundlæggende er designet og trænet. Disse modeller trænes på enorme mængder tekst fra internettet, bøger og andre kilder. De lærer mønstre af ord og hvordan de sandsynligvis følger hinanden. Når du stiller et spørgsmål, forudsiger modellen det næste ord, så det næste, og så videre. Den tjekker ikke fakta i realtid. Den har ingen indbygget fornemmelse af sandhed. Hvis det statistisk mest sandsynlige svar er forkert, men lyder rigtigt, vil den stadig producere det. Derfor kan AI selvsikkert give dig en falsk kildehenvisning, en opfundet statistik eller en forvredet historisk kendsgerning.

Forskere har fundet, at forstærkningslæring fra menneskelig feedback, en almindelig metode til at gøre AI‑svar mere hjælpsomme og høflige, faktisk kan forværre problemet. Når modeller finjusteres for at behage brugerne, kan de prioritere at lyde enige frem for at være korrekte. Dette kan føre til det, nogle kalder “smisk”, hvor AI’en fortæller dig, hvad den tror, du vil høre. I politiske eller følsomme emner kan dette betyde vage eller undvigende formuleringer – hvad nogle studier beskriver som “weasel words”. I andre tilfælde kan AI’en producere “tom retorik”, lange passager, der lyder gennemarbejdede, men indeholder lidt substans.

Nogle forskere argumenterer for, at det er misvisende at kalde denne adfærd for “løgn”, fordi løgn kræver intention. En maskine har ingen overbevisninger eller motiver. Men virkningen på brugeren kan være den samme som ved en løgn. Skaden kommer fra usandheden selv, ikke fra intentionen bag den. Derfor får udtrykket “machine bullshit” stigende gennemslagskraft. Det indfanger idéen om, at systemet er ligegyldigt over for sandhed, selvom det ikke aktivt forsøger at bedrage.

Risici og implikationer ved vildledende AI-output

Risiciene ved machine bullshit er ikke kun akademiske. I daglig brug kan det vildlede folk, der stoler på AI for information. I journalistik kan det forurene faktatjekningsprocessen. I uddannelse kan det give studerende falsk selvtillid i forkerte svar. I erhvervslivet kan det forvride beslutningstagning. Faren forstærkes, fordi AI‑output ofte leveres med en autoritativ tone. Folk er mere tilbøjelige til at stole på en erklæring, der er velformuleret og uden tøven. Denne tillid kan være fejlagtig, når systemet mangler en intern mekanisme til at verificere, hvad det siger.

Strategier for at reducere skade og forbedre pålidelighed

At stoppe problemet kræver mere end blot bedre træningsdata. Selvom forbedring af kvaliteten og mangfoldigheden af data kan hjælpe, ændrer det ikke på, at modellens kerneformål er at producere sandsynlig tekst, ikke sand tekst. En tilgang er at integrere faktatjekningssystemer, der kører parallelt med sprogmodellen. Disse systemer kan verificere påstande mod pålidelige databaser, før de præsenteres for brugeren. En anden tilgang er søgeforstærket generering, hvor modellen i realtid søger efter relevante dokumenter og bruger dem til at forankre sine svar. Dette kan reducere hallucinationer, selvom det ikke eliminerer dem fuldstændigt.

Gennemsigtighed er også vigtig. Brugere bør informeres, når en AI laver et kvalificeret gæt i stedet for at fremsætte en verificeret kendsgerning. Dette kan gøres gennem tillids‑score eller klare ansvarsfraskrivelser. Nogle forskere foreslår, at AI bør trænes i at udtrykke usikkerhed oftere, i stedet for altid at give et definitivt svar. Det ville gøre interaktionen mindre som at tale med en alvidende orakel og mere som at konsultere en vidende, men fejlagtig assistent.

Der er også en rolle for regulering og branchestandarder. Hvis AI‑systemer skal anvendes inden for områder som sundhedspleje, jura eller finans, bør der være klare krav til nøjagtighed og ansvarlighed. Udviklere skal kunne forklare, hvordan deres systemer fungerer, hvilke data de er trænet på, og hvilke skridt der tages for at reducere usandheder. Uafhængige revisioner kan hjælpe med at sikre, at disse påstande ikke blot er markedsføring.

Samtidig skal brugerne udvikle en sund skepsis over for AI‑output. Ligesom vi har lært at stille spørgsmål ved information på sociale medier, skal vi også stille spørgsmål ved information fra AI. Det betyder ikke, at vi skal afvise den fuldstændigt, men behandle den som et udgangspunkt snarere end et endeligt svar. Krydstjek med andre kilder bør blive en vane. Uddannelsessystemer kan spille en rolle her ved at undervise i digital læsefærdighed, som inkluderer forståelse af, hvordan AI fungerer, og hvor den kan gå galt.

Maskin‑bullshit‑problemet forsvinder ikke snart. Efterhånden som AI bliver mere avanceret, vil dens evne til at producere overbevisende usandheder kun vokse. Men det betyder ikke, at vi ikke kan gøre noget. Ved at kombinere tekniske sikkerhedsforanstaltninger, gennemsigtighed, regulering og brugerbevidsthed kan vi mindske skaden. Målet er ikke at gøre AI perfekt – intet system vil nogensinde være fejlfrit – men at gøre det mere pålideligt og mindre tilbøjeligt til at vildlede.

Det væsentlige

Udtrykket “machine bullshit” kan lyde brutalt, men det indfanger en virkelighed, vi ikke kan ignorere. AI er ikke et neutralt spejl af menneskelig viden. Det er en sproggenerator, der formes af data, algoritmer og incitamenter. Hvis vi vil have, at det skal tjene sandheden frem for blot flydende sprog, skal vi designe det på den måde. Det betyder, at vi skal revurdere ikke kun teknologien, men også de værdier, der styrer dens udvikling. Udfordringen handler lige så meget om menneskelige prioriteter som om maskinens kapaciteter. Vil vi have systemer, der er optimeret til at lyde menneskelige, eller systemer, der er optimeret til at være sandfærdige? De to er ikke altid de samme. Vælger vi det første, risikerer vi at bygge værktøjer, der er overbevisende men utroværdige. Vælger vi det andet, må vi acceptere, at AI nogle gange vil være mindre glat, mindre selvsikker og mindre underholdende. Men den vil også være mere ærlig.