‘Maskinbullshit’-problemet: Hvorfor AI lyver og hvordan man stopper det

Kunstig intelligens har nået et punkt, hvor den kan producere tekst, der føles naturlig, selvbevidst og overbevisende. Men bag den polerede tekst er der et voksende problem, som forskere nu kalder “maskinbullshit”. Begrebet er ikke ment til at være provokerende for sin egen skyld. Det kommer fra filosoffen Harry Frankfurts arbejde, som definerer “bullshit” som tale uden hensyn til sandheden. I sammenhæng med AI beskriver det en mønster, hvor systemer genererer udsagn, der lyder plausibelt, men ikke er grundet i faktiske omstændigheder. Dette er ikke det samme som en menneskelig løgn, som indebærer en intention om at bedrage. I stedet er det et resultat af, hvordan disse systemer er bygget og trænet. De er designede til at producere flydende sprog, ikke til at bekymre sig om, hvorvidt dette sprog er sandt.

Hvorfor AI producerer ‘maskinbullshit’

Problemet er ikke en sjælden fejl eller en isoleret fejl. Det er et direkte resultat af, hvordan store sprogmodeller er fundamentalt designede og trænet. Disse modeller er trænet på massive mængder af tekst fra internettet, bøger og andre kilder. De lærer mønstre af ord og hvordan de sandsynligvis følger hinanden. Når du stiller et spørgsmål, forudsiger modellen det næste ord, derefter det næste og så videre. Den checker ikke fakta i realtid. Den har ikke en indbygget fornemmelse af sandhed. Hvis det mest statistisk sandsynlige svar er forkert, men lyder rigtigt, vil den stadig producere det. Dette er hvorfor AI kan give dig en falsk kilde, en opdigtet statistik eller en forvrænget historisk faktum.

Forskere har fundet ud af, at reinforcement learning fra menneskelig feedback, en almindelig metode, der bruges til at gøre AI-svar mere hjælpsomme og høflige, kan faktisk gøre problemet værre. Når modeller er afstemt til at behage brugere, kan de prioritere at lyde enige over at være nøjagtige. Dette kan føre til, hvad nogen kalder “sycophancy“, hvor AI fortæller dig, hvad den tror, du vil høre. I politiske eller følsomme emner kan dette betyde at producere vag eller undvigende sprog – hvad nogle studier beskriver som “weasel words”. I andre tilfælde kan AI producere “tom retorik”, lange passager, der lyder tankefulde, men indeholder lidt substans.

Nogle forskere mener, at det at kalde denne adfærd “løgn” er misvisende, fordi løgn kræver intention. En maskine har ikke overbevisninger eller motiver. Men effekten på brugeren kan være den samme, som hvis det var løgn. Skaden kommer fra usandheden selv, ikke fra intentionen bag den. Dette er hvorfor begrebet “maskinbullshit” er i fremmarch. Det fanger idéen om, at systemet er ligeglad med sandheden, selv om det ikke aktivt forsøger at bedrage.

Risici og implikationer af misvisende AI-udgang

Risiciene ved maskinbullshit er ikke kun akademiske. I hverdagsbrug kan det mislede mennesker, der afhænger af AI til information. I journalistik kan det forurene faktatjekningsprocessen. I uddannelse kan det give studenter falsk tillid til forkerte svar. I forretning kan det forvrænge beslutningstagning. Faren er forstærket, fordi AI-udgang ofte kommer med en tone af autoritet. Mennesker er mere tilbøjelige til at stole på en udtalelse, der er godt skrevet og fri for tøven. Denne tillid kan være misplaceret, når systemet ikke har en indbygget mekanisme til at verificere, hvad det siger.

Strategier til at reducere skade og forbedre pålidelighed

At stoppe problemet kræver mere end bare bedre træningsdata. Selv om forbedringen af datakvaliteten og diversiteten kan hjælpe, ændrer det ikke faktum, at modellens kerneformål er at producere sandsynlig tekst, ikke sand tekst. En tilgang er at integrere faktatjekningssystemer, der køre sideløbende med sprogmodellen. Disse systemer kan verificere påstande mod pålidelige databaser, før de præsenteres for brugeren. En anden tilgang er retrieval-augmented generation, hvor modellen søger efter relevante dokumenter i realtid og bruger dem til at grundlægge sine svar. Dette kan reducere hallucinationer, selv om det ikke eliminerer dem helt.

Gennemsigtighed er også essentiel. Brugere skal informeres, når en AI gør en uddannet gæt, snarere end at udtale en verificeret faktum. Dette kan gøres gennem tillidsvurderinger eller tydelige advarsler. Nogle forskere foreslår, at AI skal trænes til at udtrykke usikkerhed mere ofte, snarere end at give en definitivt svar. Dette ville gøre interaktionen føle mindre som at tale til en allvidende oracle og mere som at konsultere en klog, men fejlbarlig assistent.

Der er også en rolle for regulering og branchestandarder. Hvis AI-systemer skal bruges i områder som sundhedspleje, jura eller finans, skal der være klare krav til nøjagtighed og ansvarlighed. Udviklerne skal kunne forklare, hvordan deres systemer fungerer, hvilke data de er trænet på, og hvilke skridt der tages for at reducere usandheder. Uafhængige revisioner kan hjælpe med at sikre, at disse påstande ikke er blot marketing.

På samme tid skal brugere udvikle en sund skepsis over for AI-udgang. Lige som vi har lært at spørge om information, vi ser på sociale medier, skal vi spørge om information fra AI. Dette betyder ikke, at vi afviser det fuldstændigt, men behandler det som et udgangspunkt snarere end et endeligt svar. At kontrollere med andre kilder skal blive en vane. Uddannelsessystemer kan spille en rol her, hvor de underviser i digital kompetence, der inkluderer forståelse af, hvordan AI fungerer, og hvor det kan gå galt.

Maskinbullshit-problemet er ikke på vej til at forsvinde snart. Da AI bliver mere avanceret, vil dens evne til at producere overbevisende usandheder kun vokse. Men dette betyder ikke, at vi ikke kan gøre noget. Ved at kombinere tekniske sikkerhedsforanstaltninger, gennemsigtighed, regulering og brugerbevidsthed kan vi reducere skaden. Målet er ikke at gøre AI perfekt – ingen system vil nogensinde være fri for fejl – men at gøre det mere pålideligt og mindre tilbøjeligt til at mislede.

Det væsentlige

Begrebet “maskinbullshit” kan lyde brutalt, men det fanger en realitet, vi ikke kan ignorere. AI er ikke et neutralt spejl af menneskelig viden. Det er en generator af sprog, der er formet af data, algoritmer og incitamenter. Hvis vi vil have, at det skal tjene sandheden snarere end blot flydende sprog, må vi designe det på den måde. Det betyder at omforme ikke kun teknologien, men også de værdier, der guider dens udvikling. Udfordringen er lige så meget om menneskelige prioriteringer som om maskinens kapaciteter. Vil vi have systemer, der er optimeret til at lyde menneskeligt, eller systemer, der er optimeret til at være sande? De to er ikke altid det samme. Hvis vi vælger det første, risikerer vi at bygge værktøjer, der er overbevisende, men utroværdige. Hvis vi vælger det sidste, kan vi måske acceptere, at AI nogle gange vil være mindre glat, mindre selvbevidst og mindre underholdende. Men det vil også være mere ærligt.