Den skjulte omkostning ved AI: Hvordan “Black Box”-modeller underminerer tillid, budgetter og miljøet

AI-industrien har et problem med modeldesign. Virksomheder begynder at mærke det i omkostninger, ydeevne og pålidelighed.

AI kan tale – men kan den lytte? 

At lytte er langt mere end blot at behandle ord; det handler om at fortolke signaler og forstå nuancer for at træffe beslutninger i realtid. Men de fleste “voice”-modeller er bygget til at transskribere tokens, ikke til at genkende den subtile betydning, der gemmer sig i en samtale. Det betyder, at de går glip af afgørende information. 

I miljøer som stemme er kontekst, timing og kontinuerlig input vigtigt. Når AI-systemer går fra demoer til brug i den virkelige verden, bliver et dybere problem i, hvordan disse systemer er bygget, tydeligt, og virksomheder begynder at mærke virkningen af disse huller i omkostninger, ydeevne og pålidelighed. 

Den dominerende tilgang inden for AI i dag prioriterer større, mere generelle modeller. Men efterhånden som disse modeller implementeres i stor skala, bliver deres begrænsninger sværere at ignorere. De er dyre at køre kontinuerligt, svære at fortolke og stole på, og ofte ineffektive for de opgaver, de anvendes på. Det, der ser ud som en imponerende engangs-demo, kan bryde sammen, når den implementeres i virksomhedsskala, hvor systemerne skal være responsive, effektive og forståelige på én gang.

Dette dynamik skaber et kompromis: mere valgfrihed i, hvad modellen teoretisk kan gøre, men på bekostning af effektivitet, gennemsigtighed og i sidste ende brugervenlighed. Omkostningerne ved at køre massive modeller i stor skala stiger, energiforbruget er (med rette) under lup, og systemerne bliver sværere at fortolke. Før vi når punktet uden vej tilbage, bør vi spørge os selv: Er dette virkelig den mest bæredygtige måde at bygge AI-systemer på?

Hvorfor generelle AI-modeller er iboende ineffektive

Branchens skub mod generel AI har skabt en ny form for ineffektivitet: at bruge den samme tunge model til hvert problem eller hver opgave, uanset kompleksitet. Det er en tiltalende idé – et enkelt system, der kan håndtere alt – men i praksis er det et sløvt værktøj.

Ikke hver opgave kræver en massiv model. Faktisk gør de fleste det ikke. Når organisationer stoler på monolitiske systemer, betaler de prisen for den kompleksitet ved hver interaktion. Simple beslutninger behandles med samme beregningsomkostning som komplekse, og økonomien giver hurtigt ikke mening i stor skala.

Dette er især sandt i realtidsmiljøer som stemme, hvor systemerne skal behandle kontinuerlige datastrømme. At anvende en stor, generel model på hvert øjeblik af hver interaktion er både dyrt og unødvendigt. Jo bredere disse modeller implementeres, jo mere akkumuleres ineffektiviteten. Vi ender med det værste af begge verdener: systemer, der er for dyre at køre overalt, og for begrænsede til at være effektive, hvor de anvendes.

Et tydeligt eksempel ses i kontaktcentre. Mange organisationer ønsker at anvende AI på hver kundesamtale, men omkostningerne ved at køre store modeller kontinuerligt gør det upraktisk. Som McKinsey bemærker i sin Global Survey on AI, fortsætter organisationer med at kæmpe med at skalere AI-brugssager bredt på grund af omkostninger og operationel kompleksitet (for at sætte det i perspektiv, behandler store virksomhedskontaktcentre ofte 5.000 til 15.000 kundeopkald pr. dag, hvilket svarer til millioner eller endda milliarder af interaktioner hvert år). For at håndtere dette volumen analyserer de kun et udsnit af opkaldene eller benytter efterfølgende gennemgang. Den efterfølgende påvirkning er målbar: 39 % af organisationerne rapporterer højere opkaldsvolumen relateret til svig, 34 % rapporterer længere håndteringstider, og 29 % rapporterer reduceret medarbejderproduktivitet¹. Resultatet er et system, der både er overdimensioneret og underudnyttet: dyrt at køre, men ude af stand til at levere fuld dækning eller realtidsindsigt.

Det er her, overgeneralisering bliver en svaghed. Når et system er designet til at gøre alt, ender det ofte med at udføre hver opgave ineffektivt. Resultatet er spild af beregning i stor skala, hvor dyre modeller anvendes, hvor enklere, mere målrettede tilgange ville være mere effektive. Efterhånden som organisationer presser på for at anvende AI bredere, forstærkes denne ineffektivitet hurtigt, hvilket gør det sværere at retfærdiggøre kontinuerlig, realtidsbrug.

Black Box-problemet: Når AI ikke kan forklare sig selv

Efterhånden som modellerne er blevet mere komplekse, er de også blevet sværere at fortolke. I mange tilfælde kan AI-systemer levere mest nøjagtige resultater, men giver kun lidt indsigt i, hvordan beslutningerne blev truffet, eller hvad der forårsagede de resterende fejl. Denne obskuritet bremser de personer, der er ansvarlige for at handle på modellens resultater, og de mister den fordel, som hastighedsforøgelsen i første omgang gav.

Dette er især sandt i domæner som svigdetektion, hvor beslutninger skal træffes i realtid. Hvis et system markerer et opkald som højrisiko, men ikke kan forklare hvorfor, skaber det tøven præcis i det øjeblik, hvor hastighed er afgørende. Teams er tvunget til at vælge mellem at stole på et system, de ikke fuldt ud forstår, eller at tvivle på det i realtid. Begge muligheder introducerer risiko. Efterhånden som AI bevæger sig dybere ind i operationelle arbejdsgange, bliver evnen til at forstå og reagere på modellens output i realtid et kernekrav, ikke blot en ekstra funktion.

Det er her, begrænsningerne ved store, generelle modeller bliver tydeligere. Deres kompleksitet gør dem sværere at undersøge, fejlfinde og tilpasse. Som følge heraf står organisationer ikke kun over for højere omkostninger; de har også systemer, der er mindre i overensstemmelse med, hvordan beslutninger faktisk træffes.

Hvor dette fejler: Realtids-AI i den virkelige verden

Disse udfordringer – omkostninger, ineffektivitet, mangel på gennemsigtighed – er håndterbare i isolerede brugssager. De bliver meget sværere at ignorere i realtidsystemer, hvor AI ikke blot genererer output, men aktivt former beslutninger, mens de sker.

Stemme er et godt eksempel. I modsætning til batchbehandling eller offline-analyse er stemmeinteraktioner kontinuerlige og tidsfølsomme. Systemerne kan ikke pause, genbehandle eller eskalere beslutninger senere; de skal fungere i øjeblikket. En AI, der misforstår “Oh good, another AI” som positiv, når det blev sagt sarkastisk, kan være forskellen mellem at beholde og miste en kunde, og skal håndteres inden for sekunder, før et menneske kan gribe ind. Det betyder, at modeller skal køre kontinuerligt gennem hele samtaler, samtidig med at de producerer output, som mennesker kan handle på med det samme.

Det er her, den nuværende paradigm begynder at svigte. Store, generelle modeller er dyre at køre i den skala, og deres output er ofte for uigennemsigtige til at understøtte realtidsbeslutningstagning. Som følge heraf er virksomheder tvunget til at gå på kompromis: kun analysere et udsnit af interaktioner, forsinke beslutninger indtil efterfølgende, eller stole på ufuldstændig menneskelig dømmekraft i situationer, hvor hastighed og nøjagtighed er kritisk.

Med andre ord er begrænsningerne ved nutidens modeller ikke teoretiske – de viser sig tydeligst i de miljøer, hvor AI forventes at levere mest værdi.

En anden vej frem: Smartere – ikke større – AI

Hvis den nuværende tilgang til AI er defineret af skala, vil den næste fase blive defineret af effektivitet.

I stedet for at lede hver opgave gennem en enkelt model, kan systemer opdele arbejdsgange i faser, anvende letvægtsmodeller til rutinebeslutninger og reservere tungere behandling til komplekse tilfælde.

Dette subtile skift i arkitekturen ændrer økonomien. Når systemer dynamisk kan beslutte, hvor meget behandling der kræves for en given opgave, undgår de overheaden ved unødvendigt at køre store modeller. Det gør det mere praktisk at anvende AI kontinuerligt i stedet for selektivt. Det skaber også muligheder for større gennemsigtighed, da beslutninger kan knyttes til specifikke signaler eller komponenter i systemet i stedet for at stamme fra en enkelt uigennemsigtig model.

For virksomheder er dette, hvad der gør bredere adoption mulig: Evnen til at analysere mere data i realtid uden prohibitive omkostninger eller kompleksitet åbner for brugssager, der hidtil har været uden for rækkevidde.

Branchen har gjort betydelige fremskridt ved at udvide modeller – men én størrelse passer ikke alle. Efterhånden som AI bevæger sig dybere ind i operationelle systemer, skifter spørgsmålet fra, hvad modeller kan gøre, til hvordan de bør designes. Fremtiden for AI vil ikke blive defineret af de største modeller, men af de systemer, der kan levere intelligens effektivt, gennemsigtigt og i skala.