ActionAI modtager 10 millioner dollars for at bringe ansvarlighed og pålidelighed til virksomheds-AI

Virksomheders adoption af kunstig intelligens er accelereret hurtigt, men at skala det ud over pilotprojekter er fortsat en vedvarende udfordring. En af hovedårsagerne er tillid. Mens medarbejderne i stigende grad bruger AI-værktøjer i deres daglige arbejde, er organisationerne stadig tilbageholdende med at afhænge af dem til kerneoperationer, hvor præcision og ansvarlighed er afgørende.

Det er her, ActionAI søger at lukke hullet. Selskabet har annonceret en seed-runde på 10 millioner dollars for at bygge infrastruktur, der gør AI-systemer pålidelige nok til brug i virksomheder.

Hvorfor AI-adoptionen er stagneret

Trods omfattende eksperimenter lykkes det for de fleste virksomheds-AI-initiativer ikke at nå produktion. Interne data bliver ofte ikke kontrolleret, output kan være inkonsistent, og fejl – især hallucinationer – introducerer reelle operationelle risici.

Studier viser, at selvom en majoritet af medarbejdere nu bruger AI-værktøjer på arbejdet, gør de det ofte uden at verificere nøjagtigheden. Samtidig er en stor procentdel af virksomheds-AI-brugstilfælde stadig fastlåst i pilotmode. Problemet er ikke længere, om AI er kapabelt, men om det kan tillides.

Dette er særlig problematisk i brancher som finans, forsikring, sundhedsvesen og logistik, hvor fejl kan have regulatoriske, finansielle eller juridiske konsekvenser.

Opbygning af en pålidelighedslag for AI

ActionAIs tilgang er at behandle pålidelighed som en grundlæggende lag snarere end en eftertanke. Deres platform er designet til at overvåge og evaluere AI-systemer på tværs af hele livscyklussen – fra træningsdata til endelig output.

I stedet for kun at fokusere på modelpræstation, kortlægger systemet, hvordan data flyder gennem hvert trin i AI-stakken. Dette giver holdene mulighed for at identificere præcis, hvor fejl opstår, enten på indgangsniveauet, under behandling eller på outputstadiet.

En nøglekomponent i platformen er dens evne til at fejlfinde problemer i realtid. Når noget går galt, kan holdene isolere rodårsagen hurtigt og løse edge-tilfælde, før de eskalerer til større problemer.

Præsentation af forklarede undtagelser

En af de mere karakteristiske elementer i platformen er et system kaldet Forklarede undtagelser (ExEx). I stedet for at tvinge AI-systemer til at handle med usikre output, detekterer ExEx, når modellen mangler tillid, og sender opgaven til en menneske.

Det, der gør denne tilgang bemærkelsesværdig, er, at den ikke blot markerer et problem – den giver en begrundelse. Menneskelige anmeldere modtager kontekst, der forklarer, hvorfor AI var usikker, hvilket giver dem mulighed for at træffe hurtigere og mere informerede beslutninger.

Dette skaber en struktureret menneske-i-løkken-arbejdsgang, der ikke langsommere operationer, men i stedet fungerer som en sikkerhedsforanstaltning. Den sikrer, at usikre eller højrisiko-output aldrig passerer gennem systemet uden at blive bemærket.

Fra overvågning til kontinuerlig kontrol

Ud over implementering fortsætter platformen med at overvåge AI-præstation i produktion. Den sporer, hvordan systemer reagerer på nye data, skiftende betingelser eller opdaterede instruktioner.

Når præstationen falder eller anomalier opstår, markerer systemet dem automatisk, hvilket hjælper organisationer med at opretholde konsistens over tid. Dette er særlig vigtigt, da AI-modeller forringes eller opfører sig uforudsigeligt, når de udsættes for nye input.

Målet er at gå fra statiske AI-implementeringer til kontinuerligt styrede systemer, der tilpasser sig uden at ofre pålidelighed.

ActionAI fokuserer på sektorer, hvor præcision er uafviselig. Dette inkluderer finansielle tjenester, produktion, detailhandel, forsikring, forsyningskæder og juridiske systemer.

I disse miljøer kan selv små fejl skabe kaskade-problemer. Ved at introducere oversigt, sporing og struktureret undtagelseshåndtering er platformen designet til at gøre AI-brugbar i sammenhænge, hvor det traditionelt har været betragtet som for risikabelt.

En skiftning mod ansvarlig AI

For grundlægger Miriam Haart er det centrale spørgsmål ikke kun at forbedre AI-præstation, men at gøre systemer ansvarlige fra starten.

Selskabets arkitektur fokuserer på at validere data, før de kommer ind i systemet, overvåge adfærd under udførelse og sikre, at output kan forklares og revisioneres bagefter. Denne slut-/slut-synlighed er, hvad der giver organisationer mulighed for at gå ud over eksperimenter og ind i fuld skala-deployment.

Den bredere implikation af denne finansieringsrunde er en skiftning i, hvordan virksomheder tænker om AI. I stedet for at behandle det som et værktøj lagt oven på eksisterende systemer, begynder virksomheder at se det som kerneinfrastruktur – noget, der skal opfylde de samme standarder som ethvert kritiskt system.

ActionAI positionerer sig selv ved dette skæringspunkt, hvor præstation alene ikke længere er nok. Pålidelighed, gennemsigtighed og kontrol bliver de definerende krav til virksomheds-AI-adoption.

Hvis disse elementer kan standardiseres, kan AI måske endelig gå fra isolerede pilotprojekter til fuldt integrerede operationer på tværs af virksomheden.