Hvordan Causal AI endelig bygger AI-modeller, der kan resonere, og ikke blot reagere

I årtier har kunstig intelligens excelleret i at spotte mønstre i data. Maskinlæringsmodeller kan forudsige kundeadfærd, forudsige markedstrends eller identificere medicinske risici med høj nøjagtighed. Men disse systemer fejler ofte i at forklare, hvorfor begivenheder indtræffer. De afhænger af korrelationer, som ikke kan skelne mellem sande årsager og blot tilfældigheder. Denne begrænsning holder AI reaktiv, ude af stand til at tilpasse sig, når forholdene ændrer sig, eller at resonere om indgreb. Causal AI løser denne problemstilling. Det giver maskiner mulighed for at forstå årsag og virkning, hvilket er afgørende for, at maskiner kan have ægte resonans-evner. Denne evne giver systemer mulighed for at simulere “hvad hvis”-scenarier, evaluere kontrafaktiske begivenheder og give forklarende beslutninger. Da organisationer kræver mere pålidelig AI, vinder kausale metoder indpas på tværs af brancher.

Korrelationsfælden

Traditionel maskinlæring fungerer ved at finde statistiske sammenhænge i data. Hvis patienter, der tager en bestemt medicin, genopstår hurtigere, lærer algoritmen denne sammenhæng. Selvom denne tilgang har opnået bemærkelsesværdige fremskridt i billedgenkendelse, sprogoversættelse og anbefalingssystemer, har den en dødelig svaghed. Den kan ikke skelne mellem årsag og tilfældighed. Denne manglende evne skaber en farlig blind plet omkring, hvordan den underliggende mekanisme faktisk fungerer. For eksempel lærte en meget brugt algoritme, designet til at identificere patienter, der har brug for ekstra omsorg, at sundhedsudgifter forudsiger medicinsk behov. Men da data fra 200 millioner amerikanere blev analyseret, blev det opdaget, at denne korrelation overså systemiske fordomme. Sundhedsudgifter til sorte amerikanere er lavere end for hvide amerikanere med lignende tilstande på grund af systemiske faktorer. Algoritmen, blind for denne faktor, undervurderede omsorgsbehovet for sorte patienter. Lignende fejl indtræffer i andre felter. I retsvæsen korrelerer COMPAS-algoritmen race med genoptagelsesrisiko, hvilket fører til fordomsfuld dom. I landbrug kan en AI korrelerer jordfugtighed med varme dage og anbefale imod vanding under en varmebølge, hvilket kan være en katastrofal anbefaling. I sundhedssektoren kan AI-systemer lære, at patienter med astma genopstår hurtigere, hvis de også har lungebetændelse. Men dette mønster overser årsagen til, at disse patienter modtager mere intensiv behandling, fordi de betragtes som højrisiko, og ikke fordi astma hjælper dem i genopstår.

Pearls kausale stige

Judea Pearl, den Turing Award-vindende pioner inden for kausale slutninger, rammer kausal AI gennem sin kausale stige. Denne stige omfatter tre distinkte niveauer af resonans. Den første trin er association. Dette er, hvor traditionel AI fungerer ved at observere mønstre eller korrelationer fra data. Det besvarer spørgsmål som “Hvilke symptomer er forbundet med en sygdom?” Den anden trin er indgreb. Det spørger “Hvad sker der, hvis jeg gør X?” Dette kræver en forståelse af, hvordan aktivt at ændre en variabel påvirker andre. Det er forskellen mellem at observere, at kunder, der modtager e-mails, køber mere, og at vide, om e-mailen forårsagede købene. Det højeste trin er kontrafaktisk resonans. Det indebærer at spørge “Hvad ville have sket, hvis jeg havde gjort noget andet?” Dette kræver at forestille sig alternative scenarier og er afgørende for ansvarlighed og læring, såsom at bestemme, om en anden behandling ville have reddet en patient. Kausal AI fungerer på tværs af alle tre trin. Det bygger modeller, der repræsenterer ikke blot mønstre i data, men de underliggende kausale mekanismer, der genererer disse mønstre.

Hvordan Causal AI bygger modeller, der kan resonere

Den praktiske implementering af kausal AI indebærer tre nøglekomponenter:

Strukturelle kausale modeller (SCM): Disse modeller afhænger af ligninger til at beskrive de kausale mekanismer, der genererer data. Denne tilgang giver AI mulighed for at modellere den underliggende datagenereringsproces i stedet for at lære overfladiske mønstre.

Retsrettede acykliske grafer (DAG): Disse visuelle repræsentationer bruger knuder og pile til at definere kausale antagelser eksplicit. De hjælper eksperter med at identificere forvirrende variabler og validere modellens logik.

“Do”-kalkulus: Denne matematiske operator, som Pearl har banet vejen for, skelner formelt mellem at observere P (Y|X) og at gribe ind P (Y| do(X)). Det giver maskinerne mulighed for at besvare “hvad hvis”-spørgsmål ved hjælp af data.

Denne ramme giver AI-systemer mulighed for at simulere indgreb, før de sker, og resonere om hypotetiske scenarier. Det omdefinerer AI fra et værktøj, der observerer verden, til et, der hjælper os med at forstå den.

Værktøjerne modnes

Udviklingen af tilgængelige softwareværktøjer spiller også en vital rol i accelerationen af kausal AI. Microsofts DoWhy-ramme er en open-source Python-bibliotek, der implementerer en principiel firetrins arbejdsproces, herunder værktøjer til at modellere kausale relationer, identificere den kausale effekt, estimere effekten og afvise antagelser for at teste robusthed. Denne strukturerede tilgang løser en nøgleudfordring: forskellige forskere kan have forskellige kausale antagelser. DoWhy hjælper med at definere disse antagelser via kausale grafer og giver værktøjer til at teste følsomheden af konklusioner.

Modningen af kausal AI kan observeres fra dens accelererede markedsvækst. Analytikere forudser, at det globale kausale AI-marked vil vokse fra ca. 63 millioner dollars i 2025 til over 1,6 milliarder dollars i 2035, en samlet årlig vækstrate på over 38%. Denne vækst er drevet af erkendelsen af, at forståelse af årsag og virkning giver en konkurrencefordel. Den stigende efterspørgsel efter forklarelig AI (XAI) er også en større driver. Regler som EU’s AI-akt kræver gennemsigtige forklaringer for beslutninger. Kausale modeller giver naturligt denne gennem tydelige kausale vejbaner.

De nøgleforsdel: Robusthed og tillid

En nøglefordel ved kausal AI er dens robusthed over for ændrede betingelser. Når miljøet ændrer sig fra træning til implementering, fejler traditionelle modeller ofte katastrofalt, fordi deres lærte korrelationer bryder sammen. En korrelationsbaseret model for afgrødeudbytte kan lære, at høj jordfugtighed forudsiger høje udbytte. Men hvis denne korrelation var forvirret af vandingsskik i træningsdata, vil modellen fejle, når den implementeres i en ny region.

Kausale modeller er anderledes. Ved at lære underliggende mekanismer identificerer de stabile relationer, der består på tværs af miljøer. De forstår, hvorfor fugtighed er vigtig, og ikke blot, at den korrelerer med udbytte. Forskning viser, at på datasæt med distributionsændringer opretholder kausale modeller præstationen, mens traditionelle modeller kan se en nedgang i nøjagtigheden på over 20 procentpoint.

Derudover løser kausal AI den sorte kasse-problem. I modsætning til uigennemsigtige neurale netværk giver kausale grafer og vejbaner klare forklaringer: “Ændring af X forårsager Y via Z.” Denne kapacitet er kritisk for at implementere AI i højestakesfelter, en krav, der nu er kodificeret i regler som EU’s AI-akt. Kausal AI hjælper også med at mildne fordomme ved at adskille spurious korrelationer (f.eks. race og resultater) fra diskriminerende årsager.

Reel virkning på tværs af brancher

Skiftet til kausale resonanser er allerede ved at levere værdi på tværs af brancher. I sundhedssektoren anvender Kaiser Permanente kausal AI til at identificere de underliggende årsager til patientgenindlæggelser, hvilket muliggør målrettede indgreb som personlige medicinmindere, der har forbedret overholdelsen betydeligt. I lægemiddelindustrien bruger virksomheder kausal AI til at identificere, hvilke molekylære mål faktisk forårsager sygdomsprogression, og ikke blot hvilke, der korrelerer med det. Dette accelererer lægemiddelforskning ved at simulere indgreb, før dyre kliniske forsøg. I fremstillingsindustrien udfører kausale modeller rodårsagsanalyse på produktionslinjer. Når kvaliteten falder, sporer systemet, om årsagen ligger i maskinindstillinger, materialefejl eller opstrømsprocesser, og giver ingeniører praktiske indsigt. I finanssektoren anvender banker kausale slutninger til at forstå de sande drivkræfter bag kreditafbetaling, og ikke blot korrelationer. Dette giver mulighed for at designe indgreb som justerede betalingsplaner, der løser de underliggende årsager til finansielle vanskeligheder.

Selvkørende køretøjer er en af de mest krævende anvendelser af kausal AI. Mens korrelationsbaserede systemer kan genkende en fodgænger, kan kausale modeller slutte, hvorfor de måske krydser gaden, skyder efter en bold eller undgår et hindring. Denne forståelse af intention og kausalitet er afgørende for sikker navigation i dynamiske miljøer.

Bottom Line

Æraen for AI, der afhænger af korrelation, er ved at ende. Ved at bygge modeller, der forstår hvorfor ting sker, giver kausal AI den resonans, der er nødvendig for pålidelig “hvad hvis”-analyse, robusthed over for ændrede betingelser og den forklarende, der kræves af moderne forretning og regulering.