Hvordan neurosymbolsk AI kan løse generative AI's pålidelighedsproblemer

Generativ AI har gjort imponerende fremskridt de seneste år. Det kan skrive essays, skabe kunst og endda komponere musik. Men når det kommer til at få fakta rigtigt, kommer det ofte til kort. Det kan sikkert fortælle dig, at zebraer lever under vandet, eller at Eiffeltårnet er i Rom. Selvom disse fejl kan virke harmløse, peger de på et større problem: tillid. På områder som sundhedspleje, jura eller finans har vi ikke råd til, at AI laver sådanne fejl.

Det er her, neurosymbolsk AI kan hjælpe. Ved at kombinere kraften i neurale netværk med logikken i symbolsk AI, kunne det løse nogle af de pålidelighedsproblemer, generativ AI står over for. Med neurosymbolsk AI kan vi bygge systemer, der ikke bare genererer svar, men genererer svar, vi kan stole på.

Hvorfor Generativ AI er upålidelig

Generativ AI fungerer ved at analysere mønstre i enorme mængder data. Det er sådan, det forudsiger, hvilket ord eller billede der kommer efter. Det er som et avanceret autofuldførelsesværktøj, der er utroligt alsidigt, men det "ved" ikke rigtig noget. Det spiller bare oddsene. Denne afhængighed af sandsynligheder kan gøre det uforudsigeligt. Generativ AI vælger ikke altid den mest sandsynlige mulighed. I stedet vælger den fra en række muligheder baseret på mønstre, den har lært. Denne tilfældighed kan gøre det kreativt, men det betyder også, at det samme input kan føre til forskellige output. Denne inkonsekvens bliver et problem i alvorlige situationer, hvor vi har brug for pålidelige svar.

Generativ AI forstår ikke fakta. Det efterligner mønstre, hvorfor det nogle gange finder på ting og præsenterer dem som virkelige. Denne tendens til AI er ofte kendt som hallucination. For eksempel kan AI opfinde et citat fra en berømt person eller skabe et citat, der ikke eksisterer. Dette er nyttigt, når vi skal skabe nyt indhold, men kan være et alvorligt problem, især når AI bruges til at rådgive om medicinske, juridiske eller økonomiske forhold. Det kan vildlede folk til at stole på oplysninger, der simpelthen ikke er sande.

For at gøre tingene værre, når AI laver fejl, så forklarer den ikke sig selv. Der er ingen måde at kontrollere, hvorfor det gav et bestemt svar, eller hvordan man fikser det. Det er i bund og grund en sort boks, der skjuler sin begrundelse i et virvar af matematiske vægte og sandsynligheder. Dette kan være fint, når du beder om en simpel anbefaling eller tilfældig hjælp, men det er meget mere bekymrende, når AI-beslutninger begynder at påvirke ting som sundhedspleje, job eller økonomi. Hvis en AI foreslår en behandling eller træffer en ansættelsesbeslutning, gør det svært at stole på, at man ikke ved, hvorfor den valgte det svar.

I sin kerne er generativ AI en mønstermatcher. Det ræsonnerer eller tænker ikke. Den genererer svar ved at efterligne data, den blev trænet på. Dette får det til at lyde menneskeligt, men det gør det også skrøbeligt. En lille ændring i input kan føre til store fejl. Det statistiske grundlag for AI er afhængig af mønstre og sandsynligheder, hvilket gør det i sagens natur tilfældigt. Dette kan resultere i meget sikre forudsigelser, selv når disse forudsigelser er forkerte. På områder med høj indsats som juridisk rådgivning eller medicinske anbefalinger udgør denne uforudsigelighed og mangel på pålidelighed alvorlige risici.

Hvordan neurosymbolsk AI forbedrer pålideligheden

Neurosymbolsk AI kunne løse nogle af disse pålidelighedsudfordringer ved generativ AI. Det kombinerer to styrker: neurale netværk, der genkender mønstre, og symbolsk AI, der bruger logik til at ræsonnere. Neurale netværk er gode til at behandle komplekse data, såsom tekst eller billeder. Symbolsk AI kontrollerer og organiserer disse oplysninger ved hjælp af regler. Denne kombination kan skabe systemer, der ikke kun er smartere, men også mere pålidelige.

Ved at bruge symbolsk AI, kan vi tilføje et lag af ræsonnement til generativ AI, verificere genereret information mod pålidelige kilder eller regler. Dette reducerer risikoen for AI-hallucinationer. For eksempel når en AI giver historiske fakta. Neurale netværk analyserer dataene for at finde mønstre, mens symbolsk AI sikrer, at outputtet er nøjagtigt og logisk konsistent. Det samme princip kan også anvendes i sundhedsvæsenet. Et AI-værktøj kan bruge neurale netværk til at behandle patientdata, men symbolsk AI sikrer, at dets anbefalinger stemmer overens med etablerede medicinske retningslinjer. Dette ekstra trin holder resultaterne nøjagtige og jordede.

Neurosymbolsk AI kan også bringe gennemsigtighed til generativ AI. Når systemet ræsonnerer gennem data, viser det præcis, hvordan det er kommet frem til et svar. For eksempel i juridiske eller finansielle sektorer kan en AI pege på specifikke love eller principper, den brugte til at generere sine forslag. Denne gennemsigtighed opbygger tillid, fordi brugerne kan se logikken bag beslutningen og føle sig mere sikre på AI'ens pålidelighed.

Det bringer også konsistens. Ved at bruge regler til at vejlede beslutninger sikrer neurosymbolsk AI, at svarene forbliver stabile, selv når input er ensartede. Dette er vigtigt inden for områder som økonomisk planlægning, hvor konsistens er afgørende. Det logiske ræsonnementlag holder AI'ens output stabilt og baseret på solide principper, hvilket reducerer uforudsigelighed.

Kombinationen af ​​kreativitet med logisk tænkning gør neurosymbolsk generativ kunstig intelligens smartere og sikrere. Det handler ikke kun om at generere svar – det handler om at generere svar, du kan regne med. Efterhånden som AI bliver mere involveret i sundhedspleje, jura og andre kritiske områder, tilbyder værktøjer som neurosymbolsk AI en vej frem. De bringer den pålidelighed og tillid, der virkelig betyder noget, når beslutninger har reelle konsekvenser.

Casestudie: GraphRAG

GraphRAG (Graph Retrieval Augmented Generation) viser, hvordan vi kan kombinere styrkerne ved generativ AI og neurosymbolsk AI. Generativ AI kan ligesom store sprogmodeller (LLM'er) skabe imponerende indhold, men det kæmper ofte med nøjagtighed eller logisk konsistens.

GraphRAG adresserer dette ved at kombinere vidensgrafer (en symbolsk AI-tilgang) med LLM'er. Videngrafer organiserer information i noder, hvilket gør det nemmere at spore forbindelser mellem forskellige fakta. Denne strukturerede tilgang hjælper AI med at forblive forankret i pålidelige data, mens den stadig genererer kreative svar.

Når du stiller GraphRAG et spørgsmål, er det ikke kun afhængigt af mønstre. Den krydshenviser sine svar med pålidelige oplysninger i grafen. Dette tilføjede trin sikrer logiske og nøjagtige svar, hvilket reducerer fejl eller "hallucinationer", der er almindelige i traditionel generativ AI.

Udfordringen med at integrere neurosymbolsk og generativ AI

Det er dog ikke nemt at kombinere neurosymbolsk AI med generativ AI. Disse to tilgange fungerer på forskellige måder. Neurale netværk er gode til at behandle komplekse, ustrukturerede data, såsom billeder eller tekst. Symbolsk AI fokuserer derimod på at anvende regler og logik. At sammenlægge disse to kræver en balance mellem kreativitet og nøjagtighed, hvilket ikke altid er let at opnå. Generativ AI handler om at producere nye, forskellige resultater, men symbolsk AI holder tingene forankret i logik. At finde en måde at få begge dele til at fungere sammen uden at gå på kompromis med ydeevnen er en vanskelig opgave.

Fremtidige anvisninger at følge

Fremadrettet er der et stort potentiale for at forbedre, hvordan neurosymbolsk AI fungerer med generative modeller. En spændende mulighed er at skabe hybridsystemer, der kan skifte mellem de to metoder afhængigt af behovet. Til opgaver, der kræver nøjagtighed og pålidelighed, f.eks. inden for sundhedsvæsenet eller jura, kan systemet læne sig mere op ad symbolsk ræsonnement. Når kreativitet er nødvendig, kan det skifte til generativ AI. Der arbejdes også på at gøre disse systemer mere forståelige. At forbedre, hvordan vi kan spore deres ræsonnement, vil bidrage til at opbygge tillid. Efterhånden som AI fortsætter med at udvikle sig, kan neurosymbolsk AI gøre systemer smartere og mere pålidelige og sikre, at de er både kreative og troværdige.

The Bottom Line

Generativ kunstig intelligens er kraftfuld, men dens uforudsigelighed og manglende forståelse gør den upålidelig for områder med høj indsats som sundhedspleje, jura og finans. Neurosymbolsk AI kunne være løsningen. Ved at kombinere neurale netværk med symbolsk logik tilføjer det ræsonnement, konsistens og gennemsigtighed, hvilket reducerer fejl og øger tilliden. Denne tilgang gør ikke kun AI smartere, men sikrer også, at dens beslutninger er pålidelige. Da AI spiller en større rolle på afgørende områder, tilbyder neurosymbolsk AI en vej frem - en, hvor vi kan regne med de svar, AI giver, især når liv og levebrød er på spil.