DeepMinds Mind Evolution: Utvikling av store språkmodeller for løsning av komplekse problemer i virkeligheten

I de senere år har kunstig intelligens (KI) blitt et praktisk verktøy for å drive innovasjon over hele bransjen. I forkant av denne fremgangen står store språkmodeller (LLM) kjent for deres evne til å forstå og generere menneskespråk. Mens LLM fungerer godt på oppgaver som konversasjons-KI og innholdsskapning, har de ofte vanskeligheter med komplekse, virkelige utfordringer som krever strukturert resonnering og planlegging.

For eksempel, hvis du ber LLM om å planlegge en reise til flere byer som involverer koordinering av flytider, møtetider, budsjettbegrensninger og tilstrekkelig hvile, kan de gi forslag for enkeltaspektene. Likevel har de ofte vanskeligheter med å integrere disse aspektene for å effektivt balansere konkurranseprioriteringer. Denne begrensningen blir enda mer tydelig når LLM brukes til å bygge KI-agenter som kan løse virkelige problemer selvstendig.

Google DeepMind har nylig utviklet en løsning for å løse dette problemet. Inspirert av naturlig seleksjon, denne tilnærmingen, kjent som Mind Evolution, forbedrer løsningsstrategier gjennom iterativ tilpasning. Ved å guide LLM i sanntid, lar det dem løse komplekse, virkelige oppgaver effektivt og tilpasse seg dynamiske scenarioer. I denne artikkelen skal vi utforske hvordan denne innovative metoden fungerer, dens potensielle anvendelser og hva det betyr for fremtiden til KI-drevet problemløsning.

Hvorfor LLM har vanskeligheter med kompleks resonnering og planlegging

LLM er trent til å forutsi neste ord i en setning ved å analysere mønster i store tekstdatasett, som bøker, artikler og nettinnhold. Dette lar dem generere svar som ser logiske og kontekstuell passende ut. Likevel er denne treningen basert på å gjenkjenne mønster fremfor å forstå mening. Som resultat kan LLM produsere tekst som ser logisk ut, men har vanskeligheter med oppgaver som krever dypere resonnering eller strukturert planlegging.

Kjernen til begrensningen ligger i hvordan LLM prosesserer informasjon. De fokuserer på sannsynlighet eller mønster fremfor logikk, noe som betyr at de kan håndtere isolerte oppgaver – som å foreslå flyalternativer eller hotellanbefalinger – men feiler når disse oppgavene må integreres i en sammenhengende plan. Dette gjør det også vanskelig for dem å opprettholde kontekst over tid. Komplekse oppgaver krever ofte å holde styr på tidligere beslutninger og tilpasse seg når ny informasjon oppstår. LLM, derimot, tenderer til å tape fokus i lengre interaksjoner, noe som fører til fragmentert eller inkonsistent utgang.

Hvordan Mind Evolution fungerer

DeepMinds Mind Evolution løser disse begrensningene ved å adoptere prinsipper fra naturlig evolusjon. I stedet for å produsere ett enkelt svar på en kompleks spørsmål, genererer denne tilnærmingen multiple potensielle løsninger, forbedrer dem iterativt og velger det beste resultatet gjennom en strukturert evalueringprosess. For eksempel, hvis et team brainstromer ideer for et prosjekt, kan noen ideer være gode, andre mindre gode. Teamet vurderer alle ideer, holder det beste og kasserer resten. De forbedrer så de beste ideene, introduserer nye variasjoner og gjentar prosessen til de kommer frem til det beste løsningen. Mind Evolution anvender dette prinsippet på LLM.

Her er en gjennomgang av hvordan det fungerer:

1. Generering: Prosessen begynner med at LLM genererer multiple svar på et gitt problem. For eksempel, i en reiseplanleggingsoppgave, kan modellen utarbeide forskjellige reiseruter basert på budsjetter, tid og brukerpreferanser.
2. Vurdering: Hver løsning vurderes mot en fitness-funksjon, et mål på hvor godt det tilfredsstiller oppgavens krav. Lavkvalitets-svar kastes, mens de mest lovende kandidatene går videre til neste fase.
3. Forbedring: En unik innovasjon i Mind Evolution er dialogen mellom to personligheter i LLM: Forfatteren og Kritikeren. Forfatteren foreslår løsninger, mens Kritikeren identifiserer feil og tilbyr tilbakemelding. Denne strukturerte dialogen speiler hvordan mennesker forbedrer ideer gjennom kritikk og revisjon. For eksempel, hvis Forfatteren foreslår en reiseplan som inkluderer et restaurantbesøk som overstiger budsjetten, peker Kritikeren dette ut. Forfatteren reviserer så planen for å møte Kritikerens bekymringer. Denne prosessen lar LLM utføre dypt analyse som det ikke kunne utføre tidligere ved hjelp av andre teknikker.
4. Iterativ optimering: De forbedrede løsningene gjennomgår ytterligere vurdering og rekombinasjon for å produsere forbedrede løsninger.

Ved å gjenta denne syklusen, forbedrer Mind Evolution iterativt kvaliteten på løsningene, noe som lar LLM håndtere komplekse, virkelige oppgaver mer effektivt.

Mind Evolution i aksjon

DeepMind testet denne tilnærmingen på benchmark som TravelPlanner og Natural Plan. Ved å bruke denne tilnærmingen, oppnådde Googles Gemini en suksessrate på 95,2% på TravelPlanner, noe som er en utmerket forbedring fra en basis på 5,6%. Med den mer avanserte Gemini Pro, økte suksessratene til nesten 99,9%. Denne transformative ytelsen viser effektiviteten til Mind Evolution i å løse praktiske utfordringer.

Interessant nok øker modellens effektivitet med oppgavens kompleksitet. For eksempel, mens enkelt-pas metoder hadde vanskeligheter med flerdags-reiseruter som involverte flere byer, utførte Mind Evolution konsekvent bedre, og opprettholdt høye suksessrater selv når antallet begrensninger økte.

Ufordringer og fremtidige retninger

Til tross for sin suksess, er Mind Evolution ikke uten begrensninger. Tilnærmingen krever betydelige beregningsressurser på grunn av de iterative vurderings- og forbedringsprosessene. For eksempel, å løse en TravelPlanner-oppgave med Mind Evolution forbrukte tre millioner token og 167 API-kall – betydelig mer enn konvensjonelle metoder. Likevel er tilnærmingen mer effektiv enn brute-force-strategier som uttømmende søk.

I tillegg kan det være en utfordring å designe effektive fitness-funksjoner for visse oppgaver. Fremtidig forskning kan fokusere på å optimalisere beregnings-effektiviteten og utvide teknikken til å kunne håndtere et bredere spekter av problemer, som kreativ skriving eller kompleks beslutningstaking.

En annen interessant område for utforskning er integrering av domenespesifikke evalueringer. For eksempel, i medisinsk diagnose, kan inkorporering av ekspertkunnskap i fitness-funksjonen ytterligere forbedre modellens nøyaktighet og pålitelighet.

Anvendelser utenfor planlegging

Selv om Mind Evolution hovedsakelig er evaluert på planleggingsoppgaver, kan den anvendes på ulike domener, inkludert kreativ skriving, vitenskapelig oppdagelse og selv kodegenerering. For eksempel, har forskere introdusert en benchmark kalt StegPoet, som utfordrer modellen til å kode skjulte meldinger innenfor dikt. Selv om denne oppgaven fortsatt er vanskelig, overstiger Mind Evolution tradisjonelle metoder ved å oppnå suksessrater på opptil 79,2%.

Evnen til å tilpasse og utvikle løsninger i naturlig språk åpner nye muligheter for å løse problemer som er vanskelige å formalisere, som å forbedre arbeidsflyter eller generere innovative produkt-design. Ved å anvende kraften til evolusjonsalgoritmer, gir Mind Evolution en fleksibel og skalerbar ramme for å forbedre problemløsningsevnen til LLM.

Det siste ord

DeepMinds Mind Evolution introduserer en praktisk og effektiv måte å overvinne nøkkelbegrensninger i LLM. Ved å bruke iterativ forbedring inspirert av naturlig seleksjon, forbedrer det evnen til disse modellene til å håndtere komplekse, flertrinnsoppgaver som krever strukturert resonnering og planlegging. Tilnærmingen har allerede vist betydelig suksess i utfordrende scenarioer som reiseplanlegging og viser løfte over ulike domener, inkludert kreativ skriving, vitenskapelig forskning og kodegenerering. Mens ufordringer som høye beregningskostnader og behov for godt designede fitness-funksjoner fortsatt eksisterer, gir tilnærmingen en skalerbar ramme for å forbedre KI-evnen. Mind Evolution setter scenen for mer kraftfulle KI-systemer som kan resonere og planlegge for å løse virkelige utfordringer.