DeepMinds Mind Evolution: At give større sprogmodeller mulighed for at løse virkelighedsbaserede problemer

De seneste år har kunstig intelligens (AI) udviklet sig til et praktisk værktøj til at drive innovation på tværs af brancher. I fremhævkningen af denne fremgang er større sprogmodeller (LLM’er) kendt for deres evne til at forstå og generere menneskesprog. Selvom LLM’er fungerer godt til opgaver som konversations-AI og indholdsskabelse, kæmper de ofte med komplekse virkelighedsbaserede udfordringer, der kræver struktureret resonnering og planlægning.

For eksempel, hvis du beder LLM’er om at planlægge en forretningsrejse til flere byer, der indebærer koordinering af flyskeemaer, mødetider, budgetbegrænsninger og tilstrækkelig hvile, kan de give forslag til enkeltaspekter. Men de kæmper ofte med at integrere disse aspekter for effektivt at afbalancere konkurrerende prioriteringer. Denne begrænsning bliver endnu mere tydelig, da LLM’er i stigende grad bruges til at bygge AI-agenter, der kan løse virkelighedsbaserede problemer selvstændigt.

Google DeepMind har nylig udviklet en løsning til at løse dette problem. Inspireret af naturlig udvalg, kaldes denne tilgang Mind Evolution, og den raffinerer løsningsstrategier gennem iterativ tilpasning. Ved at guide LLM’er i realtid giver den dem mulighed for at tackle komplekse virkelighedsbaserede opgaver effektivt og tilpasse sig dynamiske scenarier. I denne artikel vil vi udforske, hvordan denne innovative metode fungerer, dens potentielle anvendelser og hvad det betyder for fremtiden for AI-dreven problemløsning.

Hvorfor LLM’er kæmper med kompleks resonnering og planlægning

LLM’er er trænet til at forudsige det næste ord i en sætning ved at analysere mønstre i store tekstdata, såsom bøger, artikler og onlineindhold. Dette giver dem mulighed for at generere svar, der ser logiske og kontekstligt passende ud. Men denne træning er baseret på at genkende mønstre snarere end at forstå betydning. Som resultat kan LLM’er producere tekst, der ser logisk ud, men kæmper med opgaver, der kræver dybere resonnering eller struktureret planlægning.

Kernen i begrænsningen ligger i, hvordan LLM’er behandler information. De fokuserer på sandsynligheder eller mønstre snarere end logik, hvilket betyder, at de kan håndtere isolerede opgaver – som at foreslå flymuligheder eller hotelanbefalinger – men fejler, når disse opgaver skal integreres i en samlet plan. Dette gør det også svært for dem at fastholde kontekst over tid. Komplekse opgaver kræver ofte, at man holder styr på tidligere beslutninger og tilpasser sig, når nye oplysninger opstår. LLM’er tenderer dog til at tabe fokus i forlængede interaktioner, hvilket resulterer i fragmenterede eller inkonsistente udgang.

 How Mind Evolution fungerer

DeepMinds Mind Evolution løser disse mangler ved at antage principper fra naturlig evolution. I stedet for at producere et enkelt svar på en kompleks forespørgsel genererer denne tilgang multiple potentielle løsninger, raffinerer dem iterativt og vælger det bedste resultat gennem en struktureret evalueringsproces. For eksempel kan man forestille sig en gruppe, der brainstormer ideer til et projekt. Nogle ideer er gode, andre mindre så. Gruppen evaluerer alle ideer, holder de bedste og forkaster resten. De forbedrer herefter de bedste ideer, introducerer nye variationer og gentager processen, indtil de når det bedste resultat. Mind Evolution anvender dette princip på LLM’er.

Her er en gennemgang af, hvordan det fungerer:

1. Generering: Processen begynder med, at LLM’en genererer multiple svar på en given opgave. For eksempel kan modellen i en rejseplanlægningsopgave udarbejde forskellige rejseschemer baseret på budget, tid og brugerpræferencer.
2. Evaluering: Hvert løsningsforslag evalueres i forhold til en fitness-funktion, der måler, hvor godt det tilfredsstiller opgavens krav. Lavkvalitets-svar forkastes, mens de mest lovende kandidater går videre til næste fase.
3. Raffinering: En unik innovation i Mind Evolution er dialogen mellem to personligheder inden for LLM’en: Forfatteren og Kritikeren. Forfatteren foreslår løsninger, mens Kritikeren identificerer fejl og giver feedback. Denne strukturerede dialog spejler, hvordan mennesker raffinerer ideer gennem kritik og revision. For eksempel, hvis Forfatteren foreslår en rejsesplan, der inkluderer et restaurantbesøg, der overstiger budgettet, peger Kritikeren dette ud. Forfatteren reviderer herefter planen for at imødekomme Kritikeren’s bekymringer. Denne proces giver LLM’er mulighed for at udføre dyb analyse, som de ikke tidligere kunne udføre ved hjælp af andre prompt-teknikker.
4. Iterativ optimering: De raffinerede løsninger undergår yderligere evaluering og kombination for at producere raffinerede løsninger.

Ved at gentage denne cyklus forbedrer Mind Evolution iterativt løsningskvaliteten, hvilket giver LLM’er mulighed for at tackle komplekse udfordringer mere effektivt.

Mind Evolution i praksis

DeepMind testede denne tilgang på benchmarks som TravelPlanner og Natural Plan. Ved at anvende denne tilgang opnåede Google’s Gemini en succesrate på 95,2% på TravelPlanner, hvilket er en fremragende forbedring fra en baseline på 5,6%. Med den mere avancerede Gemini Pro steg succesraterne til næsten 99,9%. Denne transformative præstation viser effektiviteten af Mind Evolution i at løse praktiske udfordringer.

Interessant nok øges modellens effektivitet med opgavens kompleksitet. For eksempel, mens enkelt-gennemløb-metoder kæmpede med multi-dags-rejseschemer, der involverer flere byer, overgik Mind Evolution konsekvent, og opretholdt høje succesrater, selv når antallet af begrænsninger øgedes.

Udfordringer og fremtidige retninger

Trods dens succes er Mind Evolution ikke uden begrænsninger. Tilgangen kræver betydelige beregningsressourcer på grund af de iterative evaluering- og raffineringsprocesser. For eksempel forbrugte løsningen af en TravelPlanner-opgave med Mind Evolution 3 millioner tokens og 167 API-kald – væsentligt mere end konventionelle metoder. Tilgangen er dog mere effektiv end brute-force-strategier som udførlig søgning.

Derudover kan det være en udfordring at designe effektive fitness-funktioner for visse opgaver. Fremtidig forskning kan fokusere på at optimere beregnings-effektiviteten og udvide teknikken’s anvendelighed til en bredere række af problemer, såsom kreativ skrivning eller kompleks beslutningstagning.

En anden interessant område for udforskning er integrationen af domænespecifikke evalueringer. For eksempel kan man i medicinsk diagnose inkorporere ekspertråd i fitness-funktionen for at yderligere forbedre modellens nøjagtighed og pålidelighed.

Anvendelser ud over planlægning

Selvom Mind Evolution primært er evaluering på planlægningsopgaver, kan den anvendes på forskellige domæner, herunder kreativ skrivning, videnskabelig opdagelse og endda kodegenerering. For eksempel har forskere introduceret en benchmark kaldet StegPoet, der udfordrer modellen til at kode skjulte meddelelser i digte. Selvom denne opgave stadig er vanskelig, overgår Mind Evolution traditionelle metoder ved at opnå succesrater på op til 79,2%.

Evnen til at tilpasse og udvikle løsninger i naturligt sprog åbner nye muligheder for at tackle problemer, der er svære at formalisere, såsom forbedring af arbejdsprocesser eller generering af innovative produkt-design. Ved at anvende kraften fra evolutionære algoritmer giver Mind Evolution en fleksibel og skalerbar ramme for at forbedre problemløsnings-evnerne hos LLM’er.

Det endelige punkt

DeepMinds Mind Evolution introducerer en praktisk og effektiv måde at overvinde nøglebegrænsninger i LLM’er. Ved at anvende iterativ raffinering inspireret af naturlig udvalg forbedrer den evnen hos disse modeller til at håndtere komplekse, multi-trins-opgaver, der kræver struktureret resonnering og planlægning. Tilgangen har allerede vist betydelig succes i udfordrende scenarier som rejsesplanlægning og viser løfte på tværs af diverse domæner, herunder kreativ skrivning, videnskabelig forskning og kodegenerering. Selvom udfordringer som høje beregningsomkostninger og behov for godt designede fitness-funktioner stadig består, giver tilgangen en skalerbar ramme for at forbedre AI-kapaciteter. Mind Evolution sætter scenen for mere kraftfulde AI-systemer, der kan resonere og planlægge for at løse virkelighedsbaserede udfordringer.