DeepMind’s Mind Evolution: Empowering Large Language Models for Real-World Problem Solving

In de afgelopen jaren is artificial intelligence (AI) een praktisch hulpmiddel geworden voor het stimuleren van innovatie in verschillende branches. Aan de voorzijde van deze vooruitgang zijn grote taalmodellen (LLM’s) bekend om hun vermogen om menselijke taal te begrijpen en te genereren. Terwijl LLM’s goed presteren bij taken zoals conversational AI en contentcreatie, worstelen ze vaak met complexe real-world uitdagingen die gestructureerd redeneren en plannen vereisen.

Bijvoorbeeld, als je LLM’s vraagt om een multi-city zakenreis te plannen die het coördineren van vluchtschema’s, vergadertijden, budgetbeperkingen en voldoende rust omvat, kunnen ze suggesties geven voor individuele aspecten. Echter, ze worstelen vaak met het integreren van deze aspecten om concurrerende prioriteiten effectief in evenwicht te brengen. Deze beperking wordt nog duidelijker als LLM’s steeds vaker worden gebruikt om AI-agents te bouwen die in staat zijn om real-world problemen autonoom op te lossen.

Google DeepMind heeft onlangs een oplossing ontwikkeld om dit probleem aan te pakken. Geïnspireerd door natuurlijke selectie, is deze benadering, bekend als Mind Evolution, het verfijnen van probleemoplossingsstrategieën door iteratieve adaptatie. Door LLM’s in real-time te begeleiden, stelt het hen in staat om complexe real-world taken effectief aan te pakken en zich aan te passen aan dynamische scenario’s. In dit artikel zullen we onderzoeken hoe deze innovatieve methode werkt, de potentiële toepassingen en wat het betekent voor de toekomst van AI-gedreven probleemoplossing.

Waarom LLM’s worstelen met complex redeneren en plannen

LLM’s zijn getraind om het volgende woord in een zin te voorspellen door patronen in grote tekstdatasets te analyseren, zoals boeken, artikelen en online inhoud. Dit stelt hen in staat om antwoorden te genereren die logisch en contextueel geschikt lijken. Echter, deze training is gebaseerd op het herkennen van patronen in plaats van het begrijpen van de betekenis. Als gevolg hiervan kunnen LLM’s tekst produceren die logisch lijkt, maar worstelen met taken die dieper redeneren of gestructureerd plannen vereisen.

De kernbeperking ligt in de manier waarop LLM’s informatie verwerken. Ze focussen op waarschijnlijkheden of patronen in plaats van logica, wat betekent dat ze geïsoleerde taken kunnen afhandelen – zoals het suggereren van vluchtopties of hotelaanbevelingen – maar falen wanneer deze taken moeten worden geïntegreerd in een samenhangend plan. Dit maakt het ook moeilijk voor hen om context over tijd te behouden. Complexe taken vereisen vaak het bijhouden van eerdere beslissingen en het aanpassen aan nieuwe informatie. LLM’s, echter, hebben de neiging om de focus te verliezen in uitgebreide interacties, wat leidt tot gefragmenteerde of inconsistentie outputs.

Hoe Mind Evolution werkt

DeepMind’s Mind Evolution adresseert deze tekortkomingen door principes uit de natuurlijke evolutie toe te passen. In plaats van één antwoord te produceren voor een complexe vraag, genereert deze benadering meerdere potentiële oplossingen, verfijnt ze iteratief en selecteert de beste uitkomst via een gestructureerd evaluatieproces. Bijvoorbeeld, overweeg een team dat ideeën brainstormt voor een project. Sommige ideeën zijn geweldig, andere minder zo. Het team evalueert alle ideeën, houdt de beste en gooit de rest weg. Ze verbeteren de beste ideeën, introduceren nieuwe variaties en herhalen het proces totdat ze bij de beste oplossing zijn. Mind Evolution past dit principe toe op LLM’s.

Hier is een overzicht van hoe het werkt:

1. Generatie: Het proces begint met het creëren van meerdere antwoorden door de LLM voor een gegeven probleem. Bijvoorbeeld, in een reisplanningstaak, kan het model verschillende reisplannen opstellen op basis van budget, tijd en gebruikersvoorkeuren.
2. Evaluatie: Elk antwoord wordt beoordeeld tegen een fitness-functie, een maatstaf voor hoe goed het de eisen van de taak vervult. Lage kwaliteit antwoorden worden weggegooid, terwijl de meest veelbelovende kandidaten doorgaan naar de volgende fase.
3. Verfijning: Een unieke innovatie van Mind Evolution is het gesprek tussen twee persona’s binnen de LLM: de Auteur en de Criticus. De Auteur stelt oplossingen voor, terwijl de Criticus zwakheden identificeert en feedback biedt. Dit gestructureerde gesprek weerspiegelt hoe mensen ideeën verfijnen door kritiek en herziening. Bijvoorbeeld, als de Auteur een reisplan voorstelt dat een restaurantbezoek omvat dat het budget overschrijdt, wijst de Criticus dit uit. De Auteur herziet het plan om de bezwaren van de Criticus te verhelpen. Dit proces stelt LLM’s in staat om diepe analyses uit te voeren die ze eerder niet konden uitvoeren met andere prompt-technieken.
4. Iteratieve optimalisatie: De verfijnde oplossingen ondergaan verdere evaluatie en recombinatie om verfijnde oplossingen te produceren.

Door deze cyclus te herhalen, verfijnt Mind Evolution de kwaliteit van de oplossingen, waardoor LLM’s complexe uitdagingen effectiever aan kunnen pakken.

Mind Evolution in actie

DeepMind testte deze benadering op benchmarks zoals TravelPlanner en Natural Plan. Met deze benadering behaalde Google’s Gemini een succespercentage van 95,2% op TravelPlanner, een uitstekende verbetering ten opzichte van een baseline van 5,6%. Met de meer geavanceerde Gemini Pro steeg het succespercentage tot bijna 99,9%. Deze transformatieve prestatie toont de effectiviteit van Mind Evolution aan bij het aanpakken van praktische uitdagingen.

Interessant is dat de effectiviteit van het model toeneemt met de complexiteit van de taak. Bijvoorbeeld, terwijl single-pass methoden worstelden met meerdere dagen durende reisplannen met meerdere steden, presteerde Mind Evolution consistent beter, met een hoog succespercentage, zelfs toen het aantal beperkingen toenam.

Uitdagingen en toekomstige richtingen

Ondanks zijn succes, is Mind Evolution niet zonder beperkingen. De benadering vereist aanzienlijke rekenbronnen vanwege de iteratieve evaluatie- en verfijningsprocessen. Bijvoorbeeld, het oplossen van een TravelPlanner-taak met Mind Evolution verbruikte drie miljoen tokens en 167 API-aanroepen – aanzienlijk meer dan conventionele methoden. Echter, de benadering blijft efficiënter dan brute-force strategieën zoals uitputtend zoeken.

Bovendien kan het ontwerpen van effectieve fitness-functies voor bepaalde taken een uitdaging zijn. Toekomstig onderzoek kan zich richten op het optimaliseren van de reken-efficiëntie en het uitbreiden van de techniek naar een bredere range van problemen, zoals creatief schrijven of complexe besluitvorming.

Een ander interessant gebied voor verkenning is de integratie van domeinspecifieke evaluatoren. Bijvoorbeeld, in medische diagnose kan het incorporeren van expertkennis in de fitness-functie de nauwkeurigheid en betrouwbaarheid van het model verder verhogen.

Toepassingen buiten planning

Hoewel Mind Evolution voornamelijk wordt geëvalueerd op planningstaken, kan het worden toegepast op verschillende domeinen, zoals creatief schrijven, wetenschappelijke ontdekking en zelfs codegeneratie. Bijvoorbeeld, onderzoekers hebben een benchmark geïntroduceerd genaamd StegPoet, die de uitdaging vormt om verborgen berichten binnen gedichten te coderen. Hoewel deze taak nog steeds moeilijk is, overtreft Mind Evolution traditionele methoden door succespercentages tot 79,2% te bereiken.

De mogelijkheid om oplossingen aan te passen en te evolueren in natuurlijke taal opent nieuwe mogelijkheden voor het aanpakken van problemen die moeilijk te formaliseren zijn, zoals het verbeteren van workflows of het genereren van innovatieve productontwerpen. Door de kracht van evolutionaire algoritmen te gebruiken, biedt Mind Evolution een flexibele en schaalbare framework voor het verbeteren van de probleemoplossende capaciteiten van LLM’s.

De bottom line

DeepMind’s Mind Evolution introduceert een praktische en effectieve manier om de belangrijkste beperkingen in LLM’s te overwinnen. Door iteratieve verfijning geïnspireerd door natuurlijke selectie te gebruiken, verhoogt het de mogelijkheid van deze modellen om complexe, multi-stap taken aan te pakken die gestructureerd redeneren en plannen vereisen. De benadering heeft al aanzienlijk succes getoond in uitdagende scenario’s zoals reisplanning en toont belofte in diverse domeinen, waaronder creatief schrijven, wetenschappelijk onderzoek en codegeneratie. Terwijl uitdagingen zoals hoge rekenkosten en de noodzaak van goed ontworpen fitness-functies blijven bestaan, biedt de benadering een schaalbaar framework voor het verbeteren van AI-capaciteiten. Mind Evolution zet de toon voor krachtigere AI-systemen die in staat zijn om te redeneren en te plannen om real-world uitdagingen aan te pakken.