Ewolucja Umysłu DeepMind: Umożliwianie Dużym Modelom Językowym Rozwiązywania Prawdziwych Problemów

W ostatnich latach sztuczna inteligencja (AI) wyłoniła się jako praktyczne narzędzie do napędzania innowacji w różnych branżach. Na czele tego postępu są duże modele językowe (LLM), znane ze swojej zdolności do zrozumienia i wygenerowania języka ludzkiego. Chociaż LLM radzą sobie dobrze w zadaniach takich jak AI konwersacyjny i tworzenie treści, często mają trudności z złożonymi, prawdziwymi wyzwaniami wymagającymi ustrukturyzowanego rozumowania i planowania.

Na przykład, jeśli poprosisz LLM o zaplanowanie wielomiejskiej podróży służbowej, która obejmuje koordynowanie rozkładów lotów, czasów spotkań, ograniczeń budżetowych i odpowiedniej ilości snu, mogą one zaproponować sugestie dotyczące poszczególnych aspektów. Jednak często mają trudności z integrowaniem tych aspektów w celu skutecznego zbalansowania konkurencyjnych priorytetów. To ograniczenie staje się jeszcze bardziej widoczne, gdy LLM są coraz częściej wykorzystywane do budowy agentów AI zdolnych do samodzielnego rozwiązywania prawdziwych problemów.

Google DeepMind opracował niedawno rozwiązanie, aby rozwiązać ten problem. Zainspirowany przez naturalną selekcję, ten podejście, znane jako Ewolucja Umysłu, doskonali strategie rozwiązywania problemów poprzez iteracyjną adaptację. Poprzez prowadzenie LLM w czasie rzeczywistym, pozwala im one skutecznie rozwiązywać złożone, prawdziwe zadania i dostosowywać się do dynamicznych scenariuszy. W tym artykule będziemy badać, jak działa ta innowacyjna metoda, jej potencjalne zastosowania i co oznacza dla przyszłości rozwiązywania problemów za pomocą AI.

Dlaczego LLM mają trudności z złożonym rozumowaniem i planowaniem

LLM są szkolone, aby przewidywać następne słowo w zdaniu, analizując wzorce w dużych zbiorach danych tekstowych, takich jak książki, artykuły i treści online. To pozwala im generować odpowiedzi, które wydają się logiczne i odpowiednie w kontekście. Jednak ten trening opiera się na rozpoznawaniu wzorców, a nie na zrozumieniu znaczenia. W wyniku tego LLM mogą produkować tekst, który wydaje się logiczny, ale mają trudności z zadania, które wymagają głębszego rozumowania lub ustrukturyzowanego planowania.

Główne ograniczenie leży w tym, jak LLM przetwarzają informacje. Koncentrują się one na prawdopodobieństwach lub wzorcach, a nie na logice, co oznacza, że mogą radzić sobie z izolowanymi zadania, takimi jak sugerowanie opcji lotów lub rekomendacje hoteli, ale nie radzą sobie, gdy te zadania muszą być zintegrowane w spójny plan. To również utrudnia im utrzymanie kontekstu w czasie. Złożone zadania często wymagają śledzenia poprzednich decyzji i adaptacji, gdy pojawiają się nowe informacje. LLM, jednak, mają tendencję do tracenia focusu w przedłużonych interakcjach, co prowadzi do fragmentarycznych lub niespójnych wyników.

 Jak działa Ewolucja Umysłu

Ewolucja Umysłu DeepMind rozwiązuje te ograniczenia, przyjmując zasady z naturalnej ewolucji. Zamiast wytwarzania jednej odpowiedzi na złożone zapytanie, to podejście generuje wiele potencjalnych rozwiązań, iteracyjnie je doskonali i wybiera najlepsze rozwiązanie poprzez ustrukturyzowany proces oceny. Na przykład, rozważmy zespół, który generuje pomysły na projekt. Niektóre pomysły są wspaniałe, inne mniej. Zespół ocenia wszystkie pomysły, zachowując najlepsze i odrzucając resztę. Następnie udoskonalają najlepsze pomysły, wprowadzają nowe wariacje i powtarzają proces, aż do uzyskania najlepszego rozwiązania. Ewolucja Umysłu stosuje tę zasadę do LLM.

Oto jak to działa:

1. Generacja: Proces zaczyna się od tworzenia przez LLM wielu odpowiedzi na dane zadanie. Na przykład, w zadaniu planowania podróży, model może wygenerować różne warianty tras na podstawie budżetu, czasu i preferencji użytkownika.
2. Ocena: Każde rozwiązanie jest oceniane według funkcji fitness, która mierzy, jak dobrze spełnia wymagania zadania. Niskiej jakości odpowiedzi są odrzucane, podczas gdy najbardziej perspektywiczni kandydaci przechodzą do następnego etapu.
3. Udoskonalenie: Unikalną innowacją Ewolucji Umysłu jest dialog między dwiema postaciami wewnątrz LLM: Autorem i Krytykiem. Autor proponuje rozwiązania, podczas gdy Krytyk identyfikuje błędy i oferuje informacje zwrotne. Ten ustrukturyzowany dialog odzwierciedla, jak ludzie udoskonalają pomysły poprzez krytykę i rewizję. Na przykład, jeśli Autor sugeruje plan podróży, który obejmuje wizytę w restauracji przekraczającą budżet, Krytyk wskazuje na to. Autor następnie rewizuje plan, aby uwzględnić uwagi Krytyka. Ten proces umożliwia LLM wykonywanie głębokiej analizy, której wcześniej nie mogły wykonywać przy użyciu innych technik nakierowania.
4. Iteracyjna optymalizacja: Udoskonalone rozwiązania przechodzą dalszą ocenę i rekombinację, aby wytworzyć udoskonalone rozwiązania.

Poprzez powtarzanie tego cyklu, Ewolucja Umysłu iteracyjnie poprawia jakość rozwiązań, umożliwiając LLM skuteczniejsze radzenie sobie z złożonymi wyzwaniami.

Ewolucja Umysłu w działaniu

DeepMind przetestował to podejście na benchmarkach takich jak TravelPlanner i Natural Plan. Korzystając z tego podejścia, Gemini Google osiągnęło wskaźnik sukcesu 95,2% w TravelPlanner, co stanowi wybitną poprawę w porównaniu z bazowym wynikiem 5,6%. Z bardziej zaawansowanym Gemini Pro, wskaźniki sukcesu wzrosły do prawie 99,9%. To przełomowe wyniki pokazują skuteczność ewolucji umysłu w rozwiązywaniu praktycznych wyzwań.

Co ciekawe, skuteczność modelu rośnie wraz ze złożonością zadania. Na przykład, podczas gdy metody jednopasmowe miały trudności z wielodniowymi trasami obejmującymi wiele miast, Ewolucja Umysłu konsekwentnie przewyższała, utrzymując wysokie wskaźniki sukcesu nawet wtedy, gdy liczba ograniczeń rosła.

Wyzwania i kierunki przyszłego rozwoju

Pomimo swojego sukcesu, Ewolucja Umysłu nie jest pozbawiona ograniczeń. Podejście to wymaga znacznych zasobów obliczeniowych ze względu na iteracyjny proces oceny i udoskonalenia. Na przykład, rozwiązanie zadania TravelPlanner przy użyciu Ewolucji Umysłu zużyło trzy miliony tokenów i 167 wywołań API – znacznie więcej niż konwencjonalne metody. Jednak podejście to pozostaje bardziej efektywne niż taktyki siłowe, takie jak wyczerpujące przeszukiwanie.

Ponadto projektowanie skutecznych funkcji fitness dla pewnych zadań może być trudnym zadaniem. Przyszłe badania mogą skupić się na optymalizacji wydajności obliczeniowej i rozszerzeniu zastosowania tej techniki do szerszego zakresu problemów, takich jak twórcze pisanie lub złożone podejmowanie decyzji.

Innym interesującym obszarem do eksploracji jest integracja ewaluatorów specyficznych dla danej dziedziny. Na przykład, w diagnozie medycznej, włączenie wiedzy ekspertów do funkcji fitness mogłoby dalej poprawić dokładność i niezawodność modelu.

Zastosowania poza planowaniem

Chociaż Ewolucja Umysłu jest głównie oceniana w zadaniach planistycznych, może być stosowana w różnych dziedzinach, w tym twórczym pisaniu, odkryciach naukowych i nawet generowaniu kodu. Na przykład, badacze wprowadzili benchmark o nazwie StegPoet, który wyzwala model do zakodowania ukrytych wiadomości w wierszach. Chociaż to zadanie pozostaje trudne, Ewolucja Umysłu przewyższa tradycyjne metody, osiągając wskaźniki sukcesu do 79,2%.

Możliwość adaptacji i ewolucji rozwiązań w języku naturalnym otwiera nowe możliwości rozwiązywania problemów, które są trudne do sformalizowania, takich jak poprawa przepływów pracy lub generowanie innowacyjnych projektów produktów. Wykorzystując moc algorytmów ewolucyjnych, Ewolucja Umysłu zapewnia elastyczną i skalowalną ramę dla udoskonalania zdolności rozwiązywania problemów LLM.

Podsumowanie

Ewolucja Umysłu DeepMind wprowadza praktyczny i skuteczny sposób, aby pokonać kluczowe ograniczenia LLM. Poprzez zastosowanie iteracyjnego udoskonalenia zainspirowanego naturalną selekcją, zwiększa zdolność tych modeli do radzenia sobie z złożonymi, wieloetapowymi zadania, które wymagają ustrukturyzowanego rozumowania i planowania. Podejście to już pokazało znaczny sukces w wymagających scenariuszach, takich jak planowanie podróży, i wykazuje obiecujące wyniki w różnych dziedzinach, w tym twórczym pisaniu, badaniach naukowych i generowaniu kodu. Chociaż wyzwania, takie jak wysokie koszty obliczeniowe i potrzeba dobrze zaprojektowanych funkcji fitness, pozostają, podejście to zapewnia ramę dla udoskonalania możliwości AI. Ewolucja Umysłu otwiera drogę do bardziej potężnych systemów AI, które są w stanie rozumować i planować, aby rozwiązywać prawdziwe wyzwania.