AlphaEvolve: przełomowy krok Google DeepMind w kierunku AGI

Google DeepMind przedstawił AlphaEvolve, agenta kodowania ewolucyjnego, zaprojektowanego do samodzielnego odkrywania nowych algorytmów i rozwiązań naukowych. Przedstawiony w artykule “AlphaEvolve: Agent kodowania dla odkryć naukowych i algorytmicznych,” ten projekt reprezentuje podstawowy krok w kierunku sztucznej inteligencji ogólnej (AGI) i nawet sztucznej superinteligencji (ASI). Zamiast polegać na statycznym dostrajaniu lub zestawach danych oznaczonych przez ludzi, AlphaEvolve idzie całkowicie inną drogą – drogą, która koncentruje się na samodzielnej kreatywności, innowacji algorytmicznej i ciągłym samodoskonaleniu.

W sercu AlphaEvolve znajduje się samodzielny potok ewolucyjny napędzany przez duże modele językowe (LLM). Ten potok nie tylko generuje dane wyjściowe, ale mutuje, ocenia, wybiera i udoskonala kod na przestrzeni generacji. AlphaEvolve zaczyna od początkowego programu i iteratywnie udoskonala go, wprowadzając starannie zaplanowane zmiany.

Te zmiany przyjmują postać LLM-wygenerowanych diffów – modyfikacji kodu sugerowanych przez model językowy na podstawie wcześniejszych przykładów i jawnych instrukcji. “Diff” w inżynierii oprogramowania odnosi się do różnicy między dwiema wersjami pliku, zazwyczaj podkreślając linie do usunięcia lub zastąpienia oraz nowe linie do dodania. W AlphaEvolve, LLM generuje te diffe, analizując bieżący program i proponując małe edycje – dodając funkcję, optymalizując pętle lub zmieniając hiperparametr – na podstawie promtu, który zawiera metryki wydajności i poprzednie udane edycje.

Każdy zmodyfikowany program jest następnie testowany przy użyciu zautomatyzowanych ewaluatorów dostosowanych do zadania. Najbardziej skuteczne kandydaci są przechowywani, odniesieni i łączeni jako inspiracja dla przyszłych iteracji. Z biegiem czasu, ten ewolucyjny cykl prowadzi do powstania coraz bardziej zaawansowanych algorytmów – często przewyższających te zaprojektowane przez ludzi.

Poznanie nauki za AlphaEvolve

W swojej istocie, AlphaEvolve opiera się na zasadach obliczeń ewolucyjnych – poddziedziny sztucznej inteligencji zainspirowanej ewolucją biologiczną. System zaczyna od podstawowej implementacji kodu, który traktuje jako początkowy “organizm”. Przez generacje, AlphaEvolve modyfikuje ten kod – wprowadzając zmiany lub “mutacje” – i ocenia przydatność każdej zmiany przy użyciu dobrze zdefiniowanej funkcji oceny. Najlepiej wykonujące się warianty przetrwają i posłużą jako szablony dla następnej generacji.

Ten ewolucyjny cykl jest koordynowany przez:

• Próbkowanie promtu: AlphaEvolve konstruuje prompty, wybierając i osadzając wcześniej udane próbki kodu, metryki wydajności i instrukcje specyficzne dla zadania.
• Mutacja kodu i propozycja: System wykorzystuje mieszankę potężnych LLM – Gemini 2.0 Flash i Pro – do generowania konkretnych modyfikacji bieżącej bazy kodu w postaci diffów.
• Mechanizm oceny: Zautomatyzowana funkcja oceny ocenia wydajność każdego kandydata, wykonując go i zwracając skalarny wynik.
• Baza danych i kontroler: Rozproszony kontroler koordynuje ten cykl, przechowując wyniki w ewolucyjnej bazie danych i balansując eksplorację z wykorzystaniem mechanizmów takich jak MAP-Elites.

Ten proces ewolucyjny, bogaty w informacje zwrotne i zautomatyzowany, różni się radykalnie od standardowych technik dostrajania. Umożliwia AlphaEvolve generowanie nowych, wysoko wydajnych i czasem sprzecznych z intuicją rozwiązań – posuwając granice tego, co może osiągnąć samodzielnie uczenie maszynowe.

Porównanie AlphaEvolve z RLHF

Aby docenić innowację AlphaEvolve, ważne jest porównanie go z nauką wzmocnioną z ludzkim sprzężeniem (RLHF), dominującym podejściem stosowanym do dostrajania dużych modeli językowych.

W RLHF, preferencje ludzkie są wykorzystywane do szkolenia modelu nagrody, który kieruje procesem uczenia się LLM za pomocą algorytmów nauki wzmocnionej takich jak Proximal Policy Optimization (PPO). RLHF poprawia wyrównanie i użyteczność modeli, ale wymaga obszernego zaangażowania ludzi w celu wygenerowania danych sprzężenia i zwykle działa w statycznym, jednorazowym reżimie dostrajania.

AlphaEvolve, w przeciwieństwie do tego:

• Usuwa sprzężenie ludzkie z pętli na rzecz maszynowo wykonywalnych ewaluatorów.
• Wspiera ciągłe uczenie się przez selekcję ewolucyjną.
• Eksploruje znacznie szersze przestrzenie rozwiązań dzięki stochastycznym mutacjom i asynchronicznemu wykonaniu.
• Może generować rozwiązania, które nie tylko są wyrównane, ale nowe i naukowo znaczące.

Gdzie RLHF dostraja zachowanie, AlphaEvolve odkrywa i wynajduje. To rozróżnienie jest kluczowe, gdy rozważa się przyszłe trajektorie w kierunku AGI: AlphaEvolve nie tylko poprawia predykcje – znajduje nowe ścieżki do prawdy.

Zastosowania i przełomy

1. Odkrycia algorytmiczne i postępy matematyczne

AlphaEvolve wykazał swoją zdolność do przełomowych odkryć w podstawowych problemach algorytmicznych. Najbardziej godne uwagi jest to, że odkrył nowy algorytm do mnożenia dwóch 4×4 macierzy zespolonych, używając tylko 48 mnożeń skalarnych – przewyższając wynik Strassena z 1969 roku, który wynosił 49 mnożeń, i łamiąc 56-letni sufit teoretyczny. AlphaEvolve osiągnął to dzięki zaawansowanym technikom dekompozycji tensorów, które ewoluował przez wiele iteracji, przewyższając kilka podejść na poziomie stanu sztuki.

Poza mnożeniem macierzy, AlphaEvolve wniósł znaczący wkład w badania matematyczne. Został oceniony w ponad 50 otwartych problemach z dziedzin takich jak kombinatoryka, teoria liczb i geometria. Uzyskał najlepsze znane wyniki w około 75% przypadków i przewyższył je w około 20%. Te sukcesy obejmowały ulepszenia problemu Minimum Overlap Erdősa, gęstszego rozwiązania problemu Kissing Number w 11 wymiarach i bardziej efektywnych konfiguracji pakowania geometrycznego. Te wyniki podkreślają jego zdolność do działania jako samodzielny eksplorator matematyczny – udoskonalając, iterując i ewoluując coraz bardziej optymalne rozwiązania bez nadzoru ludzkiego.

2. Optymalizacja na komputerze Google

AlphaEvolve również dostarczył namacalne poprawy wydajności w infrastrukturze Google:

• W planowaniu centrów danych, odkrył nowy heurystykę, która poprawiła umieszczanie zadań, odzyskując 0,7% wcześniej zagubionych zasobów obliczeniowych.
• Dla jąder szkoleniowych Gemini, AlphaEvolve opracował lepszą strategię układania dla mnożenia macierzy, co dało 23% przyspieszenie jądra i 1% ogólnej redukcji czasu szkolenia.
• W projekcie obwodu TPU, zidentyfikował uproszczenie logiki arytmetycznej na poziomie RTL (Rejestr-Transfer-Level), zweryfikowane przez inżynierów i uwzględnione w następnych wersjach chipów TPU.
• Także zoptymalizował kod FlashAttention wygenerowany przez kompilator poprzez edycję pośrednich reprezentacji XLA, skracając czas inferencji na GPU o 32%.

Wszystkie te wyniki potwierdzają zdolność AlphaEvolve do działania na wielu poziomach abstrakcji – od matematyki symbolicznej po optymalizację sprzętu niskiego poziomu – i dostarczają realnych zysków wydajności.

• Programowanie ewolucyjne: Paradygmat AI wykorzystujący mutację, selekcję i dziedziczenie do iteracyjnego udoskonalania rozwiązań.
• Superoptymalizacja kodu: Zautomatyzowane wyszukiwanie najbardziej wydajnej implementacji funkcji – często dające zaskakujące, sprzeczne z intuicją ulepszenia.
• Ewolucja promtu meta: AlphaEvolve nie tylko ewoluuje kod, ale także ewoluuje sposób, w jaki komunikuje instrukcje LLM – umożliwiając samodoskonalenie procesu kodowania.
• Strata dyskretizacji: Term regularyzacyjny zachęcający dane wyjściowe do wyrównania z półcałkowitymi lub całkowitymi wartościami, kluczowymi dla klarowności matematycznej i symbolicznej.
• Strata hallucynacji: Mechanizm wstrzykujący losowość do pośrednich rozwiązań, zachęcający do eksploracji i unikania minimum lokalnego.
• Algorytm MAP-Elites: Typ algorytmu jakościowo-różnorodnego, który utrzymuje różnorodną populację wysoko wydajnych rozwiązań w różnych wymiarach cech – umożliwiając innowacyjność.

Wnioski dla AGI i ASI

AlphaEvolve jest czymś więcej niż optymalizatorem – jest zwiastunem przyszłości, w której agenci inteligentni mogą wykazywać autonomiczną kreatywność. Możliwość systemu do formułowania abstrakcyjnych problemów i projektowania własnych podejść do ich rozwiązywania reprezentuje znaczący krok w kierunku sztucznej inteligencji ogólnej. To wykracza poza predykcję danych: obejmuje rozumowanie strukturalne, formowanie strategii i adaptację do sprzężenia – cechy inteligentnego zachowania.

Jego zdolność do iteracyjnego generowania i udoskonalania hipotez również sygnalizuje ewolucję w tym, jak maszyny uczą się. W przeciwieństwie do modeli, które wymagają obszernego szkolenia nadzorowanego, AlphaEvolve doskonali się poprzez pętlę eksperymentowania i oceny. Ten dynamiczny rodzaj inteligencji pozwala mu nawigować złożone przestrzenie problemowe, odrzucać słabe rozwiązania i podnosić silniejsze bez bezpośredniego nadzoru ludzkiego.

Wykonując i walidując własne pomysły, AlphaEvolve działa zarówno jako teoretyk, jak i eksperymentator. Przechodzi od wykonywania przeddefiniowanych zadań do królestwa odkryć, symulując samodzielny proces naukowy. Każda zaproponowana poprawka jest testowana, benchmarkowana i reintegrowana, umożliwiając ciągłe udoskonalenie oparte na rzeczywistych wynikach, a nie statycznych celach.

Być może najbardziej godne uwagi jest to, że AlphaEvolve jest wczesnym przykładem samodoskonalenia rekursywnego – gdzie system AI nie tylko uczy się, ale także ulepsza komponenty samego siebie. W kilku przypadkach AlphaEvolve poprawił infrastrukturę szkoleniową, która wspiera jego własne podstawowe modele. Chociaż nadal ograniczony przez bieżące architektury, ta zdolność ustanawia precedens. Z większą liczbą problemów sformułowanych w środowiskach oceny, AlphaEvolve mógłby skalować się w kierunku coraz bardziej zaawansowanych i samooptymalizujących się zachowań – podstawowej cechy sztucznej superinteligencji (ASI).

Ograniczenia i przyszła trajektoria

Bieżące ograniczenie AlphaEvolve polega na jego zależności od zautomatyzowanych funkcji oceny. To ogranicza jego przydatność do problemów, które mogą być sformułowane matematycznie lub algorytmicznie. Nie może jeszcze działać znacząco w dziedzinach, które wymagają niejawnej wiedzy ludzkiej, subiektywnej oceny lub eksperymentów fizycznych.

Jednak przyszłe kierunki obejmują:

• Integrację hybrydowej oceny: łączenie rozumowania symbolicznego z preferencjami ludzkimi i krytykami w języku naturalnym.
• Wdrożenie w środowiskach symulacyjnych, umożliwiając eksperymenty naukowe wcielone.
• Destylację wyewoluowanych danych wyjściowych do podstawowych LLM, tworząc bardziej zdolne i efektywne modele podstawowe.

Te trajektorie wskazują na coraz bardziej agenty systemy zdolne do samodzielnego, wysokiego ryzyka rozwiązywania problemów.

Podsumowanie

AlphaEvolve jest znaczącym krokiem naprzód – nie tylko w narzędziach AI, ale także w naszym zrozumieniu samej inteligencji maszynowej. Łącząc ewolucyjne wyszukiwanie z rozumowaniem LLM i sprzężeniem, redefine, co maszyny mogą samodzielnie odkryć. Jest to wczesny, ale znaczący sygnał, że samodoskonalące się systemy zdolne do prawdziwych myśli naukowych nie są już teoretyczne.

Spójrzmy w przyszłość, architektura podstawowa AlphaEvolve mogłaby być rekursywnie zastosowana do samej siebie: ewoluując własne ewaluatory, poprawiając logikę mutacji, doskonaląc funkcje oceny i optymalizując podstawowe potoki szkoleniowe dla modeli, od których zależy. Ten rekursywny cykl optymalizacji reprezentuje techniczny mechanizm bootstrapowania w kierunku AGI, gdzie system nie tylko wykonuje zadania, ale także doskonali samą infrastrukturę, która umożliwia jego uczenie się i rozumowanie.

W miarę upływu czasu, gdy AlphaEvolve skaluje się w kierunku coraz bardziej złożonych i abstrakcyjnych dziedzin – i gdy interwencja ludzka w tym procesie maleje – może wykazywać przyspieszające zyski inteligencji. Ten samowzmacniający się cykl iteracyjnego udoskonalenia, zastosowany nie tylko do zewnętrznych problemów, ale także wewnętrznie do własnej struktury algorytmicznej, jest kluczowym składnikiem teoretycznym AGI i wszystkich korzyści, które może ono dostarczyć społeczeństwu. Z jego połączeniem kreatywności, autonomii i rekursji, AlphaEvolve może być pamiętany nie tylko jako produkt DeepMind, ale jako plan pierwszych prawdziwie ogólnych i samorozwijających się sztucznych umysłów.