AlphaEvolve : l’étape révolutionnaire de Google DeepMind vers l’IAG

Google DeepMind a présenté AlphaEvolve, un agent de codage évolutif conçu pour découvrir de manière autonome de nouveaux algorithmes et solutions scientifiques. Présenté dans l’article intitulé “AlphaEvolve: Un agent de codage pour la découverte scientifique et algorithmique,” cette recherche représente une étape fondamentale vers l’Intelligence Artificielle Générale (IAG) et même l’Intelligence Artificielle Supérieure (IAS). Plutôt que de s’appuyer sur un affinement statique ou des ensembles de données étiquetés par l’homme, AlphaEvolve prend un chemin entièrement différent – un chemin qui se concentre sur la créativité autonome, l’innovation algorithmique et l’amélioration continue.

Au cœur d’AlphaEvolve se trouve un pipeline évolutif autonome alimenté par des modèles de langage grandeur nature (LLM). Ce pipeline ne génère pas seulement des sorties – il mute, évalue, sélectionne et améliore le code à travers les générations. AlphaEvolve commence avec un programme initial et l’affine de manière itérative en introduisant des changements soigneusement structurés.

Ces changements prennent la forme de diffs générés par LLM – des modifications de code suggérées par un modèle de langage basé sur des exemples antérieurs et des instructions explicites. Un « diff » en ingénierie logicielle fait référence à la différence entre deux versions d’un fichier, mettant généralement en évidence les lignes à supprimer ou à remplacer et les nouvelles lignes à ajouter. Dans AlphaEvolve, le LLM génère ces diffs en analysant le programme actuel et en proposant de petites éditions – ajout d’une fonction, optimisation d’une boucle ou modification d’un hyperparamètre – sur la base d’une invite qui inclut des métriques de performance et des éditions antérieures réussies.

Chaque programme modifié est ensuite testé à l’aide d’ évaluateurs automatisés adaptés à la tâche. Les candidats les plus efficaces sont stockés, référencés et recombinés comme inspiration pour les itérations futures. Au fil du temps, cette boucle évolutionnaire conduit à l’émergence d’algorithmes de plus en plus sophistiqués – souvent surpassant ceux conçus par des experts humains.

Comprendre la science derrière AlphaEvolve

Au cœur d’AlphaEvolve se trouvent les principes de l’informatique évolutionnaire – un sous-domaine de l’intelligence artificielle inspiré de l’évolution biologique. Le système commence avec une mise en œuvre de base de code, qu’il traite comme un « organisme » initial. À travers les générations, AlphaEvolve modifie ce code – en introduisant des variations ou « mutations » – et évalue l’adéquation de chaque variation à l’aide d’une fonction de notation bien définie. Les variants les mieux performants survivent et servent de modèles pour la prochaine génération.

Cette boucle évolutionnaire est coordonnée par :

• Échantillonnage d’invite: AlphaEvolve construit des invites en sélectionnant et en incorporant des exemples de code antérieurement réussis, des métriques de performance et des instructions spécifiques à la tâche.
• Mutation et proposition de code: Le système utilise un mélange de puissants LLM – Gemini 2.0 Flash et Pro – pour générer des modifications spécifiques du codebase actuel sous forme de diffs.
• Mécanisme d’évaluation: Une fonction d’évaluation automatisée évalue les performances de chaque candidat en l’exécutant et en renvoyant des scores scalaires.
• Base de données et contrôleur: Un contrôleur distribué orchestre cette boucle, stockant les résultats dans une base de données évolutionnaire et équilibrant l’exploration avec l’exploitation via des mécanismes tels que MAP-Elites.

Ce processus évolutif automatisé et riche en rétroaction diffère radicalement des techniques d’affinement standard. Il permet à AlphaEvolve de générer des solutions nouvelles, hautes performances et parfois contre-intuitives – repoussant les limites de ce que l’apprentissage automatique peut réaliser de manière autonome.

Comparaison d’AlphaEvolve avec RLHF

Pour apprécier l’innovation d’AlphaEvolve, il est crucial de le comparer à l’apprentissage par renforcement à partir de la rétroaction humaine (RLHF), une approche dominante utilisée pour affiner les grands modèles de langage.

Dans RLHF, les préférences humaines sont utilisées pour former un modèle de récompense, qui guide le processus d’apprentissage d’un LLM via des algorithmes d’apprentissage par renforcement tels que l’optimisation de la politique proximale (PPO). RLHF améliore l’alignement et l’utilité des modèles, mais il nécessite une implication humaine extensive pour générer des données de rétroaction et opère généralement dans un régime d’affinement statique et unique.

AlphaEvolve, en revanche :

• Supprime la rétroaction humaine de la boucle au profit d’évaluateurs exécutables par machine.
• Supporte l’apprentissage continu grâce à la sélection évolutionnaire.
• Explore des espaces de solution beaucoup plus larges en raison de mutations stochastiques et d’exécution asynchrone.
• Peut générer des solutions qui ne sont pas seulement alignées, mais novatrices et scientifiquement significatives.

Alors que RLHF affine le comportement, AlphaEvolve découvre et invente. Cette distinction est cruciale lorsqu’on considère les trajectoires futures vers l’IAG : AlphaEvolve ne se contente pas de faire de meilleures prédictions – il trouve de nouveaux chemins vers la vérité.

Applications et avancées

1. Découverte algorithmique et progrès mathématiques

AlphaEvolve a démontré sa capacité à réaliser des découvertes révolutionnaires dans des problèmes algorithmiques fondamentaux. Le plus notable est la découverte d’un nouvel algorithme pour multiplier deux matrices 4×4 à valeurs complexes en utilisant seulement 48 multiplications scalaires – surpassant le résultat de Strassen de 1969 de 49 multiplications et brisant un plafond théorique vieux de 56 ans. AlphaEvolve a réalisé cela grâce à des techniques avancées de décomposition de tenseurs qu’il a évoluées sur de nombreuses itérations, surpassant plusieurs approches de pointe.

Au-delà de la multiplication de matrices, AlphaEvolve a apporté des contributions substantielles à la recherche mathématique. Il a été évalué sur plus de 50 problèmes ouverts dans des domaines tels que la combinatoire, la théorie des nombres et la géométrie. Il a égalé les meilleurs résultats connus dans environ 75 % des cas et les a dépassés dans environ 20 %. Ces réussites comprenaient des améliorations du problème d’overlap minimum d’Erdős, une solution plus dense au problème du nombre de kisses en 11 dimensions, et des configurations de packaging géométrique plus efficaces. Ces résultats soulignent sa capacité à agir comme un explorateur mathématique autonome – affinant, itérant et évoluant des solutions de plus en plus optimales sans intervention humaine.

2. Optimisation à travers la pile de calcul de Google

AlphaEvolve a également apporté des améliorations tangibles de performance à travers l’infrastructure de Google :

• Dans la planification des centres de données, il a découvert une nouvelle heuristique qui a amélioré le placement des tâches, récupérant 0,7 % des ressources de calcul précédemment bloquées.
• Pour les noyaux d’entraînement de Gemini, AlphaEvolve a conçu une meilleure stratégie de pavage pour la multiplication de matrices, ce qui a entraîné une accélération de 23 % du noyau et une réduction de 1 % du temps d’entraînement global.
• Dans la conception de circuits TPU, il a identifié une simplification de la logique arithmétique au niveau RTL (Register-Transfer Level), vérifiée par les ingénieurs et incluse dans les prochaines puces TPU.
• Il a également optimisé le code généré par le compilateur FlashAttention en éditant les représentations intermédiaires XLA, réduisant le temps d’inférence sur les GPU de 32 %.

Ces résultats valident la capacité d’AlphaEvolve à opérer à plusieurs niveaux d’abstraction – des mathématiques symboliques à l’optimisation du matériel – et à apporter des gains de performance réels.

• Programmation évolutionnaire: Un paradigme d’IA utilisant la mutation, la sélection et l’héritage pour affiner itérativement les solutions.
• Superoptimisation de code: La recherche automatisée de la mise en œuvre la plus efficace d’une fonction – souvent aboutissant à des améliorations surprenantes et contre-intuitives.
• Évolution de l’invite de métal: AlphaEvolve n’évolue pas seulement le code ; il évolue également la façon dont il communique des instructions aux LLM – permettant l’affinement du processus de codage.
• Perte de discrétisation: Un terme de régularisation encourageant les sorties à s’aligner sur des valeurs demi-entières ou entières – essentiel pour la clarté mathématique et symbolique.
• Perte d’hallucination: Un mécanisme injectant de l’aléatoire dans les solutions intermédiaires, encourageant l’exploration et évitant les minima locaux.
• Algorithme MAP-Elites: Un type d’algorithme de diversité de qualité qui maintient une population diverse de solutions hautes performances à travers les dimensions de fonctionnalités – permettant l’innovation robuste.

Implications pour l’IAG et l’IAS

AlphaEvolve est plus qu’un optimiseur – c’est un aperçu d’un avenir où les agents intelligents peuvent démontrer une autonomie créative. La capacité du système à formuler des problèmes abstraits et à concevoir ses propres approches pour les résoudre représente une étape significative vers l’Intelligence Artificielle Générale. Cela va au-delà de la prédiction de données : cela implique un raisonnement structuré, la formation de stratégies et l’adaptation à la rétroaction – les marques d’un comportement intelligent.

Sa capacité à générer et à affiner itérativement des hypothèses signale également une évolution de la façon dont les machines apprennent. Contrairement aux modèles qui nécessitent un entraînement supervisé extensif, AlphaEvolve s’améliore lui-même à travers une boucle d’expérimentation et d’évaluation. Cette forme dynamique d’intelligence lui permet de naviguer dans des espaces de problème complexes, d’éliminer les solutions faibles et d’élever les plus fortes sans surveillance humaine directe.

En exécutant et en validant ses propres idées, AlphaEvolve fonctionne à la fois comme théoricien et expérimentateur. Il dépasse l’exécution de tâches prédéfinies et entre dans le domaine de la découverte, simulant un processus scientifique autonome. Chaque amélioration proposée est testée, benchmarkée et réintégrée – permettant une affination continue basée sur des résultats réels plutôt que sur des objectifs statiques.

Peut-être plus notablement, AlphaEvolve est un exemple précoce d’amélioration récursive de soi – où un système d’IA ne se contente pas d’apprendre mais améliore les composants de lui-même. Dans plusieurs cas, AlphaEvolve a amélioré l’infrastructure d’entraînement qui soutient ses propres modèles de base. Même si cela est encore limité par les architectures actuelles, cette capacité fixe un précédent. Avec plus de problèmes formulés dans des environnements évaluables, AlphaEvolve pourrait s’étendre vers un comportement de plus en plus sophistiqué et auto-optimisé – un trait fondamental de l’Intelligence Artificielle Supérieure (IAS).

Limitations et trajectoire future

La limitation actuelle d’AlphaEvolve est sa dépendance à l’égard de fonctions d’évaluation automatisées. Cela limite son utilité aux problèmes qui peuvent être formalisés mathématiquement ou algorithmiquement. Il ne peut pas encore opérer de manière significative dans des domaines qui nécessitent une compréhension tacite humaine, un jugement subjectif ou une expérimentation physique.

Cependant, les directions futures incluent :

• Intégration d’une évaluation hybride : combinant le raisonnement symbolique avec les préférences humaines et les critiques en langage naturel.
• Déploiement dans des environnements de simulation, permettant une expérimentation scientifique incarnée.
• Distillation des sorties évoluées dans les LLM de base, créant des modèles de base plus capables et plus efficaces en échantillons.

Ces trajectoires pointent vers des systèmes de plus en plus autonomes capables de résoudre des problèmes de haute enjeu de manière autonome.

Conclusion

AlphaEvolve est un pas en avant profond – non seulement dans l’outillage d’IA mais dans notre compréhension de l’intelligence de la machine elle-même. En fusionnant la recherche évolutionnaire avec le raisonnement LLM et la rétroaction, il redéfinit ce que les machines peuvent découvrir de manière autonome. Il s’agit d’un signal précoce mais significatif que les systèmes auto-améliorateurs capables de pensée scientifique réelle ne sont plus théoriques.

En regardant vers l’avenir, l’architecture sous-jacente à AlphaEvolve pourrait être appliquée de manière récursive à elle-même : évoluer ses propres évaluateurs, améliorer la logique de mutation, affiner les fonctions de notation et optimiser les pipelines d’entraînement sous-jacents pour les modèles dont il dépend. Cette boucle d’optimisation récursive représente un mécanisme technique pour amorcer l’IAG, où le système ne se contente pas d’effectuer des tâches mais améliore l’infrastructure même qui permet son apprentissage et son raisonnement.

Au fil du temps, à mesure qu’AlphaEvolve s’étend à des domaines plus complexes et abstraits – et à mesure que l’intervention humaine dans le processus diminue – il peut présenter des gains d’intelligence accélérés. Ce cycle auto-renforçant d’amélioration itérative, appliqué non seulement à des problèmes externes mais également à sa propre structure algorithmique, est un composant théorique clé de l’IAG et de tous les avantages qu’elle pourrait apporter à la société. Avec sa combinaison de créativité, d’autonomie et de récursion, AlphaEvolve pourrait être rappelé non pas seulement comme un produit de DeepMind, mais comme un plan directeur pour les premières véritables intelligences artificielles générales et auto-évoluant.