Les chercheurs de Google créent un système pour faire évoluer de nouveaux algorithmes d’IA à partir de blocs mathématiques

L’apprentissage automatique permet à une application informatique de devenir compétente dans une grande variété de tâches, mais il faut souvent beaucoup de temps pour concevoir une architecture d’apprentissage automatique à partir de zéro et pour former cet algorithme. Selon ScienceAlert, les chercheurs de Google Brain ont récemment expérimenté de nouvelles façons de créer des programmes d’IA, en employant des techniques basées sur des mutations qui permettent aux IA de « s’évoluer » de manière organique.

Le système AutoML de Google crée automatiquement des programmes d’IA depuis un certain temps déjà, et beaucoup de ces programmes atteignent de meilleures performances que les modèles conçus par des ingénieurs humains. Cependant, les chercheurs de Google ont pu étendre ce système, en publiant des recherches qui laissent entendre que le système pourrait être utilisé pour « découvrir » de nouveaux algorithmes plus efficaces et plus puissants à travers un processus qui imite l’évolution. Ce processus est basé sur la mutation de fonctions mathématiques et il pourrait également aider à réduire les biais humains qui se glissent souvent dans les systèmes d’IA à travers les données.

L’équipe de recherche de Google a prépublié un article le mois dernier sur arXiv, intitulé “Evolving Machine Learning Algorithms From Scratch”. Dans cet article, l’équipe de recherche discute de leur nouveau système, appelé AutoML-Zero. Auto-ML Zero fonctionne en modifiant les opérations mathématiques de base, en les utilisant comme blocs de construction pour de nouveaux algorithmes sophistiqués. Les systèmes conçus avec AutoML-Zero pourraient potentiellement être plus puissants et plus précis que de nombreux autres algorithmes d’IA, mais l’équipe de recherche a testé le processus avec un objectif spécifique à l’esprit – la correction des biais humains dans les modèles d’apprentissage automatique génériques et les jeux de données. Les chercheurs décrivent le problème dans leur article de recherche :

“Les composants conçus par l’homme biaisent les résultats de la recherche en faveur des algorithmes conçus par l’homme, ce qui pourrait réduire le potentiel d’innovation de l’AutoML. L’innovation est également limitée par le fait d’avoir moins d’options : vous ne pouvez pas découvrir ce que vous ne pouvez pas rechercher.”

AutoML-Zero fonctionne avec une approche en trois étapes : setup, predict, et learn. AutoML-Zero commence par prendre 100 algorithmes créés à travers la combinaison aléatoire d’opérations mathématiques simples, puis les algorithmes sont mis en concurrence les uns avec les autres. Une fois que les algorithmes les plus performants sont identifiés, de petites modifications sont apportées à ces algorithmes et puis un autre tour d’essais est effectué. Ce processus de concurrence et de mutation imite un processus de « sélection du plus apte ».

Selon les rapports, l’ensemble du processus peut être effectué plutôt rapidement, car le système est capable de traiter jusqu’à 10 000 algorithmes possibles par seconde par processeur. Il peut également effectuer ces essais plus ou moins 24 heures sur 24, 7 jours sur 7, en continuant à expérimenter avec très peu d’entrée de la part des opérateurs humains.

Beaucoup des systèmes algorithmiques les plus impressionnants d’aujourd’hui ne sont que de légères variations d’algorithmes qui ont une longue histoire en informatique et en IA, mis à l’échelle. Selon Haran Jackson, cité par Newsweek, la chose la plus intéressante à propos du nouveau document est que le système pourrait potentiellement découvrir de nouveaux algorithmes qui diffèrent radicalement de ceux qui sont les plus largement utilisés.

“Il y a un sentiment parmi de nombreux membres de la communauté que les réalisations les plus impressionnantes de l’intelligence artificielle ne seront atteintes qu’avec l’invention de nouveaux algorithmes qui sont fondamentalement différents de ceux que nous, en tant qu’espèce, avons jusqu’à présent conçus », a déclaré Jackson. “C’est ce qui rend le document mentionné ci-dessus si intéressant. Il présente une méthode par laquelle nous pouvons construire et tester automatiquement des algorithmes d’apprentissage automatique complètement nouveaux.”

AutoML-Zero est encore dans la phase de preuve de concept et beaucoup de travail devra être effectué sur lui avant qu’il soit capable de produire des algorithmes qui sont aussi utiles que ceux qui alimentent les applications d’IA les plus récentes. Néanmoins, les recherches menées sur le système pourraient s’avérer utiles même avant que AutoML-Zero ne soit terminé, en informant la façon dont les autres algorithmes sont conçus par les ingénieurs.