Qu’est-ce que l’apprentissage meta ?

Qu’est-ce que l’apprentissage meta ?

L’un des domaines de recherche les plus en plein essor dans le domaine de l’apprentissage automatique est le domaine de l’apprentissage meta. L’apprentissage meta, dans le contexte de l’apprentissage automatique, est l’utilisation d’algorithmes d’apprentissage automatique pour aider à la formation et à l’optimisation d’autres modèles d’apprentissage automatique. Alors que l’apprentissage meta devient de plus en plus populaire et que de plus en plus de techniques d’apprentissage meta sont développées, il est bénéfique d’avoir une compréhension de ce qu’est l’apprentissage meta et d’avoir une idée des différentes manières dont il peut être appliqué. Examinons les idées derrière l’apprentissage meta, les types d’apprentissage meta, ainsi que certaines des manières dont l’apprentissage meta peut être utilisé.

Le terme d’apprentissage meta a été inventé par Donald Maudsley pour décrire un processus par lequel les gens commencent à façonner ce qu’ils apprennent, devenant « de plus en plus maîtres de leurs habitudes de perception, de recherche, d’apprentissage et de croissance qu’ils ont internalisées ». Plus tard, les scientifiques cognitifs et les psychologues décriraient l’apprentissage meta comme « apprendre à apprendre ».

Pour la version de l’apprentissage automatique de l’apprentissage meta, l’idée générale d’« apprendre à apprendre » est appliquée aux systèmes d’intelligence artificielle. Dans le sens de l’IA, l’apprentissage meta est la capacité d’une machine intelligente artificielle à apprendre à effectuer diverses tâches complexes, en appliquant les principes qu’elle a utilisés pour apprendre une tâche à d’autres tâches. Les systèmes d’IA doivent généralement être formés pour accomplir une tâche en maîtrisant de nombreuses petites sous-tâches. Cette formation peut prendre beaucoup de temps et les agents d’IA ne transfèrent pas facilement les connaissances acquises lors d’une tâche à une autre tâche. La création de modèles et de techniques d’apprentissage meta peut aider l’IA à apprendre à généraliser les méthodes d’apprentissage et à acquérir de nouvelles compétences plus rapidement.

Types d’apprentissage meta

Apprentissage meta de l’optimiseur

L’apprentissage meta est souvent utilisé pour optimiser les performances d’un réseau de neurones existant. Les méthodes d’apprentissage meta de l’optimiseur fonctionnent généralement en ajustant les hyperparamètres d’un autre réseau de neurones pour améliorer les performances du réseau de base. Le résultat est que le réseau cible devrait devenir meilleur pour effectuer la tâche pour laquelle il est formé. Un exemple d’optimiseur d’apprentissage meta est l’utilisation d’un réseau pour améliorer les résultats de la descente de gradient.

Apprentissage meta à quelques exemples

Une approche d’apprentissage meta à quelques exemples est une approche dans laquelle un réseau de neurones profond est conçu pour généraliser les jeux de données de formation à des jeux de données non vus. Un exemple de classification à quelques exemples est similaire à une tâche de classification normale, mais au lieu de cela, les échantillons de données sont des jeux de données entiers. Le modèle est formé sur de nombreuses tâches d’apprentissage différentes et jeux de données, puis il est optimisé pour une performance optimale sur les multiples tâches de formation et les données non vues. Dans cette approche, un seul échantillon de formation est divisé en plusieurs classes. Cela signifie que chaque échantillon de formation/jeu de données pourrait potentiellement être composé de deux classes, pour un total de 4 exemples. Dans ce cas, la tâche de formation totale pourrait être décrite comme une tâche de classification à 4 exemples et 2 classes.

Dans l’apprentissage à quelques exemples, l’idée est que les échantillons de formation individuels sont minimalistes et que le réseau peut apprendre à identifier les objets après avoir vu seulement quelques images. C’est un peu comme lorsque qu’un enfant apprend à distinguer les objets après avoir vu seulement quelques images. Cette approche a été utilisée pour créer des techniques comme les modèles génératifs à un seul exemple et les réseaux de neurones avec mémoire augmentée.

Apprentissage meta basé sur les métriques

L’apprentissage meta basé sur les métriques est l’utilisation de réseaux de neurones pour déterminer si une métrique est utilisée efficacement et si le réseau ou les réseaux atteignent la métrique cible. L’apprentissage meta basé sur les métriques est similaire à l’apprentissage à quelques exemples dans la mesure où seulement quelques exemples sont utilisés pour former le réseau et lui faire apprendre l’espace de métrique. La même métrique est utilisée à travers le domaine diversifié et si les réseaux divergent de la métrique, ils sont considérés comme défaillants.

Apprentissage meta de modèle récurrent

L’apprentissage meta de modèle récurrent est l’application de techniques d’apprentissage meta aux réseaux de neurones récurrents et aux réseaux de neurones à mémoire à long terme similaires. Cette technique fonctionne en formant le modèle RNN/LSTM pour apprendre séquentiellement un jeu de données, puis en utilisant ce modèle formé comme base pour un autre apprentissage. L’algorithme d’optimisation spécifique utilisé pour former le modèle initial est pris en compte par l’apprentissage meta. La paramétrisation héritée de l’apprentissage meta permet une initialisation et une convergence rapides, tout en étant toujours capable de mettre à jour pour de nouvelles situations.

Comment fonctionne l’apprentissage meta ?

La façon exacte dont l’apprentissage meta est réalisé varie en fonction du modèle et de la nature de la tâche en question. Cependant, en général, une tâche d’apprentissage meta implique la copie des paramètres du premier réseau dans les paramètres du deuxième réseau/l’optimiseur.

Il y a deux processus de formation dans l’apprentissage meta. Le modèle d’apprentissage meta est généralement formé après plusieurs étapes de formation sur le modèle de base. Après les étapes de formation directe, inverse et d’optimisation qui forment le modèle de base, la passe de formation directe est effectuée pour le modèle d’optimisation. Par exemple, après trois ou quatre étapes de formation sur le modèle de base, une perte meta est calculée. Après que la perte meta est calculée, les gradients sont calculés pour chaque paramètre meta. Après cela, les paramètres meta dans l’optimiseur sont mis à jour.

Une possibilité pour calculer la perte meta est de terminer la passe de formation directe du modèle initial, puis de combiner les pertes qui ont déjà été calculées. L’optimiseur meta pourrait même être un autre apprentissage meta, bien qu’à un certain moment, un optimiseur discret comme ADAM ou SGD doit être utilisé.

De nombreux modèles d’apprentissage profond peuvent avoir des centaines de milliers ou même des millions de paramètres. Créer un apprentissage meta qui a un tout nouveau jeu de paramètres serait coûteux en termes de calcul, et pour cette raison, une tactique appelée partage de coordonnées est généralement utilisée. Le partage de coordonnées implique la conception de l’apprentissage meta/optimiseur de telle sorte qu’il apprenne un seul paramètre du modèle de base, puis clone ce paramètre à la place de tous les autres paramètres. Le résultat est que les paramètres que l’optimiseur possède ne dépendent pas des paramètres du modèle.