Les systèmes d’IA pourraient préférer le langage humain plutôt que les données numériques

Une nouvelle recherche menée par l’école d’ingénierie de Columbia suggère que les systèmes d’intelligence artificielle (IA) préfèrent le langage humain plutôt que les données numériques comme les 1 et les 0. L’étude a été menée par le professeur d’ingénierie mécanique Hod Lipson et l’étudiant en doctorat Boyuan Chen, et elle a démontré que les systèmes d’IA pourraient atteindre des niveaux de performance plus élevés s’ils étaient programmés avec des fichiers audio de langage humain.

Dans une comparaison côte à côte, les chercheurs ont constaté qu’un réseau neuronal formé avec des fichiers audio a atteint des niveaux de performance plus élevés dans l’identification d’objets, par rapport au réseau formé avec des entrées binaires simples.

Lipson est un professeur James et Sally Scapa d’innovation et un membre de l’Institut des sciences des données de Columbia.

« Pour comprendre pourquoi cette découverte est importante, il est utile de comprendre comment les réseaux neuronaux sont généralement programmés, et pourquoi utiliser le son de la voix humaine est une expérience radicale », a-t-il déclaré.

Utiliser des nombres binaires est compact et précis, tandis que le langage humain est plus complexe et non binaire lorsqu’il est capturé dans un fichier numérique. Les programmeurs ne s’écartent généralement pas des nombres lors du développement d’un réseau neuronal, car cela est très efficace.

L’équipe a entrepris cette recherche après avoir pensé que les réseaux neuronaux ne atteignaient pas leur plein potentiel, et qu’ils pourraient être plus rapides et meilleurs s’ils étaient formés avec la voix humaine et des mots spécifiques.

Formation des réseaux

Lorsqu’ils testent une nouvelle technique d’apprentissage automatique, les chercheurs en IA forment souvent un réseau neuronal pour reconnaître des objets et des animaux spécifiques dans une collection de photographies.

L’équipe, qui comprenait Chen, Lipson, Yu Li et Susan Raghupathi, a mis en place une expérience contrôlée pour tester leur hypothèse, et ils ont créé deux nouveaux réseaux neuronaux. Ils ont formé ces réseaux pour reconnaître 10 types d’objets différents parmi 50 000 photographies appelées « images de formation ».

L’un des systèmes d’IA a été formé de manière plus traditionnelle avec des valeurs numériques, tandis que le réseau neuronal expérimental a été formé de manière très différente. Il a été alimenté avec un tableau de données contenant des lignes avec une photographie d’un animal ou d’un objet, et la deuxième colonne contenait un fichier audio de voix humaine, qui vocalisait le mot pour l’animal ou l’objet. Il n’y avait pas de 1 et de 0 impliqués dans le réseau expérimental.

Les deux systèmes d’IA ont été formés pendant un total de 15 heures. Les résultats ont montré que le réseau d’origine a répondu avec une série de dix 1 et 0, tandis que le réseau neuronal expérimental a produit une voix qui essayait clairement de « dire » ce que l’objet de l’image était. Alors que la voix d’origine n’était pas compréhensible, elle a finalement atteint un point où elle était principalement correcte.

Les deux réseaux ont performé de manière égale, en identifiant correctement l’animal ou l’objet 92 % du temps. Les chercheurs ont ensuite décidé de répéter l’expérience, mais cette fois avec moins de photographies.

Le réseau traditionnel a performé de manière médiocre en raison des données rares, comme on pouvait s’y attendre, en tombant à environ 35 % de précision. Cependant, le réseau expérimental a fait deux fois mieux, avec 70 % de précision, malgré avoir moins de données.

https://www.youtube.com/watch?v=Iq2YjHCAPRQ

Résultats surprenants

La prochaine fois, l’équipe a utilisé des images plus difficiles, telles qu’une image corrompue d’un chien. Même avec les images plus difficiles, le réseau neuronal formé avec la voix a été correct environ 50 % du temps, tandis que le réseau traditionnel n’a été correct que 20 % du temps.

Boyuan Chen est le chercheur principal de l’étude.

« Nos résultats vont directement à l’encontre de la façon dont de nombreux experts ont été formés pour penser aux ordinateurs et aux nombres ; c’est une hypothèse courante que les entrées binaires sont un moyen plus efficace de transmettre des informations à une machine que les flux audio d’informations de richesse similaire », a expliqué Chen. « En fait, lorsque nous avons soumis cette recherche à une grande conférence d’IA, un réviseur anonyme a rejeté notre article simplement parce qu’il pensait que nos résultats étaient trop surprenants et contre-intuitifs. »

« Si l’on pense au fait que le langage humain a subi un processus d’optimisation pendant des dizaines de milliers d’années, alors il est tout à fait logique que nos mots parlés aient trouvé un bon équilibre entre le bruit et le signal », a déclaré Lipson. « Par conséquent, lorsqu’on regarde à travers le prisme de l’entropie de Shannon, il est logique qu’un réseau neuronal formé avec le langage humain surpasse un réseau neuronal formé avec de simples 1 et 0. »

L’étude sera présentée à la Conférence internationale sur les représentations d’apprentissage le 3 mai 2021.

« Nous devrions réfléchir à l’utilisation de nouvelles et meilleures façons de former les systèmes d’IA, au lieu de collecter de plus grandes quantités de données », a déclaré Chen. « Si nous repensons à la façon dont nous présentons les données de formation à la machine, nous pourrions faire un meilleur travail en tant que professeurs. »

« L’un des plus grands mystères de l’évolution humaine est de savoir comment nos ancêtres ont acquis le langage, et comment les enfants apprennent à parler avec tant de facilité », ajoute Lipson. « Si les enfants humains apprennent mieux avec des instructions verbales répétitives, alors peut-être les systèmes d’IA peuvent-ils également. »