Ronald T. Kneusel, auteur de “How AI Works : From Sorcery to Science” – Série d’entretiens

Nous avons récemment reçu un exemplaire avancé du livre “How AI Work : From Sorcery to Science” de Ronald T. Kneusel. J’ai lu plus de 60 livres sur l’IA, et même si certains d’entre eux peuvent être répétitifs, ce livre a réussi à offrir une perspective fraîche, j’ai apprécié ce livre suffisamment pour l’ajouter à ma liste personnelle des meilleurs livres sur l’apprentissage automatique et l’IA de tous les temps.

“How AI Works : From Sorcery to Science” est un livre concis et clair conçu pour définir les fondamentaux de l’apprentissage automatique. Voici quelques questions qui ont été posées à l’auteur Ronald T. Kneusel.

C’est votre troisième livre sur l’IA, les deux premiers étant : “Practical Deep Learning : A Python-Base Introduction,” et “Math for Deep Learning : What You Need to Know to Understand Neural Networks”. Quelle était votre intention initiale lorsque vous avez décidé d’écrire ce livre ?

Public cible différent. Mes livres précédents sont destinés aux personnes qui souhaitent devenir des praticiens de l’IA. Ce livre est pour les lecteurs généraux, les personnes qui entendent beaucoup parler de l’IA dans les actualités mais n’ont pas de connaissances en la matière. Je veux montrer aux lecteurs d’où vient l’IA, qu’elle n’est pas de la magie et que tout le monde peut comprendre ce qu’elle fait.

Alors que de nombreux livres sur l’IA ont tendance à généraliser, vous avez pris l’approche inverse en étant très spécifique dans l’enseignement du sens de divers termes, et en expliquant même la relation entre l’IA, l’apprentissage automatique et l’apprentissage profond. Pourquoi pensez-vous qu’il y a tant de confusion sociétale entre ces termes ?

Pour comprendre l’histoire de l’IA et pourquoi elle est partout où nous regardons maintenant, nous devons comprendre la distinction entre les termes, mais dans l’utilisation populaire, il est juste d’utiliser “IA” en sachant qu’il fait principalement référence aux systèmes d’IA qui transforment le monde de manière très rapide. Les systèmes d’IA modernes sont issus de l’apprentissage profond, qui est issu de l’apprentissage automatique et de l’approche connexionniste de l’IA.

Le deuxième chapitre plonge dans l’histoire de l’IA, depuis le mythe de Talos, un robot géant destiné à garder une princesse phénicienne, jusqu’au papier d’Alan Turing des années 1950, “Computing Machinery and Intelligence”, et jusqu’à l’avènement de la révolution de l’apprentissage profond en 2012. Pourquoi une compréhension de l’histoire de l’IA et de l’apprentissage automatique est-elle essentielle pour comprendre à quel point l’IA a évolué ?

Mon intention est de montrer que l’IA n’est pas tombée du ciel. Elle a une histoire, une origine et une évolution. Alors que les capacités émergentes des grands modèles de langage sont une surprise, le chemin qui y mène ne l’est pas. Il s’agit de décennies de réflexion, de recherche et d’expérimentation.

Vous avez consacré un chapitre entier à la compréhension des systèmes d’IA hérités tels que les machines à vecteurs de support, les arbres de décision et les forêts aléatoires. Pourquoi pensez-vous qu’une compréhension complète de ces modèles d’IA classiques est si importante ?

L’IA en tant que réseaux de neurones n’est qu’une approche alternative du même type de modélisation basée sur l’optimisation trouvée dans de nombreux modèles d’apprentissage automatique antérieurs. C’est une approche différente de ce que signifie développer un modèle d’un processus, d’une fonction qui mappe les entrées aux sorties. Connaître les modèles précédents aide à comprendre d’où viennent les modèles actuels.

Vous affirmez que le modèle LLM de ChatGPT d’OpenAI est l’aube d’une véritable IA. Qu’est-ce qui, selon vous, a été le plus grand changement entre cette méthode et les méthodes précédentes pour aborder l’IA ?

J’ai récemment visionné une vidéo des années 80 de Richard Feynman essayant de répondre à une question sur les machines intelligentes. Il a déclaré qu’il ne savait pas quel type de programme pourrait se comporter de manière intelligente. D’une certaine manière, il parlait de l’IA symbolique, où le mystère de l’intelligence est de trouver la séquence logique magique, etc., qui permet un comportement intelligent. Je me demandais, comme beaucoup, la même chose – comment programmer l’intelligence ?

Je pense que vous ne pouvez vraiment pas. Plutôt, l’intelligence émerge de systèmes suffisamment complexes capables de mettre en œuvre ce que nous appelons l’intelligence (c’est-à-dire nous). Nos cerveaux sont des réseaux complexes d’unités de base. C’est également ce qu’est un réseau de neurones. Je pense que l’architecture de transformateur, telle que mise en œuvre dans les LLM, a accidentellement découvert un arrangement similaire d’unités de base qui peuvent fonctionner ensemble pour permettre à l’intelligence émergente de se manifester.

En un sens, c’est l’ultime “happy accident” de Bob Ross, tandis que dans l’autre, cela ne devrait pas être trop surprenant une fois que l’arrangement et les interactions autorisées entre les unités de base capables de permettre un comportement intelligent émergent ont eu lieu. Il semble clair maintenant que les modèles de transformateur sont un tel arrangement. Bien sûr, cela soulève la question : quels autres arrangements pourraient-il y avoir ?

Votre message à prendre est que les IA modernes (LLM) sont, au cœur, simplement un réseau de neurones formé par rétropropagation et descente de gradient. Êtes-vous personnellement surpris par l’efficacité des LLM ?

Oui et non. Je suis continuellement étonné par leurs réponses et leurs capacités lorsque je les utilise, mais en référence à la question précédente, l’intelligence émergente est réelle, pourquoi ne pas émerger dans un modèle suffisamment grand avec une architecture appropriée ? Je pense que les chercheurs, tels que Frank Rosenblatt, si ce n’est plus tôt, ont probablement pensé la même chose.

La déclaration de mission d’OpenAI est “de s’assurer que l’intelligence artificielle générale – les systèmes d’IA qui sont généralement plus intelligents que les humains – profite à l’humanité tout entière”. Pensez-vous personnellement que l’IA générale est réalisable ?

Je ne sais pas ce que signifie l’IA générale, pas plus que je ne sais ce que signifie la conscience, il est donc difficile de répondre. Comme je le dis dans le livre, il peut bien y avoir un moment, très prochainement, où il sera inutile de se soucier de telles distinctions – si cela ressemble à un canard et qu’il crie comme un canard, appelez-le simplement un canard et passez à autre chose.

À part les réponses facétieuses, il est tout à fait possible qu’un système d’IA puisse, un jour, satisfaire de nombreuses théories de la conscience. Voulons-nous vraiment des systèmes d’IA entièrement conscients (quelle que soit la signification réelle) ? Peut-être pas. Si c’est conscient, alors c’est comme nous et, par conséquent, une personne avec des droits – et je ne pense pas que le monde soit prêt pour des personnes artificielles. Nous avons déjà suffisamment de mal à respecter les droits de nos semblables, sans parler de ceux de tout autre type d’être.

Y a-t-il quelque chose que vous avez appris pendant la rédaction de ce livre qui vous a surpris ?

En dehors du même niveau de surprise que tout le monde ressent face aux capacités émergentes des LLM, non. J’ai appris l’IA en tant qu’étudiant dans les années 80. J’ai commencé à travailler avec l’apprentissage automatique au début des années 2000 et j’étais impliqué dans l’apprentissage profond lorsqu’il a émergé au début des années 2010. J’ai été témoin des développements de la dernière décennie de première main, ainsi que des milliers d’autres, alors que le domaine a grandi de manière spectaculaire d’une conférence à l’autre.

Je vous remercie pour cette grande interview, les lecteurs peuvent également consulter ma critique de ce livre. Le livre est disponible chez tous les grands détaillants, y compris Amazon.