Ronald T. Kneusel, auteur de « Comment fonctionne l'IA : de la sorcellerie à la science » – Série d'entretiens

Nous avons récemment reçu un exemplaire avancé du livre « How AI Work : From Sorcery to Science » de Ronald T. Kneusel. J'ai jusqu'à présent lu plus de 60 livres sur l'IA, et même si certains d'entre eux deviennent répétitifs, ce livre a réussi à offrir une nouvelle perspective. J'ai suffisamment apprécié ce livre pour l'ajouter à ma liste personnelle des Meilleurs livres d'apprentissage automatique et d'IA de tous les temps.

« Comment fonctionne l'IA : de la sorcellerie à la science » est un livre succinct et clair conçu pour définir les principes fondamentaux de l'IA. machine learning. Vous trouverez ci-dessous quelques questions qui ont été posées à l'auteur Ronald T. Kneusel.

Il s'agit de votre troisième livre sur l'IA, les deux premiers étant : « Apprentissage profond pratique : une introduction à base de Python » et « Mathématiques pour l'apprentissage profond : ce que vous devez savoir pour comprendre les réseaux de neurones ». Quelle était votre intention initiale lorsque vous avez décidé d’écrire ce livre ?

Public cible différent. Mes livres précédents sont destinés à servir d’introduction aux personnes souhaitant devenir des praticiens de l’IA. Ce livre s'adresse aux lecteurs généraux, aux personnes qui entendent beaucoup parler de l'IA dans l'actualité mais qui n'ont aucune expérience en la matière. Je veux montrer aux lecteurs d’où vient l’IA, qu’elle n’est pas magique et que tout le monde peut comprendre ce qu’elle fait.

Alors que de nombreux livres sur l'IA ont tendance à généraliser, vous avez adopté l'approche opposée en étant très précis dans l'enseignement de la signification de diverses terminologies, et même en expliquant la relation entre l'IA, l'apprentissage automatique et l'apprentissage profond. Pourquoi pensez-vous qu’il y a tant de confusion sociétale entre ces termes ?

Pour comprendre l'histoire de l'IA et pourquoi elle est présente partout où nous regardons maintenant, nous devons comprendre la distinction entre les termes, mais dans l'usage courant, il est juste d'utiliser « IA », sachant qu'il fait principalement référence aux systèmes d'IA qui transforment le monde. donc très rapidement. Les systèmes d’IA modernes sont issus de l’apprentissage profond, issu de l’apprentissage automatique et de l’approche connexionniste de l’IA.

Le deuxième chapitre plonge en profondeur dans l'histoire de l'IA, du mythe de Talos, un robot géant destiné à garder une princesse phéonéenne, à l'article d'Alan Turing des années 1950, « Computing Machinery and Intelligence », jusqu'à l'avènement de la révolution du Deep Learning en 2012. Pourquoi la compréhension de l’histoire de l’IA et de l’apprentissage automatique est-elle essentielle pour bien comprendre jusqu’où l’IA a évolué ?

Mon intention de montrer que l’IA n’est pas tombée du ciel. Il a une histoire, une origine et une évolution. Si les capacités émergentes des grands modèles linguistiques sont une surprise, le chemin qui y mène ne l’est pas. C'est l'une des décennies de réflexion, de recherche et d'expérimentation.

Vous avez consacré un chapitre entier à la compréhension des systèmes d'IA existants tels que les machines à vecteurs de support, les arbres de décision et les forêts aléatoires. Pourquoi pensez-vous qu’il est si important de bien comprendre ces modèles classiques d’IA ?

L'IA en tant que réseaux de neurones n'est que (!) une approche alternative au même type de modélisation basée sur l'optimisation que l'on trouve dans de nombreux modèles d'apprentissage automatique antérieurs. C'est une vision différente de ce que signifie développer un modèle d'un processus, d'une fonction qui mappe les entrées aux sorties. Connaître les types de modèles antérieurs permet de déterminer d’où proviennent les modèles actuels.

Vous déclarez votre conviction que le modèle LLM de ChatGPT d'OpenAI est l'aube de la véritable IA. Selon vous, quel a été le plus grand changement entre cette méthode et les précédentes méthodes de lutte contre l’IA ?

J'ai récemment visionné une vidéo de la fin des années 1980 dans laquelle Richard Feynman tentait de répondre à une question sur les machines intelligentes. Il a déclaré qu'il ne savait pas quel genre de programme pourrait agir intelligemment. Dans un sens, il parlait d’IA symbolique, où le mystère de l’intelligence réside dans la découverte de la séquence magique d’opérations logiques, etc., qui permettent un comportement intelligent. Je me posais la même question, comme beaucoup, : comment programmer l’intelligence ?

Ma conviction est que vous ne pouvez vraiment pas. L'intelligence émerge plutôt de systèmes suffisamment complexes, capables de mettre en œuvre ce que nous appelons l'intelligence (c'est-à-dire nous). Nos cerveaux sont constitués de réseaux extrêmement complexes d’unités de base. C'est aussi ce qu'est un réseau neuronal. Je pense que l'architecture du transformateur, telle qu'elle est mise en œuvre dans les LLM, est tombée par hasard sur un agencement similaire d'unités de base qui peuvent fonctionner ensemble pour permettre l'émergence d'un comportement intelligent.

D'un côté, c'est l'ultime « heureux accident » de Bob Ross, tandis que de l'autre, cela ne devrait pas être trop surprenant une fois que l'arrangement et les interactions autorisées entre les unités de base capables de permettre un comportement intelligent émergent se sont produits. Il semble désormais clair que les modèles à transformateur constituent l’un de ces arrangements. Bien sûr, cela soulève la question : quels autres arrangements de ce type pourrait-il exister ?

Votre message à retenir est que l'IA moderne (LLMS) est au cœur, simplement un réseau neuronal entraîné par rétropropagation et descente de gradient. Êtes-vous personnellement surpris de l’efficacité des LLM ?

Oui et non. Je suis continuellement étonné par leurs réponses et leurs capacités lorsque je les utilise, mais en revenant à la question précédente, l'intelligence émergente est réelle, alors pourquoi n'émergerait-elle pas dans un modèle suffisamment grand avec une architecture adaptée ? Je pense que des chercheurs aussi anciens que Frank Rosenblatt, voire plus tôt, pensaient probablement à peu près la même chose.

L'énoncé de mission d'OpenAI est de « garantir que l'intelligence artificielle générale (les systèmes d'IA qui sont généralement plus intelligents que les humains) profite à l'ensemble de l'humanité ». Croyez-vous personnellement que l’AGI est réalisable ?

Je ne sais pas plus ce que signifie AGI que ce que signifie conscience, il est donc difficile de répondre. Comme je le dis dans le livre, il pourrait bien arriver un moment, très bientôt, où il sera inutile de se soucier de telles distinctions – s'il marche comme un canard et cancane comme un canard, appelez-le simplement un canard et continuez.

Réponses effrontées mises à part, il est tout à fait possible qu’un système d’IA puisse, un jour, satisfaire de nombreuses théories de la conscience. Voulons-nous des systèmes d’IA pleinement conscients (quoi que cela signifie réellement) ? Peut-être pas. S'il est conscient, alors il est comme nous et, par conséquent, une personne avec des droits – et je ne pense pas que le monde soit prêt pour des personnes artificielles. Nous avons suffisamment de mal à respecter les droits de nos semblables, sans parler de ceux de tout autre être.

Y a-t-il quelque chose que vous avez appris lors de l’écriture de ce livre qui vous a surpris ?

Au-delà du même niveau de surprise, tout le monde ressent les capacités émergentes des LLM, pas vraiment. J'ai découvert l'IA lorsque j'étais étudiant dans les années 1980. J'ai commencé à travailler avec l'apprentissage automatique au début des années 2000 et j'ai été impliqué dans l'apprentissage profond dès son apparition au début des années 2010. J'ai été témoin direct des développements de la dernière décennie, comme des milliers d'autres, alors que le domaine s'est considérablement développé de conférence en conférence.

Merci pour cette excellente interview, les lecteurs voudront peut-être aussi jeter un œil à mon critique de ce livre. Le livre est disponible chez tous les grands détaillants, y compris Amazon.