Charles Simon, auteur de Brain Simulator II – Série d’entretiens

Charles Simon est l’auteur de Brain Simulator II, un livre compagnon du Brain Simulator II, un projet de logiciel gratuit et open source visant à créer un système d’intelligence artificielle générale (AGI) de bout en bout

Le logiciel Brain Simulator original a été publié en 1988, une énormité de temps dans le monde du logiciel. Quelle est l’amélioration du Brain Simulator II par rapport à son prédécesseur ?

Aujourd’hui, le système est plus d’un million de fois plus rapide. L’original était écrit en FORTRAN, fonctionnait sur un clone d’IBM AT, prenait en charge un tableau de 1 200 neurones fixes et calculait environ deux cycles par seconde. Le programme d’aujourd’hui peut fonctionner sur un réseau et traiter 2,5 milliards de synapses par seconde sur un processeur de bureau puissant.

Ce livre concerne le Brain Simulator II, un projet de logiciel open source visant à créer une intelligence artificielle de bout en bout, quel type d’expérience de codage est nécessaire pour exécuter ce logiciel ?

Aucune expérience nécessaire. Si vous n’êtes pas un programmeur, vous pouvez passer du temps avec le Brain Simulator et en tirer une compréhension des capacités et des limites des neurones, un peu sur la représentation des connaissances et même construire vos propres réseaux limités. Si vous êtes un programmeur, vous suivrez les explications techniques plus approfondies et construirez vos propres modules pour étendre le système à des stratégies AGI plus avancées.

Pourquoi est-il important de revenir aux racines biologiques de l’IA pour atteindre l’AGI ?

Dans les années 80, on pensait que si on pouvait simplement construire un réseau de neurones suffisamment grand, il deviendrait spontanément intelligent. Au fil des quarante dernières années, ce scénario est devenu de plus en plus invraisemblable. Donc, si les approches classiques de l’IA n’ont pas fonctionné pour l’AGI, regardons quelques approches différentes, et le seul modèle AGI fonctionnel que nous avons est le cerveau humain.

En même temps, il n’y a pas de raison de s’attacher de manière esclave à la plausibilité biologique. Par exemple, nous savons que notre cerveau peut estimer les distances aux objets en fonction de légères différences dans les images reçues par nos deux yeux, le principe des films 3D. Nous ne savons pas comment cela fonctionne dans le cerveau, donc à la place, j’ai programmé cette fonctionnalité dans un module qui estime les distances en utilisant quelques lignes de trigonométrie. Nous pouvons être assez sûrs que votre cerveau ne fonctionne pas de cette façon, mais l’approche trigonométrique est probablement plus rapide et plus précise.

Vous déclarez dans le livre qu’un AGI nécessite la robotique, pourquoi est-ce si important ?

Considérez essayer d’expliquer la couleur à une personne aveugle ou la musique à une personne sourde. Si un AGI prospectif n’est qu’un programme sur un ordinateur, comment peut-il acquérir une compréhension de base des choses que tout enfant de trois ans sait ? L’enfant a un point de vue et est entouré de réalité. L’enfant sait que les objets existent dans cette réalité et que beaucoup d’entre eux peuvent être manipulés. En jouant avec des blocs, un enfant peut apprendre sur la forme, la taille, la solidité, la gravité, l’occlusion visuelle, la distance, etc. Avec un mouvement autonome, une vision et des manipulateurs, un AGI peut apprendre sur la réalité à un niveau plus fondamental que tout programme qui repose uniquement sur des montagnes de données textuelles et d’images.

Après qu’un AGI robotique ait acquis une compréhension fondamentale des objets de la réalité, cette connaissance peut être clonée dans des machines de réflexion non robotiques et la compréhension persistera. Tout comme quelqu’un qui perd ses sens de la vue ou de l’ouïe peut comprendre les choses d’une manière différente de celle d’une personne qui n’a jamais eu ces sens.

L’un des aspects importants du Brain Simulator II est qu’il n’utilise pas de rétropropagation, quelle est la raison pour laquelle vous n’avez pas adopté cette méthodologie ?

Votre cerveau fonctionne sans rétropropagation, donc l’AGI doit être possible sans elle. En fait, la rétropropagation est fondamentalement incompatible avec un modèle biologique car elle repose sur la capacité de détecter et de modifier les poids des synapses avec une précision considérable. Après un certain temps avec le Brain Simulator, vous conclurez que définir les poids des synapses avec un certain degré de précision est très difficile et détecter avec précision quels sont ces poids des synapses est impossible. Le problème fondamental est que les neurones qui se déclenchent modifient les poids des synapses, mais il n’y a pas de moyen de détecter un poids de synapse sans déclencher les neurones, donc un poids de synapse ne peut pas être détecté sans être modifié.

La rétropropagation n’a pas d’équivalent biologique et je la considère comme une méthode statistique extrêmement puissante. Beaucoup de gens travaillent avec elle, certains avec d’excellents résultats. Mon point est d’essayer des approches différentes. En utilisant des neurones à spikes combinés avec des modules de logiciel intégrés, je regarde les problèmes de l’AGI sous un angle différent.

Lorsque le cerveau est sondé, il semble y avoir du désordre et de l’aléatoire, est-ce que nous devons introduire cela dans un système logiciel pour que l’AGI émerge réellement ?

Je ne le pense pas. Lorsque vous regardez les neurones et les synapses individuels, leur fonction est quite déterministe, tout comme le transistor. Dans le cerveau, les choses semblent aléatoires parce que les niveaux de bruit sont assez élevés et les composants d’information ne sont pas dans un ordre apparent. Mais considérez votre vision, vous pouvez lire du texte avec clarté et il n’y a pas de désordre ou d’aléatoire dans le processus de lecture. Donc, nous concluons que, au moins, votre cortex visuel est raisonnablement fiable et reproductible. Pourtant, lorsqu’il est sondé, il semble tout aussi désorganisé que le reste du cerveau. Donc, le reste du cerveau est probablement aussi fiable et reproductible que le cortex visuel, nous ne voyons simplement pas l’organisation et l’ordre encore. C’est un peu comme lire le chinois, pour moi, ce sont des marques aléatoires et désorganisées, mais pour quelqu’un qui peut lire la langue, il y a une organisation absolue. Nous ne pouvons simplement pas lire le langage interne du cerveau encore.

Vous introduisez un concept appelé le Magasin de Connaissances Universel (MCU), pourriez-vous en discuter brièvement et expliquer pourquoi cela est important ?

En revenant à la question de la robotique, vous pouvez voir qu’un aspect de l’intelligence générale est la capacité d’intégrer les connaissances provenant de divers sens. Vous savez sur un bloc parce que vous pouvez le voir, le toucher et entendre des mots à son sujet. Tout cela représente des informations sur un bloc. Donc, pour qu’un AGI ait des capacités similaires, il doit avoir un mécanisme de stockage général qui puisse gérer une grande variété d’informations disparates et créer des relations utiles entre les divers éléments. Le MCU est un graphique de connaissances d’une manière très générale afin qu’il puisse gérer n’importe quel type d’information et n’importe quels types de relations.

Le MCU peut stocker les informations spatiales nécessaires pour l’application du labyrinthe ainsi que l’arbre de décision et de résultat utilisé pour parcourir le labyrinthe pour atteindre un objectif. La même structure est utilisée pour associer des mots à des couleurs. Ce type de généralité est fondamental pour l’AGI.

Quel est votre horizon temporel pour l’émergence de l’AGI ?

Il est difficile de le dire. Nous avons déjà le matériel nécessaire pour l’AGI et je vois qu’une seule avancée est tout ce qui est nécessaire, et cela peut arriver à tout moment. Laissez-moi essayer de décrire cette avancée :

Considérez que si tout ce que vous savez, c’est que le rouge est-une couleur et que le bleu est-une couleur, je peux vous demander de nommer des couleurs et vous pouvez dire rouge et bleu. La question est, comment un AGI peut-il apprendre que la relation « est-une » est quelque chose. Je pourrais programmer une telle relation facilement, mais alors mon AGI ne pourra pas apprendre de nouvelles relations lorsqu’elles sont rencontrées. Un enfant peut apprendre sur les relations de plus proche / plus loin, plus grand / plus petit, plus tôt / plus tard, avant / après, etc. Mais celles-ci reposent sur des concepts encore plus fondamentaux de taille, de distance, de temps, etc.

Comment un cerveau plein de neurones peut-il apprendre toutes ces choses vraiment fondamentales ? Cela se rattache au besoin de robotique. Comment un AGI peut-il apprendre le concept de distance s’il ne peut aller nulle part ou atteindre quoi que ce soit ? Cela se rattache également au besoin de stockage universel. Comment un AGI peut-il comprendre l’idée d’aller quelque part, ce qui combine les concepts de localisation et de temps ? Aller quelque part est relativement simple. Comprendre ce que signifie aller quelque part est beaucoup plus difficile. Je pense que ces questions vraiment fondamentales sont toutes des manifestations du même problème sous-jacent et que la solution à ce problème est l’avancée nécessaire.

Peu de gens travaillent sur cette question, en grande partie parce que c’est si difficile de présenter un projet qui, s’il est vraiment réussi, aura les capacités d’un enfant de trois ans après trois ans, et les capacités d’un enfant de dix ans après dix ans. Donc, la solution viendra probablement de petits chercheurs indépendants qui ont le temps et l’énergie pour se consacrer à des problèmes sans retour à court terme.

Y a-t-il autre chose que vous aimeriez partager sur Brain Simulator II ou sur l’AGI en général ?

Lorsque vous essayez d’utiliser des neurones et des synapses pour concevoir des circuits qui abordent ces problèmes fondamentaux, vous concluez que plutôt qu’un concept étant représenté par quelques dizaines de synapses, chacun nécessite quelques dizaines de neurones. Cela signifie que plutôt que la capacité du cerveau étant de plusieurs milliards de choses comme on le pense généralement, elle est limitée à la compréhension de dizaines ou de centaines de millions de choses. Avec cela en tête, un AGI naissant qui pourrait comprendre seulement dix millions de choses devrait au moins être capable de saisir certains de ces concepts fondamentaux. Et un système informatique représentant dix millions de choses est bien dans les limites du matériel d’aujourd’hui, peut-être même de l’ordinateur de bureau d’aujourd’hui.

La version 1.0 du Brain Simulator est vraiment son « âge de majorité ». Il a maintenant la capacité et l’interface utilisateur polie qui le rendent beaucoup plus utile pour un public de recherche plus large. C’est un projet communautaire avec une équipe de développement en constante évolution et un corps de plus en plus grand d’utilisateurs finals. Ensemble, nous allons essayer de nouvelles idées et faire des progrès sur certaines des questions fondamentales de l’intelligence et de l’AGI.

Je vous remercie pour cette grande interview, c’est toujours éclairant de discuter de l’AGI avec vous. Les lecteurs qui souhaitent en savoir plus devraient lire le livre Brain Simulator II.