Charles J. Simon, Auteur, Will Computers Revolt ? – Série d’entretiens

Charles J. Simon, BSEE, MSCS, entrepreneur reconnu au niveau national, développeur et gestionnaire de logiciels. Avec une large expertise en gestion et en technique, ainsi que des diplômes en génie électrique et en sciences informatiques, M. Simon a de nombreuses années d’expérience dans l’industrie informatique, notamment dans les domaines de l’intelligence artificielle et de la conception assistée par ordinateur (deux générations de CAD).

Il est également l’auteur de « Will Computers Revolt », qui offre une vision approfondie de la possibilité future d’une intelligence artificielle générale (AGI).

Qu’est-ce qui vous a initialement attiré vers l’IA, et plus spécifiquement vers l’AGI ?

J’ai été fasciné par la question « Les machines peuvent-elles penser ? » depuis que j’ai lu pour la première fois le papier fondateur d’Alan Turing en 1950, qui commence par cette question. Jusqu’à présent, la réponse est clairement « Non », mais il n’y a pas de raison scientifique pour que ce ne soit pas le cas. J’ai rejoint la communauté de l’IA lors du boom initial des réseaux de neurones à la fin des années 80, et depuis, l’IA a fait de grands progrès. Mais les trente années qui ont suivi n’ont pas apporté de compréhension à nos machines, une capacité qui permettrait à de nombreuses applications de passer à des niveaux de fonctionnalité plus élevés.

Vous avez déclaré que vous partagez l’opinion de l’expert en IA du MIT, Rodney Brooks, qui dit que « sans interaction avec un environnement – sans un corps robotique, si vous voulez – les machines ne seront jamais capables d’exhiber une AGI ». Cela signifie essentiellement que, sans suffisamment d’entrées provenant d’un corps robotique, l’IA ne développera jamais de capacités AGI. En dehors de la vision par ordinateur, quels types d’entrées sont nécessaires pour développer une AGI ?

L’IA d’aujourd’hui a besoin d’être complétée par des concepts de base tels que l’existence physique des objets dans la réalité, le passage du temps, la cause et l’effet – des concepts clairs pour tout enfant de trois ans. Un enfant de trois ans utilise plusieurs sens pour apprendre ces concepts en touchant et en manipulant des jouets, en se déplaçant dans la maison, en apprenant le langage, etc. Même si il est possible de créer une AGI avec des sens plus limités, comme il y a des personnes sourdes et aveugles qui sont parfaitement intelligentes, mais plus de sens et de capacités à interagir rendent plus facile la résolution du problème de l’AGI.

Dans mon simulateur, il est possible de fournir des sens de l’odorat et du goût. Il reste à voir si ceux-ci s’avéreront également importants pour l’AGI.

Vous avez déclaré que « Une exigence clé pour l’intelligence est un environnement qui est extérieur à l’intelligence ». L’exemple que vous avez donné est que « il est irrationnel de s’attendre à ce que le Watson d’IBM « comprenne » quoi que ce soit s’il n’a pas d’idée sous-jacente de ce qu’est un « objet » ». Cela joue clairement sur les limitations actuelles de l’IA étroite, en particulier le traitement du langage naturel. Comment les développeurs d’IA peuvent-ils surmonter cette limitation actuelle de l’IA ?

Un facteur clé est de stocker des connaissances qui ne sont pas spécifiquement verbales, visuelles ou tactiles, mais sous forme de « choses » abstraites qui peuvent avoir des attributs verbaux, visuels et tactiles. Considérez quelque chose d’aussi simple que la phrase « une balle rouge ». Vous savez ce que ces mots signifient parce que de vos expériences visuelles et tactiles. Vous savez également le sens d’actions liées comme lancer, faire rebondir, kicker, etc. qui viennent tous à l’esprit à un certain degré lorsque vous entendez la phrase. Tout système d’IA qui est spécifiquement basé sur des mots ou des images manquera les autres niveaux de compréhension.

J’ai mis en œuvre un système de stockage de connaissances universelles qui stocke tout type d’informations dans une structure similaire au cerveau, où les « choses » sont analogues à des neurones et ont de nombreuses références d’attributs à d’autres « choses » – des références analogues à des synapses. Ainsi, « rouge » et « balle » sont des « choses » individuelles, et une « balle rouge » est une « chose » qui a des références d’attributs à la « chose » « rouge » et à la « chose » « balle ». Les deux « rouge » et « balle » ont des références aux « choses » correspondantes pour les mots « rouge » et « balle », chacun ayant des références à d’autres « choses » qui définissent comment les mots sont entendus, parlés, lus ou épellés, ainsi que des actions possibles.

Vous avez conclu que la simulation du cerveau pour l’intelligence générale est encore loin, tandis que l’AGI peut être (relativement) juste à l’horizon. Devrions-nous abandonner les tentatives pour émuler ou simuler le cerveau humain et nous concentrer uniquement sur l’AGI ?

Les technologies d’apprentissage profond et les technologies connexes sont excellentes pour les applications appropriées, mais ne mèneront pas spontanément à la compréhension. Pour faire les prochains pas, nous devons ajouter des techniques spécifiquement ciblées sur la résolution des problèmes qui sont à la portée de tout enfant de trois ans.

Prendre avantage des capacités intrinsèques de nos ordinateurs peut être des ordres de grandeur plus efficace que l’équivalent biologique ou toute simulation de celui-ci. Par exemple, votre cerveau peut stocker des informations dans la chimie des synapses biologiques sur plusieurs itérations nécessitant 10-100 millisecondes. Un ordinateur peut simplement stocker la nouvelle valeur de synapse dans un seul cycle de mémoire, un milliard de fois plus vite.

Dans le développement de logiciels d’AGI, j’ai fait à la fois la simulation de neurones biologiques et des algorithmes plus efficaces. En poursuivant avec le système de stockage de connaissances universelles, lorsqu’il est simulé dans des neurones biologiques simulés, chaque « chose » nécessite un minimum de 10 neurones et généralement beaucoup plus. Cela place la capacité du cerveau humain entre dix et cent millions de « choses ». Mais peut-être qu’un AGI apparaîtra intelligent s’il comprend seulement un million de « choses » – bien dans les limites des ordinateurs de bureau haut de gamme d’aujourd’hui.

Un facteur inconnu est de savoir combien de temps le robot devrait allouer au traitement et à la réaction au monde versus le temps passé à imaginer et à planifier. Pouvez-vous expliquer brièvement l’importance de l’imagination pour un AGI ?

Nous pouvons imaginer de nombreuses choses, puis n’agir que sur celles que nous aimons, celles qui favorisent nos objectifs internes, si vous voulez. Le véritable pouvoir de l’imagination est d’être capable de prédire l’avenir – un enfant de trois ans peut déterminer quelles séquences de mouvement le mèneront à un objectif dans une autre pièce, et un adulte peut spéculer sur quels mots auront le plus d’impact sur les autres.

Un AGI bénéficiera également de l’imagination en allant au-delà de la réactivité pour spéculer sur des actions complexes et choisir la meilleure.

Vous croyez que les trois lois de la robotique d’Asimov sont trop simples et ambiguës. Dans votre livre, vous avez partagé certaines idées pour des lois recommandées à programmer dans les robots. Quelles lois pensez-vous être les plus importantes pour un robot à suivre ?

De nouvelles « lois de la robotique » évolueront au fil des ans à mesure que l’AGI émerge. Je propose quelques débuts :

1. Maximiser les connaissances et la compréhension internes de l’environnement.
2. Partager ces connaissances avec précision avec les autres (tant les AGI que les humains).
3. Maximiser le bien-être des AGI et des humains dans leur ensemble – et non seulement en tant qu’individu.

Vous avez des problèmes avec le test de Turing et le concept qui se cache derrière. Pouvez-vous expliquer comment vous pensez que le test de Turing est défectueux ?

Le test de Turing a bien servi pendant cinquante ans en tant que définition ad hoc de l’intelligence générale, mais à mesure que l’AGI se rapproche, nous devons affiner la définition et nous devons avoir une définition plus claire. Le test de Turing est en réalité un test de l’humanité, et non de l’intelligence. Plus longtemps qu’un ordinateur peut maintenir la déception, mieux il performe sur le test. Évidemment, poser la question « Êtes-vous un ordinateur ? » et des questions proxy liées telles que « Quel est votre aliment préféré ? » sont des révélations flagrantes, à moins que l’AGI ne soit programmé pour tromper – un objectif douteux au mieux.

De plus, le test de Turing a motivé le développement de l’IA dans des domaines de valeur limitée, comme les chatbots avec une grande flexibilité dans les réponses, mais sans compréhension sous-jacente.

Que feriez-vous différemment dans votre version du test de Turing ?

De meilleures questions pourraient sonder spécifiquement la compréhension du temps, de l’espace, de la cause et de l’effet, de la prévision, etc. plutôt que des questions aléatoires sans base particulière en psychologie, en neurosciences ou en IA. Voici quelques exemples :

1. Qu’est-ce que vous voyez en ce moment ? Si vous reculiez de trois pieds, quels seraient les différences que vous verriez ?
2. Si je [action], quelle serait votre réaction ?
3. Si vous [action], quelle serait ma réaction probable ?
4. Pouvez-vous nommer trois choses qui sont comme [objet] ?

Ensuite, plutôt que d’évaluer les réponses en fonction de leur indiscernabilité des réponses humaines, elles devraient être évaluées en fonction de leur caractère raisonnable (intelligent) sur la base de l’expérience de l’entité testée.

Vous avez déclaré que, face à des exigences de réaliser une activité destructive à court terme, les AGI correctement programmés refuseront simplement. Comment pouvons-nous nous assurer que l’AGI est correctement programmé dès le départ ?

La prise de décision est basée sur les objectifs. En combinaison avec l’imagination, vous (ou un AGI) considérez les résultats de différentes actions possibles et choisissez celle qui atteint le mieux les objectifs. Chez les humains, nos objectifs sont définis par les instincts évolués et notre expérience ; les objectifs d’un AGI sont entièrement définis par les développeurs. Nous devons nous assurer que les objectifs d’un AGI sont alignés sur les objectifs de l’humanité, et non sur les objectifs personnels d’un individu. [Trois objectifs possibles sont énumérés ci-dessus.]

Vous avez déclaré qu’il est inévitable que les humains créent un AGI, quelle est votre meilleure estimation pour un calendrier ?

Des aspects de l’AGI commenceront à émerger dans la décennie à venir, mais nous ne serons pas tous d’accord pour dire que l’AGI est arrivée. Finalement, nous serons d’accord pour dire que l’AGI est arrivée lorsqu’ils dépasseront la plupart des capacités humaines d’une marge substantielle. Cela prendra deux ou trois décennies de plus.

Pour tous les discours sur l’AGI, sera-t-elle une conscience réelle telle que nous la connaissons ?

La conscience se manifeste par un ensemble de comportements (que nous pouvons observer) basés sur une sensation interne (que nous ne pouvons pas observer). Les AGI manifesteront les comportements ; ils doivent le faire pour prendre des décisions intelligentes. Mais je soutiens que notre sensation interne dépend fortement de notre matériel sensoriel et de nos instincts, et que je peux garantir que les sensations internes qu’un AGI pourrait avoir seront différentes de celles d’un humain.

La même chose peut être dite de nos émotions et de notre sens du libre arbitre. Dans la prise de décision, la croyance en son libre arbitre imprègne chaque décision que nous prenons. Si vous ne croyez pas avoir le choix, vous réagissez simplement. Pour qu’un AGI prenne des décisions réfléchies, il devra également être conscient de sa capacité à prendre des décisions.

Dernière question, pensez-vous qu’un AGI a plus de potentiel pour le bien ou pour le mal ?

Je suis optimiste que les AGI nous aideront à progresser en tant qu’espèce et nous apporteront des réponses à de nombreuses questions sur l’univers. La clé sera pour nous de nous préparer et de décider quelle sera notre relation avec les AGI lors de la définition de leurs objectifs. Si nous décidons d’utiliser les premiers AGI comme outils de conquête et d’enrichissement, nous ne devrions pas être surpris si, plus tard, ils deviennent leurs propres outils de conquête et d’enrichissement contre nous. Si nous choisissons que les AGI sont des outils de connaissance, d’exploration et de paix, alors c’est ce que nous obtiendrons probablement en retour. Le choix est entre nos mains.

Je vous remercie pour cette fantastique interview qui explore le potentiel futur de la construction d’un AGI. Pour les lecteurs qui souhaitent en savoir plus, ils peuvent lire « Will Computers Revolt » ou visiter le site Web de Charle’s à l’adresse futureai.guru.