Matthew Ikle, Chief Science Officer at SingularityNET – Série d’entretiens

Matthew Ikle est le directeur scientifique de SingularityNET, une entreprise fondée avec pour mission de créer une intelligence générale artificielle (AGI) décentralisée, démocratique, inclusive et bénéfique. Une « AGI » qui ne dépend pas d’une entité centrale, qui est ouverte à tous et qui n’est pas limitée aux objectifs étroits d’une seule entreprise ou même d’un seul pays.

L’équipe de SingularityNET comprend des ingénieurs, des scientifiques, des chercheurs, des entrepreneurs et des marketeurs expérimentés. Les équipes de base et d’IA sont complétées par des équipes spécialisées dans des domaines tels que la finance, la robotique, l’IA biomédicale, les médias, les arts et le divertissement.

Étant donné votre expérience et votre rôle à SingularityNET, combien êtes-vous confiant que nous allons atteindre l’AGI d’ici 2029 ou plus tôt, comme le prévoit le Dr Ben Goertzel ?

Je vais répondre à cette question de manière un peu détournée. 2029, c’est dans environ cinq ans. Il y a de nombreuses années (début/milieu des années 2010), j’étais extrêmement optimiste quant aux progrès de l’AGI. Mon optimisme à l’époque était fondé sur le niveau de réflexion détaillée et de convergence d’idées que j’ai observé dans la recherche sur l’AGI à l’époque. Même si la plupart des grandes idées de cette époque, je crois, sont toujours prometteuses, la difficulté, comme c’est souvent le cas, vient de la mise au point de ces visions à grands traits.

Avec cette réserve en tête, il y a maintenant une multitude de nouvelles informations, provenant de nombreuses disciplines – neurosciences, mathématiques, informatique, psychologie, sociologie, vous nommez – qui fournissent non seulement les mécanismes pour terminer ces détails, mais également soutiennent conceptuellement les fondements de ce travail antérieur. Je vois des modèles, et dans des domaines très divergents, qui semblent tous converger à un rythme accéléré vers des comportements analogues. De nombreuses manières, cette convergence me rappelle la période qui a précédé la sortie du premier iPhone. Pour paraphraser Greg Meredith, qui travaille sur notre infrastructure RhoLang pour le traitement concurrent sécurisé, les modèles que je vois ces jours-ci sont liés aux histoires d’origine – comment la première vie/cellule a-t-elle commencé sur terre ? Comment et quand l’esprit s’est-il formé ? Et des questions connexes concernant les transitions de phase, par exemple.

Par exemple, il y a beaucoup de nouvelles recherches expérimentales qui tendent à soutenir les idées sous-jacentes à une perspective de systèmes dynamiques complexes. Les modèles EEG des sujets humains, par exemple, affichent un comportement remarquable en alignement avec une telle dynamique de système. Ces résultats rappellent certains travaux antérieurs sur les théories de la conscience. Maintenant, il semble y avoir les débuts d’une validation expérimentale pour ces idées théoriques.

Chez SingularityNET, je réfléchis beaucoup aux structures auto-similaires qui génèrent de tels dynamismes. C’est assez différent, je dirais, de ce qui se passe dans une grande partie de la communauté DNN/LLM, même si certains chercheurs plus fondamentaux reconnaissent ces idées. Je ferais référence au document « Conscience dans l’intelligence artificielle : perspectives de la science de la conscience » publié par 19 chercheurs en août 2023, par exemple. Les chercheurs couvrent une variété de disciplines, y compris les études de la conscience, la recherche sur la sécurité de l’IA, la science du cerveau, les mathématiques, l’informatique, la psychologie, les neurosciences et la recherche sur l’esprit et la cognition. Ce que ces chercheurs ont en commun est plus important qu’une simple quête d’amélioration architecturale incrémentale des DNN, mais plutôt ils se concentrent sur la compréhension scientifique des grandes idées philosophiques sous-jacentes à la cognition humaine et sur la manière de les mettre en œuvre pour créer de véritables systèmes AGI.

Quels sont les principaux obstacles technologiques ou philosophiques pour atteindre l’AGI dans cette décennie ?

Comprendre et répondre à de grandes questions philosophiques et scientifiques, notamment :

• Qu’est-ce que la vie ? Nous pourrions penser que la réponse est claire, mais les définitions biologiques se sont avérées problématiques. Les virus sont-ils « vivants », par exemple.
• Qu’est-ce que l’esprit ?
• Qu’est-ce que l’intelligence ?
• Comment la vie est-elle émergeante à partir de quelques produits chimiques de base dans des conditions environnementales spécifiques ? Comment pourrions-nous reproduire cela ?
• Comment le premier « esprit » est-il apparu ? Quels ingrédients et conditions ont permis cela ?
• Comment mettons-nous en œuvre ce que nous apprenons en étudiant les cinq questions ci-dessus ?
• Notre technologie actuelle est-elle à la hauteur de la tâche pour mettre en œuvre nos solutions ? Si ce n’est pas le cas, qu’est-ce que nous devons inventer et développer ?
• Combien de temps et de personnel avons-nous besoin pour mettre en œuvre nos solutions ?

SingularityNET considère l’IA neuro-symbolique comme une solution prometteuse pour surmonter les limitations actuelles de l’IA générative. Pouvez-vous expliquer ce qu’est l’IA neuro-symbolique et comment SingularityNET prévoit d’utiliser cette approche pour accélérer le développement de l’AGI ?

Historiquement, il y a eu deux principaux groupes de chercheurs en AGI, ainsi qu’un troisième groupe qui combine les idées des deux autres. Il y a eu des chercheurs qui croient uniquement en une approche sous-symbolique. Ces jours-ci, cela signifie principalement utiliser des réseaux de neurones profonds (DNN) tels que les modèles Transformer, y compris les modèles de langage actuels (LLM). En raison de l’utilisation de réseaux de neurones artificiels, les approches sous-symboliques sont également appelées méthodes neuronales. Dans les systèmes sous-symboliques, le traitement est exécuté sur des nœuds (neurones) et des liens (synapses) identiques et non étiquetés. Les partisans du symbolisme utilisent une logique de niveau supérieur et un raisonnement symbolique, dans lequel les nœuds et les liens sont étiquetés avec une signification conceptuelle et sémantique. SingularityNET suit une troisième approche qui serait la plus précisément décrite comme un hybride neuro-symbolique, en exploitant les forces des méthodes symboliques et sous-symboliques.

Cependant, il s’agit d’un type spécifique d’hybride largement basé sur la philosophie patterniste de l’esprit de Ben Goertzel et détaillé, entre autres documents, dans son « Théorie générale de l’intelligence générale : une perspective patterniste pragmatique ».

Alors que beaucoup de recherches actuelles sur les DNN et les LLM sont basées sur des modèles neuronaux simplistes et des algorithmes, l’utilisation de datasets massifs (par exemple, l’ensemble d’Internet) et les réglages corrects de milliards de paramètres dans l’espoir d’atteindre l’AGI, la stratégie PRIMUS de SingularityNET est basée sur des compréhensions fondamentales des processus dynamiques à plusieurs échelles spatio-temporelles et sur la manière de les aligner pour faire émerger les propriétés souhaitées à différentes échelles. De telles compréhensions nous permettent de procéder à guider la recherche et le développement de l’AGI de manière compréhensible pour les humains.

Quels sont les cadres que vous pensez être critiques pour garantir que le développement de l’AGI profite à l’humanité dans son ensemble ? Comment les plateformes d’IA décentralisées comme SingularityNET peuvent-elles promouvoir un processus plus équitable et transparent par rapport aux modèles d’IA centralisés ?

Toutes sortes d’idées ici :

Transparence — Même si rien n’est parfait, assurer une transparence totale du processus de prise de décision peut aider tout le monde impliqué (chercheurs, développeurs, utilisateurs et non-utilisateurs) à s’aligner, à guider, à comprendre et à mieux gérer le développement de l’AGI pour le bénéfice de l’humanité. C’est similaire au problème des préjugés que je vais aborder ci-dessous.

Décentralisation – Même si la décentralisation peut être chaotique, elle peut aider à garantir que le pouvoir est partagé plus largement. Ce n’est pas, en soi, un remède miracle, mais un outil qui, s’il est utilisé correctement, peut contribuer à créer des processus et des résultats plus équitables.

Prise de décision basée sur le consensus – La décentralisation et la prise de décision basée sur le consensus peuvent fonctionner ensemble pour poursuivre des processus et des résultats plus équitables. Encore une fois, ils ne garantissent pas toujours l’équité. Il y a également des complexités qui doivent être abordées ici en termes de réputation et de domaines d’expertise. Par exemple, comment pouvons-nous équilibrer au mieux les caractéristiques souhaitées contradictoires ? Je considère la transparence, la décentralisation et la prise de décision basée sur le consensus comme trois outils critiques qui peuvent être utilisés pour guider le développement de l’AGI pour le bénéfice de l’humanité.

L’alignement spatio-temporel des phénomènes émergents à plusieurs échelles, de l’extrêmement petit à l’extrêmement grand. Dans le développement de l’AGI, je crois qu’il est important de ne pas s’appuyer uniquement sur une approche « boîte noire » dans laquelle on espère obtenir tout correctement dès le départ. Au lieu de cela, je crois que la conception de l’AGI avec des compréhensions fondamentales à différentes étapes de développement et à plusieurs échelles peut non seulement rendre plus probable l’atteinte de l’AGI, mais plus important encore, guider un tel développement en alignement avec les valeurs humaines.

SingularityNET est une plateforme d’IA décentralisée. Comment envisagez-vous l’intersection de la technologie blockchain et de l’AGI, en particulier en ce qui concerne la sécurité, la gouvernance et le contrôle décentralisé ?

La blockchain a certainement un rôle à jouer dans le contrôle, la sécurité et la gouvernance de l’IA. L’un des plus grands atouts de la blockchain est sa capacité à favoriser la transparence. La question des préjugés est un excellent exemple de cela. Je soutiendrais que chaque personne et chaque ensemble de données sont biaisés. J’ai mes propres préjugés personnels, par exemple, en ce qui concerne ce qui est requis pour atteindre une véritable AGI sûre, bénéfique et bienveillante. Ces préjugés ont été forgés par mes études et mon passé, et ils guident mon propre travail.

En même temps, j’essaie d’être complètement ouvert aux idées qui entrent en conflit avec mes préjugés et je suis prêt à ajuster mes préjugés en fonction de nouvelles preuves. Quoi qu’il en soit, j’essaie de mon mieux d’être ouvert et transparent en ce qui concerne mes préjugés, et de conditionner mes idées et mes décisions en fonction d’une compréhension réfléchie de ces préjugés. C’est difficile, mais je crois que c’est mieux que de ne pas reconnaître ses propres préjugés. La blockchain, par sa nature, permet un meilleur suivi, une traçabilité et une vérification transparents des processus et des événements. De la même manière que je l’ai décrit précédemment, la transparence est un composant nécessaire, mais pas toujours suffisant, pour la sécurité, la gouvernance et le contrôle décentralisé.

Comment la blockchain et l’AGI coévoluent est une question intéressante. Pour que les deux technologies interagissent vers une singularité positive, il semble clair que les caractéristiques fondamentales que je souligne (transparence, décentralisation, consensus et alignement des valeurs) sont centrales et critiques et doivent être préservées à toutes les étapes de leur coévolution.

En tant que leader qui a été étroitement impliqué dans l’IA et la blockchain, quels sont les facteurs les plus importants pour favoriser la collaboration entre ces deux domaines, et comment cela peut-il conduire à l’innovation dans l’AGI ?

Je viens du côté IA/AGI de cette paire. Comme c’est souvent le cas lors de l’intégration d’idées interdisciplinaires, beaucoup repose sur des questions de langage et de communication. Tous les groupes doivent s’écouter les uns les autres pour mieux comprendre comment les technologies peuvent s’entraider. Dans mon travail chez SingularityNET, cela a été une lutte constante. Les chercheurs de haut niveau, qu’il serait un euphémisme de dire que SingularityNET en a en abondance, ont souvent des conceptions mentales claires de grandes idées. Lorsque nous travaillons à travers les frontières disciplinaires, la partie difficile est de réaliser que tout le monde n’est pas « dans votre tête ». Ce que l’on prend pour acquis ne sera pas si clairement observé par ceux d’autres domaines d’étude. Même les mots utilisés en commun peuvent être utilisés différemment à travers différents domaines d’étude. Il y a eu un cas récent dans notre travail BioAI, dans lequel des biologistes utilisaient un terme mathématique, mais pas tout à fait correctement en termes de définition mathématique. Une fois que ces types de situations sont clairement comprises, l’équipe peut avancer avec un objectif commun, de sorte que l’intégration prouve que le tout est plus grand que la somme de ses parties.

Comment voyez-vous les industries de l’IA et de la blockchain travaillant vers une plus grande diversité et inclusion, et quel rôle SingularityNET joue-t-il dans la promotion de ces valeurs ?

L’IA et la blockchain peuvent toutes deux jouer des rôles majeurs dans l’amélioration des efforts de diversification et d’inclusion. Même si je crois qu’il est impossible de supprimer tous les préjugés – de nombreux préjugés se forment simplement à travers les expériences de vie – on peut être ouvert et transparent quant à ses préjugés. C’est quelque chose que j’essaie activement de faire dans mon propre travail, qui est biaisé par mon passé universitaire, de sorte que je vois les problèmes à travers le prisme de la dynamique des systèmes complexes. Pourtant, j’essaie toujours d’être ouvert et de comprendre les idées et les analogies provenant d’autres perspectives. L’IA peut être utilisée pour aider dans ce processus d’auto-réflexion, et la blockchain peut certainement aider à la transparence. SingularityNET peut jouer un rôle énorme en hébergeant des outils pour détecter, mesurer et supprimer, autant que possible, les préjugés dans les ensembles de données.

Comment le travail de SingularityNET dans les écosystèmes d’IA décentralisés contribue-t-il à résoudre les défis mondiaux tels que la durabilité, l’éducation et la création d’emplois, en particulier dans des régions comme l’Afrique, où vous avez un intérêt particulier ?

 Durabilité:

• Appliquer l’IA et les modèles de système pour résoudre des problèmes d’écosystème complexes à grande échelle.
• Surveiller de telles solutions à grande échelle.
• Utiliser la blockchain pour suivre, tracer et vérifier de telles solutions.
• En utilisant une combinaison d’IA, de modèles d’écosystème, de données hyper-locales et de blockchain, nous avons imaginé des solutions complètes pour l’exploitation minière artisanale en Afrique et la séquestration du carbone agricole à grande échelle.

Éducation:

En tant qu’ancien professeur titulaire de mathématiques et d’informatique, l’éducation est extrêmement importante pour moi, en particulier car elle offre des opportunités aux populations d’étudiants défavorisées. Il est important de:

• Améliorer l’accessibilité en développant des cours hybrides pour atteindre les étudiants qui peuvent faire face à des contraintes géographiques, financières ou de temps.
• Promouvoir la diversité et l’inclusion en augmentant la participation des populations défavorisées dans l’IA, la blockchain et d’autres technologies avancées.
• Favoriser les connaissances interdisciplinaires en créant des cours qui relient les domaines universitaires et professionnels.
• Soutenir la progression de carrière en fournissant des compétences et des certifications qui sont directement applicables au marché du travail.

Je considère l’AGI et la blockchain, ainsi que leurs synergies, comme jouant des rôles critiques pour répondre aux objectifs ci-dessus dans le cadre de programmes d’apprentissage basés sur des projets pratiques, allant de l’apprentissage à la maîtrise.

Création d’emplois:

En favorisant les quatre objectifs éducatifs ci-dessus, il me semble que l’AGI, la blockchain et d’autres technologies avancées, couplées à des collaborations positives entre enseignants et apprenants, pourraient encourager et faire émerger de nouvelles technologies et entreprises.

En tant que personne engagée à atteindre une singularité positive, quels sont les jalons ou les avancées spécifiques dans la technologie de l’IA que vous pensez être nécessaires pour garantir que l’AGI se développe d’une manière bénéfique pour la société ?

• Capacité à aligner les phénomènes émergents de manière interprétable par les humains à plusieurs échelles spatio-temporelles.
• Capacité à comprendre à un niveau plus profond les concepts sous-jacents aux « transitions de phase spontanées ».
• Capacité à surmonter plusieurs problèmes difficiles à un détail fin pour permettre un véritable traitement multi-processeur par superposition d’états.
• Transparence à toutes les étapes.
• Prise de décision décentralisée basée sur la construction de consensus.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter SingularityNET.