Lorsqu’un parent enseigne à son jeune enfant à se rapporter au monde, il enseigne par associations et par identification de modèles. Prenez la lettre S, par exemple. Les parents montrent à leur enfant suffisamment d’exemples de la lettre et avant longtemps, ils seront capables d’identifier d’autres exemples dans des contextes où la guidance n’est pas active ; l’école, un livre, un panneau d’affichage.

Une grande partie de la technologie d’intelligence artificielle (IA) émergente a été enseignée de la même manière. Les chercheurs ont nourri le système avec des exemples corrects de quelque chose qu’ils voulaient qu’il reconnaisse, et comme un jeune enfant, l’IA a commencé à reconnaître des modèles et à extrapoler ces connaissances à des contextes qu’il n’avait jamais expérimentés auparavant, formant ainsi son propre « réseau neuronal » pour la catégorisation. Comme l’intelligence humaine, cependant, les experts ont perdu la trace des entrées qui ont informé la prise de décision de l’IA. 

Le « problème de la boîte noire » de l’IA émerge ainsi comme le fait que nous ne comprenons pas pleinement comment ou pourquoi un système d’IA établit des connexions, ni les variables qui jouent dans ses décisions. Cette question est particulièrement pertinente lorsqu’il s’agit d’améliorer la fiabilité et la sécurité des systèmes et d’établir la gouvernance de l’adoption de l’IA. 

D’un véhicule alimenté par l’IA qui ne freine pas à temps et blesse des piétons, à des dispositifs de technologie de la santé qui aident les médecins à diagnostiquer des patients et exhibent des préjugés dans les processus de dépistage de l’embauche basés sur l’IA, la complexité derrière ces systèmes a conduit à l’émergence d’un nouveau domaine d’étude : la physique de l’IA, qui vise à établir davantage l’IA comme un outil pour les humains pour atteindre une compréhension plus approfondie. 

Maintenant, un nouveau groupe d’étude indépendant abordera ces défis en fusionnant les domaines de la physique, de la psychologie, de la philosophie et des neurosciences dans une exploration interdisciplinaire des mystères de l’IA.

NTT propose la confiance et la sécurité de l’IA

Le tout nouveau Groupe de physique de l’intelligence artificielle est une spin-off du laboratoire de physique et d’informatique (PHI) de NTT Research, et a été présenté à la conférence Upgrade 2025 de NTT à San Francisco, en Californie, la semaine dernière. Il continuera à faire progresser l’approche de la physique de l’IA pour comprendre l’IA, que l’équipe a étudiée pendant les cinq dernières années. 

Le Dr Hidenori Tanaka, qui a un doctorat en physique appliquée et en ingénierie informatique de l’Université de Harvard, dirigera le nouveau groupe de recherche, en s’appuyant sur son expérience précédente dans le groupe de systèmes intelligents de NTT et dans le programme de recherche en IA de CBS-NTT sur la physique de l’intelligence à Harvard.

« En tant que physicien, je suis enthousiaste à l’idée du sujet de l’intelligence, car, mathématiquement, comment peut-on penser au concept de créativité ? Comment peut-on même penser à la gentillesse ? Ces concepts seraient restés abstraits s’il n’y avait pas eu l’IA. Il est facile de spéculer, en disant « c’est ma définition de la gentillesse », ce qui n’est pas mathématiquement significatif, mais maintenant, avec l’IA, c’est pratiquement important, car si nous voulons rendre l’IA gentille, nous devons lui dire, dans le langage des mathématiques, ce qu’est la gentillesse, par exemple », a déclaré le Dr Tanaka la semaine dernière, en marge de la conférence Upgrade.  

Tôt dans leurs recherches, le laboratoire PHI a reconnu l’importance de comprendre la nature « boîte noire » de l’IA et de l’apprentissage automatique pour développer de nouveaux systèmes avec une meilleure efficacité énergétique pour le calcul. Le progrès de l’IA au cours de la dernière demi-décennie, cependant, a évoqué des considérations de sécurité et de fiabilité de plus en plus importantes, qui sont ainsi devenues critiques pour les applications industrielles et les décisions de gouvernance sur l’adoption de l’IA. 

Grâce au nouveau groupe de recherche, NTT Research abordera les similitudes entre les intelligences biologiques et artificielles, espérant ainsi dénouer les complexités des mécanismes de l’IA et construire une fusion plus harmonieuse de la collaboration humaine-IA. 

Bien que cette approche soit nouvelle dans son intégration de l’IA, elle n’est pas nouvelle. Les physiciens ont cherché à révéler les détails précis des relations technologiques et humaines pendant des siècles, de l’étude de Galileo Galilei sur la façon dont les objets se déplacent et sa contribution à la mécanique, à la façon dont la machine à vapeur a éclairé la compréhension de la thermodynamique pendant la révolution industrielle. Au 21e siècle, cependant, les scientifiques cherchent à comprendre comment l’IA fonctionne en termes de formation, d’accumulation de connaissances et de prise de décision, afin que, à l’avenir, des technologies d’IA plus cohérentes, sûres et fiables puissent être conçues. 

« L’IA est un réseau de neurones, la façon dont il est structuré est très similaire à la façon dont fonctionne le cerveau humain ; les neurones sont connectés par des synapses, qui sont toutes représentées par des nombres à l’intérieur d’un ordinateur. Et c’est là que nous croyons qu’il peut y avoir de la physique… La physique consiste à prendre n’importe quoi dans l’univers, à formuler des hypothèses mathématiques sur son fonctionnement interne et à les tester », a déclaré le Dr Hanaka. 

Le nouveau groupe continuera à collaborer avec le Centre des sciences du cerveau de l’Université de Harvard (CBS), et prévoit de collaborer avec le professeur associé de l’Université de Stanford, Suya Ganguli, avec qui le Dr Tanaka a co-écrit plusieurs articles. 

Cependant, le Dr Tanaka souligne qu’une approche de science naturelle et intersectorielle sera fondamentale. En 2017, lorsqu’il était candidat au doctorat à Harvard, le chercheur a réalisé qu’il voulait faire plus que la physique traditionnelle, et suivre les traces de ses prédécesseurs, de Galilei à Newton et Einstein, pour ouvrir de nouveaux mondes conceptuels en physique. 

« Actuellement, l’IA est le sujet dont je peux parler à tout le monde. En tant que chercheur, c’est formidable, car tout le monde est toujours prêt à discuter de l’IA, et j’apprends également à chaque conversation, car je réalise comment les gens voient et utilisent l’IA différemment, même au-delà des contextes académiques. Je vois la mission de NTT comme un catalyseur pour déclencher ces conversations, quel que soit le contexte, car nous apprenons de chaque interaction », a conclu le Dr Tanaka.