Adrian Zidaritz, auteur de AIbluedot.com – Série d’entretiens

Adrian Zidaritz est l’auteur de AIbluedot.com, un blog qui fournit une vue d’ensemble de l’IA, avec un mélange de mathématiques, d’éthique, de politique et de “tout” ce qui se trouve entre les deux. Bien que les articles contiennent une quantité minimale de contenu technique, ils ne sont pas destinés aux spécialistes, mais plutôt au grand public. L’IA est mal comprise par les non-spécialistes et elle est soit surévaluée, soit minimisée dans les médias ; elle est néanmoins la technologie la plus conséquente de notre époque actuelle.

Qu’est-ce qui vous a initialement attiré vers l’IA ?

Le développement de l’IA nécessite un large éventail d’expertises, contrairement à toute autre technologie moderne. Il s’alimente de recherches en statistiques, en neurosciences, en mathématiques appliquées, en informatique, en développement de logiciels, en psychologie, etc… Ce défi est ce qui m’a attiré, combiné au fait que j’ai eu la chance de m’essayer à de nombreux de ces domaines dans ma carrière précédente : mathématiques, informatique, développement de logiciels, statistiques.

Vous avez eu une carrière étendue dans le domaine de l’IA. Pouvez-vous discuter de certains de ces points forts ?

C’est en quelque sorte une suite de la question 1. Presque toutes les personnes d’âge moyen travaillant dans l’IA actuellement viennent d’ailleurs. Jusqu’en 2005, il n’y avait pas d’IA (à propos, le succès de l’IA est dû principalement aux réseaux de neurones = apprentissage profond, toutes les autres techniques pâlissent en comparaison ; donc, pour tous les besoins pratiques, lorsque nous disons IA, nous voulons dire apprentissage profond). En conséquence, beaucoup d’entre nous qui travaillons dans l’IA apportons des perspectives uniques dans le domaine. Je viens d’un background mathématique couplé avec la direction de projets d’IA pratiques, dans lesquels l’ingénierie BigData joue un très grand rôle (parfois plus de 80 % du temps total du projet). Mon background place l’IA entre une remise en question de ses fondements mathématiques (très théorique) et les aspects très pratiques de la direction d’équipes de data scientists et d’ingénieurs en apprentissage automatique. Il y a d’autres chercheurs qui connaissent mieux les technologies d’IA au milieu du sandwich.

Vous avez déclaré que l’IA a soit été surévaluée, soit minimisée dans les médias. Pourquoi croyez-vous qu’il y a un tel décalage entre la façon dont les médias rapportent avec précision l’état de l’IA et les réalités de la technologie ?

Parce que l’IA est mal comprise, même par certaines personnes qui travaillent dans l’IA, et a fortiori par la presse. C’est une discipline très jeune, avec des travailleurs très jeunes. Les diverses opinions de ces jeunes travailleurs font leur chemin dans les médias, alimentant un décalage d’objectifs. Il suffit de mentionner le documentaire Social Dilemma sur Netflix, dans lequel ces vues conflictuelles de l’IA, d’un point de vue de la Silicon Valley, sont bien documentées.

Actuellement, la majeure partie des progrès que nous avons vus dans l’IA proviennent de l’apprentissage profond. Quelles sont vos vues sur le problème de la boîte noire de l’apprentissage profond ?

C’est un gros problème. Fondamentalement, nous n’avons pas une compréhension théorique (= mathématique) du processus d’apprentissage. Nous ne savons pas comment les algorithmes d’apprentissage profond apprennent réellement. Nous ne voyons que cela fonctionne. Il y a eu des tentatives, bien sûr, pour développer une théorie, mais aucune n’a gagné une large acceptation. Donc, en l’absence de cette compréhension de base, tout ce que nous pouvons faire est de dire “voir, cela fonctionne”. Mais donner une explication en boîte blanche est impossible à ce stade. D’autres algorithmes (pas d’apprentissage profond) sont mieux compris et pour eux, il est possible de donner des explications des résultats. Pas pour l’apprentissage profond.

Quelles sont vos vues sur les biais de l’IA et comment les prévenir ?

Actuellement, l’IA est tout sur les données, et non sur les algorithmes. Les algorithmes ne connaissent pas de biais, le biais est dans les données. Les données reflètent la composition de la société et également la stratification de la société, car la collecte de données a également des biais. Ce sont, à propos, des phénomènes naturellement survenant, ce qui doit se produire est une inclusion progressive de personnes de tous les horizons dans le processus de collecte de données, afin que les données reflètent une représentation correcte de la population.

Quel type d’apprentissage automatique vous intéresse le plus ?

Comme je l’ai dit plus tôt, l’apprentissage automatique cède actuellement du terrain à sa branche la plus interne la plus réussie, l’apprentissage profond. Les réseaux de neurones, grâce à leur polyvalence, dominent.

Vous avez déclaré que le Revenu de Base Universel (RBU) sera absolument nécessaire pour faire face aux pertes d’emplois résultant de l’IA. Pouvez-vous élaborer sur ces vues ?

La société subira de grandes répercussions de l’automatisation (IA appliquée). Nous avons vu les changements majeurs, même dans les bouleversements politiques depuis 2016. Il n’y aura simplement pas de moyen de revenir en arrière. Beaucoup d’emplois disparaîtront simplement. Il n’a pas de sens de se former comme radiologue ces jours-ci. L’IA peut lire les radiographies et les IRM et toutes sortes d’autres impressions beaucoup mieux qu’un humain. Que se passera-t-il pour les gens lorsqu’il n’y aura tout simplement pas d’emploi qu’ils pourront faire ? Le RBU garantit que les humains ne souffriront pas inutilement lorsque l’automatisation deviendra omniprésente. Et il n’y a pas besoin de, car l’IA livrera le travail nécessaire pour que la société continue de fonctionner.

Croyez-vous que nous pouvons jamais atteindre l’Intelligence Artificielle Générale (IAG) ?

Oui, beaucoup de gens soutiennent que le logiciel de DeepMind borde déjà l’IAG. Je ne souscris pas à cette idée, mais même pour moi, la réponse est oui. L’IAG ne signifie pas les émotions ou la conscience, le “I” dans IAG signifie simplement l’intelligence cognitive. Et pour ce niveau d’intelligence, la réponse semble être oui.

Croyez-vous qu’il y a une probabilité que nous vivions dans une simulation ?

Une possibilité ? Oui, ce qui signifie que la probabilité que nous vivions dans une simulation n’est pas 0. C’est également intellectuellement attrayant. Mais est-ce probable ? Non, pour moi, ce n’est pas probable, c’est-à-dire que la probabilité, bien que non nulle, est très, très faible.

Merci pour l’entretien, les lecteurs qui souhaitent en savoir plus sur les vues d’Adrian sur différents aspects de l’IA devraient visiter AIbluedot.com.