L’IA et la lutte contre la technophobie

Lorsqu’il s’agit d’IA générative et de modèles de langage à grande échelle, comme ChatGPT, l’enthousiasme pour l’IA est mêlé de technophobie. C’est naturel pour le grand public : ils aiment les choses nouvelles et excitantes, mais ils ont peur de l’inconnu. Le fait que plusieurs scientifiques éminents soient devenus eux-mêmes techno-sceptiques, voire technophobes, est un phénomène nouveau. Le cas des scientifiques et des industriels qui demandent une interdiction de six mois de la recherche sur l’IA, ou le scepticisme du scientifique en chef de l’IA, le professeur A. Hinton, sont des exemples de cela. La seule équivalence historique que je puisse rappeler est la critique des bombes atomiques et nucléaires par une partie de la communauté scientifique pendant la guerre froide. Heureusement, l’humanité a réussi à répondre à ces préoccupations de manière plutôt satisfaisante.

Bien sûr, tout le monde a le droit de remettre en question l’état actuel des affaires de l’IA :

• Personne ne sait pourquoi les modèles de langage à grande échelle fonctionnent si bien et s’ils ont une limite.
• De nombreux dangers que les mauvaises personnes créent des « bombes IA » se cachent, en particulier si les États restent des spectateurs passifs en termes de réglementation.

Ce sont des préoccupations légitimes qui alimentent la peur de l’inconnu, même chez les scientifiques éminents. Après tout, ils sont eux-mêmes des humains.

Cependant, la recherche sur l’IA peut-elle s’arrêter, même temporairement ? À mon avis, non, car l’IA est la réponse de l’humanité à une société et un monde physiques de complexité croissante. À mesure que la complexité physique et sociale augmente, les processus sont très profonds et semblent irréversibles, l’IA et la morphose des citoyens sont notre seul espoir pour une transition en douceur de la société de l’information actuelle à une société de la connaissance. Sinon, nous risquons de faire face à une implosion sociale catastrophique.

La solution consiste à approfondir notre compréhension des progrès de l’IA, à accélérer son développement, à réglementer son utilisation pour maximiser son impact positif, tout en minimisant les effets négatifs déjà évidents et les autres effets négatifs cachés. La recherche sur l’IA peut et doit devenir différente : plus ouverte, démocratique, scientifique et éthique. Voici une liste de points proposés à cette fin :

• Le premier mot sur les questions de recherche sur l’IA importantes qui ont un impact social important devrait être délégué aux parlements et aux gouvernements élus, plutôt qu’aux corporations ou aux scientifiques individuels.
• Tous les efforts devraient être faits pour faciliter l’exploration des aspects positifs de l’IA dans le progrès social et financier et pour minimiser ses aspects négatifs.
• L’impact positif des systèmes d’IA peut grandement surpasser leurs aspects négatifs, si des mesures de réglementation appropriées sont prises. La technophobie n’est ni justifiée, ni une solution.
• À mon avis, la plus grande menace actuelle vient du fait que de tels systèmes d’IA peuvent tromper à distance trop de personnes ordinaires qui ont peu (ou une moyenne) d’éducation et/ou de capacité d’investigation. Cela peut être extrêmement dangereux pour la démocratie et toute forme de progrès socio-économique.
• À l’avenir, nous devons contrer la grande menace qui vient de l’utilisation de l’IA dans les activités illégales (la tricherie dans les examens universitaires est un usage plutôt bénin dans l’espace des possibilités criminelles liées).
• Leur impact sur le travail et les marchés sera très positif, à long terme.
• À la lumière de ce qui précède, les systèmes d’IA devraient : a) être obligés par la loi internationale de s’enregistrer dans un « registre des systèmes d’IA », et b) notifier leurs utilisateurs qu’ils conversent avec ou utilisent les résultats d’un système d’IA.
• Les technologies de système d’IA avancées devraient devenir ouvertes, vers une maximisation des bénéfices et du progrès socio-économique.
• Les données liées à l’IA devraient être (au moins partiellement) démocratisées, vers une maximisation des bénéfices et du progrès socio-économique.
• Des mécanismes de compensation financière appropriés et solides devraient être prévus pour les champions de la technologie de l’IA, pour compenser toute perte de profit due à la dite ouverture et pour assurer de forts investissements futurs dans la R&D de l’IA (par exemple, via le brevetage de la technologie, des schémas de licence obligatoires).
• L’équilibre de la recherche sur l’IA entre l’Académie et l’Industrie devrait être repensé pour maximiser la production de recherche, tout en maintenant la concurrence et en accordant des récompenses pour les risques de R&D pris.
• Les pratiques éducatives devraient être réexaminées à tous les niveaux d’éducation pour maximiser les bénéfices des technologies de l’IA, tout en créant une nouvelle génération de citoyens et de scientifiques créatifs et adaptables.
• Des mécanismes de réglementation/supervision/financement appropriés devraient être créés et renforcés pour assurer ce qui précède.

Plusieurs de ces points sont traités en détail dans mon livre récent en 4 volumes sur « La science et la société de l’IA », en particulier dans les volumes A (réécrit en mai 2023 pour couvrir les LLM et l’intelligence artificielle générale) et C.

Références de livre :

La science et la société de l’IA Partie A : Introduction à la science de l’IA et à la technologie de l’information

La science et la société de l’IA Partie C : La science et la société de l’IA