L’alarmisme apocalyptique autour de l’IA et les cafés à l’ambiance IA : les questions de gouvernance que nous ne pouvons pas nous permettre de négliger

Sommes-nous condamnés ? L’IA est-elle consciente ? Et pourquoi les entreprises d’IA ouvrent-elles des cafés ?

Ces questions sont saisissantes, troublantes et — surtout lorsqu’il s’agit de la conscience — véritablement difficiles. Elles ont aussi en commun de nous entraîner vers les aspects les plus spéculatifs ou les plus chargés d’émotion de l’histoire de l’IA. Pendant ce temps, des questions moins spectaculaires façonnent déjà la vie des gens : qui est responsable lorsqu’un système d’IA cause un préjudice ? Quelles données et quel travail ont rendu ce système possible ? Quelles décisions devrait-il être autorisé à influencer ? Et qui a son mot à dire ?

Je ne pars pas nécessairement du principe que les personnes qui évoquent les risques existentiels, débattent de la conscience des machines ou ouvrent un café le font pour éluder ces questions. Chacun de ces sujets peut mériter notre attention à part entière. Mais notre attention est limitée. Lorsqu’un récit spectaculaire occupe le devant de la scène, il vaut la peine de se demander ce qui a pu disparaître de notre champ de vision.

L’attrait d’une IA tangible

Le secteur de l’IA a commencé à donner une adresse physique à ses produits, pourtant largement immatériels. Le « Zero Slop Zone » d’Anthropic, à New York, invitait les visiteurs à ralentir autour d’un café, de livres, d’un stylo et de papier ; Perplexity a ouvert Cafe Curious, un café à Séoul où l’IA de l’entreprise fait partie de l’expérience. Les articles consacrés au lieu éphémère d’Anthropic et au café de Perplexity à Séoul décrivent deux initiatives distinctes visant à faire entrer une technologie abstraite dans un cadre ordinaire et convivial.

Cela se comprend. La plupart des gens ne peuvent pas voir un modèle de langage, examiner l’infrastructure qui le sous-tend ni se représenter facilement ce qui se passe entre une requête et une réponse. Un café offre une sorte d’équivalent physique : une salle, une tasse, une conversation. Il peut rendre une entreprise et sa technologie plus accessibles — et peut-être plus faciles à comprendre.

Il y a aussi un deuxième aspect. Un lieu physique rend une entreprise visible au sein d’une communauté. Il dit, à tout le moins : « Nous sommes ici, à cet endroit, pour le moment. » Dans un secteur où les produits, les politiques et les attentes évoluent rapidement, cela peut être rassurant. Mais la visibilité n’équivaut pas à la responsabilité. Un lieu accueillant peut rendre une technologie plus familière sans nous indiquer comment elle a été entraînée, dans quels cas elle est fiable ni quels recours s’offrent à une personne lorsqu’elle se trompe sur un point important.

Cette distinction rejoint une idée à laquelle je reviens depuis des années : les expériences numériques ne sont jamais uniquement numériques. Elles prennent place dans des lieux, des relations et des institutions. La question de conception ne consiste pas seulement à rendre un système d’IA accessible. Il s’agit de savoir si l’expérience aide les gens à comprendre les limites du système et à conserver une véritable capacité d’action.

Le débat sur la conscience — et les personnes déjà concernées

La même distinction est importante dans les débats sur la conscience de l’IA. Il existe un véritable désaccord sur la possibilité d’une conscience artificielle, sur les éléments qui pourraient en constituer une preuve et sur la manière dont l’incertitude devrait guider nos responsabilités. L’argument d’Anil Seth dans Noema soutient qu’il ne faut pas confondre intelligence et conscience ; un récent article du Guardian expose également les raisons pour lesquelles la question reste sans réponse. Ce débat ne se prête pas aux réponses faciles.

L’incertitude concernant la vie intérieure d’une machine ne rend toutefois pas incertaines les questions actuelles relatives aux conséquences pour les êtres humains. La responsabilité ne commence pas seulement lorsque nous aurons établi ce qu’est la conscience. Elle commence lorsque des organisations conçoivent, déploient et exploitent des systèmes qui ont des effets sur les gens.

Examinons les questions auxquelles nous pouvons répondre dès maintenant. Quelles informations ont servi à entraîner un système, et dans quelles conditions ? Qui se charge de préparer et de vérifier ses résultats ? Comment fonctionne-t-il auprès de différents groupes ? Que se passe-t-il lorsqu’un système est utilisé dans les soins de santé, le recrutement, l’éducation ou les services publics ? Une personne peut-elle contester une recommandation automatisée, s’adresser à un décideur humain et obtenir une explication utile ?

Ces préoccupations ne sont pas hypothétiques. Une étude sur les biais dans l’IA médicale décrit comment des données biaisées et des choix de conception peuvent contribuer à des décisions cliniques inéquitables. Parallèlement, les recherches sur l’IA et l’emploi se poursuivent : l’analyse du marché du travail d’Anthropic propose une façon de mesurer l’exposition, tandis que l’examen du Hamilton Project rappelle que les données sur les effets généraux de l’IA sur le marché du travail restent incomplètes. Ces sources ne tirent pas les mêmes conclusions sur ce que nous pouvons affirmer aujourd’hui, mais elles soulignent qu’il faut mesurer les effets plutôt que de substituer des récits assurés aux données probantes.

La manière dont nous parlons des systèmes présente un risque connexe. Des noms, des voix et des styles de conversation à caractère humain peuvent donner à une IA l’apparence d’une personne plutôt que d’un produit. Cela peut influer sur la confiance et sur la tendance des gens à s’en remettre à ses réponses. Il est légitime de se demander si les discours sur la conscience ou la conception anthropomorphique peuvent détourner l’attention des organisations qui fixent les objectifs et les limites du système. Une analyse de MIT Technology Review soutient que les récits sur la conscience peuvent brouiller les questions de responsabilité des entreprises. Il s’agit d’un argument sur les effets de ce cadrage, et non d’une preuve que toute personne qui soulève la question cache ses véritables motivations.

L’alarmisme apocalyptique ne constitue pas un plan de gouvernance

Le risque existentiel mérite une attention sérieuse. L’existence de préjudices à court terme ne rend pas les conséquences catastrophiques moins importantes, pas plus que la possibilité d’une catastrophe ne rend les préjudices à court terme moins importants. Nous n’avons pas à choisir un horizon temporel et à ignorer l’autre.

Mais quand la question « Sommes-nous condamnés ? » devient le sujet de toute la conversation, les risques à long terme relèguent de nouveau au second plan les préjudices actuels. La fatalité peut sembler être une conclusion plutôt qu’une invitation à agir : si l’issue est inévitable, pourquoi s’atteler à la tâche difficile de changer les choses ? Un article du New Yorker relatant un cours sur le risque existentiel rapporte la question d’un étudiant sur la « construction d’une cathédrale » : pourquoi s’engager à bâtir quelque chose qui pourrait vous survivre si l’on croit que le monde pourrait prendre fin ? La réponse n’est pas que les risques disparaissent. C’est que l’incertitude n’annule ni notre capacité ni notre responsabilité de décider de ce qui compte pour la suite et de contribuer à façonner ce qui se passera ensuite.

C’est ce que j’entends par ma philosophie de l’« optimisme stratégique ». Il ne s’agit pas de prétendre avec insouciance que « tout ira bien », ni de refuser d’examiner les faits. Il s’agit de reconnaître les risques réels, de s’employer à les réduire et, ce faisant, de consacrer des efforts sérieux à bâtir un avenir qui mérite d’être atteint. L’espoir n’est pas l’opposé de la rigueur. Il peut être ce qui ancre la rigueur dans l’action.

Les questions de gouvernance derrière le spectacle

Qu’une organisation achète un outil d’IA, en développe un ou élabore une politique à son sujet, les questions pratiques sont moins spectaculaires qu’un café ou qu’une affirmation sur la conscience — et plus utiles :

• Objectif : Quel problème le système est-il censé résoudre, et l’IA est-elle l’outil adapté ?
• Éléments probants : Comment le système a-t-il été testé, notamment auprès de différents utilisateurs et dans des cas moins courants ?
• Limites : Quelles décisions doivent rester du ressort d’une personne, et que ne peut pas faire le système ?
• Responsabilité : Qui est responsable en cas de défaillance du système, et comment les personnes concernées peuvent-elles faire appel ?
• Transparence : Les personnes peuvent-elles savoir quand l’IA intervient et quelles informations ont influencé ses résultats ?
• Supervision continue : Qui surveille les performances, l’évolution des données et les effets indésirables après le déploiement ?

Des cadres tels que le Cadre de gestion des risques liés à l’IA du NIST offrent aux organisations une méthode structurée pour repérer et gérer les risques tout au long du cycle de vie d’un système d’IA. Aucun cadre ne peut remplacer le discernement ni le débat public, mais la gouvernance gagne en précision lorsque les responsabilités, les tests et les voies de recours sont clairement définis.

Il y a aussi une dimension matérielle à encadrer. L’IA repose sur des centres de données, de l’électricité, de l’eau, des terrains et des financements — pas seulement sur des interfaces. Les informations publiées sur la structure de financement d’un grand projet de centre de données soulèvent des questions sur la manière dont les risques liés aux infrastructures sont divulgués et sur qui en assume finalement la charge. Un café peut aider les gens à découvrir l’IA ; à lui seul, il ne peut pas rendre compréhensible l’infrastructure qui la sous-tend.

Alors, profitez du café. Posez les grandes questions sur la conscience. Prenez au sérieux les risques catastrophiques. Puis revenez aux décisions que nous pouvons examiner et influencer dès maintenant : ce qui est construit, qui en bénéficie, qui en supporte les coûts et quelles protections sont prévues en cas de problème.

L’avenir n’est pas un verdict rendu par un titre accrocheur. C’est un ensemble de choix — faits par des entreprises, des institutions, des gouvernements et des communautés — qui peuvent encore être remis en question et modifiés. La question la plus utile n’est pas seulement de savoir si nous sommes condamnés. Elle est de savoir quelles conditions permettraient à l’IA de contribuer à l’épanouissement humain, et ce que nous sommes prêts à faire pour les concrétiser.