L’IA a encore besoin d’un coach et la supervision humaine a besoin d’un playbook

L’IA est partout où vous regardez, et le football professionnel n’est pas une exception.

La NFL a introduit le Digital Athlete, qui utilise les données et l’IA pour aider les équipes à identifier les scénarios où les joueurs pourraient courir un risque accru de blessure. Il combine vidéo et données provenant des entraînements, des pratiques et des matchs avec des millions de simulations, offrant aux 32 équipes un accès aux informations de tendance à l’échelle de la ligue. Les entraîneurs et le personnel d’entraînement utilisent ensuite ces informations pour développer des programmes individualisés de prévention des blessures, d’entraînement et de récupération.

Alors que la technologie lit le terrain, les entraîneurs restent responsables des décisions. À mesure que les organisations étendent l’utilisation de l’IA à travers les processus métier, y compris la conformité et les enquêtes en milieu de travail, le potentiel d’automatisation semble illimité. Mais quelles tâches l’IA doit-elle accomplir, dans quelles conditions et avec quelle supervision humaine ?

C’est là qu’un playbook organisationnel peut donner le ton : offrir aux entraîneurs les moyens d’exploiter les outils d’IA tout en maintenant la supervision humaine là où elle compte.

Donner à l’IA une position plutôt que l’ensemble du terrain

Les enquêtes comportent différents niveaux de risque. L’IA peut aider à organiser les informations provenant des rapports initiaux et:

• Identifier les détails manquants
• Résumer les informations dans un rapport final
• Construire des chronologies
• Faire apparaître les motifs que les enquêteurs pourraient vouloir examiner davantage

Ces cas d’usage peuvent réduire le tri manuel et libérer du temps pour se concentrer sur les tâches qui nécessitent un jugement humain.

Considérez que l’IA peut résumer une allégation, mais elle ne peut pas décider si elle est crédible. L’IA peut identifier une incohérence, mais ne peut pas déterminer pourquoi elle existe. C’est ici que les organisations peuvent rencontrer des problèmes en utilisant simplement l’IA sans garde-fous.

Pour maintenir la supervision, l’IA a besoin d’un rôle défini. Les organisations devraient décider:

• Les tâches que le système est censé exécuter
• Les informations auxquelles il peut accéder
• Les limites de ce qu’il est autorisé à faire
• Les situations où une personne doit prendre le contrôle

Le Cadre de gestion des risques d’IA du National Institute of Standards and Technology fournit une référence utile. La feuille de route de NIST décrit les profils AI RMF comme un moyen de démontrer comment le cadre peut être appliqué à des secteurs, technologies, contextes ou autres environnements spécifiques. En d’autres termes, la gouvernance responsable de l’IA devient plus opérationnelle lorsque les organisations traduisent les principes généraux en réalités d’un cas d’usage précis.

Un playbook d’IA peut faire quelque chose de similaire au niveau opérationnel. Il définit les rôles, les situations et les actions avec précision.

La supervision humaine est un problème de conception du système

L’expression « human in the loop » est devenue courante dans les discussions sur l’IA responsable. Mais la présence d’une personne quelque part dans un flux de travail ne garantit pas automatiquement qu’un système d’IA soit bien gouverné.

Le NIST a identifié le travail d’équipe humain-IA comme un domaine important pour la recherche et les directives de gestion des risques de l’IA. Parmi les problématiques qu’il souligne figurent la façon dont les personnes interprètent les résultats produits par l’IA et la manière dont les humains supervisent les systèmes d’IA fonctionnant dans des environnements réels.

La supervision humaine ne doit pas être considérée comme une solution temporaire en attendant que l’IA devienne suffisamment sophistiquée pour fonctionner seule. Dans de nombreux environnements à enjeux élevés, elle fait partie de l’architecture requise pour utiliser l’IA de manière responsable à long terme.

Une étude évaluée par des pairs sur la supervision humaine dans la gouvernance de l’IA indique que les superviseurs humains sont censés améliorer la précision et la sécurité afin de respecter les valeurs humaines et de renforcer la confiance. Cependant, les humains ne sont pas toujours des superviseurs fiables. Une supervision efficace dépend de la compétence, des incitations et de la conception du rôle de supervision.

Pour un enquêteur, on lui demander d’approuver une recommandation générée par l’IA n’est pas suffisant s’il manque les informations ou l’autorité nécessaires pour la contester. Le playbook doit définir non seulement cela qu’un humain est impliqué, mais comment et quand cette personne peut intervenir.

Le transfert compte autant que le modèle

Il y a un autre défi : même lorsqu’un humain détient l’autorité finale, la manière dont l’IA présente les informations peut influencer la décision qui suit.

Une étude préliminaire de 2025 menée par des chercheurs de l’Université de Californie, Santa Barbara illustre pourquoi la conception de l’interface est importante. Dans une expérience contrôlée impliquant 108 participants dans un scénario de prise de décision en santé, les chercheurs ont testé six formes d’assistance à la décision par IA. Ils ont constaté que des mécanismes, tels que les informations de confiance de l’IA, les explications textuelles et les visualisations de performance, amélioraient la précision des décisions humaines‑IA dans leur expérience.

L’étude souligne également le risque de biais d’automatisation : les personnes peuvent trop se fier aux suggestions de l’IA, même lorsqu’elles sont incorrectes.

Cette expérience montre pourquoi le transfert entre la machine et l’humain nécessite une conception et des tests délibérés.

Lorsque nous extrapolons davantage et introduisons le concept d’enquête, plusieurs questions se posent :

• L’enquêteur voit‑il uniquement une conclusion générée par l’IA, ou peut‑il examiner les informations qui la sous-tendent ?

• Le système peut‑il communiquer l’incertitude ?

• Est‑il clair quand des informations sont manquantes ?

• Les enquêteurs peuvent‑ils rejeter un résultat et documenter la raison ?

Ce sont des questions de gouvernance autant que techniques.

Cinq questions auxquelles chaque playbook d’IA doit répondre

Un playbook d’IA utile doit transformer des principes abstraits tels que « IA responsable » et « supervision humaine » en règles opérationnelles concrètes.

1. Que peut faire l’IA ? Les organisations devraient autoriser des tâches spécifiques plutôt que d’accorder une permission générale d’utiliser l’IA tout au long d’un flux de travail.
2. Quelles informations peut‑elle utiliser ? Pour les enquêtes et les dénonciations, les organisations ont besoin de limites claires concernant les informations accessibles à un système d’IA et la manière dont ces informations sont traitées.
3. Comment les personnes évalueront‑elles ses résultats ? Les réviseurs humains ont besoin de suffisamment de contexte pour comprendre ce que le système a produit, ses limites pertinentes, et les informations nécessaires pour remettre en question le résultat.
4. Quand un humain doit‑il intervenir ? Un playbook doit établir des déclencheurs d’escalade plutôt que de compter sur chaque employé pour décider quand l’IA est allée trop loin.
5. Où s’arrête l’autorité de l’IA ? Certaines décisions doivent requérir le jugement humain, et les personnes responsables de ces décisions doivent disposer d’une véritable autorité pour ignorer, annuler ou arrêter la technologie.

Ces idées se reflètent dans l’un des textes de réglementation de l’IA les plus importants au monde. Article 14 du règlement européen sur l’IA établit des exigences de supervision humaine pour les systèmes d’IA qui relèvent de la catégorie à haut risque du règlement. Il précise que les mesures de supervision doivent être proportionnées aux risques du système, à son autonomie et au contexte d’utilisation. Il exige également que les superviseurs puissent comprendre les capacités et limites pertinentes, interpréter correctement les résultats, rester vigilants face au biais d’automatisation, ignorer ou annuler les résultats, et intervenir ou arrêter un système.

Cela ne signifie pas que chaque outil d’IA utilisé dans une enquête soit automatiquement un système à haut risque. Le cadre illustre un principe important pour la gouvernance de l’IA. La supervision humaine doit offrir aux humains des capacités significatives, et non simplement un simple point dans le flux de travail.

L’IA ne remplace pas l’entraîneur. Elle change ce que l’entraîneur peut voir.

Le Digital Athlete de la NFL est convaincant non pas parce qu’il montre que l’IA peut remplacer les entraîneurs, mais parce qu’il montre comment une technologie sophistiquée peut élargir les informations disponibles aux professionnels expérimentés.

L’IA peut aider les personnes à traiter l’information, mettre en évidence ce qui mérite l’attention, et créer une plus grande cohérence dans les tâches répétables. Pourtant, les moments les plus décisifs d’une enquête exigent souvent autre chose : contexte, scepticisme, interprétation et responsabilité.

Les organisations les mieux placées pour tirer parti de l’IA demanderont donc davantage que ce que la technologie peut automatiser. Elles définiront ce qu’elle doit faire, ce qu’elle ne doit pas faire, et comment les humains et l’IA doivent travailler ensemble.