Transition vers l’économie de vérification

La vérification du travail de l’IA pourrait devenir un secteur important dans la nouvelle économie de l’apprentissage automatique; un secteur qui devra considérablement évoluer, et qui ne pourra pas être automatisé. Mais au fil des ans, les “experts” humains sont susceptibles de se dégrader en qualité.

Opinion. Ma femme est architecte dans l’une des bureaucraties les plus encombrées et intenses d’Europe. Une partie importante de la valeur de sa formation réside dans l’obtention et le maintien de son droit de signature – une credence coûteuse qui doit être renouvelée chaque année, et qui lui permet littéralement de “valider” des propositions dont la mise en œuvre peut être de plusieurs centaines de milliers, voire de millions d’euros.

Elle me dit que ce n’est pas la partie la plus difficile de son travail, puisque cela ne formalise que ses propres calculs, ou ceux des autres, et que pour cela, le travail externe n’est généralement pas difficile à vérifier.

En substance – comme c’est souvent le cas lors de la nomination de PDG – ce tampon (c’est littéralement un tampon) fournit principalement aux parties prenantes un responsable à blâmer si les choses tournent mal. En assurant la responsabilité, il facilite également la couverture d’assurance et la confiance des investisseurs, qui ne serait pas obtenable sans de telles garanties.

C’est la deuxième fois dans ma vie que je vois ce processus en action; il y a 25 ans, j’étais fiancé à un oncologue dans une autre bureaucratie notoirement encombrée, l’Italie, et j’ai vu à quel point sa signature d’expert était la dernière étape d’une chaîne de confiance à laquelle de nombreuses autres personnes que lui-même devaient contribuer leur expertise.

J’ai entendu de ma ex-fiancée, à cette époque, et plus récemment de ma femme, que leurs professions étaient/étaient infestées de charlatans qualifiés qui vendaient leur tampon et évitaient un travail plus original ou plus utile comme moins rentable. De tels praticiens cyniques peuvent facturer des sommes élevées car ils représentent des ressources relativement rares et essentielles.

Découvrez

Ce sujet m’est venu à l’esprit lorsque je suis tombé sur un nouveau document aujourd’hui, intitulé Quelques éléments d’économie simple de l’AGI. Dans celui-ci, trois chercheurs issus du MIT, de l’Université de Washington à St. Louis et de l’UCLA, décrivent un avenir proche où l’impulsion terrifiante vers l’automatisation pilotée par l’IA se heurte au besoin de vrais responsables dans des scénarios à hauts enjeux – conduisant ainsi à une nouvelle économie de vérification humaine, de ratification et de responsabilité*.

Le document contraste avec l’imagination actuelle des médias de secteurs commerciaux réduits à des bureaux uniques, dont les décisions sont utilisées comme données d’entraînement pour (espérons-le) licencier même ce dernier vestige de “matériel” ^†.

Plutôt, les auteurs pensent que les considérations pratiques et les exigences de conformité attireront une attention considérable sur les “humains de validation” qui apaisent le département juridique d’une entreprise (IA/humain/aide à l’IA):

‘Pour les entreprises, l’insight stratégique clé est que la vérification n’est plus une simple fonction de conformité, mais une technologie de production principale – et de plus en plus, la plus défendable. Cela dicte un changement structurel: investir lourdement dans l’observabilité, élargir la vérité de base de vérification, et réorganiser autour d’une topologie “sandwich” (intention humaine → exécution de la machine → vérification humaine et souscription). ‘

‘Dans une économie où la production brute est commodifiée, l’avantage concurrentiel migre vers le talent et les données rares capables de diriger et de certifier de manière fiable les systèmes agissants – générant des effets de réseau non pas dans la production brute, mais dans les résultats fiables.’

Les auteurs hypothèsent que la contrainte déterminante de la croissance peut ne pas être l’intelligence – que l’IA a maintenant “découplée de la biologie” – mais la bande passante de vérification.

La valeur se déplace vers la vérification humaine

Le document décrit le mouvement vers l’AGI comme une divergence croissante entre le coût de production de la sortie de la machine et le coût de vérification de cette sortie – le dernier étant toujours lié au temps humain fini et à l’expérience vécue.

La génération de plans, de rapports, de conceptions et de recommandations deviendrait bon marché et abondante, tandis que la détermination de ceux qui sont solides, alignés et suffisamment sûrs pour agir serait devenu la “fonction rare”. La limite effective de déploiement serait donc non pas la quantité de production que les systèmes peuvent produire, mais la quantité de cette production qui peut être vérifiée de manière crédible.

Ainsi, au lieu de récompenser toujours plus de compétences spécialisées dans des tâches mesurables, le système, selon les auteurs, commencerait à récompenser la mesurabilité elle-même: le travail qui peut être paramétré dériverait vers la commodification à mesure que son coût d’exécution approche le coût marginal de calcul, la valeur s’accumulant plutôt dans la vérité de base de haute qualité, les traces d’audit fiables et les mécanismes institutionnels pour attribuer et absorber la responsabilité.

Par conséquent, dans une économie de vérification, l’avantage résiderait moins dans la production de contenu et plus dans la certification des résultats et la souscription des risques qui y sont attachés.

Si l’automatisation continue d’accélérer tandis que la vérification reste limitée par le temps et l’attention humaine, le document prévoit qu’une économie creuse émergera, où, à mesure que le coût d’automatisation du travail diminue, de plus en plus d’agents seront déployés car cela a du sens sur le plan économique – même si la capacité de vérifier correctement leur production ne grandira pas à la même vitesse. Dans ce scénario, la part du travail qui est réellement vérifiée diminuera, avec toutes les conséquences négatives qui en découlent.

Inversement, une économie renforcée assurerait que la capacité de vérification augmenterait en tandem avec l’automatisation. Cela nécessiterait un investissement délibéré dans une formation structurée pour préserver l’expertise, ainsi que de nouveaux cadres de responsabilité qui peuvent absorber le risque. Le déploiement serait alors lié à ce qui peut réellement être vérifié et assuré – effectivement, un vieil étranglement rendu central par une échelle de développement technologique sans précédent:

‘Dans le secteur technologique, le modèle de revenu dominant passera de la monétisation de l’accès au logiciel (Software-as-a-Service) à la monétisation des résultats (“Software-as-Labor”). Par conséquent, les entreprises seront principalement évaluées sur leur capacité à absorber le risque de queue à travers Liability-as-a-Service.

‘L’exécution est désormais infiniment évolutivité; la capacité juridique et financière à absorber ses défaillances inévitables est le nouveau goulet d’étranglement.’

Retour sur investissement décroissant

En effet, la préservation de l’expertise de domaine chez les humains est cruciale pour le problème, car une culture d’encadrement industrialisé, selon les auteurs, risquerait de dégrader la qualité de ceux qui effectuent la vérification – car les générations suivantes de vérificateurs ne posséderaient plus d’expérience directe et vécue des domaines nécessitant une vérification.

On peut soutenir qu’à ce stade, la qualité de la vérification serait vraiment susceptible à l’automatisation, puisque de nouvelles décisions seraient prises uniquement sur la base de décisions antérieures. Cependant, cela laisserait les parties prenantes sans un responsable à blâmer, ou un modèle économique viable. Cela rendrait également un tel rôle si volatile et risqué qu’il serait peu attrayant, même dans un climat de faible emploi.

Enfermer des professionnels agréés comme des médecins et des architectes dans un poste de “validation” bien rémunéré mais très lourd est susceptible d’éroder leur valeur dans un tel rôle, avec le temps: plus leur expérience de terrain réelle régresse dans le passé, plus leurs décisions pourraient devenir “théoriques”, puisque leur domaine abandonné continue d’évoluer en leur absence.

(Ceci est familier même dans la culture commerciale pré-AI, sous la forme de personnel qualifié qui progresse dans la gestion et devient de plus en plus déconnecté des développements nouveaux, finissant par miner sa valeur en tant que vérificateur et organisateur. C’est également familier aux fans de Star Trek: TNG , sous la forme des Pakleds – une race qui utilise une technologie avancée de manière extensive, mais ne sait plus comment la créer ou la réparer.)

L’exécution de niveau d’entrée a historiquement servi de terrain d’entraînement pour les futurs experts; mais si l’automatisation élimine les tâches routinières à travers lesquelles le jugement est cultivé, l’approvisionnement futur de vérificateurs capables diminuera, suggèrent les auteurs.

Ainsi, le document augure un paradoxe: plus les systèmes agissants deviennent puissants, plus la société dépendra d’un stock d’expertise humaine que ces mêmes systèmes peuvent éroder.

Et rappelons que ce n’est pas en aucune façon un problème technique, ni susceptible d’une solution technologique. De nombreuses manières, ce syndrome suggère l’équivalent logistique de l’effondrement du modèle d’IA – sauf que nous considérons ici la dégradation d’un modèle économique.

‘D’un point de vue politique, le défi clé est une asymétrie structurelle profonde: les gains de la mise en œuvre de l’IA sont agressivement privatisés, tandis que les risques systémiques sont socialisés. Les entreprises et les individus capturent l’avantage de l’automatisation tandis qu’ils externalisent les risques de queue catastrophiques. ‘

‘Sans infrastructure de vérification partagée et tarification de la responsabilité rigoureuse, le marché dérivera rationnellement vers une économie creuse – un équilibre caractérisé par une activité mesurée explosive, mais un contrôle humain fondamentalement creux.’

Conclusion: une crise différente

Les auteurs définissent la crise prévue comme un fossé de mesurabilité, dans lequel les processus quantifiables peuvent être automatisés loin de toute contribution humaine, laissant des processus n-durs ou n-légaux qui nécessitent toujours l’expertise humaine.

Cependant, l’expérience de ma femme suggère que la complexité ou la difficulté d’un processus n’est pas nécessairement liée au besoin de responsabilité dans ce processus; de nombreuses choses qu’elle “valide” représentent des problèmes triviaux ou des calculs en soi, mais sont conséquentes en cas de défaillance. Et plus la culture commerciale devient litigieuse, plus les souscripteurs et les investisseurs exigeront la responsabilité humaine sur un large éventail de processus.

Ainsi, la transition vers l’économie de vérification pourrait causer une crise différente de celle qui est actuellement en tête des actualités. La question, dans ce cas, ne serait pas de savoir si l’IA peut produire plus, mais si les institutions peuvent vérifier suffisamment de ce qui est produit pour traduire l’intelligence de la machine en valeur durable.

Étant donné que l’intelligence de la machine peut bientôt évoluer sans précédent, et que la disponibilité de temps humain applicable ne peut pas suivre ce rythme, les problèmes évoqués dans le nouveau travail semblent susceptibles de se manifester très rapidement – même s’ils peuvent être initialement noyés par les conséquences économiques plus larges de l’adoption de l’IA.

* Le document est trop long pour être décomposé de la manière habituelle, et de toute façon, il n’est pas adapté à ce type d’analyse. Par conséquent, j’ai décidé de commenter et de considérer sa signification, et de renvoyer le lecteur à l’œuvre source afin qu’il puisse en faire autant.

^† /s

Publié pour la première fois le mercredi 25 février 2026