Entretiens
Stavros Gadinis, professeur à Berkeley Law et auteur de Corporate Ordering – Série d’entretiens

Points clésLa commande d'entreprise décrit comment les entreprises écrivent des règles et se…
Voir plus
- La commande d'entreprise décrit comment les entreprises écrivent des règles et se surveillent elles-mêmes avant que les régulateurs n'agissent.
- Les évaluations de sécurité de l'IA manquent d'indépendance lorsque la direction embauche et peut licencier ses propres évaluateurs externes.
- Un cadre de sécurité qui n'a jamais retardé un lancement est indiscernable de relations publiques.
Stavros Gadinis est titulaire de la chaire de droit George R. Johnson à la faculté de droit de l’UC Berkeley. Ses recherches portent sur la gouvernance d’entreprise, la réglementation financière et les systèmes internes dont les entreprises se servent pour prendre des décisions et en assurer le suivi. Avant d’entrer dans le milieu universitaire, il a exercé le droit des sociétés en Europe.
Son nouvel ouvrage, La gouvernance des entreprises : comment les sociétés font face aux conflits sociaux, publié par Cambridge University Press, examine la manière dont les entreprises élaborent des systèmes de gouvernance lorsque les règles publiques ne sont pas encore établies. À travers des études de cas portant sur le covoiturage, la durabilité climatique et l’intelligence artificielle, l’ouvrage s’intéresse à la façon dont les entreprises établissent des règles, exercent leur autorité et surveillent leur propre conduite.
Votre carrière vous a conduit de la pratique du droit des sociétés en Europe à la recherche sur la gouvernance d’entreprise et la réglementation financière à Berkeley Law. Comment ce parcours a-t-il façonné votre réflexion, et qu’est-ce qui vous a donné envie d’écrire Corporate Ordering ?
J’ai commencé ma carrière en exerçant le droit des sociétés en Europe, puis j’ai passé de nombreuses années à Berkeley à étudier la gouvernance d’entreprise et la réglementation financière, notamment la manière dont les règles se diffusent au-delà des frontières lorsqu’aucun gouvernement unique n’en assure la gestion. Nous avons tendance à opposer le monde des affaires à celui de la réglementation : le premier serait avide de décisions rapides et de profits élevés, tandis que le second serait attaché aux procédures bureaucratiques et au bien public. La pratique comme la recherche m’ont appris que la frontière entre les deux est bien plus floue.
Le livre est né de conversations avec des directeurs juridiques et des cadres dirigeants sur la manière dont ils gèrent les décisions controversées, celles où les employés, les clients, les collectivités et les gouvernements veulent tous des choses différentes. Ce qui m’a frappé, c’est à quel point leurs méthodes ressemblent à celles d’un bon régulateur. Ils recueillent des informations en s’adressant aux personnes concernées, expliquent publiquement leurs choix et mettent en place des mécanismes pour vérifier si ces choix résistent à l’épreuve des faits. Il ne s’agit ni de pratiques propres à la réglementation ni de pratiques propres aux entreprises. Ce sont les principes d’une prise de décision judicieuse dans toute institution qui exerce un pouvoir sur autrui. Dans Corporate Ordering, j’essaie de décrire ces mécanismes, de montrer où ils fonctionnent et où ils échouent.
Qu’entendez-vous par « gouvernance des entreprises », et en quoi cette notion aide-t-elle à comprendre comment les entreprises d’IA établissent des règles pour des technologies que la réglementation peine encore à encadrer ?
La gouvernance des entreprises désigne l’infrastructure interne que celles-ci mettent en place pour prendre des décisions contestées avant que la loi ne leur indique la marche à suivre. Elle remplit trois fonctions, qui font écho aux pouvoirs de l’État. L’élaboration des règles consiste, pour une entreprise, à définir ses propres principes. L’action exécutive consiste à les appliquer à des décisions concrètes. Le contrôle permet de vérifier si l’entreprise a bien donné suite à ses engagements et de découvrir les cas où elle ne l’a pas fait.
Les entreprises d’IA mettent en œuvre ces trois fonctions. Les laboratoires de pointe élaborent des chartes, des spécifications de modèles et des cadres de sécurité : c’est l’élaboration des règles. Ils décident si un modèle est prêt à être lancé, ce qu’il refusera de faire et qui pourra y accéder : c’est l’action exécutive. Enfin, ils commandent des exercices de red teaming, des évaluations externes et des rapports d’incidents : c’est le contrôle. Dans le livre, j’examine ces fonctions dans les principaux laboratoires. Les différences sont bien réelles, mais on observe aussi une convergence frappante, chaque entreprise découvrant pourquoi elle a besoin de chacun de ces éléments.
Je tiens à clarifier un point, souvent mal interprété : la gouvernance des entreprises ne constitue pas un argument contre la réglementation. Elle décrit les matériaux à partir desquels la réglementation sera élaborée. Lorsque les législateurs interviennent, ils reprennent des concepts conçus d’abord par les entreprises. La véritable question est de savoir si cette première ébauche a été rédigée avec suffisamment de soin pour mériter d’être reprise.
Votre livre examine le covoiturage, la durabilité climatique et la gouvernance de l’IA. Quels enseignements des deux premiers domaines sont les plus utiles pour l’IA, et quels défis fondamentalement différents l’IA pose-t-elle ?
Le covoiturage et le climat nous enseignent que les entreprises rédigent très souvent la première ébauche de la loi. Uber et Lyft ont élaboré des pratiques en matière d’assurance et de signalement des problèmes de sécurité avant que les États ne les encadrent par des règles, et une grande partie de la comptabilité carbone des entreprises repose sur le GHG Protocol, une norme à l’élaboration de laquelle le monde des affaires a contribué. Les autorités de réglementation ont ensuite approuvé ces pratiques, les ont complétées ou les ont inscrites dans la loi. La réglementation part rarement de zéro. Et plus les entreprises réfléchissent soigneusement à leurs choix et tiennent compte des parties concernées, plus ces choix ont de chances d’être repris dans la réglementation.
L’IA se distingue à deux égards. Le premier est la vitesse. Les autorités de réglementation ont souvent un temps de retard sur le secteur, mais, dans le domaine de l’IA, l’écart est bien plus important. Elles devront s’appuyer sur les entreprises pour élaborer des normes et des processus internes, tout en concentrant leurs propres efforts sur la surveillance, la vérification et l’application des règles. Leur rôle n’en sera pas moins important, mais différent. C’est au stade de la vérification que le pouvoir public compte le plus, car c’est là que le conflit d’intérêts avec la direction est le plus marqué. Le second écart concerne la portée. L’IA touche presque tous les aspects de la vie quotidienne et représente désormais un investissement majeur pour le pays dans son ensemble. Les implications en matière de risque systémique sont aussi difficiles à ignorer qu’à mesurer.
Lorsqu’une entreprise d’IA choisit et rémunère ses propres évaluateurs externes en matière de sécurité, quelles garanties permettent d’assurer une véritable indépendance de leur contrôle ?
Ce conflit d’intérêts est bien connu dans le domaine de l’audit financier, et le droit des sociétés dispose déjà d’outils pour le gérer. La première question est de savoir qui recrute et qui congédie. La relation avec l’évaluateur devrait relever d’administrateurs indépendants n’ayant aucun autre lien financier avec l’entreprise, tout comme le comité d’audit, et non le PDG ou le directeur financier, supervise l’auditeur externe. La direction ne devrait pas pouvoir congédier un évaluateur dont les conclusions la dérangent.
Le deuxième élément concerne l’accès à l’information et la publication. L’évaluateur doit pouvoir consulter les éléments auxquels il demande l’accès et avoir le droit de publier ses conclusions — ou, à tout le moins, un résumé substantiel — sans que l’entreprise puisse s’y opposer. C’est le risque d’atteinte à la réputation qui donne toute sa portée à une évaluation. Le troisième élément consiste à établir des normes d’évaluation communes, afin qu’une évaluation ait la même signification d’une entreprise à l’autre et que les évaluateurs ne puissent pas se faire concurrence en se montrant indulgents. Le quatrième élément est la protection des lanceurs d’alerte, voire leur récompense lorsqu’ils fournissent des informations exploitables, car les personnes au sein de l’entreprise sont souvent les premières à savoir qu’une évaluation a été orientée.
Supposons qu’un évaluateur externe relève un grave problème de sécurité juste avant le lancement d’un modèle majeur. À qui cette conclusion devrait-elle être communiquée, et qui devrait avoir le pouvoir de retarder ou d’interrompre le déploiement ?
La conclusion devrait être transmise directement au conseil d’administration, idéalement à un comité d’administrateurs indépendants chargé de la sécurité, et non uniquement par l’intermédiaire de l’équipe dirigeante qui pousse au lancement. La direction peut et doit répondre, mais elle ne devrait pas faire écran. Le pouvoir de retarder ou d’interrompre le déploiement devrait revenir au conseil d’administration, car c’est précisément le genre de décision qu’il lui appartient de prendre : une décision lourde de conséquences, qui met en jeu des intérêts contradictoires et pour laquelle il n’existe pas de réponse juste évidente.
Mais le plus important, c’est que la décision soit explicite, consignée par écrit et que l’on puisse en retracer l’origine jusqu’aux personnes qui l’ont prise. Si le conseil d’administration décide d’aller de l’avant malgré le problème soulevé, le compte rendu devrait indiquer ce qu’il savait, les éléments qu’il a pesés et les raisons pour lesquelles il a jugé le risque acceptable. Cette trace écrite crée les conditions d’une mise en cause de la responsabilité, ou à tout le moins d’une atteinte à la réputation, et incite à la prudence. Les tribunaux sont de plus en plus disposés à reconnaître que les choix de conception des logiciels ont des conséquences pour les utilisateurs, et une entreprise capable de démontrer qu’elle a déployé des efforts sérieux et documentés se trouve dans une situation très différente de celle qui ne le peut pas.
Lorsque les préoccupations de sécurité se heurtent aux objectifs de revenus ou à la pression concurrentielle, à quoi devrait ressembler un processus décisionnel crédible au sein du conseil d’administration ?
Un processus crédible est un processus éclairé, qui laisse une trace écrite. Le conseil d’administration devrait disposer d’informations concrètes sur le coût d’un retard, la nature et la probabilité du problème de sécurité, ainsi que les options permettant de l’atténuer. Il devrait se demander si les tests étaient suffisants et, dans le cas contraire, en commander d’autres ou solliciter un examen externe. Lorsqu’une véritable incertitude subsiste, il existe des solutions intermédiaires entre le lancement et l’abandon, comme une diffusion limitée, un déploiement progressif ou un bac à sable, qui permettent à l’entreprise d’en apprendre davantage avant de s’engager. Quelle que soit sa décision, les déclarations publiques de l’entreprise au sujet de la sécurité du modèle doivent être exactes ; c’est là que réside une grande partie du risque de litige actuel.
Le conseil d’administration devrait ensuite consigner sa décision et ses motifs. Avec le temps, ces documents constituent un ensemble de précédents : la prochaine décision difficile est alors évaluée à l’aune de la précédente, et toute personne qui examine l’entreprise peut vérifier si ses principes déclarés la contraignent réellement. Microsoft a commencé à constituer ce type de dossier décisionnel, et je pense que c’est l’un des outils les plus sous-estimés de la gouvernance de l’IA. La pression concurrentielle est réelle, et un conseil d’administration peut raisonnablement décider d’aller de l’avant. Ce qu’il ne peut pas faire, c’est laisser la décision se prendre par défaut.
Votre travail propose une norme de « jugement d’affaires social » pour évaluer les décisions des conseils d’administration. Comment s’appliquerait-elle à une entreprise d’IA qui reporte le lancement d’un produit rentable en raison de préjudices potentiels pour le public ?
En vertu du droit des sociétés actuel, un conseil d’administration qui reporte un lancement rentable est déjà bien protégé. Les tribunaux s’en remettent au jugement commercial des administrateurs, et renoncer à des bénéfices aujourd’hui pour éviter un préjudice demain s’inscrit tout à fait dans ce cadre. La question la plus difficile se pose dans l’autre sens : le conseil a-t-il pris au sérieux les préjudices potentiels pour le public ?
Le jugement d’affaires social demande au conseil d’administration d’évaluer les préjudices potentiels pour le public comme il évalue tout autre risque commercial, au moyen, dans la mesure du possible, d’indicateurs concrets, mesurables et précis. L’accent est mis sur la procédure et la diligence raisonnable, et non sur le résultat. Un conseil qui recueille les bonnes informations, entend les personnes concernées et consigne son raisonnement mérite que son jugement soit respecté, qu’il reporte le lancement ou qu’il le poursuive. Un conseil qui ne fait rien de tout cela ne le mérite pas. Dans le cas que vous décrivez, le report en soi n’est donc pas le problème. La question est de savoir si le conseil peut expliquer comment il est parvenu à cette décision et s’il prendrait la même décision de nouveau dans les mêmes circonstances.
Les entreprises d’IA publient des cadres de sécurité et prennent des engagements volontaires, mais les lecteurs voient rarement comment ces politiques influent sur des décisions particulières. Quels éléments permettraient de distinguer une gouvernance efficace d’une opération de relations publiques ?
Très souvent, lorsque les entreprises publient des cadres, le public se demande si ceux-ci s’appliquent réellement à des décisions précises ou s’ils restent de simples déclarations auxquelles l’entreprise ne donne jamais suite. La réponse passe par une forme particulière de transparence. Plutôt que de multiplier les déclarations de principe, les entreprises devraient rendre compte des choix précis qu’elles ont faits et de la manière dont le cadre les a influencés : quels lancements ont été retardés, quelles fonctionnalités ont été mises en attente, quels seuils de risque ont été franchis et quelles en ont été les suites.
L’indice le plus révélateur est une décision qui a coûté quelque chose à l’entreprise. Un cadre qui n’a jamais changé l’issue d’une décision, retardé un lancement ni été invoqué au détriment du chiffre d’affaires est difficile à distinguer d’un exercice de relations publiques. Ces informations doivent également être assez précises pour pouvoir être vérifiées et, pour les questions les plus lourdes de conséquences, elles devraient être validées par un tiers ayant l’autorité nécessaire pour le déclarer publiquement.
Où se situent les limites de l’autorégulation des entreprises ? Quelles décisions concernant les risques acceptables liés à l’IA nécessitent des règles publiques ou une supervision démocratique ?
La limite la plus importante concerne les défaillances de la surveillance. Même une entreprise bien intentionnée et responsable peut être confrontée à une crise majeure, et les conflits d’intérêts se multiplient alors. Les employés peuvent retenir des informations susceptibles de nuire à leur emploi ou à leurs primes. Les dirigeants peuvent étouffer les mauvaises nouvelles pour éviter les critiques publiques. La crainte de poursuites judiciaires peut empêcher l’entreprise de faire preuve de transparence. Lors de crises d’entreprise passées, les informations cruciales provenaient généralement de personnes que la direction ne pouvait pas contrôler : des auditeurs et des évaluateurs externes, des personnes touchées ou des lanceurs d’alerte internes recourant à des canaux de signalement indépendants.
C’est là que les règles publiques comptent le plus. La loi peut apporter relativement peu au stade de l’élaboration des règles, car les textes législatifs reprennent souvent les principaux concepts des entreprises. Elle peut contribuer davantage à la transparence en s’appliquant aux entreprises qui ne communiqueraient pas volontairement ces informations. Et c’est en matière de vérification qu’elle apporte le plus, en imposant un examen indépendant, en protégeant les lanceurs d’alerte et en conférant une véritable autorité aux contrôles externes.
L’autre limite est collective. Une entreprise ne peut, au mieux, que se contraindre elle-même. Elle ne peut pas arrêter ses concurrents. Les décisions concernant les risques catastrophiques, notamment celle de ralentir ou non le développement de pointe, nécessitent une coordination entre les entreprises et les gouvernements, au niveau national comme international. Un modèle qui me semble prometteur est celui d’un organisme international de normalisation inspiré de l’ISSB pour la publication d’informations sur le développement durable, indépendant des gouvernements, mais supervisé par des administrateurs qui les représentent. La régulation par les entreprises est nécessaire à ce travail, car la maîtrise de ces modèles s’opère au sein des entreprises qui les développent, mais elle ne peut à elle seule mener cette tâche à bien.
Si vous conseilliez aujourd’hui le conseil d’administration d’une entreprise d’IA en forte croissance, quelles seraient les trois réformes de gouvernance que vous privilégieriez, et quels éléments examineriez-vous un an plus tard pour déterminer si elles ont fonctionné ?
Premièrement, la consultation dans le cadre de l’élaboration des règles. Avant d’adopter ou de réviser son cadre de sécurité ou ses politiques d’utilisation, l’entreprise devrait consulter les personnes concernées (utilisateurs, société civile, spécialistes du domaine), puis publier ce qu’elle a entendu et la manière dont elle y a répondu. Deuxièmement, la publication régulière d’un rapport sur les responsabilités, qui rendrait compte chaque année des décisions difficiles prises par le conseil d’administration et la direction dans le cadre défini, avec suffisamment de détails pour permettre leur vérification. Troisièmement, la désignation d’un contrôleur externe, recruté par des administrateurs indépendants et relevant d’eux, auquel seraient accordés un accès complet et le droit de publier ses conclusions.
Un an plus tard, je chercherais à savoir si chacune de ces mesures a réellement produit des effets. Pour la consultation, je vérifierais qu’au moins une règle a été modifiée à la suite des observations reçues par l’entreprise. Pour le rapport, je chercherais des décisions divulguées dont l’entreprise aurait préféré ne pas parler, notamment celles qui lui ont coûté du chiffre d’affaires ou du temps. Pour le contrôleur, je rechercherais des conclusions que l’entreprise ne souhaitait pas entendre et des éléments indiquant ce que le conseil d’administration en a fait. Si, au bout d’un an, toutes les informations publiées sont positives, c’est que les changements n’ont pas fonctionné.
Merci pour cet excellent entretien. Les lecteurs qui souhaitent découvrir l’ouvrage et connaître les options d’achat peuvent consulter le site officiel de L’ordre des entreprises.












