Bougez rapidement, mais ne cassez rien : comment équilibrer l’adoption responsable de l’IA et l’innovation

Selon une récente enquête mondiale menée par McKinsey, même si 78 % des organisations utilisent désormais l’IA dans au moins une fonction commerciale, seuls 13 % ont embauché des spécialistes de la conformité de l’IA et un maigre 6 % ont des spécialistes de l’éthique de l’IA dans leur effectif.

C’est, franchement, un comportement irresponsable.

Bien que, dans mon passé récent, j’aie été un grand partisan de l’ethos « bougez rapidement et cassez les choses » de la Silicon Valley, nous ne pouvons pas nous permettre d’être aussi insouciants avec l’IA – une technologie qui est plus puissante que tout ce que nous avons vu auparavant et qui grandit à une vitesse fulgurante.

L’adoption de l’IA sans garde-fous significatifs est exactement le type de prise de corner rapide qui est garanti pour finir par avoir des conséquences négatives et risquer de tout casser. Il suffit d’un incident de biais de l’IA ou de mauvaise utilisation pour annuler des années de construction de la réputation de la marque.

Et bien que de nombreux DSI et DSI soient conscients de ces risques, ils semblent opérer sous l’hypothèse que les régulateurs interviendront éventuellement pour les sauver de l’établissement de leurs propres cadres, ce qui se traduit par beaucoup de discussions sur les risques avec très peu de surveillance réelle.

Même si j’ai aucun doute que les réglementations finiront par arriver, je suis moins confiant qu’elles seront établies bientôt. Le ChatGPT a été introduit il y a environ trois ans maintenant, et nous commençons seulement à voir des choses comme la réunion du Sénat sur les risques de sécurité des chatbots se produire. La réalité est qu’il pourrait s’écouler des années avant que nous voyions une réglementation significative.

Plutôt que de prendre cela comme une excuse pour retarder la gouvernance interne, cela devrait inciter les entreprises à adopter une approche plus proactive. Surtout compte tenu du fait que, lorsque les réglementations finiront par arriver, les entreprises sans leurs propres cadres seront aux prises pour se conformer. C’est exactement ce qui s’est passé lorsque le RGPD et le CCPA ont été promulgués.

Tout comme les startups débrouillards du début des années 2000 sont maintenant tenus à des normes plus élevées en tant que géants de la technologie dans lesquels ils se sont développés, nous devons collectivement mûrir dans notre approche de l’adoption responsable de l’IA.

Il n’y a pas de « payez plus tard » avec les déploiements d’IA responsables – commencez maintenant

La première étape d’une approche plus responsable de l’IA est de cesser d’attendre les régulateurs et de fixer ses propres règles. Tout avantage que vous pourriez penser gagner en évitant les garde-fous aujourd’hui ne fera que vous mordre plus tard, lorsque vous serez confrontés au processus extrêmement coûteux et perturbateur de la rétrofitting.

Bien sûr, pour beaucoup, le problème est de ne pas savoir par où commencer. Ma société a récemment mené une enquête auprès de 500 DSI et DSI dans de grandes entreprises et près de la moitié (48 %) ont cité « déterminer ce qui constitue une utilisation ou un déploiement responsable de l’IA » comme un défi pour assurer une utilisation éthique de l’IA.

Un endroit facile pour commencer est d’élargir votre focus au-delà des fonctionnalités rendues possibles par l’IA et de considérer les risques possibles. Par exemple, même si l’utilisation de l’IA peut économiser du temps pour les employés, elle ouvre également la possibilité de partager de grandes quantités de données d’informations personnelles identifiables (PII) ou de secrets commerciaux avec des LLM non autorisés et non approuvés.

Toute entreprise numérique aujourd’hui est familière avec le cycle de vie du développement logiciel (SDLC), qui fournit un cadre pour la construction de produits de qualité. Les meilleures pratiques de gouvernance de l’IA devraient être intégrées dans ce flux de travail quotidien pour garantir que la prise de décision responsable devienne une partie de la routine, et non une après-pensée.

Un organe de gouvernance, tel qu’un comité d’éthique ou un conseil de gouvernance, devrait être établi pour définir les normes sur ce que les applications de l’IA ressemblent réellement au sein de l’organisation, et définir de la même manière les métriques pour surveiller et maintenir cette norme. Fonctionnellement, cela ressemble à la gouvernance des outils et des modèles d’IA, à l’approbation des solutions, à la gestion des risques, à l’alignement réglementaire et normatif, et à la communication transparente. Même si cela peut être techniquement un « nouveau » processus, il n’est pas très différent des meilleures pratiques de données et du maintien de la cybersécurité, et peut être automatisé pour garantir la détection précoce de tout problème.

Bien sûr, tous les risques n’exigent pas le même niveau d’attention, il est donc également important de développer un processus de gestion des risques hiérarchisé pour que votre équipe puisse se concentrer principalement sur ce qui a été défini comme une priorité élevée.

Enfin, et surtout, une communication claire et transparente sur les pratiques de gouvernance, à la fois internes et externes, est primordiale. Cela inclut le maintien de documents vivants pour les normes de gouvernance et la fourniture d’une formation continue pour garder les équipes à jour.

Cessez de traiter la gouvernance comme une menace pour l’innovation

Il est tout à fait possible que la véritable menace pour l’IA responsable soit la croyance que la gouvernance et l’innovation sont en contradiction l’une avec l’autre. Nos données d’enquête ont révélé un énorme 87 % de DSI et de DSI qui estimaient que trop de réglementation limiterait l’innovation.

Mais la gouvernance devrait être traitée comme un partenaire stratégique, et non comme un frein à l’innovation.

Une raison pour laquelle la gouvernance est considérée comme une force de friction qui ralentit l’élan est qu’elle est souvent laissée pour la fin du développement de produit, mais les garde-fous devraient faire partie du processus. Comme mentionné ci-dessus, la gouvernance peut être intégrée dans les cycles de sprint de telle sorte qu’une équipe de produit puisse avancer rapidement, tandis que des vérifications automatisées pour l’équité, les préjugés et la conformité sont exécutées en parallèle. À long terme, cela paie, car les clients, les employés et les régulateurs se sentent plus confiants lorsqu’ils voient la responsabilité intégrée dès le départ.

Et cela a été prouvé pour rapporter des récompenses financières. Des recherches ont montré que les organisations dotées de cadres de gouvernance de données et d’IA bien mis en œuvre connaissent une amélioration de 21 à 49 % de leur performance financière. Un échec pour établir ces cadres, cependant, est également assorti de ses propres conséquences. Selon la même étude, d’ici 2027, la majorité des organisations (60 %) « ne parviendront pas à réaliser la valeur escomptée de leurs cas d’utilisation de l’IA en raison de cadres de gouvernance éthique incohérents ».

Une réserve à l’argument selon lequel la gouvernance n’a pas à se faire au détriment de l’innovation est que les équipes juridiques qui s’impliquent dans ces conversations ont tendance à ralentir les choses. Cependant, dans mon expérience, l’établissement d’une équipe de gouvernance, de risque et de conformité (GRC) va loin pour maintenir les choses en cours et rapidement en servant de pont entre les équipes juridiques et de produit.

Lorsqu’elle est bien gérée, l’équipe GRC établit des relations positives avec l’équipe juridique, servant de leurs yeux sur le terrain et leur fournissant les rapports dont ils ont besoin, tout en collaborant avec l’équipe de développement pour atténuer les risques futurs de poursuites et d’amendes. En fin de compte, cela renforce encore l’idée qu’investir dans la gouvernance dès le départ est la meilleure façon de garantir qu’elle n’interfère pas avec l’innovation.

Créez des systèmes de surveillance et de gouvernance qui puissent évoluer

Malgré le fait que tant de DSI et de DSI estiment que les réglementations pourraient limiter l’innovation, un pourcentage similaire (84 %) s’attend à ce que leur entreprise augmente la surveillance de l’IA au cours des 12 prochains mois. Compte tenu de la probabilité que les intégrations d’IA continuent de s’étendre et de s’accroître avec le temps, il est tout aussi important que les systèmes de gouvernance puissent évoluer avec eux.

Quelque chose que je vois souvent dans les premières étapes de la mise en œuvre de l’IA au sein des entreprises, c’est que différentes unités au sein de l’entreprise travaillent dans des silos de telle sorte qu’elles exécutent différents déploiements simultanément et avec différentes visions de ce que « l’IA responsable » implique. Pour éviter ces incohérences, les entreprises seraient bien inspirées d’établir un centre d’excellence dédié à l’IA qui combine l’expertise technique, de conformité et commerciale.

Le Centre d’excellence de l’IA établirait des normes à l’échelle de l’entreprise et des processus d’approbation hiérarchisés, où il y a une voie de glisse pour les cas d’utilisation à faible risque. Cela maintient la vitesse tout en garantissant que les déploiements à haut risque passent par des vérifications de sécurité plus formelles. De même, le Centre d’excellence devrait également établir des indicateurs de sécurité de l’IA pour les dirigeants de haut niveau afin que la responsabilité ne se perde pas dans les fonctions commerciales quotidiennes.

Mais pour rendre cela une réalité, les dirigeants ont besoin d’une meilleure visibilité dans le suivi des indicateurs de gouvernance. Des tableaux de bord qui fournissent des données en temps réel sur ces indicateurs seraient beaucoup plus efficaces que les rapports de conformité statiques actuels qui sont immédiatement obsolètes et qui sont souvent lus. Idéalement, les entreprises devraient également construire des registres de risques d’IA, de la même manière qu’elles suivent déjà les risques de cybersécurité, en plus de conserver des traces d’audit qui reflètent qui a construit une mise en œuvre de ML/IA, comment elle a été testée et comment elle se comporte au fil du temps.

La chose la plus importante à retenir ici est que l’IA responsable nécessite que la gouvernance soit un processus continu. Il ne s’agit pas seulement d’approbations lors du lancement, mais d’une surveillance continue tout au long du cycle de vie du modèle. Comme tel, la formation est clé. Les développeurs, les technologistes et les dirigeants d’entreprise devraient être formés aux pratiques d’IA responsables afin qu’ils puissent détecter les problèmes tôt et maintenir des normes de gouvernance élevées à mesure que les systèmes évoluent. En faisant cela, les déploiements d’IA sont susceptibles d’être plus fiables, plus efficaces et plus rentables – sans avoir à casser quoi que ce soit dans le processus.