Kimberly Nevala, Directrice des Stratégies d’Entreprise chez SAS – Série d’Entretiens

SAS est une entreprise mondiale d’analyse et d’IA qui propose des solutions dans la gestion des données, l’analyse avancée et l’intelligence artificielle. Sa plate-forme phare, SAS Viya, met l’accent sur la vitesse, la scalabilité et la prise de décision fiable pour les organisations de tous les secteurs. L’entreprise présente des cas d’utilisation dans la détection de la fraude, l’optimisation du marketing, l’IoT et la gestion des risques, tout en offrant des essais gratuits, des formations et des programmes universitaires pour soutenir l’adoption généralisée de l’analyse.

Vous avez construit votre carrière en guidant les organisations à travers des transformations culturelles, stratégiques et techniques complexes – de la consultation en gestion à la direction de la stratégie commerciale chez SAS. Comment ce parcours a-t-il façonné votre vision de ce qu’il faut vraiment aux entreprises pour adopter l’IA de manière significative et inclusive ?

Malgré la portée étendue des capacités émergentes de l’IA et de leurs ramifications sismiques, les blocs de base pour conduire la transformation technique n’ont pas changé. Même si les ramifications d’une erreur ont augmenté.

Tout d’abord, il faut une articulation claire des valeurs et des priorités de l’organisation. Avec une compréhension claire de la façon dont ces facteurs influencent la façon dont les employés ou les clients interagissent avec la marque. Ensuite, il faut une compréhension large de la technologie émergente, y compris ses limitations et ses contraintes inhérentes. Enfin, la visibilité des lacunes de compétences et des obstacles à l’adoption prévisibles en fonction des points un et deux ci-dessus. Notamment, cela ne se limite pas à l’expertise technique, mais également à l’acumen commercial.

Tout cela doit ensuite être soutenu par une gouvernance robuste mais adaptative. Étayée, bien sûr, par des investissements ciblés et délibérés dans les personnes et la technologie.

Vous avez parlé de l’alphabétisation de l’IA qui atteint le niveau de compétences de leadership essentielles comme la pensée stratégique et l’acumen financier. Qu’est-ce que la maîtrise de l’IA ressemble-t-elle dans la pratique pour les dirigeants d’aujourd’hui ?

Le test de la maîtrise pratique est simple. Les dirigeants ont-ils les connaissances nécessaires pour interroger de manière intelligente une solution d’IA proposée ?

Ceci n’est pas pour suggérer que les dirigeants doivent s’immerger dans le code. Plutôt, les dirigeants à tous les niveaux devraient démontrer une compétence contextuelle. Cela signifie qu’ils sont éduqués dans les facteurs qui pourraient avoir un impact ou influencer leur jugement d’un système d’IA. Ces facteurs changeront en fonction du rôle du dirigeant. Plus précisément, la portée de la décision qu’ils sont chargés de prendre.

En d’autres termes, le test est le suivant : savent-ils quelles questions poser ? Par exemple, un dirigeant peut-il identifier les facteurs humains et techniques ayant le plus grand impact sur la viabilité et le profil de risque d’une solution d’IA donnée ? À la fois de manière générale et dans un contexte appliqué.

Mieux encore : comprennent-ils les limites de la technologie ? Les relations publiques et le marketing tendent à se concentrer sur le côté positif, tandis que la formation expérimentale expose les limites. Ces limites peuvent dicter les garde-fous procéduraux et techniques nécessaires pour déployer une solution d’IA de manière rentable. Dans ce sens, la mesure dans laquelle les dirigeants comprennent et identifient ces limites est souvent la différence entre une adoption significative et l’échec.

Pourquoi l’équité de genre dans le leadership de l’IA est-elle une question si cruciale en ce moment – et quels risques courons-nous si les femmes restent des adoptantes passives plutôt que des façonneuses actives du développement et de la gouvernance de l’IA ?

Je suis privilégiée de travailler, de discuter avec et d’apprendre de femmes qui travaillent dans tous les aspects de l’IA chaque jour. Ainsi, la présentation des femmes comme des adoptantes passives, pour moi, évoque des images qui sont enfantines et trompeuses. Les femmes sont activement impliquées dans la direction des efforts d’IA, même si leur nombre est inférieur à celui de la population éduquée.

L’inégalité de genre dans la technologie est un problème multifacette qui précède l’IA. Il n’y a pas de solution unique, car il y a de nombreux facteurs en jeu. Certains entraînent moins de financement pour et/ou de reconnaissance des femmes dans le domaine. Ce qui rend ironiquement douloureux que les femmes qui reçoivent une reconnaissance large travaillent souvent dans l’IA responsable ou éthique. Initialement étiquetées comme anti-IA, leur travail est maintenant réexaminé à mesure que les attitudes évoluent.

Quoi qu’il en soit, sans intervention délibérée, nous risquons des systèmes d’IA qui exacerbent les inégalités existantes à grande échelle. Nous voyons cela dans l’utilisation de systèmes de dépistage et de recrutement automatisés qui préfèrent les candidats masculins en raison des préjugés historiques capturés dans les données.

Un manque de diversité à tous les niveaux signifie que les décisions concernant les types de systèmes d’IA qui sont construits, la façon dont ils sont déployés, les perspectives et les besoins qu’ils abordent et ceux qu’ils n’abordent pas, sont dictées par un groupe de plus en plus isolé. C’est mauvais pour tout le monde. Les équipes de direction diversifiées conduisent à de meilleurs résultats commerciaux. Les équipes de produits diversifiées livrent des solutions d’IA plus robustes, plus résilientes et qui fonctionnent mieux.

À la fin, si les systèmes d’IA ne répondent pas aux perspectives et aux besoins des femmes (ou de toute autre population sous-représentée) ou s’ils sont jugés nocifs, quelle est l’incitation à l’adoption ? Sauf, bien sûr, que ces systèmes seront déployés avec ou sans notre participation. En incluant des voix diverses et en appliquant la gouvernance de l’IA, il est possible de tenir les promesses de l’IA.

Compte tenu des dernières innovations de SAS – telles que les agents d’IA au sein de SAS Viya, les cadres de prise de décision intelligents, les outils de données synthétiques comme Data Maker et les modèles d’IA personnalisés – comment les entreprises repensent-elles leurs pipelines de leadership pour élever à la fois la maîtrise de l’IA et l’équité ?

Les entreprises réalisent que la portée et l’impact de ces applications dépassent la capacité de tout décideur ou acteur unique. Le déploiement réussi de l’IA avancée dépend de la confiance et de l’engagement de la « communauté ». Les problèmes et les pièges potentiels sont trop larges pour qu’un dirigeant puisse les aborder efficacement seul.

En reconnaissance de cette réalité, les entreprises d’IA de pointe s’appuient sur des pratiques de conception et de gouvernance participatives. Dans ce modèle, la maîtrise et l’équité ne sont pas améliorées par des programmes de formation et de littératie formels, ni par des initiatives RH seules. Mais par le partage des connaissances et la prise de décision collective qui se produisent lorsque des perspectives diverses de l’écosystème de l’entreprise sont réunies. Ces collaborations ne sont pas limitées strictement aux décideurs, mais incluent activement les personnes dont le travail sera affecté par le système d’IA en question. Alors que cela est principalement le domaine des agences publiques et gouvernementales aujourd’hui, certaines organisations ont activement engagé des parties prenantes externes, y compris des groupes de clients et des organisations d’intérêt public.

Quelles étapes pratiques les dirigeants aspirants – en particulier les femmes – peuvent-ils prendre aujourd’hui pour construire leur crédibilité et leur agence dans un marché de plus en plus dominé par l’IA ?

Tout d’abord, il faut reconnaître que nous avons une agence. Chaque individu a la possibilité d’influencer le développement de l’IA de diverses manières : par la consommation et l’utilisation délibérées d’outils d’IA particuliers ; par le plaidoyer et l’engagement collectif dans les forums communautaires et la politique locale ; en rejoignant des groupes d’intérêt des employés ou des réseaux de champions communautaires (et si ceux-ci n’existent pas, en en créant un) ; et en levant la main pour participer aux programmes d’IA ou diriger des initiatives sur le lieu de travail.

Deuxièmement, il faut investir dans sa propre littératie à tout niveau qui vous convient. Il existe de nombreuses ressources en ligne allant des cours sur la gouvernance et l’éthique de l’IA aux cours universitaires en ligne introductifs couvrant l’ensemble des capacités de l’IA. Beaucoup de ces options sont proposées gratuitement ou pour des frais nominaux.

Enfin, rejoignez et contribuez activement aux groupes de réseautage de l’industrie de l’IA ou aux groupes d’intérêt spécial. Ceux-ci offrent l’occasion non seulement de partager des connaissances, mais également de cultiver des relations qui peuvent fournir un mentorat, des alliances et une crédibilité à mesure que vous construisez votre expertise et votre réseau.

Vous avez longtemps insisté sur la transformation culturelle, la gouvernance des données et l’adoption responsable de la technologie. Comment ces éléments fondamentaux soutiennent-ils le développement de dirigeants prêts à l’IA ?

La réponse traditionnelle est que ces fondements dotent les dirigeants des outils pour aborder la complexité, gérer les risques, réduire les coûts et accroître la productivité. Tous ces résultats sont vrais, cependant, le bénéfice le plus sous-estimé de ces pratiques est la confiance.

Lorsqu’elles sont bien faites, ces éléments créent un environnement dans lequel les employés peuvent expérimenter et innover avec confiance dans les limites de l’éthos commercial, juridique et éthique de l’entreprise.

Ceci est particulièrement important dans la mesure où les solutions disponibles vont des outils de productivité personnelle aux flux de travail intégrés. Les décisions concernant l’utilisation de l’IA ne se produisent pas seulement dans la salle du conseil d’administration ou dans le contexte d’un projet d’IA formel. De la conception à l’exploration, au déploiement et au-delà, une myriade de facteurs influencent la façon dont le système fonctionne et est perçu.

Une orientation réactive permet aux individus et aux équipes à tous les niveaux d’expérimenter activement, de prendre des décisions opportunes sur la façon d’améliorer les solutions et de construire mieux dans les limites d’un système de réglementation.

Ce lien direct entre l’innovation responsable et adaptative et la gouvernance n’est plus hypothétique. IDC et SAS ont récemment mené des recherches sur le lien entre les pratiques d’IA responsables, la confiance et la réalisation de la valeur. L’innovation responsable n’est pas un bien théorique, mais de plus en plus un impératif économique.

À partir de vos conversations sur votre podcast Pondering AI, quels sont les points clés sur le leadership responsable et inclusif qui sont les plus critiques pour les organisations qui naviguent dans la transformation de l’IA ?

Le langage de l’IA est délicat. Nous parlons de systèmes d’IA qui pensent, qui hallucinent et qui se comportent même mal. Nous conceptualisons les systèmes d’IA comme des collègues ou des équipiers. Comme tel, il est tentant de transférer des hypothèses et des attentes des humains à l’IA. Nous perdons ainsi le focus sur la responsabilité humaine, la participation et l’utilisation responsable. Nous obscurcissons également la rigueur requise pour livrer des systèmes d’IA robustes et résilients qui, lorsqu’ils sont bien faits, semblent simples.

Ceci rend critique le fait de centrer notre compréhension de l’IA comme une entreprise humaine inhérente. Malgré les récits anthropomorphiques prévalents, les systèmes d’IA reflètent toujours les valeurs et les intentions de leurs créateurs : les problèmes que nous choisissons de résoudre, les techniques ou les modèles que nous appliquons, les données que nous utilisons pour la formation, et la façon dont les utilisateurs interagissent avec le système. Chaque système d’IA est le produit de ces décisions humaines.

La confiance et la confiance dans les systèmes d’IA ne viennent pas de l’IA. Les humains décident en fin de compte d’automatiser ou d’augmenter le travail d’une personne. Ce n’est pas le système qui détermine quel niveau de précision ou d’explicabilité est suffisant. Ce n’est pas l’IA qui détermine le modèle d’interaction utilisateur le plus approprié. Lorsqu’un chatbot se comporte mal, cela n’affecte pas l’IA ; cela dégrade la marque et le chiffre d’affaires de l’entreprise qui utilise l’IA.

Par conséquent, l’IA centrée sur l’humain est clé.

De nombreuses organisations ont des ensembles d’outils d’IA avancés – mais elles ont encore des difficultés avec la culture, la gouvernance et l’inclusion. À partir de votre expérience, quels sont les interventions ou les mentalités qui aident les organisations à combler efficacement cet écart ?

L’IA, comme de nombreuses technologies émergentes, est sujette à tomber dans le même cycle d’hype que ses prédécesseurs. À l’époque des grandes données, devenir axé sur les données était à la mode. Peu d’organisations ont réalisé leur vision. Ceux qui l’ont fait étaient disciplinés pour résoudre des problèmes identifiables, tels que réduire les délais de livraison pour X ou permettre l’auto-service pour Y. Il n’est pas étonnant que beaucoup de ces mêmes entreprises soient maintenant des leaders de l’industrie dans l’IA.

Lors de l’identification des initiatives d’IA, commencez par des objectifs commerciaux clairs et des résultats mesurables, puis identifiez les techniques d’IA disponibles qui sont adaptées à cet usage. Résistez à l’envie d’être flash. Les solutions innovantes aux problèmes ennuyeux rapportent finalement des dividendes. Abordez les processus et les tâches répétitifs et fastidieux qui se produisent à grande échelle.

Vous ne réussirez pas toujours. Mais en concentrant votre attention et votre investissement sur le résultat commercial, vous permettez la plus grande probabilité de succès.

À mesure que les systèmes d’IA deviennent plus autonomes et intégrés dans la prise de décision – grâce à des outils comme les agents d’IA et les assistants de copilote – quels garde-fous éthiques ou structures de gouvernance sont essentiels pour maintenir la confiance, la transparence et l’équité dans le leadership ?

Chez SAS, nous définissons la gouvernance de l’IA à travers le prisme de la surveillance, de la conformité, des opérations et de la culture. Quel que soit le cadre que vous adoptiez, il y a deux facteurs que je soulignerais.

Le premier est que chaque application d’IA, même si elle est construite sur le même modèle ou les mêmes jeux de données sous-jacents, doit être évaluée de manière indépendante et de manière continue. Ce qui fonctionne pour le marketing peut ne pas fonctionner pour la finance. Un taux d’erreur acceptable pour les employés ne sera pas efficace dans les interactions avec les clients. De plus, en raison de leur nature probabiliste, les changements dans le comportement des utilisateurs, les flux de données sous-jacents et une myriade d’autres facteurs peuvent rapidement modifier le comportement et les sorties d’un système d’IA.

Le second est que l’éthique et la gouvernance de l’IA n’existent pas dans un vide. La nature de ces solutions nécessite une collaboration avec la gouvernance d’entreprise, la conformité juridique et réglementaire, la gestion des risques d’entreprise et la cybersécurité. En exploitant et en étendant ces pratiques plutôt que de les réinventer, vous pouvez obtenir un départ rapide.

En regardant vers l’avenir, comment voyez-vous les compétences de leadership changer dans un monde dominé par l’IA – et quels sont les implications pour les organisations qui ne cultivent pas cette nouvelle maîtrise ?

Je crois que la prévoyance et la résilience deviendront de plus en plus importantes. Le rythme rapide du changement encourage les dirigeants à évaluer et à adapter continuellement les stratégies et les tactiques commerciales à mesure que la technologie évolue. Les dirigeants doivent évaluer la valeur, la viabilité et le risque à différents horizons et perspectives. Compte tenu de la nature sociotechnique de l’IA, ces perspectives doivent de plus en plus inclure non seulement les actionnaires, mais également les clients, les employés et, parfois, la société dans son ensemble. La prévoyance est nécessaire pour naviguer dans ce paysage.

La résilience est également un facteur dans l’IA. Comme Jordan Loewen-Colón le note éloquemment en référence à l’adoption et à la gouvernance de l’IA : l’IA est un processus, pas un commutateur. La capacité à apprendre intentionnellement, à s’adapter et à améliorer continuellement tout en restant sur le cap général sera ce qui différenciera les dirigeants du reste.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter SAS.