Steve Nemzer, Sr. Directeur, Croissance et Innovation de l’IA, TELUS Digital – Série d’entretiens

Steve Nemzer, Sr. Directeur, Croissance et Innovation de l’IA, TELUS Digital, dirige des initiatives axées sur l’avancement des données de formation de l’IA et des infrastructures pour les systèmes d’intelligence artificielle de nouvelle génération. Son travail comprend le développement de jeux de données pour les modèles de recherche en profondeur, les environnements d’apprentissage par renforcement, les données de modèle de monde, les initiatives d’IA souveraine et les cadres de mitigation des risques de l’IA, avec un fort accent sur les pratiques d’IA responsables telles que l’adressage des préjugés des jeux de données et le soutien aux conditions de travail équitables pour les formateurs d’IA. Plus tôt dans sa carrière, Nemzer a fondé VeriTest Labs, aidant les premiers leaders technologiques, notamment Microsoft (MSFT ), Intel (INTC ), Oracle (ORCL ) et Sun Microsystems, à construire des écosystèmes de logiciels tiers prospères avant que l’entreprise ne soit acquise par Lionbridge.

TELUS Digital est une société de services technologiques mondiaux qui aide les organisations à concevoir, construire et exploiter des plateformes numériques et des solutions alimentées par l’IA. Opérant dans des dizaines de pays, l’entreprise fournit des services tels que la formation de l’IA, l’annotation et la gestion de l’expérience client. Ses plateformes et services soutiennent les entreprises dans diverses industries, notamment la technologie, la finance, les soins de santé, les télécommunications et les jeux, alors qu’elles modernisent leurs opérations et déploient des capacités d’IA avancées.

Étant donné votre expérience dans les tests d’IA, la validation des données et le déploiement responsable, comment voyez-vous le passage d’une IA générative basée sur le langage à des modèles de monde qui visent à raisonner sur des situations et des résultats réels, en particulier dans votre rôle actuel chez TELUS Digital ?

Les grands modèles de langage (LLM) sont fondamentalement des systèmes de prédiction de modèles. Ils génèrent des réponses en prédisant le prochain jeton en fonction des modèles appris à partir de grands corpus statiques. Même si cela peut ressembler à un raisonnement, le modèle ne modélise pas réellement la façon dont les actions modifient l’état du monde.

Les modèles de monde adoptent une approche différente. Au lieu de prédire le prochain mot ou le prochain jeton, ils visent à prédire l’état suivant d’un système en modélisant les transitions d’état. Cela permet aux systèmes de simuler comment les environnements évoluent en réponse aux actions. Dans la pratique, cela ouvre la porte à un raisonnement hypothétique, où un modèle peut évaluer différents résultats possibles avant de prendre une décision. Pour les systèmes interactifs, cela peut soutenir une prise de décision et une planification plus fiables.

Ce changement modifie également la façon dont nous réfléchissons au déploiement responsable. Avec les systèmes d’IA générative traditionnels, une grande partie de l’attention a été portée sur des questions telles que les préjugés et les hallucinations. À mesure que les modèles passent à la raison sur les environnements et les actions, d’autres risques deviennent plus importants.

Par exemple, les organisations doivent considérer l’écart « sim-to-real », où les comportements appris dans des environnements simulés peuvent ne pas se traduire proprement dans des conditions réelles. Le décalage de distribution devient également une préoccupation clé, car les environnements que les modèles rencontrent lors du déploiement peuvent différer des données sur lesquelles ils ont été formés.

C’est là que les tests et la validation deviennent critiques, ce qui constitue un grand axe de mon rôle chez TELUS Digital. À mesure que les systèmes d’IA passent de la génération de langage à des systèmes qui interagissent avec les environnements et prennent des décisions, les organisations ont besoin de cadres d’évaluation rigoureux pour garantir que les modèles se comportent de manière fiable dans des conditions réelles.

Beaucoup de gens sont familiers avec les grands modèles de langage, mais peu comprennent les modèles de monde. En termes simples, quel problème les modèles de monde tentent-ils de résoudre que les LLM fondamentalement luttent ?

Un modèle de monde est un système qui peut prédire « ce qui se passe ensuite » étant donné un état actuel et une action. La formule est : État + Action → État suivant

Si je tiens une pomme et que je la lâche, un modèle de monde prédit que la pomme tombe. Il ne sait pas seulement à quoi ressemblent les pommes ou ce que les gens disent sur le fait de lâcher des pommes – il prédit la conséquence en fonction d’une compréhension de la physique. Un modèle de monde sophistiqué prédira ce qui se passerait si je faisais la même chose sur la station spatiale internationale par rapport à la surface de la Terre.

Ceci est différent d’un LLM. Un LLM prédit : « Étant donné cette séquence de jetons, quel jeton vient ensuite ? » Il est formé sur du texte – ce que les humains ont écrit sur le monde, et non sur le monde lui-même. Il peut vous dire que les pommes lâchées tombent parce qu’il a lu à ce sujet. Mais il n’a pas de moteur de physique interne qui simule la chute.

En d’autres termes, les LLM sont bons pour prédire statistiquement le prochain mot d’une réponse à une question, mais la compréhension du monde réel va au-delà de la description et de la cohérence du langage. Les modèles de monde visent à comprendre comment les situations évoluent étape par étape, quel est l’état suivant étant donné l’état actuel et l’action qui va se produire, quels sont les contraintes.

Les modèles de monde sont souvent décrits comme permettant aux systèmes d’IA de simuler les résultats avant d’agir. À quoi cela ressemble-t-il dans la pratique, et à quel point sommes-nous proches de voir cela fonctionner de manière fiable en dehors des environnements de recherche ?

Un défi pour répondre à cette question est que le terme « modèle de monde » est utilisé de manière plutôt lâche, et le sens tend à changer en fonction du contexte. Une définition simple de modèle de monde est qu’il permet à un agent de simuler son état actuel et son environnement, et de prédire les états futurs, et de raisonner sur les conséquences en aval. Les chercheurs ont tendance à catégoriser les modèles de monde de manière un peu plus granulaire, en fonction de leurs méthodes de représentation et de traitement. Il y a des modèles de monde latents, qui distillent « l’essence » d’un environnement dans un espace compact et focalisé. Il y a des modèles de monde génératifs qui « comprennent » la physique pour créer des représentations visuelles image par image, et il y a des modèles d’architecture prédictive d’incrustation conjointe (JEPA) qui prédissent les résultats à partir d’actions passées.

Les modèles de monde latents sont déjà sortis du laboratoire de recherche et aident dans des applications telles que la conduite autonome, les opérations de entrepôt, les opérations industrielles et l’agriculture. Les modèles de monde génératifs apparaissent dans la création de données synthétiques pour le développement de moteurs de jeu, pour les cas d’utilisation de conduite autonome, les cas d’utilisation d’IA incarnée pour la simulation de mouvements humains dans des vidéos, et pour créer des rendus architecturaux,

L’approche JEPA, préférée par des luminaires de l’industrie comme Yan LeCun, prédit les résultats dans un espace de représentation abstrait plutôt que de générer des pixels. Les robots ont été largement confinés à des environnements contrôlés, mais JEPA est en train de changer cela, permettant aux robots de passer à des environnements ouverts et réels. Les véhicules autonomes sont un bon exemple – certains utilisent Genie 3 pour générer des simulations hyper-réalistes et interactives pour la formation et pour mieux gérer les événements rares comme les zones de construction.

Évidemment, il y a encore beaucoup de tests de sécurité et de fiabilité requis pour mettre à l’échelle ces modèles en dehors des environnements de laboratoire et dans le monde réel.

Du point de vue de l’entreprise, où vous attendez-vous que les modèles de monde apportent une valeur significative en premier lieu, que ce soit dans la robotique, les systèmes de décision autonomes, les jumeaux numériques ou des contextes commerciaux plus abstraits ?

Mon sentiment est que les jumeaux numériques sont susceptibles d’apporter une valeur pratique en premier lieu. La réplication de l’état d’un système réel pour tester des scénarios avant d’agir. Par exemple, dans un système de chaîne d’approvisionnement, un fabricant peut construire un jumeau de son réseau de partenaires de composants. La simulation peut être alimentée par des données de capteurs, des journaux, des données de télémétrie et peut répondre à des questions comme « Que se passerait-il si le détroit d’Hormuz était fermé ? » Nous pouvons ainsi tester la réacheminement des livraisons avant de modifier réellement la logistique. Cela nous aide à passer de la surveillance d’un système en direct à la simulation d’un système en direct.

La valeur significative des modèles de monde pour la robotique progresse en parallèle. Avoir des robots qui comprennent les propriétés fondamentales de la physique, comme la friction sur une surface lors de la prise d’un objet, va donner un élan important au déploiement de l’IA incarnée.

Une grande partie de votre carrière a porté sur la collecte de données, l’annotation et la validation. Comment les défis de données changent-ils lors du passage de la formation de texte statique à l’enseignement des systèmes sur le comportement du monde au fil du temps ?

La situation de collecte de données pour la mise en œuvre des modèles de monde nécessite un grand virage par rapport aux méthodes de formation des LLM d’hier. Tout d’abord, nous n’avons pas de grandes quantités de données de pré-formation disponibles, des pétaoctets provenant de Common Crawl et des milliards de pages Web. Certains chercheurs en robotique ont spéculé que nous n’avons que 1/1000ème la quantité de données nécessaires pour former l’intelligence physique et les modèles de monde, pour atteindre un point de performance équivalent à celui du GPT2.

Il faudra donc du temps pour construire ces jeux de données. Dans le cas de l’IA incarnée, nous allons avoir besoin de millions d’heures de données de capteurs multi-sources annotées. Certaines seront téléopérées, d’autres proviendront d’environnements synthétiques comme Isaac Sim. Chez TELUS Digital, nous avons effectué le virage de texte à multimodal et de données de simulation. Nous sommes bien sûr aidés par notre solide expérience dans la collecte et l’annotation de données en vision par ordinateur. Nous sommes à la pointe dans ce domaine depuis de nombreuses années.

Au-delà de la rareté des données de pré-formation et des données de réglage fin, il y aura de nombreux autres défis de formation dans l’augmentation de l’apprentissage par renforcement. Il peut y avoir de nouveaux paradigmes transformatifs (sans jeu de mots) comme GPT et les concepts de RL nécessaires pour accélérer les avancées en efficacité dans les méthodes de formation des modèles de monde.

Les modèles de monde influencent les décisions plutôt que de simplement générer des sorties. Quels nouveaux risques de sécurité ou de gouvernance cela introduit-il par rapport aux systèmes d’IA génératifs ?

Il y a de nombreux risques de sécurité et de gouvernance, car les modèles de monde sont inhérentement destinés à soutenir les opérations d’agents. Toutes les préoccupations que nous avons concernant la génération actuelle d’agents d’IA s’appliquent toujours dans le scénario de modèle de monde. Nous avons besoin d’une surveillance humaine pour toutes les prises de décision importantes, qu’il s’agisse de sécurité routière, de sécurité professionnelle, de soins de santé, de finances et d’activités quotidiennes.

Un exemple spécifique aux modèles de monde est l’écart entre les données de formation de simulation et les environnements réels. Une variation de surface microscopique peut rendre le monde réel compliqué pour les robots bien formés en simulation.

Un autre risque est lié au comportement humain. À mesure que les systèmes deviennent de plus en plus autonomes, les humains commenceront à s’appuyer lourdement sur eux, et la surveillance peut devenir laxiste, et éventuellement le système ne recevra pas les récalibrations nécessaires.

Les préjugés et la confiance restent des barrières majeures à l’adoption de l’IA. Comment ces préoccupations évoluent-elles lorsque les systèmes d’IA commencent à modéliser et à agir dans des environnements réels ou sociaux complexes ?

De la part du grand public à la direction, la confiance dans les modèles d’IA est déjà très faible et je ne vois pas cela changer beaucoup à court terme.

Les préoccupations concernant le pouvoir de l’IA concentré entre les mains de quelques-uns, l’IA prenant des emplois, les préjugés dans l’IA mettant les groupes sous-représentés en désavantage, les modèles prenant des décisions qui affectent la santé, la carrière et les finances d’une personne, les modèles utilisant la propriété intellectuelle sans consentement, ainsi que les préoccupations concernant les deepfakes d’IA, sont déjà très élevées. Les dirigeants s’inquiètent de la gestion des transitions de la main-d’œuvre, de la confidentialité des données et de la conformité réglementaire, et de perdre du terrain face à la concurrence dans une course aux armements d’IA.

Les développements récents dans l’actualité concernant la pression du gouvernement sur les constructeurs de modèles d’IA fondamentaux pour assouplir les conditions d’utilisation concernant des choses comme les armes autonomes ou la surveillance de masse ne font qu’amplifier ces préoccupations. Un déploiement plus large de robots plus intelligents et plus autonomes basés sur des modèles de monde va faire de même.

D’un autre côté, nous voyons des poches d’adoption et de confiance généralisées en IA. Un exemple est la façon dont les agents de codage ont pris leur essor au cours des derniers mois. Les directeurs de développement de logiciels ont une grande confiance dans les agents de codage, et il y a un changement fondamental dans la façon dont le développement de logiciels est réalisé, de la conception du PRD à la phase de test de régression après la sortie. Le monde du développement de logiciels évolue à une vitesse fulgurante, et une grande partie de cela est due à la confiance dans les agents de codage à haute performance. À mesure que la confiance des utilisateurs grandit dans d’autres cas d’utilisation, je m’attends à ce que l’adoption décolle de la même manière.

Les solutions pour établir la confiance incluent des jeux de données et des environnements diversifiés lors des phases de formation, ainsi que des tests de sécurité et de stress en tant que garde-fou de sécurité avant le déploiement. Une surveillance réglementaire proactive est également nécessaire. Certains ont suggéré que les constructeurs de modèles fondamentaux devraient être tenus de fournir des « Rapports d’impact sociétal », similaires aux Études d’impact environnemental (EIE), avant la sortie de nouveaux modèles.

Chez TELUS Digital, une grande partie du travail consiste à déployer l’IA à grande échelle pour de véritables entreprises et de véritables utilisateurs. Comment des idées comme les modèles de monde se croisent-elles avec des préoccupations pratiques telles que la transparence, l’impact sur la main-d’œuvre et le maintien de la confiance des clients ?

Pour clarifier, TELUS Digital travaille à la fois en amont directement avec les constructeurs de modèles fondamentaux et en aval avec les entreprises qui déploient des modèles d’IA. Notre champ d’action est de bout en bout :

La question sur les préoccupations pratiques est liée à la question précédente sur la confiance. Examinons la confiance de la main-d’œuvre. À mesure que les IA basées sur les modèles de monde deviennent plus omniprésentes, les dirigeants doivent être transparents avec leurs employés, contractants et clients. Des communications claires sont nécessaires sur ce que les modèles sont capables de faire, comment ils ont été formés, quelles données ont été utilisées pour les former, quelles barrières de sécurité ont été mises en place et où la surveillance humaine intervient. Les dirigeants d’entreprise doivent montrer à la main-d’œuvre actuelle la valeur des nouveaux modèles, par exemple en faisant tout le travail fastidieux dans un emploi. Et ils doivent montrer des chemins de transition pour les travailleurs touchés qui pourraient passer à de nouveaux emplois émergents à mesure que les anciens sont de plus en plus réalisés par les IA basées sur les modèles de monde. Les travailleurs de col blanc font face à cela en temps réel, et de nombreux emplois manuels seront affectés dans les années à venir à mesure que l’automatisation basée sur les modèles de monde se développe.

Il y a un fossé croissant entre ce que les chercheurs en IA comprennent et ce que le public perçoit. Comment les organisations peuvent-elles communiquer des avancées comme les modèles de monde d’une manière qui établit la confiance sans surestimer leurs capacités ?

Encore une fois, cela revient à la transparence sur les limites des modèles et sur ce que les modèles sont capables de faire. La communication de la façon dont les modèles ont été formés pour atténuer les préjugés potentiels. Quelle surveillance humaine est en place. Quelques démonstrations réelles des capacités du modèle et des cas d’utilisation, couplées à des études longitudinales, peuvent aller loin pour accroître la confiance du public et de la main-d’œuvre.

Enfin, qu’est-ce qu’un malentendu courant sur les modèles de monde d’IA, que ce soit trop optimiste ou trop prudent, qui, selon vous, doit être corrigé dès maintenant ?

Dans la mesure limitée où le grand public est informé des modèles de monde, un malentendu est que les modèles de monde ont besoin de comprendre toute la physique et la science pour être efficaces. Les modèles de monde seront déployés plus tôt que l’on ne pourrait s’y attendre parce que les cas d’utilisation individuels peuvent être affinés. Un véhicule autonome n’a besoin de comprendre que la dynamique du trafic et la physique liée à la route, et comment les conditions actuelles (par exemple, être près d’une école primaire, ou une prévalence de SUV à silhouettes hautes à proximité) affecteront leur vision et leur prise de décision. Un véhicule autonome n’a pas besoin de la physique qui sous-tend la façon dont fonctionne la cuisson d’un soufflé pour fonctionner.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter TELUS Digital.