Prof. Saeema Ahmed-Kristensen, Directrice du laboratoire DIGIT – Série d’entretiens

Professeure Saeema Ahmed-Kristensen est une éminente spécialiste de l’ingénierie de conception et vice-rectrice associée (Recherche et Impact) à l’Université d’Exeter, où elle dirige également le laboratoire DIGIT, une importante initiative de recherche interdisciplinaire axée sur l’innovation numérique et la transformation. Ses recherches portent sur la créativité et la cognition de conception, la conception numérique et basée sur les données, ainsi que l’intégration de technologies avancées dans le développement de produits et d’ingénierie complexes, avec un fort accent sur la traduction des connaissances académiques en impact réel grâce à la collaboration avec l’industrie, l’engagement politique et les programmes de recherche à grande échelle.

Votre carrière a traversé Cambridge, DTU, Imperial College London, le Royal College of Art, et maintenant l’Université d’Exeter. En regardant en arrière, quels expériences ou points de repère ont le plus façonné votre réflexion sur la conception, la créativité et le rôle des technologies numériques ?

Mon travail dans la conception s’est déroulé à travers de nombreuses cultures et disciplines différentes. J’ai commencé à Brunel sur l’un des rares cours qui combinaient la technologie, la conception centrée sur l’humain et une compréhension de la forme. Cela m’a enseigné dès le début que la créativité et l’innovation sont étroitement liées.

Mes études à Cambridge ont ensuite élargi mes perspectives. L’environnement universitaire m’a exposée à de nombreuses disciplines et m’a montré comment l’innovation dépend de la connaissance qui se réunit à travers les domaines. Ma thèse de doctorat s’est concentrée sur le secteur aérospatial et a examiné comment les concepteurs d’ingénierie trouvent et utilisent l’information. J’ai étudié comment les gens accèdent à la connaissance, comment l’expertise peut être soutenue ou reproduite, et l’intersection entre la cognition, l’informatique et la conception d’ingénierie. Cette perspective centrée sur l’humain est restée avec moi depuis.

Au fur et à mesure que les technologies numériques ont grandi, les questions dans mon travail ont également évolué. L’essor des données IoT, de l’IA et du calcul avancé a déplacé la conception de l’humain-centrée vers la société-centrée. Cela continue de façonner mon travail à l’Université d’Exeter, où je dirige le laboratoire DIGIT et me concentre sur le rôle des LLM dans le processus créatif, les barrières que les industries rencontrent dans l’adoption de ces technologies, et comment les données peuvent stimuler l’innovation.

Mon temps à Imperial et au Royal College of Art a renforcé que la conception est bien plus que la mise en forme de produits ou de services. Avec les bonnes personnes, les processus et la culture, la conception devient un moteur de nouvelles technologies, de matériaux et d’idées qui peuvent répondre aux défis mondiaux d’aujourd’hui et de demain.

Le laboratoire DIGIT se concentre fortement sur la transformation numérique au sein des grandes organisations établies. De votre point de vue, qu’est-ce que les dirigeants comprennent le moins sur la façon dont l’IA va changer la conception, l’innovation et la prise de décision ?

Pendant des décennies, l’IA a progressé dans la recherche et a été adoptée dans certaines industries, mais les progrès ont souvent été limités par les lacunes en compétences, la compréhension des dirigeants et la clarté sur la valeur et les infrastructures requises. Avec l’essor des LLM et des outils génératifs tels que DALL·E, l’IA est maintenant plus accessible et nécessite beaucoup moins d’expertise spécialisée ou de configuration. Mais cela soulève de nouvelles questions sur la vie privée, la sécurité des données et sur la façon dont les modèles généraux s’appliquent à des domaines spécifiques.

Dans la conception et l’innovation, ces problèmes sont particulièrement évidents. Nos recherches, qui ont examiné plus de 12 000 idées générées par des humains et par l’IA, ont montré que les idées de l’IA tendent à se regrouper autour de concepts similaires. Cela met en évidence la nécessité d’intégrer l’expertise humaine dans les outils génériques, d’adapter l’IA au domaine, ou de comprendre quand et comment utiliser l’IA aux côtés de la créativité et de la prise de décision humaines.

Beaucoup de vos recherches explorent la créativité et la cognition dans la conception. Avec l’IA générative capable de produire des idées, des concepts et des itérations à grande échelle, quels aspects de la créativité voyez-vous comme étant uniquement humains — et quels aspects peuvent être déplacés de manière responsable vers des processus pilotés par l’IA ?

La créativité a toujours été plus que la génération d’alternatives pour moi. C’est à propos de l’intention, du sens culturel et de la connexion émotionnelle qu’une conception crée. Notre récent sondage du laboratoire DIGIT a mis cela en évidence : 82 % des personnes nous ont dit que le travail mené par des humains ou en collaboration avec l’IA leur semblait plus significatif, et 71 % ont déclaré qu’ils se sentaient moins connectés émotionnellement à la conception réalisée uniquement par l’IA. Beaucoup ont décrit le travail généré par l’IA comme « manquant d’émotion » (48 %) ou « trop parfait » (40 %), et 36 % ont estimé que son impact s’estompe rapidement. Ces réponses ont renforcé quelque chose que je crois depuis longtemps : l’engagement émotionnel n’est pas un luxe ; c’est essentiel à la façon dont les gens vivent et valorisent le travail créatif.

Nos recherches comparant les idées humaines et celles de l’IA montrent également que les concepteurs humains sont meilleurs pour créer des idées diverses et nouvelles, et pour s’assurer que la sortie créative, qu’il s’agisse d’une œuvre d’art, d’une conception de produit ou de services, a de la profondeur et du sens. Les experts créatifs détiennent un ensemble de compétences qui n’est pas encore possible de reproduire. Les concepteurs doivent comprendre le problème avant de générer des idées, et les LLM sont très utiles pour rassembler des informations pour aider les concepteurs à passer d’un problème à un autre. Si nous pouvons intégrer des modèles d’expertise humaine dans les outils d’IA, ceux-ci peuvent également soutenir l’évaluation des idées, permettant ainsi à l’IA de mieux tirer parti des compétences créatives humaines.

L’approche de la chaîne de pensée que nous expérimentons prend en charge les LLM pour suivre le raisonnement d’experts, et non seulement donner des notes. Dans tous les cas, une surveillance humaine est requise pour interpréter les résultats et s’assurer que les choix de conception s’alignent sur les expériences vécues des utilisateurs.

Il est clair que nous devons soit créer des modèles capables de capturer la façon dont les gens vivent les produits, les services et les interactions de manière que les ordinateurs puissent l’interpréter, soit intégrer des données épaisses (aperçus qualitatifs riches qui fournissent un contexte) avec les données fines ou les grandes données que nous collectons. Développer ces modèles n’est pas simple, et c’est exactement là que l’implication humaine reste essentielle.

Donc, pour moi, la conclusion n’est pas que l’IA n’a pas sa place dans la créativité. Loin de là. C’est que l’IA et les humains contribuent des forces différentes. Le fait que les gens réagissent de manière plus positive au travail humain ou hybride nous indique simplement où se trouve le centre de gravité. L’IA peut aider à explorer un espace de conception plus large, analyser les modèles et offrir une critique structurée, mais ces perceptions de platitude, de perfection algorithmique et de distance émotionnelle montrent où l’IA a encore besoin du jugement humain pour transformer les possibilités en quelque chose qui résonne.

C’est pourquoi je vois l’avenir de la créativité comme fondamentalement collaboratif. L’IA peut élargir le champ des possibilités. Les concepteurs apportent l’empathie, la compréhension culturelle et le sens de l’intention qui donnent à ces possibilités un sens. Lorsque les deux travaillent ensemble, avec le jugement humain fixant la direction et l’IA enrichissant l’exploration, le résultat est un processus créatif qui est plus rigoureux, plus imaginatif et finalement plus humain dans ses résultats.

Vous avez ouvert la voie à des approches pour quantifier les expériences utilisateur et structurer les connaissances de conception. Alors que les systèmes d’IA deviennent plus responsables de la génération de produits et de services, comment nous assurer que les expériences humaines, les émotions et les signaux culturels restent centraux dans le processus de conception ?

Pour centrer l’expérience humaine, nous devons intégrer les connaissances de la perception et de l’émotion dans nos méthodes.

Il existe deux principales approches. La première reconnaît la nécessité de données qualitatives qui permettent une compréhension riche de l’expérience humaine, de la perception et de l’émotion, informant ainsi une collaboration humaine-AI efficace. La seconde — sur laquelle mon travail s’est concentré — vise à traduire ces connaissances en modèles que les systèmes d’IA peuvent comprendre et utiliser.

Ces modèles sont complexes à développer, car ils doivent intégrer l’expérience utilisateur, la perception humaine et les caractéristiques des produits ou systèmes conçus, afin de prédire les réponses humaines et l’expérience globale.

Vous travaillez étroitement avec des industries complexes – aérospatiale, médicale, manufacturière et de produits de consommation. Dans ces environnements à hauts enjeux, comment équilibrez-vous le potentiel de la conception assistée par l’IA avec le besoin de sécurité, de traçabilité et de confiance ?

Dans les secteurs à haut risque tels que les soins de santé, l’aérospatiale et la fabrication, la question n’est pas de savoir si l’IA peut être utilisée, mais de savoir comment elle est réglementée. La confiance dans ces environnements dépend de la responsabilité claire, de la traçabilité et de l’explicabilité à chaque étape du processus de conception et de prise de décision. L’IA peut jouer un rôle puissant de soutien dans la simulation, l’optimisation et l’exploration de début de cycle, mais elle ne peut pas devenir l’autorité finale.

Beaucoup de ces domaines sont étroitement réglementés et soumis à des exigences de sécurité strictes, qui exigent une gestion sécurisée de toutes les données, personnelles ou commercialement sensibles. Dans ces contextes, les amorces ou les requêtes sont souvent développées en utilisant des données locales pour assurer la spécificité et la pertinence, et il est courant pour les organisations dans ces secteurs de construire et de maintenir leurs propres outils d’IA.

Ce que notre recherche plus large montre constamment, c’est que les systèmes hybrides sont essentiels : l’IA devrait compléter le jugement expert, et non le remplacer. La surveillance humaine doit rester intégrée à chaque point de décision critique, en particulier lorsque la sécurité, les risques et la responsabilité sont concernés. Pour que les régulateurs et les utilisateurs finaux fassent confiance aux systèmes dotés de l’IA, les organisations ont également besoin d’une documentation transparente sur la façon dont les modèles sont formés, quelles données ils utilisent et comment les sorties sont générées. Sans cette transparence, la confiance ne peut pas être mise à l’échelle, quelle que soit l’avancée de la technologie.

De nombreuses organisations luttent pour combler l’écart entre « expérimenter avec l’IA » et intégrer réellement l’IA dans le développement de produits. Quelles étapes pratiques recommanderiez-vous aux équipes qui tentent de passer de l’expérimentation à la mise en œuvre stratégique ?

De nombreuses organisations s’arrêtent au stade de l’expérimentation parce qu’elles adoptent l’IA sans un objectif stratégique clair. La première étape pratique est d’être explicite sur le rôle que l’IA est censée jouer dans le processus de développement, que ce soit pour soutenir l’idéation, accélérer les tests, améliorer l’évaluation ou enrichir la prise de décision. Sans cette clarté, les pilotes restent déconnectés des résultats commerciaux et de conception réels.

Les équipes ont également besoin des fondations appropriées en place. Cela signifie investir dans des données de haute qualité, bien gérées, en particulier des données qui reflètent l’expérience réelle des utilisateurs et non seulement les performances techniques. Cela signifie également être réaliste sur les limites actuelles de l’IA, en particulier dans la créativité et le jugement humain, où la surveillance experte reste essentielle.

De nombreux secteurs commencent à développer des politiques d’IA qui guident les équipes à travers le processus d’expérimentation avec l’IA, allant de la construction de cas d’affaires et de la conduite de pilotes à une adoption plus large. Ces politiques aident les organisations à identifier où l’IA peut vraiment ajouter de la valeur, tout en s’assurant que les humains restent dans la boucle partout où cela est nécessaire.

Enfin, les organisations devraient passer par des pilotes structurés et à faible risque qui sont intégrés dans les flux de travail réels, et non exécutés en isolation. Ces pilotes devraient être interdisciplinaires, rassemblant des concepteurs, des ingénieurs, des scientifiques de données et des experts de domaine pour que l’apprentissage soit partagé et transférable. L’IA apporte de la valeur lorsqu’elle est conçue dans les pratiques quotidiennes, et non traitée comme une couche expérimentale distincte.

Vous avez une longue expérience dans le développement de méthodes pour structurer et automatiser les connaissances. À quel point sommes-nous proches de systèmes d’IA capables de raisonner sur l’intention de conception, les besoins des utilisateurs et le contexte de manière à ajouter réellement de la valeur plutôt que de simplement générer du contenu ?

Dans certains domaines, prédire les préférences des utilisateurs est relativement simple, car des données telles que l’historique de navigation ou les enregistrements de films ou d’émissions de télévision regardés peuvent être utilisées pour faire des recommandations. Ces domaines bénéficient de données facilement disponibles.

En revanche, un défi clé dans la conception de produits et de services est que les données sur les choix, les besoins et les expériences vécues des gens sont souvent difficilement accessibles.

Mes recherches récentes avec le laboratoire DIGIT ont examiné la capacité d’un LLM, lorsqu’il est donné un modèle de la façon dont les gens perçoivent et répondent à la conception. Cependant, les modèles actuels fonctionnent sur des modèles de données et ne peuvent pas contextualiser le sens. Des études antérieures reliant la forme à la perception montrent que même de petits changements de forme peuvent déplacer les réponses émotionnelles, et de telles subtilités sont difficiles pour l’IA à anticiper sans orientation ou modèles humains sophistiqués. Par conséquent, le raisonnement de l’IA sur l’intention est en amélioration, mais il reste un complément à l’expertise humaine.

À mesure que l’IA accélère les cycles de conception — de l’idéation à la prototypisation — quels nouvelles compétences les concepteurs devront-ils avoir ? Comment les universités et les organisations devraient-ils repenser la formation de la prochaine génération de talents créatifs ?

Les concepteurs devront être à l’aise à la fois avec la perception humaine et les outils d’IA. Comprendre comment la forme, le matériau et la proportion façonnent la réponse émotionnelle restera fondamental pour une bonne conception. Dans le même temps, les concepteurs devront être capables de travailler en confiance avec les systèmes d’IA qui soutiennent la génération d’idées et l’évaluation. Cela signifie non seulement utiliser les outils, mais comprendre ce qu’ils optimisent et où se situent leurs limites. À mesure que l’IA s’intègre davantage dans les flux de travail de conception, la capacité à interpréter de manière critique les sorties de l’IA et à les combiner avec le jugement humain deviendra l’une des compétences créatives les plus précieuses.

À mesure que l’IA accélère les cycles de conception, de l’idéation à la prototypisation, les concepteurs devront avoir un nouveau mélange de capacités et de façons de penser qui vont au-delà des compétences traditionnelles en matière d’artisanat. Ils devront comprendre comment les technologies numériques fonctionnent, ce que différents types de données peuvent (ou non) révéler, et comment combiner l’expertise de conception avec la littératie de l’IA. Cela inclut savoir travailler avec des données de haute qualité, bien gérées, qui reflètent les expériences réelles des utilisateurs, plutôt que de se fier uniquement aux métriques de performance technique. Parallèlement, les concepteurs devront également avoir le jugement pour reconnaître où l’IA est utile et où la créativité et la pensée critique humaines doivent rester centrales.

Pour répondre à ces besoins, les universités et les organisations devront repenser la formation de la prochaine génération de talents créatifs. Certaines universités intègrent déjà la science des données dans les programmes de conception ; une étape importante, mais pas suffisante en soi. Ce qui manque encore, ce sont des méthodes de conception qui sont équipées pour les réalités de l’ère numérique : des méthodes qui aident les concepteurs à collaborer avec l’IA, à travailler à travers les disciplines et à naviguer une expérimentation rapide tout en maintenant une surveillance éthique et centrée sur l’humain.

Aborder cet écart est essentiel. C’est pourquoi mon collègue Dr. Ji Han et moi écrivons un livre avec Cambridge University Press sur Pensée de conception dans l’ère numérique, qui rassemble les cadres, les compétences et les façons de penser nécessaires pour concevoir efficacement aux côtés de l’IA.

Le laboratoire DIGIT met l’accent sur la transformation responsable. À votre avis, quels risques éthiques ou sociétaux nécessitent plus d’attention à mesure que l’IA s’intègre dans les flux de travail de conception à travers les industries ?

Un exemple est de garantir l’utilisation éthique des données, y compris l’obtention d’un consentement éclairé et le maintien de la transparence sur les ensembles de données utilisés pour développer les produits d’IA, ainsi que sur les préjugés potentiels qu’ils peuvent contenir. Par exemple, les ensembles de données intégrés dans les systèmes de soins de santé doivent être soigneusement examinés pour s’assurer qu’ils représentent adéquatement la population dans son ensemble, identifier les groupes qui peuvent être sous-représentés et confirmer que le système d’IA est adapté et inclusif. D’un point de vue sociétal, il y a souvent une préoccupation que l’IA remplacera les emplois ; cependant, il est important de comprendre où l’expertise humaine reste essentielle et comment l’IA peut être utilisée pour compléter, plutôt que remplacer, les capacités humaines.

Cependant, il existe des problèmes éthiques plus profonds. Lorsque les concepteurs s’appuient sur des données humaines, ils doivent gérer la vie privée, les préjugés et la transparence de manière responsable. Un atelier du laboratoire DIGIT a identifié le secteur manufacturier « données », « humain » et « gouvernance » comme les principales catégories de défis, mettant en évidence la nécessité d’une meilleure capture de données, d’une surveillance humaine dans la boucle et de politiques claires sur la sécurité, la confiance, la propriété intellectuelle et la réglementation. Aborder ces risques signifie garantir que les systèmes d’IA sont construits sur des données diverses, intégrer le jugement humain aux points critiques et développer des normes de conception inclusives qui respectent la vie privée, le consentement et le contexte culturel.

Vous avez étudié comment les données et l’IA peuvent personnaliser les produits autour de l’expérience utilisateur. Voyez-vous un avenir où les produits évoluent dynamiquement en fonction de données en temps réel après leur sortie d’usine ? Si oui, comment les concepteurs devraient-ils se préparer pour ce monde ?

La conception basée sur les données utilisée pour les produits peut être personnalisée, adaptée ou adaptée aux comportements individuels. Ils deviennent alors des « systèmes intelligents » qui collectent des données sur la façon dont ils sont utilisés et communiquent via des capteurs intégrés et la connectivité IoT. Dans notre cadre, les activités de personnalisation impliquent l’utilisation de ces données pour mettre à jour et adapter les produits après leur sortie d’usine. Des exemples incluent le lien entre les modèles de reconnaissance de gestes et un jumeau numérique pour la collaboration humain-robot et l’utilisation de la numérisation assistée par apprentissage automatique pour créer des composants personnalisés.

Ce changement crée de nouvelles responsabilités. Les concepteurs doivent décider quels données humaines, comportementales, physiologiques, de rétroaction ou émotionnelles, sont pertinentes. Ils doivent également s’assurer que les mises à jour préservent les qualités esthétiques et émotionnelles intentionnelles que nous savons être liées à la forme et à la perception. Enfin, la gouvernance est importante : notre atelier industriel a mis en évidence que les questions de données, de confiance et de vie privée nécessitent des politiques claires et une surveillance humaine. Lorsqu’elle est bien faite, la conception évolutive peut offrir une valeur durable et une réactivité sans sacrifier le sens ou l’éthique.

En regardant vers l’avenir, quels sont les grandes questions de recherche qui vous motivent actuellement ? Et quels percées pensez-vous que le domaine verra dans les prochaines années à l’intersection de l’IA, de la créativité et de l’ingénierie de conception ?

Beaucoup des défis décrits ci-dessus restent non résolus – plusieurs d’entre eux que je suis actuellement en train d’aborder, y compris le travail pour garantir que les outils d’IA génératifs à usage général puissent être efficacement adaptés aux secteurs spécifiques qui souhaitent les adopter.

Au niveau du secteur, cela peut sembler très différent : dans la fabrication, cela peut impliquer l’utilisation de modèles locaux formés sur des connaissances spécifiques au domaine, aux côtés de solides mesures de confidentialité et de sécurité ; dans les industries créatives, l’accent peut être mis sur la diversification des sorties et la facilitation d’une collaboration plus significative entre les humains et l’IA.

Au niveau technique, nous expérimentons avec les grands modèles de langage pour soutenir les tâches d’évaluation. Une étude montre que les LLM peuvent évaluer la nouveauté et l’utilité et s’aligner plus étroitement sur les experts humains lorsqu’ils sont guidés par des amorces bien conçues. Un article connexe utilise l’amorçage de chaîne de pensée et l’agrégation multi-modèle pour rendre l’évaluation de l’IA plus fiable. Nous explorons également les agents conversationnels pour capturer les exigences de transformation numérique des organisations, démontrant que les chatbots peuvent mener des entretiens structurés de manière efficace. Combinés avec le travail sur l’utilisation des données humaines dans la conception, ces initiatives pointent vers un avenir où l’IA aide à préserver l’expertise, à prendre de meilleures décisions et à engager les utilisateurs de manière éthique.

Je vous remercie pour cette interview réfléchie et éclairante ; les lecteurs qui souhaitent en savoir plus sur le travail du professeur Ahmed-Kristensen sur la conception pilotée par l’IA, la créativité et la transformation numérique responsable peuvent explorer les recherches et les initiatives en cours au laboratoire DIGIT.