Prof. Saeema Ahmed-Kristensen, Directrice du DIGIT Lab – Série d’entretiens

Le professeur Saeema Ahmed-Kristensen est un éminent universitaire en ingénierie de conception et vice-recteur associé (Recherche et Impact) à l’Université d’Exeter, où il dirige également le DIGIT Lab, une importante initiative de recherche interdisciplinaire axée sur l’innovation numérique et la transformation. Ses recherches portent sur la créativité et la cognition en conception, la conception numérique et basée sur les données, ainsi que l’intégration de technologies avancées dans le développement de produits et d’ingénierie complexes, avec un accent fort sur la traduction des connaissances académiques en impact réel grâce à la collaboration avec l’industrie, l’engagement politique et les programmes de recherche à grande échelle.

Votre carrière a traversé Cambridge, DTU, Imperial College London, la Royal College of Art et maintenant l’Université d’Exeter. En regardant en arrière, quels expériences ou points de repère ont le plus façonné votre réflexion sur la conception, la créativité et le rôle des technologies numériques ?

Mes travaux en conception ont traversé de nombreuses cultures et disciplines différentes. J’ai commencé à Brunel sur l’un des rares cours qui combinaient technologie, conception centrée sur l’humain et une compréhension de la forme. Cela m’a enseigné tôt que la créativité et l’innovation sont étroitement liées.

Étudier à Cambridge a ensuite élargi mes perspectives. L’environnement universitaire m’a exposé à de nombreuses disciplines et m’a montré que l’innovation dépend de la connaissance qui se réunit à travers les domaines. Ma thèse s’est concentrée sur le secteur aérospatial et a examiné comment les concepteurs d’ingénierie trouvent et utilisent l’information. J’ai étudié comment les gens accèdent à la connaissance, comment l’expertise peut être soutenue ou reproduite, et l’intersection entre cognition, informatique et conception d’ingénierie. Cette perspective centrée sur l’humain est restée avec moi depuis.

À mesure que les technologies numériques ont grandi, les questions dans mon travail ont également augmenté. L’essor des données IoT, de l’IA et du calcul avancé a déplacé la conception de l’humain-centrée vers la société-centrée. Cela continue de façonner mon travail à l’Université d’Exeter, où je dirige le DIGIT Lab et me concentre sur le rôle des LLM dans le processus créatif, les barrières que les industries rencontrent lors de leur adoption, et comment les données peuvent stimuler l’innovation.

Mon temps à Imperial et à la Royal College of Art a renforcé que la conception est bien plus que la simple forme de produits ou de services. Avec les bonnes personnes, les processus et la culture, la conception devient un moteur de nouvelles technologies, de matériaux et d’idées scalables qui peuvent répondre aux défis mondiaux d’aujourd’hui et de demain.

Le DIGIT Lab se concentre fortement sur la transformation numérique au sein de grandes organisations établies. De votre point de vue, qu’est-ce que les dirigeants comprennent le moins sur la façon dont l’IA va changer la conception, l’innovation et la prise de décision ?

Pendant des décennies, l’IA a progressé dans la recherche et a été adoptée dans certaines industries, mais les progrès ont souvent été limités par les lacunes en compétences, la compréhension des dirigeants et la clarté sur la valeur et les infrastructures requises. Avec l’essor des LLM et des outils génératifs tels que DALL·E, l’IA est maintenant plus accessible et nécessite nettement moins d’expertise spécialisée ou de configuration. Mais cela soulève également de nouvelles questions sur la confidentialité, la sécurité des données et la façon dont les modèles généraux s’appliquent à des domaines spécifiques.

Dans la conception et l’innovation, ces problèmes sont particulièrement clairs. Nos recherches, qui ont examiné plus de 12 000 idées générées par des humains et par l’IA, ont montré que les idées de l’IA tendent à se regrouper autour de concepts similaires. Cela met en évidence la nécessité d’intégrer l’expertise humaine dans les outils génériques, d’adapter l’IA au domaine ou de comprendre quand et comment utiliser l’IA aux côtés de la créativité et de la prise de décision humaines.

Beaucoup de vos recherches explorent la créativité et la cognition en conception. Avec l’IA capable de produire des idées, des concepts et des itérations à grande échelle, quels aspects de la créativité considérez-vous comme étant unique à l’humain — et quelles parties peuvent être déplacées vers des processus pilotés par l’IA de manière responsable ?

La créativité a toujours été plus que la simple génération d’alternatives pour moi. C’est à propos de l’intention, du sens culturel et du lien émotionnel qu’une conception crée. Notre récente enquête au DIGIT Lab a mis cela en évidence : 82 % des personnes nous ont dit que le travail mené par des humains ou en collaboration avec l’IA leur semblait plus significatif, et 71 % ont déclaré se sentir moins connectés émotionnellement à la conception purement réalisée par l’IA. Beaucoup ont décrit le travail généré par l’IA comme « manquant d’émotion » (48 %) ou « trop parfait » (40 %), et 36 % ont estimé que son impact s’estompe rapidement. Ces réponses ont renforcé quelque chose que je crois depuis longtemps. L’engagement émotionnel n’est pas un luxe ; c’est essentiel à la façon dont les gens vivent et valorisent le travail créatif.

Nos recherches comparant les idées humaines et celles de l’IA montrent également que les concepteurs humains sont meilleurs pour créer des idées diverses, nouvelles et pour s’assurer que la sortie créative, qu’il s’agisse d’une œuvre d’art, d’une conception de produit ou de services, a de la profondeur et du sens. Les experts en conception détiennent un ensemble de compétences qui ne peuvent pas encore être reproduites. Les concepteurs doivent comprendre le problème avant de générer des idées, et les LLM sont très utiles pour rassembler des informations qui aident les concepteurs à passer d’un problème à un autre. Si nous pouvons intégrer des modèles d’expertise humaine dans les outils d’IA, ceux-ci peuvent également soutenir l’évaluation des idées, permettant à l’IA de mieux tirer parti des compétences créatives humaines.

Notre approche de chaîne de pensée que nous expérimentons soutient les LLM pour suivre le raisonnement d’experts, et non seulement donner des scores. Dans tous les cas, une surveillance humaine est requise pour interpréter les résultats et s’assurer que les choix de conception sont alignés sur les expériences vécues par les utilisateurs.

C’est clair que nous devons créer des modèles capables de capturer la façon dont les gens vivent les produits, les services et les interactions de manière que les ordinateurs puissent les interpréter, ou intégrer des données épaisses (aperçus qualitatifs riches qui fournissent un contexte) avec les données fines ou de capteurs que nous collectons. Développer ces modèles n’est pas simple, et c’est exactement là que l’implication humaine reste essentielle.

Donc, pour moi, la conclusion n’est pas que l’IA n’a pas sa place dans la créativité. Loin de là. C’est que l’IA et les humains contribuent des forces différentes. Le fait que les gens répondent systématiquement de manière plus positive au travail humain ou hybride nous indique simplement où se trouve le centre de gravité. L’IA peut aider à explorer un espace de conception plus large, analyser les modèles et offrir une critique structurée, mais ces perceptions de platitude, de perfection algorithmique et de distance émotionnelle montrent où l’IA a encore besoin du jugement humain pour transformer les possibilités en quelque chose qui résonne.

C’est pourquoi je vois l’avenir de la créativité comme fondamentalement collaboratif. L’IA peut élargir le champ des possibilités. Les concepteurs apportent l’empathie, la compréhension culturelle et le sens de l’intention qui donnent un sens à ces possibilités. Lorsque les deux travaillent ensemble, avec le jugement humain définissant la direction et l’IA enrichissant l’exploration, le résultat est un processus créatif qui est plus rigoureux, plus imaginatif et plus humain dans ses résultats.

Vous avez été pionnière dans les approches de quantification des expériences utilisateur et de structuration des connaissances en conception. Alors que les systèmes d’IA deviennent plus responsables de la génération de produits et de services, comment nous assurons-nous que les expériences humaines, les émotions et les signaux culturels restent au centre du processus de conception ?

Pour centrer l’expérience humaine, nous devons intégrer les connaissances de la perception et de l’émotion dans nos méthodes.

Il y a deux principales approches. La première reconnaît le besoin de données qualitatives qui permettent une compréhension riche de l’expérience humaine, de la perception et de l’émotion, informant ainsi une collaboration humaine-IA efficace. La seconde — sur laquelle mon travail s’est concentré — vise à traduire ces connaissances en modèles que les systèmes d’IA peuvent comprendre et utiliser.

Ces modèles sont complexes à développer, car ils doivent intégrer l’expérience utilisateur, la perception humaine et les caractéristiques des produits ou systèmes conçus, afin de prédire les réponses humaines et l’expérience globale.

Vous travaillez avec des industries complexes – aérospatiale, médicale, manufacturière et de produits de consommation. Dans ces environnements à hauts enjeux, comment équilibrez-vous le potentiel de la conception assistée par l’IA avec le besoin de sécurité, de traçabilité et de confiance ?

Dans les secteurs à haut risque tels que les soins de santé, l’aérospatiale et la fabrication, la question n’est pas de savoir si l’IA peut être utilisée, mais comment elle est gouvernée. La confiance dans ces environnements dépend de la responsabilité claire, de la traçabilité et de l’explicabilité à chaque étape du processus de conception et de prise de décision. L’IA peut jouer un rôle puissant de soutien dans la simulation, l’optimisation et l’exploration précoce, mais elle ne peut pas devenir l’autorité finale.

Beaucoup de ces domaines sont étroitement réglementés et soumis à des exigences de sécurité strictes, qui exigent une gestion sécurisée de toutes les données, personnelles ou sensibles sur le plan commercial. Dans ces contextes, les invites ou les requêtes doivent souvent être développées en utilisant des données locales pour assurer la spécificité et la pertinence, et il est courant que les organisations dans ces secteurs construisent et maintiennent leurs propres outils d’IA.

Ce que notre recherche plus large montre constamment, c’est que les systèmes hybrides sont essentiels : l’IA doit compléter le jugement d’expert, ne pas le remplacer. La surveillance humaine doit rester intégrée à chaque point de décision critique, en particulier lorsque la sécurité, les risques et la responsabilité sont concernés. Pour que les régulateurs et les utilisateurs finaux fassent confiance aux systèmes dotés d’IA, les organisations ont également besoin d’une documentation transparente sur la façon dont les modèles sont formés, quelles données ils utilisent et comment les sorties sont générées. Sans cette transparence, la confiance ne peut pas être mise à l’échelle, quelle que soit l’avancée de la technologie.

De nombreuses organisations luttent pour combler l’écart entre « expérimenter avec l’IA » et intégrer réellement l’IA dans le développement de produits. Quelles étapes pratiques recommanderiez-vous aux équipes qui cherchent à passer de l’expérimentation à la mise en œuvre stratégique ?

De nombreuses organisations s’arrêtent au stade de l’expérimentation parce qu’elles adoptent l’IA sans un objectif stratégique clair. La première étape pratique est d’être explicite sur le rôle que l’IA est censée jouer dans le processus de développement, que ce soit pour soutenir l’idéation, accélérer les tests, améliorer l’évaluation ou renforcer la prise de décision. Sans cette clarté, les pilotes restent déconnectés des résultats commerciaux et de conception réels.

Les équipes ont également besoin des fondations appropriées en place. Cela signifie investir dans des données de haute qualité, bien gérées, en particulier des données qui reflètent l’expérience utilisateur réelle plutôt que la performance technique pure. Cela signifie également être réaliste sur les limites actuelles de l’IA, en particulier dans le jugement créatif et humain, où la surveillance d’expert reste essentielle.

De nombreux secteurs commencent à développer des politiques d’IA qui guident les équipes à travers le processus d’expérimentation avec l’IA, de la construction de cas d’affaires et de la réalisation de pilotes à une adoption plus large. Ces politiques aident les organisations à identifier où l’IA peut vraiment ajouter de la valeur, tout en s’assurant que les humains restent dans la boucle partout où cela est nécessaire.

Enfin, les organisations devraient passer par des pilotes structurés et à faible risque qui sont intégrés dans les flux de travail réels, et non exécutés en isolation. Ces pilotes devraient être interdisciplinaires, rassemblant concepteurs, ingénieurs, scientifiques de données et experts de domaine pour que l’apprentissage soit partagé et transférable. L’IA livre de la valeur lorsqu’elle est conçue dans la pratique quotidienne, et non traitée comme une couche expérimentale distincte.

Vous avez une longue expérience dans le développement de méthodes pour structurer et automatiser les connaissances. À quel point sommes-nous proches de systèmes d’IA capables de raisonner sur l’intention de conception, les besoins des utilisateurs et le contexte d’une manière qui ajoute vraiment de la valeur plutôt que de simplement générer du contenu ?

Dans certains domaines, prédire les préférences des utilisateurs est relativement simple, car des données telles que l’historique de navigation ou les enregistrements de films ou d’émissions de télévision regardés peuvent être utilisés pour faire des recommandations. Ces domaines bénéficient de données facilement disponibles.

En revanche, un défi clé dans la conception de produits et de services est que les données sur les choix, les besoins et les expériences vécues des gens sont souvent pas facilement accessibles.

Mes recherches récentes avec le DIGIT Lab ont examiné la capacité d’un LLM, lorsqu’il est donné un modèle de la façon dont les gens perçoivent et répondent aux caractéristiques de conception. Cependant, les modèles actuels fonctionnent sur des modèles de données et ne peuvent pas contextualiser le sens. Des études antérieures reliant la forme aux perceptions montrent que même de petits changements de forme peuvent déplacer les réponses émotionnelles, et de telles subtilités sont difficiles pour l’IA à anticiper sans orientation humaine ou des modèles sophistiqués à intégrer. Par conséquent, le raisonnement de l’IA sur l’intention s’améliore, mais il reste un complément à l’expertise humaine.

À mesure que l’IA accélère les cycles de conception — de l’idéation à la prototypisation — quels nouveaux compétences les concepteurs devront-ils avoir ? Comment les universités et les organisations devraient-ils repenser la formation de la prochaine génération de talents créatifs ?

Les concepteurs devront être compétents à la fois dans la perception humaine et dans les outils d’IA. Comprendre comment la forme, le matériau et la proportion façonnent la réponse émotionnelle restera fondamental pour une bonne conception. En même temps, les concepteurs devront être capables de travailler avec confiance avec les systèmes d’IA qui soutiennent la génération d’idées et l’évaluation. Cela signifie non seulement utiliser ces outils, mais également comprendre ce qu’ils optimisent et où se situent leurs limites. À mesure que l’IA s’intègre dans les flux de travail de conception, la capacité à interpréter de manière critique ses sorties et à les combiner avec le jugement humain deviendra l’une des compétences créatives les plus précieuses.

À mesure que l’IA accélère les cycles de conception d’idéation à prototypisation, les concepteurs devront avoir un nouveau mélange de capacités et de façons de penser qui vont au-delà des compétences traditionnelles en matière d’artisanat. Ils devront comprendre comment les technologies numériques fonctionnent, ce que différents types de données peuvent (ou ne peuvent pas) révéler, et comment combiner l’expertise en conception avec la littératie en IA. Cela inclut savoir travailler avec des données de haute qualité, bien gérées, qui reflètent les expériences réelles des utilisateurs, plutôt que de se fier uniquement aux métriques de performance technique. De plus, les concepteurs devront avoir le jugement pour reconnaître où l’IA est utile et où la créativité et la pensée critique humaines doivent rester centrales.

Pour répondre à ces besoins, les universités et les organisations devront repenser la façon dont elles forment la prochaine génération de talents créatifs. Certaines universités intègrent déjà la science des données dans les programmes de conception ; une étape importante, mais pas suffisante en soi. Ce qui manque encore, ce sont des méthodes de conception qui sont équipées pour les réalités de l’ère numérique : des méthodes qui aident les concepteurs à collaborer avec l’IA, à travailler à travers les disciplines et à naviguer dans l’expérimentation rapide tout en maintenant une surveillance éthique et centrée sur l’humain.

Remédier à ce fossé est essentiel. C’est pourquoi mon collègue, le Dr Ji Han, et moi écrivons un livre avec Cambridge University Press sur Design Thinking in the Digital Age, qui rassemble les cadres, les compétences et les façons de penser nécessaires pour concevoir efficacement aux côtés de l’IA.

Le DIGIT Lab met l’accent sur la transformation responsable. Selon vous, quels risques éthiques ou sociétaux nécessitent plus d’attention à mesure que l’IA s’intègre dans les flux de travail de conception à travers les industries ?

Un exemple est de garantir l’utilisation éthique des données, y compris l’obtention d’un consentement éclairé et le maintien de la transparence sur les ensembles de données utilisés pour développer les produits d’IA, ainsi que sur les préjugés potentiels qu’ils peuvent contenir. Par exemple, les ensembles de données intégrés dans les systèmes de soins de santé doivent être soigneusement examinés pour s’assurer qu’ils représentent adéquatement l’ensemble de la population, identifier les groupes qui peuvent être sous-représentés et confirmer que le système d’IA est adapté à son utilisation et inclusif. D’un point de vue sociétal, il y a souvent des préoccupations quant à la capacité de l’IA à remplacer les emplois ; cependant, il est important de comprendre où l’expertise humaine reste essentielle et comment l’IA peut être utilisée pour compléter, et non remplacer, les capacités humaines.

Cependant, il existe des problèmes éthiques plus profonds. Lorsque les concepteurs s’appuient sur les données humaines, ils doivent gérer la confidentialité, les préjugés et la transparence de manière responsable. Un atelier du DIGIT Lab a identifié le secteur manufacturier « données », « humain » et « gouvernance » comme les principales catégories de défis, mettant en évidence la nécessité d’une meilleure capture de données, d’une surveillance humaine et de politiques claires sur la sécurité, la confiance, la propriété intellectuelle et la réglementation. Pour répondre à ces risques, il faut s’assurer que les systèmes d’IA sont construits sur des données diverses, intégrer le jugement humain aux points critiques et développer des normes de conception inclusives qui respectent la vie privée, le consentement et le contexte culturel.

Vous avez étudié comment les données et l’IA peuvent personnaliser les produits autour de l’expérience utilisateur. Voyez-vous un avenir où les produits évoluent dynamiquement en fonction des données en temps réel après leur sortie d’usine ? Si oui, comment les concepteurs devraient-ils se préparer pour ce monde ?

La conception basée sur les données utilisée pour les produits peut être personnalisée, adaptée ou conçue pour les comportements individuels. Ils deviennent alors des « systèmes intelligents » qui collectent des données sur leur utilisation et communiquent par le biais de capteurs intégrés et de connectivité IoT. Dans notre cadre, les activités de personnalisation impliquent l’utilisation de ces données pour mettre à jour et adapter les produits après leur sortie d’usine. Des exemples incluent le lien de modèles de reconnaissance de gestes à un jumeau numérique pour la collaboration humain-robot et l’utilisation de la technologie d’analyse assistée par apprentissage automatique pour créer des composants personnalisés.

Ce déplacement crée de nouvelles responsabilités. Les concepteurs doivent décider quels données humaines, comportementales, physiologiques, de rétroaction ou émotionnelles, sont pertinentes. Ils doivent également s’assurer que les mises à jour préservent les qualités esthétiques et émotionnelles intentionnelles que nous savons être liées à la forme et à la perception. Enfin, la gouvernance est importante : notre atelier industriel a mis en évidence que les questions autour des données, de la confiance et de la vie privée nécessitent des politiques claires et une surveillance humaine. Lorsqu’elle est bien faite, la conception évolutive peut offrir une valeur durable et une réactivité sans sacrifier le sens ou l’éthique.

En regardant vers l’avenir, quels sont les grandes questions de recherche qui vous motivent actuellement ? Et quels progrès pensez-vous que le domaine verra à l’intersection de l’IA, de la créativité et de l’ingénierie de conception dans les prochaines années ?

Beaucoup des défis mentionnés ci-dessus restent sans solution – dont plusieurs que je travaille actuellement, y compris le travail pour s’assurer que les outils d’IA génériques peuvent être efficacement adaptés aux secteurs spécifiques qui souhaitent les adopter.

À un niveau sectoriel, cela peut sembler très différent : dans la fabrication, cela peut impliquer l’utilisation de modèles locaux formés sur des connaissances spécifiques au domaine, aux côtés de solides mesures de confidentialité et de sécurité ; dans les industries créatives, l’accent peut être mis sur la diversification des sorties et la facilitation d’une collaboration plus significative entre les humains et l’IA.

Sur le plan technique, nous expérimentons avec de grands modèles de langage pour soutenir les tâches d’évaluation. Une étude montre que les LLM peuvent évaluer la nouveauté et l’utilité et s’aligner plus étroitement sur les experts humains lorsqu’ils sont guidés par des invites bien conçues. Un article connexe utilise la chaîne de pensée et l’agrégation de plusieurs modèles pour rendre l’évaluation de l’IA plus fiable. Nous explorons également les agents de conversation pour capturer les exigences de transformation numérique des organisations, démontrant que les chatbots peuvent mener des entretiens structurés de manière efficace. Combinés avec le travail sur l’utilisation des données humaines dans la conception, ces initiatives pointent vers un avenir où l’IA nous aide à préserver l’expertise, à prendre de meilleures décisions et à engager les utilisateurs de manière éthique.

Je vous remercie pour cette interview réfléchie et éclairante ; les lecteurs qui souhaitent en savoir plus sur le travail du Professeur Ahmed-Kristensen sur la conception pilotée par l’IA, la créativité et la transformation numérique responsable peuvent explorer les recherches et initiatives en cours au DIGIT Lab.