Prof. Saeema Ahmed-Kristensen, Diretora do DIGIT Lab – Série de Entrevistas

Professora Saeema Ahmed-Kristensen é uma destacada acadêmica em engenharia de design e Pro-Vice-Chanceler Associada (Pesquisa e Impacto) na Universidade de Exeter, onde também atua como Diretora do DIGIT Lab, uma importante iniciativa de pesquisa interdisciplinar focada na inovação digital e transformação. Sua pesquisa abrange criatividade e cognição em design, design de dados e digital, e a integração de tecnologias avançadas em desenvolvimento de produtos e engenharia complexa, com forte ênfase em traduzir insights acadêmicos em impacto real por meio de colaboração com a indústria, engajamento político e grandes programas de pesquisa.

Sua carreira abrange Cambridge, DTU, Imperial College London, Royal College of Art e agora a Universidade de Exeter. Olhando para trás, quais experiências ou pontos de inflexão mais moldaram seu pensamento sobre design, criatividade e o papel das tecnologias digitais?

Meu trabalho em design abrangeu muitas culturas e disciplinas diferentes. Comecei em Brunel em um dos poucos cursos da época que combinava tecnologia, design centrado no ser humano e compreensão de forma. Isso me ensinou desde cedo que criatividade e inovação estão intimamente ligadas.

Estudar em Cambridge, então, ampliou ainda mais meu pensamento. O ambiente universitário me expôs a muitas disciplinas e mostrou como a inovação depende do conhecimento reunido de várias áreas. Meu PhD se concentrou no setor aeroespacial e examinou como os designers de engenharia encontram e usam informações. Estudei como as pessoas acessam conhecimento, como a expertise pode ser apoiada ou replicada, e a interseção entre cognição, ciência da computação e design de engenharia. Essa lente centrada no ser humano permaneceu comigo desde então.

À medida que as tecnologias digitais cresceram, também cresceram as questões em meu trabalho. O surgimento de dados de IoT, IA e computação avançada deslocou o design de ser apenas centrado no ser humano para ser centrado na sociedade. Isso continua a moldar meu trabalho na Universidade de Exeter, onde lidero o DIGIT Lab e me concentro no papel dos LLMs no processo criativo, as barreiras que as indústrias enfrentam ao adotá-los e como os dados podem impulsionar a inovação.

Meu tempo em Imperial e no Royal College of Art reforçou que o design é muito mais do que moldar produtos ou serviços. Com as pessoas certas, processos e cultura, o design se torna um impulsionador de novas tecnologias, materiais e ideias escaláveis que podem abordar os desafios globais de hoje e de amanhã.

O DIGIT Lab se concentra fortemente na transformação digital dentro de organizações estabelecidas. Do seu ponto de vista, o que os líderes mais mal interpretam sobre como a IA mudará o design, a inovação e a tomada de decisões?

Por décadas, a IA avançou na pesquisa e foi adotada em certas indústrias, mas o progresso foi frequentemente limitado por lacunas de habilidades, compreensão da liderança e clareza sobre o valor e a infraestrutura necessária. Com o surgimento dos LLMs e ferramentas gerativas como o DALL·E, a IA agora é mais acessível e requer muito menos expertise especializada ou configuração. No entanto, isso também levanta novas questões sobre privacidade, segurança de dados e quão bem os modelos de propósito geral se aplicam a domínios específicos.

Em design e inovação, essas questões são especialmente claras. Nossa pesquisa, que examinou mais de 12.000 ideias geradas por humanos e por IA, mostrou que as ideias de IA tendem a se agrupar em torno de conceitos semelhantes. Isso destaca a necessidade de incorporar a expertise humana em ferramentas genéricas, adaptar a IA para o domínio ou entender quando e como usar a IA ao lado da criatividade e tomada de decisões humanas.

Muito de sua pesquisa explora criatividade e cognição em design. Com a IA agora capaz de produzir ideias, conceitos e iterações em escala, quais aspectos da criatividade você vê como exclusivamente humanos — e quais partes podem responsavelmente se deslocar para processos impulsionados por IA?

Criatividade sempre foi mais do que gerar alternativas para mim. É sobre intenção, significado cultural e a conexão emocional que um design cria. Nossa recente pesquisa no DIGIT Lab trouxe isso em foco agudo: 82% das pessoas nos disseram que o trabalho liderado por humanos ou híbrido parece mais significativo, e 71% disseram que se sentem menos conectados emocionalmente ao design apenas da IA. Muitos descreveram o trabalho gerado por IA como “faltando emoção” (48%) ou “excessivamente perfeito” (40%), e 36% sentiram que seu impacto desapareceu rapidamente. Essas respostas reforçaram algo em que acredito há muito tempo. O engajamento emocional não é um recurso desejável; é essencial para como as pessoas experimentam e valorizam o trabalho criativo.

Nossa pesquisa comparando ideias humanas e de IA também mostra que os designers humanos são melhores em criar ideias diversificadas, novas e garantir que a saída criativa, seja arte, design de produto ou serviços, tenha profundidade e significado. Os especialistas criativos possuem um conjunto de habilidades que ainda não é possível replicar. Os designers precisam entender o problema antes de gerar ideias, e os LLMs são muito úteis para reunir informações para ajudar os designers a mudar de um problema para outro. Se podemos incorporar modelos de expertise humana em ferramentas de IA, elas também podem apoiar a avaliação de ideias, permitindo que a IA tire melhor proveito das habilidades criativas humanas.

A abordagem de cadeia de pensamento com a qual estamos experimentando apoia os LLMs para seguir raciocínio de especialistas, não apenas dar pontuações. Em todos os casos, a supervisão humana é necessária para interpretar os resultados e garantir que as escolhas de design estejam alinhadas com as experiências vividas dos usuários.

É claro que devemos criar modelos capazes de capturar como as pessoas experimentam produtos, serviços e interações de maneiras que os computadores possam interpretar, ou integrar dados espessos (insights qualitativas ricas que fornecem contexto) com os dados finos ou grandes sensores que coletamos. Desenvolver esses modelos não é direto, e é exatamente onde a participação humana permanece essencial.

Portanto, para mim, a lição não é que a IA não tenha lugar na criatividade. Longe disso. É que a IA e os humanos contribuem com forças diferentes. O fato de as pessoas consistentemente responderem mais positivamente ao trabalho humano ou híbrido simplesmente nos diz onde está o centro de gravidade. A IA pode ajudar a explorar um espaço de design mais amplo, analisar padrões e oferecer crítica estruturada, mas essas percepções de planicidade, perfeição algorítmica e distância emocional mostram onde a IA ainda precisa do julgamento humano para transformar possibilidades em algo que ressoa.

É por isso que vejo o futuro da criatividade como fundamentalmente colaborativo. A IA pode ampliar o campo de possibilidades. Os designers trazem a empatia, a compreensão cultural e o sentido de intenção que dão significado a essas possibilidades. Quando os dois trabalham juntos, com o julgamento humano definindo a direção e a IA enriquecendo a exploração, o resultado é um processo criativo que é mais rigoroso, mais imaginativo e, em última análise, mais humano em seus resultados.

Você desenvolveu abordagens para quantificar experiências do usuário e estruturar conhecimento de design. À medida que os sistemas de IA se tornam mais responsáveis por gerar produtos e serviços, como garantimos que as experiências humanas, emoções e sinais culturais permaneçam centrais no processo de design?

Para centralizar a experiência humana, precisamos incorporar o conhecimento de percepção e emoção em nossos métodos.

Há duas principais abordagens. A primeira reconhece a necessidade de dados qualitativos que permitam uma compreensão rica da experiência humana, percepção e emoção, informando a colaboração humana-IA eficaz. A segunda — na qual meu trabalho se concentrou — visa traduzir esse conhecimento em modelos que os sistemas de IA possam entender e usar.

Esses modelos são complexos para desenvolver, pois devem integrar a experiência do usuário, percepção humana e as características dos produtos ou sistemas sendo projetados, a fim de prever respostas humanas e experiência geral.

Você trabalha extensivamente com indústrias complexas – aeroespacial, médica, manufatura e produtos de consumo. Nesses ambientes de alto risco, como você equilibra o potencial do design apoiado por IA com a necessidade de segurança, rastreabilidade e confiança?

Nas áreas de alto risco, como saúde, aeroespacial e manufatura, a questão não é se a IA pode ser usada, mas como ela é governada. A confiança nesses ambientes depende de responsabilidade clara, rastreabilidade e explicabilidade em todas as etapas do processo de design e tomada de decisões. A IA pode desempenhar um papel poderoso de apoio na simulação, otimização e exploração em estágios iniciais, mas não pode se tornar a autoridade final.

Muitos desses campos são altamente regulamentados e sujeitos a requisitos de segurança rigorosos, que exigem o manuseio seguro de todos os dados, pessoais ou comercialmente sensíveis. Nesses contextos, prompts ou consultas frequentemente precisam ser desenvolvidos usando dados locais para garantir especificidade e relevância, e é comum que as organizações nesses setores construam e mantenham suas próprias ferramentas de IA.

O que nossa pesquisa mais ampla consistentemente mostra é que os sistemas híbridos são essenciais: a IA deve complementar o julgamento de especialistas, não substituí-lo. A supervisão humana deve permanecer incorporada em todos os pontos críticos de decisão, particularmente onde a segurança, o risco e a responsabilidade estão em questão. Para que os reguladores e os usuários finais confiem nos sistemas habilitados para IA, as organizações também precisam de documentação transparente de como os modelos são treinados, quais dados eles usam e como os resultados são gerados. Sem essa transparência, a confiança não pode se expandir, não importa quão avançada a tecnologia se torne.

Muitas organizações lutam com a lacuna entre “experimentar com IA” e integrar significativamente a IA no desenvolvimento de produtos. Quais passos práticos você recomendaria para as equipes que tentam mudar da experimentação para a implementação estratégica?

Muitas organizações param no estágio de experimentação porque adotam a IA sem um propósito estratégico claro. O primeiro passo prático é ser explícito sobre o papel que a IA deve desempenhar no processo de desenvolvimento, seja apoiando a ideação, acelerando os testes, melhorando a avaliação ou melhorando a tomada de decisões. Sem essa clareza, os pilotos permanecem desconectados dos resultados de negócios e design reais.

As equipes também precisam das fundações certas no lugar. Isso significa investir em dados de alta qualidade, bem governados, particularmente dados que refletem experiências de usuário reais, em vez de apenas desempenho técnico. Também significa ser realista sobre os limites atuais da IA, especialmente no julgamento criativo e humano, onde a supervisão de especialistas permanece essencial.

Muitos setores estão começando a desenvolver políticas de IA que orientam as equipes pelo processo de experimentar com a IA, desde a construção de casos de negócios e a execução de pilotos até a adoção mais ampla. Essas políticas ajudam as organizações a identificar onde a IA pode genuinamente agregar valor, enquanto também garantem que os humanos permaneçam no loop onde necessário.

Finalmente, as organizações devem passar por pilotos estruturados e de baixo risco que estejam incorporados em fluxos de trabalho reais, não executados de forma isolada. Esses pilotos devem ser interdisciplinares, reunindo designers, engenheiros, cientistas de dados e especialistas em domínio, para que o aprendizado seja compartilhado e transferível. A IA entrega valor quando é projetada para a prática cotidiana, não tratada como uma camada experimental separada.

Você tem um longo histórico de desenvolver métodos para estruturar e automatizar conhecimento. Quão perto estamos de sistemas de IA que possam raciocinar sobre intenção de design, necessidades do usuário e contexto de uma maneira que genuinamente agregue valor em vez de apenas gerar conteúdo?

Em algumas áreas, prever preferências do usuário é relativamente direto, pois dados como histórico de navegação ou registros de quais filmes ou programas de TV foram assistidos podem ser usados para fazer recomendações. Essas áreas se beneficiam de dados facilmente disponíveis.

Em contraste, um desafio-chave no design de produtos e serviços é que os dados sobre as escolhas, necessidades e experiências vividas das pessoas frequentemente não estão facilmente disponíveis.

Minha pesquisa recente com o Digit Lab investigou a capacidade de um LLM, quando dado um modelo de como as pessoas percebem e respondem a recursos de design, No entanto, os modelos atuais operam em padrões de dados e não podem contextualizar o significado. Estudos anteriores que ligam forma a percepções mostram que até mesmo pequenas mudanças na forma podem deslocar respostas emocionais, e essas sutilezas são difíceis para a IA antecipar sem orientação humana ou modelos sofisticados para serem introduzidos. Portanto, o raciocínio da IA sobre a intenção está melhorando, mas permanece como um complemento à expertise humana.

À medida que a IA acelera os ciclos de design — desde a ideação até a prototipagem —, quais novas habilidades os designers precisarão? Como as universidades e as organizações devem repensar o treinamento para a próxima geração de talentos criativos?

Os designers precisarão ser fluentes em percepção humana e ferramentas habilitadas por IA. Entender como forma, material e proporção moldam a resposta emocional permanecerá fundamental para um bom design. Ao mesmo tempo, os designers devem ser capazes de trabalhar com confiança com sistemas de IA que apoiam a geração e avaliação de ideias. Isso significa não apenas usar as ferramentas, mas entender o que elas estão otimizando e onde estão suas limitações. À medida que a IA se torna mais incorporada nos fluxos de trabalho de design, a capacidade de interpretar criticamente suas saídas e combiná-las com o julgamento humano se tornará uma das habilidades criativas mais valiosas.

À medida que a IA acelera os ciclos de design de ideia à prototipagem, os designers precisarão de uma nova combinação de capacidades e formas de pensar que vão além das habilidades tradicionais de ofício. Eles precisarão entender como as tecnologias digitais funcionam, o que os diferentes tipos de dados podem (e não podem) revelar e como combinar a expertise de design com a alfabetização em IA. Isso inclui saber trabalhar com dados de alta qualidade, bem governados, que refletem experiências de usuário reais, em vez de confiar apenas em métricas de desempenho técnico. Além disso, os designers também precisarão do julgamento para reconhecer onde a IA é útil e onde a criatividade e o pensamento crítico humanos devem permanecer centrais.

Para atender a essas necessidades, as universidades e as organizações terão que repensar como treinam a próxima geração de talentos criativos. Algumas universidades já estão integrando a ciência de dados em programas de design;, um passo importante, mas não suficiente por si só. O que ainda falta são métodos de pensamento de design equipados para as realidades da era digital: métodos que ajudem os designers a colaborar com a IA, trabalhar em várias disciplinas e navegar a experimentação rápida enquanto mantêm a supervisão ética e centrada no ser humano.

Abordar essa lacuna é essencial. É por isso que meu colega Dr. Ji Han e eu estamos escrevendo um livro com a Cambridge University Press sobre Pensamento de Design na Era Digital, que reúne os quadros, habilidades e formas de pensar necessárias para projetar eficazmente ao lado da IA.

O DIGIT Lab enfatiza a transformação responsável. Em sua visão, quais riscos éticos ou sociais precisam de mais atenção à medida que a IA se incorpora nos fluxos de trabalho de design em várias indústrias?

Um exemplo é garantir o uso ético dos dados, incluindo a obtenção de consentimento informado e a manutenção da transparência sobre os conjuntos de dados usados para desenvolver produtos de IA, bem como quaisquer viés que eles possam conter. Por exemplo, conjuntos de dados incorporados em sistemas de saúde devem ser cuidadosamente examinados para garantir que representem adequadamente a população completa, identificar quaisquer grupos que possam estar sub-representados e confirmar que o sistema de IA é apropriado e inclusivo. Do ponto de vista social, há frequentemente preocupações de que a IA substituirá empregos; no entanto, é importante entender onde a expertise humana permanece essencial e como a IA pode ser usada para complementar, em vez de substituir, as capacidades humanas.

No entanto, há questões éticas mais profundas também. Quando os designers dependem de dados humanos, eles devem lidar com privacidade, viés e transparência de forma responsável. Um workshop do DIGIT Lab identificou o setor de manufatura “dados”, “humanos” e “governança” como as principais categorias de desafios, destacando a necessidade de melhor captura de dados, supervisão humana e políticas claras sobre segurança, confiança, propriedade intelectual e regulamentação. Abordar esses riscos significa garantir que os sistemas de IA sejam construídos com dados diversificados, incorporando o julgamento humano em pontos críticos e desenvolvendo padrões de design inclusivos que respeitem a privacidade, o consentimento e o contexto cultural.

Você pesquisou como os dados e a IA podem personalizar produtos em torno da experiência do usuário. Você vê um futuro onde os produtos evoluem dinamicamente com base em dados em tempo real após saírem da fábrica? Se sim, como os designers devem se preparar para esse mundo? 

Design de dados usado para produtos pode ser personalizado, customizado ou adaptado para comportamentos individuais. Eles então se tornam “sistemas inteligentes” que coletam dados sobre como são usados e se comunicam por meio de sensores incorporados e conectividade IoT. Em nossa estrutura, as atividades de personalização envolvem o uso desses dados para atualizar e adaptar produtos após saírem da fábrica. Exemplos incluem vincular modelos de reconhecimento de gestos a um digital twin para colaboração humano-robô e usar varredura assistida por aprendizado de máquina para criar componentes personalizados.

Essa mudança cria novas responsabilidades. Os designers precisam decidir quais dados humanos, comportamentais, fisiológicos, de feedback ou emocionais, são relevantes. Eles também devem garantir que as atualizações preservem as qualidades estéticas e emocionais pretendidas que sabemos estar ligadas à forma e percepção. Finalmente, a governança importa: nosso workshop da indústria destacou que questões em torno de dados, confiança e privacidade exigem políticas claras e supervisão humana. Quando feito bem, os produtos em evolução podem oferecer valor duradouro e responsividade sem sacrificar significado ou ética.

Olhando para a frente, quais são as grandes questões de pesquisa que o motivam no momento? E quais avanços você acredita que o campo verá nos próximos anos na interseção da IA, criatividade e engenharia de design?

Muitos dos desafios descritos acima permanecem sem solução – vários dos quais estou atualmente trabalhando, incluindo o trabalho para garantir que as ferramentas de IA de propósito geral possam ser efetivamente adaptadas para os setores específicos que desejam adotá-las.

Em um nível setorial, isso pode parecer bastante diferente: na manufatura, pode envolver o uso de modelos localizados treinados em conhecimento de domínio, junto com fortes medidas de privacidade e segurança; nas indústrias criativas, o foco pode estar na diversificação de saídas e na habilitação de uma colaboração mais significativa entre humanos e IA.

Em um nível técnico, estamos experimentando com grandes modelos de linguagem para apoiar tarefas de avaliação. Um estudo mostra que os LLMs podem avaliar novidade e utilidade e se alinhar mais estreitamente com especialistas humanos quando guiados por prompts bem projetados. Um artigo relacionado usa cadeia de pensamento e agregação de multi-modelos para tornar a avaliação da IA mais confiável. Também estamos explorando agentes conversacionais para capturar os requisitos de transformação digital das organizações, demonstrando que os chatbots podem conduzir entrevistas estruturadas de forma eficaz. Combinados com o trabalho sobre o uso de dados humanos no design, essas iniciativas apontam para um futuro em que a IA nos ajuda a preservar a expertise, tomar melhores decisões e envolver os usuários de forma ética.

Obrigado pela entrevista pensativa e esclarecedora; os leitores que desejam aprender mais sobre o trabalho do Professor Ahmed-Kristensen sobre design impulsionado por IA, criatividade e transformação digital responsável podem explorar as pesquisas e iniciativas em andamento no DIGIT Lab.