Prof. Saeema Ahmed-Kristensen, Directora del Laboratorio DIGIT – Serie de Entrevistas

La profesora Saeema Ahmed-Kristensen es una destacada académica en ingeniería de diseño y Vicerrectora Asociada (Investigación e Impacto) en la Universidad de Exeter, donde también se desempeña como Directora del Laboratorio DIGIT, una importante iniciativa de investigación interdisciplinaria centrada en la innovación y transformación digitales. Su investigación abarca la creatividad y cognición en el diseño, el diseño basado en datos y digital, y la integración de tecnologías avanzadas en el desarrollo de productos y ingeniería compleja, con un fuerte énfasis en traducir la perspicacia académica en impacto real en el mundo a través de la colaboración con la industria, la participación en políticas y programas de investigación a gran escala.

Su carrera ha abarcado Cambridge, DTU, Imperial College London, el Royal College of Art y ahora la Universidad de Exeter. Al mirar hacia atrás, ¿qué experiencias o puntos de inflexión han moldeado más su pensamiento sobre el diseño, la creatividad y el papel de las tecnologías digitales?

Mi trabajo en diseño ha abarcado muchas culturas y disciplinas diferentes. Comencé en Brunel en uno de los pocos cursos que combinaba tecnología, diseño centrado en el ser humano y comprensión de la forma. Me enseñó desde temprano que la creatividad y la innovación están estrechamente vinculadas.

Estudiar en Cambridge luego amplió mi pensamiento. El entorno universitario me expuso a muchas disciplinas y me mostró cómo la innovación depende del conocimiento que se une a través de campos. Mi doctorado se centró en el sector aeroespacial y examinó cómo los diseñadores de ingeniería encuentran y utilizan la información. Estudié cómo las personas acceden al conocimiento, cómo se puede apoyar o replicar la experiencia y la intersección entre la cognición, la informática y el diseño de ingeniería. Esta perspectiva centrada en el ser humano ha permanecido conmigo desde entonces.

A medida que las tecnologías digitales han crecido, también han crecido las preguntas en mi trabajo. El surgimiento de los datos de IoT, la IA y el cálculo avanzado ha desplazado el diseño desde ser solo centrado en el ser humano hacia ser centrado en la sociedad. Esto sigue dándole forma a mi trabajo en la Universidad de Exeter, donde dirijo el Laboratorio DIGIT y me enfoco en el papel de los LLM en el proceso creativo, las barreras que las industrias enfrentan al adoptarlos y cómo los datos pueden impulsar la innovación.

Mi tiempo en Imperial y el Royal College of Art reforzó que el diseño es mucho más que dar forma a productos o servicios. Con las personas, procesos y cultura adecuados, el diseño se convierte en un impulsor de nuevas tecnologías, materiales e ideas escalables que pueden abordar los desafíos globales de hoy y mañana.

El Laboratorio DIGIT se centra mucho en la transformación digital dentro de las organizaciones establecidas. Desde su perspectiva, ¿qué es lo que los líderes malentienden más sobre cómo la IA cambiará el diseño, la innovación y la toma de decisiones?

Durante décadas, la IA ha avanzado en la investigación y ha sido adoptada en ciertas industrias, pero el progreso a menudo ha sido limitado por brechas de habilidades, comprensión de los líderes y claridad sobre el valor y la infraestructura requerida. Con el surgimiento de los LLM y las herramientas generativas como DALL·E, la IA ahora es más accesible y requiere mucha menos experiencia especializada o configuración. Pero esto también plantea nuevas preguntas sobre la privacidad, la seguridad de los datos y cómo se aplican los modelos de propósito general a dominios específicos.

En el diseño y la innovación, estos problemas son especialmente claros. Nuestra investigación, que examinó más de 12.000 ideas generadas por humanos y por IA, mostró que las ideas de la IA tienden a agruparse alrededor de conceptos similares. Esto destaca la necesidad de incorporar la experiencia humana en herramientas genéricas, adaptar la IA para el dominio o comprender cuándo y cómo utilizar la IA junto con la creatividad y la toma de decisiones humanas.

Mucha de su investigación explora la creatividad y la cognición en el diseño. Con la IA generativa ahora capaz de producir ideas, conceptos e iteraciones a gran escala, ¿qué aspectos de la creatividad ve como únicos en los humanos —y qué partes pueden pasar responsablemente hacia procesos impulsados por la IA?

La creatividad siempre ha sido más que generar alternativas para mí. Se trata de intención, significado cultural y conexión emocional que un diseño crea. Nuestra reciente encuesta del Laboratorio DIGIT lo puso en foco: el 82% de las personas nos dijo que el trabajo liderado por humanos o híbrido se siente más significativo, y el 71% dijo que se siente menos conectado emocionalmente al diseño solo de IA. Muchos describieron el trabajo generado por la IA como “falto de emoción” (48%) o “excesivamente perfecto” (40%), y el 36% sintió que su impacto se desvaneció rápidamente. Estas respuestas reforzaron algo en lo que he creído durante mucho tiempo. La participación emocional no es un lujo; es esencial para cómo las personas experimentan y valoran el trabajo creativo.

Nuestra investigación comparando ideas humanas y de IA también muestra que los diseñadores humanos son mejores para crear ideas diversas y novedosas y garantizar que la salida creativa, ya sea arte, diseño de productos o servicios, tenga profundidad y significado. Los expertos creativos poseen un conjunto de habilidades que no es posible replicar aún. Los diseñadores necesitan comprender el problema antes de generar ideas, y los LLM son muy útiles para recopilar información que ayude a los diseñadores a cambiar de un problema a otro. Si podemos construir modelos de experiencia humana en herramientas de IA, también pueden apoyar la evaluación de ideas, lo que permite a la IA aprovechar mejor las habilidades creativas humanas.

El enfoque de cadena de pensamiento con el que estamos experimentando apoya a los LLM para seguir el razonamiento de expertos, no solo dar puntuaciones. En todos los casos, se requiere supervisión humana para interpretar los resultados y garantizar que las decisiones de diseño se alineen con las experiencias vividas de los usuarios.

Es claro que debemos crear modelos capaces de capturar cómo las personas experimentan productos, servicios e interacciones de maneras que las computadoras puedan interpretar, o integrar datos gruesos (perspicacias cualitativas ricas que brindan contexto) con los datos delgados o de sensores grandes que recopilamos. Desarrollar estos modelos no es sencillo, y este es exactamente donde la participación humana sigue siendo esencial.

Así que, para mí, la moraleja no es que la IA no tenga lugar en la creatividad. Lejos de eso. Es que la IA y los humanos contribuyen con diferentes fortalezas. El hecho de que las personas respondan consistentemente de manera más positiva al trabajo humano o híbrido simplemente nos dice dónde está el centro de gravedad. La IA puede ayudar a explorar un espacio de diseño más amplio, analizar patrones y ofrecer crítica estructurada, pero esas percepciones de planitud, perfección algorítmica y distancia emocional muestran dónde la IA todavía necesita el juicio humano para convertir posibilidades en algo que resuene.

Es por eso que veo el futuro de la creatividad como fundamentalmente colaborativo. La IA puede ampliar el campo de posibilidades. Los diseñadores aportan la empatía, la comprensión cultural y el sentido de intención que dan a esas posibilidades un significado. Cuando los dos trabajan juntos, con el juicio humano estableciendo la dirección y la IA enriqueciendo la exploración, el resultado es un proceso creativo que es más riguroso, más imaginativo y, en última instancia, más humano en sus resultados.

Ha sido pionera en enfoques para cuantificar experiencias de usuario y estructurar conocimiento de diseño. ¿Cómo podemos garantizar que las experiencias humanas, las emociones y las señales culturales sigan siendo centrales en el proceso de diseño a medida que los sistemas de IA se vuelven más responsables de generar productos y servicios?

Para centrar la experiencia humana, necesitamos incorporar el conocimiento de la percepción y la emoción en nuestros métodos.

Hay dos enfoques principales. El primero reconoce la necesidad de datos cualitativos que permitan una comprensión rica de la experiencia humana, la percepción y la emoción, informando una efectiva colaboración humano-IA. El segundo —en el que se ha centrado mi trabajo— apunta a traducir este conocimiento en modelos que los sistemas de IA puedan entender y utilizar.

Estos modelos son complejos de desarrollar, ya que deben integrar la experiencia del usuario, la percepción humana y las características de los productos o sistemas que se diseñan, para predecir las respuestas humanas y la experiencia general.

Trabaja extensivamente con industrias complejas – aerospacial, médica, manufactura y productos de consumo. En estos entornos de alto riesgo, ¿cómo equilibra el potencial del diseño apoyado por IA con la necesidad de seguridad, trazabilidad y confianza?

En sectores de alto riesgo como la atención médica, la aerospacial y la manufactura, la pregunta no es si se puede utilizar la IA, sino cómo se gobierna. La confianza en estos entornos depende de la rendición de cuentas, la trazabilidad y la explicabilidad claras en cada etapa del proceso de diseño y toma de decisiones. La IA puede desempeñar un papel poderoso en la simulación, la optimización y la exploración en las primeras etapas, pero no puede convertirse en la autoridad final.

Muchos de estos campos están sujetos a regulaciones estrictas y requieren un manejo seguro de todos los datos, personales o comercialmente sensibles. En estos contextos, a menudo se necesitan desarrollar y mantener herramientas de IA propias.

Lo que nuestra investigación más amplia muestra consistentemente es que los sistemas híbridos son esenciales: la IA debe complementar el juicio experto, no reemplazarlo. La supervisión humana debe permanecer incorporada en cada punto de decisión crítico, particularmente donde la seguridad, el riesgo y la responsabilidad están involucrados. Para que los reguladores y los usuarios finales confíen en los sistemas habilitados por IA, las organizaciones también necesitan documentación transparente de cómo se entrenan los modelos, qué datos utilizan y cómo se generan los resultados. Sin esa transparencia, la confianza no puede escalar, sin importar lo avanzada que sea la tecnología.

Muchas organizaciones luchan con la brecha entre “experimentar con la IA” y integrarla significativamente en el desarrollo de productos. ¿Qué pasos prácticos recomendaría para los equipos que intentan moverse de la experimentación a la implementación estratégica?

Muchas organizaciones se estancan en la etapa de experimentación porque adoptan la IA sin un propósito estratégico claro. El primer paso práctico es ser explícito sobre el papel que la IA está destinada a desempeñar en el proceso de desarrollo, ya sea que sea apoyar la ideación, acelerar las pruebas, mejorar la evaluación o mejorar la toma de decisiones. Sin esa claridad, los pilotos permanecen desconectados de los resultados de diseño y negocio reales.

Los equipos también necesitan los cimientos adecuados. Eso significa invertir en datos de alta calidad, bien gobernados, particularmente datos que reflejen experiencias de usuario reales en lugar de rendimiento técnico puro. También significa ser realista sobre los límites actuales de la IA, especialmente en el juicio creativo y humano-centrado, donde la supervisión experta sigue siendo esencial.

Muchos sectores están comenzando a desarrollar políticas de IA que guían a los equipos a través del proceso de experimentar con la IA, desde la construcción de casos de negocio y la ejecución de pilotos hasta una adopción más amplia. Estas políticas ayudan a las organizaciones a identificar dónde la IA puede agregar valor genuinamente, mientras también garantizan que los humanos permanezcan en el bucle donde sea necesario.

Finalmente, las organizaciones deben avanzar a través de pilotos estructurados y de bajo riesgo que estén incrustados en flujos de trabajo reales, no ejecutados en aislamiento. Estos pilotos deben ser interdisciplinarios, reuniendo a diseñadores, ingenieros, científicos de datos y expertos en dominio para que el aprendizaje sea compartido y transferible. La IA entrega valor cuando se diseña en la práctica diaria, no cuando se trata como una capa experimental separada.

Ha desarrollado métodos para estructurar y automatizar el conocimiento. ¿Cuán cerca estamos de que los sistemas de IA puedan razonar sobre la intención de diseño, las necesidades del usuario y el contexto de una manera que genuinamente agregue valor en lugar de simplemente generar contenido?

En algunas áreas, predecir las preferencias de los usuarios es relativamente sencillo, ya que se puede utilizar datos como el historial de navegación o los registros de qué películas o programas de televisión se han visto para hacer recomendaciones. Estas áreas se benefician de datos fácilmente disponibles.

Por contraste, un desafío clave en el diseño de productos y servicios es que los datos sobre las elecciones, necesidades y experiencias vividas de las personas a menudo no están fácilmente disponibles.

Mi investigación reciente con el Laboratorio DIGIT investigó la capacidad de un LLM, cuando se le da un modelo de cómo las personas perciben y responden a las características de diseño, para evaluar la creatividad del diseño. Sin embargo, los modelos actuales operan en patrones de datos y no pueden contextualizar el significado. Estudios anteriores que vinculan la forma con las percepciones muestran que incluso pequeños cambios en la forma pueden cambiar las respuestas emocionales, y tales matices son difíciles para la IA anticipar sin la guía humana o modelos sofisticados para ser introducidos. Por lo tanto, el razonamiento de la IA sobre la intención mejora, pero sigue siendo un complemento a la experiencia humana.

A medida que la IA acelera los ciclos de diseño —desde la ideación hasta la prototipación—, ¿qué nuevas habilidades necesitarán los diseñadores? ¿Cómo deberían las universidades y las organizaciones replantear la formación para la próxima generación de talentos creativos?

Los diseñadores necesitarán ser fluidos en la percepción humana y las herramientas habilitadas por IA. Comprender cómo la forma, el material y la proporción dan forma a la respuesta emocional seguirá siendo fundamental para un buen diseño. Al mismo tiempo, los diseñadores deben ser capaces de trabajar con confianza con sistemas de IA que apoyen la generación de ideas y la evaluación. Eso significa no solo usar las herramientas, sino entender para qué están optimizadas y dónde están sus limitaciones. A medida que la IA se vuelve más integrada en los flujos de trabajo de diseño, la capacidad de interpretar críticamente sus salidas y combinarlas con el juicio humano se convertirá en una de las habilidades creativas más valiosas.

A medida que la IA acelera los ciclos de diseño desde la ideación hasta la prototipación, los diseñadores necesitarán una nueva mezcla de capacidades y formas de pensar que van más allá de las habilidades tradicionales de oficio. Necesitarán comprender cómo funcionan las tecnologías digitales, qué tipos de datos pueden (y no pueden) revelar, y cómo combinar la experiencia en diseño con la alfabetización en IA. Esto incluye saber cómo trabajar con datos de alta calidad, bien gobernados, que reflejen experiencias de usuario reales, en lugar de confiar únicamente en métricas de rendimiento técnico. Junto con esto, los diseñadores también necesitarán el juicio para reconocer dónde es útil la IA y dónde la creatividad y el pensamiento crítico humanos deben seguir siendo centrales.

Para satisfacer estas necesidades, las universidades y las organizaciones tendrán que replantear cómo entrenan a la próxima generación de talentos creativos. Algunas universidades ya están integrando la ciencia de datos en los programas de diseño, un paso importante, pero no suficiente por sí solo. Lo que todavía falta son métodos de pensamiento de diseño equipados para las realidades de la era digital: métodos que ayuden a los diseñadores a colaborar con la IA, trabajar a través de disciplinas y navegar la experimentación rápida mientras mantienen la supervisión ética y humanocéntrica.

Abordar esta brecha es esencial. Es por eso que mi colega, el Dr. Ji Han, y yo estamos escribiendo un libro con la Prensa de la Universidad de Cambridge sobre Pensamiento de diseño en la era digital, que reúne los marcos, habilidades y formas de pensar necesarias para diseñar efectivamente junto con la IA.

El Laboratorio DIGIT enfatiza la transformación responsable. En su opinión, ¿qué riesgos éticos o sociales necesitan más atención a medida que la IA se integra en los flujos de trabajo de diseño en various industrias?

Un ejemplo es garantizar el uso ético de los datos, incluyendo el consentimiento informado y el mantenimiento de la transparencia sobre los conjuntos de datos utilizados para desarrollar productos de IA, así como cualquier posible sesgo que puedan contener. Por ejemplo, los conjuntos de datos incrustados en los sistemas de atención médica deben ser examinados cuidadosamente para garantizar que representen adecuadamente a toda la población, identificar cualquier grupo que pueda estar subrepresentado y confirmar que el sistema de IA es apto para el propósito y es inclusivo. Desde una perspectiva social, a menudo hay preocupación de que la IA reemplace los trabajos; sin embargo, es importante comprender dónde la experiencia humana sigue siendo esencial y cómo la IA puede usarse para complementar, en lugar de reemplazar, las capacidades humanas.

Sin embargo, también hay problemas éticos más profundos. Cuando los diseñadores dependen de datos humanos, deben manejar la privacidad, el sesgo y la transparencia de manera responsable. Un taller del Laboratorio DIGIT identificó al sector manufacturero “datos”, “humanos” y “gobernanza” como las principales categorías de desafíos, destacando la necesidad de una mejor captura de datos, supervisión humana en el bucle y políticas claras sobre seguridad, confianza, propiedad intelectual y regulación. Abordar estos riesgos significa garantizar que los sistemas de IA se construyan sobre datos diversos, incorporar el juicio humano en puntos críticos y desarrollar estándares de diseño inclusivos que respeten la privacidad, el consentimiento y el contexto cultural.

Ha investigado cómo los datos y la IA pueden personalizar productos alrededor de la experiencia del usuario. ¿Ve un futuro donde los productos evolucionen dinámicamente basados en datos en tiempo real después de que dejan la fábrica? Si es así, ¿cómo deberían los diseñadores prepararse para ese mundo?

El diseño basado en datos se puede utilizar para productos que se pueden personalizar, personalizar o adaptar a comportamientos individuales. Luego se convierten en “sistemas inteligentes” que recopilan datos sobre cómo se utilizan y se comunican a través de sensores incrustados y conectividad de IoT. En nuestro marco, las actividades de personalización involucran el uso de esos datos para actualizar y adaptar productos después de que dejan la fábrica. Ejemplos incluyen vincular modelos de reconocimiento de gestos a un gemelo digital para la colaboración humano-robot y utilizar la exploración asistida por aprendizaje automático para crear componentes personalizados.

Este cambio crea nuevas responsabilidades. Los diseñadores necesitan decidir qué datos humanos, comportamientos, retroalimentación o emocionales son relevantes. También deben garantizar que las actualizaciones preserven las cualidades estéticas y emocionales intencionadas que sabemos que están vinculadas a la forma y la percepción. Finalmente, la gobernanza es importante: nuestro taller de la industria destacó que los problemas relacionados con los datos, la confianza y la privacidad requieren políticas claras y supervisión humana. Cuando se hace bien, los productos en evolución pueden ofrecer un valor duradero y una respuesta sin sacrificar el significado o la ética.

Mirando hacia adelante, ¿cuáles son las grandes preguntas de investigación que la motivan en este momento? ¿Y qué avances cree que el campo verá en los próximos años en la intersección de la IA, la creatividad y la ingeniería de diseño?

Muchos de los desafíos descritos anteriormente siguen sin resolverse – varios de los cuales estoy trabajando actualmente, incluido el trabajo para garantizar que las herramientas de IA de propósito general puedan adaptarse efectivamente a los sectores específicos que desean adoptarlas.

A nivel de sector, esto puede parecer bastante diferente: en la manufactura, puede involucrar el uso de modelos localizados entrenados en conocimiento de dominio específico, junto con sólidas medidas de privacidad y seguridad; en las industrias creativas, el enfoque puede estar en diversificar las salidas y permitir una colaboración más significativa entre humanos y IA.

A nivel técnico, estamos experimentando con grandes modelos de lenguaje para apoyar tareas de evaluación. Un estudio muestra que los LLM pueden evaluar la novedad y la utilidad y alinearse más estrechamente con los expertos humanos cuando se guían con pistas bien diseñadas. Un artículo relacionado utiliza la cadena de pensamiento y la agregación de múltiples modelos para hacer que la evaluación de la IA sea más confiable. También estamos explorando agentes conversacionales para capturar los requisitos de transformación digital de las organizaciones, demostrando que los chatbots pueden realizar entrevistas estructuradas de manera efectiva. Combinado con el trabajo sobre el uso de datos humanos en el diseño, estas iniciativas apuntan a un futuro en el que la IA nos ayude a preservar la experiencia, tomar mejores decisiones y comprometernos con los usuarios de manera ética.

Gracias por la entrevista reflexiva e informativa; los lectores que deseen aprender más sobre el trabajo de la profesora Ahmed-Kristensen en el diseño impulsado por IA, la creatividad y la transformación digital responsable pueden explorar la investigación y las iniciativas en curso en Laboratorio DIGIT.