Prof. Saeema Ahmed-Kristensen, direktør for DIGIT Lab – Interviewserie

Professor Saeema Ahmed-Kristensen er en førende designingeniør og Associate Pro-Vice-Chancellor (Research & Impact) ved University of Exeter, hvor hun også fungerer som direktør for DIGIT Lab, et stort tværfagligt forskningsinitiativ, der fokuserer på digital innovation og transformation. Hendes forskning omfatter designkreativitet og kognition, data-dreven og digital design, samt integration af avancerede teknologier i kompleks ingeniør- og produktudvikling, med en stærk vægt på at oversætte akademisk indsigt til virkelighedsnær impact gennem samarbejde med industrien, politisk engagement og store forskningsprogrammer.

Din karriere har spændt over Cambridge, DTU, Imperial College London, Royal College of Art og nu University of Exeter. Når du ser tilbage, hvilke erfaringer eller vendepunkter har haft størst indflydelse på din tænkning om design, kreativitet og digitale teknologiers rolle?

Mit arbejde med design har spændt over mange forskellige kulturer og fag. Jeg startede på Brunel på et af de få kurser, der kombinerede teknologi, menneskecentreret design og forståelse af form. Det lærte mig tidligt, at kreativitet og innovation er tæt forbundet.

Studierne på Cambridge åbnede mine øjne endnu mere. Kollegiemiljøet udsatte mig for mange fag og viste mig, hvordan innovation afhænger af viden, der kommer sammen på tværs af fag. Min ph.d. fokuserede på luftfartssektoren og undersøgte, hvordan ingeniørdesignere finder og bruger information. Jeg studerede, hvordan mennesker får adgang til viden, hvordan ekspertise kan støttes eller replikeres, og skæringen mellem kognition, datalogi og ingeniørdesign. Denne menneskecentrerede tilgang har været med mig lige siden.

Da digitale teknologier er vokset, er spørgsmålene i mit arbejde også ændret. Opkomsten af IoT-data, AI og avanceret beregning har flyttet design væk fra at være kun menneskecentreret og mod at være samfundscentreret. Dette fortsætter med at forme mit arbejde på University of Exeter, hvor jeg leder DIGIT Lab og fokuserer på rollen af LLM’er i den kreative proces, barriererne, industrierne står over for ved at adoptere dem, og hvordan data kan drive innovation.

Min tid på Imperial og Royal College of Art forstærkede, at design er langt mere end at forme produkter eller tjenester. Med de rette mennesker, processer og kultur kan design blive en driver af nye og skalerbare teknologier, materialer og idéer, der kan løse nutidens og fremtidens globale udfordringer.

DIGIT Lab fokuserer stærkt på digital transformation inden for store etablerede organisationer. Fra din synsvinkel, hvad mener du, at ledere misforstår mest om, hvordan AI vil ændre design, innovation og beslutningstagning?

I årtier har AI udviklet sig i forskning og er blevet adopteret i visse industrier, men fremskridt har ofte været begrænset af kompetencegaps, ledelsesforståelse og klarhed om værdi og den infrastruktur, der kræves. Med opkomsten af LLM’er og generative værktøjer som DALL·E er AI nu mere tilgængeligt og kræver langt mindre specialiseret ekspertise eller opsætning. Men dette rejser også nye spørgsmål om privatliv, datasikkerhed og hvor godt generiske modeller kan anvendes på specifikke domæner.

I design og innovation er disse problemer særligt tydelige. Vores forskning, der undersøgte over 12.000 idéer genereret af mennesker og af AI, viste, at AI-idéer tenderer til at klumpe sig omkring lignende koncepter. Dette understreger behovet for at bygge menneskelig ekspertise ind i generiske værktøjer, tilpasse AI til domænet eller forstå, hvornår og hvordan man skal bruge AI sammen med menneskelig kreativitet og beslutningstagning.

Meget af din forskning udforsker kreativitet og kognition i design. Med generativ AI, der nu kan producere idéer, koncepter og iterationer i stor målestok, hvilke aspekter af kreativitet ser du som unikt menneskeligt – og hvilke dele kan ansvarligt flyttes mod AI-drevne processer?

Kreativitet har altid været mere end at generere alternativer for mig. Det handler om intention, kulturel betydning og den emotionelle forbindelse, et design skaber. Vores seneste DIGIT Lab-undersøgelse bragte dette skarpt i fokus: 82% af mennesker fortalte os, at menneskeledet eller hybridarbejde føles mere meningsfuldt, og 71% sagde, de føler sig mindre emotionelt forbundet til AI-kun design. Mange beskrev AI-genereret arbejde som “mangler emotion” (48%) eller “for perfekt” (40%), og 36% følte, at dets impact forsvandt hurtigt. Disse svar understreger noget, jeg har troet på i lang tid. Emotionelt engagement er ikke blot rart at have; det er afgørende for, hvordan mennesker oplever og værdsætter kreativt arbejde.

Vores forskning, der sammenligner menneskelige og AI-idéer, viser også, at menneskelige designere er bedre til at skabe varierede, nye idéer og sikre, at det kreative resultat, enten kunst, produkt-design eller tjenester, har dybde og mening. Kreative eksperter besidder en kompetence, der endnu ikke kan replikeres. Designere skal forstå problemet, før de genererer idéer, og LLM’er er meget nyttige til at samle information, der hjælper designere med at gå fra at forstå problemet til at udvikle idéer. Hvis vi kan bygge modeller af menneskelig ekspertise ind i AI-værktøjer, kan de også støtte evaluering af idéer, så AI kan få bedre gavn af menneskelige kreative færdigheder.

Kæden-af-tanke-tilgangen, vi eksperimenterer med, understøtter LLM’er, der følger eksperters ræsonnement frem for blot at give en score. I alle tilfælde kræves menneskeligt tilsyn for at fortolke resultater og sikre, at designvalg er i overensstemmelse med brugernes livserfaringer.

Det er klart, at vi enten må skabe modeller, der kan fange, hvordan mennesker oplever produkter, tjenester og interaktioner på måder, som computere kan fortolke, eller integrere tyk data (rige kvalitative indsighter, der giver kontekst) med den tynde eller store sensor-data, vi indsamler. At udvikle disse modeller er ikke ligetil, og dette er præcis, hvor menneskelig involvering forbliver afgørende.

Så for mig er takeaway ikke, at AI har ingen plads i kreativitet. Langt fra det. Det er, at AI og mennesker bidrager med forskellige styrker. Det faktum, at mennesker konsekvent responderer mere positivt til menneske- eller hybrid-arbejde, siger os blot, hvor tyngdepunktet ligger. AI kan hjælpe med at udforske et bredere design-rum, analysere mønstre og tilbyde struktureret kritik, men disse perceptioner af fladhed, algoritmisk perfektion og emotionel distance viser, hvor AI stadig har brug for menneskelig dømmekraft for at omdanne muligheder til noget, der resonerer.

Det er derfor, jeg ser fremtiden for kreativitet som fundamentalt samarbejdende. AI kan udvide feltet af muligheder. Designere bringer empati, kulturel forståelse og en fornemmelse af intention, der giver disse muligheder mening. Når de to arbejder sammen, med menneskelig dømmekraft, der sætter retningen, og AI, der beriger udforskningen, er resultatet en kreativ proces, der er mere rigorøs, mere fantasifuld og ultimativt mere menneskelig i dens resultater.

Du har udviklet banebrydende tilgange for at kvantificere brugeroplevelser og strukturere designviden. Da AI-systemer bliver mere ansvarlige for at generere produkter og tjenester, hvordan sikrer vi, at menneskelige oplevelser, emotioner og kulturelle signaler forbliver centrale i designprocessen?

For at sætte menneskers oplevelser i centrum har vi brug for at indbygge viden om perception og emotion i vores metoder.

Der er to hovedtilgange. Den første anerkender behovet for kvalitative data, der giver en rig forståelse af menneskelig oplevelse, perception og emotion, og informerer effektivt menneske-AI-samarbejde. Den anden – som mit arbejde har fokuseret på – sigter på at oversætte denne viden til modeller, som AI-systemer kan forstå og bruge.

Disse modeller er komplekse at udvikle, da de må integrere brugeroplevelse, menneskelig perception og karakteristikkerne af produkterne eller systemerne, der designes, for at forudsige menneskelige responser og samlede oplevelse.

Du arbejder omfattende med komplekse industrier – luftfart, medicin, fremstilling og forbrugsvarer. I disse højrisiko-miljøer, hvordan balancerer du potentialet for AI-understøttet design med behovet for sikkerhed, sporbarhed og tillid?

I højrisiko-sektorer som sundhedssektoren, luftfart og fremstilling er spørgsmålet ikke, om AI kan bruges, men hvordan det styres. Tillid i disse miljøer afhænger af klar ansvarlighed, sporbarhed og forklarbarhed på alle stadier af design- og beslutningsprocessen. AI kan spille en kraftfuld støtterolle i simulation, optimering og tidlig udforskning, men det kan ikke blive den endelige myndighed.

Mange af disse fag er tæt regulerede og underlagt strenge sikkerhedskrav, der kræver sikker håndtering af alle data, personlige eller kommercielt følsomme. I disse kontekster skal ofte prompts eller forespørgsler udvikles ved hjælp af lokale data for at sikre specifikitet og relevans, og det er almindeligt for organisationer i disse sektorer at bygge og vedligeholde deres egne AI-værktøjer.

Hvad vores bredere forskning konsekvent viser, er, at hybrid-systemer er essentielle: AI skal supplere eksperters dømmekraft, ikke erstatte den. Menneskelig oversigt skal forblive bygget ind i hvert kritisk beslutningspunkt, især hvor sikkerhed, risiko og ansvar er involveret. For at tilsynsmyndigheder og slutbrugere kan stole på AI-baserede systemer, har organisationer også brug for gennemsigtig dokumentation af, hvordan modeller er trænet, hvilke data de bruger, og hvordan outputs genereres. Uden denne gennemsigtighed kan tillid ikke opbygges i større skala, uanset hvor avanceret teknologien bliver.

Mange organisationer kæmper med afstanden mellem “at eksperimentere med AI” og meningsfuldt at integrere det i produktudvikling. Hvilke praktiske skridt ville du anbefale for hold, der forsøger at gå fra eksperiment til strategisk implementering?

Mange organisationer stopper ved eksperimentationsstadiet, fordi de adopterer AI uden et klart strategisk formål. Det første praktiske skridt er at være eksplicit om, hvilken rolle AI skal spille i udviklingsprocessen, enten det er at støtte idegenerering, accelerere test, forbedre evaluering eller forbedre beslutningstagning. Uden denne klarhed forbliver piloter afbrudt fra virkelige forretnings- og designresultater.

Hold har også brug for de rette grundlag på plads. Det indebærer at investere i velforvaltede data af høj kvalitet, især data, der afspejler virkelige brugeroplevelser, snarere end kun teknisk præstation. Det indebærer også at være realistisk omkring de nuværende begrænsninger af AI, især i kreative og menneskecentrerede domæner, hvor eksperttilsyn forbliver essentiel.

Mange sektorer begynder at udvikle AI-politikker, der vejleder hold gennem processen med at eksperimentere med AI fra at bygge forretningscases og køre piloter til bredere adoption. Disse politikker hjælper organisationer med at identificere, hvor AI kan tilføje virkelig værdi, samtidig med at de sikrer, at mennesker forbliver i løkken, hvor det er nødvendigt.

Til sidst skal organisationer gå gennem strukturerede, lav-risiko-piloter, der er integreret i virkelige arbejdsgange, ikke køres i isolation. Disse piloter skal være tværfaglige, bringe designere, ingeniører, datavidenskabsfolk og domæne-eksperter sammen, så læring deles og kan overføres. AI leverer værdi, når det er designet ind i hverdagspraksis, ikke behandlet som et separat eksperimentallag.

Du har en lang tradition for at udvikle metoder til at strukturere og automatisere viden. Hvor tæt er vi på AI-systemer, der kan resonere om design-intention, brugerbehov og kontekst på en måde, der virkelig tilføjer værdi snarere end blot at generere indhold?

I nogle områder er forudsigelse af brugerpræferencer relativt let, da data som browsing-historik eller optegnelser over, hvilke film eller tv-shows der er set, kan bruges til at give anbefalinger. Disse områder nyder godt af let tilgængelige data.

Min seneste forskning med Digit Lab undersøgte evnen af en LLM, når den fik en model af, hvordan mennesker opfatter og responderer på designfunktioner. Imidlertid kan nuværende modeller kun operere på mønstre i data og kan ikke kontekstualisere mening. Tidligere studier, der kobler form til perception, viser, at selv små ændringer i form kan skifte emotionelle responser, og sådanne nuancer er svære for AI at forudse uden menneskelig vejledning eller sofistikerede modeller. AI bliver derfor bedre til at ræsonnere om intention, men er fortsat et supplement til menneskelig ekspertise.

Da AI accelererer design-cykler – fra idegenerering til prototypering – hvilke nye færdigheder skal designere have? Hvordan skal universiteter og organisationer omstrukturere uddannelsen for den næste generation af kreative talenter?

Designere skal være flydende i både menneskelig perception og AI-aktiverede værktøjer. Forståelse af, hvordan form, materiale og proportion påvirker emotionel respons, skal forblive grundlæggende for godt design. Samtidig skal designere være i stand til at arbejde sikkert og kompetent med AI-systemer, der støtter idégenerering og evaluering. Det indebærer ikke kun at bruge værktøjerne, men også at forstå, hvad de optimerer for, og hvor deres begrænsninger ligger. Da AI bliver mere integreret i design-workflows, bliver evnen til kritisk at fortolke dets outputs og kombinere dem med menneskelig dømmekraft en af de mest værdifulde kreative færdigheder.

Designere skal have en ny blanding af færdigheder og måder at tænke på, der går ud over traditionelle håndværksfærdigheder. De skal forstå, hvordan digitale teknologier fungerer, hvad forskellige typer data kan (og ikke kan) afsløre, og hvordan man kombinerer design-ekspertise med AI-kompetence. Dette inkluderer at kende, hvordan man arbejder med velforvaltede data af høj kvalitet, der afspejler virkelige brugeroplevelser, snarere end at kun stole på teknisk præstationsdata. Samtidig skal designere have dømmekraften til at genkende, hvor AI er nyttigt, og hvor menneskelig kreativitet og kritisk tænkning må forblive centrale.

For at imødekomme disse behov skal universiteter og organisationer omstrukturere, hvordan de uddanner den næste generation af kreative talenter. Nogle universiteter integrerer allerede datavidenskab i designprogrammer, et vigtigt skridt, men ikke nok i sig selv. Hvad der stadig mangler, er design-tænkningsmetoder, der er udstyret til virkelighedens realiteter i den digitale tidsalder: metoder, der hjælper designere med at samarbejde med AI, arbejde på tværs af fag og navigere i hurtig eksperimentering, mens de opretholder etisk og menneskecentreret tilsyn.

At afhjælpe denne mangel er afgørende. Det er derfor, min kollega, Dr. Ji Han, og jeg skriver en bog med Cambridge University Press om Design Thinking in the Digital Age, som samler rammer, færdigheder og måder at tænke på, der er nødvendige for at designe effektivt sammen med AI.

DIGIT Lab betoner ansvarlig transformation. I din mening, hvilke etiske eller samfundsmæssige risici har brug for mere opmærksomhed, da AI bliver mere integreret i design-workflows på tværs af industrier?

Et eksempel er sikring af den etiske brug af data, herunder at opnå informeret samtykke og opretholde gennemsigtighed omkring de datasets, der bruges til at udvikle AI-produkter, samt eventuelle bias, de måtte indeholde. For eksempel skal datasets, der er integreret i sundhedssystemer, undersøges nøje for at sikre, at de repræsenterer hele befolkningen, identificere eventuelle underrepræsenterede grupper og bekræfte, at AI-systemet er egnet til formålet og inkluderende. Fra et samfundsmæssigt perspektiv er der ofte bekymring for, at AI vil erstatte arbejdspladser. Det er imidlertid vigtigt at forstå, hvor menneskelig ekspertise fortsat er afgørende, og hvordan AI kan styrke menneskers evner frem for at erstatte dem.

Der er dog også dybere etiske spørgsmål. Når designere afhænger af menneskelig data, skal de håndtere privatliv, bias og gennemsigtighed ansvarligt. En DIGIT Lab-workshop identificerede “data”, “mennesker” og “styring” som de primære udfordringskategorier i fremstillingssektoren, hvilket understreger behovet for bedre dataindsamling, menneskeligt tilsyn og klare politikker om sikkerhed, tillid, immaterielle rettigheder og regulering. At imødekomme disse risici indebærer at sikre, at AI-systemer er bygget på varierede data, at integrere menneskelig dømmekraft på kritiske punkter og at udvikle inklusive designstandarder, der respekterer privatliv, samtykke og kulturel kontekst.

Du har forsket i, hvordan data og AI kan tilpasse produkter omkring brugeroplevelse. Ser du en fremtid, hvor produkter udvikler sig dynamisk baseret på realtidsdata, efter de forlader fabrikken? Hvis ja, hvordan skal designere forberede sig på den verden? 

Data-dreven design kan bruges til at personalisere eller tilpasse produkter efter individuel adfærd. De bliver derefter “intelligente” systemer, der indsamler data om, hvordan de bruges, og kommunikerer gennem indbyggede sensorer og IoT-forbindelser. I vores ramme indebærer tilpasningsaktiviteter at bruge disse data til at opdatere og tilpasse produkter efter de forlader fabrikken. Eksempler inkluderer at koble gestigenkendelsesmodeller til en digital tvilling for menneske-robot-samarbejde og bruge maskinlærings-assisteret scanning til at skabe tilpassede komponenter.

Dette skift skaber nye ansvar. Designere skal beslutte, hvilke menneskelige data — adfærd, fysiologi, feedback eller følelser — der er relevante. De skal også sikre, at opdateringer bevarer de intentionerede æstetiske og emotionelle kvaliteter, vi ved er forbundet med form og perception. Til sidst er styring vigtig: vores industriworkshop fremhævede, at spørgsmål om data, tillid og privatliv kræver klare politikker og menneskeligt tilsyn. Når det udføres godt, kan udviklende produkter tilbyde varig værdi og respons uden at ofre mening eller etik.

At se fremad, hvilke store forskningsspørgsmål motiverer dig lige nu? Og hvilke gennembrud tror du, feltet vil se i de næste få år ved skæringen af AI, kreativitet og designingeniørarbejde?

Mange af de udfordringer, der er beskrevet ovenfor, forbliver uløste – flere af dem, jeg lige nu arbejder med, herunder arbejde for at sikre, at generiske generative AI-værktøjer kan tilpasses effektivt til de specifikke sektorer, der ønsker at adoptere dem.

På sektorniveau kan dette se meget forskelligt ud: i fremstilling kan det indebære brug af lokaliserede modeller trænet på domænespecifik viden, sammen med stærke privatlivs- og sikkerhedsforanstaltninger; i kreative industrier kan fokus være på at diversificere outputs og muliggøre et mere meningsfuldt samarbejde mellem mennesker og AI.

På det tekniske niveau eksperimenterer vi med store sprogmodeller for at støtte evaluering-opgaver. Et studie viser, at LLM’er kan vurdere originalitet og nytte, og at vurderingerne stemmer bedre overens med menneskelige eksperters, når modellerne vejledes af veludformede prompts. En relateret artikel bruger kæde-af-tanke-prompting og multi-model-aggregation for at gøre AI-evaluering mere pålidelig. Vi udforsker også konversational-agenter for at fange organisationers digitale-transformation-krav, og demonstrerer, at chatbots kan udføre strukturerede interviews effektivt. Kombineret med arbejde om at bruge menneskelig data i design peger disse initiativer på en fremtid, hvor AI hjælper os med at bevare ekspertise, træffe bedre beslutninger og engagere brugere på en etisk måde.

Tak for det tankevækkende og indsigtsgivende interview; læsere, der ønsker at lære mere om Professor Ahmed-Kristensens arbejde med AI-drevet design, kreativitet og ansvarlig digital transformation, kan udforske pågående forskning og initiativer på DIGIT Lab.