Prof. Saeema Ahmed-Kristensen, direktør for DIGIT Lab – Interviewserie

Professor Saeema Ahmed-Kristensen er en førende designingeniør og Associate Pro-Vice-Chancellor (Research & Impact) ved University of Exeter, hvor hun også fungerer som direktør for DIGIT Lab, en stor tværfaglig forskningsinitiativ, der fokuserer på digital innovation og transformation. Hendes forskning omfatter designkreativitet og kognition, data-dreven og digital design, samt integration af avancerede teknologier i komplekse ingeniør- og produktudvikling, med en stærk vægt på at oversætte akademisk indsigt til virkelighedsnær impact gennem samarbejde med industrien, politisk engagement og store forskningsprogrammer.

Dit karriere har spændt over Cambridge, DTU, Imperial College London, Royal College of Art og nu University of Exeter. Hvad er det, der har formet din tænkning om design, kreativitet og rollen af digitale teknologier?

Min arbejde med design har spændt over mange forskellige kulturer og fag. Jeg startede på Brunel på en af de få kurser, der kombinerede teknologi, menneskecentreret design og forståelse af form. Det lærte mig tidligt, at kreativitet og innovation er tæt forbundet.

Studierne på Cambridge åbnede mine øjne endnu mere. Kollegiemiljøet udsatte mig for mange fag og viste mig, hvordan innovation afhænger af viden, der kommer sammen på tværs af fag. Min ph.d. fokuserede på luftfartssektoren og undersøgte, hvordan ingeniørdesignere finder og bruger information. Jeg studerede, hvordan mennesker får adgang til viden, hvordan ekspertise kan støttes eller replikeres, og skæringen mellem kognition, datalogi og ingeniørdesign. Denne menneskecentrerede tilgang har været med mig lige siden.

Da digitale teknologier er vokset, er spørgsmålene i mit arbejde også ændret. Opkomsten af IoT-data, AI og avanceret beregning har flyttet design væk fra at være kun menneskecentreret og mod at være samfundscentreret. Dette fortsætter med at forme mit arbejde på University of Exeter, hvor jeg leder DIGIT Lab og fokuserer på rollen af LLM’er i den kreative proces, barriererne, industrierne står over for ved at adoptere dem, og hvordan data kan drive innovation.

Min tid på Imperial og Royal College of Art forstærkede, at design er langt mere end at forme produkter eller tjenester. Med de rette mennesker, processer og kultur kan design blive en driver af nye og skalerbare teknologier, materialer og idéer, der kan løse i dag og morgendagens globale udfordringer.

DIGIT Lab fokuserer stærkt på digital transformation inden for store etablerede organisationer. Fra din synsvinkel, hvad mener du, at ledere misforstår mest om, hvordan AI vil ændre design, innovation og beslutningstagning?

I årtier har AI udviklet sig i forskning og er blevet adopteret i visse industrier, men fremskridt har ofte været begrænset af kompetencegaps, ledelsesforståelse og klarehed om værdi og den infrastruktur, der kræves. Med opkomsten af LLM’er og generative værktøjer som DALL·E er AI nu mere tilgængeligt og kræver langt mindre specialiseret ekspertise eller opsætning. Men dette rejser også nye spørgsmål om privatliv, datasikkerhed og hvor godt generiske modeller kan anvendes på specifikke domæner.

I design og innovation er disse problemer særligt tydelige. Vores forskning, der undersøgte over 12.000 idéer genereret af mennesker og af AI, viste, at AI-idéer tenderer til at klumpe sig omkring lignende koncepter. Dette understreger behovet for at bygge menneskelig ekspertise ind i generiske værktøjer, tilpasse AI til domænet eller forstå, hvornår og hvordan man skal bruge AI sammen med menneskelig kreativitet og beslutningstagning.

Meget af din forskning udforsker kreativitet og kognition i design. Med generativ AI, der nu kan producere idéer, koncepter og iterationer i stor målestok, hvilke aspekter af kreativitet ser du som unikt menneskeligt – og hvilke dele kan ansvarligt flyttes mod AI-drevne processer?

Kreativitet har altid været mere end at generere alternativer for mig. Det handler om intention, kulturel betydning og den emotionelle forbindelse, et design skaber. Vores seneste DIGIT Lab-undersøgelse bragte dette skarpt i fokus: 82% af mennesker fortalte os, at menneskeledet eller hybridarbejde føles mere meningsfuldt, og 71% sagde, de føler sig mindre emotionelt forbundet til AI-kun design. Mange beskrev AI-genereret arbejde som “mangler emotion” (48%) eller “for perfekt” (40%), og 36% følte, at dets impact forsvandt hurtigt. Disse svar understreger noget, jeg har troet på i lang tid. Emotionel engagement er ikke et nice-to-have; det er afgørende for, hvordan mennesker oplever og værderer kreativt arbejde.

Vores forskning, der sammenligner menneskelige og AI-idéer, viser også, at menneskelige designere er bedre til at skabe diverse, nye idéer og sikre, at den kreative output, enten kunst, produkt-design eller tjenester, har dybde og mening. Kreative eksperter besidder en kompetence, der endnu ikke kan replikeres. Designere skal forstå problemet, før de genererer idéer, og LLM’er er meget nyttige til at samle information, der hjælper designere med at skifte fra ét problem til et andet. Hvis vi kan bygge modeller af menneskelig ekspertise ind i AI-værktøjer, kan de også støtte evaluering af idéer, så AI kan tage bedre fordel af menneskelige kreative færdigheder.

Kæden-af-tanke-tilgangen, vi eksperimenterer med, understøtter LLM’er, der følger ekspertrationel, ikke kun giver score. I alle tilfælde kræves menneskelig oversigt for at fortolke resultater og sikre, at designvalg er i overensstemmelse med brugernes livserfaringer.

Det er klart, at vi enten må skabe modeller, der kan fange, hvordan mennesker oplever produkter, tjenester og interaktioner på måder, som computere kan fortolke, eller integrere tyk data (rige kvalitative indsighter, der giver kontekst) med den tynde eller store sensor-data, vi indsamler. At udvikle disse modeller er ikke straightforward, og dette er præcis, hvor menneskelig involvering forbliver afgørende.

Så for mig er takeaway ikke, at AI har ingen plads i kreativitet. Langt fra det. Det er, at AI og mennesker bidrager med forskellige styrker. Det faktum, at mennesker konsekvent responderer mere positivt til menneske- eller hybrid-arbejde, siger os blot, hvor tyngdepunktet ligger. AI kan hjælpe med at udforske et bredere design-rum, analysere mønstre og tilbyde struktureret kritik, men disse perceptioner af fladhed, algorithmisk perfektion og emotionel distance viser, hvor AI stadig har brug for menneskelig dømmekraft for at omdanne muligheder til noget, der resonerer.

Det er derfor, jeg ser fremtiden for kreativitet som fundamentalt samarbejdende. AI kan udvide feltet af muligheder. Designere bringer empati, kulturel forståelse og en fornemmelse af intention, der giver disse muligheder mening. Når de to arbejder sammen, med menneskelig dømmekraft, der sætter retningen, og AI, der beriger udforskningen, er resultatet en kreativ proces, der er mere rigorøs, mere fantasifuld og ultimativt mere menneskelig i dens resultater.

Du har banebrydende tilgange for at kvantificere brugeroplevelser og strukturere designviden. Da AI-systemer bliver mere ansvarlige for at generere produkter og tjenester, hvordan sikrer vi, at menneskelige oplevelser, emotioner og kulturelle signaler forbliver centrale i designprocessen?

For at centre menneskelig oplevelse har vi brug for at indbygge viden om perception og emotion i vores metoder.

Der er to hovedtilgange. Den første anerkender behovet for kvalitative data, der giver en rig forståelse af menneskelig oplevelse, perception og emotion, og informerer effektivt menneske-AI-samarbejde. Den anden – som mit arbejde har fokuseret på – sigter på at oversætte denne viden til modeller, som AI-systemer kan forstå og bruge.

Disse modeller er komplekse at udvikle, da de må integrere brugeroplevelse, menneskelig perception og karakteristikkerne af produkterne eller systemerne, der designes, for at forudsige menneskelige responser og samlede oplevelse.

Du arbejder omfattende med komplekse industrier – luftfart, medicin, fremstilling og forbrugsvarer. I disse højrisiko-miljøer, hvordan balancerer du potentialet for AI-understøttet design med behovet for sikkerhed, sporing og tillid?

I højrisiko-sektorer som sundhedssektoren, luftfart og fremstilling er spørgsmålet ikke, om AI kan bruges, men hvordan det styres. Tillid i disse miljøer afhænger af klar ansvarlighed, sporing og forklarbarhed på alle stadier af design- og beslutningsprocessen. AI kan spille en kraftfuld støtterolle i simulation, optimering og tidlig udforskning, men det kan ikke blive den endelige myndighed.

Mange af disse fag er tæt regulerede og underlagt strenge sikkerhedskrav, der kræver sikker håndtering af alle data, personlige eller kommercielt følsomme. I disse kontekster skal ofte prompts eller forespørgsler udvikles ved hjælp af lokale data for at sikre specifikitet og relevans, og det er almindeligt for organisationer i disse sektorer at bygge og vedligeholde deres egne AI-værktøjer.

Hvad vores bredere forskning konsekvent viser, er, at hybrid-systemer er essentielle: AI skal supplere ekspert-dømmekraft, ikke erstatte det. Menneskelig oversigt skal forblive bygget ind i hver kritisk beslutningspunkt, især hvor sikkerhed, risiko og ansvar er involveret. For regulatører og slutbrugere at stole på AI-aktiverede systemer har organisationer også brug for gennemsigtige dokumentationer af, hvordan modeller er trænet, hvilke data de bruger, og hvordan outputs genereres. Uden denne gennemsigtighed kan tillid ikke skale, uanset hvor avanceret teknologien bliver.

Mange organisationer kæmper med afstanden mellem “at eksperimentere med AI” og meningsfuldt at integrere det i produktudvikling. Hvad praktiske skridt ville du anbefale for hold, der forsøger at gå fra eksperiment til strategisk implementering?

Mange organisationer stopper ved eksperimentationsstadiet, fordi de adopterer AI uden en klar strategisk formål. Det første praktiske skridt er at være eksplicit om, hvilken rolle AI skal spille i udviklingsprocessen, enten det er at støtte idegenerering, accelerere test, forbedre evaluering eller forbedre beslutningstagning. Uden denne klarehed forbliver piloter afbrudt fra virkelige forretnings- og designresultater.

Hold har også brug for de rette grundlag på plads. Det indebærer at investere i højkvalitets-, velstyrede data, især data, der afspejler virkelige brugeroplevelser, snarere end kun teknisk præstation. Det indebærer også at være realistisk omkring de nuværende begrænsninger af AI, især i kreative og menneskecentrerede domæner, hvor ekspert-oversigt forbliver essentiel.

Mange sektorer begynder at udvikle AI-politikker, der vejleder hold gennem processen med at eksperimentere med AI fra at bygge forretningscases og køre piloter til bredere adoption. Disse politikker hjælper organisationer med at identificere, hvor AI kan tilføje virkelig værdi, samtidig med at de sikrer, at mennesker forbliver i løkken, hvor det er nødvendigt.

Til sidst skal organisationer gå gennem strukturerede, lav-risiko-piloter, der er integreret i virkelige arbejdsgange, ikke køres i isolation. Disse piloter skal være tværfaglige, bringe designere, ingeniører, datavidenskabsfolk og domæne-eksperter sammen, så læring deles og kan overføres. AI leverer værdi, når det er designet ind i hverdagspraksis, ikke behandlet som et separat eksperimentallag.

Du har en lang tradition for at udvikle metoder til at strukturere og automatisere viden. Hvor tæt er vi på AI-systemer, der kan resonere om design-intention, brugerbehov og kontekst på en måde, der virkelig tilføjer værdi snarere end blot at generere indhold?

I nogle områder er forudsigelse af brugerpræferencer relativt let, da data som browsing-historik eller optegnelser over, hvilke film eller tv-shows der er set, kan bruges til at give anbefalinger. Disse områder nyder godt af let tilgængelige data.

Min seneste forskning med Digit Lab undersøgte evnen af en LLM, når den fik en model af, hvordan mennesker opfatter og responderer på designfunktioner. Imidlertid kan nuværende modeller kun operere på mønstre i data og kan ikke kontekstualisere mening. Tidligere studier, der kobler form til perception, viser, at selv små ændringer i form kan skifte emotionelle responser, og sådanne nuancer er svære for AI at forudse uden menneskelig vejledning eller sofistikerede modeller.

Da AI accelererer design-cykler – fra idegenerering til prototypering – hvilke nye færdigheder skal designere have? Hvordan skal universiteter og organisationer omstrukturere uddannelsen for den næste generation af kreative talenter?

Designere skal være flydende i både menneskelig perception og AI-aktiverede værktøjer. Forståelse af, hvordan form, materiale og proportion påvirker emotionel respons, skal forblive grundlæggende for godt design. Samtidig skal designere være i stand til at arbejde selvstændigt med AI-systemer, der støtter idégenerering og evaluering. Det indebærer ikke kun at bruge værktøjerne, men også at forstå, hvad de optimerer for, og hvor deres begrænsninger ligger. Da AI bliver mere integreret i design-workflows, bliver evnen til kritisk at fortolke dets outputs og kombinere dem med menneskelig dømmekraft en af de mest værdifulde kreative færdigheder.

Designere skal have en ny blanding af færdigheder og måder at tænke på, der går ud over traditionelle håndværksfærdigheder. De skal forstå, hvordan digitale teknologier fungerer, hvad forskellige typer data kan (og ikke kan) afsløre, og hvordan man kombinerer design-ekspertise med AI-litteracy. Dette inkluderer at kende, hvordan man arbejder med højkvalitets-, velstyrede data, der afspejler virkelige brugeroplevelser, snarere end at kun stole på teknisk præstationsdata. Samtidig skal designere have dømmekraften til at genkende, hvor AI er nyttigt, og hvor menneskelig kreativitet og kritisk tænkning må forblive centrale.

For at imødekomme disse behov skal universiteter og organisationer omstrukturere, hvordan de uddanner den næste generation af kreative talenter. Nogle universiteter integrerer allerede datavidenskab i designprogrammer, et vigtigt skridt, men ikke nok i sig selv. Hvad der stadig mangler, er design-tænkningsmetoder, der er udstyret til virkelighedens realiteter i den digitale tidsalder: metoder, der hjælper designere med at samarbejde med AI, arbejde på tværs af fag og navigere i hurtig eksperimentering, mens de opretholder etisk og menneskecentreret oversigt.

At imødekomme denne mangler er afgørende. Det er derfor, min kollega, Dr. Ji Han, og jeg skriver en bog med Cambridge University Press om Design Thinking in the Digital Age, som samler rammer, færdigheder og måder at tænke på, der er nødvendige for at designe effektivt sammen med AI.

DIGIT Lab betoner ansvarlig transformation. I din mening, hvilke etiske eller samfundsmæssige risici har brug for mere opmærksomhed, da AI bliver mere integreret i design-workflows på tværs af industrier?

Et eksempel er sikring af det etiske brug af data, herunder at opnå informeret samtykke og opretholde gennemsigtighed omkring de datasets, der bruges til at udvikle AI-produkter, samt eventuelle bias, de måtte indeholde. For eksempel skal datasets, der er integreret i sundhedssystemer, undersøges nøje for at sikre, at de repræsenterer hele befolkningen, identificere eventuelle underrepræsenterede grupper og bekræfte, at AI-systemet er egnet og inklusivt.

Der er dog også dybere etiske spørgsmål. Når designere afhænger af menneskelig data, skal de håndtere privatliv, bias og gennemsigtighed ansvarligt. En DIGIT Lab-workshop identificerede sektoren “data”, “menneske” og “styring” som de primære udfordringskategorier, hvilket understreger behovet for bedre dataindsamling, menneskelig oversigt og klare politikker om sikkerhed, tillid, immaterielle rettigheder og regulering. At imødekomme disse risici indebærer at sikre, at AI-systemer er bygget på diverse data, at integrere menneskelig dømmekraft på kritiske punkter og at udvikle inklusive designstandarder, der respekterer privatliv, samtykke og kulturel kontekst.

Du har forsket i, hvordan data og AI kan tilpasse produkter omkring brugeroplevelse. Ser du en fremtid, hvor produkter udvikler sig dynamisk baseret på realtidsdata, efter de forlader fabrikken? Hvis ja, hvordan skal designere forberede sig på den verden?

Data-dreven design brugt til produkter kan være personlige, tilpassede eller tilpasset individuelle adfærd. De bliver derefter “intelligente” systemer, der indsamler data om, hvordan de bruges, og kommunikerer gennem indbyggede sensorer og IoT-forbindelser. I vores ramme indebærer tilpasningsaktiviteter at bruge denne data til at opdatere og tilpasse produkter efter de forlader fabrikken. Eksempler inkluderer at koble gestigenkendelsesmodeller til en digital tvilling for menneske-robot-samarbejde og bruge maskinlærings-assisteret scanning til at skabe tilpassede komponenter.

Dette skift skaber nye ansvar. Designere skal beslutte, hvilke menneskelige data, adfærd, fysiologisk feedback eller emotionel, er relevant. De skal også sikre, at opdateringer bevarer de intentionerede æstetiske og emotionelle kvaliteter, vi ved er forbundet med form og perception. Til sidst er styring vigtig: vores industriel workshop fremhævede, at spørgsmål om data, tillid og privatliv kræver klare politikker og menneskelig oversigt. Når det udføres godt, kan udviklende produkter tilbyde varig værdi og respons uden at ofre mening eller etik.

At se fremad, hvilke store forskningsspørgsmål motiverer dig lige nu? Og hvilke gennembrud tror du, feltet vil se i de næste få år ved skæringen af AI, kreativitet og designingeniørarbejde?

Mange af de udfordringer, der er beskrevet ovenfor, forbliver uløste – flere af dem, jeg lige nu arbejder med, herunder arbejde for at sikre, at generiske generative AI-værktøjer kan tilpasses effektivt til de specifikke sektorer, der ønsker at adoptere dem.

På sektorniveau kan dette se meget forskelligt ud: i fremstilling kan det indebære brug af lokaliserede modeller trænet på domænespecifik viden, sammen med stærke privatlivs- og sikkerhedsforanstaltninger; i kreative industrier kan fokus være på at diversificere outputs og muliggøre mere meningsfuld samarbejde mellem mennesker og AI.

På det tekniske niveau eksperimenterer vi med store sprogmodeller for at støtte evaluering-opgaver. En studie viser, at LLM’er kan vurdere nytænkning og nyttighed og sammenlignes mere nøjagtigt med menneskelige eksperter, når de vejledes af vel-designede prompts. En relateret artikel bruger kæde-af-tanke-prompting og multi-model-aggregation for at gøre AI-evaluering mere pålidelig. Vi udforsker også konversational-agenter for at fange organisationers digitale-transformation-krav, og demonstrerer, at chatbots kan udføre strukturerede interviews effektivt. Kombineret med arbejde om at bruge menneskelig data i design peger disse initiativer på en fremtid, hvor AI hjælper os med at bevare ekspertise, træffe bedre beslutninger og engagere brugere på en etisk måde.

Tak for det tankevækkende og indsigtsgivende interview; læsere, der ønsker at lære mere om Professor Ahmed-Kristensens arbejde med AI-drevet design, kreativitet og ansvarlig digital transformation, kan udforske pågående forskning og initiativer på DIGIT Lab.