Prof. Saeema Ahmed-Kristensen, direktør for DIGIT Lab – Intervju-serie

Professor Saeema Ahmed-Kristensen er en ledende designingeniør og Associate Pro-Vice-Chancellor (Research & Impact) ved University of Exeter, hvor hun også er direktør for DIGIT Lab, en stor interdisiplinær forskningsinitiativ som fokuserer på digital innovasjon og transformasjon. Hennes forskning omfatter designkreativitet og kognisjon, data-drevet og digital design, og integrering av avanserte teknologier i komplekse ingeniør- og produktutvikling, med en sterk vekt på å oversette akademisk innsikt til virkelige resultater gjennom industrikollaborasjon, politisk engasjement og store forskningsprogrammer.

Din karriere har spennt over Cambridge, DTU, Imperial College London, Royal College of Art og nå University of Exeter. Ser du tilbake, hvilke erfaringer eller vendepunkter har hatt størst innvirkning på din tenkning om design, kreativitet og rollen til digitale teknologier?

Mitt arbeid i design har spennt over mange forskjellige kulturer og disipliner. Jeg begynte på Brunel på en av de få kursene på den tiden som kombinerte teknologi, menneskesentrert design og forståelse av form. Det lærte meg tidlig at kreativitet og innovasjon er nært knyttet.

Studier på Cambridge åpnet opp mine tanker ytterligere. College-miljøet eksponerte meg for mange disipliner og viste meg hvordan innovasjon avhenger av kunnskap som kommer sammen over felt. Min doktorgrad fokuserte på romfartssektoren og undersøkte hvordan ingeniørdesignere finner og bruker informasjon. Jeg studerte hvordan mennesker får tilgang til kunnskap, hvordan ekspertise kan støttes eller replikeres, og skjæringspunktet mellom kognisjon, datavitenskap og ingeniørdesign. Dette menneskesenterte perspektivet har vært med meg siden.

Da digitale teknologier har vokst, har også spørsmålene i mitt arbeid økt. Oppblomstringen av IoT-data, AI og avansert beregning har flyttet design bort fra å være kun menneskesentrert og mot å være samfunnsorientert. Dette fortsetter å forme mitt arbeid ved University of Exeter, hvor jeg leder DIGIT Lab og fokuserer på rollen til LLM i den kreative prosessen, barrierene industrier møter i å adoptere dem, og hvordan data kan drive innovasjon.

Minn tidsperiode ved Imperial og Royal College of Art forsterket at design er langt mer enn å forme produkter eller tjenester. Med de riktige menneskene, prosessene og kulturen, blir design en driver av nye og skalerbare teknologier, materialer og ideer som kan møte dagens og morgendagens globale utfordringer.

DIGIT Lab fokuserer tungt på digital transformasjon innen store etablerte organisasjoner. Fra din posisjon, hva tror du ledere misforstår mest om hvordan AI vil endre design, innovasjon og beslutningstaking?

I flere tiår har AI fremmet i forskning og blitt adoptert i visse industrier, men fremgangen har ofte vært begrenset av ferdighetsgap, lederforståelse og klarhet om verdien og infrastrukturen som kreves. Med oppblomstringen av LLM og generative verktøy som DALL·E, er AI nå mer tilgjengelig og trenger langt mindre spesialistekspertise eller oppsett. Men dette åpner også opp nye spørsmål om personvern, datasikkerhet og hvor godt generiske modeller passer til spesifikke domener.

I design og innovasjon er disse problemene særlig tydelige. Vår forskning, som undersøkte over 12 000 ideer generert av mennesker og av AI, viste at AI-ideer tenderer til å samle seg rundt lignende konsepter. Dette understreker behovet for å bygge inn menneskelig ekspertise i generiske verktøy, tilpasse AI til domenet, eller forstå når og hvordan man skal bruke AI sammen med menneskelig kreativitet og beslutningstaking.

Mye av din forskning utforsker kreativitet og kognisjon i design. Med generativ AI nå i stand til å produsere ideer, konsepter og iterasjoner i stor skala, hvilke aspekter av kreativitet ser du på som unikt menneskelige — og hvilke deler kan ansvarlig flyttes mot AI-drevne prosesser?

Kreativitet har alltid vært mer enn å generere alternativer for meg. Det handler om intensjon, kulturell mening og den emosjonelle tilknytningen et design skaper. Vår nylige DIGIT Lab-undersøkelse bragte dette skarpt i fokus: 82 % av menneskene fortalte oss at menneskeledet eller hybrid-arbeid føles mer meningsfullt, og 71 % sa de føler seg mindre emosjonelt tilknyttet AI-kun design. Mange beskrev AI-generert arbeid som “mangler emosjon” (48 %) eller “for perfekt” (40 %), og 36 % følte dens innvirkning forsvant raskt. Disse responsene understreket noe jeg har trodd på lenge. Emosjonell engasjement er ikke et nyttesløst; det er essensielt for hvordan mennesker opplever og verdsetter kreativt arbeid.

Vår forskning som sammenligner menneskelige og AI-ideer viser også at menneskelige designere er bedre til å skape diverse, nye ideer og sikre at den kreative utgangen, enten det er kunst, produkt-design eller tjenester, har dybde og mening. Kreative eksperter besitter en ferdighetssett som ikke ennå er mulig å replikere. Designere må forstå problemet før de genererer ideer, og LLM-er er svært nyttige i å samle informasjon for å hjelpe designere å flytte fra ett problem til et annet. Hvis vi kan bygge modeller av menneskelig ekspertise inn i AI-verktøy, kan de også støtte evaluering av ideer, og la AI ta bedre nytte av menneskelig kreativitet.

Chain-of-thought-tilnærmingen vi eksperimenterer med støtter LLM-er til å følge ekspert-resonnement, ikke bare gi poeng. I alle tilfeller er menneskelig tilsyn nødvendig for å tolke resultater og sikre at designvalg er i samsvar med brukernes erfaringer.

Det er klart at vi må enten skape modeller som kan fange hvordan mennesker opplever produkter, tjenester og interaksjoner på måter som datamaskiner kan tolke, eller integrere tykk data (rike kvalitative innsikter som gir kontekst) med den tynne eller store sensor-data vi samler. Utvikling av disse modellene er ikke enkelt, og dette er nettopp der menneskelig involvering forblir essensiell.

Så for meg er takeaway-en ikke at AI har ingen plass i kreativitet. Langt ifra det. Det er at AI og mennesker bidrar med forskjellige styrker. Det faktum at mennesker konsekvent responderer mer positivt til menneskelig eller hybrid-arbeid, forteller oss bare hvor tyngdepunktet ligger. AI kan hjelpe med å utforske et bredere design-rom, analysere mønster og tilby strukturert kritikk, men disse persepsjonene av flatthet, algoritmisk perfeksjon og emosjonell distanse viser hvor AI ennå trenger menneskelig dømmekraft for å gjøre muligheter til noe som resonnerer.

Det er derfor jeg ser fremtiden til kreativitet som fundamentalt samarbeidende. AI kan utvide feltet av muligheter. Designere bringer empati, kulturell forståelse og en forståelse av intensjon som gir disse mulighetene mening. Når de to arbeider sammen, med menneskelig dømmekraft som setter retningen og AI som beriker utforskingen, er resultatet en kreativ prosess som er mer rigorøs, mer imaginativ og ultimate mer menneskelig i sine resultater.

Du har banebrytende tilnærminger for å kvantifisere brukeropplevelser og strukturere designkunnskap. Når AI-systemer blir mer ansvarlige for å generere produkter og tjenester, hvordan sikrer vi at menneskelige erfaringer, emosjoner og kulturelle signaler forblir sentrale i designprosessen?

For å sentralisere menneskelig erfaring, må vi innbygge kunnskap om persepsjon og emosjon i våre metoder.

Det finnes to hovedtilnærminger. Den første anerkjenner behovet for kvalitative data som muliggjør en rik forståelse av menneskelig erfaring, persepsjon og emosjon, og informerer effektivt menneskelig-AI-samarbeid. Den andre — som mitt arbeid har fokusert på — sikter på å oversette denne kunnskapen til modeller som AI-systemer kan forstå og bruke.

Disse modellene er komplekse å utvikle, da de må integrere brukeropplevelse, menneskelig persepsjon og karakteristika til produktene eller systemene som designes, for å forutsi menneskelige responser og samlede erfaring.

Du arbeider omfattende med komplekse industrier – romfart, medisinsk, produksjon og forbrukerprodukter. I disse høyrisiko-miljøene, hvordan balanserer du potensialet for AI-støttet design med behovet for sikkerhet, sporing og tillit?

I høyrisiko-sektorer som helse, romfart og produksjon, er spørsmålet ikke om AI kan brukes, men hvordan det styres. Tillit i disse miljøene avhenger av tydelig ansvar, sporing og forklarbarhet på hver fase av design- og beslutningsprosessen. AI kan spille en kraftig støttende rolle i simulering, optimering og tidlig utforsking, men det kan ikke bli den endelige myndigheten.

Mange av disse feltene er tett regulert og underlagt strenge sikkerhetskrav, som krever sikker håndtering av all data, personlig eller kommersielt sensitiv. I disse kontekstene må ofte prompter eller spørsmål utvikles ved hjelp av lokal data for å sikre spesifisitet og relevans, og det er vanlig for organisasjoner i disse sektorene å bygge og vedlikeholde sine egne AI-verktøy.

Hva vår videre forskning konsistenter viser, er at hybrid-systemer er essensielle: AI bør supplere ekspertdømmekraft, ikke erstatte det. Menneskelig tilsyn må forbli bygget inn i hver kritisk beslutningspunkt, særlig der sikkerhet, risiko og ansvar er involvert. For regulatorene og sluttbrukerne å stole på AI-aktiverede systemer, må organisasjonene også ha gjennomsiktig dokumentasjon av hvordan modellene er trent, hvilke data de bruker og hvordan utgangene genereres. Uten denne gjennomsiktigheten, kan tillit ikke skala, uavhengig av hvor avansert teknologien blir.

Mange organisasjoner sliter med gapet mellom “å eksperimentere med AI” og å integrere det meningsfullt i produktutvikling. Hvilke praktiske skritt ville du anbefale for team som prøver å gå fra eksperimentering til strategisk implementering?

Mange organisasjoner stopper på eksperimenteringsstadiet fordi de adopterer AI uten en klar strategisk hensikt. Det første praktiske skrittet er å være eksplisitt om hva rollen AI er ment å spille i utviklingsprosessen, enten det er å støtte idegenerering, akselerere testing, forbedre evaluering eller forbedre beslutningstaking. Uten denne klarheten, forblir piloter koblet fra virkelige forretnings- og designresultater.

Team må også ha riktige grunnlag på plass. Det betyr å investere i høykvalitets-, godt-styrt data, særlig data som reflekterer virkelige brukeropplevelser, ikke bare teknisk ytelse. Det betyr også å være realistisk om AIens nåværende begrensninger, særlig i kreative og menneskesenterte dømmekraft, hvor eksperttilsyn forblir essensielt.

Mange sektorer begynner å utvikle AI-policier som guider team gjennom prosessen med å eksperimentere med AI, fra å bygge forretnings-tilfeller og kjøre piloter til bredere adopsjon. Disse politikene hjelper organisasjoner å identifisere hvor AI kan legitimt legge til verdi, samtidig som de sikrer at mennesker forblir i løkken hvor det er nødvendig.

Til slutt bør organisasjoner gå gjennom strukturerte, lav-risiko-piloter som er innbygget i virkelige arbeidsflyter, ikke kjørt i isolasjon. Disse pilotene bør være tverrfaglige, og bringe sammen designere, ingeniører, data-vitenskapsmenn og domeneksperten så at læring deltes og er overførbar. AI leverer verdi når det er designet inn i hverdagspraksis, ikke behandlet som et separat eksperimentelt lag.

Du har en lang rekke med utvikling av metoder for å strukturere og automatisere kunnskap. Hvor nærme er vi AI-systemer som kan resonnere om design-intent, brukerbehov og kontekst på en måte som legitimt legger til verdi, snarere enn bare å generere innhold?

I noen områder er å forutsi brukerpreferanser relativt enkelt, da data som nettleserhistorikk eller rekorder av hvilke filmer eller TV-serier som er sett, kan brukes til å gi anbefalinger. Disse områdene nyter godt av lett tilgjengelig data.

I motsetning er et nøkkelutfordring i design av produkter og tjenester at data om menneskers valg, behov og erfaringer ofte ikke er lett tilgjengelig.

Min nyeste forskning med Digit Lab undersøkte evnen til en LLM, når gitt en modell av hvordan mennesker oppfatter og responderer på design-funksjoner. Imidlertid opererer nåværende modeller på mønster i data og kan ikke kontekstualisere mening. Tidligere studier som kobler form til persepsjoner viser at selv små endringer i form kan skifte emosjonelle responser, og slike nyanser er vanskelige for AI å forutse uten menneskelig veiledning eller sofistikerte modeller som må innføres. Derfor er AI-resonnement om intensjon forbedret, men det forblir et komplement til menneskelig ekspertise.

Etterhvert som AI akselererer design-sykluser — fra idegenerering til prototyping — hva nye ferdigheter vil designere trenge? Hvordan bør universiteter og organisasjoner omtenke opplæringen for den neste generasjonen av kreative talenter?

Designere vil trenge å være flytende i både menneskelig persepsjon og AI-aktiverede verktøy. Forståelse av hvordan form, materiale og proporsjoner former emosjonelle responser vil forbli grunnleggende for god design. Samtidig må designere være i stand til å arbeide trygt med AI-systemer som støtter idegenerering og evaluering. Det betyr ikke bare å bruke verktøyene, men å forstå hva de optimaliserer for og hvor deres begrensninger ligger. Når AI blir mer innbygget i design-arbeidsflyter, vil evnen til å kritisk tolke dens utgang og kombinere dem med menneskelig dømmekraft, bli en av de mest verdifulle kreative ferdighetene.

Som AI akselererer design-sykluser fra idegenerering til prototyping, vil designere trenge en ny blanding av ferdigheter og måter å tenke på som går utover tradisjonelle håndverksferdigheter. De vil trenge å forstå hvordan digitale teknologier fungerer, hva forskjellige typer data kan (og ikke kan) avsløre, og hvordan å kombinere design-ekspertise med AI-litteratur. Dette inkluderer å kjenne til hvordan man arbeider med høykvalitets-, godt-styrt data som reflekterer virkelige brukeropplevelser, snarere enn å bare basere seg på teknisk ytelse. Samtidig vil designere også trenge dømmekraften til å gjenkjenne hvor AI er nyttig og hvor menneskelig kreativitet og kritisk tenkning må forbli sentrale.

For å møte disse behovene, må universiteter og organisasjoner omtenke hvordan de opplærer den neste generasjonen av kreative talenter. Noen universiteter integrerer allerede data-vitenskap i design-programmer; et viktig skritt, men ikke nok alene. Hva som ennå mangler, er design-tenkningsmetoder som er utstyrt for realitetene i den digitale alderen: metoder som hjelper designere å samarbeide med AI, arbeide tverrfaglig og navigere rask eksperimentering samtidig som de opprettholder etisk og menneskesentrert tilsyn.

Å håndtere dette gapet er essensielt. Det er derfor min kollega, Dr. Ji Han, og jeg skriver en bok med Cambridge University Press om Design Thinking in the Digital Age, som bringer sammen rammer, ferdigheter og måter å tenke på som trengs for å designe effektivt sammen med AI.

DIGIT Lab understreker ansvarlig transformasjon. I din mening, hvilke etiske eller samfunnsmessige risikoer trenger mer oppmerksomhet når AI blir innbygget i design-arbeidsflyter over industrier?

Ett eksempel er å sikre den etiske bruken av data, inkludert å få informert samtykke og opprettholde gjennomsiktighet om datasettene som brukes til å utvikle AI-produkter, samt mulige bias de kan inneholde. For eksempel må datasett innbygget i helse-systemer nøye undersøkes for å sikre at de representerer hele befolkningen, identifisere eventuelle underrepresenterte grupper og bekrefte at AI-systemet er egnet og inkluderende. Fra et samfunnsmessig perspektiv er det ofte bekymring om at AI vil erstatte jobber; imidlertid er det viktig å forstå hvor menneskelig ekspertise forblir essensiell og hvordan AI kan brukes til å supplere, snarere enn erstatte, menneskelige evner.

Det finnes imidlertid dypere etiske problemstillinger også. Når designere baserer seg på menneskelig data, må de håndtere personvern, bias og gjennomsiktighet ansvarlig. En DIGIT Lab-workshop identifiserte det som den største utfordringen i produksjonssammenheng: “data”, “menneskelig” og “styring” som de viktigste utfordringskategoriene, og understreket behovet for bedre data-innsamling, menneskelig tilsyn og klare politikker om sikkerhet, tillit, intellektuell eiendom og regulering. Å håndtere disse risikoene betyr å sikre at AI-systemer bygges på diverse data, å innbygge menneskelig dømmekraft på kritiske punkter og å utvikle inkluderende design-standarden som respekterer personvern, samtykke og kulturelt kontekst.

Du har forsket på hvordan data og AI kan tilpasse produkter rundt brukeropplevelser. Ser du en fremtid hvor produkter utvikler seg dynamisk basert på sanntids-data etter at de forlater fabrikken? Hvis ja, hvordan bør designere forberede seg på den verden? 

Data-drevet design brukt for produkter kan være tilpasset, skreddersydd eller tilpasset individuelle atferd. De blir da “smarte” systemer som samler data om hvordan de brukes og kommuniserer gjennom innbygde sensorer og IoT-koblinger. I vårt rammeverk, involverer tilpassingsaktiviteter å bruke denne daten til å oppdatere og tilpasse produkter etter at de forlater fabrikken. Eksempler inkluderer å koble gest-gjenkjenning-modeller til en digital tvilling for menneske-robot-samarbeid og å bruke maskinlæring-støttet skanning til å skape tilpassede komponenter.

Dette skiftet skaper nye ansvar. Designere må bestemme hvilke menneskelig data, atferd, fysiologisk tilbakemelding eller emosjonell, er relevant. De må også sikre at oppdateringer bevarer de mentede estetiske og emosjonelle kvalitetene vi vet er koblet til form og persepsjon. Til slutt, styring må være viktig: Vår industri-workshop understreket at problemene rundt data, tillit og personvern krever klare politikker og menneskelig tilsyn. Når det gjøres riktig, kan utvikling av produkter tilby varig verdi og responsivitet uten å ofre mening eller etikk.

Ser du fremover, hva er de store forskningsspørsmålene som motivere deg nå? Og hva gjennombrudd vil feltet se i de neste årene på skjæringspunktet mellom AI, kreativitet og designingeniør?

Mange av de utfordringene som er beskrevet ovenfor, forblir uløste – flere av dem arbeider jeg med nå, inkludert arbeid for å sikre at generiske generative AI-verktøy kan effektivt tilpasses til de spesifikke sektorene som ønsker å adoptere dem.

På et sektornivå kan dette se ganske forskjellig ut: i produksjon kan det involvere bruk av lokale modeller trent på domene-spesifik kunnskap, sammen med sterke personvern- og sikkerhetstiltak; i kreative industrier kan fokus være på å diversifisere utgang og muliggjøre mer meningsfullt samarbeid mellom mennesker og AI.

På et teknisk nivå eksperimenterer vi med store språkmodeller for å støtte evaluering-oppgaver. En studie viser at LLM-er kan vurdere nyskaping og nytte og sammenligne mer med menneskelige eksperter når de er guidet av godt designet prompter. En relatert artikkel bruker chain-of-thought-prompting og multi-modell-aggregasjon for å gjøre AI-vurdering mer pålitelig. Vi utforsker også samtale-agenter for å fange organisasjoners digitale-transformasjonskrav, og demonstrerer at chat-bots kan utføre strukturerte intervjuer effektivt. Kombinert med arbeid på å bruke menneskelig data i design, peker disse initiativene mot en fremtid hvor AI hjelper oss å bevare ekspertise, ta bedre beslutninger og engasjere brukere etisk.

Takk for det tankefulle og innsiktsfulle intervjuet; lesere som ønsker å lære mer om Professor Ahmed-Kristensens arbeid på AI-drevet design, kreativitet og ansvarlig digital transformasjon, kan utforske pågående forskning og initiativer på DIGIT Lab.