Prof. Saeema Ahmed-Kristensen, direktør for DIGIT Lab – intervjuserie

Professor Saeema Ahmed-Kristensen er en ledende designingeniørforsker og assisterende prorektor (forskning og påvirkning) ved University of Exeter, hvor hun også fungerer som direktør for DIGIT-laboratoriet, et stort tverrfaglig forskningsinitiativ med fokus på digital innovasjon og transformasjon. Forskningen hennes spenner over designkreativitet og -kognisjon, datadrevet og digital design, og integrering av avanserte teknologier i kompleks ingeniør- og produktutvikling, med sterk vekt på å omsette akademisk innsikt til reell effekt gjennom industrisamarbeid, politisk engasjement og storskala forskningsprogrammer.

Karrieren din har strukket seg over Cambridge, DTU, Imperial College London, Royal College of Art og nå University of Exeter. Når du ser tilbake, hvilke erfaringer eller vendepunkter formet mest din tenkning om design, kreativitet og rollen til digitale teknologier?

Mitt arbeid innen design har strukket seg over mange forskjellige kulturer og disipliner. Jeg begynte ved Brunel på et av de få kursene på den tiden som kombinerte teknologi, menneskesentrert design og forståelse av form. Det lærte meg tidlig at kreativitet og innovasjon er tett knyttet sammen.

Studiene ved Cambridge åpnet deretter tankegangen min ytterligere. Universitetsmiljøet eksponerte meg for mange disipliner og viste meg hvordan innovasjon avhenger av at kunnskap samles på tvers av felt. Doktorgraden min fokuserte på luftfartssektoren og undersøkte hvordan ingeniørdesignere finner og bruker informasjon. Jeg studerte hvordan folk får tilgang til kunnskap, hvordan ekspertise kan støttes eller replikeres, og skjæringspunktet mellom kognisjon, informatikk og ingeniørdesign. Dette menneskesentrerte perspektivet har vært med meg siden den gang.

Etter hvert som digitale teknologier har vokst, har også spørsmålene i arbeidet mitt vokst. Fremveksten av IoT-data, AI og avansert databehandling har flyttet design fra å være kun menneskesentrert til å bli samfunnssentrert. Dette fortsetter å forme arbeidet mitt ved University of Exeter, hvor jeg leder DIGIT Lab og fokuserer på rollen til LLM-er i den kreative prosessen, barrierene bransjer møter i å ta dem i bruk, og hvordan data kan drive innovasjon.

Min tid ved Imperial College og Royal College of Art forsterket at design er langt mer enn å forme produkter eller tjenester. Med de rette menneskene, prosessene og kulturen blir design en drivkraft for nye og skalerbare teknologier, materialer og ideer som kan håndtere dagens og morgendagens globale utfordringer.

DIGIT Lab fokuserer sterkt på digital transformasjon i store etablerte organisasjoner. Fra ditt ståsted, hva tror du ledere misforstår mest om hvordan AI vil endre design, innovasjon og beslutningstaking?

I flere tiår har AI gjort store fremskritt innen forskning og blitt tatt i bruk i visse bransjer, men fremgangen har ofte vært begrenset av kompetansehull, lederforståelse og klarhet i verdien og infrastrukturen som kreves. Med fremveksten av LLM-er og generative verktøy som DALL·E, er AI nå mer tilgjengelig og krever langt mindre spesialkompetanse eller oppsett. Men dette reiser også nye spørsmål om personvern, datasikkerhet og hvor godt generelle modeller gjelder for spesifikke domener.

Innen design og innovasjon er disse problemstillingene spesielt tydelige. Vår forskning, som undersøkte mer enn 12 000 ideer generert av mennesker og av AI, viste at AI-ideer har en tendens til å klynge seg rundt lignende konsepter. Dette fremhever behovet for å bygge menneskelig ekspertise inn i generiske verktøy, tilpasse AI for domenet, eller forstå når og hvordan man skal bruke AI sammen med menneskelig kreativitet og beslutningstaking.

Mye av forskningen din utforsker kreativitet og kognisjon i design. Med generativ AI nå i stand til å produsere ideer, konsepter og iterasjoner i stor skala, hvilke aspekter ved kreativitet ser du på som unikt menneskelige – og hvilke deler kan ansvarlig skifte mot AI-drevne prosesser?

Kreativitet har alltid vært mer enn å generere alternativer for meg. Det handler om intensjon, kulturell mening og den emosjonelle forbindelsen et design skaper. Vår nylige DIGIT Lab-undersøkelse satte dette i skarpt fokus: 82 % av folk fortalte oss at menneskeledet eller hybrid arbeid føles mer meningsfullt, og 71 % sa at de føler seg mindre følelsesmessig knyttet til design kun basert på AI. Mange beskrev AI-generert arbeid som «manglende følelser» (48 %) eller «altfor perfekt» (40 %), og 36 % følte at effekten avtok raskt. Disse svarene forsterket noe jeg har trodd lenge. Emosjonelt engasjement er ikke noe som er hyggelig å ha; det er avgjørende for hvordan folk opplever og verdsetter kreativt arbeid.

Vår forskning som sammenligner menneskelige og kunstig intelligens-ideer viser også at menneskelige designere er bedre til å skape mangfoldige, nye ideer og sikre at det kreative resultatet, enten det er kunstverk, produktdesign eller tjenester, har dybde og mening. Kreative eksperter har et ferdighetssett som ennå ikke er mulig å replikere. Designere må forstå problemet før de genererer ideer, og LLM-er er svært nyttige for å samle informasjon for å hjelpe designere med å gå fra ett problem til et annet. Hvis vi kan bygge modeller av menneskelig ekspertise inn i kunstig intelligens-verktøy, kan de også støtte evaluering av ideer, slik at kunstig intelligens kan dra bedre nytte av menneskelige kreative ferdigheter.

Tankekjedetilnærmingen vi eksperimenterer med støtter LLM-er å følge ekspert resonnement, ikke bare gi poengsummer. I alle tilfeller kreves menneskelig tilsyn for å tolke resultater og sikre at designvalg samsvarer med brukernes levede erfaringer.

Det er tydelig at vi enten må lage modeller som er i stand til å fange opp hvordan folk opplever produkter, tjenester og interaksjoner på måter som datamaskiner kan tolke, eller integrere tykke data (rike kvalitative innsikter som gir kontekst) med de tynne eller store sensordataene vi samler inn. Å utvikle disse modellene er ikke enkelt, og det er nettopp her menneskelig involvering fortsatt er avgjørende.

Så for meg er ikke konklusjonen at AI ikke har noen plass i kreativitet. Langt ifra. Det er at AI og mennesker bidrar med ulike styrker. Det faktum at folk konsekvent reagerer mer positivt på menneskelig eller hybrid arbeid, forteller oss rett og slett hvor tyngdepunktet ligger. AI kan bidra til å utforske et bredere designrom, analysere mønstre og tilby strukturert kritikk, men disse oppfatningene av flathet, algoritmisk perfeksjon og emosjonell distanse viser hvor AI fortsatt trenger menneskelig dømmekraft for å gjøre muligheter om til noe som gir gjenklang.

Derfor ser jeg fremtiden for kreativitet som fundamentalt samarbeidende. KI kan utvide mulighetsfeltet. Designere bringer med seg empatien, den kulturelle forståelsen og intensjonsfølelsen som gir disse mulighetene mening. Når de to jobber sammen, med menneskelig dømmekraft som setter retningen og KI som beriker utforskningen, blir resultatet en kreativ prosess som er mer stringent, mer fantasifull og til syvende og sist mer menneskelig i sine utfall.

Du har vært pioner innen tilnærminger for å kvantifisere brukeropplevelser og strukturere designkunnskap. Etter hvert som AI-systemer blir mer ansvarlige for å generere produkter og tjenester, hvordan sikrer vi at menneskelige opplevelser, følelser og kulturelle signaler forblir sentrale i designprosessen?

For å sentralisere menneskelig erfaring, må vi bygge inn kunnskap om persepsjon og følelser i metodene våre.

Det finnes to hovedtilnærminger. Den første anerkjenner behovet for kvalitative data som muliggjør en rik forståelse av menneskelig erfaring, persepsjon og følelser, og som danner grunnlaget for effektivt samarbeid mellom mennesker og kunstig intelligens. Den andre – som arbeidet mitt har fokusert på – tar sikte på å oversette denne kunnskapen til modeller som kunstig intelligens-systemer kan forstå og bruke.

Disse modellene er komplekse å utvikle, ettersom de må integrere brukeropplevelse, menneskelig persepsjon og egenskapene til produktene eller systemene som designes, for å forutsi menneskelige responser og den generelle opplevelsen.

Du jobber mye med komplekse bransjer – luftfart, medisin, produksjon og forbrukerprodukter. I disse miljøene med høy innsats, hvordan balanserer du potensialet til AI-støttet design med behovet for sikkerhet, sporbarhet og tillit?

I høyrisikosektorer som helsevesen, luftfart og produksjon er spørsmålet ikke om KI kan brukes, men hvordan den styres. Tillit i disse miljøene avhenger av tydelig ansvarlighet, sporbarhet og forklarbarhet i alle faser av design- og beslutningsprosessen. KI kan spille en sterk støttende rolle i simulering, optimalisering og tidligfaseutforskning, men den kan ikke bli den endelige autoriteten.

Mange av disse feltene er strengt regulert og underlagt strenge sikkerhetskrav, som krever sikker håndtering av alle data, både personlige og kommersielt sensitive. I disse sammenhengene må ofte forespørsler eller spørringer utvikles ved hjelp av lokale data for å sikre spesifisitet og relevans, og det er vanlig at organisasjoner i disse sektorene bygger og vedlikeholder sine egne AI-verktøy.

Det vår bredere forskning konsekvent viser er at hybridsystemer er essensielle: AI bør styrke ekspertvurderinger, ikke erstatte dem. Menneskelig tilsyn må forbli innebygd i alle kritiske beslutningspunkter, spesielt når det gjelder sikkerhet, risiko og ansvar. For at regulatorer og sluttbrukere skal kunne stole på AI-aktiverte systemer, trenger organisasjoner også transparent dokumentasjon av hvordan modeller trenes, hvilke data de bruker og hvordan resultater genereres. Uten denne åpenheten kan ikke tillit skaleres, uansett hvor avansert teknologien blir.

Mange organisasjoner sliter med gapet mellom å «eksperimentere med AI» og å integrere det på en meningsfull måte i produktutvikling. Hvilke praktiske trinn vil du anbefale for team som prøver å gå fra eksperimentering til strategisk implementering?

Mange organisasjoner stopper opp i eksperimenteringsfasen fordi de tar i bruk AI uten et klart strategisk formål. Det første praktiske steget er å være tydelig på hvilken rolle AI skal spille i utviklingsprosessen, enten det er å støtte idéutvikling, akselerere testing, forbedre evaluering eller styrke beslutningstaking. Uten denne klarheten forblir piloter frakoblet fra reelle forretnings- og designresultater.

Team trenger også det rette grunnlaget på plass. Det betyr å investere i data av høy kvalitet og godt styrt, spesielt data som gjenspeiler den reelle brukeropplevelsen snarere enn rent teknisk ytelse. Det betyr også å være realistisk om de nåværende begrensningene for AI, spesielt innen kreativ og menneskesentrert vurdering, der eksperttilsyn fortsatt er avgjørende.

Mange sektorer begynner å utvikle AI-policyer som veileder team gjennom prosessen med å eksperimentere med AI, fra å bygge forretningsmodeller og kjøre pilotprosjekter til bredere bruk. Disse policyene hjelper organisasjoner med å identifisere hvor AI virkelig kan tilføre verdi, samtidig som de sikrer at mennesker holder seg oppdatert der det er nødvendig.

Til slutt bør organisasjoner gå gjennom strukturerte pilotprosjekter med lav risiko som er innebygd i reelle arbeidsflyter, ikke kjøres isolert. Disse pilotprosjektene bør være tverrfaglige og bringe designere, ingeniører, dataforskere og domeneeksperter sammen slik at læring deles og er overførbar. AI leverer verdi når den er innlemmet i daglig praksis, ikke behandlet som et separat eksperimentelt lag.

Du har lang erfaring med å utvikle metoder for å strukturere og automatisere kunnskap. Hvor nært er vi AI-systemer som kan resonnere rundt designintensjon, brukerbehov og kontekst på en måte som virkelig tilfører verdi i stedet for bare å generere innhold?

På noen områder er det relativt enkelt å forutsi brukerpreferanser, ettersom data som nettleserhistorikk eller oversikt over hvilke filmer eller TV-serier som har blitt sett, kan brukes til å gi anbefalinger. Disse områdene drar nytte av lett tilgjengelige data.

Derimot er en sentral utfordring i utformingen av produkter og tjenester at data om folks valg, behov og levde erfaringer ofte ikke er lett tilgjengelig.

My nyere forskning med Digit Lab undersøkte evnen til en LLM når han fikk en modell for hvordan folk oppfatter og reagerer på designfunksjoner. Nåværende modeller opererer imidlertid på mønstre i data og kan ikke kontekstualisere mening. Tidligere studier som knytter form til oppfatninger viser at selv små endringer i form kan endre emosjonelle responser, og slike finesser er vanskelige for AI å forutse uten menneskelig veiledning eller sofistikerte modeller. Derfor forbedres AI-resonnement om intensjon, men det er fortsatt et supplement til menneskelig ekspertise.

Etter hvert som AI akselererer designsykluser – fra idéutvikling til prototyping – hvilke nye ferdigheter vil designere trenge? Hvordan bør universiteter og organisasjoner revurdere opplæring for neste generasjon kreative talenter?

Designere må beherske både menneskelig persepsjon og AI-aktiverte verktøy flytende. Å forstå hvordan form, materiale og proporsjoner former emosjonelle responser vil fortsatt være grunnleggende for god design. Samtidig må designere kunne jobbe trygt med AI-systemer som støtter idégenerering og evaluering. Det betyr ikke bare å bruke verktøyene, men å forstå hva de optimaliserer for og hvor begrensningene deres ligger. Etter hvert som AI blir mer integrert i designarbeidsflyter, vil evnen til kritisk å tolke resultatene og kombinere dem med menneskelig dømmekraft bli en av de mest verdifulle kreative ferdighetene.

Etter hvert som AI akselererer designsykluser fra idéutvikling til prototyping, vil designere trenge en ny blanding av evner og tenkemåter som går utover tradisjonelle håndverksferdigheter. De må forstå hvordan digitale teknologier fungerer, hva ulike typer data kan (og ikke kan) avsløre, og hvordan man kombinerer designekspertise med AI-kompetanse. Dette inkluderer å vite hvordan man jobber med data av høy kvalitet og som gjenspeiler reelle brukeropplevelser, i stedet for å utelukkende stole på tekniske ytelsesmålinger. Ved siden av dette vil designere også trenge dømmekraften til å gjenkjenne hvor AI er nyttig og hvor menneskelig kreativitet og kritisk tenkning må forbli sentralt.

For å møte disse behovene må universiteter og organisasjoner revurdere hvordan de utdanner neste generasjon kreative talenter. Noen universiteter integrerer allerede datavitenskap i designprogrammer; et viktig skritt, men ikke nok alene. Det som fortsatt mangler er designtenkningsmetoder som er rustet for realitetene i den digitale tidsalderen: metoder som hjelper designere med å samarbeide med AI, jobbe på tvers av fagområder og navigere rask eksperimentering, samtidig som de opprettholder etisk og menneskesentrert tilsyn.

Det er viktig å ta tak i dette gapet. Det er derfor min kollega Dr. Ji Han og jeg skriver en bok med Cambridge University Press om Designtenkning i den digitale tidsalderen, som samler rammeverkene, ferdighetene og tankegangen som trengs for å designe effektivt sammen med AI.

DIGIT Lab vektlegger ansvarlig transformasjon. Hvilke etiske eller samfunnsmessige risikoer trenger etter din mening mer oppmerksomhet etter hvert som AI blir integrert i designarbeidsflyter på tvers av bransjer?

Et eksempel er å sikre etisk bruk av data, inkludert å innhente informert samtykke og opprettholde åpenhet om datasettene som brukes til å utvikle AI-produkter, samt eventuelle skjevheter de kan inneholde. For eksempel må datasett som er innebygd i helsesystemer undersøkes nøye for å sikre at de representerer hele befolkningen på en tilstrekkelig måte, identifisere eventuelle grupper som kan være underrepresentert, og bekrefte at AI-systemet er egnet for formålet og inkluderende. Fra et samfunnsperspektiv er det ofte bekymring for at AI vil erstatte jobber. Det er imidlertid viktig å forstå hvor menneskelig ekspertise fortsatt er viktig, og hvordan AI kan brukes til å styrke, snarere enn å erstatte, menneskelige evner.

Det finnes imidlertid også dypere etiske spørsmål. Når designere er avhengige av menneskelige data, må de håndtere personvern, skjevhet og åpenhet og ansvarlighetEt DIGIT Lab-workshop identifiserte produksjonssektorens «data», «menneskelige» og «styring» som de viktigste utfordringskategoriene, og fremhevet behovet for bedre datafangst, menneskelig tilsyn og klare retningslinjer for sikkerhet, tillit, immaterielle rettigheter og regulering. Å håndtere disse risikoene innebærer å sikre at KI-systemer er bygget på mangfoldige data, integrere menneskelig vurderingsevne på kritiske punkter og utvikle inkluderende designstandarder som respekterer personvern, samtykke og kulturell kontekst.

Du har forsket på hvordan data og kunstig intelligens kan tilpasse produkter rundt brukeropplevelsen. Ser du for deg en fremtid der produkter utvikler seg dynamisk basert på sanntidsdata etter at de forlater fabrikken? I så fall, hvordan bør designere forberede seg på den verdenen? 

Datadrevet design som brukes til produkter kan personaliseres, tilpasses eller tilpasses individuell atferd. Deretter blir de «smarte» systemer som samler inn data om hvordan de brukes og kommuniserer gjennom innebygde sensorer og IoT-tilkobling. I vårt rammeverk innebærer tilpasningsaktiviteter å bruke disse dataene til å oppdatere og tilpasse produkter etter at de forlater fabrikken. Eksempler inkluderer å koble gestgjenkjenningsmodeller til en digital tvilling for samarbeid mellom mennesker og roboter og bruk av maskinlæringsassistert skanning for å lage tilpassede komponenter.

Dette skiftet skaper nye ansvarsområder. Designere må bestemme hvilke menneskelige data, atferdsmessig, fysiologisk, tilbakemeldingsmessig eller emosjonell, er relevant. De må også sørge for at oppdateringer bevarer de tiltenkte estetiske og emosjonelle egenskapene vi vet er knyttet til form og persepsjon. Til slutt er styring viktig: vår bransjeworkshop fremhevet at problemstillinger rundt data, tillit og personvern krever klare retningslinjer og menneskelig tilsyn. Når det gjøres bra, kan utviklende produkter tilby varig verdi og respons uten å ofre mening eller etikk.

Når du ser fremover, hva er de store forskningsspørsmålene som motiverer deg akkurat nå? Og hvilke gjennombrudd tror du feltet vil se de neste årene i skjæringspunktet mellom AI, kreativitet og designteknikk?

Mange av utfordringene beskrevet ovenfor er fortsatt uløste – flere av dem jobber jeg med for tiden, inkludert arbeidet med å sikre at generative AI-verktøy for generell bruk kan skreddersys effektivt til de spesifikke sektorene som ønsker å ta dem i bruk.

På sektornivå kan dette se ganske annerledes ut: i produksjon kan det innebære bruk av lokaliserte modeller trent på domenespesifikk kunnskap, sammen med sterke personvern- og sikkerhetstiltak; i kreative næringer kan fokuset være på å diversifisere resultatene og muliggjøre mer meningsfullt samarbeid mellom mennesker og AI.

På teknisk nivå eksperimenterer vi med store språkmodeller for å støtte evalueringsoppgaver. Én studie viser at LLM-er kan vurdere nyhet og nytteverdi og samkjøre seg tettere med menneskelige eksperter når de veiledes av godt utformede spørsmål. En relatert artikkel bruker tankekjede spørring og flermodellaggregering for å gjøre AI-evaluering mer pålitelig. Vi utforsker også samtaleagenter for å fange opp organisasjoners krav til digital transformasjon, og demonstrerer at chatboter kan gjennomføre strukturerte intervjuer effektivt. Kombinert med arbeid med bruk av menneskelige data i design, peker disse initiativene mot en fremtid der AI hjelper oss med å bevare ekspertise, ta bedre beslutninger og engasjere brukere på en etisk måte.

Takk for det tankevekkende og innsiktsfulle intervjuet. Lesere som ønsker å lære mer om professor Ahmed-Kristensens arbeid med AI-drevet design, kreativitet og ansvarlig digital transformasjon kan utforske pågående forskning og initiativer på DIGIT-laboratoriet.