Professor Saeema Ahmed-Kristensen, chef för DIGIT Lab – Intervjuserie

Professor Saeema Ahmed-Kristensen är en ledande forskare inom designteknik och biträdande prorektor (forskning och påverkan) vid University of Exeter, där hon även är chef för DIGIT-labb, ett stort tvärvetenskapligt forskningsinitiativ med fokus på digital innovation och transformation. Hennes forskning omfattar designkreativitet och kognition, datadriven och digital design, samt integrationen av avancerad teknik i komplex ingenjörskonst och produktutveckling, med stark betoning på att omsätta akademiska insikter till verkliga effekter genom branschsamarbete, policyengagemang och storskaliga forskningsprogram.

Din karriär har omfattat Cambridge, DTU, Imperial College London, Royal College of Art och nu University of Exeter. När du ser tillbaka, vilka erfarenheter eller vändpunkter formade ditt tänkande kring design, kreativitet och den digitala teknikens roll mest?

Mitt arbete inom design har spännt över många olika kulturer och discipliner. Jag började på Brunel på en av de få kurser som vid den tiden kombinerade teknologi, människocentrerad design och förståelse för form. Det lärde mig tidigt att kreativitet och innovation är nära sammankopplade.

Studierna på Cambridge öppnade sedan upp mitt tänkande ytterligare. Universitetsmiljön exponerade mig för många discipliner och visade mig hur innovation är beroende av att kunskap sammanförs över olika områden. Min doktorsexamen fokuserade på flyg- och rymdsektorn och undersökte hur konstruktörer hittar och använder information. Jag studerade hur människor får tillgång till kunskap, hur expertis kan stödjas eller replikeras, och skärningspunkten mellan kognition, datavetenskap och teknisk design. Denna människocentrerade syn har följt mig sedan dess.

I takt med att digital teknik har vuxit, har även frågorna i mitt arbete ökat. Uppkomsten av IoT-data, AI och avancerad beräkning har förskjutit design från att enbart vara människocentrerad till att bli samhällscentrerad. Detta fortsätter att forma mitt arbete vid University of Exeter, där jag leder DIGIT Lab och fokuserar på juridikexperternas roll i den kreativa processen, de hinder som industrier möter när de anammar dem, och hur data kan driva innovation.

Min tid på Imperial College och Royal College of Art förstärkte min uppfattning att design är mycket mer än att bara forma produkter eller tjänster. Med rätt människor, processer och kultur blir design en drivkraft för nya och skalbara teknologier, material och idéer som kan hantera dagens och morgondagens globala utmaningar.

DIGIT Lab fokuserar starkt på digital transformation inom stora etablerade organisationer. Från din synvinkel, vad tror du att ledare missförstår mest om hur AI kommer att förändra design, innovation och beslutsfattande?

I årtionden har AI gjort framsteg inom forskning och använts inom vissa branscher, men framstegen har ofta begränsats av kompetensbrister, ledarskapsförståelse och tydlighet kring värdet och den infrastruktur som krävs. Med uppkomsten av juridikexamina och generativa verktyg som DALL·E är AI nu mer tillgängligt och kräver betydligt mindre specialistkompetens eller installation. Men detta väcker också nya frågor om integritet, datasäkerhet och hur väl generella modeller tillämpas på specifika domäner.

Inom design och innovation är dessa frågor särskilt tydliga. Vår forskning, som undersökte mer än 12 000 idéer genererade av människor och av AI, visade att AI-idéer tenderar att klustras kring liknande koncept. Detta belyser behovet av att bygga in mänsklig expertis i generiska verktyg, anpassa AI för området, eller förstå när och hur man använder AI tillsammans med mänsklig kreativitet och beslutsfattande.

Mycket av din forskning utforskar kreativitet och kognition inom design. Med generativ AI nu kapabel att producera idéer, koncept och iterationer i stor skala, vilka aspekter av kreativitet ser du som unikt mänskliga – och vilka delar kan ansvarsfullt övergå till AI-drivna processer?

För mig har kreativitet alltid handlat om mer än att skapa alternativ. Det handlar om avsikt, kulturell mening och den känslomässiga koppling en design skapar. Vår senaste DIGIT Lab-undersökning satte detta i skarpt fokus: 82 % av människorna berättade för oss att människolett eller hybridarbete känns mer meningsfullt, och 71 % sa att de känner sig mindre känslomässigt kopplade till enbart AI-baserad design. Många beskrev AI-genererat arbete som "känslolöst" (48 %) eller "alltför perfekt" (40 %), och 36 % ansåg att dess inverkan snabbt avtog. Dessa svar förstärkte något jag har trott länge. Känslomässigt engagemang är inte något som är trevligt att ha; det är avgörande för hur människor upplever och värdesätter kreativt arbete.

Vår forskning som jämför mänskliga och AI-idéer visar också att mänskliga designers är bättre på att skapa mångsidiga, nya idéer och säkerställa att det kreativa resultatet, oavsett om det är konstverk, produktdesign eller tjänster, har djup och mening. Kreativa experter har en kompetens som ännu inte är möjlig att replikera. Designers behöver förstå problemet innan de genererar idéer, och juridikexamina är mycket användbara för att samla in information som hjälper designers att växla från ett problem till ett annat. Om vi ​​kan bygga in modeller av mänsklig expertis i AI-verktyg kan de också stödja utvärdering av idéer, vilket gör att AI bättre kan dra nytta av mänskliga kreativa färdigheter.

Den tankekedja som vi experimenterar med stöder Jurister att följa expert resonemang, inte bara ge poäng. I samtliga fall krävs mänsklig tillsyn för att tolka resultat och säkerställa att designvalen överensstämmer med användarnas levda upplevelser.

Det är tydligt att vi antingen måste skapa modeller som kan fånga hur människor upplever produkter, tjänster och interaktioner på sätt som datorer kan tolka, eller integrera tjock data (rika kvalitativa insikter som ger sammanhang) med den tunna eller stora sensordata vi samlar in. Att utveckla dessa modeller är inte enkelt, och det är just här mänskligt engagemang är fortfarande avgörande.

Så för mig är slutsatsen inte att AI inte har någon plats i kreativitet. Långt därifrån. Det är att AI och människor bidrar med olika styrkor. Det faktum att människor konsekvent reagerar mer positivt på mänskligt eller hybridarbete visar helt enkelt var tyngdpunkten ligger. AI kan hjälpa till att utforska ett bredare designutrymme, analysera mönster och erbjuda strukturerad kritik, men de uppfattningarna om platthet, algoritmisk perfektion och emotionell distans visar att AI fortfarande behöver mänskligt omdöme för att förvandla möjligheter till något som resonerar.

Det är därför jag ser kreativitetens framtid som fundamentalt samarbetsinriktad. AI kan vidga möjligheternas fält. Designers bidrar med den empati, kulturella förståelse och avsikt som ger dessa möjligheter mening. När de två arbetar tillsammans, med mänskligt omdöme som sätter riktningen och AI som berikar utforskandet, blir resultatet en kreativ process som är mer rigorös, mer fantasifull och i slutändan mer mänsklig i sina resultat.

Du har varit pionjär inom metoder för att kvantifiera användarupplevelser och strukturera designkunskap. I takt med att AI-system blir mer ansvariga för att generera produkter och tjänster, hur säkerställer vi att mänskliga upplevelser, känslor och kulturella signaler förblir centrala i designprocessen?

För att centrera mänsklig erfarenhet måste vi integrera kunskap om perception och känslor i våra metoder.

Det finns två huvudsakliga tillvägagångssätt. Det första erkänner behovet av kvalitativa data som möjliggör en djup förståelse av mänsklig erfarenhet, perception och känslor, vilket ligger till grund för effektivt samarbete mellan människa och AI. Det andra – som mitt arbete har fokuserat på – syftar till att översätta denna kunskap till modeller som AI-system kan förstå och använda.

Dessa modeller är komplexa att utveckla, eftersom de måste integrera användarupplevelse, mänsklig uppfattning och egenskaperna hos de produkter eller system som utformas, för att kunna förutsäga mänskliga reaktioner och den övergripande upplevelsen.

Du arbetar mycket med komplexa industrier – flyg- och rymdindustrin, medicin, tillverkning och konsumentprodukter. Hur balanserar du potentialen hos AI-stödd design med behovet av säkerhet, spårbarhet och förtroende i dessa miljöer med höga insatser?

Inom högrisksektorer som sjukvård, flyg- och rymdindustrin och tillverkningsindustrin är frågan inte om AI kan användas, utan hur den styrs. Förtroende i dessa miljöer är beroende av tydlig ansvarsskyldighet, spårbarhet och förklarbarhet i varje steg av design- och beslutsprocessen. AI kan spela en kraftfull stödjande roll i simulering, optimering och tidig utforskning, men den kan inte bli den slutgiltiga auktoriteten.

Många av dessa områden är strikt reglerade och omfattas av stränga säkerhetskrav, vilket kräver säker hantering av all data, oavsett om den är personlig eller kommersiellt känslig. I dessa sammanhang behöver frågor eller uppmaningar ofta utvecklas med hjälp av lokala data för att säkerställa specificitet och relevans, och det är vanligt att organisationer inom dessa sektorer bygger och underhåller sina egna AI-verktyg.

Vad vår bredare forskning konsekvent visar är att hybridsystem är avgörande: AI bör förstärka expertbedömningar, inte ersätta dem. Mänsklig tillsyn måste förbli inbyggd i varje kritisk beslutspunkt, särskilt när det gäller säkerhet, risk och ansvar. För att tillsynsmyndigheter och slutanvändare ska kunna lita på AI-aktiverade system behöver organisationer också transparent dokumentation av hur modeller tränas, vilka data de använder och hur resultat genereras. Utan den transparensen kan förtroendet inte skalas upp, oavsett hur avancerad tekniken blir.

Många organisationer kämpar med klyftan mellan att ”experimentera med AI” och att på ett meningsfullt sätt integrera det i produktutvecklingen. Vilka praktiska steg skulle du rekommendera för team som försöker gå från experiment till strategisk implementering?

Många organisationer stannar upp i experimentstadiet eftersom de använder AI utan ett tydligt strategiskt syfte. Det första praktiska steget är att vara tydlig med vilken roll AI är tänkt att spela i utvecklingsprocessen, oavsett om det är att stödja idégenerering, påskynda testning, förbättra utvärdering eller stärka beslutsfattandet. Utan den tydligheten förblir pilotprojekt frånkopplade från verkliga affärs- och designresultat.

Team behöver också rätt grund på plats. Det innebär att investera i högkvalitativ, välstyrd data, särskilt data som återspeglar verklig användarupplevelse snarare än enbart teknisk prestanda. Det innebär också att vara realistisk om AI:s nuvarande begränsningar, särskilt inom kreativt och människocentrerat omdöme, där experttillsyn fortfarande är avgörande.

Många sektorer börjar utveckla AI-policyer som vägleder team genom processen att experimentera med AI, från att bygga affärscase och genomföra pilotprojekt till bredare implementering. Dessa policyer hjälper organisationer att identifiera var AI verkligen kan tillföra värde, samtidigt som de säkerställer att människor hålls uppdaterade när det behövs.

Slutligen bör organisationer gå igenom strukturerade pilotprojekt med låg risk som är inbäddade i verkliga arbetsflöden och inte köras isolerat. Dessa pilotprojekt bör vara tvärvetenskapliga och sammanföra designers, ingenjörer, dataforskare och domänexperter så att lärandet delas och är överförbart. AI levererar värde när det integreras i den dagliga praktiken och inte behandlas som ett separat experimentellt lager.

Du har en lång erfarenhet av att utveckla metoder för att strukturera och automatisera kunskap. Hur nära är vi AI-system som kan resonera kring designintention, användarbehov och kontext på ett sätt som verkligen tillför värde snarare än att bara generera innehåll?

Inom vissa områden är det relativt enkelt att förutsäga användarpreferenser, eftersom data som webbhistorik eller register över vilka filmer eller tv-program som har setts kan användas för att ge rekommendationer. Dessa områden gynnas av lättillgänglig data.

Däremot är en central utmaning vid utformningen av produkter och tjänster att data om människors val, behov och levda erfarenheter ofta inte är lättillgängliga.

My senaste forskningen Med Digit Lab undersökte man en juridiklärares förmåga när man får en modell för hur människor uppfattar och reagerar på designfunktioner. Nuvarande modeller fungerar dock utifrån mönster i data och kan inte kontextualisera mening. Tidigare studier som kopplar form till uppfattningar visar att även små förändringar i form kan förändra känslomässiga reaktioner, och sådana subtiliteter är svåra för AI att förutse utan mänsklig vägledning eller sofistikerade modeller. Därför förbättras AI:s resonemang om avsikt, men det är fortfarande ett komplement till mänsklig expertis.

I takt med att AI accelererar designcykler – från idégenerering till prototypframtagning – vilka nya färdigheter kommer designers att behöva? Hur bör universitet och organisationer ompröva utbildning för nästa generation av kreativa talanger?

Designers kommer att behöva behärska både mänsklig perception och AI-baserade verktyg flytande. Att förstå hur form, material och proportioner formar emotionella reaktioner kommer att förbli grundläggande för god design. Samtidigt måste designers kunna arbeta med självförtroende med AI-system som stöder idégenerering och utvärdering. Det innebär att inte bara använda verktygen, utan också förstå vad de optimerar för och var deras begränsningar ligger. I takt med att AI blir mer integrerad i designarbetsflöden kommer förmågan att kritiskt tolka dess resultat och kombinera dem med mänskligt omdöme att bli en av de mest värdefulla kreativa färdigheterna.

I takt med att AI accelererar designcykler från idé till prototyputveckling kommer designers att behöva en ny blandning av förmågor och tankesätt som går utöver traditionella hantverkskunskaper. De kommer att behöva förstå hur digital teknik fungerar, vad olika typer av data kan (och inte kan) avslöja, och hur man kombinerar designexpertis med AI-kunskap. Detta inkluderar att veta hur man arbetar med högkvalitativ, välstyrd data som återspeglar verkliga användarupplevelser, snarare än att enbart förlita sig på tekniska prestandamått. Utöver detta kommer designers också att behöva omdömet för att inse var AI är till hjälp och var mänsklig kreativitet och kritiskt tänkande måste förbli centralt.

För att möta dessa behov måste universitet och organisationer ompröva hur de utbildar nästa generation av kreativa talanger. Vissa universitet integrerar redan datavetenskap i designprogram; ett viktigt steg, men inte tillräckligt i sig. Det som fortfarande saknas är designtänkande metoder som är rustade för den digitala tidsålderns verklighet: metoder som hjälper designers att samarbeta med AI, arbeta över olika discipliner och navigera snabba experiment samtidigt som etisk och människocentrerad tillsyn upprätthålls.

Att åtgärda denna brist är avgörande. Det är därför min kollega Dr. Ji Han och jag skriver en bok med Cambridge University Press om Designtänkande i den digitala tidsåldern, som sammanför de ramverk, färdigheter och tankesätt som behövs för att designa effektivt tillsammans med AI.

DIGIT Lab betonar ansvarsfull transformation. Vilka etiska eller samhälleliga risker anser du behöver mer uppmärksamhet i takt med att AI integreras i designarbetsflöden inom olika branscher?

Ett exempel är att säkerställa etisk användning av data, inklusive att inhämta informerat samtycke och upprätthålla transparens kring de datamängder som används för att utveckla AI-produkter, samt eventuella partiskheter de kan innehålla. Till exempel måste datamängder som är inbäddade i hälso- och sjukvårdssystem granskas noggrant för att säkerställa att de representerar hela befolkningen på ett adekvat sätt, identifiera eventuella grupper som kan vara underrepresenterade och bekräfta att AI-systemet är ändamålsenligt och inkluderande. Ur ett samhällsperspektiv finns det ofta en oro för att AI kommer att ersätta jobb; det är dock viktigt att förstå var mänsklig expertis fortfarande är avgörande och hur AI kan användas för att öka, snarare än att ersätta, mänskliga förmågor.

Det finns dock också djupare etiska frågor. När designers förlitar sig på mänskliga data måste de hantera integritet, partiskhet och transparens och ansvarsfull transparensEn DIGIT Lab-workshop identifierade tillverkningssektorns "data", "mänskliga faktorer" och "styrning" som de viktigaste utmaningskategorierna, och betonade behovet av bättre datainsamling, tillsyn med mänskliga kopplingar och tydliga policyer för säkerhet, förtroende, immateriella rättigheter och reglering. Att hantera dessa risker innebär att säkerställa att AI-system bygger på olika data, integrera mänskliga bedömningar vid kritiska punkter och utveckla inkluderande designstandarder som respekterar integritet, samtycke och kulturellt sammanhang.

Du har forskat på hur data och AI kan anpassa produkter kring användarupplevelsen. Ser du en framtid där produkter utvecklas dynamiskt baserat på realtidsdata efter att de lämnat fabriken? Om så är fallet, hur bör designers förbereda sig för den världen? 

Datadriven design används för produkter kan personanpassas, specialanpassas eller anpassas till individuella beteenden. De blir sedan "smarta" system som samlar in data om hur de används och kommunicerar via inbyggda sensorer och IoT-anslutning. Inom vårt ramverk innebär anpassningsaktiviteter att använda dessa data för att uppdatera och anpassa produkter efter att de lämnat fabriken. Exempel inkluderar att länka gestigenkänningsmodeller till en digital tvilling för samarbete mellan människa och robot och använda maskininlärningsassisterad skanning för att skapa anpassade komponenter.

Denna förändring skapar nya ansvarsområden. Designers måste bestämma vilka mänskliga data, beteendemässig, fysiologisk, feedback- eller emotionell, är relevant. De måste också säkerställa att uppdateringar bevarar de avsedda estetiska och emotionella egenskaper som vi vet är kopplade till form och uppfattning. Slutligen är styrning viktig: vår branschworkshop betonade att frågor kring data, förtroende och integritet kräver tydliga policyer och mänsklig tillsyn. När de utförs väl kan utvecklande produkter erbjuda bestående värde och responsivitet utan att offra mening eller etik.

Vilka är de stora forskningsfrågorna som motiverar dig just nu när du blickar framåt? Och vilka genombrott tror du att området kommer att se under de närmaste åren i skärningspunkten mellan AI, kreativitet och designteknik?

Många av de utmaningar som beskrivs ovan är fortfarande olösta – flera av vilka jag arbetar med just nu, inklusive arbetet med att säkerställa att generativa AI-verktyg för generella ändamål effektivt kan anpassas till de specifika sektorer som vill använda dem.

På sektornivå kan detta se helt annorlunda ut: inom tillverkningsindustrin kan det innebära användning av lokaliserade modeller som är utbildade på domänspecifik kunskap, tillsammans med starka integritets- och säkerhetsåtgärder; inom kreativa branscher kan fokus ligga på att diversifiera output och möjliggöra ett mer meningsfullt samarbete mellan människor och AI.

På teknisk nivå experimenterar vi med stora språkmodeller för att stödja utvärderingsuppgifter. En studie visar att juridikexperter kan bedöma nyhet och användbarhet och anpassa sig närmare mänskliga experter när de vägleds av väl utformade uppmaningar. En relaterad artikel använder tankekedja uppmaningar och aggregering av flera modeller för att göra AI-utvärdering mer tillförlitlig. Vi utforskar också konversationsagenter för att fånga upp organisationers krav på digital transformation, vilket visar att chattrobotar kan genomföra strukturerade intervjuer effektivt. Tillsammans med arbete med att använda mänskliga data i design pekar dessa initiativ mot en framtid där AI hjälper oss att bevara expertis, fatta bättre beslut och engagera användare på ett etiskt sätt.

Tack för den tankeväckande och insiktsfulla intervjun; läsare som vill veta mer om professor Ahmed-Kristensens arbete med AI-driven design, kreativitet och ansvarsfull digital transformation kan utforska pågående forskning och initiativ på DIGIT-labb.