Prof. Saeema Ahmed-Kristensen, chef för DIGIT Lab – Intervjuserie

Professor Saeema Ahmed-Kristensen är en ledande designingenjör och prorektor (forskning och impact) vid University of Exeter, där hon också är chef för DIGIT Lab, en stor tvärvetenskaplig forskningsinitiativ som fokuserar på digital innovation och transformation. Hennes forskning omfattar designkreativitet och kognition, datastyrd och digital design, samt integration av avancerad teknik i komplexa ingenjörs- och produktutveckling, med stark betoning på att översätta akademisk insikt till verklig verksamhet genom industriell samverkan, politiskt engagemang och storskaliga forskningsprogram.

Din karriär har omfattat Cambridge, DTU, Imperial College London, Royal College of Art och nu University of Exeter. När du ser tillbaka, vilka erfarenheter eller vändpunkter har mest format ditt tänkande om design, kreativitet och rollen för digitala teknologier?

Mitt arbete inom design har omfattat många olika kulturer och discipliner. Jag började på Brunel på en av de få kurser som kombinerade teknik, användarcentrerad design och förståelse för form. Det lärde mig tidigt att kreativitet och innovation är nära kopplade.

Studier på Cambridge öppnade sedan mina ögon ytterligare. Den akademiska miljön exponerade mig för många discipliner och visade mig hur innovation beror på kunskap som kommer samman över fält. Min doktorsavhandling fokuserade på flygindustrin och undersökte hur ingenjörsdesigners hittar och använder information. Jag studerade hur människor tar till sig kunskap, hur expertis kan stödjas eller replikeras, och skärningspunkten mellan kognition, datavetenskap och ingenjörsdesign. Detta människocentrerade perspektiv har stannat hos mig sedan dess.

Sedan digitala teknologier har vuxit, har också frågorna i mitt arbete vuxit. Upptaget av IoT-data, AI och avancerad beräkning har förskjutit designen från att bara vara människocentrerad till att vara samhällscentrerad. Detta fortsätter att forma mitt arbete på University of Exeter, där jag leder DIGIT Lab och fokuserar på rollen för stora språkmodeller i den kreativa processen, de hinder industrier möter när de antar dem, och hur data kan driva innovation.

Min tid på Imperial och Royal College of Art förstärkte att design är långt mer än att forma produkter eller tjänster. Med rätt människor, processer och kultur kan design bli en drivkraft för nya och skalbara teknologier, material och idéer som kan hantera dagens och morgondagens globala utmaningar.

DIGIT Lab fokuserar kraftigt på digital transformation inom stora etablerade organisationer. Från din utgångspunkt, vad tror du att ledare missförstår mest om hur AI kommer att förändra design, innovation och beslutsfattande?

Under flera decennier har AI utvecklats i forskning och antagits i vissa industrier, men framstegen har ofta begränsats av kompetensgap, ledningsförståelse och tydlighet kring värdet och den infrastruktur som krävs. Med uppkomsten av stora språkmodeller och generativa verktyg som DALL·E är AI nu mer tillgänglig och kräver mycket mindre specialistkunskap eller inställningar. Men detta väcker också nya frågor om sekretess, datasäkerhet och hur väl allmänna modeller tillämpas på specifika domäner.

I design och innovation är dessa frågor särskilt tydliga. Vår forskning, som undersökte över 12 000 idéer genererade av människor och av AI, visade att AI-idéer tenderar att klustra runt liknande koncept. Detta betonar behovet av att bygga in mänsklig expertis i generiska verktyg, anpassa AI för domänen eller förstå när och hur man ska använda AI tillsammans med mänsklig kreativitet och beslutsfattande.

Mycket av din forskning utforskar kreativitet och kognition i design. Med generativ AI som nu kan producera idéer, koncept och iterationer i stor skala, vilka aspekter av kreativitet ser du som unikt mänskliga — och vilka delar kan ansvarsfullt förskjutas mot AI-drivna processer?

Kreativitet har alltid varit mer än att generera alternativ för mig. Det handlar om avsikt, kulturell mening och den emotionella anslutningen som en design skapar. Vår senaste DIGIT Lab-undersökning förde detta i skarp fokus: 82 % av människor berättade för oss att mänskligt ledd eller hybridarbete känns mer meningsfullt, och 71 % sa att de känner sig mindre emotionellt anslutna till AI-endast design. Många beskrev AI-genererat arbete som “saknar känslor” (48 %) eller “för perfekt” (40 %), och 36 % kände att dess inverkan bleknade snabbt. Dessa svar förstärkte något jag har trott under lång tid. Emotionell engagemang är inte en “nice-to-have”; det är avgörande för hur människor upplever och värderar kreativt arbete.

Vår forskning som jämför mänskliga och AI-idéer visar också att mänskliga designers är bättre på att skapa diversa, nya idéer och säkerställa att den kreativa utmatningen, oavsett om det är konst, produktutformning eller tjänster, har djup och mening. Kreativa experter besitter en kompetens som ännu inte kan replikeras. Designers måste förstå problemet innan de genererar idéer, och stora språkmodeller är mycket användbara för att hjälpa designers att skifta från ett problem till ett annat. Om vi kan bygga modeller av mänsklig expertis in i AI-verktyg, kan de också stödja utvärdering av idéer, vilket gör att AI kan ta bättre tillvara på mänskliga kreativa färdigheter.

Den kedjelänkade tillvägagångssätt vi experimenterar med stöder stora språkmodeller för att följa expertresonemang, inte bara ge poäng. I alla fall krävs mänsklig tillsyn för att tolka resultaten och säkerställa att designval stämmer överens med användarnas levda upplevelser.

Det är tydligt att vi måste antingen skapa modeller som kan fånga hur människor upplever produkter, tjänster och interaktioner på sätt som datorer kan tolka, eller integrera tjock data (rika kvalitativa insikter som ger sammanhang) med den tunna eller stora sensordata vi samlar in. Att utveckla dessa modeller är inte enkelt, och detta är exakt där mänskligt engagemang förblir avgörande.

Så för mig är slutsatsen inte att AI har ingen plats i kreativitet. Långt ifrån det. Det är att AI och människor bidrar med olika styrkor. Det faktum att människor konsekvent svarar mer positivt på mänskligt eller hybridarbete berättar oss bara var tyngdpunkten ligger. AI kan hjälpa till att utforska en bredare designrymd, analysera mönster och erbjuda strukturerad kritik, men dessa uppfattningar om platthet, algoritmisk perfektion och emotionellt avstånd visar var AI fortfarande behöver mänsklig bedömning för att förvandla möjligheter till något som resoneras.

Därför ser jag framtiden för kreativitet som grundläggande samarbete. AI kan bredda fältet av möjligheter. Designers bringar empati, kulturell förståelse och avsikt som ger dessa möjligheter mening. När de två arbetar tillsammans, med mänsklig bedömning som sätter riktningen och AI som berikar utforskningen, är resultatet en kreativ process som är mer rigorös, mer fantasifull och slutligen mer mänsklig i sina resultat.

Du har banat väg för metoder för att kvantifiera användarupplevelser och strukturera designkunskap. När AI-system blir mer ansvariga för att generera produkter och tjänster, hur säkerställer vi att mänskliga upplevelser, känslor och kulturella signaler förblir centrala i designprocessen?

För att centra mänsklig upplevelse behöver vi infoga kunskap om perception och känslor i våra metoder.

Det finns två huvudsakliga tillvägagångssätt. Det första erkänner behovet av kvalitativ data som möjliggör en rik förståelse av mänsklig upplevelse, perception och känslor, vilket informerar effektivt mänskligt-AI-samarbete. Det andra — som mitt arbete har fokuserat på — syftar till att översätta denna kunskap till modeller som AI-system kan förstå och använda.

Dessa modeller är komplexa att utveckla, eftersom de måste integrera användarupplevelse, mänsklig perception och egenskaper hos de produkter eller system som designas, för att förutsäga mänskliga svar och övergripande upplevelse.

Du arbetar omfattande med komplexa industrier – flyg, medicin, tillverkning och konsumentprodukter. I dessa högriskmiljöer, hur balanserar du potentialen för AI-stödd design med behovet av säkerhet, spårbarhet och tillit?

I högrisksektorer som hälsovård, flyg och tillverkning är frågan inte om AI kan användas, utan hur det styrs. Tillit i dessa miljöer beror på tydlig ansvarighet, spårbarhet och förklarbarhet i varje skede av design- och beslutsprocessen. AI kan spela en kraftfull stödande roll i simulering, optimering och tidig utforskning, men det kan inte bli den slutliga myndigheten.

Många av dessa fält är hårt reglerade och omfattas av stränga säkerhetskrav, som kräver säker hantering av all data, personlig eller kommersiellt känslig. I dessa sammanhang behöver ofta frågor eller prompter utvecklas med lokal data för att säkerställa specifika och relevanta, och det är vanligt för organisationer inom dessa sektorer att bygga och underhålla sina egna AI-verktyg.

Vad vår bredare forskning konsekvent visar är att hybridsystem är avgörande: AI bör komplettera expertbedömning, inte ersätta den. Mänsklig tillsyn måste förbli inbyggd i varje kritiskt beslutssteg, särskilt där säkerhet, risk och ansvar är involverade. För att regulatorer och slutanvändare ska lita på AI-aktiverade system behöver organisationer också transparent dokumentation av hur modeller tränas, vilken data de använder och hur utdata genereras. Utan denna transparens kan tillit inte skalas, oavsett hur avancerad tekniken blir.

Många organisationer kämpar med gapet mellan “att experimentera med AI” och meningsfullt integrera det i produktutveckling. Vilka praktiska steg skulle du rekommendera för team som försöker gå från experiment till strategisk implementering?

Många organisationer stannar vid experimentstadiet eftersom de antar AI utan en tydlig strategisk syfte. Det första praktiska steget är att vara explicit om vilken roll AI är tänkt att spela i utvecklingsprocessen, antingen det är att stödja idégenerering, accelerera testning, förbättra utvärdering eller förbättra beslutsfattande. Utan denna tydlighet förblir piloter kopplade från verkliga affärs- och designresultat.

Team behöver också rätt grunder på plats. Det innebär att investera i högkvalitativ, välstyrda data, särskilt data som reflekterar verkliga användarupplevelser snarare än enbart teknisk prestanda. Det innebär också att vara realistisk om AI:s nuvarande begränsningar, särskilt i kreativ och mänsklig bedömning, där expertbedömning förblir avgörande.

Många sektorer börjar utveckla AI-politik som vägleder team genom processen att experimentera med AI, från att bygga affärsfall och köra piloter till bredare antagande. Dessa politiker hjälper organisationer att identifiera var AI genuint kan lägga till värde, samtidigt som de säkerställer att människor förblir i loopen där det är nödvändigt.

Slutligen bör organisationer gå igenom strukturerade, lågriskpiloter som är inbäddade i riktiga arbetsflöden, inte körs i isolering. Dessa piloter bör vara tvärvetenskapliga, som bringar designers, ingenjörer, dataforskare och domänexperter tillsammans så att lärande delas och är överförbart. AI levererar värde när det är designat in i vardaglig praxis, inte behandlas som ett separat experimentellt lager.

Du har en lång historia av att utveckla metoder för att strukturera och automatisera kunskap. Hur nära är vi AI-system som kan resonera om designavsikt, användarbehov och sammanhang på ett sätt som genuint lägger till värde snarare än att bara generera innehåll?

I vissa områden är att förutsäga användarpreferenser relativt enkelt, eftersom data som bläddringshistorik eller register över vilka filmer eller TV-program som har tittats på kan användas för att ge rekommendationer. Dessa områden drar nytta av lättillgänglig data.

I kontrast är en nyckelutmaning i designen av produkter och tjänster att data om människors val, behov och levda upplevelser ofta inte är lätt tillgänglig.

Min senaste forskning med Digit Lab undersökte förmågan hos en stor språkmodell, när den ges en modell av hur människor uppfattar och svarar på designfunktioner. Men nuvarande modeller fungerar på mönster i data och kan inte kontextualisera mening. Tidigare studier som kopplar form till uppfattningar visar att även små förändringar i form kan förskjuta emotionella svar, och sådana subtiliteter är svåra för AI att förutse utan mänsklig vägledning eller sofistikerade modeller som kan föras in. Därför förbättras AI-resonemang om avsikt, men det förblir ett komplement till mänsklig expertis.

När AI accelererar designcykler — från idégenerering till prototypering — vilka nya färdigheter kommer designers att behöva? Hur bör universitet och organisationer omstrukturera utbildning för nästa generations kreativa talanger?

Designers kommer att behöva vara flytande i både mänsklig perception och AI-aktiverade verktyg. Att förstå hur form, material och proportion formar emotionellt svar kommer att förbli grundläggande för bra design. Samtidigt måste designers kunna arbeta tryggt med AI-system som stöder idégenerering och utvärdering. Det innebär inte bara att använda verktygen, utan att förstå vad de optimerar för och var deras begränsningar ligger. När AI blir mer inbäddat i designarbetsflöden kommer förmågan att kritiskt tolka dess utdata och kombinera dem med mänsklig bedömning att bli en av de mest värdefulla kreativa färdigheterna.

Som AI accelererar designcykler från idégenerering till prototypering kommer designers att behöva en ny blandning av förmågor och sätt att tänka som går utöver traditionella hantverksfärdigheter. De kommer att behöva förstå hur digitala teknologier fungerar, vad olika typer av data kan (och inte kan) avslöja, och hur man kombinerar designexpertis med AI-litteracitet. Detta inkluderar att veta hur man arbetar med högkvalitativ, välstyrda data som reflekterar verkliga användarupplevelser snarare än att enbart förlita sig på teknisk prestanda. Utöver detta kommer designers också att behöva bedömningen för att känna igen var AI är hjälpsamt och var mänsklig kreativitet och kritiskt tänkande måste förbli centrala.

För att möta dessa behov kommer universitet och organisationer att behöva omstrukturera hur de utbildar nästa generations kreativa talanger. Vissa universitet integrerar redan dataforskning i designprogram,; ett viktigt steg, men inte tillräckligt i sig. Vad som fortfarande saknas är design-tänkande metoder som är utrustade för digitalålderns realiteter: metoder som hjälper designers att samarbeta med AI, arbeta över discipliner och navigera snabb experimentering samtidigt som de upprätthåller etisk och mänskocentrerad tillsyn.

Att ta itu med detta gap är avgörande. Det är varför min kollega Dr. Ji Han och jag skriver en bok med Cambridge University Press om Design Thinking in the Digital Age, som samlar de ramverk, färdigheter och sätt att tänka som behövs för att designa effektivt bredvid AI.

DIGIT Lab betonar ansvarsfull transformation. I din mening, vilka etiska eller samhälleliga risker behöver mer uppmärksamhet när AI blir mer inbäddat i designarbetsflöden över industrier?

Ett exempel är att säkerställa den etiska användningen av data, inklusive att få informerat samtycke och upprätthålla transparens om de datamängder som används för att utveckla AI-produkter, samt eventuella bias de kan innehålla. Till exempel måste datamängder inbäddade i hälsovårdssystem noggrant undersökas för att säkerställa att de tillräckligt representerar hela befolkningen, identifiera eventuella grupper som kan vara underrepresenterade, och bekräfta att AI-systemet är lämpligt för ändamålet och inkluderande. Ur ett samhällsperspektiv finns ofta oro över att AI kommer att ersätta jobb; dock är det viktigt att förstå var mänsklig expertis förblir avgörande och hur AI kan användas för att komplettera, snarare än ersätta, mänskliga förmågor.

Det finns dock djupare etiska frågor också. När designers förlitar sig på mänsklig data måste de hantera sekretess, bias och transparens ansvarsfullt. En DIGIT Lab-workshop identifierade tillverkningssektorn “data”, “mänsklig” och “styrning” som de främsta utmaningskategorierna, vilket betonar behovet av bättre datainsamling, mänsklig tillsyn och tydliga policys kring säkerhet, tillit, immateriella rättigheter och reglering. Att hantera dessa risker innebär att AI-system byggs på diversifierad data, mänsklig bedömning inbäddad i kritiska punkter och utveckling av inkluderande designstandarder som respekterar sekretess, samtycke och kulturellt sammanhang.

Du har forskat om hur data och AI kan anpassa produkter kring användarupplevelse. Ser du en framtid där produkter utvecklas dynamiskt baserat på realtidsdata efter att de har lämnat fabriken? Om så, hur bör designers förbereda sig för den världen? 

Datastyrd design som används för produkter kan anpassas, anpassas eller anpassas till individuella beteenden. De blir då “smart” system som samlar data om hur de används och kommunicerar genom inbäddade sensorer och IoT-anslutning. I vår ramverk innebär anpassningsaktiviteter att använda den datan för att uppdatera och anpassa produkter efter att de har lämnat fabriken. Exempel inkluderar att koppla igenkänningsmodeller för gester till en digital tvilling för mänsklig-robot samverkan och att använda maskinlärningsbaserad skanning för att skapa anpassade komponenter.

Denna förändring skapar nya ansvar. Designers måste bestämma vilken mänsklig data, beteendemässig, fysiologisk, återkopplings- eller emotionell, som är relevant. De måste också säkerställa att uppdateringar bevarar den avsedda estetiska och emotionella kvaliteten vi vet är kopplad till form och perception. Slutligen spelar styrning en roll: vår industriworkshop betonade att frågor kring data, tillit och sekretess kräver tydliga policys och mänsklig tillsyn. När det görs väl kan utvecklade produkter erbjuda varaktigt värde och responsivitet utan att offra mening eller etik.

Om du ser framåt, vilka är de stora forskningsfrågorna som motiverar dig just nu? Och vilka genombrott tror du att fältet kommer att se under de närmaste åren vid skärningspunkten mellan AI, kreativitet och designingenjörskap?

Många av de utmaningar som beskrivits ovan förblir olösta – flera av dem som jag för närvarande arbetar med, inklusive arbete för att säkerställa att allmänna generativa AI-verktyg kan anpassas effektivt till de specifika sektorerna som vill anta dem.

På sektornivå kan detta se ganska annorlunda ut: i tillverkning kan det innebära att använda lokalt tränade modeller med domänspecifik kunskap, tillsammans med starka sekretess- och säkerhetsåtgärder; i kreativa industrier kan fokus ligga på att diversifiera utdata och möjliggöra mer meningsfullt samarbete mellan människor och AI.

På det tekniska planet experimenterar vi med stora språkmodeller för att stödja utvärderingsuppgifter. En studie visar att stora språkmodeller kan bedöma nyhet och användbarhet och stämma överens mer med mänskliga experter när de vägleds av väl utformade prompter. En relaterad artikel använder kedjelänkade prompter och multi-modellaggregering för att göra AI-utvärdering mer tillförlitlig. Vi undersöker också konversationsagenter för att fånga organisationers digitala transformationskrav, vilket visar att chatbots kan utföra strukturerade intervjuer effektivt. Kombinerat med arbete kring att använda mänsklig data i design pekar dessa initiativ mot en framtid där AI hjälper oss att bevara expertis, fatta bättre beslut och engagera användare etiskt.

Tack för den tankeväckande och insiktsfulla intervjun; läsare som vill lära sig mer om Professor Ahmed-Kristensens arbete på AI-drivet design, kreativitet och ansvarsfull digital transformation kan utforska pågående forskning och initiativ på DIGIT Lab.