Prof. Saeema Ahmed-Kristensen, ředitelka DIGIT Lab – Interview Series

Profesorka Saeema Ahmed-Kristensen je přední odbornice na designové inženýrství a zástupkyně prorektora (výzkum a dopad) na Univerzitě v Exeteru, kde také působí jako ředitelka DIGIT Lab, významné mezinárodní výzkumné iniciativy zaměřené na digitální inovace a transformaci. Její výzkum zahrnuje designovou kreativitu a kognici, datově řízený a digitální design a integraci pokročilých technologií do složitých inženýrských a produktových vývojů, s důrazem na překlad akademických poznatků do reálného dopadu prostřednictvím spolupráce s průmyslem, politického zapojení a rozsáhlých výzkumných programů.

Vaše kariéra zahrnuje Cambridge, DTU, Imperial College London, Royal College of Art a nyní Univerzitu v Exeteru. Ohlédnutím se, které zkušenosti nebo zlomové body nejvíce ovlivnily vaše myšlení o designu, kreativitě a roli digitálních technologií?

Má práce v designu zahrnovala mnoho různých kultur a disciplín. Začala jsem na Brunelu na jednom z mála kurzů, které v té době kombinovaly technologie, lidsky orientovaný design a pochopení formy. To mi brzy ukázalo, že kreativita a inovace jsou úzce spojeny.

Studium na Cambridgi mi dále otevřelo oči. Kolejiální prostředí mě vystavilo mnoha disciplínám a ukázalo mi, jak inovace závisí na znalostech, které přicházejí z různých oblastí. Má disertační práce se zaměřila na letecký průmysl a zkoumala, jak inženýrští designéři nacházejí a využívají informace. Zkoumala jsem, jak lidé získávají znalosti, jak lze podporovat nebo replikovat odborné znalosti, a průsečík mezi kognicí, počítačovými vědami a inženýrským designem. Tento lidsky orientovaný pohled mě provází dodnes.

Jakmile digitální technologie rostly, tak i otázky v mé práci. Vzestup IoT dat, AI a pokročilého výpočtu posunul design od toho, aby byl pouze lidsky orientovaný, k tomu, aby byl zaměřen na společnost. To stále formuje mou práci na Univerzitě v Exeteru, kde vedu DIGIT Lab a zaměřuji se na roli LLM v tvůrčím procesu, bariéry, kterým čelí průmysly při jejich přijímání, a jak data mohou pohánět inovace.

Má zkušenost na Imperial College a Royal College of Art mi znovu potvrdila, že design je mnohem víc než jen tvarování produktů nebo služeb. S správnými lidmi, procesy a kulturou se design stává hnací silou nových a škálovatelných technologií, materiálů a nápadů, které mohou řešit dnešní a zítřejší globální výzvy.

DIGIT Lab se silně zaměřuje na digitální transformaci uvnitř velkých zavedených organizací. Z vašeho úhlu pohledu, co nejvíce nepochopí lídři o tom, jak AI změní design, inovace a rozhodování?

Po desetiletí AI pokročila ve výzkumu a byla přijata v určitých odvětvích, ale pokrok byl často omezen kvůli nedostatkům dovedností, porozumění lídrů a jasnosti o hodnotě a infrastruktuře, která je vyžadována. S vzestupem LLM a generativních nástrojů, jako je DALL·E, je AI nyní přístupnější a vyžaduje mnohem méně specializovaných znalostí nebo nastavení. To však také vyvolává nové otázky o soukromí, zabezpečení dat a o tom, jak dobře obecné modely aplikují na specifické domény.

V designu a inovacích jsou tyto problémy obzvláště zřetelné. Naše výzkum, který prozkoumal více než 12 000 nápadů vygenerovaných lidmi a AI, ukázal, že nápady AI tendují ke shlukování kolem podobných konceptů. To zdůrazňuje potřebu začlenit lidskou odbornost do generických nástrojů, adaptovat AI pro doménu, nebo pochopit, kdy a jak používat AI vedle lidské kreativity a rozhodování.

Velká část vašeho výzkumu se zabývá kreativitou a kognicí v designu. S generativní AI nyní schopnou produkovat nápady, koncepty a iterace ve velkém měřítku, které aspekty kreativity považujete za jedinečně lidské — a které části mohou odpovědně přecházet k AI řízeným procesům?

Kreativita pro mě vždy byla víc než generování alternativ. Je to o záměru, kulturním významu a emocionální spojení, které design vytváří. Naše recentní průzkum v DIGIT Lab toto jasně ukázal: 82 % lidí nám řeklo, že lidsky vedená nebo hybridní práce feels více smysluplná, a 71 % uvedlo, že se cítí méně emocionálně spojeni s AI pouze designem. Mnozí popsali AI vygenerovanou práci jako „chybějící emocionální“ (48 %) nebo „příliš dokonalou“ (40 %), a 36 % cítilo, že její dopad rychle vyprchá. Tyto odpovědi potvrdily něco, čemu jsem věřila už dlouho. Emocionální zapojení není nic, co je hezké mít; je to nezbytné pro to, jak lidé prožívají a hodnotí kreativní práci.

Naše výzkum porovnávající lidské a AI nápady také ukazuje, že lidský designéři jsou lepší v tvorbě rozmanitých, nových nápadů a zajišťují, že kreativní výstup, ať už je to umělecké dílo, produktový design nebo služby, má hloubku a význam. Kreativní odborníci mají soubor dovedností, který nelze zatím replikovat. Designéři musí pochopit problém, než vygenerují nápady, a LLM jsou velmi užitečné při shromažďování informací, které pomáhají designérům přecházet z jednoho problému na jiný. Pokud můžeme začlenit modely lidské odbornosti do AI nástrojů, mohou také podporovat hodnocení nápadů, což umožňuje AI lépe využít lidské kreativní dovednosti.

Chain-of-thought přístup, se kterým experimentujeme, podporuje LLM, aby následovaly odborné důvodování, ne jen poskytují skóre. Ve všech případech je vyžadována lidská kontrola, aby se interpretovaly výsledky a zajistilo, že designové rozhodnutí odpovídají uživatelským zkušenostem.

Je zřejmé, že musíme buď vytvořit modely, které jsou schopné zachytit, jak lidé prožívají produkty, služby a interakce způsobem, který počítače mohou interpretovat, nebo integrovat tlustá data (bohaté kvalitativní poznatky, které poskytují kontext) s tenkými nebo velkými senzorickými daty, která sbíráme. Vývoj těchto modelů není přímočarý, a to je přesně tam, kde lidská účast zůstává nezbytná.

Takže pro mě není odvod, že AI nemá místo v kreativitě. Daleko od toho. Je to, že AI a lidé přispívají odlišnými silami. Skutečnost, že lidé konzistentně reagují pozitivněji na lidskou nebo hybridní práci, prostě nám říká, kde leží střed gravitace. AI může pomoci prozkoumat širší designový prostor, analyzovat vzory a nabízet strukturovanou kritiku, ale ty perceptronové ploché, algoritmické dokonalosti a emocionální vzdálenosti ukazují, kde AI stále potřebuje lidskou úsudek, aby se z možností stalo něco, co rezonuje.

To je proč vidím budoucnost kreativity jako fundamentálně spolupracující. AI může rozšířit pole možností. Designéři přinášejí empatii, kulturní porozumění a smysl záměru, který dává těmto možnostem význam. Když tyto dvě věci pracují вместе, s lidským úsudkem, který nastavuje směr a AI, které obohacují průzkum, výsledkem je kreativní proces, který je více přísný, více imaginativní a nakonec více lidský ve svých výsledcích.

Můžete říci, že jste průkopníkem přístupů pro kvantifikaci uživatelských zkušeností a strukturování designového poznání. Jak zajistíme, aby lidské zkušenosti, emoce a kulturní signály zůstaly centrální pro designový proces, když AI systémy budou více odpovědné za generování produktů a služeb?

Abychom centrálně umístili lidskou zkušenost, potřebujeme začlenit znalosti o percepci a emocích do našich metod.

Existují dva hlavní přístupy. První uznává potřebu kvalitativních dat, která umožňují bohaté pochopení lidské zkušenosti, perceptronu a emocí, informující efektivní lidsko-AI spolupráci. Druhý — na kterém jsem se zaměřila — cílem je přeložit tuto znalost do modelů, které AI systémy mohou pochopit a použít.

Tyto modely jsou složité na vývoj, protože musí integrovat uživatelskou zkušenost, lidskou percepci a charakteristiky produktů nebo systémů, které jsou navrhovány, aby předpověděly lidské reakce a celkovou zkušenost.

Pracujete rozsáhle s komplexními odvětvími – leteckým, zdravotnickým, výrobním a spotřebitelskými produkty. V těchto vysoce rizikových prostředích, jak vyvažujete potenciál AI podporovaného designu s potřebou bezpečnosti, stopovatelnosti a důvěry?

V high-risk odvětvích, jako je zdravotnictví, letecký průmysl a výroba, otázka není, zda AI může být použita, ale jak je spravována. Důvěra v těchto prostředích závisí na jasném účetnictví, stopovatelnosti a vysvětlitelnosti na každém stupni designového a rozhodovacího procesu. AI může sehrát silnou podpůrnou roli v simulaci, optimalizaci a rané fázi průzkumu, ale nemůže se stát konečnou autoritou.

Mnohá z těchto odvětví jsou přísně regulována a podléhají přísným bezpečnostním požadavkům, které vyžadují zabezpečené zpracování všech dat, osobních nebo komerčně citlivých. V těchto kontextech je často nutné vyvinout dotazy nebo podněty pomocí místních dat, aby se zajistila specifičnost a relevance, a je běžné, že organizace v těchto sektorech budují a udržují své vlastní AI nástroje.

Co naše širší výzkum konzistentně ukazuje, je, že hybridní systémy jsou nezbytné: AI by měla doplňovat odborný úsudek, ne nahrazovat ho. Lidská kontrola musí zůstat vestavěna do každého kritického rozhodovacího bodu, zejména tam, kde jsou bezpečnost, riziko a odpovědnost zapojeny. Pro regulátory a koncové uživatele, aby důvěřovali AI umožněným systémům, organizace také potřebují transparentní dokumentaci o tom, jak jsou modely trénovány, která data používají a jak jsou generovány výstupy. Bez této transparentnosti nelze důvěru škálovat, bez ohledu na to, jak pokročilá je technologie.

Mnohé organizace bojují s mezerou mezi „experimentováním s AI“ a smysluplným začleněním do produktového vývoje. Jaké praktické kroky byste doporučili týmům, které se snaží přejít z experimentování na strategickou implementaci?

Mnohé organizace uvíznou ve fázi experimentování, protože přijímají AI bez jasného strategického účelu. První praktický krok je být explicitní o tom, jakou roli AI má hrát v procesu vývoje, zda je to podpora ideace, urychlení testování, zlepšení hodnocení nebo zlepšení rozhodování. Bez této jasnosti zůstávají pilotní projekty odpojeny od skutečných obchodních a designových výsledků.

Týmy také potřebují správné základy. To znamená investovat do vysoce kvalitních, dobře spravovaných dat, zejména dat, která odrážejí skutečné uživatelské zkušenosti, spíše než pouze technické výkony. To také znamená být realistický o současných omezeních AI, zejména v kreativních a lidsky orientovaných úsudcích, kde odborná kontrola zůstává nezbytná.

Mnohá odvětví začínají vyvíjet AI politiky, které vedou týmy prostřednictvím procesu experimentování s AI od budování obchodních případů a spuštění pilotních projektů až po širší přijetí. Tyto politiky pomáhají organizacím identifikovat, kde AI může skutečně přidat hodnotu, zatímco také zajišťují, že lidé zůstávají v smyčce, kde je to nezbytné.

Nakonec by organizace měly projít strukturovanými, nízkorizikovými pilotními projekty, které jsou vestavěny do skutečných pracovních postupů, ne běžících izolovaně. Tyto pilotní projekty by měly být interdisciplinární, spojující designéry, inženýry, datové vědce a odborníky z daného oboru, aby se učení sdílelo a bylo přenositelné. AI dodává hodnotu, když je navržena do každodenní praxe, ne když je považována za samostatnou experimentální vrstvu.

Máte dlouhou historii vývoje metod pro strukturování a automatizaci znalostí. Jak blízko jsme k AI systémům, které mohou rozumět designovému záměru, uživatelským potřebám a kontextu způsobem, který skutečně přidává hodnotu, spíše než jen generuje obsah?

V některých oblastech je předpovídání uživatelských preferencí relativně přímočaré, protože lze použít data, jako je historie prohlížení nebo záznamy o tom, které filmy nebo televizní pořady byly sledovány, aby se udělaly doporučení. Tyto oblasti profitují z snadno dostupných dat.

Naopak, klíčová výzva v designu produktů a služeb spočívá v tom, že data o lidech, jejich volbách, potřebách a zkušenostech často nejsou snadno dostupná.

Má recentní výzkum s Digit Lab prozkoumal schopnost LLM, když byl dán model, jak lidé vnímají a reagují na designové rysy. Nicméně, současné modely fungují na základě vzorců v datech a nemohou kontextualizovat význam. Předchozí studie spojující tvar s percepcemi ukazují, že i malé změny ve formě mohou posunout emocionální reakce, a takové jemnosti jsou pro AI těžké předpovědět bez lidského vedení nebo sofistikovaných modelů, které je třeba zavést. Proto, AI rozumění záměru se zlepšuje, ale zůstává doplňkem lidské odbornosti.

Jak AI urychluje designové cykly — od ideace až po prototypování — jaké nové dovednosti budou designéři potřebovat? Jak by měly univerzity a organizace přehodnotit výuku pro příští generaci kreativních talentů?

Designéři budou potřebovat být zběhlí v lidské percepci a AI podporovaných nástrojích. Pochopení, jak tvar, materiál a proporce formují emocionální odpověď, zůstane фундаментálním pro dobrý design. Současně designéři musí být schopni pracovat sebevědomě s AI systémy, které podporují generování nápadů a hodnocení. To znamená nejen používat tyto nástroje, ale také rozumět, co optimalizují, a kde leží jejich omezení. Jakmile AI bude více vestavěna do designových pracovních postupů, schopnost kriticky interpretovat její výstupy a kombinovat je s lidským úsudkem se stane jednou z nejvíce cenných kreativních dovedností.

Jako AI urychluje designové cykly od ideace až po prototypování, designéři budou potřebovat nový mix schopností a způsobů myšlení, které jdou za tradiční řemeslné dovednosti. Budou potřebovat porozumět, jak digitální technologie fungují, co různé typy dat mohou (a nemohou) odhalit, a jak kombinovat designovou odbornost s AI gramotností. To zahrnuje znalost, jak pracovat s vysoce kvalitními, dobře spravovanými daty, která odrážejí skutečné uživatelské zkušenosti, spíše než se spoléhat pouze na technické výkony. Kromě toho budou designéři potřebovat úsudek, aby rozpoznali, kde je AI užitečná, a kde lidská kreativita a kritické myšlení musí zůstat centrální.

Aby univerzity a organizace splnily tyto potřeby, musí přehodnotit, jak vzdělávají příští generaci kreativních talentů. Některé univerzity již začaly integrovat datové vědy do designových programů; důležitý krok, ale ne dostatečný sám o sobě. Co ještě chybí, jsou designové myšlení metody, které jsou vybaveny pro realitu digitální éry: metody, které pomáhají designérům spolupracovat s AI, pracovat napříč disciplínami a navigovat rychlé experimentování, zatímco udržují etickou a lidsky orientovanou kontrolu.

Vyřešení této mezery je nezbytné. Je to důvod, proč můj kolega Dr. Ji Han a já píšeme knihu s Cambridge University Press o Design Thinking in the Digital Age, která spojuje rámce, dovednosti a způsoby myšlení potřebné k designu efektivně vedle AI.

DIGIT Lab zdůrazňuje odpovědnou transformaci. Z vašeho pohledu, jaké etické nebo společenské rizika potřebují více pozornosti, když AI se stává vestavěnou do designových pracovních postupů napříč odvětvími?

Jedním z příkladů je zajištění etického použití dat, včetně získání informovaného souhlasu a zajištění transparentnosti o datech, která se používají pro vývoj AI produktů, stejně jako o potenciálních.bias, které mohou obsahovat. Například datové sady vestavěné do zdravotnických systémů musí být pečlivě prozkoumány, aby se zajistilo, že dostatečně reprezentují celou populaci, identifikují skupiny, které mohou být podreprezentovány, a potvrzují, že AI systém je vhodný pro účel a inkluzivní. Z pohledu společnosti existuje často obava, že AI nahradí pracovní místa; nicméně, je důležité pochopit, kde lidská odbornost zůstává nezbytná a jak AI může být použita k doplnění, spíše než nahrazení, lidských schopností.

Jedná se o hlubší etické otázky. Když designéři spoléhají na lidská data, musí zpracovávat soukromí, bias a transparentnost zodpovědně. Workshop v DIGIT Lab identifikoval výrobní sektor „data“, „lidská“ a „řízení“ jako hlavní výzvy, zdůrazňující potřebu lepšího zachycení dat, lidské kontroly a jasných politik pro bezpečnost, důvěru, duševní vlastnictví a regulaci. Řešení těchto rizik znamená zajistit, aby AI systémy byly postaveny na rozmanitých datech, začleněním lidského úsudku na kritických bodech a rozvojem inkluzivních designových standardů, které respektují soukromí, souhlas a kulturní kontext.

Můžete říci, že jste prozkoumali, jak data a AI mohou přizpůsobit produkty kolem uživatelské zkušenosti. Vidíte budoucnost, kde produkty evoluční dynamicky na základě reálných dat poté, co opustí továrnu? Pokud ano, jak by designéři měli připravit na ten svět?

Datově řízený design použitý pro produkty může být personalizován, přizpůsoben nebo upraven pro jednotlivé chování. Stávají se „chytrými“ systémy, které sbírají data o tom, jak jsou používány, a komunikují prostřednictvím vestavěných senzorů a IoT konektivity. V našem rámci, přizpůsobovací aktivity zahrnují použití těchto dat k aktualizaci a přizpůsobení produktů poté, co opustí továrnu. Příklady zahrnují propojení modelů rozpoznávání gest s digitálním dvojčetem pro spolupráci člověk-robot a použití strojového učení podporovaného skenování pro vytvoření přizpůsobených komponent.

Tento posun vytváří nové odpovědnosti. Designéři musí rozhodnout, která lidská data, chování, fyziologické, zpětné vazby nebo emocionální, jsou relevantní. Musí také zajistit, aby aktualizace zachovaly zamýšlené estetické a emocionální kvality, které víme, že jsou spojeny s formou a percepcí. Nakonec, řízení záležitostí: náš průmyslový workshop zdůraznil, že otázky kolem dat, důvěry a soukromí vyžadují jasné politiky a lidskou kontrolu. Když je to provedeno dobře, evoluční produkty mohou nabízet trvalou hodnotu a reaktivitu, aniž by obětovaly smysl nebo etiku.

Pohledem vpřed, jaké jsou hlavní výzkumné otázky, které vás aktuálně motivují? A jaké průlomy věříte, že toto pole uvidí v příštích letech na průsečíku AI, kreativity a designového inženýrství?

Mnohé z výzev, které jsem popsal výše, zůstávají nevyřešeny – několik z nich aktuálně řeším, včetně práce na zajištění, aby obecné generativní AI nástroje mohly být účinně přizpůsobeny specifickým sektorům, které je chtějí přijmout.

Na sektorové úrovni to může vypadat dost odlišně: ve výrobě může to zahrnovat použití lokalizovaných modelů trénovaných na doménově specifických znalostech, spolu se silnými opatřeními na ochranu soukromí a bezpečnosti; v kreativních odvětvích se může zaměřit na diversifikaci výstupů a umožnění více smysluplné spolupráce mezi lidmi a AI.

Na technické úrovni experimentujeme s velkými jazykovými modely, aby podpořily hodnocení úkolu. Jedna studie ukazuje, že LLM může hodnotit novost a užitečnost a více se shoduje s lidskými odborníky, když je vedena dobře navrženými podněty. Související článek používá řetězec myšlení a multi-model agregaci, aby učinila AI hodnocení více spolehlivým. Také prozkoumáváme konverzační agenty, aby zachytili požadavky digitální transformace organizací, demonstrujíce, že chatboti mohou provádět strukturované rozhovory efektivně. Kombinované s prací na používání lidských dat v designu, tyto iniciativy ukazují budoucnost, ve které AI pomáhá zachovat odbornost, učinit lepší rozhodnutí a zapojit uživatele eticky.

Děkuji za myšlenkovou a inspirativní rozhovor; čtenáři, kteří chtějí se dozvědět více o Professor Ahmed-Kristensenové práci na AI-driven designu, kreativitě a odpovědné digitální transformaci, mohou prozkoumat probíhající výzkum a iniciativy na DIGIT Lab.