Prof. Saeema Ahmed-Kristensen, Direttore del DIGIT Lab – Serie di Interviste

Professor Saeema Ahmed-Kristensen è un importante studioso di ingegneria del design e Associate Pro-Vice-Chancellor (Ricerca e Impatto) all’ Università di Exeter, dove ricopre anche il ruolo di Direttore del DIGIT Lab, un importante progetto di ricerca interdisciplinare focalizzato sull’innovazione digitale e la trasformazione. La sua ricerca copre la creatività e la cognizione nel design, il design guidato dai dati e digitale, e l’integrazione di tecnologie avanzate nello sviluppo di prodotti e ingegneria, con un forte accento sull’applicazione pratica delle conoscenze accademiche attraverso la collaborazione con l’industria, l’impegno politico e grandi programmi di ricerca.

La sua carriera ha attraversato Cambridge, DTU, Imperial College London, il Royal College of Art e ora l’Università di Exeter. Guardando indietro, quali esperienze o punti di svolta hanno maggiormente influenzato il suo pensiero sul design, la creatività e il ruolo delle tecnologie digitali?

Il mio lavoro nel design ha coperto molte culture e discipline diverse. Ho iniziato a Brunel con uno dei pochi corsi che combinavano tecnologia, design centrato sull’uomo e comprensione della forma. Mi ha insegnato fin dall’inizio che creatività e innovazione sono strettamente legate.

Studiare a Cambridge ha ulteriormente ampliato la mia prospettiva. L’ambiente del college mi ha esposto a molte discipline e mi ha mostrato come l’innovazione dipenda dalla conoscenza che si unisce attraverso campi diversi. La mia tesi di dottorato si è concentrata sul settore aerospaziale e ha esaminato come gli ingegneri del design trovano e utilizzano le informazioni. Ho studiato come le persone accedono alla conoscenza, come l’esperienza può essere supportata o replicata, e l’intersezione tra cognizione, informatica e design ingegneristico. Questa prospettiva centrata sull’uomo mi è rimasta.

Man mano che le tecnologie digitali crescevano, anche le domande nel mio lavoro sono cresciute. L’aumento dei dati IoT, dell’AI e del calcolo avanzato ha spostato il design da essere solo centrato sull’uomo verso essere centrato sulla società. Ciò continua a plasmare il mio lavoro all’Università di Exeter, dove dirigo il DIGIT Lab e mi concentro sul ruolo dei LLM nel processo creativo, le barriere che le industrie affrontano nell’adozione e come i dati possono guidare l’innovazione.

Il mio tempo a Imperial e al Royal College of Art ha rafforzato che il design è molto più che plasmare prodotti o servizi. Con le persone giuste, i processi e la cultura adeguati, il design diventa un motore di nuove tecnologie, materiali e idee che possono affrontare le sfide globali di oggi e di domani.

Il DIGIT Lab si concentra fortemente sulla trasformazione digitale all’interno di grandi organizzazioni stabilite. Dal suo punto di vista, cosa credono di capire meno i leader su come l’AI cambierà il design, l’innovazione e la presa di decisioni?

Per decenni, l’AI ha progredito nella ricerca e è stata adottata in certi settori, ma i progressi sono stati spesso limitati da lacune nelle competenze, nella comprensione dei leader e nella chiarezza sul valore e sull’infrastruttura richiesta. Con l’aumento dei LLM e degli strumenti generativi come DALL·E, l’AI è ora più accessibile e richiede molto meno competenze specialistiche o configurazione. Ma ciò solleva nuove domande sulla privacy, la sicurezza dei dati e su quanto bene i modelli generici si adattino a domini specifici.

Nel design e nell’innovazione, queste questioni sono particolarmente evidenti. La nostra ricerca, che ha esaminato oltre 12.000 idee generate da esseri umani e da AI, ha mostrato che le idee dell’AI tendono a raggrupparsi attorno a concetti simili. Ciò sottolinea la necessità di integrare l’esperienza umana in strumenti generici, adattare l’AI per il dominio o capire quando e come utilizzare l’AI accanto alla creatività e alla presa di decisioni umane.

Molte delle sue ricerche esplorano la creatività e la cognizione nel design. Con l’AI ora in grado di produrre idee, concetti e iterazioni su larga scala, quali aspetti della creatività ritiene siano unicamente umani — e quali parti possono responsabilmente spostarsi verso processi guidati dall’AI?

La creatività è sempre stata più che generare alternative per me. È questione di intento, significato culturale e connessione emotiva che un design crea. Il nostro recente sondaggio del DIGIT Lab ha messo in evidenza questo: l’82% delle persone ci ha detto che il lavoro guidato dall’uomo o ibrido sembra più significativo, e il 71% ha affermato di sentirsi meno connessi emotivamente al design dell’AI. Molti hanno descritto il lavoro generato dall’AI come “privo di emozione” (48%) o “troppo perfetto” (40%), e il 36% ha sentito che il suo impatto svaniva rapidamente. Queste risposte hanno rafforzato qualcosa in cui credo da molto tempo. L’impegno emotivo non è un optional; è essenziale per come le persone sperimentano e valorizzano il lavoro creativo.

La nostra ricerca che confronta le idee umane e dell’AI mostra anche che i designer umani sono migliori nel creare idee diverse, nuove e garantire che l’output creativo, sia esso un’opera d’arte, un design di prodotto o un servizio, abbia profondità e significato. Gli esperti creativi possiedono un insieme di competenze che non è ancora possibile replicare. I designer devono capire il problema prima di generare idee, e i LLM sono molto utili nel raccogliere informazioni per aiutare i designer a spostarsi da un problema all’altro. Se possiamo integrare modelli di esperienza umana negli strumenti dell’AI, possono anche supportare la valutazione delle idee, permettendo all’AI di sfruttare meglio le competenze creative umane.

Il nostro approccio basato sulla catena di pensieri che stiamo sperimentando supporta i LLM a seguire la ragionamento degli esperti, non solo assegnare punteggi. In tutti i casi, è necessaria la supervisione umana per interpretare i risultati e garantire che le scelte di design si allineino con le esperienze vissute degli utenti.

È chiaro che dobbiamo creare modelli in grado di catturare come le persone sperimentano prodotti, servizi e interazioni in modi che i computer possano interpretare, o integrare dati spessi (intuizioni qualitative ricche che forniscono contesto) con i dati sottili o grandi sensori che raccogliamo. Sviluppare questi modelli non è semplice, ed è esattamente qui che l’intervento umano rimane essenziale.

Quindi, per me, il punto non è che l’AI non abbia posto nella creatività. Al contrario. È che l’AI e gli esseri umani contribuiscono con punti di forza diversi. Il fatto che le persone rispondano costantemente in modo più positivo al lavoro umano o ibrido ci dice semplicemente dove si trova il centro di gravità. L’AI può aiutare a esplorare uno spazio di design più ampio, analizzare modelli e offrire una critica strutturata, ma quelle percezioni di piattezza, perfezione algoritmica e distanza emotiva mostrano dove l’AI ancora necessita del giudizio umano per trasformare le possibilità in qualcosa che risuona.

È per questo che vedo il futuro della creatività come fondamentalmente collaborativo. L’AI può allargare il campo delle possibilità. I designer portano l’empatia, la comprensione culturale e il senso di intento che danno a quelle possibilità un significato. Quando i due lavorano insieme, con il giudizio umano che stabilisce la direzione e l’AI che arricchisce l’esplorazione, il risultato è un processo creativo che è più rigoroso, più immaginativo e, in ultima analisi, più umano nei suoi esiti.

Ha fatto pionieristiche ricerche per quantificare le esperienze degli utenti e strutturare la conoscenza del design. Mentre i sistemi AI diventano più responsabili della generazione di prodotti e servizi, come possiamo assicurarci che le esperienze umane, le emozioni e i segnali culturali rimangano centrali nel processo di design?

Per centrare l’esperienza umana, dobbiamo incorporare la conoscenza della percezione e dell’emozione nei nostri metodi.

Ci sono due approcci principali. Il primo riconosce la necessità di dati qualitativi che consentano una comprensione ricca dell’esperienza umana, della percezione e dell’emozione, informando una efficace collaborazione uomo-AI. Il secondo — su cui si è concentrato il mio lavoro — mira a tradurre questa conoscenza in modelli che i sistemi AI possano comprendere e utilizzare.

Questi modelli sono complessi da sviluppare, poiché devono integrare l’esperienza dell’utente, la percezione umana e le caratteristiche dei prodotti o dei sistemi progettati, al fine di prevedere le risposte umane e l’esperienza complessiva.

Lavora estensivamente con settori complessi – aerospaziale, medico, manifatturiero e prodotti di consumo. In questi ambienti ad alto rischio, come bilancia il potenziale del design supportato dall’AI con la necessità di sicurezza, tracciabilità e fiducia?

Nel settore sanitario, aerospaziale e manifatturiero, la questione non è se l’AI possa essere utilizzata, ma come è governata. La fiducia in questi ambienti dipende da una chiara responsabilità, tracciabilità e spiegabilità in ogni fase del processo di design e presa di decisioni. L’AI può svolgere un ruolo potente di supporto nella simulazione, nell’ottimizzazione e nell’esplorazione iniziale, ma non può diventare l’autorità finale.

Molti di questi settori sono strettamente regolamentati e soggetti a rigorosi requisiti di sicurezza, che richiedono la gestione sicura di tutti i dati, personali o commercialmente sensibili. In questi contesti, le richieste o le query spesso devono essere sviluppate utilizzando dati locali per garantire specificità e rilevanza, ed è comune per le organizzazioni in questi settori costruire e mantenere i propri strumenti AI.

Ciò che la nostra ricerca più ampia mostra costantemente è che i sistemi ibridi sono essenziali: l’AI dovrebbe aumentare il giudizio esperto, non sostituirlo. La supervisione umana deve rimanere integrata in ogni punto di decisione critico, in particolare dove sono coinvolti la sicurezza, il rischio e la responsabilità. Perché i regolatori e gli utenti finali possano fidarsi dei sistemi abilitati all’AI, le organizzazioni hanno anche bisogno di documentazione trasparente su come i modelli sono addestrati, quali dati utilizzano e come vengono generati gli output. Senza questa trasparenza, la fiducia non può scalare, indipendentemente da quanto avanzata sia la tecnologia.

Molte organizzazioni lottano per colmare il divario tra “sperimentare con l’AI” e integrare significativamente l’AI nello sviluppo del prodotto. Quali passi pratici raccomanderebbe per i team che cercano di passare dall’esperimento all’implementazione strategica?

Molte organizzazioni si fermano alla fase di sperimentazione perché adottano l’AI senza uno scopo strategico chiaro. Il primo passo pratico è essere espliciti sul ruolo che l’AI è destinata a svolgere nel processo di sviluppo, che sia supportare l’ideazione, accelerare i test, migliorare la valutazione o migliorare la presa di decisioni. Senza questa chiarezza, i piloti rimangono disconnessi dai risultati aziendali e di design reali.

I team hanno anche bisogno delle fondamenta giuste. Ciò significa investire in dati di alta qualità, ben governati, in particolare dati che riflettono le esperienze degli utenti reali piuttosto che solo le prestazioni tecniche. Significa anche essere realistici sui limiti attuali dell’AI, in particolare nel giudizio creativo e umano-centrato, dove la supervisione esperta rimane essenziale.

Molti settori iniziano a sviluppare politiche AI che guidano i team attraverso il processo di sperimentazione con l’AI, dalla costruzione di casi d’uso e dall’esecuzione di piloti all’adozione più ampia. Queste politiche aiutano le organizzazioni a identificare dove l’AI può aggiungere valore reale, garantendo anche che gli esseri umani rimangano coinvolti laddove necessario.

Infine, le organizzazioni dovrebbero passare attraverso piloti strutturati e a basso rischio che siano integrati in flussi di lavoro reali, non eseguiti in isolamento. Questi piloti dovrebbero essere interdisciplinari, riunendo designer, ingegneri, scienziati dei dati e esperti di settore in modo che l’apprendimento sia condiviso e trasferibile. L’AI fornisce valore quando è progettata nella pratica quotidiana, non trattata come uno strato sperimentale separato.

Ha una lunga storia di sviluppo di metodi per strutturare e automatizzare la conoscenza. Quanto siamo vicini a sistemi AI che possano ragionare sull’intento del design, sulle esigenze degli utenti e sul contesto in un modo che aggiunga valore reale piuttosto che semplicemente generare contenuto?

In alcune aree, prevedere le preferenze degli utenti è relativamente semplice, poiché i dati come la cronologia di navigazione o i record di quali film o spettacoli televisivi sono stati visti possono essere utilizzati per fornire raccomandazioni. Queste aree traggono vantaggio da dati facilmente disponibili.

Al contrario, una delle sfide chiave nel design di prodotti e servizi è che i dati sulle scelte, le esigenze e le esperienze degli utenti spesso non sono facilmente disponibili.

La mia ricerca recente con il DIGIT Lab ha esaminato la capacità di un LLM, quando fornito di un modello di come le persone percepiscono e rispondono ai tratti del design, di valutare la creatività del design. Tuttavia, i modelli attuali operano su pattern nei dati e non possono contestualizzare il significato. Studi precedenti che collegano la forma alle percezioni mostrano che anche piccoli cambiamenti nella forma possono spostare le risposte emotive, e queste sottigliezze sono difficili da anticipare per l’AI senza la guida umana o modelli sofisticati da introdurre. Pertanto, il ragionamento dell’AI sull’intento è in miglioramento, ma rimane un complemento all’esperienza umana.

Man mano che l’AI accelera i cicli di design — dall’ideazione alla prototipazione — quali nuove competenze saranno necessarie per i designer? Come dovrebbero le università e le organizzazioni ripensare la formazione per la prossima generazione di talenti creativi?

I designer avranno bisogno di essere fluenti nella percezione umana e negli strumenti abilitati all’AI. Capire come la forma, il materiale e la proporzione plasmano la risposta emotiva rimarrà fondamentale per un buon design. Allo stesso tempo, i designer devono essere in grado di lavorare in modo confidente con i sistemi AI che supportano la generazione di idee e la valutazione. Ciò significa non solo utilizzare gli strumenti, ma comprendere anche cosa stanno ottimizzando e dove si trovano i loro limiti. Man mano che l’AI si integra nei flussi di lavoro del design, la capacità di interpretare criticamente i suoi output e combinarli con il giudizio umano diventerà una delle competenze creative più preziose.

Man mano che l’AI accelera i cicli di design dall’ideazione alla prototipazione, i designer avranno bisogno di una nuova combinazione di capacità e modi di pensare che vadano oltre le competenze artigianali tradizionali. Avranno bisogno di comprendere come funzionano le tecnologie digitali, cosa possono (e non possono) rivelare diversi tipi di dati e come combinare l’esperienza del design con l’alfabetizzazione dell’AI. Ciò include sapere come lavorare con dati di alta qualità, ben governati, che riflettono le esperienze degli utenti reali, piuttosto che affidarsi solo a metriche di prestazione tecnica. Inoltre, i designer avranno bisogno del giudizio per riconoscere dove l’AI è utile e dove la creatività e il pensiero critico umano devono rimanere centrali.

Per soddisfare queste esigenze, le università e le organizzazioni dovranno ripensare come formare la prossima generazione di talenti creativi. Alcune università stanno già integrando la scienza dei dati nei programmi di design;, un passo importante, ma non sufficiente da solo. Ciò che manca ancora sono metodi di pensiero del design che siano attrezzati per le realtà dell’era digitale: metodi che aiutino i designer a collaborare con l’AI, lavorare attraverso discipline e navigare la sperimentazione rapida mantenendo la supervisione etica e umano-centrata.

È essenziale affrontare questo gap. È il motivo per cui il mio collega Dr. Ji Han e io stiamo scrivendo un libro con la Cambridge University Press su Pensiero del design nell’era digitale, che riunisce i framework, le competenze e i modi di pensare necessari per progettare efficacemente accanto all’AI.

Il DIGIT Lab enfatizza la trasformazione responsabile. Dal suo punto di vista, quali rischi etici o sociali richiedono maggiore attenzione man mano che l’AI si integra nei flussi di lavoro del design attraverso i settori?

Un esempio è garantire l’uso etico dei dati, inclusa l’ottenimento del consenso informato e il mantenimento della trasparenza sui set di dati utilizzati per sviluppare prodotti AI, nonché eventuali pregiudizi che potrebbero contenere. Ad esempio, i set di dati incorporati nei sistemi sanitari devono essere esaminati attentamente per garantire che rappresentino adeguatamente l’intera popolazione, identificare eventuali gruppi sottorappresentati e confermare che il sistema AI è adatto allo scopo e inclusivo. Da una prospettiva sociale, c’è spesso preoccupazione che l’AI sostituisca i posti di lavoro; tuttavia, è importante capire dove l’esperienza umana rimane essenziale e come l’AI possa essere utilizzata per aumentare, piuttosto che sostituire, le capacità umane.

Ci sono però anche questioni etiche più profonde. Quando i designer si affidano ai dati umani, devono gestire la privacy, i pregiudizi e la trasparenza in modo responsabile. Un workshop del DIGIT Lab ha identificato il settore manifatturiero “dati”, “umano” e “governance” come le principali categorie di sfide, sottolineando la necessità di una migliore cattura dei dati, della supervisione umana nel loop e di politiche chiare sulla sicurezza, la fiducia, la proprietà intellettuale e la regolamentazione. Affrontare questi rischi significa garantire che i sistemi AI siano costruiti su dati diversificati, integrare il giudizio umano in punti critici e sviluppare standard di design inclusivi che rispettino la privacy, il consenso e il contesto culturale.

Ha condotto ricerche su come i dati e l’AI possano personalizzare i prodotti intorno all’esperienza dell’utente. Prevede un futuro in cui i prodotti evolvono dinamicamente in base ai dati in tempo reale dopo aver lasciato la fabbrica? Se sì, come dovrebbero prepararsi i designer per quel mondo? 

Il design guidato dai dati utilizzato per i prodotti può essere personalizzato, adattato o personalizzato in base al comportamento individuale. Diventano quindi “sistemi intelligenti” che raccolgono dati su come vengono utilizzati e comunicano attraverso sensori integrati e la connettività IoT. Nel nostro framework, le attività di personalizzazione coinvolgono l’uso di quei dati per aggiornare e adattare i prodotti dopo che hanno lasciato la fabbrica. Esempi includono il collegamento di modelli di riconoscimento dei gesti a un gemello digitale per la collaborazione uomo-robot e l’utilizzo della scansione assistita dal machine learning per creare componenti personalizzati.

Questo spostamento crea nuove responsabilità. I designer devono decidere quali dati umani, comportamentali, fisiologici, di feedback o emotivi, sono rilevanti. Devono anche garantire che gli aggiornamenti preservino le qualità estetiche e emotive intese che sappiamo essere collegate alla forma e alla percezione. Infine, la governance è importante: il nostro workshop di settore ha sottolineato che le questioni relative ai dati, alla fiducia e alla privacy richiedono politiche chiare e la supervisione umana. Quando fatto bene, i prodotti in evoluzione possono offrire valore e risposta duraturi senza sacrificare significato o etica.

Guardando avanti, quali sono le grandi questioni di ricerca che la motivano attualmente? E quali innovazioni crede che il campo vedrà all’intersezione di AI, creatività e ingegneria del design nei prossimi anni?

Molte delle sfide descritte sopra rimangono irrisolte – alcune delle quali sto attualmente esplorando, inclusi lavori per garantire che gli strumenti generativi AI di scopo generale possano essere efficacemente adattati ai settori specifici che desiderano adottarli.

A livello di settore, ciò può apparire molto diverso: nel settore manifatturiero, può comportare l’uso di modelli locali addestrati con conoscenze di dominio specifico, insieme a solide misure di privacy e sicurezza; nei settori creativi, l’attenzione potrebbe essere rivolta alla diversificazione degli output e all’abilitazione di una collaborazione più significativa tra esseri umani e AI.

A livello tecnico, stiamo sperimentando con grandi modelli linguistici per supportare le attività di valutazione. Uno studio mostra che i LLM possono valutare la novità e l’utilità e allinearsi più da vicino con gli esperti umani quando guidati da prompt ben progettati. Un articolo correlato utilizza prompting della catena di pensieri e aggregazione multi-modello per rendere la valutazione AI più affidabile. Stiamo anche esplorando agenti conversazionali per catturare i requisiti di trasformazione digitale delle organizzazioni, dimostrando che i chatbot possono condurre interviste strutturate in modo efficace. Combinati con il lavoro sull’uso dei dati umani nel design, queste iniziative puntano a un futuro in cui l’AI aiuta a preservare l’esperienza, a prendere decisioni migliori e a coinvolgere gli utenti in modo etico.

Grazie per l’intervista pensierosa e approfondita; i lettori che desiderano saperne di più sul lavoro del Professor Ahmed-Kristensen sull’ingegneria del design guidata dall’AI, la creatività e la trasformazione digitale responsabile possono esplorare le ricerche e le iniziative in corso presso il DIGIT Lab.