Prof. Saeema Ahmed-Kristensen, Direttore del DIGIT Lab – Serie di Interviste

Professor Saeema Ahmed-Kristensen è un importante studioso di ingegneria della progettazione e Pro-Rettore Associato (Ricerca e Impatto) all’Università di Exeter, dove ricopre anche il ruolo di Direttore del DIGIT Lab, un’importante iniziativa di ricerca interdisciplinare focalizzata sull’innovazione digitale e la trasformazione. La sua ricerca copre la creatività e la cognizione nella progettazione, la progettazione guidata dai dati e digitale, e l’integrazione di tecnologie avanzate nello sviluppo di prodotti e ingegneria complessa, con un forte accento sulla traduzione dell’approfondimento accademico in impatto nel mondo reale attraverso la collaborazione con l’industria, l’impegno politico e grandi programmi di ricerca.

La sua carriera ha attraversato Cambridge, DTU, Imperial College London, il Royal College of Art e ora l’Università di Exeter. Guardando indietro, quali esperienze o punti di svolta hanno maggiormente plasmato il suo pensiero sulla progettazione, la creatività e il ruolo delle tecnologie digitali?

Il mio lavoro nella progettazione ha coperto molte culture e discipline diverse. Ho iniziato a Brunel con uno dei pochi corsi dell’epoca che combinava tecnologia, progettazione centrata sull’uomo e comprensione della forma. Mi ha insegnato fin da subito che creatività e innovazione sono strettamente legate.

Studiare a Cambridge mi ha poi aperto ulteriormente la mente. L’ambiente del college mi ha esposto a molte discipline e mi ha mostrato come l’innovazione dipenda dalla conoscenza che si unisce attraverso i campi. Il mio dottorato si è concentrato sul settore aerospaziale e ha esaminato come i progettisti ingegneri trovano e utilizzano le informazioni. Ho studiato come le persone accedono alle conoscenze, come l’esperienza possa essere supportata o replicata, e l’intersezione tra cognizione, informatica e progettazione ingegneristica. Questa prospettiva centrata sull’uomo mi è rimasta fin da allora.

Man mano che le tecnologie digitali sono cresciute, anche le domande nel mio lavoro sono aumentate. L’aumento dei dati IoT, dell’IA e del calcolo avanzato ha spostato la progettazione da essere solo centrata sull’uomo verso essere centrata sulla società. Ciò continua a plasmare il mio lavoro all’Università di Exeter, dove dirigo il DIGIT Lab e mi concentro sul ruolo dei LLM nella creatività del processo, le barriere che le industrie affrontano nell’adottarli e come i dati possano guidare l’innovazione.

Il mio tempo a Imperial e al Royal College of Art ha rafforzato che la progettazione è molto più che plasmare prodotti o servizi. Con le persone giuste, i processi e la cultura adeguati, la progettazione diventa un motore di nuove tecnologie, materiali e idee che possono affrontare le sfide globali di oggi e di domani.

Il DIGIT Lab si concentra fortemente sulla trasformazione digitale all’interno di grandi organizzazioni stabilite. Dal suo punto di vista, cosa credono i leader di capire meno su come l’IA cambierà la progettazione, l’innovazione e la presa di decisioni?

Per decenni, l’IA ha progredito nella ricerca e è stata adottata in certi settori, ma i progressi sono stati spesso limitati da lacune nelle competenze, nella comprensione della leadership e nella chiarezza sul valore e sull’infrastruttura richiesta. Con l’aumento dei LLM e degli strumenti generativi come DALL·E, l’IA è ora più accessibile e richiede molta meno competenza specialistica o configurazione. Ma ciò solleva nuove domande sulla privacy, la sicurezza dei dati e su come i modelli generici si applichino a domini specifici.

Nella progettazione e nell’innovazione, queste questioni sono particolarmente evidenti. La nostra ricerca, che ha esaminato oltre 12.000 idee generate da esseri umani e dall’IA, ha mostrato che le idee dell’IA tendono a raggrupparsi intorno a concetti simili. Ciò evidenzia la necessità di incorporare l’esperienza umana in strumenti generici, adattare l’IA per il dominio o capire quando e come utilizzare l’IA accanto alla creatività e alla presa di decisioni umana.

Molta della sua ricerca esplora la creatività e la cognizione nella progettazione. Con l’IA generativa ora in grado di produrre idee, concetti e iterazioni su larga scala, quali aspetti della creatività ritiene unicamente umani — e quali parti possono spostarsi responsabilmente verso processi guidati dall’IA?

La creatività è sempre stata più che generare alternative per me. È questione di intento, significato culturale e connessione emotiva che una progettazione crea. Il nostro recente sondaggio del DIGIT Lab ha messo in evidenza questo: l’82% delle persone ci ha detto che il lavoro guidato dall’uomo o ibrido sembra più significativo, e il 71% ha detto di sentirsi meno connesso emotivamente alla progettazione dell’IA sola. Molti hanno descritto il lavoro generato dall’IA come “privo di emozione” (48%) o “troppo perfetto” (40%), e il 36% ha sentito che il suo impatto svaniva rapidamente. Queste risposte hanno rafforzato qualcosa in cui credo da molto tempo. L’impegno emotivo non è un optional; è essenziale per come le persone sperimentano e valutano il lavoro creativo.

La nostra ricerca che confronta le idee umane e dell’IA mostra anche che i progettisti umani sono migliori nel creare idee diverse, nuove e garantire che l’output creativo, sia esso un’opera d’arte, una progettazione di prodotto o servizi, abbia profondità e significato. Gli esperti creativi possiedono un insieme di competenze che non è ancora possibile replicare. I progettisti devono capire il problema prima di generare idee, e i LLM sono molto utili nel raccogliere informazioni per aiutare i progettisti a spostarsi da un problema all’altro. Se possiamo incorporare modelli di esperienza umana negli strumenti dell’IA, possono anche supportare la valutazione delle idee, permettendo all’IA di sfruttare meglio le competenze creative umane.

L’approccio della catena di pensiero con cui stiamo sperimentando supporta LLM per seguire il ragionamento esperto, non solo assegnare punteggi. In tutti i casi, è richiesta la supervisione umana per interpretare i risultati e garantire che le scelte di progettazione si allineino con le esperienze vissute degli utenti.

È chiaro che dobbiamo creare modelli in grado di catturare come le persone sperimentano prodotti, servizi e interazioni in modi che i computer possano interpretare, o integrare dati spessi (approfondimenti qualitativi ricchi che forniscono contesto) con i dati sottili o grandi sensori che raccogliamo. Sviluppare questi modelli non è semplice, ed è esattamente qui che l’intervento umano rimane essenziale.

Quindi, per me, il punto di arrivo non è che l’IA non abbia posto nella creatività. Lungi da ciò. È che l’IA e gli esseri umani contribuiscono con punti di forza diversi. Il fatto che le persone rispondano costantemente in modo più positivo al lavoro umano o ibrido ci dice semplicemente dove si trova il centro di gravità. L’IA può aiutare a esplorare uno spazio di progettazione più ampio, analizzare modelli e offrire una critica strutturata, ma quelle percezioni di piattezza, perfezione algoritmica e distanza emotiva mostrano dove l’IA ancora necessita del giudizio umano per trasformare le possibilità in qualcosa che risuona.

È per questo che vedo il futuro della creatività come fondamentalmente collaborativo. L’IA può allargare il campo delle possibilità. I progettisti portano l’empatia, la comprensione culturale e il senso di intento che danno a quelle possibilità un significato. Quando i due lavorano insieme, con il giudizio umano che stabilisce la direzione e l’IA che arricchisce l’esplorazione, il risultato è un processo creativo che è più rigoroso, più immaginativo e, in ultima analisi, più umano nei suoi esiti.

Ha sviluppato approcci per quantificare le esperienze degli utenti e strutturare la conoscenza della progettazione. Mentre i sistemi di IA diventano più responsabili della generazione di prodotti e servizi, come possiamo garantire che le esperienze umane, le emozioni e i segnali culturali rimangano centrali nel processo di progettazione?

Per centrare l’esperienza umana, dobbiamo incorporare la conoscenza della percezione e dell’emozione nei nostri metodi.

Ci sono due approcci principali. Il primo riconosce la necessità di dati qualitativi che consentano una comprensione ricca dell’esperienza umana, della percezione e dell’emozione, informando così una collaborazione umana-IA efficace. Il secondo — su cui si è concentrato il mio lavoro — mira a tradurre questa conoscenza in modelli che i sistemi di IA possano comprendere e utilizzare.

Questi modelli sono complessi da sviluppare, poiché devono integrare l’esperienza dell’utente, la percezione umana e le caratteristiche dei prodotti o sistemi progettati, al fine di prevedere le risposte umane e l’esperienza complessiva.

Lavora estensivamente con settori complessi – aerospaziale, medico, manifattura e prodotti di consumo. In questi ambienti ad alto rischio, come bilancia il potenziale della progettazione supportata dall’IA con la necessità di sicurezza, tracciabilità e fiducia?

In settori ad alto rischio come la sanità, l’aerospaziale e la manifattura, la domanda non è se l’IA possa essere utilizzata, ma come è governata. La fiducia in questi ambienti dipende dalla chiara responsabilità, tracciabilità e spiegabilità in ogni fase del processo di progettazione e presa di decisioni. L’IA può svolgere un ruolo potente di supporto nella simulazione, nell’ottimizzazione e nell’esplorazione iniziale, ma non può diventare l’autorità finale.

Molti di questi settori sono strettamente regolamentati e soggetti a rigorosi requisiti di sicurezza, che richiedono la gestione sicura di tutti i dati, personali o commercialmente sensibili. In questi contesti, le promesse o le query spesso devono essere sviluppate utilizzando dati locali per garantire specificità e rilevanza, ed è comune per le organizzazioni in questi settori costruire e mantenere i propri strumenti di IA.

Ciò che la nostra ricerca più ampia mostra costantemente è che i sistemi ibridi sono essenziali: l’IA dovrebbe aumentare il giudizio esperto, non sostituirlo. La supervisione umana deve rimanere integrata in ogni punto di decisione critico, in particolare dove sono coinvolti la sicurezza, il rischio e la responsabilità. Perché i regolatori e gli utenti finali possano fidarsi dei sistemi abilitati all’IA, le organizzazioni devono anche avere una documentazione trasparente di come i modelli sono addestrati, quali dati utilizzano e come vengono generati gli output. Senza quella trasparenza, la fiducia non può scalare, indipendentemente da quanto avanzata sia la tecnologia.

Molte organizzazioni lottano con il divario tra “sperimentare con l’IA” e integrarla in modo significativo nello sviluppo di prodotti. Quali passi pratici consiglierebbe per i team che cercano di passare dalla sperimentazione all’implementazione strategica?

Molte organizzazioni si fermano alla fase di sperimentazione perché adottano l’IA senza uno scopo strategico chiaro. Il primo passo pratico è essere espliciti sul ruolo che l’IA è destinata a svolgere nel processo di sviluppo, che sia supportare l’ideazione, accelerare i test, migliorare la valutazione o potenziare la presa di decisioni. Senza quella chiarezza, i piloti rimangono disconnessi dai risultati aziendali e di progettazione reali.

I team devono anche avere le fondamenta giuste. Ciò significa investire in dati di alta qualità, ben governati, in particolare dati che riflettono l’esperienza reale degli utenti e non solo le prestazioni tecniche. Significa anche essere realistici sui limiti attuali dell’IA, specialmente nel giudizio creativo e umano-centrato, dove la supervisione esperta rimane essenziale.

Molte industrie stanno iniziando a sviluppare politiche di IA che guidano i team attraverso il processo di sperimentazione con l’IA, dalla costruzione di casi d’uso alla più ampia adozione. Queste politiche aiutano le organizzazioni a identificare dove l’IA può aggiungere valore reale, garantendo anche che gli esseri umani rimangano coinvolti laddove necessario.

Infine, le organizzazioni dovrebbero passare attraverso piloti strutturati e a basso rischio che siano integrati in flussi di lavoro reali, non eseguiti in isolamento. Questi piloti dovrebbero essere interdisciplinari, riunendo progettisti, ingegneri, scienziati dei dati e esperti di settore in modo che l’apprendimento sia condiviso e trasferibile. L’IA consegna valore quando è progettata nella pratica quotidiana, non trattata come uno strato sperimentale separato.

Ha un lungo curriculum di sviluppo di metodi per strutturare e automatizzare la conoscenza. Quanto siamo vicini a sistemi di IA che possono ragionare su intento di progettazione, esigenze degli utenti e contesto in un modo che aggiunga valore reale invece di semplicemente generare contenuto?

In alcune aree, prevedere le preferenze degli utenti è relativamente semplice, poiché i dati come la cronologia di navigazione o i record di quali film o spettacoli televisivi sono stati visti possono essere utilizzati per fornire raccomandazioni. Queste aree traggono vantaggio dai dati facilmente disponibili.

Al contrario, una sfida chiave nella progettazione di prodotti e servizi è che i dati sulle scelte, le esigenze e le esperienze degli esseri umani non sono spesso facilmente disponibili.

La mia ricerca recente con il DIGIT Lab ha indagato la capacità di un LLM, quando fornito di un modello di come le persone percepiscono e rispondono alle caratteristiche di progettazione. Tuttavia, i modelli attuali operano su pattern nei dati e non possono contestualizzare il significato. Studi precedenti che collegano la forma alle percezioni mostrano che anche piccoli cambiamenti nella forma possono spostare le risposte emotive, e tali sfumature sono difficili per l’IA da anticipare senza guida umana o modelli sofisticati da introdurre. Pertanto, il ragionamento dell’IA sull’intento migliora, ma rimane un complemento all’esperienza umana.

Man mano che l’IA accelera i cicli di progettazione — dall’ideazione alla prototipazione — quali nuove competenze saranno necessarie ai progettisti? Come dovrebbero le università e le organizzazioni ripensare la formazione per la prossima generazione di talenti creativi?

I progettisti avranno bisogno di essere fluenti sia nella percezione umana che negli strumenti abilitati all’IA. Capire come la forma, il materiale e la proporzione plasmano la risposta emotiva rimarrà fondamentale per una buona progettazione. Allo stesso tempo, i progettisti devono essere in grado di lavorare in modo confidente con i sistemi di IA che supportano la generazione di idee e la valutazione. Ciò significa non solo utilizzare gli strumenti, ma capire anche cosa stanno ottimizzando e dove si trovano i loro limiti. Man mano che l’IA si integra maggiormente nei flussi di lavoro di progettazione, la capacità di interpretare criticamente i suoi output e combinarli con il giudizio umano diventerà una delle competenze creative più preziose.

Man mano che l’IA accelera i cicli di progettazione dall’ideazione alla prototipazione, i progettisti avranno bisogno di una nuova combinazione di capacità e modi di pensare che vadano oltre le tradizionali competenze artigianali. Dovranno capire come funzionano le tecnologie digitali, cosa possono (e non possono) rivelare i diversi tipi di dati e come combinare l’esperienza di progettazione con l’alfabetizzazione dell’IA. Ciò include sapere come lavorare con dati di alta qualità, ben governati, che riflettono le esperienze degli utenti reali, piuttosto che affidarsi solo a metriche di prestazione tecniche. Insieme a ciò, i progettisti avranno anche bisogno del giudizio per riconoscere dove l’IA è utile e dove la creatività e il pensiero critico umano devono rimanere centrali.

Per soddisfare queste esigenze, le università e le organizzazioni dovranno ripensare come formare la prossima generazione di talenti creativi. Alcune università stanno già integrando la scienza dei dati nei programmi di progettazione; un passo importante, ma non sufficiente da solo. Ciò che ancora manca sono metodi di pensiero della progettazione che siano attrezzati per le realtà dell’era digitale: metodi che aiutino i progettisti a collaborare con l’IA, lavorare attraverso discipline e navigare un’esperienza rapida mentre mantengono la supervisione etica e umano-centrata.

Affrontare questo divario è essenziale. È il motivo per cui il mio collega Dr. Ji Han e io stiamo scrivendo un libro con la Cambridge University Press su Pensiero della progettazione nell’era digitale, che riunisce i framework, le competenze e i modi di pensare necessari per progettare efficacemente accanto all’IA.

Il DIGIT Lab enfatizza la trasformazione responsabile. Dal suo punto di vista, quali rischi etici o sociali necessitano di maggiore attenzione man mano che l’IA si integra nei flussi di lavoro di progettazione attraverso le industrie?

Un esempio è garantire l’uso etico dei dati, incluso l’ottenimento del consenso informato e il mantenimento della trasparenza sui set di dati utilizzati per sviluppare prodotti di IA, nonché eventuali pregiudizi che potrebbero contenere. Ad esempio, i set di dati incorporati nei sistemi sanitari devono essere esaminati attentamente per garantire che rappresentino adeguatamente l’intera popolazione, identificare eventuali gruppi che potrebbero essere sottorappresentati e confermare che il sistema di IA è adatto allo scopo e inclusivo. Da una prospettiva sociale, c’è spesso preoccupazione che l’IA sostituirà i posti di lavoro; tuttavia, è importante capire dove l’esperienza umana rimane essenziale e come l’IA possa essere utilizzata per potenziare, piuttosto che sostituire, le capacità umane.

Tuttavia, ci sono questioni etiche più profonde. Quando i progettisti si affidano ai dati umani, devono gestire la privacy, i pregiudizi e la trasparenza in modo responsabile. Un workshop del DIGIT Lab ha identificato il settore manifatturiero “dati”, “umano” e “governance” come le principali categorie di sfide, evidenziando la necessità di una migliore cattura dei dati, della supervisione umana nel loop e di politiche chiare sulla sicurezza, la fiducia, la proprietà intellettuale e la regolamentazione. Affrontare questi rischi significa garantire che i sistemi di IA siano costruiti su dati diversi, incorporando il giudizio umano in punti critici e sviluppando standard di progettazione inclusivi che rispettino la privacy, il consenso e il contesto culturale.

Ha studiato come i dati e l’IA possono personalizzare i prodotti intorno all’esperienza degli utenti. Prevede un futuro in cui i prodotti evolvono dinamicamente in base ai dati in tempo reale dopo aver lasciato la fabbrica? Se sì, come i progettisti dovrebbero prepararsi per quel mondo?

La progettazione guidata dai dati utilizzata per i prodotti può essere personalizzata, adattata o modificata in base ai comportamenti individuali. Diventano quindi “sistemi intelligenti” che raccolgono dati su come vengono utilizzati e comunicano attraverso sensori incorporati e la connettività IoT. Nella nostra cornice, le attività di personalizzazione utilizzano quei dati per aggiornare e adattare i prodotti dopo che hanno lasciato la fabbrica. Esempi includono il collegamento di modelli di riconoscimento dei gesti a un gemello digitale per la collaborazione uomo-robot e l’utilizzo della scansione assistita dal machine learning per creare componenti personalizzati.

Questo spostamento crea nuove responsabilità. I progettisti devono decidere quali dati umani, comportamentali, fisiologici, di feedback o emotivi, sono rilevanti. Devono anche garantire che gli aggiornamenti preservino le qualità estetiche e emotive intese che sappiamo essere collegate alla forma e alla percezione. Infine, la governance è importante: il nostro workshop di settore ha evidenziato che le questioni relative ai dati, alla fiducia e alla privacy richiedono politiche chiare e la supervisione umana. Quando fatto bene, i prodotti in evoluzione possono offrire un valore duraturo e una risposta senza sacrificare il significato o l’etica.

Guardando avanti, quali sono le grandi questioni di ricerca che la motivano attualmente? E quali innovazioni crede che il settore vedrà nei prossimi anni all’intersezione di IA, creatività e ingegneria della progettazione?

Molte delle sfide descritte sopra rimangono irrisolte – diverse delle quali sto attualmente lavorando, compreso il lavoro per garantire che gli strumenti generici di IA possano essere efficacemente adattati ai settori specifici che desiderano adottarli.

A livello di settore, ciò può apparire molto diverso: nella manifattura, potrebbe coinvolgere l’utilizzo di modelli localizzati addestrati su conoscenze specifiche del dominio, insieme a solide misure di privacy e sicurezza; nei settori creativi, l’attenzione potrebbe essere sulla diversificazione degli output e sull’abilitazione di una collaborazione più significativa tra esseri umani e IA.

A livello tecnico, stiamo sperimentando con grandi modelli linguistici per supportare le attività di valutazione. Uno studio mostra che i LLM possono valutare la novità e l’utilità e allinearsi più da vicino con gli esperti umani quando guidati da prompt ben progettati. Un articolo correlato utilizza prompt della catena di pensiero e l’aggregazione multi-modello per rendere la valutazione dell’IA più affidabile. Stiamo anche esplorando agenti conversazionali per catturare i requisiti di trasformazione digitale delle organizzazioni, dimostrando che i chatbot possono condurre interviste strutturate in modo efficace. Combinati con il lavoro sull’uso dei dati umani nella progettazione, queste iniziative puntano a un futuro in cui l’IA aiuta a preservare l’esperienza, a prendere migliori decisioni e a coinvolgere gli utenti in modo etico.

Grazie per l’intervista pensierosa e approfondita; i lettori che desiderano saperne di più sul lavoro del Professor Ahmed-Kristensen sull’IA guidata dalla progettazione, la creatività e la trasformazione digitale responsabile possono esplorare la ricerca e le iniziative in corso presso DIGIT Lab.