Prof. Saeema Ahmed-Kristensen, Direttore del DIGIT Lab – Serie di interviste

La professoressa Saeema Ahmed-Kristensen è uno dei principali studiosi di ingegneria della progettazione e Prorettore Associato (Ricerca e Impatto) presso Università di Exeter, dove ricopre anche il ruolo di Direttore del Laboratorio DIGIT, Un'importante iniziativa di ricerca interdisciplinare incentrata sull'innovazione e la trasformazione digitale. La sua ricerca spazia dalla creatività e dalla cognizione del design, alla progettazione digitale e basata sui dati, fino all'integrazione di tecnologie avanzate in ingegneria complessa e sviluppo di prodotti, con una forte enfasi sulla traduzione delle conoscenze accademiche in un impatto concreto attraverso la collaborazione con il settore, l'impegno politico e programmi di ricerca su larga scala.

La tua carriera ha toccato Cambridge, la DTU, l'Imperial College di Londra, il Royal College of Art e ora l'Università di Exeter. Guardando indietro, quali esperienze o punti di svolta hanno maggiormente plasmato il tuo pensiero su design, creatività e ruolo delle tecnologie digitali?

Il mio lavoro nel design ha attraversato molte culture e discipline diverse. Ho iniziato alla Brunel University con uno dei pochi corsi dell'epoca che combinava tecnologia, design incentrato sull'uomo e comprensione della forma. Mi ha insegnato fin da subito che creatività e innovazione sono strettamente legate.

Studiare a Cambridge ha poi ampliato ulteriormente il mio pensiero. L'ambiente universitario mi ha esposto a molte discipline e mi ha mostrato come l'innovazione dipenda dall'unione delle conoscenze trasversali. Il mio dottorato di ricerca si è concentrato sul settore aerospaziale e ha analizzato il modo in cui i progettisti ingegneristici trovano e utilizzano le informazioni. Ho studiato come le persone accedono alla conoscenza, come le competenze possono essere supportate o replicate e l'intersezione tra cognizione, informatica e progettazione ingegneristica. Questa prospettiva incentrata sull'uomo mi ha accompagnato da allora.

Con la crescita delle tecnologie digitali, sono cresciute anche le domande che caratterizzano il mio lavoro. L'ascesa dei dati IoT, dell'intelligenza artificiale e del calcolo avanzato ha spostato il design da un approccio incentrato esclusivamente sull'uomo a un approccio incentrato sulla società. Questo continua a plasmare il mio lavoro all'Università di Exeter, dove dirigo il DIGIT Lab e mi concentro sul ruolo degli LLM nel processo creativo, sugli ostacoli che le industrie incontrano nell'adottare tali titoli e su come i dati possano guidare l'innovazione.

Il mio periodo all'Imperial College e al Royal College of Art mi ha confermato che il design è molto più che dare forma a prodotti o servizi. Con le persone, i processi e la cultura giusti, il design diventa un motore di tecnologie, materiali e idee nuovi e scalabili, in grado di affrontare le sfide globali di oggi e di domani.

DIGIT Lab si concentra principalmente sulla trasformazione digitale all'interno di grandi organizzazioni consolidate. Dal suo punto di vista, cosa ritiene che i leader fraintendano di più su come l'intelligenza artificiale cambierà il design, l'innovazione e il processo decisionale?

Per decenni, l'IA ha fatto progressi nella ricerca ed è stata adottata in determinati settori, ma i progressi sono stati spesso limitati da lacune di competenze, dalla mancanza di comprensione da parte della leadership e dalla chiarezza sul valore e sull'infrastruttura richiesta. Con l'avvento degli LLM e di strumenti generativi come DALL·E, l'IA è ora più accessibile e richiede molte meno competenze specialistiche o configurazioni. Ma questo solleva anche nuove questioni sulla privacy, sulla sicurezza dei dati e sull'efficacia dei modelli generici nell'applicarsi a domini specifici.

Nel design e nell'innovazione, queste problematiche sono particolarmente evidenti. La nostra ricerca, che ha esaminato oltre 12,000 idee generate da esseri umani e dall'intelligenza artificiale, ha dimostrato che le idee di intelligenza artificiale tendono a raggrupparsi attorno a concetti simili. Ciò evidenzia la necessità di integrare le competenze umane in strumenti generici, adattare l'intelligenza artificiale al settore specifico o capire quando e come utilizzare l'intelligenza artificiale insieme alla creatività e al processo decisionale umani.

Gran parte della tua ricerca esplora creatività e cognizione nel design. Con l'intelligenza artificiale generativa ora in grado di produrre idee, concetti e iterazioni su larga scala, quali aspetti della creatività ritieni siano prettamente umani e quali possono responsabilmente spostarsi verso processi guidati dall'intelligenza artificiale?

Per me, la creatività è sempre stata più che generare alternative. Riguarda l'intento, il significato culturale e il legame emotivo che un progetto crea. Il nostro recente sondaggio DIGIT Lab ha messo in luce questo aspetto: l'82% delle persone ci ha detto che il lavoro guidato dall'uomo o ibrido sembra più significativo, e il 71% ha affermato di sentirsi meno emotivamente connesso al design basato esclusivamente sull'intelligenza artificiale. Molti hanno descritto il lavoro generato dall'intelligenza artificiale come "privo di emozioni" (48%) o "eccessivamente perfetto" (40%), e il 36% ha ritenuto che il suo impatto svanisse rapidamente. Queste risposte hanno rafforzato qualcosa in cui credo da molto tempo. Il coinvolgimento emotivo non è un optional; è essenziale per il modo in cui le persone vivono e apprezzano il lavoro creativo.

La nostra ricerca che confronta le idee umane e quelle dell'IA mostra anche che i designer umani sono più abili nel creare idee innovative e diversificate e nel garantire che il risultato creativo, che si tratti di opere d'arte, design di prodotto o servizi, abbia profondità e significato. Gli esperti creativi possiedono un set di competenze che non è ancora possibile replicare. I designer devono comprendere il problema prima di generare idee e gli LLM sono molto utili per raccogliere informazioni che aiutano i designer a passare da un problema all'altro. Se riusciamo a integrare modelli di competenza umana negli strumenti di IA, questi possono anche supportare la valutazione delle idee, consentendo all'IA di sfruttare al meglio le capacità creative umane.

L’approccio a catena di pensiero che stiamo sperimentando supporta Gli LLM seguiranno gli esperti ragionamento, non solo assegnare punteggi. In tutti i casi, è necessaria la supervisione umana per interpretare i risultati e garantire che le scelte progettuali siano in linea con le esperienze vissute dagli utenti.

È chiaro che dobbiamo creare modelli in grado di catturare il modo in cui le persone vivono prodotti, servizi e interazioni in modi che i computer possano interpretare, oppure integrare i dati densi (intuizioni qualitative approfondite che forniscono contesto) con i dati sottili o complessi dei sensori che raccogliamo. Sviluppare questi modelli non è semplice, ed è proprio qui che il coinvolgimento umano rimane essenziale.

Quindi, per me, la conclusione non è che l'intelligenza artificiale non abbia alcun ruolo nella creatività. Tutt'altro. È che l'intelligenza artificiale e gli esseri umani contribuiscono con punti di forza diversi. Il fatto che le persone rispondano costantemente in modo più positivo al lavoro umano o ibrido ci dice semplicemente dove si trova il baricentro. L'intelligenza artificiale può aiutare a esplorare uno spazio di progettazione più ampio, analizzare modelli e offrire una critica strutturata, ma quelle percezioni di piattezza, perfezione algoritmica e distanza emotiva mostrano dove l'intelligenza artificiale ha ancora bisogno del giudizio umano per trasformare le possibilità in qualcosa che risuoni.

Ecco perché vedo il futuro della creatività come fondamentalmente collaborativo. L'intelligenza artificiale può ampliare il campo delle possibilità. I ​​designer apportano l'empatia, la comprensione culturale e il senso di intenzione che danno significato a queste possibilità. Quando i due lavorano insieme, con il giudizio umano che stabilisce la direzione e l'intelligenza artificiale che arricchisce l'esplorazione, il risultato è un processo creativo più rigoroso, più fantasioso e, in definitiva, più umano nei suoi risultati.

Hai sperimentato approcci pionieristici per quantificare le esperienze utente e strutturare la conoscenza del design. Man mano che i sistemi di intelligenza artificiale diventano sempre più responsabili della generazione di prodotti e servizi, come possiamo garantire che le esperienze umane, le emozioni e i segnali culturali rimangano centrali nel processo di progettazione?

Per centrare l'esperienza umana, dobbiamo integrare la conoscenza della percezione e delle emozioni nei nostri metodi.

Esistono due approcci principali. Il primo riconosce la necessità di dati qualitativi che consentano una comprensione approfondita dell'esperienza, della percezione e delle emozioni umane, favorendo un'efficace collaborazione tra uomo e IA. Il secondo, su cui si è concentrato il mio lavoro, mira a tradurre questa conoscenza in modelli che i sistemi di IA possano comprendere e utilizzare.

Questi modelli sono complessi da sviluppare, poiché devono integrare l'esperienza dell'utente, la percezione umana e le caratteristiche dei prodotti o dei sistemi progettati, per poter prevedere le risposte umane e l'esperienza complessiva.

Lavori a lungo in settori complessi: aerospaziale, medicale, manifatturiero e dei beni di consumo. In questi contesti ad alto rischio, come riesci a bilanciare il potenziale della progettazione supportata dall'intelligenza artificiale con le esigenze di sicurezza, tracciabilità e affidabilità?

In settori ad alto rischio come la sanità, l'aerospaziale e la produzione manifatturiera, la questione non è se l'IA possa essere utilizzata, ma come venga gestita. La fiducia in questi ambienti dipende da una chiara responsabilità, tracciabilità e spiegabilità in ogni fase del processo di progettazione e decisionale. L'IA può svolgere un importante ruolo di supporto nella simulazione, nell'ottimizzazione e nell'esplorazione iniziale, ma non può diventare l'autorità finale.

Molti di questi settori sono rigidamente regolamentati e soggetti a severi requisiti di sicurezza, che richiedono la gestione sicura di tutti i dati, personali o commerciali sensibili. In questi contesti, prompt o query devono spesso essere sviluppati utilizzando dati locali per garantire specificità e pertinenza, ed è comune per le organizzazioni di questi settori sviluppare e gestire i propri strumenti di intelligenza artificiale.

Ciò che la nostra ricerca più ampia dimostra costantemente è che i sistemi ibridi sono essenziali: l'IA dovrebbe potenziare il giudizio degli esperti, non sostituirlo. La supervisione umana deve rimanere integrata in ogni punto decisionale critico, in particolare quando si tratta di sicurezza, rischio e responsabilità. Affinché le autorità di regolamentazione e gli utenti finali possano fidarsi dei sistemi basati sull'IA, le organizzazioni necessitano anche di una documentazione trasparente su come vengono addestrati i modelli, quali dati utilizzano e come vengono generati gli output. Senza tale trasparenza, la fiducia non può crescere, indipendentemente da quanto avanzata diventi la tecnologia.

Molte organizzazioni si scontrano con il divario tra la "sperimentazione con l'IA" e la sua integrazione significativa nello sviluppo del prodotto. Quali misure pratiche consiglieresti ai team che cercano di passare dalla sperimentazione all'implementazione strategica?

Molte organizzazioni si bloccano nella fase di sperimentazione perché adottano l'IA senza un chiaro obiettivo strategico. Il primo passo pratico è definire esplicitamente il ruolo che l'IA dovrebbe svolgere nel processo di sviluppo, che si tratti di supportare l'ideazione, accelerare i test, migliorare la valutazione o potenziare il processo decisionale. Senza questa chiarezza, i progetti pilota rimangono scollegati dai risultati aziendali e progettuali reali.

I team hanno anche bisogno di solide basi. Ciò significa investire in dati di alta qualità e ben gestiti, in particolare dati che riflettano l'esperienza utente reale piuttosto che prestazioni puramente tecniche. Significa anche essere realistici riguardo agli attuali limiti dell'intelligenza artificiale, soprattutto nel giudizio creativo e incentrato sull'uomo, dove la supervisione di esperti rimane essenziale.

Molti settori stanno iniziando a sviluppare policy di intelligenza artificiale che guidino i team attraverso il processo di sperimentazione, dalla creazione di business case e dall'esecuzione di progetti pilota fino a un'adozione più ampia. Queste policy aiutano le organizzazioni a identificare dove l'intelligenza artificiale può realmente aggiungere valore, garantendo al contempo che gli esseri umani rimangano coinvolti ove necessario.

Infine, le organizzazioni dovrebbero procedere attraverso progetti pilota strutturati e a basso rischio, integrati in flussi di lavoro reali, non gestiti in modo isolato. Questi progetti pilota dovrebbero essere interdisciplinari, riunendo progettisti, ingegneri, data scientist ed esperti del settore in modo che l'apprendimento sia condiviso e trasferibile. L'intelligenza artificiale offre valore quando è integrata nella pratica quotidiana, non trattata come un livello sperimentale separato.

Lei ha una lunga esperienza nello sviluppo di metodi per strutturare e automatizzare la conoscenza. Quanto siamo vicini a sistemi di intelligenza artificiale in grado di ragionare sull'intento progettuale, sulle esigenze degli utenti e sul contesto in un modo che aggiunga realmente valore, anziché limitarsi a generare contenuti?

In alcuni ambiti, prevedere le preferenze degli utenti è relativamente semplice, poiché dati come la cronologia di navigazione o le registrazioni dei film o dei programmi televisivi guardati possono essere utilizzati per formulare raccomandazioni. Questi ambiti traggono vantaggio dalla disponibilità immediata di dati.

Al contrario, una sfida fondamentale nella progettazione di prodotti e servizi è che i dati sulle scelte, le esigenze e le esperienze vissute dalle persone spesso non sono facilmente reperibili.

My recente ricerca Con Digit Lab abbiamo studiato la capacità di un LLM, quando gli viene fornito un modello di come le persone percepiscono e rispondono alle caratteristiche del design. Tuttavia, i modelli attuali operano su pattern nei dati e non possono contestualizzare il significato. Studi precedenti che collegano la forma alle percezioni mostrano che anche piccoli cambiamenti nella forma possono modificare le risposte emotive, e tali sottigliezze sono difficili da anticipare per l'IA senza la guida umana o l'introduzione di modelli sofisticati. Pertanto, il ragionamento dell'IA sull'intento sta migliorando, ma rimane un complemento all'esperienza umana.

Con l'accelerazione dei cicli di progettazione da parte dell'intelligenza artificiale, dall'ideazione alla prototipazione, quali nuove competenze saranno necessarie ai designer? In che modo università e organizzazioni dovrebbero ripensare la formazione per la prossima generazione di talenti creativi?

I designer dovranno padroneggiare sia la percezione umana che gli strumenti basati sull'intelligenza artificiale. Comprendere come forma, materiale e proporzioni influenzino la risposta emotiva rimarrà fondamentale per un buon design. Allo stesso tempo, i designer devono essere in grado di lavorare con sicurezza con i sistemi di intelligenza artificiale che supportano la generazione e la valutazione delle idee. Ciò significa non solo utilizzare gli strumenti, ma anche comprendere per cosa stanno ottimizzando e dove risiedono i loro limiti. Man mano che l'intelligenza artificiale si integra sempre più nei flussi di lavoro di progettazione, la capacità di interpretarne criticamente i risultati e di combinarli con il giudizio umano diventerà una delle competenze creative più preziose.

Con l'accelerazione dei cicli di progettazione dall'ideazione alla prototipazione da parte dell'intelligenza artificiale, i designer avranno bisogno di un nuovo mix di competenze e modi di pensare che vadano oltre le tradizionali competenze artigianali. Dovranno comprendere il funzionamento delle tecnologie digitali, cosa i diversi tipi di dati possono (e non possono) rivelare e come combinare le competenze di progettazione con la competenza in materia di intelligenza artificiale. Ciò include la capacità di lavorare con dati di alta qualità e ben gestiti che riflettano le esperienze reali degli utenti, anziché affidarsi esclusivamente a metriche di prestazioni tecniche. Parallelamente, i designer avranno anche bisogno di discernimento per riconoscere dove l'intelligenza artificiale è utile e dove la creatività umana e il pensiero critico devono rimanere centrali.

Per soddisfare queste esigenze, università e organizzazioni dovranno ripensare il modo in cui formano la prossima generazione di talenti creativi. Alcune università stanno già integrando la scienza dei dati nei programmi di design; un passo importante, ma da solo non sufficiente. Ciò che manca ancora sono metodi di design thinking adatti alle realtà dell'era digitale: metodi che aiutino i designer a collaborare con l'intelligenza artificiale, a lavorare in modo interdisciplinare e a gestire la sperimentazione rapida, mantenendo al contempo una supervisione etica e incentrata sulla persona.

Colmare questa lacuna è essenziale. È per questo che il mio collega Dott. Ji Han e io stiamo scrivendo un libro con la Cambridge University Press su Design Thinking nell'era digitale, che riunisce i framework, le competenze e i modi di pensare necessari per progettare in modo efficace insieme all'intelligenza artificiale.

DIGIT Lab pone l'accento sulla trasformazione responsabile. A suo avviso, quali rischi etici o sociali necessitano di maggiore attenzione man mano che l'intelligenza artificiale si integra nei flussi di lavoro di progettazione in tutti i settori?

Un esempio è garantire l'uso etico dei dati, incluso l'ottenimento del consenso informato e il mantenimento della trasparenza sui set di dati utilizzati per sviluppare prodotti di intelligenza artificiale, nonché su eventuali pregiudizi che potrebbero contenere. Ad esempio, i set di dati integrati nei sistemi sanitari devono essere attentamente esaminati per garantire che rappresentino adeguatamente l'intera popolazione, identificare eventuali gruppi che potrebbero essere sottorappresentati e confermare che il sistema di intelligenza artificiale sia adatto allo scopo e inclusivo. Da una prospettiva sociale, si teme spesso che l'intelligenza artificiale sostituisca posti di lavoro; tuttavia, è importante capire in quali ambiti l'esperienza umana rimane essenziale e come l'intelligenza artificiale possa essere utilizzata per aumentare, piuttosto che sostituire, le capacità umane.

Tuttavia, ci sono anche questioni etiche più profonde. Quando i progettisti si affidano a dati umani, devono gestire la privacy, i pregiudizi e trasparenza responsabileUn workshop del DIGIT Lab ha identificato le categorie "dati", "umano" e "governance" del settore manifatturiero come le principali sfide, evidenziando la necessità di una migliore acquisizione dei dati, di una supervisione umana e di politiche chiare in materia di sicurezza, fiducia, proprietà intellettuale e regolamentazione. Affrontare questi rischi significa garantire che i sistemi di intelligenza artificiale siano basati su dati eterogenei, integrando il giudizio umano nei punti critici e sviluppando standard di progettazione inclusivi che rispettino la privacy, il consenso e il contesto culturale.

Hai studiato come i dati e l'intelligenza artificiale possano personalizzare i prodotti in base all'esperienza utente. Prevedi un futuro in cui i prodotti si evolvono dinamicamente sulla base di dati in tempo reale dopo aver lasciato la fabbrica? In tal caso, come dovrebbero prepararsi i designer a questo mondo? 

Progettazione basata sui dati I dati utilizzati per i prodotti possono essere personalizzati, adattati o adattati ai comportamenti individuali. Diventano quindi sistemi "intelligenti" che raccolgono dati su come vengono utilizzati e comunicano attraverso sensori integrati e connettività IoT. Nel nostro framework, le attività di personalizzazione implicano l'utilizzo di tali dati per aggiornare e adattare i prodotti dopo che hanno lasciato la fabbrica. Alcuni esempi includono il collegamento di modelli di riconoscimento gestuale a un gemello digitale per la collaborazione uomo-robot e l'utilizzo di scansioni assistite da apprendimento automatico per creare componenti personalizzati.

Questo cambiamento crea nuove responsabilità. I ​​progettisti devono decidere quali dati umani, comportamentale, fisiologico, di feedback o emotivo, è rilevante. Devono anche garantire che gli aggiornamenti preservino le qualità estetiche ed emozionali previste, che sappiamo essere legate alla forma e alla percezione. Infine, la governance è importante: il nostro workshop di settore ha evidenziato che le questioni relative a dati, fiducia e privacy richiedono politiche chiare e supervisione umana. Se ben realizzati, i prodotti in evoluzione possono offrire valore e reattività duraturi senza sacrificare significato o etica.

Guardando al futuro, quali sono i grandi interrogativi di ricerca che ti motivano in questo momento? E quali innovazioni ritieni che il settore vedrà nei prossimi anni all'intersezione tra intelligenza artificiale, creatività e ingegneria del design?

Molte delle sfide descritte sopra restano irrisolte, molte delle quali sono attualmente in fase di risoluzione, tra cui il lavoro per garantire che gli strumenti di intelligenza artificiale generativa generici possano essere adattati in modo efficace ai settori specifici che desiderano adottarli.

A livello settoriale, la situazione può essere molto diversa: nel settore manifatturiero, può comportare l'uso di modelli localizzati formati su conoscenze specifiche del dominio, insieme a misure di sicurezza e privacy rigorose; nei settori creativi, l'attenzione può essere rivolta alla diversificazione dei risultati e all'attivazione di una collaborazione più significativa tra esseri umani e intelligenza artificiale.

A livello tecnico, stiamo sperimentando modelli linguistici di grandi dimensioni per supportare le attività di valutazione. Uno studio dimostra che gli LLM possono valutare la novità e l'utilità e allinearsi più strettamente con gli esperti umani quando guidati da prompt ben progettati. Un articolo correlato utilizza catena di pensiero prompting e aggregazione multi-modello per rendere la valutazione dell'IA più affidabile. Stiamo anche esplorando agenti conversazionali per catturare i requisiti di trasformazione digitale delle organizzazioni, dimostrando che i chatbot possono condurre interviste strutturate In modo efficace. Insieme al lavoro sull'utilizzo dei dati umani nella progettazione, queste iniziative indicano un futuro in cui l'intelligenza artificiale ci aiuta a preservare le competenze, a prendere decisioni migliori e a coinvolgere gli utenti in modo etico.

Grazie per l'intervista attenta e perspicace; i lettori che desiderano saperne di più sul lavoro del professor Ahmed-Kristensen sulla progettazione basata sull'intelligenza artificiale, sulla creatività e sulla trasformazione digitale responsabile possono esplorare la ricerca e le iniziative in corso su Laboratorio DIGIT.