Prof. Saeema Ahmed-Kristensen, directoarea DIGIT Lab – Serie de interviuri

Profesorul Saeema Ahmed-Kristensen este un important cercetător în inginerie de proiectare și pro-rector asociat (Cercetare și Impact) la Universitatea din Exeter, unde ocupă și funcția de directoare a Laboratorul DIGIT, o inițiativă majoră de cercetare interdisciplinară axată pe inovația și transformarea digitală. Cercetările sale acoperă creativitatea și cogniția în design, designul digital și bazat pe date, precum și integrarea tehnologiilor avansate în ingineria complexă și dezvoltarea de produse, cu un accent puternic pe transpunerea perspectivei academice în impact asupra lumii reale prin colaborare în industrie, implicare politică și programe de cercetare la scară largă.

Cariera ta a cuprins universități precum Cambridge, DTU, Imperial College London, Royal College of Art și acum Universitatea din Exeter. Privind în urmă, ce experiențe sau momente de cotitură ți-au modelat cel mai mult gândirea despre design, creativitate și rolul tehnologiilor digitale?

Munca mea în design s-a extins în multe culturi și discipline diferite. Am început la Brunel la unul dintre puținele cursuri de la acea vreme care combinau tehnologia, designul centrat pe om și înțelegerea formei. M-a învățat de timpuriu că creativitatea și inovația sunt strâns legate.

Studiile la Cambridge mi-au deschis apoi și mai mult gândirea. Mediul universitar m-a expus la numeroase discipline și mi-a arătat cum inovația depinde de cumularea cunoștințelor din diferite domenii. Doctoratul meu s-a concentrat pe sectorul aerospațial și a examinat modul în care proiectanții ingineri găsesc și utilizează informațiile. Am studiat modul în care oamenii accesează cunoștințele, cum poate fi susținută sau replicată expertiza și intersecția dintre cogniție, informatică și proiectare inginerească. Această perspectivă centrată pe om a rămas în mintea mea de atunci.

Pe măsură ce tehnologiile digitale au evoluat, au apărut și întrebările din munca mea. Creșterea numărului de date IoT, a inteligenței artificiale și a calculului avansat a făcut ca designul să nu mai fie centrat doar pe om, ci să fie centrat pe societate. Acest lucru continuă să-mi modeleze munca la Universitatea din Exeter, unde conduc DIGIT Lab și mă concentrez pe rolul programelor de masterat în drept în procesul creativ, pe barierele cu care se confruntă industriile în adoptarea lor și pe modul în care datele pot stimula inovația.

Timpul petrecut la Imperial College și la Royal College of Art mi-a întărit ideea că designul înseamnă mult mai mult decât modelarea produselor sau serviciilor. Cu oamenii, procesele și cultura potrivite, designul devine un motor al tehnologiilor, materialelor și ideilor noi și scalabile, care pot aborda provocările globale de astăzi și de mâine.

DIGIT Lab se concentrează în mare măsură pe transformarea digitală în cadrul organizațiilor mari și consacrate. Din punctul dumneavoastră de vedere, ce credeți că înțeleg greșit liderii despre modul în care inteligența artificială va schimba designul, inovația și procesul decizional?

Timp de decenii, inteligența artificială a avansat în cercetare și a fost adoptată în anumite industrii, însă progresul a fost adesea limitat de lacunele în competențe, înțelegerea conducerii și claritatea valorii și infrastructurii necesare. Odată cu apariția programelor de masterat în drept și a instrumentelor generative precum DALL·E, inteligența artificială este acum mai accesibilă și necesită mult mai puțină expertiză sau configurare specializată. Dar acest lucru ridică și noi întrebări despre confidențialitate, securitatea datelor și cât de bine se aplică modelele cu scop general în domenii specifice.

În design și inovare, aceste probleme sunt deosebit de evidente. Cercetarea noastră, care a examinat peste 12,000 de idei generate de oameni și de inteligența artificială, a arătat că ideile legate de inteligența artificială tind să se grupeze în jurul unor concepte similare. Acest lucru evidențiază necesitatea de a integra expertiza umană în instrumente generice, de a adapta inteligența artificială pentru domeniu sau de a înțelege când și cum să se utilizeze inteligența artificială alături de creativitatea și procesul decizional uman.

O mare parte din cercetarea dumneavoastră explorează creativitatea și cogniția în design. Având în vedere că inteligența artificială generativă este acum capabilă să producă idei, concepte și iterații la scară largă, ce aspecte ale creativității considerați a fi unic umane - și ce părți se pot transforma în mod responsabil către procese bazate pe inteligență artificială?

Creativitatea a însemnat întotdeauna mai mult decât generarea de alternative pentru mine. Este vorba despre intenție, semnificație culturală și conexiunea emoțională pe care o creează un design. Recentul nostru sondaj DIGIT Lab a scos în evidență acest aspect: 82% dintre persoane ne-au spus că munca condusă de oameni sau hibridă pare mai semnificativă, iar 71% au spus că se simt mai puțin conectați emoțional la designul bazat exclusiv pe inteligență artificială. Mulți au descris munca generată de inteligență artificială ca fiind „lipsită de emoție” (48%) sau „excesiv de perfectă” (40%), iar 36% au simțit că impactul acesteia s-a estompat rapid. Aceste răspunsuri au întărit ceva în care am crezut de mult timp. Implicarea emoțională nu este ceva plăcut; este esențială pentru modul în care oamenii experimentează și apreciază munca creativă.

Cercetările noastre care compară ideile umane cu cele ale inteligenței artificiale arată, de asemenea, că designerii umani sunt mai buni la crearea de idei diverse și inovatoare și la asigurarea că rezultatul creativ, fie că este vorba de opere de artă, design de produs sau servicii, are profunzime și semnificație. Experții creativi dețin un set de abilități care nu este încă posibil de reprodus. Designerii trebuie să înțeleagă problema înainte de a genera idei, iar masteratele în drept sunt foarte utile în colectarea de informații care să ajute designerii să treacă de la o problemă la alta. Dacă putem integra modele de expertiză umană în instrumente de inteligență artificială, acestea pot sprijini și evaluarea ideilor, permițând inteligenței artificiale să profite mai bine de abilitățile creative umane.

Abordarea bazată pe lanțul de gândire pe care o experimentăm susține LLM-uri care urmează expertul raţionament, nu doar acordă scoruri. În toate cazurile, este necesară supravegherea umană pentru a interpreta rezultatele și a se asigura că alegerile de design se aliniază cu experiențele trăite de utilizatori.

Este clar că trebuie fie să creăm modele capabile să surprindă modul în care oamenii experimentează produsele, serviciile și interacțiunile în moduri pe care computerele le pot interpreta, fie să integrăm date complexe (informații calitative bogate care oferă context) cu datele senzoriale subțiri sau mari pe care le colectăm. Dezvoltarea acestor modele nu este simplă, iar exact aici implicarea umană rămâne esențială.

Așadar, pentru mine, concluzia nu este că IA nu își are locul în creativitate. Nicidecum. Ci că IA și oamenii contribuie cu puncte forte diferite. Faptul că oamenii răspund constant mai pozitiv la munca umană sau hibridă ne spune pur și simplu unde se află centrul de greutate. IA poate ajuta la explorarea unui spațiu de design mai larg, la analizarea tiparelor și la oferirea unei critici structurate, dar aceste percepții despre platitudine, perfecțiune algoritmică și distanță emoțională arată unde IA are nevoie încă de judecata umană pentru a transforma posibilitățile în ceva care rezonează.

De aceea, văd viitorul creativității ca fiind fundamental colaborativ. Inteligența artificială poate lărgi câmpul posibilităților. Designerii aduc empatia, înțelegerea culturală și simțul intenției care dau sens acestor posibilități. Atunci când cele două lucrează împreună, judecata umană stabilind direcția, iar inteligența artificială îmbogățește explorarea, rezultatul este un proces creativ mai riguros, mai imaginativ și, în cele din urmă, mai uman în rezultatele sale.

Ați inițiat abordări pentru cuantificarea experiențelor utilizatorilor și structurarea cunoștințelor de design. Pe măsură ce sistemele de inteligență artificială devin mai responsabile pentru generarea de produse și servicii, cum ne putem asigura că experiențele umane, emoțiile și semnalele culturale rămân centrale în procesul de design?

Pentru a centra experiența umană, trebuie să integrăm cunoștințele despre percepție și emoție în metodele noastre.

Există două abordări principale. Prima recunoaște nevoia de date calitative care să permită o înțelegere bogată a experienței, percepției și emoției umane, informând o colaborare eficientă dintre om și inteligența artificială. A doua - pe care s-a concentrat munca mea - își propune să transpună aceste cunoștințe în modele pe care sistemele de inteligență artificială le pot înțelege și utiliza.

Aceste modele sunt complexe de dezvoltat, deoarece trebuie să integreze experiența utilizatorului, percepția umană și caracteristicile produselor sau sistemelor proiectate, pentru a prezice răspunsurile umane și experiența generală.

Lucrezi intens cu industrii complexe – aerospațială, medicală, de producție și produse de larg consum. În aceste medii cu mize mari, cum echilibrezi potențialul designului bazat pe inteligență artificială cu nevoia de siguranță, trasabilitate și încredere?

În sectoare cu risc ridicat, precum asistența medicală, industria aerospațială și industria prelucrătoare, întrebarea nu este dacă IA poate fi utilizată, ci cum este guvernată. Încrederea în aceste medii depinde de o responsabilitate clară, trasabilitate și explicabilitate în fiecare etapă a procesului de proiectare și de luare a deciziilor. IA poate juca un rol de sprijin puternic în simulare, optimizare și explorare în stadii incipiente, dar nu poate deveni autoritatea finală.

Multe dintre aceste domenii sunt strict reglementate și supuse unor cerințe stricte de siguranță, care impun gestionarea în siguranță a tuturor datelor, fie ele personale sau sensibile din punct de vedere comercial. În aceste contexte, solicitările sau interogările trebuie adesea dezvoltate folosind date locale pentru a asigura specificitatea și relevanța, și este obișnuit ca organizațiile din aceste sectoare să își construiască și să își întrețină propriile instrumente de inteligență artificială.

Ceea ce arată în mod constant cercetările noastre mai ample este că sistemele hibride sunt esențiale: inteligența artificială ar trebui să vină în sprijinul judecății experților, nu să o înlocuiască. Supravegherea umană trebuie să rămână integrată în fiecare punct de decizie critic, în special în ceea ce privește siguranța, riscul și răspunderea. Pentru ca autoritățile de reglementare și utilizatorii finali să aibă încredere în sistemele bazate pe inteligență artificială, organizațiile au nevoie și de o documentație transparentă privind modul în care sunt antrenate modelele, ce date utilizează și cum sunt generate rezultatele. Fără această transparență, încrederea nu poate fi extinsă, indiferent cât de avansată devine tehnologia.

Multe organizații se confruntă cu decalajul dintre „experimentarea cu inteligența artificială” și integrarea semnificativă a acesteia în dezvoltarea de produse. Ce pași practici ați recomanda echipelor care încearcă să treacă de la experimentare la implementarea strategică?

Multe organizații stagnează în etapa de experimentare deoarece adoptă inteligența artificială fără un scop strategic clar. Primul pas practic este de a fi explicit cu privire la rolul pe care inteligența artificială ar trebui să îl joace în procesul de dezvoltare, fie că este vorba de susținerea ideilor, accelerarea testării, îmbunătățirea evaluării sau sporirea procesului decizional. Fără această claritate, proiectele pilot rămân deconectate de rezultatele reale ale afacerii și ale designului.

Echipele au nevoie și de fundațiile adecvate. Aceasta înseamnă investiții în date de înaltă calitate, bine gestionate, în special date care reflectă experiența reală a utilizatorului, mai degrabă decât performanța pur tehnică. De asemenea, înseamnă să fim realiști în ceea ce privește limitele actuale ale inteligenței artificiale, în special în ceea ce privește judecata creativă și centrată pe om, unde supravegherea experților rămâne esențială.

Multe sectoare încep să dezvolte politici privind inteligența artificială care ghidează echipele prin procesul de experimentare cu inteligența artificială, de la elaborarea studiilor de business și derularea proiectelor pilot până la adoptarea pe scară largă. Aceste politici ajută organizațiile să identifice domeniile în care inteligența artificială poate adăuga cu adevărat valoare, asigurându-se în același timp că oamenii rămân la curent cu toate aspectele, ori de câte ori este necesar.

În cele din urmă, organizațiile ar trebui să treacă prin proiecte pilot structurate, cu risc scăzut, integrate în fluxuri de lucru reale, nu desfășurate izolat. Aceste proiecte pilot ar trebui să fie interdisciplinare, reunind designeri, ingineri, oameni de știință în domeniul datelor și experți în domeniu, astfel încât învățarea să fie partajată și transferabilă. IA oferă valoare atunci când este integrată în practica de zi cu zi, nu tratată ca un strat experimental separat.

Aveți o vastă experiență în dezvoltarea de metode de structurare și automatizare a cunoștințelor. Cât de aproape suntem de sistemele de inteligență artificială care pot raționa despre intenția de design, nevoile utilizatorilor și context într-un mod care adaugă cu adevărat valoare, mai degrabă decât să genereze pur și simplu conținut?

În unele zone, prezicerea preferințelor utilizatorilor este relativ simplă, deoarece date precum istoricul de navigare sau înregistrările filmelor sau emisiunilor de televiziune vizionate pot fi utilizate pentru a face recomandări. Aceste zone beneficiază de date ușor accesibile.

În schimb, o provocare cheie în proiectarea produselor și serviciilor este aceea că datele despre alegerile, nevoile și experiențele trăite ale oamenilor nu sunt adesea ușor disponibile.

My cercetare recentă împreună cu Digit Lab au investigat capacitatea unui LLM, atunci când i se oferă un model al modului în care oamenii percep și răspund la caracteristicile de design. Cu toate acestea, modelele actuale operează pe baza unor tipare din date și nu pot contextualiza sensul. Studiile anterioare care leagă forma de percepții arată că până și mici modificări ale formei pot schimba răspunsurile emoționale, iar astfel de subtilități sunt greu de anticipat de către IA fără îndrumare umană sau introducerea de modele sofisticate. Prin urmare, raționamentul IA despre intenție se îmbunătățește, dar rămâne o completare a expertizei umane.

Pe măsură ce inteligența artificială accelerează ciclurile de proiectare - de la ideație la prototipare - de ce noi competențe vor avea nevoie designerii? Cum ar trebui universitățile și organizațiile să regândească instruirea pentru următoarea generație de talente creative?

Designerii vor trebui să stăpânească fluent atât percepția umană, cât și instrumentele bazate pe inteligență artificială. Înțelegerea modului în care forma, materialul și proporția modelează răspunsul emoțional va rămâne fundamentală pentru un design bun. În același timp, designerii trebuie să poată lucra cu încredere cu sisteme de inteligență artificială care susțin generarea și evaluarea ideilor. Aceasta înseamnă nu doar utilizarea instrumentelor, ci și înțelegerea a ceea ce optimizează și unde se află limitele lor. Pe măsură ce inteligența artificială devine tot mai integrată în fluxurile de lucru de design, capacitatea de a interpreta critic rezultatele acesteia și de a le combina cu judecata umană va deveni una dintre cele mai valoroase abilități creative.

Pe măsură ce inteligența artificială accelerează ciclurile de proiectare de la ideație la prototipare, designerii vor avea nevoie de o nouă combinație de capabilități și moduri de gândire care să depășească abilitățile meșteșugărești tradiționale. Aceștia vor trebui să înțeleagă cum funcționează tehnologiile digitale, ce pot (și ce nu) pot dezvălui diferite tipuri de date și cum să combine expertiza în design cu alfabetizarea în domeniul inteligenței artificiale. Aceasta include cunoașterea modului de a lucra cu date de înaltă calitate, bine gestionate, care reflectă experiențele reale ale utilizatorilor, în loc să se bazeze exclusiv pe indicatori de performanță tehnică. Pe lângă aceasta, designerii vor avea nevoie și de judecata necesară pentru a recunoaște unde inteligența artificială este utilă și unde creativitatea umană și gândirea critică trebuie să rămână centrale.

Pentru a satisface aceste nevoi, universitățile și organizațiile vor trebui să regândească modul în care pregătesc următoarea generație de talente creative. Unele universități integrează deja știința datelor în programele de design; un pas important, dar nu suficient în sine. Ceea ce lipsește încă sunt metodele de design thinking care sunt echipate pentru realitățile erei digitale: metode care ajută designerii să colaboreze cu inteligența artificială, să lucreze în mai multe discipline și să navigheze prin experimente rapide, menținând în același timp o supraveghere etică și centrată pe om.

Abordarea acestei lacune este esențială. De aceea, eu și colegul meu, Dr. Ji Han, scriem o carte cu Cambridge University Press despre... Design Thinking în era digitală, care reunește cadrele, abilitățile și modalitățile de gândire necesare pentru a proiecta eficient alături de inteligența artificială.

DIGIT Lab pune accentul pe transformarea responsabilă. În opinia dumneavoastră, ce riscuri etice sau societale necesită mai multă atenție pe măsură ce inteligența artificială devine integrată în fluxurile de lucru de proiectare din toate industriile?

Un exemplu este asigurarea utilizării etice a datelor, inclusiv obținerea consimțământului informat și menținerea transparenței cu privire la seturile de date utilizate pentru dezvoltarea produselor de inteligență artificială, precum și la orice potențiale prejudecăți pe care le-ar putea conține. De exemplu, seturile de date integrate în sistemele de sănătate trebuie examinate cu atenție pentru a se asigura că reprezintă în mod adecvat întreaga populație, pentru a identifica orice grupuri care ar putea fi subreprezentate și pentru a confirma că sistemul de inteligență artificială este adecvat scopului și incluziv. Dintr-o perspectivă societală, există adesea îngrijorarea că inteligența artificială va înlocui locurile de muncă; cu toate acestea, este important să înțelegem unde expertiza umană rămâne esențială și cum poate fi utilizată inteligența artificială pentru a spori, mai degrabă decât a înlocui, capacitățile umane.

Există însă și probleme etice mai profunde. Atunci când designerii se bazează pe date umane, trebuie să gestioneze confidențialitatea, prejudecățile și transparență responsabilăUn atelier DIGIT Lab a identificat principalele categorii de provocări din sectorul de producție, precum „datele”, „resursele umane” și „guvernanța”, subliniind necesitatea unei mai bune captări a datelor, a unei supravegheri umane integrate și a unor politici clare privind securitatea, încrederea, proprietatea intelectuală și reglementarea. Abordarea acestor riscuri înseamnă asigurarea faptului că sistemele de inteligență artificială sunt construite pe date diverse, integrarea judecății umane în punctele critice și dezvoltarea de standarde de proiectare incluzive care respectă confidențialitatea, consimțământul și contextul cultural.

Ai cercetat cum datele și inteligența artificială pot personaliza produsele în funcție de experiența utilizatorului. Crezi că produsele vor evolua dinamic pe baza datelor în timp real după ce părăsesc fabrica? Dacă da, cum ar trebui designerii să se pregătească pentru această lume? 

Design bazat pe date Datele utilizate pentru produse pot fi personalizate, adaptate sau adaptate comportamentelor individuale. Acestea devin apoi sisteme „inteligente” care colectează date despre modul în care sunt utilizate și comunică prin intermediul senzorilor încorporați și al conectivității IoT. În cadrul nostru, activitățile de personalizare implică utilizarea acestor date pentru a actualiza și adapta produsele după ce părăsesc fabrica. Exemplele includ conectarea modelelor de recunoaștere a gesturilor la un geamăn digital pentru colaborarea om-robot și utilizarea scanării asistate de învățare automată pentru a crea componente personalizate.

Această schimbare creează noi responsabilități. Designerii trebuie să decidă care date umane, comportamentale, fiziologice, de feedback sau emoționale, este relevantă. De asemenea, trebuie să se asigure că actualizările păstrează calitățile estetice și emoționale intenționate despre care știm că sunt legate de formă și percepție. În cele din urmă, guvernanța contează: atelierul nostru din industrie a evidențiat faptul că problemele legate de date, încredere și confidențialitate necesită politici clare și supraveghere umană. Atunci când sunt realizate bine, produsele în continuă evoluție pot oferi valoare și capacitate de răspuns durabile, fără a sacrifica sensul sau etica.

Privind în perspectivă, care sunt marile întrebări de cercetare care vă motivează în acest moment? Și ce descoperiri credeți că va vedea domeniul în următorii ani la intersecția dintre inteligența artificială, creativitate și ingineria designului?

Multe dintre provocările descrise mai sus rămân nerezolvate – printre altele lucrez în prezent, inclusiv pentru a mă asigura că instrumentele de inteligență artificială generativă de uz general pot fi adaptate eficient la sectoarele specifice care doresc să le adopte.

La nivel de sector, acest lucru poate arăta destul de diferit: în industria prelucrătoare, poate implica utilizarea de modele localizate, antrenate pe baza cunoștințelor specifice domeniului, alături de măsuri solide de confidențialitate și securitate; în industriile creative, accentul se poate pune pe diversificarea rezultatelor și pe permiterea unei colaborări mai semnificative între oameni și inteligența artificială.

La nivel tehnic, experimentăm cu modele lingvistice ample pentru a sprijini sarcinile de evaluare. Un studiu arată că studenții cu drepturi de lectură pot evalua noutatea și utilitatea și se pot alinia mai strâns cu experții umani atunci când sunt ghidați de solicitări bine concepute. O lucrare conexă folosește... lanț de gânduri prompting și agregare multi-model pentru a face evaluarea IA mai fiabilă. De asemenea, explorăm agenți conversaționali pentru a capta cerințele de transformare digitală ale organizațiilor, demonstrând că chatboții pot desfășura activități interviuri structurate eficient. Combinate cu activitatea de utilizare a datelor umane în design, aceste inițiative indică un viitor în care inteligența artificială ne ajută să păstrăm expertiza, să luăm decizii mai bune și să interacționăm utilizatorii în mod etic.

Vă mulțumesc pentru interviul atent și perspicace; cititorii care doresc să afle mai multe despre munca profesorului Ahmed-Kristensen în domeniul designului bazat pe inteligență artificială, al creativității și al transformării digitale responsabile pot explora cercetările și inițiativele în curs la Laboratorul DIGIT.