Prof. Saeema Ahmed-Kristensen, Director al laboratorului DIGIT – Seria de interviuri

Profesor Saeema Ahmed-Kristensen este un cercetător de top în domeniul ingineriei designului și Prorector pentru Cercetare și Impact la Universitatea din Exeter, unde conduce și laboratorul DIGIT, o inițiativă interdisciplinară de cercetare majoră axată pe inovație digitală și transformare. Cercetările sale acoperă designul creativității și cogniției, designul digital și dirijat de date, precum și integrarea tehnologiilor avansate în dezvoltarea de produse și inginerie complexă, cu accent puternic pe transpunerea insight-urilor academice în impact real prin colaborarea cu industria, implicarea în politici și programe de cercetare pe scară largă.

Cariera dvs. a cuprins Cambridge, DTU, Imperial College London, Royal College of Art și acum Universitatea din Exeter. Privind în urmă, care au fost experiențele sau punctele de cotitură care au modelat cel mai mult gândirea dvs. despre design, creativitate și rolul tehnologiilor digitale?

Lucrul meu în design a cuprins multe culturi și discipline diferite. Am început la Brunel, pe una dintre puținele cursuri care combinau tehnologia, designul centrat pe om și o înțelegere a formei. Acest lucru mi-a arătat de timpuriu că creativitatea și inovarea sunt strâns legate.

Studiile la Cambridge mi-au deschis și mai mult gândirea. Mediul universitar m-a expus la multe discipline și mi-a arătat cum inovarea depinde de cunoașterea care vine împreună din diferite domenii. Teza mea de doctorat s-a axat pe sectorul aerospațial și a examinat cum designerii de inginerie găsesc și utilizează informația. Am studiat cum oamenii accesează cunoașterea, cum poate fi susținută sau replicată experiența și intersecția dintre cogniție, informatică și design de inginerie. Această perspectivă centrată pe om a rămas cu mine de atunci.

Pe măsură ce tehnologiile digitale au crescut, și întrebările din lucrările mele au crescut. Ascensiunea datelor IoT, a inteligenței artificiale și a calculului avansat a mutat designul de la a fi doar centrat pe om către a fi centrat pe societate. Acest lucru continuă să modeleze lucrările mele la Universitatea din Exeter, unde conduc laboratorul DIGIT și mă concentrez pe rolul modelelor de limbaj în procesul creativ, pe barierele cu care se confruntă industriile în adoptarea acestora și pe modul în care datele pot stimula inovarea.

Perioada mea la Imperial și Royal College of Art a întărit că designul este mult mai mult decât modelarea produselor sau serviciilor. Cu oamenii potriviți, procesele și cultura potrivită, designul devine un factor de stimulare a tehnologiilor noi și scalabile, a materialelor și ideilor care pot aborda provocările globale de astăzi și de mâine.

Laboratorul DIGIT se axează puternic pe transformarea digitală în cadrul organizațiilor mari și stabilite. Din perspectiva dvs., ce este cel mai greșit înțeles de lideri despre modul în care inteligența artificială va schimba designul, inovarea și luarea deciziilor?

De decenii, inteligența artificială a evoluat în cercetare și a fost adoptată în anumite industrii, dar progresul a fost adesea limitat de lacunele de abilități, înțelegerea leadershipului și claritatea cu privire la valoare și infrastructura necesară. Cu apariția modelelor de limbaj și a unor instrumente generative precum DALL·E, inteligența artificială este acum mai accesibilă și necesită mult mai puțină expertiză specializată sau configurare. Dar acest lucru ridică și noi întrebări despre confidențialitate, securitatea datelor și modul în care modelele generale se aplică în domenii specifice.

În design și inovare, aceste probleme sunt deosebit de evidente. Cercetările noastre, care au examinat peste 12.000 de idei generate de oameni și de inteligența artificială, au arătat că ideile generate de inteligența artificială tind să se grupeze în jurul unor concepte similare. Acest lucru subliniază nevoia de a integra expertiza umană în instrumente generice, de a adapta inteligența artificială pentru domeniu sau de a înțelege când și cum să se utilizeze inteligența artificială alături de creativitatea și luarea deciziilor umane.

Multe dintre cercetările dvs. explorează creativitatea și cogniția în design. Cu inteligența artificială generativă capabilă să producă idei, concepte și iterații la scară, care aspecte ale creativității considerați a fi unic umane și care părți pot fi transferate responsabil către procese conduse de inteligența artificială?

Creativitatea a fost întotdeauna mai mult decât generarea de alternative pentru mine. Este vorba despre intenție, înțeles cultural și conexiunea emoțională pe care o creează un design. Un sondaj recent al laboratorului DIGIT a adus acest lucru într-o lumină puternică: 82% dintre oameni ne-au spus că munca condusă de oameni sau hibridă se simte mai semnificativă, iar 71% au spus că se simt mai puțin conectați emoțional la designul generat doar de inteligența artificială. Mulți au descris munca generată de inteligența artificială ca “lipsită de emoție” (48%) sau “prea perfectă” (40%), iar 36% au simțit că impactul ei s-a estompat rapid. Aceste răspunsuri au întărit ceva în care am crezut de mult timp. Implicarea emoțională nu este un “ar fi bine”, ci esențială pentru modul în care oamenii experimentează și valorizează munca creativă.

Cercetările noastre care compară ideile umane și cele generate de inteligența artificială arată, de asemenea, că designerii umani sunt mai buni la crearea de idei diverse, noi și asigurarea că rezultatul creativ, fie că este vorba de artă, design de produs sau servicii, are adâncime și înțeles. Experții creativi dețin un set de abilități care nu pot fi încă replicate. Designerii trebuie să înțeleagă problema înainte de a genera idei, iar modelele de limbaj pot fi deosebit de utile în colectarea de informații care să ajute designerii să treacă de la o problemă la alta. Dacă putem integra modele de expertiză umană în instrumente de inteligență artificială, acestea pot sprijini, de asemenea, evaluarea ideilor, permițând inteligenței artificiale să profite mai bine de abilitățile creative umane.

Abordarea noastră de lanț de gândire pe care o experimentăm sprijină modelele de limbaj să urmeze raționamentul expert, nu doar să ofere scoruri. În toate cazurile, supravegherea umană este necesară pentru a interpreta rezultatele și a asigura că alegerile de design se aliniază cu experiențele trăite de utilizatori.

Este clar că trebuie să creăm modele capabile să capteze cum oamenii experimentează produse, servicii și interacțiuni în moduri pe care computerele le pot interpreta sau să integrăm date groase (insights calitative bogate care oferă context) cu datele subțiri sau mari pe care le colectăm. Dezvoltarea acestor modele nu este simplă, și acesta este exact locul unde implicarea umană rămâne esențială.

Deci, pentru mine, concluzia nu este că inteligența artificială nu are loc în creativitate. Din contră, este că inteligența artificială și oamenii contribuie cu puncte forte diferite. Faptul că oamenii răspund în mod constant mai pozitiv la munca umană sau hibridă ne spune pur și simplu unde se află centrul de greutate. Inteligența artificială poate ajuta la explorarea unui spațiu de design mai larg, la analizarea modelelor și la oferirea unei critici structurate, dar percepțiile de platitudine, perfecțiune algoritmică și distanță emoțională arată unde inteligența artificială încă are nevoie de judecata umană pentru a transforma posibilitățile în ceva care rezonă.

De aceea, văd viitorul creativității ca fiind fundamental colaborativ. Inteligența artificială poate lărgi câmpul posibilităților. Designerii aduc empatia, înțelegerea culturală și sensul intenției care dau acestor posibilități înțeles. Când cele două lucrează împreună, cu judecata umană care setează direcția și inteligența artificială care îmbogățește explorarea, rezultatul este un proces creativ care este mai riguros, mai imaginativ și, în cele din urmă, mai uman în rezultatele sale.

Ați inițiat abordări pentru cuantificarea experiențelor utilizatorilor și structurarea cunoștințelor de design. Cum putem asigura că experiențele umane, emoțiile și semnalele culturale rămân centrale în procesul de design pe măsură ce sistemele de inteligență artificială devin mai responsabile pentru generarea de produse și servicii?

Pentru a centra experiența umană, trebuie să încorporăm cunoștințe despre percepție și emoție în metodele noastre.

Există două abordări principale. Prima recunoaște nevoia de date calitative care să permită o înțelegere bogată a experienței umane, a percepției și a emoției, informând colaborarea eficientă între oameni și inteligența artificială. A doua, pe care am lucrat, vizează traducerea acestei cunoștințe în modele pe care sistemele de inteligență artificială le pot înțelege și utiliza.

Aceste modele sunt complexe de dezvoltat, deoarece trebuie să integreze experiența utilizatorului, percepția umană și caracteristicile produselor sau sistemelor proiectate, pentru a prezice răspunsurile umane și experiența generală.

Lucrați extensiv cu industrii complexe – aerospațială, medicală, manufacturieră și produse de consum. În aceste medii cu risc ridicat, cum echilibrați potențialul designului susținut de inteligența artificială cu nevoia de siguranță, trasabilitate și încredere?

În sectoarele cu risc ridicat, cum ar fi sănătatea, aerospațiala și manufactura, întrebarea nu este dacă inteligența artificială poate fi utilizată, ci cum este guvernată. Încrederea în aceste medii depinde de responsabilitatea clară, trasabilitate și explicabilitate la fiecare etapă a procesului de design și luare a deciziilor. Inteligența artificială poate juca un rol puternic de sprijin în simulare, optimizare și explorare în stadii incipiente, dar nu poate deveni autoritatea finală.

Multe dintre aceste domenii sunt strict reglementate și supuse unor cerințe de siguranță stricte, care necesită manipularea sigură a tuturor datelor, personale sau sensibile din punct de vedere comercial. În aceste contexte, prompturile sau întrebările adesea trebuie dezvoltate utilizând date locale pentru a asigura specificitatea și relevanța, și este obișnuit ca organizațiile din aceste sectoare să-și construiască și să-și mențină propriile instrumente de inteligență artificială.

Ceea ce arată cercetarea noastră mai largă este că sistemele hibride sunt esențiale: inteligența artificială ar trebui să sprijine judecata expertului, nu să o înlocuiască. Supravegherea umană trebuie să rămână integrată în fiecare punct de decizie critică, în special acolo unde siguranța, riscul și răspunderea sunt implicate. Pentru ca sistemele bazate pe inteligența artificială să fie de încredere pentru regulatori și utilizatori finali, organizațiile au nevoie, de asemenea, de documentație transparentă despre modul în care sunt antrenate modelele, ce date utilizează și cum se generează ieșirile. Fără această transparență, încrederea nu poate fi scalată, indiferent cât de avansată devine tehnologia.

Multe organizații se luptă cu decalajul dintre “experimentarea cu inteligența artificială” și integrarea semnificativă a acesteia în dezvoltarea de produse. Care sunt pașii practici pe care le-ați recomanda pentru echipele care încearcă să treacă de la experimentare la implementare strategică?

Multe organizații se opresc la stadiul de experimentare pentru că adoptă inteligența artificială fără un scop strategic clar. Primul pas practic este să fiți explicit despre rolul pe care inteligența artificială îl va juca în procesul de dezvoltare, indiferent dacă este vorba de susținerea ideilor, accelerarea testării, îmbunătățirea evaluării sau îmbunătățirea luării deciziilor. Fără această claritate, proiectele-pilot rămân deconectate de rezultatele reale de afaceri și design.

Echipele au nevoie, de asemenea, de fundații solide. Acest lucru înseamnă investiții în date de înaltă calitate, bine guvernate, în special date care reflectă experiențele reale ale utilizatorilor, și nu doar performanța tehnică. De asemenea, înseamnă a fi realist în ceea ce privește limitele actuale ale inteligenței artificiale, în special în judecata creativă și centrată pe om, unde supravegherea expertului rămâne esențială.

Multe sectoare încep să dezvolte politici de inteligență artificială care să ghideze echipele prin procesul de experimentare cu inteligența artificială, de la construirea de cazuri de afaceri și rularea de proiecte-pilot până la adoptarea mai largă. Aceste politici ajută organizațiile să identifice unde inteligența artificială poate adăuga cu adevărat valoare, asigurând în același timp că oamenii rămân implicați acolo unde este necesar.

În cele din urmă, organizațiile ar trebui să treacă prin proiecte-pilot structurate, cu risc scăzut, care sunt integrate în fluxurile de lucru reale, și nu conduse în izolare. Aceste proiecte-pilot ar trebui să fie interdisciplinare, aducând împreună designeri, ingineri, oameni de știință din domeniul datelor și experți din domeniu, astfel încât învățarea să fie partajată și transferabilă. Inteligența artificială aduce valoare atunci când este proiectată în practica de zi cu zi, și nu tratată ca un strat experimental separat.

Ați dezvoltat metode pentru cuantificarea experiențelor utilizatorilor și structurarea cunoștințelor de design. Cum putem asigura că sistemele de inteligență artificială pot raționa despre intenția de design, nevoile utilizatorilor și contextul într-un mod care adaugă cu adevărat valoare, și nu doar generează conținut?

În unele domenii, prezicerea preferințelor utilizatorilor este relativ simplă, deoarece date precum istoricul de navigare sau înregistrările vizionărilor de filme sau emisiuni TV pot fi utilizate pentru a face recomandări. Aceste domenii beneficiază de date ușor disponibile.

În schimb, o provocare cheie în designul de produse și servicii este că datele despre alegerile, nevoile și experiențele oamenilor sunt adesea nu ușor disponibile.

Cercetarea mea recentă cu laboratorul DIGIT a investigat capacitatea unui model de limbaj mare, atunci când i s-a oferit un model despre cum oamenii percep și răspund la caracteristici de design. Cu toate acestea, modelele actuale funcționează pe baza modelelor din date și nu pot contextualiza înțelesul. Studii anterioare care leagă forma de percepții arată că chiar și schimbări mici în formă pot schimba răspunsurile emoționale, iar astfel de subtilități sunt greu de anticipat de inteligența artificială fără îndrumarea umană sau modele sofisticate. Prin urmare, raționamentul inteligenței artificiale despre intenție se îmbunătățește, dar rămâne un complement al expertizei umane.

Pe măsură ce inteligența artificială accelerează ciclurile de design – de la idei la prototipuri – care sunt noile abilități de care vor avea nevoie designerii? Cum ar trebui universitățile și organizațiile să reconsidere formarea pentru următoarea generație de talente creative?

Designerii vor trebui să fie fluenti atât în percepția umană, cât și în instrumentele de inteligență artificială. Înțelegerea modului în care forma, materialul și proporțiile modelează răspunsul emoțional va rămâne fundamentală pentru un bun design. În același timp, designerii trebuie să poată lucra cu încredere cu sisteme de inteligență artificială care sprijină generarea de idei și evaluarea. Acest lucru înseamnă nu doar utilizarea instrumentelor, ci și înțelegerea pentru ce sunt optimizate și unde se află limitele lor. Pe măsură ce inteligența artificială se integrează în fluxurile de lucru de design, capacitatea de a interpreta critic ieșirile sale și de a le combina cu judecata umană va deveni una dintre cele mai valoroase abilități creative.

Pe măsură ce inteligența artificială accelerează ciclurile de design de la idei la prototipuri, designerii vor avea nevoie de o nouă combinație de capacități și moduri de gândire care merg dincolo de abilitățile tradiționale de craft. Ei vor trebui să înțeleagă cum funcționează tehnologiile digitale, ce tipuri de date pot (și nu pot) dezvălui și cum să combine expertiza de design cu alfabetizarea în inteligență artificială. Acest lucru include cunoașterea modului de a lucra cu date de înaltă calitate, bine guvernate, care reflectă experiențele reale ale utilizatorilor, și nu doar performanța tehnică. Alături de aceasta, designerii vor avea nevoie și de judecata pentru a recunoaște unde inteligența artificială este utilă și unde creativitatea și gândirea critică umană trebuie să rămână centrale.

Pentru a satisface aceste nevoi, universitățile și organizațiile vor trebui să reconsidere modul în care formează următoarea generație de talente creative. Unele universități integrează deja știința datelor în programele de design, un pas important, dar nu suficient de la sine. Ceea ce lipsește încă este metodele de gândire de design care sunt echipate pentru realitățile erei digitale: metode care ajută designerii să colaboreze cu inteligența artificială, să lucreze interdisciplinar și să navigheze experimentarea rapidă, menținând în același timp supravegherea etică și centrată pe om.

Abordarea acestei lacune este esențială. De aceea, colegul meu, Dr. Ji Han, și eu scriem o carte cu Cambridge University Press despre Gândirea de design în era digitală, care adună împreună cadrele, abilitățile și modurile de gândire necesare pentru a proiecta eficient alături de inteligența artificială.

Laboratorul DIGIT subliniază transformarea responsabilă. În opinia dvs., care sunt riscurile etice sau sociale care necesită mai multă atenție pe măsură ce inteligența artificială se integrează în fluxurile de lucru de design din industrii?

Un exemplu este asigurarea utilizării etice a datelor, inclusiv obținerea consimțământului informat și menținerea transparenței cu privire la seturile de date utilizate pentru a dezvolta produse de inteligență artificială, precum și orice posibile prejudecăți pe care le pot conține. De exemplu, seturile de date încorporate în sistemele de sănătate trebuie examinate cu atenție pentru a se asigura că reprezintă în mod adecvat întreaga populație, pentru a identifica orice grupuri care ar putea fi subreprezentate și pentru a confirma că sistemul de inteligență artificială este potrivit pentru scopul și incluziv.

Însă există și probleme etice mai profunde. Atunci când designerii se bazează pe date umane, ei trebuie să gestioneze cu responsabilitate confidențialitatea, prejudecățile și transparența. Un atelier al laboratorului DIGIT a identificat sectorul manufacturier “date”, “uman” și “guvernanță” ca principalele categorii de provocări, subliniind nevoia de a captura mai bine datele, de a avea supravegherea umană în buclă și de a dezvolta politici clare privind securitatea, încrederea, proprietatea intelectuală și reglementarea. Abordarea acestor riscuri înseamnă a asigura că sistemele de inteligență artificială sunt construite pe date diverse, integrând judecata umană în punctele critice și dezvoltând standarde de design incluziv care respectă confidențialitatea, consimțământul și contextul cultural.

Ați cercetat modul în care datele și inteligența artificială pot personaliza produsele în jurul experienței utilizatorului. Vedeți un viitor în care produsele evoluează dinamic pe baza datelor în timp real după ce părăsesc fabrica? Dacă da, cum ar trebui designerii să se pregătească pentru acea lume?

Designul dirijat de date utilizat pentru produse poate fi personalizat, adaptat sau modificat în funcție de comportamentul individual. Acestea devin “sisteme inteligente” care colectează date despre modul în care sunt utilizate și comunică prin senzori încorporați și conectivitate IoT. În cadrul nostru, activitățile de personalizare implică utilizarea acestor date pentru a actualiza și adapta produsele după ce părăsesc fabrica. Exemplele includ legarea modelelor de recunoaștere a gesturilor de un twin digital pentru colaborarea om-robot și utilizarea scanării asistate de mașini pentru a crea componente personalizate.

Acestă schimbare creează noi responsabilități. Designerii trebuie să decidă care date umane, comportamentale, fiziologice, de feedback sau emoționale, sunt relevante. Ei trebuie, de asemenea, să asigure că actualizările păstrează calitățile estetice și emoționale intenționate pe care le știm a fi legate de formă și percepție. În cele din urmă, guvernanța contează: atelierul nostru de industrie a subliniat că problemele legate de date, încredere și confidențialitate necesită politici clare și supraveghere umană. Atunci când se face bine, produsele care evoluează pot oferi valoare durabilă și răspuns fără a sacrifica înțelesul sau etica.

Privind înainte, care sunt marile întrebări de cercetare care vă motivează în acest moment? Și care sunt prin urmarele pe care le credeți că domeniul va le vedea la intersecția inteligenței artificiale, creativității și ingineriei de design în următorii ani?

Multe dintre provocările menționate mai sus rămân nerezolvate – printre care se numără și lucrul meu actual, inclusiv eforturi pentru a asigura că instrumentele generice de inteligență artificială pot fi adaptate eficient pentru sectoarele specifice care doresc să le adopte.

La nivel de sector, acest lucru poate arăta foarte diferit: în manufactură, poate implica utilizarea de modele locale antrenate pe cunoașterea din domeniu, alături de măsuri puternice de confidențialitate și securitate; în industriile creative, accentul poate fi pe diversificarea ieșirilor și pe facilitarea unei colaborări mai semnificative între oameni și inteligența artificială.

La nivel tehnic, experimentăm cu modele de limbaj mare pentru a sprijini sarcinile de evaluare. Un studiu arată că modelele de limbaj mare pot evalua noutatea și utilitatea și se aliniază mai strâns cu experții umani atunci când sunt ghidați de prompturi bine proiectate. Un articol conex utilizează lanțul de gândire și agregarea multi-model pentru a face evaluarea inteligenței artificiale mai fiabilă. De asemenea, explorăm agenți conversaționali pentru a capta cerințele de transformare digitală ale organizațiilor, demonstrând că chatbot-urile pot conduce interviuri structurate în mod eficient. În combinație cu lucrul nostru pe utilizarea datelor umane în design, aceste inițiative indică un viitor în care inteligența artificială ne ajută să păstrăm expertiza, să luăm decizii mai bune și să implicăm utilizatorii în mod etic.

Mulțumim pentru interviul gândit și plin de insight; cititorii care doresc să afle mai multe despre lucrările profesorului Ahmed-Kristensen pe design dirijat de inteligență artificială, creativitate și transformare digitală responsabilă pot explora cercetările și inițiativele în curs la laboratorul DIGIT.