Prof. Saeema Ahmed-Kristensen, Dyrektor Laboratorium DIGIT – Wywiad

Profesor Saeema Ahmed-Kristensen jest wybitnym naukowcem w dziedzinie inżynierii projektowej i Associate Pro-Vice-Chancellor (Research & Impact) na Uniwersytecie w Exeter, gdzie również pełni funkcję Dyrektora Laboratorium DIGIT, dużego międzydziedzinowego przedsięwzięcia badawczego skupionego na innowacjach cyfrowych i transformacji. Jej badania obejmują kreatywność i percepcję projektową, projektowanie oparte na danych i cyfrowe, oraz integrację zaawansowanych technologii w złożonych procesach inżynierskich i rozwoju produktów, z silnym naciskiem na tłumaczenie wglądu akademickiego na rzeczywisty wpływ poprzez współpracę z przemysłem, zaangażowanie w politykę i duże programy badawcze.

Twoja kariera obejmuje Cambridge, DTU, Imperial College London, Royal College of Art i teraz Uniwersytet w Exeter. Spójrzając wstecz, jakie doświadczenia lub punkty zwrotne najbardziej ukształtowały Twoje myślenie o projekcie, kreatywności i roli technologii cyfrowych?

Moja praca nad projektem obejmuje wiele różnych kultur i dyscyplin. Zaczynałam na Brunel na jednym z nielicznych kursów, które łączyły technologię, projektowanie ukierunkowane na człowieka i zrozumienie formy. Nauczyło mnie to wcześnie, że kreatywność i innowacje są ściśle powiązane.

Studia na Cambridge otworzyły moje myślenie jeszcze bardziej. Środowisko college’u eksponowało mnie wielu dyscyplinom i pokazało, jak innowacje zależą od wiedzy łączącej się z różnych dziedzin. Moja rozprawa doktorska koncentrowała się na sektorze lotniczym i badała, jak projektanci inżynierii znajdują i wykorzystują informacje. Badałam, jak ludzie dostępują wiedzę, jak można wspierać lub replikować ekspertyzę, oraz punkt przecięcia między percepcją, nauką komputerową i projektowaniem inżynierskim. Ten ludzki punkt widzenia pozostał ze mną od tego czasu.

Wraz ze wzrostem technologii cyfrowych, rosły również pytania w mojej pracy. Rozwój IoT, AI i zaawansowanego obliczania przesunął projektowanie od centrum ludzkiego do centrum społecznego. To nadal kształtuje moją pracę na Uniwersytecie w Exeter, gdzie kieruję Laboratorium DIGIT i skupiam się na roli modeli językowych w procesie twórczym, barierach, których przemysł stawia przed przyjęciem ich, oraz jak dane mogą napędzać innowacje.

Czas spędzony w Imperial i Royal College of Art umocnił we mnie przekonanie, że projektowanie to coś więcej niż tylko kształtowanie produktów lub usług. Z odpowiednimi ludźmi, procesami i kulturą, projektowanie staje się siłą napędzającą nowe i skalowalne technologie, materiały i pomysły, które mogą rozwiązać dzisiejsze i jutrzejsze wyzwania globalne.

Laboratorium DIGIT koncentruje się głównie na transformacji cyfrowej wewnątrz dużych, ugruntowanych organizacji. Z Twojego punktu widzenia, co liderzy najczęściej nie rozumieją o tym, jak AI zmieni projektowanie, innowacje i podejmowanie decyzji?

Przez dziesięciolecia AI rozwijało się w badaniach i było przyjmowane w pewnych branżach, ale postęp był często ograniczony przez luki w umiejętnościach, zrozumienie liderów i jasność co do wartości oraz infrastruktury wymaganej. Z rosnącą popularnością modeli językowych i generatywnych narzędzi takich jak DALL·E, AI staje się bardziej dostępne i wymaga znacznie mniej specjalistycznej ekspertyzy lub konfiguracji. To jednak podnosi nowe pytania dotyczące prywatności, bezpieczeństwa danych i jak dobrze ogólne modele stosują się do konkretnych dziedzin.

W projektowaniu i innowacjach te kwestie są szczególnie widoczne. Nasze badania, które obejmowały ponad 12 000 pomysłów wygenerowanych przez ludzi i AI, pokazały, że pomysły AI mają tendencję do skupiania się wokół podobnych pojęć. To podkreśla potrzebę wbudowania ludzkiej ekspertyzy w ogólne narzędzia, adaptacji AI do dziedziny lub zrozumienia, kiedy i jak używać AI obok ludzkiej kreatywności i podejmowania decyzji.

Twoje badania często dotykają kreatywności i percepcji w projektowaniu. Z AI, która jest w stanie produkować pomysły, koncepcje i iteracje na dużą skalę, jakie aspekty kreatywności uważasz za wyjątkowo ludzkie — a które części mogą odpowiedzialnie przesunąć się w stronę procesów napędzanych przez AI?

Kreatywność zawsze była dla mnie czymś więcej niż generowaniem alternatyw. To kwestia intencji, znaczenia kulturowego i emocjonalnego połączenia, jakie projekt tworzy. Nasze niedawne badanie w Laboratorium DIGIT uwyraźniło to: 82% ludzi powiedziało nam, że praca prowadzona przez ludzi lub hybrydowa wydaje się bardziej znacząca, a 71% stwierdziło, że czuje się mniej emocjonalnie związana z projektami AI-only. Wiele osób opisało prace wygenerowane przez AI jako „pozbawione emocji” (48%) lub „zbyt idealne” (40%), a 36% czuło, że ich wpływ szybko zanika. Te odpowiedzi potwierdziły coś, w co wierzę od dawna. Zaangażowanie emocjonalne nie jest cechą, której można pragnąć; jest to niezbędne do tego, jak ludzie doświadczają i cenią pracę twórczą.

Nasze badania porównujące pomysły ludzkie i AI również pokazują, że projektanci są lepsi w tworzeniu zróżnicowanych, nowych pomysłów i zapewnianiu, że wynik twórczy, czy to sztuka, projekt produktu czy usługi, ma głębię i znaczenie. Eksperci od projektowania posiadają zestaw umiejętności, których nie można jeszcze odtworzyć. Projektanci muszą zrozumieć problem, zanim wygenerują pomysły, a modele językowe są bardzo przydatne w gromadzeniu informacji, które pomagają projektantom przechodzić od jednego problemu do drugiego. Jeśli możemy zbudować modele ludzkiej ekspertyzy w narzędziach AI, mogą one również wspierać ocenę pomysłów, pozwalając AI na lepsze wykorzystanie ludzkich umiejętności twórczych.

Podejście łańcucha myśli, z którym eksperymentujemy, wspiera modele językowe, które podążają za ekspertami, a nie tylko dostarczają oceny. We wszystkich przypadkach wymagana jest nadzór ludzki, aby zinterpretować wyniki i upewnić się, że wybory projektowe są zgodne z doświadczeniami użytkowników.

To jasne, że musimy albo stworzyć modele, które są w stanie uchwycić, jak ludzie doświadczają produktów, usług i interakcji w sposób, który komputery mogą zinterpretować, albo zintegrować grube dane (bogate spostrzeżenia jakościowe, które zapewniają kontekst) z cienkimi lub dużymi danymi sensorycznymi, które zbieramy. Rozwój tych modeli nie jest prosty, a to właśnie tam ludzkie zaangażowanie pozostaje niezbędne.

Więc dla mnie wniosek nie polega na tym, że AI nie ma miejsca w kreatywności. Wręcz przeciwnie. To, że AI i ludzie przynoszą różne siły. Fakt, że ludzie konsekwentnie reagują pozytywnie na pracę ludzką lub hybrydową, po prostu pokazuje, gdzie leży centrum ciężkości. AI może pomóc w eksploracji szerszego pola możliwości, analizie wzorców i oferowaniu ustrukturyzowanej krytyki, ale te percepcje płaskości, algorytmicznej doskonałości i emocjonalnej odległości pokazują, gdzie AI wciąż potrzebuje ludzkiej oceny, aby zamienić możliwości w coś, co rezonuje.

Dlatego widzę przyszłość kreatywności jako fundamentalnie współpracę. AI może poszerzyć pole możliwości. Projektanci przynoszą empatię, zrozumienie kulturowe i poczucie intencji, które nadają tym możliwościom znaczenie. Kiedy obie strony pracują razem, z ludzką oceną ustawiającą kierunek i AI wzbogacającym eksplorację, wynikiem jest proces twórczy, który jest bardziej rygorystyczny, bardziej wyobraźniowy i ostatecznie bardziej ludzki w swoich rezultatach.

Wydajesz się być pionierem podejść do ilościowego pomiaru doświadczeń użytkowników i strukturyzowania wiedzy projektowej. Jak zapewnić, aby doświadczenia, emocje i sygnały kulturowe ludzi pozostały centralne w procesie projektowania, gdy systemy AI będą coraz bardziej odpowiedzialne za generowanie produktów i usług?

Aby umieścić doświadczenie ludzkie w centrum, musimy wbudować wiedzę o percepcji i emocjach w nasze metody.

Istnieją dwie główne podejścia. Pierwsze uznaje potrzebę danych jakościowych, które umożliwiają bogate zrozumienie doświadczenia, percepcji i emocji ludzi, informując skuteczną współpracę człowieka i AI. Drugie — na które się skupiam — ma na celu przetłumaczenie tej wiedzy na modele, które systemy AI mogą zrozumieć i wykorzystać.

Te modele są skomplikowane do opracowania, ponieważ muszą integrować doświadczenie użytkownika, percepcję ludzką i cechy produktów lub systemów, które są projektowane, aby przewidzieć ludzkie reakcje i ogólne doświadczenie.

Pracujesz rozlegle z złożonymi branżami – lotniczą, medyczną, produkcyjną i konsumencką. W tych środowiskach o wysokim ryzyku, jak balansujesz potencjał projektowania wspieranego przez AI z potrzebą bezpieczeństwa, śledzenia i zaufania?

W sektorach o wysokim ryzyku, takich jak opieka zdrowotna, lotnictwo i produkcja, pytanie nie brzmi, czy AI może być używane, ale jak jest zarządzane. Zaufanie w tych środowiskach zależy od jasnej odpowiedzialności, śledzenia i wyjaśnialności na każdym etapie procesu projektowania i podejmowania decyzji. AI może odegrać potężną rolę wspierającą w symulacji, optymalizacji i wczesnej eksploracji, ale nie może stać się ostateczną władzą.

Wiele z tych branż jest ściśle uregulowanych i podlega surowym wymogom bezpieczeństwa, które wymagają bezpiecznego obchodzenia się ze wszystkimi danymi, osobistymi lub wrażliwymi handlowo. W tych kontekstach często wymagane jest opracowanie podpowiedzi lub zapytań przy użyciu lokalnych danych, aby zapewnić szczegółowość i odpowiedniość, i jest powszechne w tych sektorach, że organizacje budują i utrzymują własne narzędzia AI.

Co nasze szersze badania pokazują, to fakt, że hybrydowe systemy są niezbędne: AI powinno wspierać ekspertyzę, a nie ją zastępować. Nadzór ludzki musi pozostać wbudowany w każdy krytyczny punkt decyzyjny, zwłaszcza tam, gdzie bezpieczeństwo, ryzyko i odpowiedzialność są zaangażowane. Aby regulacje i użytkownicy końcowi ufali systemom wspieranym przez AI, organizacje również potrzebują przejrzystej dokumentacji, jak modele są szkolone, jakie dane wykorzystują i jak generują dane wyjściowe. Bez tej przejrzystości zaufanie nie może się rozwinąć, niezależnie od tego, jak zaawansowana staje się technologia.

Wiele organizacji boryka się z luką między „eksperymentowaniem z AI” a znaczącym wdrożeniem jej w rozwój produktów. Jakie praktyczne kroki byś polecił zespołom, które próbują przejść od eksperymentowania do strategicznego wdrożenia?

Wiele organizacji zatrzymuje się na etapie eksperymentowania, ponieważ przyjmują AI bez jasnego celu strategicznego. Pierwszym praktycznym krokiem jest określenie, jaka jest rola AI w procesie rozwoju, czy to wspieranie pomysłów, przyspieszanie testów, poprawa oceny czy wzmocnienie podejmowania decyzji. Bez tej klarowności pilotażowe projekty pozostają odłączone od rzeczywistych wyników biznesowych i projektowych.

Zespoły potrzebują również odpowiednich podstaw. Oznacza to inwestowanie w wysokiej jakości, dobrze zarządzane dane, szczególnie te, które odzwierciedlają rzeczywiste doświadczenia użytkowników, a nie tylko techniczne wskaźniki wydajności. Oznacza to również bycie realistycznym co do obecnych ograniczeń AI, szczególnie w kreatywnym i ludzkim osądzie, gdzie nadzór ekspertów pozostaje niezbędny.

Wiele branż zaczyna tworzyć polityki AI, które prowadzą zespoły przez proces eksperymentowania z AI, od budowania przypadków biznesowych i prowadzenia pilotów do szerszego wdrożenia. Te polityki pomagają organizacjom zidentyfikować, gdzie AI może naprawdę dodać wartość, jednocześnie zapewniając, że ludzie pozostają w pętli, gdziekolwiek jest to konieczne.

Na koniec organizacje powinny przechodzić przez strukturalne, niskie ryzyko pilotaże, które są osadzone w rzeczywistych przepływach pracy, a nie prowadzone w izolacji. Te pilotaże powinny być międzydyscyplinarne, łącząc projektantów, inżynierów, naukowców danych i ekspertów branżowych, aby uczenie się było współdzielone i przenaszalne. AI dostarcza wartości, gdy jest zaprojektowane w codzienną praktykę, a nie traktowane jako oddzielna warstwa eksperymentalna.

Masz długi rekord rozwoju podejść do ilościowego pomiaru doświadczeń użytkowników i strukturyzowania wiedzy projektowej. Jak blisko jesteśmy do systemów AI, które mogą rozważać intencję projektową, potrzeby użytkowników i kontekst w sposób, który naprawdę dodaje wartość, a nie tylko generuje treść?

W niektórych obszarach przewidywanie preferencji użytkowników jest dość proste, ponieważ dane takie jak historia przeglądania lub rekordy obejrzanego filmu lub programu telewizyjnego mogą być wykorzystane do generowania rekomendacji. Te obszary korzystają z łatwo dostępnych danych.

Przeciwnie, kluczowym wyzwaniem w projektowaniu produktów i usług jest to, że dane o wyborach, potrzebach i doświadczeniach ludzi często nie są łatwo dostępne.

Moje niedawne badania z Laboratorium DIGIT badały zdolność modelu językowego, gdy podano mu model, jak ludzie postrzegają i reagują na cechy projektowe. Jednak obecne modele operują na wzorcach w danych i nie mogą kontekstualizować znaczenia. Wcześniejsze studia łączące kształt z percepcjami pokazują, że nawet niewielkie zmiany w formie mogą przesunąć odpowiedzi emocjonalne, a takie subtelności są trudne do przewidzenia przez AI bez ludzkiego przewodnictwa lub zaawansowanych modeli. Dlatego rozumowanie AI o intencji poprawia się, ale pozostaje uzupełnieniem ludzkiej ekspertyzy.

Jak AI przyspiesza cykle projektowe — od pomysłu do prototypu — jakie nowe umiejętności będą potrzebować projektanci? Jak uniwersytety i organizacje powinny przemyśleć szkolenia dla następnej generacji talentów twórczych?

Projektanci będą musieli być biegli zarówno w percepcji ludzkiej, jak i w narzędziach wspieranych przez AI. Zrozumienie, jak forma, materiał i proporcja kształtują odpowiedź emocjonalną, pozostanie fundamentalne dla dobrego projektowania. Jednocześnie projektanci muszą umieć pracować pewnie z systemami AI, które wspierają generowanie pomysłów i ocenę. Oznacza to nie tylko korzystanie z tych narzędzi, ale także zrozumienie, czym one optymalizują i gdzie leżą ich ograniczenia. Gdy AI staje się bardziej osadzone w przepływach projektowych, umiejętność krytycznej interpretacji ich danych wyjściowych i łączenia ich z ludzką oceną stanie się jedną z najcenniejszych umiejętności twórczych.

Jako AI przyspiesza cykle projektowe od pomysłu do prototypu, projektanci będą musieli posiadać nową mieszankę umiejętności i sposobów myślenia, które wykraczają poza tradycyjne umiejętności rzemieślnicze. Będą musieli zrozumieć, jak technologie cyfrowe działają, co różne typy danych mogą (i nie mogą) ujawnić, oraz jak łączyć wiedzę projektową z umiejętnościami AI. Obejmuje to wiedzę, jak pracować z wysokiej jakości, dobrze zarządzanymi danymi, które odzwierciedlają rzeczywiste doświadczenia użytkowników, a nie tylko techniczne wskaźniki wydajności. Oprócz tego projektanci będą musieli mieć osąd, aby rozpoznać, gdzie AI jest pomocne, a gdzie ludzka kreatywność i myślenie krytyczne muszą pozostać centralne.

Aby spełnić te potrzeby, uniwersytety i organizacje będą musiały przemyśleć, jak szkolić następną generację talentów twórczych. Niektóre uniwersytety już integrują naukę danych w programy projektowe; ważny krok, ale niewystarczający sam w sobie. Co wciąż brakuje, to metody myślenia projektowego, które są wyposażone w rzeczywistości ery cyfrowej: metody, które pomagają projektantom współpracować z AI, pracować w różnych dyscyplinach i nawigować szybką eksperymentację, utrzymując przy tym etyczny i ludzki nadzór.

Rozwiązanie tej luki jest niezbędne. Dlatego mój kolega, dr Ji Han, i ja piszemy książkę z Cambridge University Press o Myśleniu projektowym w erze cyfrowej, która łączy ramy, umiejętności i sposoby myślenia potrzebne do projektowania skutecznie obok AI.

Laboratorium DIGIT podkreśla odpowiedzialną transformację. Twoim zdaniem, jakie ryzyka etyczne lub społeczne wymagają większej uwagi, gdy AI staje się coraz bardziej osadzone w przepływach projektowych w różnych branżach?

Przykładem jest zapewnienie etycznego wykorzystania danych, w tym uzyskanie świadomej zgody i utrzymanie przejrzystości co do zbiorów danych wykorzystywanych do rozwijania produktów AI, a także potencjalnych biasów, które mogą zawierać. Na przykład, zbiory danych osadzone w systemach opieki zdrowotnej muszą być starannie zbadane, aby upewnić się, że odpowiednio reprezentują całą populację, zidentyfikować grupy, które mogą być niedoreprezentowane, i potwierdzić, że system AI jest odpowiedni i inkluzywny. Z punktu widzenia społecznego często istnieje obawa, że AI zastąpi pracę; jednak ważne jest zrozumienie, gdzie ekspertyza ludzka pozostaje niezbędna i jak AI może być wykorzystane do wzmocnienia, a nie zastąpienia, ludzkich zdolności.

Jednak istnieją głębsze kwestie etyczne. Gdy projektanci polegają na danych ludzkich, muszą odpowiedzialnie obsługiwać prywatność, bias i przejrzystość. Warsztat Laboratorium DIGIT zidentyfikował sektor produkcji „danych”, „ludzi” i „zarządzania” jako główne kategorie wyzwań, podkreślając potrzebę lepszego przechwytywania danych, nadzoru ludzkiego i jasnych polityk dotyczących bezpieczeństwa, zaufania, własności intelektualnej i regulacji. Rozwiązanie tych ryzyk oznacza zapewnienie, że systemy AI są budowane na danych różnorodnych, wbudowanie osądu ludzkiego w punktach krytycznych i rozwinięcie standardów projektowych, które szanują prywatność, zgodę i kontekst kulturowy.

Badałeś, jak dane i AI mogą dostosowywać produkty wokół doświadczenia użytkownika. Czy widzisz przyszłość, w której produkty ewoluują dynamicznie na podstawie danych w czasie rzeczywistym po opuszczeniu fabryki? Jeśli tak, jak projektanci powinni się przygotować do tego świata? 

Projektowanie oparte na danych może być personalizowane, dostosowane lub adaptowane do indywidualnych zachowań. Stają się one „inteligentnymi” systemami, które zbierają dane o tym, jak są używane i komunikują się za pomocą wbudowanych czujników i połączeń IoT. W naszym frameworku, działania dostosowujące obejmują wykorzystanie tych danych do aktualizacji i adaptacji produktów po ich opuszczeniu fabryki. Przykłady obejmują łączenie modeli rozpoznawania gestów z cyfrowym bliźniakiem dla współpracy człowiek-robot i wykorzystanie skanowania wspomaganego przez maszynowe uczenie do tworzenia dostosowanych komponentów.

Ten przesunięcie tworzy nowe odpowiedzialności. Projektanci muszą zdecydować, jakie dane ludzkie, behawioralne, fizjologiczne, informacje zwrotne lub emocjonalne, są istotne. Muszą również upewnić się, że aktualizacje zachowują zamierzone cechy estetyczne i emocjonalne, które wiemy, że są związane z formą i percepcją. Wreszcie, zarządzanie jest istotne: nasz przemysłowy warsztat podkreślił, że kwestie związane z danymi, zaufaniem i prywatnością wymagają jasnych polityk i nadzoru ludzkiego. Gdy wykonane dobrze, ewoluujące produkty mogą oferować trwałą wartość i reakcję bez poświęcania znaczenia lub etyki.

Spójrzając w przyszłość, jakie są główne pytania badawcze, które motywują Cię obecnie? I jakie przełomy uważasz, że ta dziedzina zobaczy na przecięciu AI, kreatywności i inżynierii projektowej w ciągu najbliższych kilku lat?

Wiele z wyzwań opisanych powyżej pozostaje nierozwiązanych – kilka z nich jest obecnie przedmiotem moich badań, w tym praca nad zapewnieniem, że ogólne narzędzia generatywne AI mogą być skutecznie dostosowane do konkretnych sektorów, które chcą je przyjąć.

Na poziomie sektora może to wyglądać zupełnie inaczej: w produkcji może to oznaczać użycie modeli szkolonych na wiedzy branżowej, wraz z silnymi środkami bezpieczeństwa i prywatności; w branżach kreatywnych focus może być na diversyfikacji danych wyjściowych i umożliwieniu bardziej znaczącej współpracy między ludźmi a AI.

Na poziomie technicznym eksperymentujemy z dużymi modelami językowymi, aby wspierać zadania oceny. Jedno z badań pokazuje, że modele językowe mogą oceniać nowość i użyteczność i są bardziej zgodne z ekspertami ludzkimi, gdy są kierowane przez dobrze zaprojektowane podpowiedzi. Powiązane badanie wykorzystuje podejście łańcucha myśli i agregację wielomodelową, aby uczynić ocenę AI bardziej niezawodną. Badałem również agenty konwersacyjne, aby przechwytywać wymagania transformacji cyfrowej organizacji, demonstrując, że czatboty mogą prowadzić ustrukturyzowane wywiady skutecznie. W połączeniu z pracą nad użyciem danych ludzkich w projektowaniu, te inicjatywy wskazują na przyszłość, w której AI pomaga nam zachować ekspertyzę, podejmować lepsze decyzje i angażować użytkowników w sposób etyczny.

Dziękuję za przemyślane i wnikliwe wywiady; czytelnicy, którzy chcą dowiedzieć się więcej o pracy Profesora Ahmed-Kristensen na temat projektowania napędzanego przez AI, kreatywności i odpowiedzialnej transformacji cyfrowej, mogą zbadać trwające badania i inicjatywy w Laboratorium DIGIT.