Проф. Саїма Ахмед-Крістенсен, директор DIGIT Lab – серія інтерв'ю

Професор Саїма Ахмед-Крістенсен є провідним науковцем з інженерії-конструктора та заступником проректора (з досліджень та впливу) у Університет Ексетера, де вона також обіймає посаду директора Лабораторія DIGIT, велика міждисциплінарна дослідницька ініціатива, зосереджена на цифрових інноваціях та трансформації. Її дослідження охоплюють дизайнерську креативність та пізнання, дизайн на основі даних та цифровий дизайн, а також інтеграцію передових технологій у складну інженерію та розробку продуктів, з сильним акцентом на перетворенні академічних знань на реальний вплив через співпрацю з галуззю, залучення до політики та масштабні дослідницькі програми.

Ваша кар'єра охопила навчання в Кембриджі, ДТУ, Імперському коледжі Лондона, Королівському коледжі мистецтв, а тепер в Університеті Ексетера. Озираючись назад, який досвід чи поворотні моменти найбільше вплинули на ваше мислення про дизайн, креативність та роль цифрових технологій?

Моя робота в дизайні охопила багато різних культур та дисциплін. Я почав у Brunel на одному з небагатьох курсів на той час, які поєднували технології, дизайн, орієнтований на людину, та розуміння форми. Це рано навчило мене, що креативність та інновації тісно пов'язані.

Навчання в Кембриджі розширило моє мислення. Коледж познайомив мене з багатьма дисциплінами та показав, як інновації залежать від знань, що об'єднуються в різних галузях. Моя докторська дисертація була зосереджена на аерокосмічному секторі та досліджувала, як інженери-конструктори знаходять та використовують інформацію. Я вивчав, як люди отримують доступ до знань, як можна підтримувати або відтворювати досвід, а також взаємозв'язок між когнітивними процесами, інформатикою та інженерним проектуванням. Ця людиноцентрична перспектива залишилася зі мною досі.

З розвитком цифрових технологій зросли й питання в моїй роботі. Зростання використання даних Інтернету речей, штучного інтелекту та передових обчислень змістило дизайн від орієнтації виключно на людину до орієнтації на суспільство. Це продовжує формувати мою роботу в Університеті Ексетера, де я керую лабораторією DIGIT та зосереджуюся на ролі програм магістра права (LLM) у творчому процесі, бар'єрах, з якими стикаються галузі під час їх впровадження, та тому, як дані можуть стимулювати інновації.

Мій час навчання в Імперському та Королівському коледжах мистецтв підтвердив, що дизайн – це набагато більше, ніж просто формування продуктів чи послуг. З правильними людьми, процесами та культурою дизайн стає рушійною силою нових та масштабованих технологій, матеріалів та ідей, які можуть вирішувати сьогоднішні та завтрашні глобальні виклики.

DIGIT Lab значною мірою зосереджується на цифровій трансформації у великих організаціях. З вашої точки зору, що, на вашу думку, лідери найбільше неправильно розуміють щодо того, як штучний інтелект змінить дизайн, інновації та прийняття рішень?

Протягом десятиліть штучний інтелект досягав успіхів у дослідженнях та впроваджувався в певних галузях, але прогрес часто обмежувався прогалинами в навичках, розумінням керівництва та чіткістю щодо цінності та необхідної інфраструктури. Зі зростанням популярності програм магістратури з права (LLM) та генеративних інструментів, таких як DALL·E, штучний інтелект став доступнішим і потребує набагато менше спеціалізованих знань чи налаштування. Але це також ставить нові питання щодо конфіденційності, безпеки даних та того, наскільки добре моделі загального призначення застосовуються до конкретних областей.

У дизайні та інноваціях ці проблеми особливо чітко проявляються. Наше дослідження, в якому розглянуто понад 12 000 ідей, створених людьми та штучним інтелектом, показало, що ідеї ШІ, як правило, зосереджені навколо схожих концепцій. Це підкреслює необхідність вбудовування людського досвіду в універсальні інструменти, адаптації ШІ для цієї галузі або розуміння того, коли і як використовувати ШІ разом з людською творчістю та прийняттям рішень.

Значна частина ваших досліджень присвячена креативності та когнітивним функціям у дизайні. Оскільки генеративний штучний інтелект тепер здатний створювати ідеї, концепції та ітерації у великих масштабах, які аспекти креативності ви вважаєте унікально людськими, а які частини можуть відповідально перейти до процесів, керованих штучним інтелектом?

Креативність для мене завжди була чимось більшим, ніж просто створення альтернатив. Йдеться про намір, культурне значення та емоційний зв'язок, який створює дизайн. Наше нещодавнє опитування DIGIT Lab чітко висвітлило це питання: 82% людей сказали нам, що робота, виконана людиною, або гібридна робота здається більш значущою, а 71% сказали, що відчувають менший емоційний зв'язок з дизайном, створеним виключно за допомогою штучного інтелекту. Багато хто описував роботу, створену штучним інтелектом, як «без емоцій» (48%) або «надмірно досконалу» (40%), а 36% відчували, що її вплив швидко згасає. Ці відповіді підтвердили те, у що я вірив давно. Емоційна залученість — це не те, що приємно мати; вона є важливою для того, як люди сприймають і цінують творчу роботу.

Наше дослідження, що порівнює ідеї людей та штучного інтелекту, також показує, що дизайнери-люди краще створюють різноманітні, нові ідеї та забезпечують глибину та значення творчого продукту, будь то витвори мистецтва, дизайн продукту чи послуги. Креативні експерти володіють набором навичок, який поки що неможливо відтворити. Дизайнери повинні розуміти проблему, перш ніж генерувати ідеї, а ступінь магістра права (LLM) дуже корисна для збору інформації, яка допомагає дизайнерам переходити від однієї проблеми до іншої. Якщо ми можемо вбудувати моделі людського досвіду в інструменти штучного інтелекту, вони також можуть підтримувати оцінку ідей, дозволяючи штучному інтелекту краще використовувати людські творчі навички.

Підхід ланцюжка думок, з яким ми експериментуємо, підтримує LLM, за якими слід стежити експерт міркування, а не просто давати оцінки. У всіх випадках потрібен людський нагляд для інтерпретації результатів та забезпечення відповідності вибору дизайну життєвому досвіду користувачів.

Зрозуміло, що ми повинні або створити моделі, здатні фіксувати, як люди сприймають продукти, послуги та взаємодії таким чином, щоб комп'ютери могли їх інтерпретувати, або інтегрувати товсті дані (багаті якісні висновки, що надають контекст) з тонкими або великими даними датчиків, які ми збираємо. Розробка цих моделей не є простою, і саме тут участь людини залишається важливою.

Отже, для мене висновок полягає не в тому, що ШІ не має місця в творчості. Зовсім ні. Річ у тому, що ШІ та люди мають різні сильні сторони. Той факт, що люди постійно позитивно реагують на людську або гібридну роботу, просто показує нам, де знаходиться центр тяжіння. ШІ може допомогти дослідити ширший простір дизайну, проаналізувати шаблони та запропонувати структуровану критику, але ці уявлення про площинність, алгоритмічну досконалість та емоційну дистанцію показують, що ШІ все ще потребує людського судження, щоб перетворити можливості на щось, що резонує.

Ось чому я бачу майбутнє творчості як фундаментально спільне. Штучний інтелект може розширити поле можливостей. Дизайнери привносять емпатію, культурне розуміння та відчуття наміру, які надають цим можливостям сенсу. Коли ці два фактори працюють разом, де людське судження визначає напрямок, а штучний інтелект збагачує дослідження, результатом є творчий процес, який є більш ретельним, більш винахідливим і, зрештою, більш людяним у своїх результатах.

Ви є піонером у підходах до кількісної оцінки користувацького досвіду та структурування знань про дизайн. Оскільки системи штучного інтелекту стають дедалі відповідальнішими за створення продуктів і послуг, як ми можемо забезпечити, щоб людський досвід, емоції та культурні сигнали залишалися центральними в процесі дизайну?

Щоб зосередити людський досвід, нам потрібно вбудувати знання про сприйняття та емоції в наші методи.

Існує два основні підходи. Перший визнає потребу в якісних даних, які дозволяють глибоко зрозуміти людський досвід, сприйняття та емоції, що сприяє ефективній співпраці між людиною та штучним інтелектом. Другий, на якому зосереджена моя робота, має на меті перевести ці знання в моделі, які системи штучного інтелекту можуть зрозуміти та використовувати.

Ці моделі складні для розробки, оскільки вони повинні інтегрувати користувацький досвід, людське сприйняття та характеристики продуктів або систем, що розробляються, щоб передбачити людські реакції та загальний досвід.

Ви активно працюєте зі складними галузями промисловості – аерокосмічною, медичною, виробничою та споживчою. У цих середовищах з високими ставками, як ви балансуєте між потенціалом дизайну на основі штучного інтелекту та потребою безпеки, відстеження та довіри?

У секторах з високим рівнем ризику, таких як охорона здоров'я, аерокосмічна промисловість та виробництво, питання не в тому, чи можна використовувати штучний інтелект, а в тому, як він регулюється. Довіра в цих середовищах залежить від чіткої підзвітності, відстежуваності та пояснень на кожному етапі процесу проектування та прийняття рішень. Штучний інтелект може відігравати потужну допоміжну роль у моделюванні, оптимізації та дослідженні на ранніх стадіях, але він не може стати остаточним авторитетом.

Багато з цих галузей жорстко регулюються та підпадають під суворі вимоги безпеки, які вимагають безпечного поводження з усіма даними, як особистими, так і комерційно конфіденційними. У цих контекстах запити або підказки часто потрібно розробляти з використанням локальних даних, щоб забезпечити конкретність та релевантність, і організації в цих секторах зазвичай створюють та підтримують власні інструменти штучного інтелекту.

Наші ширші дослідження постійно показують, що гібридні системи є важливими: ШІ має доповнювати експертну оцінку, а не замінювати її. Людський нагляд має залишатися вбудованим у кожну критичну точку прийняття рішень, особливо щодо безпеки, ризиків та відповідальності. Щоб регуляторні органи та кінцеві користувачі довіряли системам на базі ШІ, організаціям також потрібна прозора документація про те, як навчаються моделі, які дані вони використовують та як генеруються результати. Без цієї прозорості довіра не може масштабуватися, незалежно від того, наскільки просунутою стає технологія.

Багато організацій стикаються з розривом між «експериментуванням зі штучним інтелектом» та його змістовною інтеграцією в розробку продукту. Які практичні кроки ви б порадили командам, які намагаються перейти від експериментування до стратегічного впровадження?

Багато організацій зупиняються на етапі експериментування, оскільки впроваджують ШІ без чіткої стратегічної мети. Перший практичний крок — чітко визначити, яку роль ШІ має відігравати в процесі розробки, чи то підтримка генерування ідей, прискорення тестування, покращення оцінювання чи вдосконалення прийняття рішень. Без цієї ясності пілотні проекти залишаються відірваними від реальних бізнес-результатів та результатів проектування.

Командам також потрібна правильна основа. Це означає інвестування у високоякісні, добре керовані дані, зокрема дані, що відображають реальний досвід користувачів, а не суто технічну продуктивність. Це також означає реалістичне ставлення до поточних обмежень ШІ, особливо в творчих та людиноорієнтованих судженнях, де експертний нагляд залишається важливим.

Багато секторів починають розробляти політики щодо штучного інтелекту, які скеровують команди в процесі експериментування зі штучним інтелектом, від розробки бізнес-кейсів та запуску пілотних проектів до ширшого впровадження. Ці політики допомагають організаціям визначити, де штучний інтелект може дійсно додати цінності, а також гарантують, що люди залишаються в курсі подій, коли це необхідно.

Зрештою, організації повинні пройти через структуровані пілотні проекти з низьким рівнем ризику, вбудовані в реальні робочі процеси, а не проводитися ізольовано. Ці пілотні проекти повинні бути міждисциплінарними, об'єднуючи дизайнерів, інженерів, спеціалістів з обробки даних та експертів у предметній області, щоб знання були спільними та переносними. Штучний інтелект приносить цінність, коли його впроваджують у повсякденну практику, а не розглядають як окремий експериментальний рівень.

Ви маєте великий досвід розробки методів структурування та автоматизації знань. Наскільки ми близькі до систем штучного інтелекту, які можуть міркувати про наміри дизайну, потреби користувачів та контекст таким чином, щоб це справді додавало цінності, а не просто генерувало контент?

У деяких районах прогнозування вподобань користувачів є відносно простим, оскільки такі дані, як історія переглядів або записи про переглянуті фільми чи телешоу, можна використовувати для надання рекомендацій. Ці райони отримують користь від легкодоступних даних.

Натомість, ключовою проблемою в розробці продуктів і послуг є те, що дані про вибір, потреби та життєвий досвід людей часто не є легкодоступними.

My Недавні дослідження Разом з Digit Lab досліджували можливості LLM, коли їм надається модель того, як люди сприймають та реагують на особливості дизайну. Однак сучасні моделі працюють на основі шаблонів у даних і не можуть контекстуалізувати значення. Попередні дослідження, що пов'язують форму зі сприйняттям, показують, що навіть невеликі зміни форми можуть впливати на емоційні реакції, і такі тонкощі важко передбачити штучному інтелекту без людського керівництва або залучення складних моделей. Таким чином, міркування ШІ про наміри вдосконалюються, але залишаються доповненням до людського досвіду.

Оскільки штучний інтелект прискорює цикли проектування — від ідеї до створення прототипів — які нові навички знадобляться дизайнерам? Як університетам та організаціям слід переосмислити навчання наступного покоління творчих талантів?

Дизайнерам потрібно буде вільно володіти як людським сприйняттям, так і інструментами на базі штучного інтелекту. Розуміння того, як форма, матеріал та пропорції формують емоційну реакцію, залишатиметься фундаментальним для гарного дизайну. Водночас дизайнери повинні вміти впевнено працювати із системами штучного інтелекту, які підтримують генерування та оцінку ідей. Це означає не просто використовувати інструменти, а й розуміти, для чого вони оптимізуються та де лежать їхні обмеження. Оскільки штучний інтелект все більше вбудовується в робочі процеси дизайну, здатність критично інтерпретувати його результати та поєднувати їх з людським судженням стане однією з найцінніших творчих навичок.

Оскільки штучний інтелект прискорює цикли проектування від ідеї до створення прототипів, дизайнерам знадобиться нове поєднання можливостей та способів мислення, що виходять за рамки традиційних ремісничих навичок. Їм потрібно буде розуміти, як працюють цифрові технології, що можуть (і не можуть) розкрити різні типи даних, та як поєднувати дизайнерські знання з грамотністю в галузі штучного інтелекту. Це включає в себе знання того, як працювати з високоякісними, добре керованими даними, які відображають реальний досвід користувачів, а не покладатися виключно на показники технічної продуктивності. Поряд з цим, дизайнерам також знадобиться судження, щоб розпізнавати, де штучний інтелект корисний, а де людська креативність та критичне мислення повинні залишатися центральними.

Щоб задовольнити ці потреби, університетам та організаціям доведеться переосмислити те, як вони навчають наступне покоління творчих талантів. Деякі університети вже інтегрують науку про дані в програми дизайну; важливий крок, але сам по собі недостатній. Чого все ще бракує, так це методів дизайн-мислення, які б відповідали реаліям цифрової епохи: методів, які допомагають дизайнерам співпрацювати зі штучним інтелектом, працювати в різних дисциплінах та швидко експериментувати, зберігаючи при цьому етичний та орієнтований на людину нагляд.

Подолання цієї прогалини є надзвичайно важливим. Саме тому ми з моїм колегою доктором Цзі Ханом пишемо книгу разом із видавництвом Кембриджського університету про... Дизайн-мислення в цифрову епоху, який об'єднує фреймворки, навички та способи мислення, необхідні для ефективного проектування разом зі штучним інтелектом.

DIGIT Lab наголошує на відповідальній трансформації. На вашу думку, які етичні чи суспільні ризики потребують більшої уваги, оскільки штучний інтелект вбудовується в робочі процеси дизайну в різних галузях?

Одним із прикладів є забезпечення етичного використання даних, включаючи отримання інформованої згоди та підтримку прозорості щодо наборів даних, що використовуються для розробки продуктів штучного інтелекту, а також будь-яких потенційних упереджень, які вони можуть містити. Наприклад, набори даних, вбудовані в системи охорони здоров'я, повинні бути ретельно досліджені, щоб переконатися, що вони адекватно представляють усе населення, виявити будь-які групи, які можуть бути недостатньо представлені, та підтвердити, що система штучного інтелекту відповідає своєму призначенню та є інклюзивною. З точки зору суспільства, часто існує занепокоєння, що штучний інтелект замінить робочі місця; однак важливо розуміти, де людський досвід залишається важливим, і як штучний інтелект може бути використаний для розширення, а не заміни людських можливостей.

Однак, існують і глибші етичні проблеми. Коли дизайнери покладаються на людські дані, вони повинні враховувати конфіденційність, упередженість та прозорість відповідальноНа семінарі DIGIT Lab було визначено такі категорії викликів у виробничому секторі, як «дані», «люди» та «управління», підкресливши необхідність кращого збору даних, нагляду за взаємодією з людиною та чіткої політики щодо безпеки, довіри, інтелектуальної власності та регулювання. Вирішення цих ризиків означає забезпечення того, щоб системи штучного інтелекту були побудовані на різноманітних даних, врахування людського судження в критичних моментах та розробку інклюзивних стандартів проектування, які поважають конфіденційність, згоду та культурний контекст.

Ви досліджували, як дані та штучний інтелект можуть налаштовувати продукти відповідно до взаємодії з користувачем. Чи бачите ви майбутнє, де продукти динамічно розвиватимуться на основі даних у режимі реального часу після того, як вони покинуть завод? Якщо так, то як дизайнерам слід готуватися до такого світу? 

Дизайн на основі даних що використовуються для продуктів, можуть бути персоналізовані, налаштовані або адаптовані до індивідуальної поведінки. Потім вони стають «розумними» системами, які збирають дані про те, як вони використовуються, та обмінюються даними через вбудовані датчики та підключення до Інтернету речей. У нашій концепції, дії з налаштування включають використання цих даних для оновлення та адаптації продуктів після того, як вони покинуть завод. Приклади включають зв’язування моделей розпізнавання жестів із цифровим двійником для співпраці людини та робота та використання сканування за допомогою машинного навчання для створення налаштованих компонентів.

Цей зсув створює нові обов'язки. Дизайнерам потрібно вирішити, які дані про людей, поведінкові, фізіологічні, зі зворотним зв'язком чи емоційні, є релевантними. Вони також повинні гарантувати, що оновлення зберігають заплановані естетичні та емоційні якості, які, як ми знаємо, пов'язані з формою та сприйняттям. Нарешті, управління має значення: наш галузевий семінар підкреслив, що питання, пов'язані з даними, довірою та конфіденційністю, вимагають чіткої політики та людського нагляду. За умови правильного виконання, продукти, що розвиваються, можуть пропонувати тривалу цінність та оперативність реагування без шкоди для значення чи етики.

Заглядаючи в майбутнє, які головні дослідницькі питання мотивують вас зараз? І які прориви, на вашу думку, відбудуться в цій галузі в найближчі кілька років на перетині штучного інтелекту, креативності та проектної інженерії?

Багато з описаних вище проблем залишаються невирішеними, деякі з яких я зараз працюю, зокрема працюю над тим, щоб універсальні інструменти генеративного штучного інтелекту можна було ефективно адаптувати до конкретних секторів, які бажають їх впровадити.

На галузевому рівні це може виглядати зовсім інакше: у виробництві це може включати використання локалізованих моделей, навчених на специфічних для предметної області знаннях, поряд із надійними заходами конфіденційності та безпеки; у креативних індустріях основна увага може бути зосереджена на диверсифікації результатів та забезпеченні більш змістовної співпраці між людьми та штучним інтелектом.

На технічному рівні ми експериментуємо з великими мовними моделями для підтримки завдань оцінювання. Одне дослідження показує, що LLM можуть оцінювати новизну та корисність і тісніше узгоджуватися з експертами-людьми, коли керуються добре розробленими підказками. У пов'язаній статті використовується ланцюжок думок підказування та багатомодельна агрегація для підвищення надійності оцінки за допомогою штучного інтелекту. Ми також досліджуємо розмовні агенти для врахування потреб організацій у цифровій трансформації, демонструючи, що чат-боти можуть проводити структуровані інтерв’ю ефективно. У поєднанні з роботою над використанням людських даних у дизайні, ці ініціативи вказують на майбутнє, в якому штучний інтелект допомагає нам зберігати експертизу, приймати кращі рішення та етично взаємодіяти з користувачами.

Дякую за вдумливе та проникливе інтерв'ю; читачі, які бажають дізнатися більше про роботу професора Ахмеда-Крістенсена з дизайну на основі штучного інтелекту, креативності та відповідальної цифрової трансформації, можуть ознайомитися з поточними дослідженнями та ініціативами за адресою Лабораторія DIGIT.