Професор Саема Ахмед-Крістенсен, директор лабораторії DIGIT – Серія інтерв’ю

Професор Саема Ахмед-Крістенсен – відомий вчений у галузі інженерії дизайну та асоційований проректор (дослідження та вплив) у Університеті Ексетера, де вона також обіймає посаду директора лабораторії DIGIT, великої міжгалузевої дослідницької ініціативи, що зосереджена на цифрових інноваціях та трансформації. Її дослідження охоплюють креативність та когнітивність у дизайні, дані та цифровий дизайн, а також інтеграцію передових технологій у складний інженерний та продукційний розвиток, з особливим акцентом на перекладі академічних знань у реальний вплив через співробітництво з промисловістю, політичну участь та великі дослідницькі програми.

Ваша кар’єра охопила Кембридж, DTU, Імперіал Коледж Лондона, Королівську академію мистецтв та тепер Університет Ексетера. Оглянувшись назад, які досвіди чи поворотні моменти найбільш сформували вашу думку про дизайн, креативність та роль цифрових технологій?

Моя робота у сфері дизайну охопила багато різних культур та дисциплін. Я почала у Брунелі на одному з небагатьох курсів, що поєднував технології, гуманно-орієнтований дизайн та розуміння форми. Це навчило мене рано, що креативність та інновації тісно пов’язані.

Студіювання у Кембриджі відкрило мені нові горизонти. Коледжове середовище познайомило мене з багатьма дисциплінами та показало мені, як інновації залежать від знань, що надходять з різних галузей. Моя дисертація зосередилася на аерокосмічній галузі та дослідила, як інженерні дизайнери знаходять та використовують інформацію. Я вивчала, як люди отримують знання, як підтримувати чи реплікувати експертизу, та перехрестя між когнітивністю, комп’ютерними науками та інженерним дизайном. Цей гуманно-орієнтований погляд залишився зі мною досі.

З ростом цифрових технологій, зростали й питання у моїй роботі. Розвиток даних IoT, штучного інтелекту та передових обчислень змістив дизайн від гуманно-орієнтованого до суспільно-орієнтованого. Це продовжує формувати мою роботу в Університеті Ексетера, де я очолюю лабораторію DIGIT та зосереджуюся на ролі великих мовних моделей у творчому процесі, бар’єрах, з якими стикаються галузі при їхньому впровадженні, та тому, як дані можуть стимулювати інновації.

Мій час в Імперіалі та Королівській академії мистецтв підкріпив, що дизайн – це набагато більше, ніж формування продуктів чи послуг. З правильними людьми, процесами та культурою дизайн стає драйвером нових та масштабованих технологій, матеріалів та ідей, які можуть вирішити сьогоднішні та завтрашні глобальні виклики.

Лабораторія DIGIT зосереджена на цифровій трансформації великих організацій. З вашої точки зору, чого лідери найбільш неправильно розуміють про те, як штучний інтелект змінить дизайн, інновації та прийняття рішень?

На протяжении десятиліть штучний інтелект розвивався у дослідженнях та впроваджувався в певних галузях, але прогрес часто був обмежений браком навичок, розумінням лідерів та ясністю щодо цінності та інфраструктури, необхідної для цього. З ростом великих мовних моделей та генеративних інструментів, таких як DALL·E, штучний інтелект став більш доступним та потребує набагато менше спеціалізованих знань чи налаштувань. Але це також піднімає нові питання щодо конфіденційності, безпеки даних та того, як добре загальні моделі застосовуються до конкретних доменів.

У дизайні та інноваціях ці питання особливо очевидні. Наше дослідження, яке охопило понад 12 000 ідей, згенерованих людьми та штучним інтелектом, показало, що ідеї штучного інтелекту схильні групуватися навколо схожих концепцій. Це підкреслює необхідність інтеграції людської експертизи у загальні інструменти, адаптації штучного інтелекту до домену або розуміння того, коли та як використовувати штучний інтелект поряд з людською креативністю та прийняттям рішень.

Багато вашої роботи досліджує креативність та когнітивність у дизайні. З тим, як генеративний штучний інтелект тепер здатний виробляти ідеї, концепції та ітерації у масштабі, які аспекти креативності ви бачите як унікально людські – і які частини можуть відповідально перейти до процесів, керованих штучним інтелектом?

Креативність завжди була для мене більшою, ніж генерація альтернатив. Це питання інтенту, культурного значення та емоційної зв’язку, яку створює дизайн. Наше недавнє опитування лабораторії DIGIT підкреслило це: 82% людей сказали нам, що людсько-орієнтована або гібридна робота відчувається більш значущою, а 71% заявили, що вони відчувають менше емоційної зв’язку з дизайном, створеним лише штучним інтелектом. Багато описали роботу, створену штучним інтелектом, як “бідну на емоції” (48%) або “занадто досконалу” (40%), а 36% відчували, що її вплив швидко зникає. Ці відповіді підкреслили щось, у що я вірю вже давно. Емоційна участь не є чимось додатковим; це суттєво для того, як люди переживають та оцінюють творчу роботу.

Наше дослідження, що порівнює людські та штучні ідеї, також показує, що людські дизайнери кращі у створенні різноманітних, нових ідей та забезпечення того, щоб творчий вихід, будь то художнє полотно, дизайн продукту чи послуг, мав глибину та значення. Експерти з дизайну володіють набором навичок, який ще не можливо відтворити. Дизайнерам потрібно зрозуміти проблему, перш ніж генерувати ідеї, а великі мовні моделі можуть бути корисними у зборі інформації, щоб допомогти дизайнерам перейти від однієї проблеми до іншої. Якщо ми можемо інтегрувати моделі людської експертизи у інструменти штучного інтелекту, вони також можуть підтримувати оцінку ідей, дозволяючи штучному інтелекту краще використовувати людські творчі навички.

Підхід “ланцюг думок”, з яким ми експериментуємо, підтримує великі мовні моделі, щоб слідувати експертному мисленню, а не просто давати оцінки. У всіх випадках людський нагляд необхідний для інтерпретації результатів та забезпечення того, щоб дизайнерські рішення відповідали життєвому досвіду користувачів.

Це ясно, що нам потрібно або створити моделі, здатні захопити, як люди переживають продукти, послуги та взаємодію у спосіб, який комп’ютери можуть інтерпретувати, або інтегрувати густі дані (багаті якісні знання, що надають контекст) з тонкими або великими сенсорними даними, які ми збираємо. Розробка цих моделей не є простою, і саме тут людська участь залишається суттєвою.

Таким чином, для мене висновок полягає не в тому, що штучний інтелект не має місця у креативності. Навпаки, штучний інтелект та люди володіють різними сильними сторонами. Той факт, що люди постійно реагують більш позитивно на людську або гібридну роботу, просто каже нам, де лежить центр тяжіння. Штучний інтелект може допомогти дослідити ширший дизайнерський простір, проаналізувати закономірності та запропонувати структуровану критику, але ці сприйняття пласкості, алгоритмічної досконалості та емоційної відстані показують, де штучний інтелект ще потребує людської оцінки, щоб перетворити можливості у щось, що резонує.

Отже, я бачу майбутнє креативності як фундаментально колаборативне. Штучний інтелект може розширити поле можливостей. Дизайнери приносять емпатію, культурне розуміння та відчуття інтенту, які надають цим можливостям значення. Коли двоє працюють разом, з людською оцінкою, що встановлює напрям, а штучним інтелектом, який збагачує дослідження, результатом є творчий процес, який є більш строгим, більш уявним та в кінцевому підсумку більш людським у своїх результатах.

Ви розробили підходи для кількісної оцінки досвіду користувачів та структуризації знань про дизайн. Як ми можемо забезпечити, щоб людський досвід, емоції та культурні сигнали залишилися центральними у процесі дизайну, коли штучний інтелект стає більш відповідальним за генерацію продуктів та послуг?

Щоб центрувати людський досвід, нам потрібно вбудувати знання про сприйняття та емоції у наші методи.

Є два основних підходи. Перший визнає необхідність якісних даних, які дозволяють глибоке розуміння людського досвіду, сприйняття та емоцій, інформуючи ефективну людсько-штучну колаборацію. Другий – на якому зосередилася моя робота – спрямований на переклад цього знання у моделі, які системи штучного інтелекту можуть зрозуміти та використовувати.

Ці моделі складні для розробки, оскільки їм потрібно інтегрувати досвід користувача, людське сприйняття та характеристики продуктів чи систем, які проектуються, щоб передбачити людські реакції та загальний досвід.

Ви працюєте з складними галузями – аерокосмічною, медичною, виробничою, споживчими продуктами. У цих високоризикових середовищах, як ви балансуєте потенціал дизайну, підтримуваного штучним інтелектом, з необхідністю безпеки, слідовості та довіри?

У високоризикових секторах, таких як охорона здоров’я, аерокосмічна галузь та виробництво, питання полягає не в тому, чи можна використовувати штучний інтелект, а як його керувати. Довіра в цих середовищах залежить від ясної відповідальності, слідовості та пояснюваності на кожному етапі процесу дизайну та прийняття рішень. Штучний інтелект може відігравати потужну підтримуючу роль у симуляції, оптимізації та ранній стадії дослідження, але він не може стати остаточною владою.

Багато з цих галузей тісно регулюються та підлягають суворим вимогам безпеки, які вимагають безпечної обробки всіх даних, особистих чи комерційно чутливих. У цих контекстах часто потрібно розробляти запитання чи запити за допомогою локальних даних, щоб забезпечити специфіку та актуальність, і не рідко організації в цих секторах створюють та підтримують власні інструменти штучного інтелекту.

Наше ширше дослідження постійно показує, що гібридні системи є суттєвими: штучний інтелект повинен доповнювати експертну оцінку, а не замінювати її. Людський нагляд повинен залишатися вбудованим у кожну критичну точку прийняття рішень, особливо там, де питання безпеки, ризику та відповідальності становлять особливу увагу. Для того, щоб регулятори та кінцеві користувачі довіряли системам, підтримуваним штучним інтелектом, організаціям також потрібно прозоре документування того, як моделі тренуються, які дані вони використовують та як генеруються виходи. Без цієї прозорості довіра не може масштабуватися, незалежно від того, наскільки просунута технологія.

Багато організацій борються з розривом між “експериментуванням зі штучним інтелектом” та значимим інтегруванням його у розвиток продукту. Які практичні кроки ви рекомендуватимете командам, які намагаються перейти від експериментування до стратегічного впровадження?

Багато організацій застряють на стадії експериментування, оскільки вони приймають штучний інтелект без ясної стратегічної мети. Перший практичний крок полягає у тому, щоб бути явним щодо ролі штучного інтелекту у процесі розвитку, будь то підтримка ідеації, прискорення тестування, покращення оцінки чи посилення прийняття рішень. Без цієї ясності пілотні проекти залишаються відірваними від реальних бізнес- та дизайнерських результатів.

Командам також потрібно мати правильні основи. Це означає інвестиції у високоякісні, добре керовані дані, особливо дані, які відображають реальний досвід користувачів, а не просто технічну продуктивність. Це також означає бути реалістами щодо поточних обмежень штучного інтелекту, особливо у творчих та гуманно-орієнтованих судженнях, де експертна оцінка залишається суттєвою.

Багато секторів починають розробляти політики штучного інтелекту, які допомагають командам пройти процес експериментування зі штучним інтелектом, від побудови бізнес-кейсів та проведення пілотних проектів до ширшого впровадження. Ці політики допомагають організаціям визначити, де штучний інтелект може дійсно додати вартість, а також забезпечити, щоб люди залишилися у циклі там, де це необхідно.

Нарешті, організаціям слід рухатися через структуровані, низькоризикові пілотні проекти, які є частиною реальних робочих процесів, а не проводяться в ізоляції. Ці пілотні проекти повинні бути міжгалузевими, об’єднуючи дизайнерів, інженерів, вчених про дані та експертів галузі, так щоб навчання було спільним та переносяним. Штучний інтелект доставляє вартість, коли він проектується у повсякденну практику, а не розглядається як окремий експериментальний шар.

Ви мають довгу історію розробки методів для структуризації та автоматизації знань. Як близькі ми до систем штучного інтелекту, які можуть мислити про намір дизайну, потреби користувачів та контекст таким чином, щоб дійсно додати вартість, а не просто генерувати контент?

У деяких областях передбачення переваг користувачів відносно просте, оскільки дані, такі як історія переглядів або записи про те, які фільми чи телешоу були переглянуті, можуть бути використані для надання рекомендацій. Ці області користуються наявними даними.

Натомість ключовим викликом у дизайні продуктів та послуг є те, що дані про вибір людей, потреби та життєвий досвід часто не легко доступні.

Моя недавнє дослідження з лабораторією DIGIT дослідило здатність великої мовної моделі, коли їй надається модель того, як люди сприймають та реагують на дизайнерські особливості Однак поточні моделі працюють на основі закономірностей у даних та не можуть контекстуалізувати значення. Раніші дослідження, що пов’язують форму з сприйняттям, показують, що навіть малі зміни форми можуть зсувати емоційні реакції, і такі нюанси важко для штучного інтелекту передбачити без людської підтримки чи складних моделей. Тому здатність штучного інтелекту мислити про намір покращується, але залишається доповненням до людської експертизи.

Як штучний інтелект прискорює цикли дизайну – від ідеації до прототипування – які нові навички будуть потрібні дизайнерам? Як університети та організації повинні переосмислити навчання для наступного покоління творчих талантів?

Дизайнерам потрібно буде бути вільними як у людському сприйнятті, так і в інструментах, підтримуваних штучним інтелектом. Знання того, як форма, матеріал та пропорції формують емоційну реакцію, залишаться фундаментальними для хорошого дизайну. Водночас дизайнерам потрібно буде вміти працювати впевнено з системами штучного інтелекту, які підтримують генерацію ідей та оцінку. Це означає не тільки використання інструментів, а й розуміння того, за що вони оптимізовані, та де лежать їхні обмеження. Коли штучний інтелект стає більш інтегрованим у дизайнерські робочі процеси, здатність критично інтерпретувати його виходи та поєднувати їх з людською оцінкою стане однією з найбільш цінних творчих навичок.

Як штучний інтелект прискорює цикли дизайну від ідеації до прототипування, дизайнерам потрібно буде мати нову комбінацію можливостей та способів мислення, які виходять за рамки традиційних ремесельних навичок. їм потрібно буде розуміти, як працюють цифрові технології, які типи даних можуть (та не можуть) показати, та як поєднувати експертизу дизайну з грамотністю штучного інтелекту. Це включає знання того, як працювати з високоякісними, добре керованими даними, які відображають реальний досвід користувачів, а не просто технічну продуктивність. Разом з цим дизайнерам також потрібно буде мати судження, щоб розпізнати, де штучний інтелект корисний, а де людська креативність та критичне мислення повинні залишатися центральними.

Щоб задовольнити ці потреби, університети та організації повинні переосмислити, як вони навчають наступне покоління творчих талантів. Деякі університети вже інтегрують науку про дані у програми дизайну; це важливий крок, але недостатній сам по собі. Що ще відсутнє, це методи дизайнерського мислення, які пристосовані до реалій цифрової епохи: методи, які допомагають дизайнерам співпрацювати зі штучним інтелектом, працювати міжгалузево та навігацію швидкого експериментування, зберігаючи при цьому етичну та гуманно-орієнтовану оцінку.

Вирішення цього розриву є суттєвим. Саме тому моя колега доктор Джі Хан та я пишемо книгу з Кембриджським університетом про Дизайнерське мислення в цифрову епоху, яка збирає рамки, навички та способи мислення, необхідні для ефективного дизайну поряд зі штучним інтелектом.

Лабораторія DIGIT підкреслює відповідальну трансформацію. З вашої точки зору, які етичні чи суспільні ризики потребують більшої уваги, коли штучний інтелект стає більш інтегрованим у дизайнерські робочі процеси у різних галузях?

Одним з прикладів є забезпечення етичного використання даних, включаючи отримання інформованої згоди та підтримання прозорості щодо наборів даних, використаних для розробки продуктів штучного інтелекту, а також потенційних упереджень, які вони можуть містити. Наприклад, набори даних, вбудовані у системи охорони здоров’я, повинні бути ретельно розглянуті, щоб забезпечити, що вони адекватно представляють весь населення, визначити групи, які можуть бути недопредставлені, та підтвердити, що система штучного інтелекту придатна для використання та інклюзивна. З суспільної точки зору часто існує занепокоєння, що штучний інтелект замінить робочі місця; однак важливо зрозуміти, де людська експертиза залишається суттєвою, та як штучний інтелект може бути використаний для посилення, а не заміни, людських можливостей.

Є глибші етичні питання також. Коли дизайнери покладаються на людські дані, їм потрібно обробляти питання конфіденційності, упередженості та прозорості відповідально. Робочий семінар лабораторії DIGIT визначив категорії “даних”, “людей” та “управління” як основні виклики для виробничої галузі, підкресливши необхідність кращого збору даних, нагляду людини у циклі та ясних політик щодо безпеки, довіри, інтелектуальної власності та регулювання. Вирішення цих ризиків означає забезпечення того, щоб системи штучного інтелекту будувалися на основі різноманітних даних, інтеграції людської оцінки на критичних етапах та розробки інклюзивних стандартів дизайну, які поважають приватність, згоду та культурний контекст.

Ви досліджували, як дані та штучний інтелект можуть персоналізувати продукти навколо досвіду користувачів. Чи бачите ви майбутнє, де продукти еволюціонують динамічно на основі даних у реальному часі після виходу з заводу? Якщо так, як дизайнери повинні готуватися до такого світу? 

Дані-орієнтований дизайн, який використовується для продуктів, може бути персоналізованим, адаптованим чи налаштованим на індивідуальну поведінку. Вони потім стають “розумними” системами, які збирають дані про те, як вони використовуються, та спілкуються через вбудовані сенсори та зв’язок IoT. У нашій рамці діяльності налаштування включають використання цих даних для оновлення та адаптації продуктів після виходу з заводу. Приклади включають зв’язування моделей розпізнавання жестів з цифровим двійником для людсько-роботичної співпраці та використання сканування з підтримкою машинного навчання для створення персоналізованих компонентів.

Цей зсув створює нові відповідальності. Дизайнерам потрібно вирішити, які людські дані, поведінкові, фізіологічні, зворотні чи емоційні, є актуальними. їм також потрібно забезпечити, щоб оновлення зберегли призначені естетичні та емоційні якості, які ми знаємо, пов’язані з формою та сприйняттям. Нарешті, питання управління: наш промисловий семінар підкреслив, що питання навколо даних, довіри та приватності потребують ясних політик та людського нагляду. Коли все робиться добре, еволюційні продукти можуть пропонувати тривалу цінність та реакцію без жертвування значимістю чи етикою.

Оглянувшись вперед, які великі дослідницькі питання мотивують вас зараз? І які прориви, ви вважаєте, галузь побачить на перетині штучного інтелекту, креативності та інженерії дизайну у найближчі роки?

Багато з викликів, описаних вище, залишаються невирішеними – декілька з яких я зараз досліджую, включаючи роботу над тим, щоб загальні генеративні інструменти штучного інтелекту могли бути ефективно адаптовані до конкретних секторів, які бажають їх впровадити.

На рівні сектора це може виглядати досить по-різному: у виробництві це може включати використання локальних моделей, тренованих на домен-специфічних знаннях, поряд зі сильними заходами безпеки та приватності; у творчих галузях фокус може бути на диверсифікації виходів та можливості більш значущої колаборації між людьми та штучним інтелектом.

На технічному рівні ми експериментуємо з великими мовними моделями для підтримки завдань оцінки. Одне дослідження показало, що великі мовні моделі можуть оцінювати новизну та корисність і більш тісно відповідати людським експертам, коли керуються добре спроектованими підказками. Пов’язана робота використовує ланцюг думок підказок та агрегацію چندомодельних даних для того, щоб зробити оцінку штучним інтелектом більш надійною. Ми також досліджуємо розмовних агентів для захоплення вимог цифрової трансформації організацій, демонструючи, що чатботи можуть проводити структуровані інтерв’ю ефективно. У поєднанні з роботою над використанням людських даних у дизайні ці ініціативи вказують на майбутнє, де штучний інтелект допомагає нам зберегти експертизу, зробити кращі рішення та залучити користувачів етично.

Дякую за вдумливий та проникливий інтерв’ю; читачі, які бажають дізнатися більше про роботу професора Ахмед-Крістенсен щодо штучного інтелекту-дизайну, креативності та відповідальної цифрової трансформації, можуть ознайомитися з тривалими дослідженнями та ініціативами в лабораторії DIGIT.