Інтерв’ю
Професор Саїма Ахмед-Крістенсен, директор лабораторії DIGIT – Серія інтерв’ю
Професор Саїма Ахмед-Крістенсен є провідним вченим у галузі дизайну та інженерії і асоційованим проректором (дослідження та вплив) в Університеті Ексетера, де вона також обіймає посаду директора лабораторії DIGIT, великого міжгалузевого дослідницького проекту, орієнтованого на цифрові інновації та трансформацію. Її дослідження охоплюють дизайн-креативність і когнітивність, дані-орієнтований і цифровий дизайн, а також інтеграцію передових технологій у складний інженерний і продукт розробки, з особливим акцентом на переклад академічної думки в реальний вплив через співробітництво з промисловістю, політичну участь і великомасштабні дослідницькі програми.
Ваша кар’єра охопила Кембридж, DTU, Імперіал Коледж Лондон, Королівську академію мистецтв і тепер Університет Ексетера. Оглянувшись назад, які досвіди чи поворотні моменти найбільш сформували вашу думку про дизайн, креативність і роль цифрових технологій?
Моя робота в дизайні охопила багато різних культур і дисциплін. Я почала в Брунелі на одному з небагатьох курсів, які поєднували технології, гуманно-орієнтований дизайн і розуміння форми. Це навчило мене рано, що креативність і інновації тісно пов’язані.
Студіювання в Кембриджі відкрило моє мислення далі. Коледж-оточення познайомило мене з багатьма дисциплінами і показало мені, як інновації залежать від знань, що приходять разом з полями. Моя дисертація зосередилася на аерокосмічному секторі і вивчила, як інженер-дизайнери знаходять і використовують інформацію. Я вивчала, як люди отримують доступ до знань, як експертизу можна підтримувати або реплікувати, і перехрестя між когнітивністю, комп’ютерними науками і інженерним дизайном. Цей гуманно-орієнтований погляд залишився зі мною з тих пір.
Як цифрові технології росли, так само росли питання в моїй роботі. Ріст даних IoT, AI і передових обчислень зміщив дизайн від того, щоб бути тільки гуманно-орієнтованим, до того, щоб бути орієнтованим на суспільство. Це продовжує формувати мою роботу в Університеті Ексетера, де я очолюю лабораторію DIGIT і зосереджуюся на ролі LLM в творчому процесі, бар’єрах, з якими галузі стикаються при їх прийнятті, і тому, як дані можуть стимулювати інновації.
Мій час в Імперіалі та Королівській академії мистецтв підкріпив, що дизайн – це далеко не тільки формування продуктів або послуг. З правильними людьми, процесами і культурою дизайн стає драйвером нових і масштабних технологій, матеріалів і ідей, які можуть вирішити сьогодні і завтра глобальні виклики.
Лабораторія DIGIT сильно зосереджена на цифровій трансформації всередині великих усталених організацій. З вашої точки зору, що лідери найбільш неправильно розуміють про те, як AI змінить дизайн, інновації та прийняття рішень?
Тривалий час AI просунувся в дослідженні та був прийнятий у певних галузях, але прогрес часто був обмежений прогалинами у навичках, розумінням лідерів і ясністю щодо вартості та інфраструктури, необхідної для цього. З ростом LLM і генеративних інструментів, таких як DALL·E, AI тепер більш доступний і потребує значно менше спеціалізованих знань або налаштувань. Але це також піднімає нові питання про конфіденційність, безпеку даних і те, наскільки добре загальні моделі застосовуються до конкретних доменів.
У дизайні та інноваціях ці питання особливо чіткі. Наше дослідження, яке вивчило понад 12 000 ідей, згенерованих людьми та AI, показало, що ідеї AI схильні кластеризуватися навколо схожих концепцій. Це підкреслює необхідність включення людської експертизи в загальні інструменти, адаптації AI для домену або розуміння того, коли і як використовувати AI поряд з людською креативністю та прийняттям рішень.
Багато вашої роботи досліджує креативність і когнітивність у дизайні. З генеративним AI, який тепер може виробляти ідеї, концепції та ітерації у великому масштабі, які аспекти креативності ви бачите як унікально людські – і які частини можуть відповідально перейти до процесів, керованих AI?
Креативність завжди була для мене більше, ніж генерація альтернатив. Це питання інтенту, культурного значення і емоційного зв’язку, який дизайн створює. Наш недавній опитування лабораторії DIGIT привернуло увагу до цього: 82% людей сказали нам, що людсько-орієнтована або гібридна робота відчувається більш значущою, і 71% сказали, що вони відчувають меншу емоційну зв’язок з дизайном тільки AI. Багато описали роботу, згенеровану AI, як “бідну на емоції” (48%) або “занадто досконалу” (40%), і 36% відчували, що її вплив швидко зникає. Ці відповіді підкреслили щось, у що я давно вірю. Емоційний зв’язок не є чимось бажаним; це суттєво для того, як люди переживають і оцінюють творчу роботу.
Наше дослідження, яке порівнює людські і AI-ідей, також показує, що людські дизайнери краще створюють різноманітні, нові ідеї і забезпечують, щоб творчий вихід, ať це мистецтво, дизайн продукту або послуги, мав глибину і значення. Експерти з дизайну володіють набором навичок, який ще не можливо відтворити. Дизайнерам потрібно зрозуміти проблему, перш ніж генерувати ідеї, і LLM дуже корисні у зборі інформації, щоб допомогти дизайнерам перейти від однієї проблеми до іншої. Якщо ми можемо включити моделі людської експертизи в інструменти AI, вони також можуть підтримувати оцінку ідей, дозволяючи AI краще використовувати людські творчі навички.
Підхід ланцюга думок, з яким ми експериментуємо, підтримує LLM, щоб слідувати експертному висновку, не тільки давати оцінки. У всіх випадках людський нагляд необхідний для інтерпретації результатів і забезпечення того, що дизайнерські рішення відповідають досвіду користувачів.
Чиятно, що нам потрібно або створити моделі, здатні захопити, як люди переживають продукти, послуги та взаємодію в спосіб, який комп’ютери можуть інтерпретувати, або інтегрувати товсті дані (багаті якісні знання, які забезпечують контекст) з тонкими або великими датчиками даних, які ми збираємо. Розробка цих моделей не є простою, і саме тут людське втручання залишається суттєвим.
Отже, для мене висновок полягає не в тому, що AI не має місця в креативності. Навпаки, це означає, що AI і люди внесли різні сильні сторони. Той факт, що люди постійно реагують більш позитивно на людську або гібридну роботу, просто каже нам, де лежить центр тяжіння. AI може допомогти дослідити ширший дизайн-простір, проаналізувати закономірності і запропонувати структуровану критику, але ці сприйняття плоскості, алгоритмічної досконалості і емоційної відстані показують, де AI все ще потребує людської уваги, щоб перетворити можливості в щось, що резонує.
Тому я бачу майбутнє креативності як фундаментально колаборативне. AI може розширити поле можливостей. Дизайнери приносять емпаті, культурне розуміння і відчуття інтенту, які дають цим можливостям значення. Коли два працюють разом, з людською увагою, що встановлює напрям, і AI, що збагачує дослідження, результатом є творчий процес, який є більш строгим, більш уявним і в кінцевому підсумку більш людським у своїх результатах.
Ви провели підхід для кількісної оцінки досвіду користувачів і структуризації знань про дизайн. Як ми можемо забезпечити, щоб людський досвід, емоції та культурні сигнали залишилися центральними для процесу дизайну, коли AI-системи стають більш відповідальними за генерацію продуктів і послуг?
Щоб центрувати людський досвід, нам потрібно включити знання про сприйняття і емоції в наші методи.
Є два основних підходи. Перший визнає необхідність якісних даних, які дозволяють глибоке розуміння людського досвіду, сприйняття і емоцій, інформуючи ефективне людсько-АІ співробітництво. Другий – на якому моя робота була зосереджена – спрямований на переклад цього знання в моделі, які системи AI можуть зрозуміти і використовувати.
Ці моделі складні для розробки, оскільки вони повинні інтегрувати досвід користувача, людське сприйняття і характеристики продукту або системи, які проектуються, щоб передбачити людські реакції і загальний досвід.
Ви працюєте розширено з складними галузями – аерокосмічною, медичною, виробничою та споживчими продуктами. У цих високоризикових середовищах, як ви балансуєте потенціал дизайну, підтриманого AI, з необхідністю безпеки, слідовості та довіри?
У високоризикових галузях, таких як охорона здоров’я, аерокосмічна галузь і виробництво, питання полягає не в тому, чи можна використовувати AI, а в тому, як він керується. Довіра в цих середовищах залежить від ясної відповідальності, слідовості і пояснюваності на кожному етапі процесу дизайну і прийняття рішень. AI може відігравати потужну роль у симуляції, оптимізації та ранній стадії дослідження, але він не може стати остаточною владою.
Багато з цих галузей тісно регулюються і підлягають суворим вимогам безпеки, які вимагають безпечної обробки всіх даних, особистих або комерційно чутливих. У цих контекстах часто потрібно розробляти і підтримувати власні інструменти AI.
Що наше ширше дослідження постійно показує, так це те, що гібридні системи є суттєвими: AI повинен доповнювати експертну думку, не замінювати її. Людський нагляд повинен залишатися включеним у кожну критичну точку прийняття рішень, особливо там, де безпека, ризик і відповідальність становлять питання. Для того, щоб регулятори і кінцеві користувачі довіряли системам, підтримуваним AI, організаціям також потрібно прозоре документування того, як моделі тренуються, які дані вони використовують і як генеруються виходи. Без цієї прозорості довіра не може масштабуватися, незалежно від того, наскільки просунута технологія стає.
Багато організацій борються з розривом між “експериментуванням з AI” і значимим інтегруванням його в розвиток продукту. Які практичні кроки ви рекомендуватимете командам, які намагаються перейти від експериментування до стратегічної реалізації?
Багато організацій застряють на стадії експериментування, оскільки вони приймають AI без ясної стратегічної мети. Перший практичний крок полягає в тому, щоб бути явним щодо ролі AI у процесі розробки, незалежно від того, чи це підтримка ідеї, прискорення тестування, поліпшення оцінки чи посилення прийняття рішень. Без цієї ясності пілотні проекти залишаються відірваними від реальних бізнес- і дизайн-результатів.
Командам також потрібно мати правильні основи на місці. Це означає інвестиції у високоякісні, добре керовані дані, особливо дані, які відображають реальний досвід користувача, а не просто технічну продуктивність. Це також означає бути реалістами щодо поточних обмежень AI, особливо у творчому і гуманно-орієнтованому судженні, де експертний нагляд залишається суттєвим.
Багато галузей починають розробляти політики AI, які керують командами через процес експериментування з AI від побудови бізнес-кейсів і проведення пілотних проектів до ширшого прийняття. Ці політики допомагають організаціям визначити, де AI може дійсно додати вартість, а також забезпечити, щоб люди залишилися у циклі там, де це необхідно.
Нарешті, організації повинні рухатися через структуровані, низькоризиковані пілотні проекти, які включаються в реальні робочі процеси, а не проводяться в ізоляції. Ці пілотні проекти повинні бути міжгалузевими, об’єднуючи дизайнерів, інженерів, вчених-даних і експертів галузі, так що навчання спільне і переносяться. AI доставляє вартість, коли він проектується в повсякденну практику, а не обробляється як окремий експериментальний шар.
Ви мають довгу історію розробки методів для структуризації і автоматизації знань. Як близькі ми до систем AI, які можуть обґрунтувати намір дизайну, потреби користувачів і контекст таким чином, який дійсно додає вартість, а не просто генерує контент?
У деяких галузях передбачення переваг користувачів відносно просте, оскільки дані, такі як історія перегляду або записи про те, які фільми або телешоу були переглянуті, можуть бути використані для надання рекомендацій. Ці галузі користуються наявними даними.
Натомість ключовим викликом у дизайні продуктів і послуг є те, що дані про вибір людей, потреби і досвід часто недоступні.
Моя недавнє дослідження з лабораторією DIGIT досліджувало здатність LLM, коли йому надається модель того, як люди сприймають і реагують на дизайн-фішки. Однак поточні моделі працюють на закономірностях у даних і не можуть контекстуалізувати значення. Раніші дослідження, що пов’язують форму з сприйняттями, показують, що навіть малі зміни форми можуть зсунути емоційні реакції, і такі нюанси важко для AI передбачити без людського керівництва або складних моделей, які потрібно включити. Тому обґрунтування AI щодо наміру покращується, але залишається доповненням до людської експертизи.
Як AI прискорює дизайн-цикли – від ідеї до прототипу – які нові навички дизайнерам потрібно буде?
Дизайнерам потрібно буде бути вільними як у людському сприйнятті, так і в інструментах, підтримуваних AI. Знання того, як форма, матеріал і пропорція формують емоційну реакцію, залишається фундаментальним для хорошого дизайну. У той же час дизайнерам потрібно буде能够 працювати впевнено з системами AI, які підтримують генерацію ідей і оцінку. Це означає не тільки використання інструментів, а й розуміння, за що вони оптимізовані, і де лежать їхні обмеження. Коли AI стає все більш включеним у дизайн-процеси, здатність критично інтерпретувати їхні виходи і поєднувати їх з людською увагою стане однією з найбільш цінних творчих навичок.
Як AI прискорює дизайн-цикли від ідеї до прототипу, дизайнерам потрібно буде мати нову суміш можливостей і способів мислення, які виходять за рамки традиційних ремесел. їм потрібно буде розуміти, як працюють цифрові технології, які типи даних можуть (і не можуть) показати, і як поєднувати експертизу дизайну з грамотністю AI. Це включає знання того, як працювати з високоякісними, добре керованими даними, які відображають реальний досвід користувачів, а не тільки технічну продуктивність. Крім того, дизайнерам потрібно буде mít судження, щоб розпізнати, де AI є корисним, а де людська креативність і критичне мислення повинні залишатися центральними.
Щоб задовольнити ці потреби, університети і організації повинні переосмислити, як вони тренують наступне покоління творчих талантів. Деякі університети вже інтегрують науку про дані в програми дизайну; важливий крок, але не достатній сам по собі. Що все ще відсутнє, так це методи дизайн-мислення, які оснащені реаліями цифрової епохи: методи, які допомагають дизайнерам співпрацювати з AI, працювати через дисципліни і орієнтуватися в швидкому експериментуванні, зберігаючи при цьому етичну і гуманно-орієнтовану увагу.
Вирішення цього розриву є суттєвим. Це саме тому, чому мій колега доктор Джі Хан і я пишемо книгу з Кембриджським університетом про Дизайн-мислення в цифрову епоху, яка об’єднує рамки, навички і способи мислення, необхідні для ефективного дизайну поряд з AI.
Лабораторія DIGIT підкреслює відповідальну трансформацію. З вашої точки зору, які етичні або соціальні ризики потребують більшої уваги, коли AI стає включеним у дизайн-процеси по галузям?
Одним з прикладів є забезпечення етичного використання даних, включаючи отримання інформованої згоди і підтримання прозорості щодо наборів даних, використаних для розробки продуктів AI, а також будь-яких потенційних упереджень, які вони можуть містити. Наприклад, набори даних, вбудовані в системи охорони здоров’я, повинні бути ретельно вивчені, щоб забезпечити, що вони адекватно представляють весь населення, ідентифікують будь-які групи, які можуть бути недопредставлені, і підтверджують, що система AI підходить для мети і інклюзивна. З соціальної точки зору часто існує побоювання, що AI замінить робочі місця; однак важливо зрозуміти, де людська експертиза залишається суттєвою, і як AI можна використовувати для доповнення, а не заміни, людських можливостей.
Однак існують глибші етичні питання. Коли дизайнери покладаються на людські дані, їм потрібно обробляти конфіденційність, упередження і прозорість відповідально. Робочий семінар лабораторії DIGIT визначив категорії “даних”, “людей” і “управління” як основні виклики галузі виробництва, підкресливши необхідність кращого збору даних, нагляду людини в циклі і ясних політик щодо безпеки, довіри, інтелектуальної власності та регулювання. Вирішення цих ризиків означає забезпечення того, що системи AI будуються на різноманітних даних, включення людської уваги на критичних точках і розробку інклюзивних стандартів дизайну, які поважають конфіденційність, згоду і культурний контекст.
Ви досліджували, як дані і AI можуть персоналізувати продукти навколо досвіду користувачів. Чи бачите ви майбутнє, де продукти еволюціонують динамічно на основі даних у реальному часі після виходу з заводу? Якщо так, то як дизайнерам потрібно підготуватися до цього світу?
Дані-орієнтований дизайн, використаний для продуктів, може бути персоналізованим, адаптованим або оновленим до індивідуальної поведінки. Вони потім стають “розумними” системами, які збирають дані про те, як вони використовуються, і спілкуються через вбудовані сенсори та IoT-з’єднання. У нашій рамці адаптаційні діяльності включають використання цих даних для оновлення і адаптації продуктів після виходу з заводу. Приклади включають зв’язування моделей розпізнавання жестів з цифровим двійником для людсько-роботизованого співробітництва і використання допомоги машинного навчання для створення персоналізованих компонентів.
Цей зсув створює нові відповідальності. Дизайнерам потрібно вирішити, які людські дані, поведінкові, фізіологічні, зворотні чи емоційні, є суттєвими. їм також потрібно забезпечити, щоб оновлення зберегли намічені естетичні і емоційні якості, які ми знаємо, пов’язані з формою і сприйняттям. Нарешті, управління має значення: наш промисловий семінар підкреслив, що питання щодо даних, довіри і конфіденційності вимагають ясних політик і людського нагляду. Коли все це робиться добре, еволюційні продукти можуть пропонувати тривалу вартість і реакцію без жертвування значенням або етикою.
Оглянувшись вперед, які великі дослідницькі питання мотивують вас зараз? І які прориви, ви вважаєте, галузі побачать у найближчі роки на перетині AI, креативності та інженерії дизайну?
Багато з цих викликів залишаються нерозв’язаними – кілька з яких я зараз працюю, включаючи роботу, щоб забезпечити, що загальні інструменти генерації AI можуть бути ефективно адаптовані до конкретних галузей, які хочуть їх прийняти.
На рівні галузі це може виглядати досить по-різному: у виробництві це може включати використання локальних моделей, тренованих на домен-специфічних знаннях, поряд з сильними заходами конфіденційності та безпеки; у творчих галузях фокус може бути на диверсифікації виходів і можливості більш значущого співробітництва між людьми та AI.
На технічному рівні ми експериментуємо з великими мовними моделями для підтримки завдань оцінки. Одне дослідження показало, що LLM можуть оцінювати новизну і корисність і вирівнюватися ближче до людських експертів, коли керуються добре спроектованими підказками. Пов’язана робота використовує ланцюг думок підказки і багатомодельну агрегацію для того, щоб зробити оцінку AI більш надійною. Ми також досліджуємо розмовних агентів для захоплення вимог цифрової трансформації організацій, демонструючи, що чатботи можуть проводити структуровані інтерв’ю ефективно. У поєднанні з роботою щодо використання людських даних у дизайні ці ініціативи вказують на майбутнє, в якому AI допомагає нам зберегти експертизу, приймати кращі рішення і залучати користувачів етично.
Дякую за вдумливе і проникливе інтерв’ю; читачам, які бажають дізнатися більше про роботу професора Ахмед-Крістенсен щодо AI-дизайну, креативності та відповідальної цифрової трансформації, можна дослідити тривалу роботу і ініціативи на лабораторії DIGIT.
