Профессор Саима Ахмед-Кристенсен, Директор лаборатории DIGIT – Серия интервью

Профессор Саима Ахмед-Кристенсен является ведущим ученым в области конструкторского проектирования и занимает должность заместителя проректора по исследованиям и воздействию в Университете Эксетера, где она также является директором лаборатории DIGIT, крупной междисциплинарной исследовательской инициативы, ориентированной на цифровые инновации и трансформацию. Ее исследования охватывают творчество и когнитивные процессы в проектировании, данные и цифровое проектирование, а также интеграцию передовых технологий в сложные инженерные и производственные процессы, с сильным акцентом на переводе академических знаний в реальные результаты посредством сотрудничества с промышленностью, взаимодействия с политикой и крупномасштабных исследовательских программ.

Ваша карьера охватывает Кембридж, DTU, Имперский колледж Лондона, Королевский колледж искусств и теперь Университет Эксетера. Оглядываясь назад, какие опыт или поворотные моменты наиболее сформировали ваше мышление о проектировании, творчестве и роли цифровых технологий?

Моя работа в области проектирования охватывала многие разные культуры и дисциплины. Я начала в Брунеле на одном из немногих курсов, который сочетал технологии, человеко-ориентированное проектирование и понимание формы. Это научило меня рано, что творчество и инновации тесно связаны.

Изучение в Кембридже затем расширило мое мышление. Колледжская среда познакомила меня с многими дисциплинами и показала мне, как инновации зависят от объединения знаний из разных областей. Моя диссертация была сосредоточена на аэрокосмической отрасли и изучала, как конструкторы-инженеры находят и используют информацию. Я изучала, как люди получают доступ к знаниям, как можно поддержать или воспроизвести экспертизу, и пересечение когнитивных процессов, информатики и инженерного проектирования. Этот человеко-ориентированный подход остался со мной с тех пор.

По мере роста цифровых технологий, росли и вопросы в моей работе. Рост данных IoT, ИИ и передовых вычислений сместил проектирование от человека к обществу. Это продолжает формировать мою работу в Университете Эксетера, где я руковожу лабораторией DIGIT и фокусируюсь на роли моделей обработки языка в творческом процессе, барьерах, с которыми сталкиваются отрасли при их внедрении, и том, как данные могут стимулировать инновации.

Мое время в Имперском колледже и Королевском колледже искусств укрепило, что проектирование – это гораздо больше, чем просто формирование продуктов или услуг. С правильными людьми, процессами и культурой проектирование становится движущей силой новых и масштабируемых технологий, материалов и идей, которые могут решить глобальные проблемы сегодня и завтра.

Лаборатория DIGIT фокусируется на цифровой трансформации внутри крупных устоявшихся организаций. С вашей точки зрения, что лидеры наиболее неправильно понимают о том, как ИИ изменит проектирование, инновации и принятие решений?

На протяжении десятилетий ИИ развивался в исследованиях и был принят в определенных отраслях, но прогресс часто был ограничен пробелами в навыках, пониманием лидерства и ясностью ценности и инфраструктуры. С ростом моделей обработки языка и генеративных инструментов, таких как DALL·E, ИИ стал более доступным и требует меньше специализированных знаний или настроек. Но это также вызывает новые вопросы о конфиденциальности, безопасности данных и том, как хорошо общие модели применяются к конкретным областям.

В проектировании и инновациях эти проблемы особенно актуальны. Наши исследования, которые изучали более 12 000 идей, сгенерированных людьми и ИИ, показали, что идеи ИИ склонны группироваться вокруг схожих концепций. Это подчеркивает необходимость включения человеческой экспертизы в общие инструменты, адаптации ИИ для области или понимания, когда и как использовать ИИ вместе с человеческим творчеством и принятием решений.

Многое из вашего исследования посвящено творчеству и когнитивным процессам в проектировании. С учетом того, что генеративный ИИ теперь может производить идеи, концепции и итерации в большом масштабе, какие аспекты творчества вы считаете уникально человеческими, а какие части могут ответственно перейти к процессам, управляемым ИИ?

Творчество всегда было для меня больше, чем просто генерирование альтернатив. Это вопрос намерения, культурного смысла и эмоциональной связи, которую создает дизайн. Наш недавний опрос лаборатории DIGIT привел это в острый фокус: 82% людей сказали нам, что человеческое руководство или гибридная работа кажется более осмысленной, и 71% сказали, что они чувствуют себя менее эмоционально связанными с дизайном только ИИ. Многие описали работу, сгенерированную ИИ, как “лишенную эмоций” (48%) или “чрезмерно идеальную” (40%), и 36% чувствовали, что ее влияние быстро исчезает. Эти ответы подтвердили то, во что я верил давно. Эмоциональная вовлеченность не является чем-то приятным; это необходимо для того, как люди переживают и ценят творческую работу.

Наши исследования, сравнивающие человеческие и ИИ-идеи, также показывают, что человеческие дизайнеры лучше создают разнообразные, новые идеи и обеспечивают, чтобы творческая продукция, будь то произведение искусства, дизайн продукта или услуги, имела глубину и смысл. Творческие эксперты обладают набором навыков, который пока невозможно воспроизвести. Дизайнерам необходимо понять проблему, прежде чем генерировать идеи, и модели обработки языка очень полезны в сборе информации, чтобы помочь дизайнерам перейти от одной проблемы к другой. Если мы можем включить модели человеческой экспертизы в инструменты ИИ, они также могут поддержать оценку идей, позволяя ИИ лучше использовать человеческие творческие навыки.

Подход “цепочка мыслей”, с которым мы экспериментируем, поддерживает ИИ для оценки дизайнерской креативности, не просто дает оценки. Во всех случаях человеческий надзор требуется для интерпретации результатов и обеспечения того, чтобы решения по дизайну соответствовали реальному опыту пользователей.

Очевидно, что мы должны либо создать модели, способные уловить, как люди переживают продукты, услуги и взаимодействия, либо интегрировать “толстые данные” (богатые качественные идеи, которые обеспечивают контекст) с “тонкими” или “большими” данными, которые мы собираем. Разработка этих моделей не является простой задачей, и именно здесь человеческое участие остается необходимым.

Итак, для меня вывод не в том, что ИИ не имеет места в творчестве. Напротив, это то, что ИИ и люди вносят разные сильные стороны. Тот факт, что люди последовательно реагируют более положительно на человеческую или гибридную работу, просто говорит нам, где находится центр тяжести. ИИ может помочь исследовать более широкое пространство дизайна, анализировать закономерности и предлагать структурированную критику, но эти восприятия плоскости, алгоритмического совершенства и эмоционального расстояния показывают, где ИИ все еще нуждается в человеческом суждении, чтобы превратить возможности в нечто, что резонирует.

Это почему я вижу будущее творчества как фундаментально совместное. ИИ может расширить поле возможностей. Дизайнеры приносят эмпатию, культурное понимание и чувство намерения, которое дает этим возможностям смысл. Когда два этих элемента работают вместе, с человеческим суждением, устанавливающим направление, и ИИ, обогащающим исследование, результатом является творческий процесс, который более строгий, более воображаемый и в конечном итоге более человеческий в своих результатах.

Вы разработали подходы для количественной оценки пользовательского опыта и структуризации знаний по дизайну. Как мы можем обеспечить, чтобы человеческий опыт, эмоции и культурные сигналы оставались центральными для процесса дизайна, когда ИИ-системы становятся более ответственными за генерирование продуктов и услуг?

Чтобы центрировать человеческий опыт, нам нужно внедрить знания о восприятии и эмоциях в наши методы.

Существуют два основных подхода. Первый признает необходимость качественных данных, которые позволяют глубоко понять человеческий опыт, восприятие и эмоции, информируя эффективное сотрудничество человека и ИИ. Второй – на котором сосредоточена моя работа – направлен на перевод этих знаний в модели, которые системы ИИ могут понять и использовать.

Эти модели сложны в разработке, поскольку они должны интегрировать пользовательский опыт, человеческое восприятие и характеристики продуктов или систем, которые проектируются, чтобы предсказать человеческие реакции и общий опыт.

Вы работаете обширно с сложными отраслями – аэрокосмической, медицинской, производственной и потребительских товаров. В этих высокорисковых средах, как вы балансируете потенциал дизайна, поддерживаемого ИИ, с необходимостью безопасности, отслеживаемости и доверия?

В высокорисковых секторах, таких как здравоохранение, аэрокосмическая промышленность и производство, вопрос не в том, можно ли использовать ИИ, а в том, как он управляется. Доверие в этих средах зависит от ясной подотчетности, отслеживаемости и объяснимости на каждом этапе процесса дизайна и принятия решений. ИИ может сыграть мощную поддерживающую роль в симуляции, оптимизации и исследовании на ранней стадии, но он не может стать окончательной властью.

Многие из этих областей строго регулируются и подвергаются жестким требованиям безопасности, которые требуют безопасного обращения со всеми данными, личными или коммерчески чувствительными. В этих контекстах часто необходимо разрабатывать и поддерживать свои собственные инструменты ИИ.

Что наше более широкое исследование последовательно показывает, так это то, что гибридные системы являются необходимыми: ИИ должен дополнять экспертное суждение, а не заменять его. Человеческий надзор должен оставаться встроенным в каждую критическую точку принятия решений, особенно когда речь идет о безопасности, риске и ответственности. Чтобы регулирующие органы и конечные пользователи доверяли системам, поддерживаемым ИИ, организациям также необходимо прозрачное документирование того, как модели обучаются, какие данные они используют и как генерируются выходные данные. Без этой прозрачности доверие не может масштабироваться, независимо от того, насколько продвинута технология.

Многие организации борются с разрывом между “экспериментированием с ИИ” и значимым интеграцией его в разработку продукта. Какие практические шаги вы бы рекомендовали командам, пытающимся перейти от экспериментирования к стратегической реализации?

Многие организации застревают на стадии экспериментирования, потому что они принимают ИИ без ясной стратегической цели. Первым практическим шагом является явное определение роли ИИ в процессе разработки, будь то поддержка идеации, ускорение тестирования, улучшение оценки или усиление принятия решений. Без этой ясности пилотные проекты остаются оторванными от реальных бизнес- и дизайн-результатов.

Командам также нужны правильные основы. Это означает инвестиции в высококачественные, хорошо управляемые данные, особенно данные, которые отражают реальный пользовательский опыт, а не просто техническую производительность. Это также означает быть реалистичным относительно текущих ограничений ИИ, особенно в творческом и человеко-ориентированном суждении, где экспертный надзор остается необходимым.

Многие отрасли начинают разрабатывать политику ИИ, которая руководит командами через процесс экспериментирования с ИИ, от построения бизнес-кейсов и запуска пилотных проектов до более широкого внедрения. Эти политики помогают организациям определить, где ИИ может действительно добавить ценность, а также обеспечить, чтобы люди оставались в цикле, где это необходимо.

Наконец, организации должны перейти через структурированные, низкорисковые пилотные проекты, которые встроены в реальные рабочие процессы, а не запускаются в изоляции. Эти пилотные проекты должны быть междисциплинарными, объединяя дизайнеров, инженеров, ученых-данных и экспертов отрасли, чтобы учиться и делиться знаниями. ИИ доставляет ценность, когда он спроектирован в повседневную практику, а не рассматривается как отдельный экспериментальный слой.

У вас есть длинный послужной список разработки методов для структуризации и автоматизации знаний. Насколько близко мы находимся к системам ИИ, которые могут рассуждать о намерении дизайна, потребностях пользователей и контексте таким образом, чтобы действительно добавлять ценность, а не просто генерировать контент?

В некоторых областях предсказание предпочтений пользователей относительно простое, поскольку можно использовать данные, такие как история просмотров или записи о просмотренных фильмах или телешоу, чтобы сделать рекомендации. Эти области выигрывают от легко доступных данных.

Однако ключевая проблема в проектировании продуктов и услуг заключается в том, что данные о выборах, потребностях и опыте людей часто не легко доступны.

Мое недавнее исследование с лабораторией DIGIT изучало способность модели обработки языка, когда она дана модели того, как люди воспринимают и реагируют на дизайнерские особенности. Однако текущие модели работают на основе закономерностей в данных и не могут контекстуализировать смысл. Ранее исследования, связывающие форму с восприятием, показывают, что даже небольшие изменения формы могут сдвигать эмоциональные реакции, и такие нюансы трудны для ИИ предвидеть без человеческого руководства или сложных моделей. Поэтому рассуждение ИИ о намерении улучшается, но остается дополнением к человеческой экспертизе.

Когда ИИ ускоряет циклы дизайна – от идеации до прототипирования – какие новые навыки понадобятся дизайнерам? Как университеты и организации должны переосмыслить обучение для следующего поколения творческих талантов?

Дизайнерам понадобится быть грамотными как в человеческом восприятии, так и в инструментах, поддерживаемых ИИ. Понимание того, как форма, материал и пропорция формируют эмоциональную реакцию, останется фундаментальным для хорошего дизайна. В то же время дизайнеры должны уметь работать уверенно с системами ИИ, которые поддерживают генерацию идей и оценку. Это означает не только использование инструментов, но и понимание, что они оптимизируют, и где лежат их ограничения. Когда ИИ становится более встроенным в рабочие процессы дизайна, способность критически интерпретировать его выходные данные и сочетать их с человеческим суждением станет одним из наиболее ценных творческих навыков.

Когда ИИ ускоряет циклы дизайна от идеации до прототипирования, дизайнерам понадобится новый набор возможностей и способов мышления, которые выходят за рамки традиционных навыков ремесла. Им понадобится понимание того, как работают цифровые технологии, какие типы данных могут (и не могут) раскрыть, и как сочетать экспертизу дизайна с грамотностью ИИ. Это включает в себя знание того, как работать с высококачественными, хорошо управляемыми данными, которые отражают реальный пользовательский опыт, а не только техническую производительность. Кроме того, дизайнерам понадобится суждение, чтобы распознавать, где полезен ИИ, а где человеческая креативность и критическое мышление должны оставаться центральными.

Чтобы удовлетворить эти потребности, университеты и организации должны переосмыслить, как они обучают следующее поколение творческих талантов. Некоторые университеты уже интегрируют науку о данных в программы дизайна; важный шаг, но не достаточно сам по себе. Что все еще отсутствует, так это методы дизайн-мышления, которые оснащены для реалий цифровой эпохи: методы, которые помогают дизайнерам сотрудничать с ИИ, работать между дисциплинами и ориентироваться в быстром экспериментировании, сохраняя при этом этический и человеко-ориентированный надзор.

Решение этой проблемы является необходимым. Это почему мой коллега доктор Джи Хан и я пишем книгу с Кембриджским университетским издательством о Дизайн-мышлении в цифровую эпоху, которая объединяет рамки, навыки и способы мышления, необходимые для эффективного дизайна вместе с ИИ.

Лаборатория DIGIT подчеркивает ответственное преобразование. С вашей точки зрения, какие этические или социальные риски требуют больше внимания, когда ИИ становится встроенным в рабочие процессы дизайна по отраслям?

Один из примеров – обеспечение этического использования данных, включая получение информированного согласия и поддержание прозрачности о наборах данных, используемых для разработки продуктов ИИ, а также о потенциальных предубеждениях, которые они могут содержать. Например, наборы данных, встроенные в системы здравоохранения, должны быть тщательно изучены, чтобы обеспечить их полное представление всего населения, выявить любые группы, которые могут быть недопредставлены, и подтвердить, что система ИИ пригодна для использования и инклюзивна. С социальной точки зрения часто существует беспокойство, что ИИ заменит рабочие места; однако важно понять, где человеческая экспертиза остается необходимой, и как ИИ можно использовать для дополнения, а не замены, человеческих возможностей.

Однако существуют более глубокие этические проблемы. Когда дизайнеры полагаются на человеческие данные, они должны обращаться с конфиденциальностью, предубеждениями и прозрачностью ответственно. Семинар лаборатории DIGIT определил отрасль “данные”, “человек” и “управление” как основные категории проблем, подчеркивая необходимость лучшего сбора данных, надзора человека в цикле и ясных политик по безопасности, доверию, интеллектуальной собственности и регулированию. Решение этих рисков означает обеспечение того, чтобы системы ИИ были построены на основе разнообразных данных, внедрение человеческого суждения на критических этапах и разработку инклюзивных стандартов дизайна, которые уважают конфиденциальность, согласие и культурный контекст.

Вы исследовали, как данные и ИИ могут адаптировать продукты вокруг пользовательского опыта. Видите ли вы будущее, где продукты эволюционируют динамически на основе данных в реальном времени после того, как они покидают завод? Если да, то как дизайнеры должны подготовиться к такому миру?

Данные, управляемые дизайном, используемые для продуктов, могут быть персонализированы, адаптированы или изменены в соответствии с индивидуальным поведением. Затем они становятся “умными” системами, которые собирают данные о том, как они используются, и общаются посредством встроенных датчиков и подключения IoT. В нашей рамке адаптация включает в себя использование этих данных для обновления и адаптации продуктов после того, как они покидают завод. Примеры включают связывание моделей распознавания жестов с цифровым двойником для сотрудничества человека и робота и использование машинного обучения для создания адаптированных компонентов.

Этот сдвиг создает новые обязанности. Дизайнерам необходимо решить, какие человеческие данные, поведенческие, физиологические, обратные или эмоциональные, имеют отношение. Им также необходимо обеспечить, чтобы обновления сохраняли намеченные эстетические и эмоциональные качества, которые мы знаем, связаны с формой и восприятием. Наконец, управление имеет значение: наш промышленный семинар подчеркнул, что проблемы, связанные с данными, доверием и конфиденциальностью, требуют ясных политик и человеческого надзора. Когда это делается хорошо, эволюционирующие продукты могут предложить постоянную ценность и отзывчивость, не жертвуя смыслом или этикой.

Оглядываясь вперед, какие большие исследовательские вопросы мотивируют вас сейчас? И какие прорывы, по вашему мнению, область увидит в ближайшие годы на пересечении ИИ, творчества и инженерии дизайна?

Многие из проблем, описанных выше, остаются нерешенными – несколько из которых я сейчас занимаюсь, включая работу по обеспечению того, чтобы общие инструменты генеративного ИИ могли быть эффективно адаптированы к конкретным секторам, которые хотят их принять.

На уровне сектора это может выглядеть довольно по-разному: в производстве это может включать использование локализованных моделей, обученных на знаниях области, вместе с сильными мерами по защите конфиденциальности и безопасности; в творческих отраслях фокус может быть на диверсификации выходных данных и обеспечении более осмысленного сотрудничества между людьми и ИИ.

На техническом уровне мы экспериментируем с большими языковыми моделями для поддержки задач оценки. Одно исследование показывает, что модели обработки языка могут оценить новизну и полезность и соответствовать более тесно с человеческими экспертами, когда они руководствуются хорошо спроектированными подсказками. Связанная статья использует цепочку мыслей и агрегацию нескольких моделей, чтобы сделать оценку ИИ более надежной. Мы также исследуем разговорных агентов для захвата требований цифровой трансформации организаций, демонстрируя, что чат-боты могут проводить структурированные интервью эффективно. В сочетании с работой над использованием человеческих данных в дизайне эти инициативы указывают на будущее, в котором ИИ помогает нам сохранить экспертизу, принимать лучшие решения и вовлекать пользователей этично.

Спасибо за вдумчивое и проницательное интервью; читатели, которые хотят узнать больше о работе профессора Ахмед-Кристенсен по дизайну, управляемому ИИ, творчеству и ответственной цифровой трансформации, могут изучить текущие исследования и инициативы в лаборатории DIGIT.