Профессор Саэма Ахмед-Кристенсен, Директор лаборатории DIGIT – Интервью

Профессор Саэма Ахмед-Кристенсен является ведущим ученым в области инженерного дизайна и занимает должность заместителя проректора по исследованиям и воздействию в Университете Эксетера, где она также является директором лаборатории DIGIT, крупной междисциплинарной исследовательской инициативы, ориентированной на цифровые инновации и трансформацию. Ее исследования охватывают дизайн, креативность и когнитивные процессы, данные и цифровой дизайн, а также интеграцию передовых технологий в сложные инженерные и производственные процессы, с сильным акцентом на переводе академических знаний в реальное воздействие через сотрудничество с промышленностью, участие в политике и крупномасштабные исследовательские программы.

Ваша карьера охватывает Кембридж, DTU, Имперский колледж Лондона, Королевскую академию искусств и теперь Университет Эксетера. Оглядываясь назад, какие переживания или поворотные моменты наиболее сформировали ваше мышление о дизайне, креативности и роли цифровых технологий?

Моя работа в дизайне охватывала многие культуры и дисциплины. Я начала в Брунеле на одном из немногих курсов, который объединял технологии, человеко-ориентированный дизайн и понимание формы. Это научило меня рано, что креативность и инновации тесно связаны.

Изучение в Кембридже еще больше расширило мои взгляды. Колледж окружил меня многими дисциплинами и показал, как инновации зависят от объединения знаний из разных областей. Моя диссертация была сосредоточена на аэрокосмической отрасли и исследовала, как инженеры-дизайнеры находят и используют информацию. Я изучала, как люди получают знания, как можно поддержать или воспроизвести экспертизу, и пересечение между когнитивными процессами, информатикой и инженерным дизайном. Этот человеко-ориентированный взгляд остался со мной с тех пор.

По мере роста цифровых технологий, росли и вопросы в моей работе. Рост IoT-данных, ИИ и передовых вычислений сместил дизайн от человека-ориентированного к обществу-ориентированному. Это продолжает формировать мою работу в Университете Эксетера, где я руковожу лабораторией DIGIT и фокусируюсь на роли больших языковых моделей в творческом процессе, барьерах, с которыми сталкиваются отрасли при их внедрении, и том, как данные могут стимулировать инновации.

Мое время в Имперском колледже и Королевской академии искусств еще больше укрепило, что дизайн – это гораздо больше, чем просто формирование продуктов или услуг. С правильными людьми, процессами и культурой дизайн становится движущей силой новых и масштабируемых технологий, материалов и идей, которые могут решить сегодняшние и завтрашние глобальные проблемы.

Лаборатория DIGIT фокусируется в основном на цифровой трансформации внутри крупных устоявшихся организаций. С вашей точки зрения, что лидеры наиболее неправильно понимают о том, как ИИ изменит дизайн, инновации и принятие решений?

На протяжении десятилетий ИИ продвигался в исследованиях и был принят в определенных отраслях, но прогресс часто был ограничен пробелами в навыках, пониманием лидерства и ясностью ценности и необходимой инфраструктуры. С ростом больших языковых моделей и генеративных инструментов, таких как DALL·E, ИИ стал более доступным и требует гораздо меньше специализированной экспертизы или настройки. Но это также вызывает новые вопросы о конфиденциальности, безопасности данных и том, насколько хорошо общие модели применяются к конкретным доменам.

В дизайне и инновациях эти проблемы особенно актуальны. Наши исследования, которые изучали более 12 000 идей, сгенерированных людьми и ИИ, показали, что идеи ИИ склонны группироваться вокруг схожих концепций. Это подчеркивает необходимость включения человеческой экспертизы в общие инструменты, адаптации ИИ для домена или понимания того, когда и как использовать ИИ вместе с человеческой креативностью и принятием решений.

Многое из ваших исследований исследует креативность и когнитивные процессы в дизайне. С учетом того, что генеративный ИИ теперь способен производить идеи, концепции и итерации в большом масштабе, какие аспекты креативности, по вашему мнению, являются уникально человеческими, а какие части могут ответственно сместиться в сторону ИИ-ориентированных процессов?

Креативность всегда была для меня больше, чем просто генерация альтернатив. Это вопрос намерения, культурного смысла и эмоциональной связи, которую дизайн создает. Наш недавний опрос лаборатории DIGIT привел это в острый фокус: 82% людей сказали нам, что человеко-ориентированная или гибридная работа кажется более осмысленной, и 71% сказали, что они чувствуют себя менее эмоционально связанными с дизайном только ИИ. Многие описали работу, сгенерированную ИИ, как “лишенную эмоций” (48%) или “чрезмерно идеальную” (40%), и 36% чувствовали, что ее влияние быстро исчезает. Эти ответы подтвердили то, во что я верила давно. Эмоциональная вовлеченность не является чем-то, что просто приятно иметь; это необходимо для того, как люди переживают и ценят творческую работу.

Наши исследования, сравнивающие человеческие и ИИ-идеи, также показывают, что человеческие дизайнеры лучше создают разнообразные, новые идеи и обеспечивают, чтобы творческая продукция, будь то произведение искусства, дизайн продукта или услуги, имела глубину и смысл. Эксперты по дизайну обладают набором навыков, который пока невозможно воспроизвести. Дизайнерам необходимо понять проблему, прежде чем генерировать идеи, и ИИ может поддержать оценку идей, позволяя ИИ лучше использовать человеческие творческие навыки.

Подход “цепочка мыслей”, с которым мы экспериментируем, поддерживает ИИ, следующий за экспертным обоснованием, не просто дает оценки. Во всех случаях человеческий надзор требуется для интерпретации результатов и обеспечения того, чтобы дизайнерские решения соответствовали опыту пользователей.

Очевидно, что нам необходимо либо создать модели, способные уловить, как люди переживают продукты, услуги и взаимодействия в способах, которые компьютеры могут интерпретировать, либо интегрировать толстые данные (богатые качественные идеи, которые обеспечивают контекст) с тонкими или большими данными, которые мы собираем. Разработка этих моделей не является простой задачей, и это именно то место, где человеческое участие остается необходимым.

Итак, для меня вывод не в том, что ИИ не имеет места в креативности. Напротив, это в том, что ИИ и люди вносят разные сильные стороны. Тот факт, что люди постоянно реагируют более положительно на человеческую или гибридную работу, просто говорит нам, где находится центр тяжести. ИИ может помочь исследовать более широкое пространство дизайна, анализировать закономерности и предлагать структурированную критику, но эти восприятия плоскости, алгоритмического совершенства и эмоционального расстояния показывают, где ИИ все еще нуждается в человеческом суждении, чтобы превратить возможности в нечто, что резонирует.

Это почему я вижу будущее креативности как фундаментально совместное. ИИ может расширить поле возможностей. Дизайнеры приносят сочувствие, культурное понимание и чувство намерения, которое дает этим возможностям смысл. Когда два работают вместе, с человеческим суждением, устанавливающим направление, и ИИ, обогащающим исследование, результатом является творческий процесс, который более строгий, более воображаемый и в конечном итоге более человеческий в своих результатах.

Вы разработали подходы для количественной оценки пользовательского опыта и структуризации знаний дизайна. Когда системы ИИ становятся более ответственными за генерацию продуктов и услуг, как мы можем обеспечить, чтобы человеческий опыт, эмоции и культурные сигналы оставались центральными для процесса дизайна?

Чтобы центрировать человеческий опыт, нам нужно встроить знания о восприятии и эмоциях в наши методы.

Существует два основных подхода. Первый признает необходимость качественных данных, которые позволяют глубоко понять человеческий опыт, восприятие и эмоции, информируя эффективное сотрудничество между человеком и ИИ. Второй – на котором сосредоточена моя работа – направлен на перевод этих знаний в модели, которые системы ИИ могут понять и использовать.

Эти модели сложны в разработке, поскольку они должны интегрировать пользовательский опыт, человеческое восприятие и характеристики продуктов или систем, которые проектируются, чтобы предсказать человеческие реакции и общий опыт.

Вы работаете обширно с сложными отраслями – аэрокосмической, медицинской, производственной и потребительскими товарами. В этих высокорисковых средах, как вы балансируете потенциал ИИ-поддержанного дизайна с необходимостью безопасности, прослеживаемости и доверия?

В высокорисковых секторах, таких как здравоохранение, аэрокосмическая промышленность и производство, вопрос заключается не в том, может ли ИИ быть использован, а в том, как он управляется. Доверие в этих средах зависит от ясной подотчетности, прослеживаемости и объяснимости на каждом этапе процесса дизайна и принятия решений. ИИ может сыграть мощную поддерживающую роль в симуляции, оптимизации и ранней стадии исследования, но он не может стать окончательной властью.

Многие из этих областей тесно регулируются и подлежат строгим требованиям безопасности, которые требуют безопасного обращения со всеми данными, личными или коммерчески чувствительными. В этих контекстах часто необходимо разрабатывать подсказки или запросы, используя локальные данные, чтобы обеспечить специфику и актуальность, и не редко организации в этих секторах строят и поддерживают свои собственные инструменты ИИ.

Что наши более широкие исследования последовательно показывают, так это то, что гибридные системы являются необходимыми: ИИ должен дополнять экспертное суждение, а не заменять его. Человеческий надзор должен оставаться встроенным в каждую критическую точку принятия решений, особенно когда речь идет о безопасности, риске и ответственности. Чтобы регулирующие органы и конечные пользователи доверяли системам, работающим на ИИ, организациям также необходимо иметь прозрачную документацию о том, как модели обучаются, какие данные они используют и как генерируются выходные данные. Без этой прозрачности доверие не может масштабироваться, независимо от того, насколько продвинута технология.

Многие организации борются с разрывом между “экспериментированием с ИИ” и значимым интегрированием его в разработку продукта. Какие практические шаги вы бы порекомендовали командам, пытающимся перейти от экспериментирования к стратегической реализации?

Многие организации застревают на стадии экспериментирования, потому что они принимают ИИ без ясной стратегической цели. Первый практический шаг – быть явным о том, какая роль ИИ предназначена для процесса разработки, будь то поддержка идеации, ускорение тестирования, улучшение оценки или улучшение принятия решений. Без этой ясности пилотные проекты остаются оторванными от реальных бизнес- и дизайнерских результатов.

Командам также необходимы правильные основы. Это означает инвестиции в высококачественные, хорошо управляемые данные, особенно данные, которые отражают реальный опыт пользователей, а не просто техническую производительность. Это также означает быть реалистичным относительно текущих ограничений ИИ, особенно в творческих и человеко-ориентированных суждениях, где экспертный надзор остается необходимым.

Многие секторы начинают разрабатывать политику ИИ, которая направляет команды через процесс экспериментирования с ИИ, от построения бизнес-кейсов и запуска пилотных проектов до более широкого внедрения. Эти политики помогают организациям определить, где ИИ может действительно добавить ценность, а также обеспечить, чтобы люди оставались в цикле, где это необходимо.

Наконец, организации должны продвигаться через структурированные, низкорисковые пилотные проекты, которые встроены в реальные рабочие процессы, а не запускаются в изоляции. Эти пилотные проекты должны быть междисциплинарными, объединяя дизайнеров, инженеров, ученых-данных и экспертов в области, чтобы обучение было общим и переносимым. ИИ доставляет ценность, когда он спроектирован в повседневную практику, а не рассматривается как отдельный экспериментальный слой.

У вас есть длинная история разработки методов для структуризации и автоматизации знаний. Насколько близко мы находимся к системам ИИ, которые могут рассуждать о дизайнерском намерении, потребностях пользователей и контексте таким образом, чтобы действительно добавлять ценность, а не просто генерировать контент?

В некоторых областях предсказание предпочтений пользователей относительно просто, поскольку можно использовать данные, такие как история просмотров или записи о просмотренных фильмах или телешоу, чтобы сделать рекомендации. Эти области выигрывают от легко доступных данных.

Напротив, одним из ключевых проблем в дизайне продуктов и услуг является то, что данные о выборах, потребностях и опыте людей часто не легко доступны.

Мои недавние исследования с лабораторией DIGIT изучали способность большой языковой модели, когда ей предоставлена модель того, как люди воспринимают и реагируют на дизайнерские особенности, однако, текущие модели работают на закономерностях в данных и не могут контекстуализировать смысл. Ранее исследования, связывающие форму с восприятием, показывают, что даже небольшие изменения формы могут сдвигать эмоциональные реакции, и такие нюансы трудны для ИИ предвидеть без человеческого руководства или сложных моделей.

Когда ИИ ускоряет циклы дизайна – от идеации до прототипирования – какие новые навыки понадобятся дизайнерам? Как университеты и организации должны переосмыслить подготовку следующего поколения творческих талантов?

Дизайнерам понадобится быть свободными как в человеческом восприятии, так и в инструментах, работающих на ИИ. Понимание того, как форма, материал и пропорция формируют эмоциональную реакцию, останется фундаментальным для хорошего дизайна. В то же время дизайнеры должны уметь работать уверенно с системами ИИ, которые поддерживают генерацию идей и оценку. Это означает не только использование инструментов, но и понимание того, что они оптимизируют, и где лежат их ограничения. Когда ИИ становится более встроенным в рабочие процессы дизайна, способность критически интерпретировать его выводы и сочетать их с человеческим суждением станет одним из самых ценных творческих навыков.

По мере того, как ИИ ускоряет циклы дизайна от идеации до прототипирования, дизайнерам понадобится новый набор возможностей и способов мышления, выходящих за рамки традиционных ремесленных навыков. Им понадобится понимание того, как цифровые технологии работают, что могут (и не могут) показать разные типы данных, и как сочетать экспертизу дизайна с грамотностью ИИ. Это включает в себя знание того, как работать с высококачественными, хорошо управляемыми данными, которые отражают реальный опыт пользователей, а не полагаться исключительно на технические показатели производительности. Кроме того, дизайнерам понадобится суждение, чтобы распознавать, где ИИ полезен, а где человеческая креативность и критическое мышление должны оставаться центральными.

Чтобы удовлетворить эти потребности, университетам и организациям придется переосмыслить, как они готовят следующее поколение творческих талантов. Некоторые университеты уже интегрируют науку о данных в программы дизайна; это важный шаг, но не достаточно сам по себе. То, что все еще отсутствует, – это методы дизайнерского мышления, которые оснащены для реалий цифровой эпохи: методы, которые помогают дизайнерам сотрудничать с ИИ, работать в междисциплинарных командах и ориентироваться в быстром экспериментировании, сохраняя при этом этические и человеко-ориентированные надзор.

Решение этой проблемы является необходимым. Это почему мой коллега, доктор Джи Хан, и я пишем книгу с издательством Кембриджского университета о Дизайнерском мышлении в цифровую эпоху, которая объединяет рамки, навыки и способы мышления, необходимые для эффективного дизайна вместе с ИИ.

Лаборатория DIGIT подчеркивает ответственное преобразование. С вашей точки зрения, какие этические или социальные риски требуют больше внимания, когда ИИ становится более встроенным в рабочие процессы дизайна по всем отраслям?

Одним из примеров является обеспечение этического использования данных, включая получение информированного согласия и поддержание прозрачности о наборах данных, используемых для разработки продуктов ИИ, а также о потенциальных предубеждениях, которые они могут содержать. Например, наборы данных, встроенные в системы здравоохранения, должны быть тщательно изучены, чтобы обеспечить, что они адекватно представляют все население, выявляют любые группы, которые могут быть недопредставлены, и подтверждают, что система ИИ пригодна для использования и инклюзивна. С социальной точки зрения часто существует обеспокоенность, что ИИ заменит рабочие места; однако важно понять, где человеческая экспертиза остается необходимой, и как ИИ может быть использован для дополнения, а не замены человеческих возможностей.

Однако существуют более глубокие этические проблемы. Когда дизайнеры полагаются на человеческие данные, они должны обращаться с конфиденциальностью, предубеждениями и прозрачностью ответственно. Семинар лаборатории DIGIT выявил, что в производственной отрасли “данные”, “человеческие” и “управление” являются основными категориями проблем, подчеркивая необходимость лучшего сбора данных, надзора человека и ясных политик в отношении безопасности, доверия, интеллектуальной собственности и регулирования. Решение этих рисков означает обеспечение того, что системы ИИ строятся на разнообразных данных, включение человеческого суждения на критических этапах и разработку инклюзивных стандартов дизайна, которые уважают конфиденциальность, согласие и культурный контекст.

Вы исследовали, как данные и ИИ могут персонализировать продукты вокруг пользовательского опыта. Видите ли вы будущее, где продукты эволюционируют динамически на основе реальных данных после того, как они покидают завод? Если да, то как дизайнеры должны подготовиться к такому миру?

Данные, управляемые дизайном, используемые для продуктов, могут быть персонализированы, адаптированы или изменены в соответствии с индивидуальными поведениями. Затем они становятся “умными” системами, которые собирают данные о том, как они используются, и общаются через встроенные датчики и подключение IoT. В нашей рамке адаптивные действия включают использование этих данных для обновления и адаптации продуктов после того, как они покидают завод. Примеры включают связывание моделей распознавания жестов с цифровым двойником для сотрудничества человека и робота и использование машинного обучения для создания адаптированных компонентов.

Этот сдвиг создает новые обязанности. Дизайнерам необходимо решить, какие человеческие данные, поведенческие, физиологические, обратные или эмоциональные, имеют отношение. Им также необходимо обеспечить, чтобы обновления сохраняли предполагаемые эстетические и эмоциональные качества, которые мы знаем, связаны с формой и восприятием. Наконец, управление имеет значение: наш промышленный семинар подчеркнул, что вопросы, связанные с данными, доверием и конфиденциальностью, требуют ясных политик и человеческого надзора. Когда это делается хорошо, эволюционирующие продукты могут предложить постоянную ценность и отзывчивость без жертвования смыслом или этикой.

Оглядываясь вперед, какие большие исследовательские вопросы мотивируют вас сейчас? И какие прорывы, по вашему мнению, область увидит на пересечении ИИ, креативности и инженерного дизайна в ближайшие годы?

Многие из проблем, описанных выше, остаются нерешенными – несколько из которых я сейчас занимаюсь, включая работу по обеспечению того, чтобы общие генеративные инструменты ИИ могли быть эффективно адаптированы к конкретным секторам, которые хотят их принять.

На уровне сектора это может выглядеть совсем иначе: в производстве это может включать использование локальных моделей, обученных на знаниях домена, вместе с сильными мерами по конфиденциальности и безопасности; в творческих отраслях фокус может быть на диверсификации выводов и облегчении более осмысленного сотрудничества между людьми и ИИ.

На техническом уровне мы экспериментируем с большими языковыми моделями для поддержки задач оценки. Одно исследование показывает, что ИИ может оценить новизну и полезность и выровнять более тесно с человеческими экспертами, когда руководствуется хорошо спроектированными подсказками. Связанная статья использует цепочку мыслей и много-модельную агрегацию для того, чтобы сделать оценку ИИ более надежной. Мы также исследуем разговорных агентов для захвата требований цифровой трансформации организаций, демонстрируя, что чат-боты могут проводить структурированные интервью эффективно. В сочетании с работой над использованием человеческих данных в дизайне эти инициативы указывают на будущее, в котором ИИ помогает нам сохранить экспертизу, принимать лучшие решения и вовлекать пользователей этично.

Спасибо за вдумчивое и проницательное интервью; читатели, которые хотят узнать больше о работе профессора Ахмед-Кристенсен по ИИ-ориентированному дизайну, креативности и ответственной цифровой трансформации, могут изучить текущие исследования и инициативы в лаборатории DIGIT.