Интервью
Профессор Саима Ахмед-Кристенсен, директор лаборатории DIGIT – серия интервью.
Профессор Саима Ахмед-Кристенсен является ведущим ученым в области проектирования и инженерии и заместителем проректора по исследованиям и влиянию в университете. Университет Эксетерагде она также занимает должность директора. DIGIT Lab, Ее исследования охватывают масштабную междисциплинарную исследовательскую инициативу, направленную на цифровые инновации и трансформацию. Она занимается исследованиями в области творческого подхода к дизайну и когнитивных процессов, проектирования на основе данных и цифровых технологий, а также интеграции передовых технологий в сложные инженерные и производственные процессы, уделяя особое внимание преобразованию академических знаний в реальные практические результаты посредством сотрудничества с промышленностью, взаимодействия с политическими структурами и крупномасштабных исследовательских программ.
Ваша карьера охватывает Кембридж, Технологический университет Дублина, Имперский колледж Лондона, Королевский колледж искусств, а теперь и Эксетерский университет. Оглядываясь назад, какие события или поворотные моменты оказали наибольшее влияние на ваше понимание дизайна, творчества и роли цифровых технологий?
Моя работа в сфере дизайна охватывает множество различных культур и дисциплин. Я начала обучение в Брунельском университете на одном из немногих в то время курсов, который объединял технологии, человекоцентрированный дизайн и понимание формы. Это с самого начала научило меня тому, что творчество и инновации тесно связаны.
Обучение в Кембридже расширило мои горизонты мышления. Студенческая среда познакомила меня со многими дисциплинами и показала, как инновации зависят от объединения знаний из разных областей. Моя докторская диссертация была посвящена аэрокосмическому сектору и исследовала, как инженеры-конструкторы находят и используют информацию. Я изучал, как люди получают доступ к знаниям, как можно поддерживать или воспроизводить экспертные знания, а также взаимосвязь между когнитивными науками, информатикой и инженерным проектированием. Этот человекоцентричный подход остался со мной навсегда.
По мере развития цифровых технологий росло и число вопросов, рассматриваемых в моей работе. Развитие данных Интернета вещей, искусственного интеллекта и передовых вычислительных технологий сместило акцент в дизайне от исключительно человекоцентричного подхода к социально-ориентированному. Это продолжает формировать мою работу в Эксетерском университете, где я возглавляю лабораторию DIGIT и изучаю роль магистерских программ в творческом процессе, барьеры, с которыми сталкиваются отрасли при их внедрении, и то, как данные могут стимулировать инновации.
Время, проведенное в Имперском колледже и Королевском колледже искусств, подтвердило, что дизайн — это гораздо больше, чем просто создание продуктов или услуг. При наличии подходящих людей, процессов и культуры дизайн становится движущей силой новых и масштабируемых технологий, материалов и идей, способных решать глобальные проблемы сегодняшнего и завтрашнего дня.
DIGIT Lab уделяет большое внимание цифровой трансформации внутри крупных устоявшихся организаций. С вашей точки зрения, что, по вашему мнению, руководители чаще всего неправильно понимают в отношении того, как ИИ изменит дизайн, инновации и принятие решений?
На протяжении десятилетий исследования в области ИИ продвигались, и он внедрялся в определенные отрасли, но прогресс часто ограничивался нехваткой квалифицированных кадров, непониманием со стороны руководства и отсутствием ясности в отношении ценности и необходимой инфраструктуры. С появлением программ LLM и генеративных инструментов, таких как DALL·E, ИИ стал более доступным и требует гораздо меньше специальных знаний или настройки. Но это также поднимает новые вопросы о конфиденциальности, безопасности данных и о том, насколько хорошо модели общего назначения применимы к конкретным областям.
В сфере дизайна и инноваций эти проблемы особенно очевидны. Наше исследование, в котором было проанализировано более 12 000 идей, сгенерированных людьми и искусственным интеллектом, показало, что идеи, связанные с ИИ, как правило, группируются вокруг схожих концепций. Это подчеркивает необходимость включения человеческого опыта в универсальные инструменты, адаптации ИИ для конкретной области или понимания того, когда и как использовать ИИ наряду с человеческим творчеством и принятием решений.
Значительная часть ваших исследований посвящена изучению творчества и когнитивных процессов в дизайне. Учитывая, что генеративный ИИ теперь способен создавать идеи, концепции и итерации в больших масштабах, какие аспекты творчества вы считаете уникально человеческими, и какие из них могут ответственно перейти к процессам, управляемым ИИ?
Для меня творчество всегда было чем-то большим, чем просто создание альтернатив. Речь идёт о намерениях, культурном значении и эмоциональной связи, которую создаёт дизайн. Недавний опрос DIGIT Lab это наглядно продемонстрировал: 82% респондентов заявили, что работа, выполненная человеком или в гибридном формате, кажется им более осмысленной, а 71% сказали, что чувствуют меньшую эмоциональную связь с дизайном, созданным исключительно ИИ. Многие описывали работу, созданную ИИ, как «лишённую эмоций» (48%) или «чрезмерно идеальную» (40%), а 36% отметили, что её эффект быстро угасает. Эти ответы подтвердили то, во что я давно верю. Эмоциональная вовлеченность — это не просто желательный, а необходимый элемент того, как люди воспринимают и ценят творческую работу.
Наше исследование, сравнивающее идеи людей и искусственного интеллекта, также показывает, что дизайнеры-люди лучше справляются с созданием разнообразных, оригинальных идей и обеспечением глубины и смысла в результатах творчества, будь то произведения искусства, дизайн продукции или услуги. Креативные эксперты обладают набором навыков, который пока невозможно воспроизвести. Дизайнерам необходимо понимать проблему, прежде чем генерировать идеи, и модели LLM очень полезны для сбора информации, помогающей дизайнерам переходить от одной проблемы к другой. Если мы сможем интегрировать модели человеческого опыта в инструменты ИИ, они также смогут поддерживать оценку идей, позволяя ИИ лучше использовать творческие навыки человека.
Метод «цепочки мыслей», который мы экспериментируем, подтверждает... Магистратура (LLM) – выбор, соответствующий мнению эксперта. рассуждениене просто выставлять оценки. Во всех случаях необходим человеческий контроль для интерпретации результатов и обеспечения соответствия проектных решений реальному опыту пользователей.
Совершенно очевидно, что нам необходимо либо создать модели, способные фиксировать то, как люди воспринимают продукты, услуги и взаимодействия, таким образом, чтобы компьютеры могли их интерпретировать, либо интегрировать «плотные» данные (богатые качественные сведения, обеспечивающие контекст) с «тонкими» или «большими» данными, полученными с помощью датчиков. Разработка таких моделей — непростая задача, и именно здесь участие человека остается крайне важным.
Таким образом, для меня главный вывод не в том, что ИИ не место в творчестве. Совсем наоборот. Дело в том, что ИИ и люди обладают разными сильными сторонами. Тот факт, что люди неизменно более позитивно реагируют на работу человека или гибридную работу, просто показывает, где находится центр тяжести. ИИ может помочь исследовать более широкое пространство проектирования, анализировать закономерности и предлагать структурированную критику, но эти представления о плоскостности, алгоритмическом совершенстве и эмоциональной дистанции показывают, что ИИ по-прежнему нуждается в человеческом суждении, чтобы превратить возможности в нечто, что находит отклик.
Вот почему я вижу будущее творчества как принципиально основанное на сотрудничестве. Искусственный интеллект может расширить поле возможностей. Дизайнеры привносят эмпатию, понимание культуры и чувство замысла, которые придают этим возможностям смысл. Когда они работают вместе, при этом человеческое суждение задает направление, а ИИ обогащает процесс исследования, результатом становится творческий процесс, который становится более строгим, более образным и, в конечном итоге, более человечным по своим результатам.
Вы разработали новаторские подходы к количественной оценке пользовательского опыта и структурированию знаний в области проектирования. Поскольку системы искусственного интеллекта все больше отвечают за создание продуктов и услуг, как мы можем гарантировать, что человеческий опыт, эмоции и культурные сигналы останутся в центре внимания процесса проектирования?
Чтобы поставить человеческий опыт в центр внимания, нам необходимо включить знания о восприятии и эмоциях в наши методы.
Существует два основных подхода. Первый признает необходимость качественных данных, позволяющих глубоко понять человеческий опыт, восприятие и эмоции, что способствует эффективному сотрудничеству человека и ИИ. Второй подход, на котором сосредоточена моя работа, направлен на преобразование этих знаний в модели, которые системы ИИ могут понимать и использовать.
Разработка таких моделей сложна, поскольку они должны учитывать пользовательский опыт, человеческое восприятие и характеристики проектируемых продуктов или систем, чтобы прогнозировать реакцию человека и общее впечатление от использования.
Вы много работаете со сложными отраслями – аэрокосмической, медицинской, производственной и производством потребительских товаров. В этих условиях, где ставки вы выстраиваются очень высоко, как вы находите баланс между потенциалом проектирования с использованием ИИ и необходимостью обеспечения безопасности, отслеживаемости и доверия?
В таких высокорискованных секторах, как здравоохранение, аэрокосмическая промышленность и производство, вопрос не в том, можно ли использовать ИИ, а в том, как им управлять. Доверие в этих средах зависит от четкой подотчетности, отслеживаемости и объяснимости на каждом этапе проектирования и принятия решений. ИИ может играть важную вспомогательную роль в моделировании, оптимизации и исследованиях на ранних стадиях, но он не может стать окончательным авторитетом.
Многие из этих областей строго регулируются и подлежат жестким требованиям безопасности, которые требуют безопасного обращения со всеми данными, как личными, так и коммерчески важными. В таких условиях часто необходимо разрабатывать подсказки или запросы, используя локальные данные, чтобы обеспечить конкретность и релевантность, и для организаций в этих секторах характерно создание и поддержка собственных инструментов искусственного интеллекта.
Наши более масштабные исследования неизменно показывают, что гибридные системы необходимы: ИИ должен дополнять экспертное суждение, а не заменять его. Человеческий контроль должен оставаться неотъемлемой частью каждого критически важного момента принятия решения, особенно в вопросах безопасности, рисков и ответственности. Для того чтобы регулирующие органы и конечные пользователи доверяли системам с поддержкой ИИ, организациям также необходима прозрачная документация о том, как обучаются модели, какие данные они используют и как генерируются результаты. Без этой прозрачности доверие не сможет масштабироваться, независимо от того, насколько продвинутой станет технология.
Многие организации сталкиваются с проблемой разрыва между «экспериментами с ИИ» и его осмысленной интеграцией в разработку продукта. Какие практические шаги вы бы порекомендовали командам, пытающимся перейти от экспериментов к стратегической реализации?
Многие организации застревают на этапе экспериментов, потому что внедряют ИИ без четкой стратегической цели. Первым практическим шагом является четкое определение роли ИИ в процессе разработки, будь то поддержка генерации идей, ускорение тестирования, улучшение оценки или повышение эффективности принятия решений. Без этой ясности пилотные проекты остаются оторванными от реального бизнеса и результатов проектирования.
Командам также необходима правильная основа. Это означает инвестиции в высококачественные, хорошо управляемые данные, особенно данные, отражающие реальный пользовательский опыт, а не исключительно технические характеристики. Это также означает реалистичную оценку текущих ограничений ИИ, особенно в творческом и человекоцентрированном принятии решений, где экспертный контроль по-прежнему имеет важное значение.
Во многих отраслях начинают разрабатываться политики в области ИИ, которые направляют команды на всех этапах экспериментирования с ИИ: от разработки бизнес-планов и проведения пилотных проектов до более широкого внедрения. Эти политики помогают организациям определить, где ИИ действительно может принести пользу, одновременно обеспечивая участие человека там, где это необходимо.
Наконец, организациям следует проводить структурированные пилотные проекты с низким уровнем риска, интегрированные в реальные рабочие процессы, а не реализуемые изолированно. Эти пилотные проекты должны быть междисциплинарными, объединяя дизайнеров, инженеров, специалистов по обработке данных и экспертов в предметной области, чтобы обмен опытом и возможность его применения были эффективными. Искусственный интеллект приносит пользу, когда он интегрирован в повседневную практику, а не рассматривается как отдельный экспериментальный слой.
У вас богатый опыт разработки методов структурирования и автоматизации знаний. Насколько мы близки к созданию систем искусственного интеллекта, способных анализировать замысел дизайна, потребности пользователей и контекст таким образом, чтобы это действительно приносило пользу, а не просто генерировало контент?
В некоторых областях прогнозирование пользовательских предпочтений относительно просто, поскольку для формирования рекомендаций можно использовать такие данные, как история просмотров или записи о просмотренных фильмах или телепередачах. В таких областях преимуществом является наличие легкодоступных данных.
Напротив, ключевая проблема при разработке продуктов и услуг заключается в том, что данные о выборе, потребностях и жизненном опыте людей зачастую труднодоступны.
My Недавние исследования В сотрудничестве с Digit Lab было проведено исследование возможностей LLM (Low Linear Model — логическая модель поведения людей при взаимодействии с элементами дизайна). Однако существующие модели работают на основе закономерностей в данных и не могут контекстуализировать значение. Более ранние исследования, связывающие форму с восприятием, показывают, что даже небольшие изменения формы могут влиять на эмоциональные реакции, и такие тонкости трудно предвидеть ИИ без участия человека или сложных моделей. Поэтому способность ИИ к рассуждениям о намерениях улучшается, но он по-прежнему остается дополнением к человеческому опыту.
Поскольку искусственный интеллект ускоряет циклы проектирования — от генерации идей до прототипирования — какие новые навыки понадобятся дизайнерам? Как университетам и организациям следует переосмыслить подготовку следующего поколения творческих талантов?
Дизайнерам потребуется свободно владеть как человеческим восприятием, так и инструментами, использующими искусственный интеллект. Понимание того, как форма, материал и пропорции формируют эмоциональную реакцию, останется основополагающим для хорошего дизайна. В то же время дизайнеры должны уметь уверенно работать с системами ИИ, которые поддерживают генерацию и оценку идей. Это означает не просто использование инструментов, но и понимание того, для чего они оптимизированы и в чем заключаются их ограничения. По мере того, как ИИ все больше интегрируется в рабочие процессы проектирования, способность критически интерпретировать его результаты и сочетать их с человеческим суждением станет одним из самых ценных творческих навыков.
Поскольку ИИ ускоряет циклы проектирования от идеи до прототипирования, дизайнерам потребуется новое сочетание навыков и способов мышления, выходящих за рамки традиционных ремесленных умений. Им необходимо понимать, как работают цифровые технологии, что могут (и чего не могут) раскрыть различные типы данных, и как сочетать экспертные знания в области дизайна с пониманием ИИ. Это включает в себя умение работать с высококачественными, хорошо управляемыми данными, отражающими реальный пользовательский опыт, а не полагаться исключительно на технические показатели производительности. Наряду с этим, дизайнерам также потребуется умение определять, где ИИ полезен, а где человеческая креативность и критическое мышление должны оставаться в центре внимания.
Для удовлетворения этих потребностей университетам и организациям придется переосмыслить подход к подготовке следующего поколения творческих талантов. Некоторые университеты уже интегрируют науку о данных в программы по дизайну; это важный шаг, но сам по себе его недостаточно. По-прежнему отсутствуют методы дизайн-мышления, адаптированные к реалиям цифровой эпохи: методы, которые помогают дизайнерам сотрудничать с ИИ, работать в междисциплинарных командах и проводить быстрые эксперименты, сохраняя при этом этичный и человекоцентричный подход.
Устранение этого пробела крайне важно. Именно поэтому мы с моим коллегой, доктором Джи Ханом, пишем книгу в издательстве Cambridge University Press на эту тему. Дизайн-мышление в цифровую эпохукоторая объединяет концепции, навыки и способы мышления, необходимые для эффективного проектирования в сотрудничестве с ИИ.
Лаборатория DIGIT делает акцент на ответственной трансформации. На ваш взгляд, какие этические или социальные риски требуют большего внимания по мере внедрения ИИ в рабочие процессы проектирования в различных отраслях?
Одним из примеров является обеспечение этичного использования данных, включая получение информированного согласия и поддержание прозрачности в отношении наборов данных, используемых для разработки продуктов на основе ИИ, а также любых потенциальных предвзятостей, которые они могут содержать. Например, наборы данных, используемые в системах здравоохранения, должны быть тщательно изучены, чтобы убедиться, что они адекватно представляют все население, выявить любые группы, которые могут быть недостаточно представлены, и подтвердить, что система ИИ соответствует своему назначению и является инклюзивной. С точки зрения общества, часто существует опасение, что ИИ заменит рабочие места; однако важно понимать, где человеческий опыт остается необходимым и как ИИ может использоваться для расширения, а не замены человеческих возможностей.
Однако существуют и более глубокие этические проблемы. Когда дизайнеры полагаются на данные, полученные от людей, им приходится учитывать вопросы конфиденциальности, предвзятости и т.д. прозрачность ответственноНа семинаре DIGIT Lab были определены основные категории проблем в производственном секторе: «данные», «человек» и «управление», подчеркнув необходимость улучшения сбора данных, контроля со стороны человека и четкой политики в отношении безопасности, доверия, интеллектуальной собственности и регулирования. Для решения этих рисков необходимо обеспечить построение систем ИИ на основе разнообразных данных, внедрение человеческого суждения в критических точках и разработку инклюзивных стандартов проектирования, которые уважают конфиденциальность, согласие и культурный контекст.
Вы изучили, как данные и искусственный интеллект могут персонализировать продукты с учетом пользовательского опыта. Видите ли вы будущее, в котором продукты будут динамически развиваться на основе данных в реальном времени после того, как они покинут завод? Если да, то как дизайнерам следует подготовиться к такому миру?
проектирование на основе данных Продукты, используемые для персонализации, могут быть настроены индивидуально или адаптированы к конкретному поведению. В этом случае они становятся «умными» системами, которые собирают данные об их использовании и обмениваются информацией через встроенные датчики и IoT-подключение. В нашей концепции персонализация включает использование этих данных для обновления и адаптации продуктов после их выхода с завода. Примеры включают в себя привязку моделей распознавания жестов к цифровому двойнику для взаимодействия человека и робота, а также использование сканирования с помощью машинного обучения для создания компонентов, адаптированных под конкретные потребности.
Этот сдвиг влечет за собой новые обязанности. Дизайнерам необходимо решить, какие именно. данные о человекеПоведенческие, физиологические, эмоциональные факторы, а также обратная связь имеют значение. Необходимо также обеспечить, чтобы обновления сохраняли задуманные эстетические и эмоциональные качества, которые, как известно, связаны с формой и восприятием. Наконец, важна система управления: наш отраслевой семинар подчеркнул, что вопросы, касающиеся данных, доверия и конфиденциальности, требуют четкой политики и человеческого контроля. При правильном подходе развивающиеся продукты могут предлагать долгосрочную ценность и оперативность без ущерба для смысла или этики.
Заглядывая в будущее, какие важные исследовательские вопросы вас сейчас больше всего мотивируют? И какие прорывы, по вашему мнению, произойдут в этой области в ближайшие несколько лет на стыке искусственного интеллекта, творчества и инженерного проектирования?
Многие из описанных выше проблем остаются нерешенными – над некоторыми из них я сейчас работаю, в том числе над обеспечением эффективной адаптации универсальных инструментов генеративного ИИ к конкретным секторам, желающим их внедрить.
На отраслевом уровне это может выглядеть совершенно по-разному: в обрабатывающей промышленности это может включать использование локализованных моделей, обученных на основе знаний, специфичных для данной области, наряду с строгими мерами по обеспечению конфиденциальности и безопасности; в креативных индустриях акцент может быть сделан на диверсификации результатов и обеспечении более эффективного сотрудничества между людьми и ИИ.
На техническом уровне мы экспериментируем с большими языковыми моделями для поддержки задач оценки. Одно исследование показывает, что большие языковые модели могут оценивать новизну и полезность и более точно соответствовать мнению экспертов, если руководствуются хорошо разработанными подсказками. В связанной с этим статье используется цепочка мыслей Использование подсказок и агрегации данных из нескольких моделей позволит повысить надежность оценки ИИ. Мы также изучаем возможности использования разговорных агентов для сбора информации о требованиях организаций к цифровой трансформации, демонстрируя, что чат-боты способны выполнять различные задачи. структурированные интервью эффективно. В сочетании с работой по использованию данных о людях в дизайне эти инициативы указывают на будущее, в котором ИИ поможет нам сохранить экспертные знания, принимать более обоснованные решения и взаимодействовать с пользователями этично.
Благодарим за содержательное и глубокое интервью; читатели, желающие узнать больше о работе профессора Ахмеда-Кристенсена в области дизайна, творчества и ответственной цифровой трансформации с использованием искусственного интеллекта, могут ознакомиться с текущими исследованиями и инициативами на сайте [ссылка]. Лаборатория DIGIT.
