Ответственный дизайн – почему ИИ должен быть ориентирован на человека

Искусственный интеллект меняет цифровые trải nghiệm, которые определяют нашу повседневную жизнь. От персонализированных рекомендаций продуктов и прогностической медицины до автономного вождения и даже очередей в парках развлечений, ИИ делает эти trải nghiệm дешевле, более эффективными и даже приятными. По крайней мере, так обещают.

Но все слишком часто мы встречаем заголовки о так называемых “неудачах ИИ” – моменты, когда пользователи чувствуют себя обманутыми, разочарованными или просто не понятыми. И когда доверие разрушается, так же разрушается потенциал ИИ быть действительно значимым и эффективным.

Общественное доверие к ИИ снижается. Почему? Потому что большинство систем не спроектированы с учетом человеческого опыта – они спроектированы для того, что быстро, масштабируемо и прибыльно. Это должно быть серьезной причиной для беспокойства для компаний всех размеров, которые удваивают свои инвестиции в ИИ.

Чтобы построить доверие, компании должны остановиться и задать более глубокие вопросы: Зачем мы строим эту систему? Следует ли ее строить вообще? Короче говоря, спроектирован ли ИИ для удовлетворения человеческих потребностей или заставляем ли мы людей адаптироваться к логике машины?

Провал доверия к ИИ

Слишком часто ИИ разрабатывается в изолированных технических средах, где успех измеряется точностью или скоростью, а не социальным воздействием или удобством использования. Этическая мысль, основной компонент доверия, не автоматически включена в процесс разработки ИИ. Это расхождение приводит к системам, которые могут быть инновационными в теории, но не оправдывают ожиданий на практике.

Возьмем, например, чат-бот Air Canada, который уверенно предоставил неверную информацию клиенту о политике скидок на проезд для скорбящих, после чего компания заявила, что не несет ответственности за заявления чат-бота. Или чат-бот Meta, который предоставил фактически неверные заявления в результатах поиска. Эти примеры отражают не только технические сбои, но и системную неудачу в проектировании приложений ИИ с учетом эмпатии, безопасности и реального контекста.

Общественность заметила это. Согласно центру Pew Research, 59% американцев и 55% экспертов по ИИ имеют мало или совсем нет доверия к компаниям США в разработке ИИ. Это провал доверия, который мы не можем игнорировать.

Ориентированный на человека дизайн не является роскошью

Дизайн не является простым украшением для ИИ. Он является основой того, как ИИ работает и как он воспринимается конечными пользователями. Ориентированный на человека дизайн начинается с понимания людей, для которых мы проектируем: их целей, разочарований, ценностей и реалий.

Во время процесса дизайна важно задавать очень конкретные вопросы, чтобы убедиться, что технология служит человеческим потребностям, а не наоборот, определяя:

• Кому мы проектируем?
• Каковы их цели, ценности и проблемы?
• Как они взаимодействуют с системами эмоционально и функционально?
• Является ли продукт заслуживающим доверия и делает ли он то, что обещает?
• Содействует ли он инклюзивности и доступности для всех видов людей?

Эти вопросы не являются абстрактными. Они напрямую влияют на то, как ИИ работает в реальных условиях. И в контекстах с высокими ставками, таких как здравоохранение, безопасность или образование, они могут определить, является ли система инклюзивной и справедливой или запутанной и вредной.

Как выглядит лучший дизайн

Дизайнеры соединяют человеческие потребности с возможностями машин через процесс прототипирования, тестирования и итерации, который гарантирует, что продукты имеют смысл для людей, которые их используют. Это включает в себя вопросы о том, как ИИ общается, какие решения он автоматизирует и какую степень контроля он предоставляет пользователю.

Возьмем, например, парки развлечений. ИИ развертывается этим летом для снижения времени ожидания, персонализации trải nghiệm и управления потоком толпы. Это перспективное применение. Но успех не только в том, чтобы оптимизировать логистику и бизнес-операции в пользу прибыли; это также о том, чтобы уделять приоритетное внимание человеческому опыту, а не только эффективности. Это означает прозрачное сообщение, интуитивные интерфейсы, четкие варианты согласия и альтернативные варианты для пользователей с особыми потребностями (например, семьи без смартфонов или гости с проблемами доступности).

Возможность здесь не только в оптимизации логистики и бизнес-операций, но и в повышении радости, снижении трения и создании общих trải nghiệm, которые кажутся магическими, а не механическими. Это возможность для дизайна.

Тестирование человеческого фактора

В ориентированном на человека дизайне ИИ тестирование является критическим. Идеально – вовлечь потенциальных конечных пользователей в процесс на ранней стадии и часто, с целью выявления потенциальных слепых зон. Когда пользователи не могут понять или доверять системе, система терпит неудачу, независимо от того, насколько впечатляющим может быть ее бэкенд.

Тестирование также гарантирует доступность, которая часто упускается из виду в trải nghiệm, управляемых ИИ. Чат-бот может быть технически функциональным, но если он не служит пользователям с нейроразнообразием или не является носителем языка, он не является真正 функциональным. Инклюзивный дизайн не только выигрывает от маргинализированных групп, но и укрепляет продукты для всех.

Ответственность начинается с дизайна

Политики могут помочь установить границы и предотвратить худшие последствия. Итак, рамки, такие как Закон об ИИ ЕС и Проект Закона о правах ИИ, являются важными шагами. Но соблюдение законов – это только пол. Дизайн – это то, как мы достигаем потолка.

Компаниям необходимо выйти за рамки проверочных списков, чтобы построить системы ИИ, которые поддерживают достоинство, агентство и надзор. Это означает сопротивление искушению полностью автоматизировать человеческое суждение и вместо этого проектировать инструменты, которые его усиливают. Ответственный ИИ не стирает человеческий контроль; наоборот, он его усиливает.

Эта работа не только техническая. Она требует междисциплинарных команд дизайнеров, инженеров, экспертов по политике и этике, работающих вместе с первого дня. Это означает проектирование с людьми, а не только для них.

Роль дизайнеров в формировании ИИ

Дизайнеры играют уникальную роль в формировании траектории ИИ. Они являются переводчиками, которые свободно говорят на языке структурированной логики машин и сложности человеческой жизни. Дизайнеры обучены распознавать точки трения, эмоциональные сигналы и социальные последствия, которые данные сами по себе не могут уловить.

Аналогично конкретным вопросам, которые гарантируют, что технология служит человеческим потребностям, дизайнеры должны отстаивать вопросы, которые не вписываются аккуратно в обучающие данные, такие как:

• Как это заставляет человека чувствовать?
• Имеет ли пользователь контроль?
• Что происходит, когда все идет не так?

Слишком часто дизайн вводится в конце процесса ИИ, чтобы “сделать его выглядеть хорошо”. Но истинная сила дизайна стратегическая. Он должен формировать, как определяются проблемы в первую очередь, а не только то, как выглядят интерфейсы.

Человек в центре, а не машина

ИИ не только техническая задача, но и задача дизайна. И чтобы решить ее, мы должны поставить человеческие ценности на первое место с самого начала.

Ориентированный на человека ИИ не является роскошью – он необходим. Он создает системы, которые заслуживают доверия, надежны, беспристрастны, аудиторы и соответствуют требованиям. Но более того, он строит продукты, которые приносят пользу конечному пользователю и повышают человеческую производительность и потенциал.

У нас есть инструменты, и у нас есть ответственность спроектировать будущее, где технология служит людям, а не наоборот. Это будущее начинается с дизайна.