Відповідальність за дизайн – чому штучний інтелект повинен бути орієнтований на людину

Штучний інтелект змінює цифрові переживання, які визначають нашу повсякденну життя. Від персоналізованих рекомендацій продуктів і прогнозної медицини до автономного руху та навіть черг у парках розваг, штучний інтелект робить ці переживання дешевшими, більш ефективними та навіть приємними. принаймні, так обіцяється.

Але надто часто ми зустрічаємо заголовки про так звані “помилки штучного інтелекту” – моменти, коли користувачі відчувають себе обманутими, розчарованими або просто не зрозумілими. І коли довіра руйнується, так само руйнується потенціал штучного інтелекту бути真正 значимим і ефективним.

Довіра громадськості розкладається. Чому? Бо більшість систем не розроблені з урахуванням людського досвіду – вони розроблені для того, що є швидким, масштабованим і прибутковим. Це повинно бути серйозною причиною для занепокоєння компаній усіх розмірів, які вкладають свої кошти в інвестиції в штучний інтелект.

Щоб побудувати довіру, компанії повинні зробити паузу і поставити більш глибокі питання: Чому ми будемо цю систему? Чи слід її будувати взагалі? Коротко кажучи, чи розробляємо ми штучний інтелект для задоволення людських потреб – чи змушуємо людей адаптуватися до логіки машини?

Пропуск довіри до штучного інтелекту

Занадто часто штучний інтелект розробляється в ізольованих технічних середовищах, де успіх вимірюється точністю або швидкістю, а не соціальним впливом або зручністю використання. Етичне мислення, ключовий компонент довіри, не автоматично включений у процес розробки штучного інтелекту. Це роз’єднання призводить до систем, які можуть бути інноваційними в теорії, але не виправдовують себе на практиці.

Візьміть, наприклад, чат-бот Air Canada, який впевнено надав неправильну інформацію клієнту про політику знижок у разі смерті близької людини, після чого компанія заявила, що не несе відповідальності за слова чат-бота. Або чат-бот Meta, який надав фактично неправильні заяви у результатах пошуку. Ці приклади свідчать не лише про технічні помилки; вони свідчать про системну невдачу розробити додатки штучного інтелекту з емпаті, безпечними обмеженнями і реальним контекстом.

Громадськість звернула увагу. За даними Pew Research Center, 59% американців і 55% експертів штучного інтелекту мають мало чи жодної довіри до здатності американських компаній розробляти штучний інтелект відповідально. Це розрив довіри, якого ми не можемо ігнорувати.

Орієнтований на людину дизайн не є розкошею

Дизайн не є лише зовнішнім оздобленням для штучного інтелекту. Він є фундаментальним для того, як штучний інтелект поводиться і як його сприймають кінцеві користувачі. Орієнтований на людину дизайн починається з розуміння людей, для яких ми розробляємо: їхніх цілей, розчарувань, цінностей і реальної дійсності.

Під час процесу розробки необхідно ставити дуже конкретні питання, щоб забезпечити, що технологія служить людським потребам, а не навпаки, визначаючи:

• Для кого ми розробляємо?
• Які їхні цілі, цінності і виклики?
• Як вони взаємодіють з системами емоційно і функціонально?
• Чи є продукт довірчим і робить він те, що обіцяє?
• Чи сприяє він інклюзивності і доступності для всіх видів людей?

Ці питання не є абстрактними. Вони безпосередньо впливають на те, як штучний інтелект працює в реальному світі. І в контекстах високих ставок, таких як охорона здоров’я, безпека або освіта, вони можуть визначити, чи система є інклюзивною і справедливою, чи плутаною і шкідливою.

Як виглядає кращий дизайн

Дизайнери поєднують людські потреби з можливостями машини через процес прототипування, тестування і ітерації, що забезпечує те, що продукти мають сенс для людей, які їх використовують. Це включає в себе питання про те, як штучний інтелект спілкується, які рішення він автоматизує і яку контроль він надає користувачеві.

Візьміть, наприклад, парки розваг. Штучний інтелект буде розгорнутий цього літа для зменшення часу очікування, персоналізації досвіду і управління потоком натовпу. Це перспективний випадок використання. Але успіх не полягає лише в оптимізації логістики. Добре розроблена система буде ставити в ưu tiên людський досвід, а не лише ефективність. Це означає прозору комунікацію, інтуїтивні інтерфейси, ясні опції і варіанти для користувачів з особливими потребами (наприклад, сім’ями без смартфонів або гостями з особливими потребами).

В цій сфері не лише оптимізація логістичних операцій на користь дна лінії; це можливість підвищити радість, зменшити тертя і створити спільні переживання, які відчуваються магічними, а не механічними. Це можливість для дизайну.

Тестування людського елементу

У дизайні штучного інтелекту, орієнтованому на людину, тестування є критичним. Ідеально привести потенційних кінцевих користувачів до процесу на ранній стадії і часто, з метою виявлення потенційних сліпих плямів. Коли користувачі не можуть зрозуміти або довіряти системі, система не виправдовує себе, незалежно від того, наскільки вражаючий її бекенд.

Тестування також забезпечує доступність, яка часто залишається поза увагою в досвіді, керованому штучним інтелектом. Чат-бот може бути технічно функціональним, але якщо він не служить користувачам з нейрорізноманітністю або не є рідною мовою, він не є真正 функціональним. Інклюзивний дизайн не лише приносить користь маргінальним групам, а також посилює продукти для всіх.

Відповідальність починається з дизайну

Політика може допомогти встановити межі і запобігти найгіршим наслідкам. Тому рамки, такі як EU AI Act і Blueprint for an AI Bill of Rights, є важливими кроками. Але дотримання законодавства є лише мінімальним рівнем. Дизайн – це те, як ми досягаємо максимуму.

Компанії повинні піти далі за списки перевірок, щоб розробити системи штучного інтелекту, які підтримують гідність, агентство і нагляд. Це означає, що вони повинні опиратися бажанню повністю автоматизувати людську думку, а натомість розробляти інструменти, які посилюють її. Відповідальний штучний інтелект не знищує людський контроль; навпаки, він посилює його.

Ця робота не є лише технічною. Вона вимагає мультидисциплінарних команд дизайнерів, інженерів, експертів з політики і етиків, які працюють разом з першого дня. Це означає розробку з людьми, а не лише для них.

Роль дизайнерів у формуванні штучного інтелекту

Дизайнери відіграють унікальну роль у формуванні траєкторії штучного інтелекту. Вони є перекладачами, які вільно володіють як структурованою логікою машин, так і складністю людського життя. Дизайнери навчилися визнавати точки тертя, емоційні сигнали і соціальні наслідки, які дані самі по собі не можуть виявити.

Аналогічно до конкретних питань, які забезпечують те, що технологія служить людським потребам, дизайнери повинні відстоювати питання, які не вкладаються в тренувальні дані, наприклад:

• Як це робить людину?
• Чи є користувач під контролем?
• Що відбувається, коли щось пішло не так?

Занадто часто дизайн вводиться в кінці процесу штучного інтелекту, щоб “виглядати добре”. Але справжня сила дизайну полягає в стратегії. Він повинен формувати, як проблеми визначаються спочатку, а не лише як інтерфейси виглядають.

Людина на першому місці, а не машина

Штучний інтелект не є лише технічним викликом, а й дизайнерським. І щоб відповісти на нього, ми повинні поставити людські цінності на перший план з самого початку.

Орієнтований на людину штучний інтелект не є розкошею – він є необхідністю. Він створює системи, які є довірчими, надійними, необмеженими, аудитованими і відповідними законодавству. Але більше того, він будує продукти, які приносять користь кінцевому користувачеві і підвищують людську продуктивність і потенціал.

У нас є інструменти, і у нас є відповідальність розробити майбутнє, де технологія служить людям, а не навпаки. Це майбутнє починається з дизайну.