У віці штучного інтелекту компанії потребують головного офіцера довіри

Кожна компанія знає, хто керує технологіями та ризиком. Головний інформаційний офіцер керує технологічним стеком. Головний офіцер з питань дотримання законодавства забезпечує дотримання нормативних актів. Але оскільки штучний інтелект відіграє все більшу роль у прийнятті рішень, інше питання є важчим для відповіді: хто відповідає за довіру?

Це питання не є абстрактним. Генеративний штучний інтелект уже письменні електронні листи, розробляє політики, відповідає на питання клієнтів і формує рішення щодо прийняття на роботу або фінансових виборів. Працівники та клієнти часто не можуть зрозуміти, що є справжнім, хто написав повідомлення, або чи прийшло рішення від людини чи алгоритму. Ця невизначеність не тільки розчаровує, а й підтримує недовіру до організації.

Щоб закрити цю прогалину, деякі компанії експериментують із новою ролью: головним офіцером довіри. Мандат широкий – захист етики, нагляд за використанням даних та захист довіри зацікавлених сторін. Але назва сама по собі не вирішить проблему. Довіра не будується шляхом додавання ще однієї назви до організаційної схеми; вона виникає з того, як чітко компанії пояснюють свої рішення.

Ерозія довіри

Коли я розмовляю з генеральними директорами про штучний інтелект, настрій завжди однаковий: збудження, змішане з втомою. Все бачать потенціал, але реальна бізнес-цінність важче виміряти. Але більший ризик не полягає у марних інвестиціях – а у ерозії довіри.

Коли компанії спираються на боти, шаблони та автоматичні відповіді, спілкування починає втрачати сигнали, які свідчать про довіру: тон, намір та присутність. Повідомлення можуть все ще передавати інформацію, але без цих сигналів вони здаються порожніми. З часом ця порожнеча ослаблює довіру до лідерів, рішень та організації.

Це пояснює, чому намір має значення. Довіра виживає, коли компанії проводять чітку межу між транзакційним штучним інтелектом – оновленнями рахунків, скидками паролів, повідомленнями про розклад – та відносним штучним інтелектом – оголошеннями стратегій, періодичними оновленнями команд, міжвідділовим спілкуванням або обмінами відносин з клієнтами. Перший може бути автоматизований без ризику; другий вимагає людського голосу. Без цієї межі організації ризикують автоматизувати самі моменти, коли будується довіра, і разом з нею – основу, яка робить адоптацію штучного інтелекту сталою.

«Головний офіцер довіри»

Що ж це за відповідальність на практиці? Чи не приймає компанія назву «головний офіцер довіри», сама функція є невідворотною. Хтось має володіти завданням зробити штучний інтелект зрозумілим, пояснимим та достовірним по всій організації.

Ця відповідальність виходить за рамки переліку етичних перевірок або звітів про дотримання законодавства. Це означає переклад рішень штучного інтелекту на просту мову для кожної аудиторії, яку він торкається – ради директорів, які повинні оцінити ризик, працівників, яким потрібно прийняти нові інструменти, клієнтів, які взаємодіють з автоматизованими системами, та регулюючих органів, які вимагають ясності. Без цього перекладу штучний інтелект стає чорною скринькою. З ним люди розуміють не тільки що рішення були прийняті, а й чому.

Без цього мосту спілкування погіршується. Вихід штучного інтелекту стає ефективним, але безособовим, і люди починають сумніватися в автентичності цих виходів. Функція довіри забезпечує, щоб відносні моменти – як оголошення стратегії або обмін підтримкою клієнтів – зберегли присутність, емпатію та достовірність, яку можуть забезпечити тільки люди. Коли інструменти будуються для збереження людської присутності, вони поглиблюють зв’язок.

Вимірювання довіри

Для багатьох компаній довіра розглядається як абстрактна цінність – щось, згадане у місійних заявах, але рідко вимірюване. Це вже не достатньо. У віці штучного інтелекту довіра повинна перейти від символізму до практики.

Перший крок – визначення межі між транзакційним та відносним штучним інтелектом. Чіткі політики щодо того, де автоматизація є доречною, сигналізують працівникам та клієнтам, що компанія є свідомою щодо своїх виборів. Без цієї ясності ефективність ризикує перетинати моменти, які залежать від людської присутності та емпатії.

Другий крок – прямий вимір довіри. Це означає запитання людей, яким це найбільше важливо: Чи довіряють працівники керівництву щодо використання штучного інтелекту відповідально? Чи довіряють клієнти компанії у виконанні своїх обіцянок? Чи довіряють клієнти взаємодіям, які вони мають? Ці відповіді, відстежені протягом часу, дають лідерам найчітшу картину того, чи їхня стратегія штучного інтелекту будує довіру чи підтримує її ерозію.

Іншими словами, довіра вже не може залишатися невизначеною чи припущеною. Вона повинна бути визначена, протестована та виміряна з тією ж суворістю, що й будь-який інший стратегічний пріоритет. Компанії, які зобов’язуються дотримуватися цієї дисципліни через чіткі межі та прямий зворотний зв’язок, будуть значно краще позиціоновані, коли штучний інтелект змінює ринок.

Хто володіє довірою?

Якщо визначення відносної межі та вимірювання довіри є першими кроками, наступним є призначення відповідальності. Хтось всередині організації повинен принести ясність до цих принципів та забезпечити, щоб вони не залишилися абстрактними. Чи несе ця особа назву головного офіцера довіри, головного офіцера штучного інтелекту чи сидить у відділі кадрів чи зв’язків із громадськістю, це менш важливо, ніж той факт, що роль явно визнана. Без володіння довіра ризикує прослизнути крізь тріщини як усієї відповідальності та нічиєї роботи.

Але володіння не може зупинитися на одному офісі. Довіра повинна проникнути у щоденні рішення по всьому бізнесу: як команди приймають нові інструменти, як лідери спілкуються стратегією, як клієнти підтримуються, як працівники відчувають, що їхні голоси чутні. Визначений лідер може встановити рамку, але вся організація повинна втілювати її. Просто кажучи, довіра може починатися з однієї відповідальної ролі – але вона успішна лише тоді, коли стає спільним принципом операції.

Довіра як основа штучного інтелекту

Штучний інтелект буде продовжувати розвиватися швидше, ніж більшість компаній можуть регулювати або навіть повністю зрозуміти. Цей темп робить довіру менш «м’якою» цінністю та більш стратегічною можливістю – чимось, за що лідери повинні проектувати, вимірювати та захищати. Питання не тільки в тому, хто носить назву, а й у тому, наскільки глибоко функція довіри вбудована в щоденні операції.

Компанії, які успішно впроваджують штучний інтелект, не будуть тими, хто переслідує кожний новий інструмент, а тими, хто встановлює чіткі межі, пояснює вибори простою мовою та зберігає людську присутність, де це найважливіше. Це перетворює адоптацію штучного інтелекту з джерела сумніву на джерело довіри. У цьому сенсі довіра є основою, яка робить його придатним. Компанії, які ставляться до цього так, знайдуть себе не просто тримаючись за технології, а й лідирують ними.