Штучному інтелекту все ще потрібен тренер, а людському контролю потрібен посібник

Штучний інтелект скрізь, куди не погляньте, і професійний футбол не є винятком.

NFL представив Digital Athlete, який використовує дані та ШІ, щоб допомогти командам виявляти ситуації, у яких гравці можуть підвищено ризикувати отримати травму. Він поєднує відео та дані з тренувань, практик і ігор з мільйонами симуляцій, надаючи всім 32 командам доступ до інформації про тенденції по всій лізі. Тренери та персонал з підготовки використовують цю інформацію для розробки індивідуальних програм профілактики травм, тренувань та відновлення.

Хоча технологія «читає» поле, тренери залишаються відповідальними за прийняття рішень. Коли організації розширюють використання ШІ у бізнес‑процесах, включаючи комплаєнс та розслідування на робочому місці, потенціал автоматизації здається безмежним. Але які завдання має виконувати ШІ, за яких умов і під яким людським контролем?

Саме тут організаційний посібник може задати тон: надати тренерам можливість використовувати інструменти ШІ, зберігаючи людський контроль там, де це важливо.

Надайте ШІ позицію, а не всю площину

Розслідування включають різні рівні ризику. ШІ може допомогти упорядкувати інформацію з початкових звітів і:

• Виявити відсутні деталі
• Стисло підсумувати інформацію у фінальний звіт
• Створити хронології
• Виявити шаблони, які розслідувачі можуть захотіти дослідити докладніше

Такі випадки використання можуть зменшити ручне сортування та звільнити час для роботи, що вимагає людського судження.

Врахуйте, що ШІ може підсумувати скаргу, але не може вирішити, чи вона достовірна. ШІ може виявити невідповідність, але не може визначити, чому вона виникла. Саме тут організації можуть потрапити в біду, просто використовуючи ШІ без обмежень.

Щоб зберегти контроль, ШІ потрібна чітко визначена роль. Організації мають вирішити:

• Завдання, які система має виконувати
• Інформацію, до якої вона має доступ
• Межі того, що їй дозволено робити
• Ситуації, у яких людина повинна взяти керування в свої руки

AI Risk Management Framework Національного інституту стандартів і технологій надає корисний орієнтир. Дорожня карта NIST описує профілі AI RMF як спосіб продемонструвати, як рамка може застосовуватися до конкретних секторів, технологій, контекстів або інших налаштувань. Іншими словами, відповідне управління ШІ стає більш практичним, коли організації переводять широкі принципи у реалії конкретного випадку використання.

Посібник з ШІ може робити щось подібне на операційному рівні. Він чітко визначає ролі, ситуації та дії.

Людський контроль – це проблема дизайну системи

Вислів «людина в циклі» став поширеним у дискусіях про відповідальний ШІ. Однак присутність людини десь у робочому процесі не гарантує, що система ШІ добре керується.

NIST визначив співпрацю людина‑ШІ як важливу область досліджень та рекомендацій з управління ризиками ШІ. Серед питань, які він підкреслює, — як люди інтерпретують результати, створені ШІ, і як люди контролюють системи ШІ у реальних умовах.

Людський контроль не слід розглядати як тимчасове рішення, доки ШІ не стане достатньо складним, щоб працювати самостійно. У багатьох середовищах з високими ставками це є частиною необхідної архітектури для відповідального використання ШІ в довгостроковій перспективі.

Дослідження, рецензоване в науковій статті про людський контроль в управлінні ШІ, зазначає, що від людських контролерів очікується підвищення точності та безпеки задля підтримки людських цінностей і створення довіри. Однак люди не завжди є надійними контролерами. Ефективний контроль залежить від компетентності, стимулів та дизайну ролі контролера.

Для розслідувача запит на затвердження рекомендації, згенерованої ШІ, недостатній, якщо він не має необхідної інформації чи повноважень, щоб оскаржити її. Посібник має визначити не лише те, що людина залучена, а й як і коли ця особа може втрутитися.

Передача має таке ж значення, як і модель

Існує ще один виклик: навіть коли людина має остаточну владу, спосіб, у який ШІ подає інформацію, може впливати на наступне рішення.

Попереднє дослідження 2025 року, проведене дослідниками з Університету Каліфорнії, Санта-Барбари, демонструє, чому важливий дизайн інтерфейсу. У контрольованому експерименті за участю 108 учасників у сценарії прийняття рішень у сфері охорони здоров’я, дослідники протестували шість форм підтримки рішень ШІ. Вони виявили, що механізми, включаючи інформацію про впевненість ШІ, текстові пояснення та візуалізації продуктивності, підвищували точність спільних рішень людина‑ШІ у їхньому експерименті.

Дослідження також підкреслює ризик упередженості автоматизації: люди можуть надмірно покладатися на пропозиції ШІ, включаючи неправильні.

Цей експеримент демонструє, чому передача між машиною та людиною вимагає продуманого дизайну та тестування.

Коли ми розширюємо це і вводимо концепцію розслідування, виникає кілька питань:

• Чи бачить розслідувач лише висновок, згенерований ШІ, чи може він дослідити інформацію, що стоїть за ним?

• Чи може система передавати невизначеність?

• Чи зрозуміло, коли інформація відсутня?

• Чи можуть розслідувачі відхилити результат і задокументувати причину?

Це питання управління так само, як і технічні.

П’ять питань, на які має відповісти кожен посібник з ШІ

Корисний посібник з ШІ має перетворювати абстрактні принципи, такі як «відповідальний ШІ» та «людський контроль», у конкретні правила роботи.

1. Що ШІ дозволено робити? Організації мають уповноважувати конкретні завдання, а не надавати широкі дозволи на використання ШІ у всьому робочому процесі.
2. Яку інформацію ШІ може використовувати? Для розслідувань і викриття порушень організації потребують чітких меж щодо інформації, доступної системі ШІ, і способу її обробки.
3. Як люди оцінюватимуть його результати? Людські рецензенти повинні мати достатньо контексту, щоб зрозуміти, що система створила, її обмеження та інформацію, необхідну для оскарження результату.
4. Коли людина повинна втручатися? Посібник має встановлювати тригери ескалації, а не покладатися на індивідуальне рішення співробітників, коли ШІ йде надто далеко.
5. Де закінчується повноваження ШІ? Деякі рішення мають вимагати людського судження, і відповідальні особи повинні мати реальну владу відхилити, переважити або зупинити технологію.

Ці ідеї відображені в одному з найважливіших нормативних документів щодо ШІ у світі. Стаття 14 Закону ЄС про ШІ встановлює вимоги до людського контролю для систем ШІ, що підпадають під категорію високого ризику згідно з цим законом. Вона зазначає, що заходи контролю мають бути пропорційними ризикам системи, її автономії та контексту використання. Також вимагається, щоб контролери могли розуміти відповідні можливості та обмеження, правильно інтерпретувати результати, бути пильними до упередженості автоматизації, відхиляти або переважати результати та втручатися в роботу системи або зупиняти її.

Це не означає, що кожен інструмент ШІ, використаний у розслідуванні, автоматично є системою високого ризику. Рамка ілюструє важливий принцип управління ШІ. Людський контроль має надавати людям значущі можливості, а не лише місце у робочому процесі.

ШІ не замінює тренера. Він змінює те, що тренер може бачити.

Digital Athlete NFL вражає не тим, що демонструє можливість заміни тренерів ШІ, а тим, що показує, як складна технологія може розширити обсяг інформації, доступної досвідченим професіоналам.

ШІ може допомогти людям обробляти інформацію, виявляти те, що заслуговує уваги, і забезпечувати більшу послідовність у повторюваних завданнях. Однак найважливіші моменти розслідування часто потребують іншого: контексту, скептицизму, інтерпретації та відповідальності.

Тому організації, які найкраще підготовлені отримати вигоду від ШІ, будуть ставити більше питань, ніж лише те, що технологія може автоматизувати. Вони визначать, що ШІ має робити, чого не має робити, і як люди та ШІ мають співпрацювати.