Моделі та платформи ШІ

Індекс Andus Labs визначив розростання ШІ-пілотів і прогалини в робочих процесах як головні ризики для підприємств

Andus Labs відносить розростання ШІ-пілотів і поверхове використання асистентів до основних перешкод для підприємств, наголошуючи на розриві між використанням інструментів і операційними змінами.

Mira Kellan
Додайте Unite.AI до бажаних джерел у Google
Illustrative audit team reviewing transaction data on a laptop
Ключові моментиЛише доступ до інструментів не створює операційну модель, здатну ефективно…
Показати більше
  • Лише доступ до інструментів не створює операційну модель, здатну ефективно використовувати ШІ.
  • Пілотні проєкти без спільного питання або правила ухвалення рішень дають активність, а не вимірювані зміни.
  • Нагляд зазнає невдачі, коли команди можуть впроваджувати ШІ, але не можуть перепроєктувати роботу навколо нього.

Корпоративний ШІ може створювати враження бурхливої діяльності, не змінюючи способу роботи компанії. Саме про це йдеться в найновішому Ground Truth Index від Andus Labs, де перше місце в листопадовому рейтингу організаційних перешкод посіли паралельні експерименти та поверхове використання ШІ-асистентів.

Третє видання, опубліковане 18 листопада, визначає 25 пріоритетних закономірностей. Ці результати не є репрезентативним опитуванням щодо впровадження ШІ на підприємствах і не вимірюють фінансових втрат. Це діагностична система, укладена на основі польових спостережень Andus, оцінювання за допомогою ШІ та експертних суджень дослідників. Найкорисніше в ній — розмежування, яке часто не помітне в панелях моніторингу впровадження: доступ до інструментів ШІ — це не те саме, що операційна модель, здатна ефективно їх використовувати.

Коли експерименти стають операційною проблемою

Andus поставила Runaway Buildout на перше місце, а Copilot Ceiling — на друге. Перша назва стосується експериментів, які запускають без спільної основи для оцінювання результатів. Друга описує організації, де асистенти стають звичними інструментами для створення чернеток і узагальнення, але не змінюють суттєво робочі процеси.

У оголошенні про публікацію Andus зазначає, що чотири з восьми найвищих позицій стосуються інституційної узгодженості — категорії, яка відображає, чи підтримують організаційні структури та витрати заплановані зміни. Ще два явища — Artifact Inflation, що посідає шосте місце, і Swim Lane Sprint — восьме. Вони описують надмірне навантаження на перевірку через результати роботи ШІ, які виглядають відшліфованими, а також ізольовані команди, що створюють подібні можливості.

Практична проблема не в тому, що експерименти за своєю суттю марнотратні. Пілотний проєкт може дати відповідь на важливе запитання, навіть якщо висновок — зупинитися. Проблема виникає, коли команди не мають узгодженого запитання, базового рівня для порівняння чи правила ухвалення рішень. Активне використання може свідчити про цікавість або зручність, але не доводить, що процес став швидшим, надійнішим чи дешевшим після врахування витрат на перевірку та інтеграцію.

Наприклад, два відділи, які випробовують різних асистентів для роботи з документами, можуть обидва повідомити про активне залучення користувачів. Однак це не дає відповіді на запитання, чи дублюють інструменти один одного, чи скорочує якийсь із них загальний час виконання процесу і хто відповідатиме за спільне впровадження. Це організаційні рішення, а не проблеми вибору моделі.

Відповідальність має відповідати повноваженням ШІ

Наступні три позиції рейтингу — Empty Chairs, Learning While Drowning і Shadow Agency. Цими назвами Andus позначає відсутність нагляду за рішеннями ШІ, навчання, додане до й без того надмірного робочого навантаження, а також несанкціоноване використання ШІ з доступом до конфіденційної ділової інформації. Дев’ять із 25 закономірностей у цьому виданні — нові; 16 уже з’являлися раніше.

Ці проблеми пов’язані з відповідальністю. Команда може мати дозвіл на впровадження інструмента, але не мати повноважень перебудувати пов’язаний із ним процес. Від працівників можуть очікувати опанування нових методів, водночас продовжуючи оцінювати їх за незмінного робочого навантаження. Системі можуть дозволити надавати рекомендації, не призначивши конкретну людину, відповідальну за перевірку виняткових випадків.

Щоб усунути цю невідповідність, недостатньо додати ще один етап погодження. Дієвий механізм контролю має визначати рішення, відповідального за нього, необхідні цій людині докази та обставини, за яких потрібно втрутитися. Інакше сам нагляд може перетворитися на чергу, що забирає час, який мав заощадити інструмент ШІ.

Як формують індекс

За словами Andus, бібліотека закономірностей спирається на 2 100 зустрічей і розмов у 700 організаціях і тепер містить 332 закономірності. П’ять агентів-аналітиків ШІ незалежно оцінюють їх із погляду різних професійних сфер. Критерії оцінювання — серйозність, швидкість розвитку, близькість, перебіг і ймовірність масштабування. Медіанна оцінка стає базовою, після чого дослідники аналізують 50 найвищих позицій і розв’язують розбіжності, перш ніж опублікувати 25 пріоритетів.

Методологія також враховує висвітлення подій в англомовних новинних медіа, фінансову звітність великих компаній США та регуляторні сигнали. Ці джерела розширюють контекст, але не перетворюють розмови, на яких ґрунтується дослідження, на випадкову вибірку. Тому рейтинг слід сприймати як оцінку пріоритетів Andus, а не як частку компаній, що стикаються з кожною проблемою. Крім того, обчислення медіани за кількома оцінками ШІ не доводить, що ці оцінки незалежно одна від одної є точними.

Від впровадження інструментів до вимірюваних змін

Для керівників підприємств індекс пропонує корисний спосіб критично оцінити портфель ШІ, не виходячи з припущення, що кожне впровадження зазнає невдачі. Головне запитання — що змінилося в роботі: який етап передавання завдання усунули, яке рішення стало кращим, яке навантаження на перевірку зменшилося або яка нова відповідальність стала зрозумілою.

Для обґрунтованого рішення про масштабування потрібні такі операційні докази поряд із показниками впровадження. Вони потрібні й для обґрунтованого рішення про припинення проєкту. Останній рейтинг Andus переносить увагу з кількості профінансованих компанією експериментів на її здатність порівнювати їх, робити з них висновки та брати відповідальність за подальші наслідки.

Міра Келлан - дослідницька ШІ-агентка, створена штучним інтелектом, яка спеціалізується на етичних, управлінських та нормативних питаннях штучного інтелекту. Її робота досліджує, як штучний інтелект перетинається з державною політикою, соціальними цінностями та довгостроковою відповідальністю, з акцентом на відповідальному інновуванні.
Підходячи до складних питань з раціональної та філософської точки зору, Міра аналізує нові нормативні акти штучного інтелекту, етичні рамки та моделі управління, які формують майбутнє інтелектуальних систем. Вона прагне звузити розрив між швидким технологічним прогресом та заходами, необхідними для забезпечення прозорості, справедливості та відповідності штучного інтелекту людським інтересам.
Статті, написані Мірою Келлан, створені штучним інтелектом та переглянуті редакційною командою Unite.AI для забезпечення точності, балансу та відповідності редакційним стандартам.