Препятствие ИИ не в провале. А в слишком медленном провале.

Препятствие ИИ не в провале. А в слишком медленном провале.

Искусственный интеллект (ИИ) меняет то, как организации работают, инновируют и растут. Во всех отраслях организации используют ИИ для оптимизации рабочих процессов, открытия новых эффективностей и поддержки более быстрого и уверенного принятия решений. Когда ИИ тихо становится двигателем современной производительности, он помогает организациям добиться большей гибкости и масштабируемости.

Однако, несмотря на многие измеримые преимущества ИИ, происходит неожиданное. Многие предприятия сталкиваются с препятствием. Вместо ускорения инноваций некоторые команды застревают в сложности, управлении рисками и растущем страхе неизвестности.

Почему? Потому что мы думаем об этом неправильно.

ИИ часто неправильно понимается как технология, которая должна быть полностью контролируема, прежде чем она может быть доверена. Это происходит из ошибочного убеждения, что уверенность является предпосылкой для безопасности. Но это толкование упускает из виду суть того, что такое ИИ и как он создает ценность. ИИ – это адаптивный инструмент, предназначенный для обучения и эволюции с использованием. Относиться к нему как к традиционному программному обеспечению – это неправильное толкование его природы и подрывает его потенциал.

В стремлении использовать ИИ ответственно многие организации непреднамеренно превратили смягчение риска в бутылочное горлышко. Во всех отраслях команды колеблются развертывать ИИ, если они не могут разобрать, объяснить и оправдать каждый слой его процесса принятия решений, часто до нецелесообразной степени. Хотя этот уровень проверки отражает добросовестную заботу, он часто сводит на нет самую цель ИИ: ускорить прозрение, усилить команды и решить проблемы в масштабе.

Пришло время перекалиброваться, сместив фокус от требования полного контроля к модели, которая подчеркивает устойчивость, производительность и практическую объяснимость – без остановки инноваций.

Страх черного ящика блокирует прогресс

Люди имеют естественную неловкость с системами, которые они не полностью понимают, и инструменты ИИ – особенно большие, генеративные модели – часто работают способами, которые противоречат легкой объяснимости. В результате многие лидеры попадают в ловушку: если они не могут полностью объяснить каждое решение ИИ, система не может быть доверена.

Таким образом, многие организации переинжинирят процессы надзора, добавляя слои межфункциональных обзоров, проверок соответствия и аудитов объяснимости, даже для случаев с низким риском. Когда команды рассматривают объяснимость как необходимость открыть каждый черный ящик, они попадают в бесконечные циклы обзора. Это создает “операционный паралич”, при котором команды становятся настолько боязливыми делать что-то неправильное с ИИ, что они перестают делать все вообще, что приводит к стабильной эрозии импульса, застрявшим инициативам и, в конечном итоге, потерянным возможностям.

Проблема не в намерении контроля; это предположение, что смягчение риска должно равняться контролю. На практике проектирование систем ИИ для устойчивости, а не для совершенства, является более эффективным подходом. Ключ – отказаться от процедурного подхода в пользу результативного мышления.

Устойчивость в ИИ означает принятие того, что ошибки будут происходить, и создание ограждений, которые могут обнаружить и исправить их. Это означает смену разговора о том, как предотвратить каждую возможную неудачу, на то, как обеспечить быстрое обнаружение и вмешательство, когда что-то идет не так.

Большинство современных систем построены с учетом того, что некоторый уровень ошибки будет происходить. Например, инструменты кибербезопасности не ожидаются быть на 100% непроницаемыми. Они не предназначены для этого. Вместо этого они предназначены для обнаружения, реагирования и создания быстрых протоколов восстановления. Те же ожидания должны применяться к ИИ.

Требование полной прозрачности каждого решения ИИ является нецелесообразным и может быть контрпродуктивным для создания ценности. Вместо этого организации должны поддерживать “уровень объяснимости на уровне панели приборов”, который обеспечивает достаточный контекст и надзор для обнаружения ошибок и применения мер безопасности без торможения инноваций в предприятии.

Не усложняйте развертывание ИИ

Организации должны принять полную интероперабельность в реализациях ИИ, независимо от случая использования. Вместо того, чтобы быть отвлечением, полная интероперабельность обеспечивает бесшовную интеграцию и открывает большую ценность в системах. В будущем, во всех предприятиях, мы можем увидеть виртуальные армии агентов ИИ, все работающие вместе к общим целям.

Этот образ мышления заключается в правильном размере объяснимости, чтобы соответствовать уровню риска – чтобы перестать рассматривать каждый случай использования ИИ как если бы он управлял автономным транспортным средством. Команды могут добиться этого, проектируя системы ИИ, которые являются продуктивными, подотчетными и соответствуют человеческим намерениям без усложнения развертывания.

Некоторые практические стратегии включают:

• Развертывание ИИ там, где люди уже борются: Используйте ИИ для дополнения человеческого принятия решений в сложных, высокообъемных областях, таких как распределение ресурсов, определение приоритетов задач или управление задолженностью, где скорость и масштаб более важны, чем полная уверенность.
• Определение метрик успеха ИИ: Вместо попытки объяснить каждую модель определите, что такое хорошие результаты. Улучшаются ли сроки? Уменьшается ли переделка? Более часто ли пользователи принимают предложения ИИ? Эти показатели предлагают более четкое представление о том, как хорошо работает ИИ, а не углубление в детали того, как модель принимает решения.
• Установление порогов доверия: Установите толерантность к тому, когда вывод ИИ может быть автоматически принят, помечен или отправлен на человеческий обзор, и создайте обратную связь, чтобы помочь системе учиться и улучшаться со временем.
• Обучение команд задавать правильные вопросы: Вместо того, чтобы делать каждую команду экспертом по ИИ, сосредоточьтесь на обучении их задавать правильные вопросы, такие как какая проблема решается с помощью ИИ, какие риски наиболее важны и как будет контролироваться эффективность.
• Приоритизация человеческого рассуждения: Даже лучшие системы ИИ выигрывают от человеческого надзора. Создайте рабочие процессы, которые позволяют людям проверять, исправлять или переопределять ИИ как способ создания общей подотчетности.

Этот подход можно сравнить с управлением автомобилем. Большинство из нас не понимают, как работает трансмиссия, как сгорание топлива обеспечивает ускорение, или как датчики обнаруживают ближайшие транспортные средства, но это не останавливает нас от вождения. То, на что мы полагаемся, – это приборная панель: упрощенный интерфейс, который предоставляет нам необходимую информацию для безопасной эксплуатации, такую как скорость, уровень топлива и сигналы обслуживания.

Системы ИИ должны управляться таким же образом. Нам не нужно каждый раз открывать капот, когда двигатель работает. То, что нужно, – это четкий набор индикаторов, которые показывают, когда что-то не так, где может потребоваться человеческое вмешательство и какие следующие шаги предпринять. Эта модель позволяет организациям сосредоточиться на надзоре, где это важно, без того, чтобы тонуть в технической сложности.

Перестаньте мешать себе

ИИ никогда не будет безупречным. И если организации будут требовать от него стандарт совершенства, который ни одна человеческая команда не может удовлетворить, они рискуют потерять возможность переосмыслить работу, ускорить принятие решений и открыть потенциал во всем предприятии.

Сосредоточившись на устойчивости над контролем, приняв уровень объяснимости на уровне панели приборов и адаптировав надзор к контексту, мы можем перестать чрезмерно думать об ИИ и начать создавать с ним больше успеха.