ActionAI получил 10 миллионов долларов для повышения ответственности и надежности корпоративного ИИ

Корпоративное внедрение искусственного интеллекта ускорилось, но масштабирование его за пределы пилотных проектов остается постоянной проблемой. Основная причина – доверие. Хотя сотрудники все чаще используют инструменты ИИ в своей повседневной работе, организации остаются осторожными в отношении использования их для основных операций, где точность и ответственность имеют решающее значение.

Этот разрыв – это то, что компания ActionAI стремится закрыть. Компания объявила о раунде финансирования в размере 10 миллионов долларов для создания инфраструктуры, которая сделает системы ИИ достаточно надежными для использования в критически важных корпоративных операциях.

Почему внедрение ИИ застряло

Несмотря на широкое экспериментирование, большинство корпоративных инициатив ИИ не достигают производства. Внутренние данные часто остаются без проверки, выходные данные могут быть непоследовательными, и ошибки – особенно галлюцинации – вводят реальные операционные риски.

Исследования показывают, что хотя большинство сотрудников сейчас используют инструменты ИИ на работе, многие делают это без проверки точности. В то же время значительная часть корпоративных случаев использования ИИ остается в пилотном режиме. Проблема заключается не в том, что ИИ способен, а в том, можно ли ему доверять.

Это особенно проблематично в отраслях, таких как финансы, страхование, здравоохранение и логистика, где ошибки могут иметь нормативные, финансовые или юридические последствия.

Создание слоя надежности для ИИ

Подход ActionAI заключается в том, чтобы рассматривать надежность как фундаментальный слой, а не как после мысли. Ее платформа предназначена для мониторинга и оценки систем ИИ на протяжении всего жизненного цикла – от обучающих данных до окончательного вывода.

Вместо того, чтобы сосредотачиваться только на производительности модели, система отслеживает, как данные проходят через каждую стадию стека ИИ. Это позволяет командам определить точно, где происходят сбои, будь то на уровне входных данных, во время обработки или на этапе вывода.

Ключевым компонентом платформы является ее способность отладить проблемы в режиме реального времени. Когда что-то идет не так, команды могут быстро изолировать коренную причину и устранить крайние случаи, прежде чем они перерастут в более крупные проблемы.

Введение объяснимых исключений

Одним из наиболее характерных элементов платформы является система, называемая Объяснимыми исключениями (ExEx). Вместо того, чтобы заставлять системы ИИ действовать с неопределенными выводами, ExEx обнаруживает, когда модель не уверена и перенаправляет задачу человеку.

Что делает этот подход заметным, так это то, что он не просто флагирует проблему – он предоставляет обоснование. Человеческие рецензенты получают контекст, объясняющий, почему ИИ был неуверен, что позволяет им принимать более быстрые и обоснованные решения.

Это создает структурированный человек-в-цикле рабочий процесс, который не замедляет операции, а служит гарантией. Он гарантирует, что неопределенные или высокорисковые выводы никогда не проходят через систему незамеченными.

От мониторинга к непрерывному контролю

За пределами развертывания платформа продолжает отслеживать производительность ИИ в производстве. Она отслеживает, как системы реагируют на новые данные, меняющиеся условия или обновленные инструкции.

Когда производительность падает или появляются аномалии, система автоматически флагирует их, помогая организациям поддерживать последовательность во времени. Это особенно важно, поскольку модели ИИ ухудшаются или ведут себя непредсказуемо, когда подвергаются воздействию новых входных данных.

Цель состоит в том, чтобы перейти от статических развертываний ИИ к непрерывно управляемым системам, которые адаптируются без жертвования надежностью.

ActionAI фокусируется на секторах, где точность не обсуждается. Это включает финансовые услуги, производство, розничную торговлю, страхование, цепочки поставок и правовые системы.

В этих средах даже небольшие ошибки могут создать каскадные проблемы. Вводя надзор, отслеживаемость и структурированное исключение, платформа предназначена для того, чтобы сделать ИИ жизнеспособным в контекстах, где он традиционно считался слишком рискованным.

Сдвиг в сторону ответственного ИИ

Для основателя Мириам Харт основной проблемой не является только улучшение производительности ИИ, но и то, чтобы системы были ответственными с самого начала.

Архитектура компании фокусируется на проверке данных до их ввода в систему, мониторинге поведения во время выполнения и обеспечении того, чтобы выводы можно было объяснить и проверить после этого. Этот комплексный обзор позволяет организациям перейти от экспериментирования к полномасштабному развертыванию.

Более широкое значение этого раунда финансирования заключается в сдвиге в том, как предприятия думают об ИИ. Вместо того, чтобы рассматривать его как инструмент, наложенный на существующие системы, компании начинают рассматривать его как основную инфраструктуру – что-то, что должно соответствовать тем же стандартам, что и любая критически важная система.

ActionAI позиционирует себя на этом пересечении, где производительность одна уже недостаточна. Надежность, прозрачность и контроль становятся определяющими требованиями для корпоративного внедрения ИИ.

Если эти элементы могут быть стандартизированы, ИИ может, наконец, перейти от изолированных пилотов к полностью интегрированным операциям по всему предприятию.