Крис Мал, президент и генеральный директор компании Pryon – Интервью

Крис Мал является президентом и генеральным директором компании Pryon. С более чем двумя десятилетиями опыта работы в некоторых из наиболее известных компаний по разработке программного обеспечения для предприятий, Крис специализируется на масштабировании стратегий выхода на рынок и операционных стратегий для технологических компаний на всех этапах роста.

Pryon предоставляет проверенный, безопасный и проверенный путь к реализации генеративного ИИ в предприятиях. Лучшие в своем классе двигатели ингестии и извлечения Pryon могут быть объединены с генеративными моделями языка для реализации генерации с извлечением и безопасного предоставления точных, мгновенных и проверяемых ответов в масштабе предприятия.

Pryon фокусируется на генерации с извлечением (RAG). Можете ли вы объяснить, как ваш подход к извлечению отличается от других систем поиска и управления знаниями на основе ИИ?

Подход Pryon к извлечению выделяется тем, что наш двигатель извлечения может получить доступ к контенту в режиме реального времени из различных источников, таких как PDF, изображения, веб-страницы и видео, сохраняя при этом конфиденциальность данных без внешних зависимостей. Мы объединили семантический поиск с гранулярной атрибуцией данных, чтобы достичь более 90% точности извлечения. В отличие от многих систем, наша система эффективно масштабируется для крупных организаций, позволяя командам принимать быстрые и точные решения на основе их существующей базы знаний.

Двигатель ингестии Pryon предназначен для структуризации больших объемов контента в нескольких форматах. Что делает ваш процесс ингестии уникальным, и как он улучшает точность извлечения?

Двигатель ингестии Pryon может обрабатывать контент в нескольких форматах, извлекая ответы из аудио, изображений, текста и видео из различных источников. Это решает фундаментальную проблему разрозненных данных в предприятиях. С ростом неструктурированных данных более чем на 50% в год, наш двигатель ингестии преобразует разрозненные сведения в структурированные и действенные знания. Процесс разработан с учетом безопасности и конфиденциальности, сохраняя конфиденциальность чувствительных данных предприятия, одновременно делая их сразу же полезными.

Ваш двигатель извлечения обещает мгновенные, точные и проверяемые ответы. Как Pryon обеспечивает точность и минимизирует галлюцинации при извлечении информации?

Pryon обеспечивает точность и минимизирует галлюцинации посредством нескольких механизмов. Наша технология объединяет семантический поиск с гранулярной атрибуцией данных, что означает, что ответы могут быть отслежены до своих конкретных источников. Эта атрибуция имеет решающее значение для проверки. Система получает доступ к контенту в режиме реального времени из исходных источников, а не полагается на потенциально устаревшие или неполные базы знаний. Этот прямой доступ к исходным материалам, в сочетании с нашей высокой точностью извлечения (более 90%), существенно снижает риск галлюцинаций, которые поражают многие генеративные системы ИИ.

Как Pryon обрабатывает обновления информации в режиме реального времени, особенно в динамичных средах, таких как государство, энергетика и здравоохранение?

Pryon обеспечивает доступ к самой актуальной информации посредством гибкой синхронизации контента по требованию. Пользователи могут запустить синхронизацию контента по мере необходимости через наш портал администратора или автоматизировать обновления с помощью нашего Sync-API на запланированной основе – будь то еженедельно, ежедневно или даже ежечасно, в зависимости от операционных потребностей. Наш процесс проверки дельта-обновлений оптимизирует эффективность, обновляя только измененный контент, обеспечивая быстрое, точное и ресурсоэффективное извлечение знаний в критических для миссии условиях, таких как государство, энергетика и здравоохранение.

Pryon работает с государственными и оборонными агентствами. Хотя детали часто классифицируются, можете ли вы обсудить пример использования, когда ваш ИИ существенно улучшил принятие решений или операционную эффективность?

Pryon работает с рядом оборонных и разведывательных агентств, включая лабораторию исследований ВВС (AFRL) и офис главного цифрового и искусственного интеллекта (CDAO), чтобы помочь оптимизировать операции и обеспечить более быстрое и информированное принятие решений.

Одним из мощных примеров является наше сотрудничество с офисом цифровой трансформации ВВС США (DAF DTO). Эта команда поддерживает персонал по закупкам и техническому обслуживанию, который часто需要 найти критическую информацию, разбросанную по сотням тысяч веб-страниц и документов. Вместе мы запустили DTO Wingman, помощник на основе ИИ, который предоставляет точные, актуальные ответы на сложные вопросы – полные с атрибуцией источников.

Вместо того, чтобы вручную искать политические документы или нормативные акты, пользователи могут просто задать вопросы, такие как “Что я уполномочен покупать с помощью своей карты путешествий?” или “Что такое цифровой строительный код и как он связан с закупками?” ИИ возвращает точные ответы и даже помогает генерировать отчеты и материалы для презентаций быстро.

Предоставляя личному составу ВВС и Космических сил мгновенный доступ к доверенным ответам, DTO Wingman помогает командам работать более эффективно и предоставлять надежные, своевременные рекомендации старшим лицам и лицам, принимающим решения.

Ваша работа в области наук о жизни упоминает исследование с помощью ИИ. Как система Pryon помогает исследователям ориентироваться в огромных наборах данных, таких как PubMed или частные исследовательские репозитории?

Система Pryon помогает исследователям ориентироваться в огромных наборах данных, таких как PubMed или частные исследовательские репозитории, посредством нескольких ключевых возможностей.

Улучшение качества исследований:

• Снижение человеческой ошибки: Систематическое извлечение актуальных данных обеспечивает меньшее количество пропущенных статей или упущенной доказательств.
• Обоснованность доказательствами: Каждый ответ основан на исходной литературе, что способствует выводам, основанным на данных, атрибутированным к предложению, из которого они были получены.

Защита высокочувствительного контента:

• Конфиденциальность: Сохраняет строгий контроль доступа и шифрование данных, необходимые для проприетарных или пациентских наборов данных.
• Соблюдение требований: С данными, регулируемыми нормативными актами, такими как HIPAA или GDPR, исследователи могут доверять, что конфиденциальная информация защищена.

Для обслуживания клиентов и продаж как ИИ Pryon сравнивается с традиционными решениями чат-ботов и CRM в плане увеличения эффективности и снижения нагрузки на поддержку?

Взаимодействия обслуживания клиентов/продаж обычно должны сбалансировать точность и гибкость своих решений чат-бота/CRM. Поскольку предоставление неправильного ответа клиенту является недопустимым и может иметь юридические последствия, многие поставщики чат-ботов и традиционные решения ИИ выбирают ограничить гибкость решения жесткими детерминированными взаимодействиями типа “только FAQ”.

Это боль для поставщика, требующая ручного кодирования конкретных ответов на общие вопросы, и обеспечивает плохой опыт для клиента, который имеет интерфейс чат-бота, но совершенно негибкий опыт, который几乎 не отличается от чтения FAQ. Другие поставщики выбирают использовать более гибкий генеративный опыт с меньшими ограничениями на модели языка, однако из-за отсутствия точного извлечения это предполагает помещение целых каталогов продуктов или веб-страниц в контекстное окно модели языка, снижая точность вывода, потенциально катастрофически.

Искусство и наука RAG заключается в максимизации сигнала (истины) и минимизации шума (нерелевантного контекста, который часто сбивает с толку модель языка). Точность извлечения Pryon – способность источникового предложения ответа на конкретный вопрос во всех документах – означает, что обслуживание клиентов и продажи больше не должны идти на компромисс между точностью и гибкостью.

Какие, по вашему мнению, являются самыми большими проблемами внедрения ИИ в предприятиях сегодня, особенно с системами на основе RAG?

Хотя это определенно то, что мы находим в наших взаимодействиях с рынком, это также все больше признается, что “данные, готовые к ИИ” (или их отсутствие) являются самой большой точкой отказа для развертывания ИИ.

• 91% руководителей в опросе Harvard Business Review заявили, что надежная основа данных необходима для успешного развертывания ИИ.
• McKinsey обнаружил, что 70% инициатив по генеративному ИИ сталкиваются с проблемами, связанными с данными, при этом только 1% важных данных предприятия отражается в сегодняшних моделях.
• The Wall Street Journal назвал надежность главной проблемой для принятия агентов ИИ – проблемой, тесно связанной с качеством и доступностью данных.
• Gartner определил отсутствие данных, готовых к генеративному ИИ, как главную причину неудачных развертываний.

Данные, готовые к ИИ, выходят за рамки простого векторизации ваших документов Word – это о том, чтобы унифицировать ваши разрозненные источники, работать с сложными форматами, такими как многомодальные входные данные, очищать ваши данные, улучшать ваши данные, получать их в формате, с которым могут работать модели языка, разбивать их на оптимальный уровень детализации, чтобы сохранить точность и снизить затраты, индексировать их умно, подключать их к высокопроизводительной системе извлечения и т. д.

Это большие проблемы, которые требуют специализированных компетенций и инструментов – в опросе разработчиков RAG, разрабатывающих решения внутри крупных предприятий, который провела Pryon, подготовка данных заняла первое место как наиболее дорогая, трудоемкая и технически сложная часть процесса разработки, сразу после которой следует извлечение информации.

Как вы отличаете набор RAG от Pryon от решений для предприятий, предлагаемых Microsoft , Google (GOOGL ) или OpenAI?

Конкретная дифференциация варьируется от игрока к игроку, но на высоком уровне крупные технологические игроки фокусируются на том, чтобы быть “интерфейсом” к ИИ на работе. Pryon фокусируется на более фундаментальном уровне стека – уровне знаний. Pryon решает глубокие проблемы подготовки данных и извлечения, тогда как крупные технологические игроки фокусируются на предоставлении широких решений ИИ, которые могут служить некоторым простым случаям использования RAG, но часто разваливаются, когда речь идет о реальных сложностях случаев использования предприятий и государства. Pryon также может быть дополнением к этим системам, с контентом, сгенерированным Copilot, Gemini или GPT, подключенным к слою знаний Pryon, чтобы быть организованным и готовым к использованию в приложениях и агентах.

Как Pryon подходит к соблюдению нормативных требований и этическому использованию ИИ, учитывая эволюционирующие нормативные акты, такие как Закон об ИИ ЕС и рекомендации по ИИ в США?

Поскольку нормативные акты по ИИ развиваются во всем мире, Pryon остается приверженным соблюдению нормативных требований и развертыванию ИИ этично. Наш подход соответствует таким框WORKам, как Закон об ИИ ЕС, рекомендации по ИИ в США и принципам ответственного ИИ (RAI) Министерства обороны, гарантируя, что наши решения ИИ являются надежными, прозрачными и управляемыми. Следуя рамочному каркасу RAI SHIELD, мы интегрируем строгую оценку, отслеживаемость и непрерывный мониторинг на протяжении всего жизненного цикла ИИ – отдаём приоритет безопасности, справедливости и производительности. Включая эти лучшие практики в нашу методологию развертывания, Pryon позволяет организациям использовать ИИ ответственно, одновременно удовлетворяя самые высокие нормативные и этические стандарты.

Спасибо за отличное интервью, читателям, которые хотят узнать больше, следует посетить Pryon.