Омри Кохл, генеральный директор и сооснователь Pyramid Analytics – Серия интервью

Омри Кохл является генеральным директором и сооснователем Pyramid Analytics. Платформа Pyramid Decision Intelligence Platform обеспечивает данные, основанные на данных, для принятия более быстрых и интеллектуальных решений. Он руководит стратегией и операциями компании на быстро растущем рынке данных и аналитики. Кохл имеет глубокое понимание аналитических и технологий ИИ, ценный опыт управления и естественную способность бросать вызов традиционному мышлению. Кохл – опытный предприниматель с доказанной историей развития и управления быстрорастущими компаниями. Он изучал экономику, финансы и бизнес-управление в Университете Бар-Илан и имеет степень МВА в области международного бизнес-управления в Нью-Йоркском университете, Школе бизнеса Леонарда Н. Штерна.

Можете ли вы начать с объяснения того, что такое GenBI, и как оно интегрирует генеративный ИИ с бизнес-аналитикой для улучшения процессов принятия решений?

GenBI – это основа и механизмы для того, чтобы привнести силу генеративного ИИ, больших языковых моделей и общего ИИ в аналитику, бизнес-интеллект и принятие решений.

В настоящее время не практично использовать генеративный ИИ самостоятельно для доступа к данным. Это может занять более недели, чтобы загрузить достаточно данных в инструмент генеративного ИИ, чтобы получить осмысленные результаты. Это просто не работает, поскольку бизнес-данные слишком динамичны и слишком чувствительны, чтобы использовать их таким образом. С GenBI любой человек может извлечь ценные данные из своих данных, просто задав вопрос на естественном языке и увидев результаты в виде панели бизнес-интеллекта. Это занимает всего 30 секунд, чтобы получить релевантный и полезный ответ.

Каковы ключевые технологические инновации за GenBI, которые позволяют ему понимать и выполнять сложные задачи бизнес-интеллекта через естественный язык?

Ну, не раскрывая все наши секреты, есть три основных компонента. Первый – GenBI запрашивает большие языковые модели со всеми необходимыми элементами для производства правильных аналитических шагов, которые дадут запрошенную информацию. Это то, что позволяет пользователю формировать запросы, используя естественный язык, даже в неясных терминах, не зная точно, какой тип графика, расследования или формата запрашивать.

Далее решение GenBI от Pyramid Analytics применяет эти шаги к данным вашей компании, независимо от конкретных деталей вашей ситуации. Мы говорим о самых базовых наборах данных и простых запросах, а также о самых сложных случаях и сложных базах данных.

Третьим, Pyramid может выполнить эти запросы на основе данных и манипулировать результатами на лету. Одна большая языковая модель не может произвести глубокий анализ базы данных. Вам нужен робот-элемент, чтобы найти всю необходимую информацию, интерпретировать запрос пользователя, чтобы произвести информацию, и передать ее на платформу бизнес-интеллекта, чтобы артикулировать результаты либо на простом языке, либо в виде динамической визуализации, которую можно позже уточнить с помощью последующих запросов.

Как GenBI демократизирует анализ данных, особенно для непрофессиональных пользователей?

Просто говоря, GenBI позволяет любому получить доступ к информации, которую он necesita, независимо от его уровня экспертизы. Традиционные инструменты бизнес-интеллекта требуют от пользователя знать, какая техника манипуляции данными является лучшей, чтобы получить необходимые результаты. Но большинство людей не думают в виде круговых диаграмм, диаграмм рассеяния или таблиц. Они не хотят выяснять, какой вид визуализации является наиболее эффективным для их ситуации – они просто хотят ответы на свои вопросы.

GenBI обеспечивает эти ответы для любого, независимо от его экспертизы. Пользователь не должен знать все профессиональные термины или выяснять, какой график или таблица является лучшим вариантом, и он не должен знать, как кодировать запросы базы данных. Он может исследовать данные, используя свои собственные слова в естественном разговоре.

Мы думаем об этом как о разнице между использованием бумажной карты для планирования маршрута и использованием Google Maps или другого навигационного приложения. С традиционной картой вам нужно выяснить, какие дороги лучше всего использовать, подумать о потенциальных пробках и сравнить разные возможности маршрута. Сегодня люди просто вводят пункт назначения в приложение и отправляются в путь – есть так много доверия к алгоритмам, что никто не сомневается в предложенном маршруте. Мы хотим, чтобы GenBI принесло ту же магию в корпоративные данные.

Какой был отклик ранних пользователей о легкости использования и кривой обучения?

Мы получили подавляюще положительный отклик. Лучший способ, которым мы можем суммировать это, – “Вау!” Пользователи и тестировщики высоко оценили легкость использования Pyramid, мощные функции и осмысленные данные.

Pyramid Analytics имеет практически нулевую кривую обучения, поэтому нет ничего, что могло бы удержать людей от принятия его на месте. Приблизительно три четверти всех бизнес-команд, которые протестировали наше решение, приняли его и используют его сегодня, потому что это так легко и эффективно.

Можете ли вы поделиться тем, как GenBI преобразило процессы принятия решений внутри организаций, которые реализовали его? Есть ли какие-либо конкретные кейсы или примеры?

Хотя мы разрабатывали его в течение долгого времени, мы только что запустили GenBI несколько недель назад, поэтому я уверен, что вы понимаете, что у нас еще нет полностью сформированных кейсов или примеров, которые мы могли бы поделиться. Однако я могу сказать вам, что организации с тысячами пользователей вдруг стали真正 данными, поскольку каждый может получить доступ к информации. Пользователи теперь могут разблокировать истинную ценность всех своих данных.

GenBI оказывает трансформирующее воздействие на отрасли, такие как страхование, банковское дело и финансы, а также розничная торговля, производство и многие другие вертикали. Внезапно стало возможным для финансовых консультантов, например, получить мгновенные предложения о том, как оптимизировать портфель клиента.

Каковы были некоторые из самых больших проблем, с которыми вы столкнулись при разработке GenBI, и как вы их преодолели?

Pyramid Analytics уже использовал ИИ для аналитики в течение многих лет до запуска нового решения, поэтому большинство проблем уже давно решены.

Основным новым элементом является добавление сложной технологии генерации запросов, которая работает с любой большой языковой моделью для производства точных результатов, сохраняя данные в секрете. Мы достигли этого, декуплируя данные от запроса (об этом чуть позже).

Другой большой проблемой, с которой мы столкнулись, была проблема скорости. Мы говорим о эпоху Google, когда люди ожидают ответов сейчас, а не через час или даже полчаса. Мы убедились, что ускорили обработку и оптимизировали все рабочие процессы, чтобы уменьшить трение.

Затем есть необходимость предотвратить галлюцинации. Чат-боты склонны к галлюцинациям, которые искажают результаты и подрывают надежность. Мы работали усердно, чтобы избежать этого, сохраняя при этом динамические результаты.

Как вы решаете проблемы, связанные с безопасностью и конфиденциальностью данных?

Это отличный вопрос, поскольку безопасность и конфиденциальность данных являются самой большой проблемой для успешной аналитики генеративного ИИ. Все – совершенно справедливо – обеспокоены идеей раскрытия высокочувствительных корпоративных данных третьим ИИ-инженерам, но они также хотят возможности языковой интерпретации и данных, которые эти инженеры могут предоставить.

Это почему мы никогда не делимся фактическими данными с большими языковыми моделями, с которыми мы работаем. Pyramid переворачивает всю предпосылку с ног на голову, служа посредником между информацией вашей компании и большой языковой моделью. Мы позволяем вам отправить запрос, а затем передаем его большой языковой модели вместе с описаниями того, что мы называем “ингредиентами”, по сути, только метаданные.

Большая языковая модель затем возвращает “рецепт”, который объясняет, как превратить вопрос пользователя в запрос аналитики данных. Затем Pyramid запускает этот рецепт на данных, которые вы уже подключили безопасно на вашем самоустанавливающемся установке, так что никакие данные никогда не доходят до большой языковой модели. Мы объединяем результаты, чтобы подать их вам в легко понимаемом, визуальном формате. По сути, ничего, что могло бы поставить под угрозу вашу безопасность и конфиденциальность, не раскрывается или не покидает безопасность вашей организации.

Для организаций, которые хотят интегрировать GenBI в свои существующие инфраструктуры данных, какой выглядит процесс реализации? Есть ли какие-либо предварительные условия или подготовка?

Процесс реализации Pyramid Analytics не может быть проще или быстрее. Пользователям необходимо очень мало предварительных условий и подготовки, и вы можете запустить все за менее чем час. Вам не нужно перемещать данные в новую структуру или менять что-либо в своей стратегии данных, поскольку Pyramid запрашивает ваши данные напрямую там, где они находятся.

Не нужно объяснять ваши данные решению или определять столбцы. Это так просто, как загрузка набора данных CSV или подключение базы данных SQL. То же самое относится и к любой реляционной базе данных любого рода. Это занимает всего несколько минут, чтобы подключить ваши данные, и затем вы можете задать свой первый вопрос через несколько секунд.

Тем не менее, вы можете скорректировать структуру, если хотите, как изменение модели соединения или переопределение столбцов. Это требует некоторого времени и усилий, но мы говорим о минутах, а не о месячном проекте разработки. Наши клиенты часто поражены, что Pyramid запускается на их классическом хранилище данных или озере данных в течение пяти минут или около того.

Вам также не нужно придумывать очень конкретные, точные или даже умные вопросы, чтобы получить мощные результаты. Вы можете делать орфографические ошибки и использовать неправильную фразу, и Pyramid все равно произведет осмысленный и ценный ответ. Что вам нужно, это некоторое знание о данных, о которых вы спрашиваете.

Глядя вперед, какова ваша стратегическая видение для Pyramid Analytics в течение следующих пяти лет? Как вы видите, как ваши решения будут развиваться, чтобы удовлетворять меняющимся рыночным требованиям?

Следующая большая граница – поддержка масштабируемых, высокоспецифических запросов. Пользователи желают иметь возможность задавать очень точные вопросы, такие как вопросы о персонализированных сущностях, и большие языковые модели не могут еще производить умные ответы в этих случаях, поскольку они не имеют такого подробного понимания вашей базы данных.

Мы сталкиваемся с проблемой того, как использовать языковые модели, чтобы спросить о деталях ваших данных, не соединяя сразу всю вашу огромную базу данных с большой языковой моделью. Как вы настраиваете большую языковую модель на данные, которые обновляются каждые две секунды? Мы можем управлять этим для фиксированных точек, таких как страны, местоположения и даже даты, но не для чего-то идиосинкратического, такого как имена, хотя мы очень близки к этому сегодня.

Другой проблемой является возможность для пользователей задавать свои собственные математические интерпретации данных, применяя свои собственные формулы. Это сложно не потому, что формула сложна, а потому, что понимание того, чего хочет пользователь, и получение правильной синтаксиса является сложным. Мы работаем над решением обеих этих проблем, и когда мы это сделаем, мы пройдем следующую точку открытия.

Спасибо за отличное интервью, читателям, которые хотят узнать больше, следует посетить Pyramid Analytics.