Роб Кларк, президент и технический директор Seekr – Интервью

Роб Кларк является президентом и техническим директором Seekr. Роб имеет более 20 лет опыта в области программной инженерии, управления продуктами, операций и разработки передовых технологий искусственного интеллекта и веб-масштаба. До того, как присоединиться к Seekr, он возглавлял несколько проектов по искусственному интеллекту и поисковым решениям для некоторых из крупнейших телекоммуникационных, издательских и электронных коммерческих компаний.

Seekr – компания, занимающаяся искусственным интеллектом, создает надежные большие языковые модели (LLM), которые идентифицируют, оценивают и генерируют надежный контент в масштабе.

Начиная с веб-поиска, постоянные инновации Seekr привели к разработке запатентованной технологии, повышающей безопасность и ценность веба. Их модели, разработанные с помощью экспертного человеческого вклада и объяснимости, удовлетворяют потребностям клиентов в оценке контента, генеративном ИИ и надежной подготовке и проверке LLM.

Можете ли вы описать основную миссию Seekr и то, как она отличается в конкурентном ландшафте ИИ?

Мы основали Seekr на простом, но важном принципе, что каждый должен иметь доступ к надежной, заслуживающей доверия и достоверной информации – независимо от ее формы или источника. Не важно, являетесь ли вы онлайн-потребителем или бизнесом, использующим эту информацию для принятия ключевых решений – ответственные системы ИИ позволяют всем нам полностью и лучше понять информацию, обеспечивая точность и достоверность выходных данных генеративного ИИ.

Когда информация ненадежна, она может привести к различным последствиям, от более безобидного сенсационизма до худшего случая – скоординированных неаутентичных поведений, предназначенных для обмана или влияния вместо информирования. Подход Seekr к ИИ заключается в обеспечении пользователю полной прозрачности контента, включая его происхождение, линию и объективность, а также возможность создавать и использовать ИИ, который является прозрачным, заслуживающим доверия, объяснимым и имеет все необходимые гарантии, чтобы потребители и бизнес могли ему доверять.

Помимо предоставления оптимизированных для отрасли больших языковых моделей (LLM), Seekr начала разрабатывать основные модели, отличающиеся большей прозрачностью и точностью, с уменьшенной ошибкой и предвзятостью, включая все инструменты проверки. Это стало возможным благодаря сотрудничеству Seekr с Intel (INTC ) для использования последнего поколения ускорителей ИИ Gaudi по лучшей возможной цене. Мы решили не полагаться на внешние основные модели, где данные подготовки были неизвестны и содержали ошибки и врожденную предвзятость, особенно поскольку они часто обучались на популярных данных, а не на наиболее достоверных и надежных данных. Мы ожидаем выпустить эти модели к концу года.

Наш основной продукт – SeekrFlow, полная платформа от конца до конца, которая обучает, проверяет, развертывает и масштабирует заслуживающий доверия ИИ. Она позволяет предприятиям безопасно использовать свои данные, быстро разрабатывать ИИ, который они могут доверять, оптимизированный для их отрасли.

Каковы ключевые особенности SeekrFlow, и как она упрощает процесс разработки и развертывания ИИ для предприятий?

SeekrFlow использует подход “сверху вниз”, ориентированный на результат, позволяя предприятиям решать проблемы с помощью ИИ, обеспечивая операционную эффективность и новые возможности для получения дохода через одну сплоченную платформу. Этот интеграция включает безопасный доступ к данным, автоматическую подготовку данных, тонкую настройку модели, вывод, гарантии, инструменты проверки и масштабирование, исключая необходимость использования нескольких разрозненных инструментов и снижая сложность внутреннего технического таланта, управляющего различными аспектами разработки ИИ отдельно.

Для предприятий настройка является ключом, поскольку подход “одна модель подходит всем” не решает уникальные бизнес-проблемы. SeekrFlow позволяет клиентам эффективно использовать свои корпоративные данные безопасно и соответствовать конкретным потребностям их отрасли. Это особенно важно в регулируемых отраслях, таких как финансы, здравоохранение и государственный сектор.

Подход Seekr к обучению ИИ с помощью агента значительно снижает стоимость, время и необходимость человеческого надзора, связанного с маркировкой и приобретением данных, синтезируя высококачественные и отраслевые данные с помощью отраслевых принципов, таких как политические документы, руководства или пользовательские корпоративные данные.

Приверженность Seekr надежности и объяснимости пронизывает SeekrFlow. Никакое предприятие не хочет развернуть модель в производстве и обнаружить, что она “галлюцинирует”, выдает неверную информацию или, что еще хуже, раздает свои продукты и услуги бесплатно! SeekrFlow включает инструменты, необходимые для проверки моделей на надежность, снижения ошибок и прозрачного предоставления пользователю информации о том, что влияет на выходную модель, вплоть до исходных данных подготовки. Аналогично тому, как программисты и QA могут сканировать, тестировать и проверять свой код, мы предоставляем аналогичные возможности для моделей ИИ.

Все это предоставляется по оптимальной стоимости для предприятий. Наше сотрудничество с Intel, работающее в облаке Intel AI, позволяет Seekr получить лучшую цену и производительность, которую мы передаем своим клиентам.

Как SeekrFlow решает общие проблемы, такие как стоимость, сложность, точность и объяснимость при принятии ИИ?

Высокие цены и нехватка оборудования ИИ являются двумя из крупнейших барьеров для входа на рынок для предприятий. Благодаря вышеупомянутому сотрудничеству с Intel, SeekrFlow имеет доступ к огромному количеству следующего поколения оборудования ИИ, использующего ускорители ИИ Gaudi и оптимизированные процессоры Xeon. Это предоставляет клиентам масштабируемые и экономически эффективные вычислительные ресурсы, которые могут обрабатывать крупномасштабные рабочие нагрузки ИИ, используя как ускорители ИИ Gaudi, так и оптимизированные процессоры Xeon.

Важно отметить, что SeekrFlow является агностическим к облачным провайдерам и платформам и работает на последних поколениях чипов ИИ от Intel, Nvidia (NVDA ) и других. Наша цель – абстрагировать сложность оборудования ИИ и избежать блокировки поставщиком, одновременно разблокируя все уникальные преимущества программного обеспечения, инструментов и экосистемы каждого чипа. Это включает в себя как запуск в облаке, так и на локальных операционных центрах.

При построении SeekrFlow мы четко увидели отсутствие конкурентоспособности, существовавшее в других инструментах. Конкурентоспособность является важной для Seekr, поскольку мы хотим убедиться, что у пользователя есть право сказать, что что-то не точное, и иметь простой способ решить эту проблему. С другими моделями и платформами часто бывает трудно или неизвестно, как исправить ошибки. Пунктирные исправления после факта часто неэффективны, например, манипулирование входным запросом не гарантирует, что ответ будет исправлен каждый раз или в каждом сценарии. Мы предоставляем пользователю все инструменты для прозрачности, объяснимости и простого способа обучить и исправить модель в чистом интерфейсе пользователя. От построения на основе заслуживающих доверия основых моделей в основе до простых в использовании инструментов тестирования и измерения SeekrFlow обеспечивает точные результаты, которые можно понять и проверить. Это важно для понимания того, что гарантии ИИ не являются чем-то, что просто приятно иметь или подумать позже – мы предлагаем клиентам простые в использовании инструменты объяснимости и конкурентоспособности с самого начала реализации.

Как платформа интегрирует подготовку данных, тонкую настройку, размещение и вывод, чтобы обеспечить более быструю экспериментирование и адаптацию LLM?

SeekrFlow интегрирует процесс разработки ИИ от конца до конца в одной платформе. От обработки маркировки и форматирования данных с помощью подхода генерации агента ИИ до тонкой настройки базовой модели и вывода для вывода и мониторинга тонко настроенной модели. Кроме того, инструменты объяснимости SeekrFlow позволяют разработчикам моделей ИИ обнаружить пробелы в знаниях модели, понять, почему происходят ошибки и “галлюцинации”, и直接 действовать на них. Этот интегрированный подход обеспечивает быструю экспериментирование и итерации моделей.

Какие другие уникальные технологии или методологии разработала Seekr, чтобы обеспечить точность и надежность своих моделей ИИ?

Seekr разработала запатентованную технологию ИИ для оценки качества, надежности, предвзятости, токсичности и достоверности контента, будь то текст, визуальный или аудиосигнал. Эта технология предоставляет богатые данные и знания, которые можно объединить в любую модель ИИ, в виде данных подготовки, алгоритмов или гарантий модели. В конечном итоге, технология Seekr для оценки контента может быть использована для обеспечения безопасности, фактичности, полезности, беспристрастности и справедливости моделей ИИ. Примером этого является SeekrAlign, который помогает брендам и издателям увеличить охват и доход с помощью ответственного ИИ, который рассматривает контекст контента через наш запатентованную оценку вежливости.

Подход Seekr к объяснимости гарантирует, что ответы моделей ИИ понятны и прослеживаются. По мере того, как модели ИИ участвуют в решениях с последствиями, необходимость для разработчиков моделей ИИ понимать и оспаривать решения модели становится все более важной.

Как SeekrFlow помогает разработчикам выравнивать модели ИИ с ценностями и отраслевыми правилами их предприятия?

Агент выравнивания принципов SeekrFlow является важной функцией, которая помогает разработчикам и предприятиям снизить общую стоимость своих систем, основанных на RAG, и эффективно выравнивать свой ИИ с уникальными принципами, ценностями и отраслевыми правилами без необходимости сбора и обработки структурированных данных.

Агент Seekr использует передовые алгоритмы выравнивания, чтобы гарантировать, что поведение LLM соответствует этим уникальным и предопределенным стандартам, намерениям, правилам или ценностям. На этапах подготовки и вывода агент выравнивания принципов руководит пользователями через весь процесс подготовки и тонкой настройки данных, постоянно интегрируя экспертный вклад и этические рекомендации. Это гарантирует, что наши модели ИИ работают в пределах приемлемых границ.

Предоставляя инструменты для настройки и обеспечения этих принципов, SeekrFlow наделяет предприятия возможностью поддерживать контроль над своими приложениями ИИ, гарантируя, что они отражают ценности компании и соответствуют юридическим и отраслевым требованиям. Эта возможность является важной для построения доверия с клиентами и заинтересованными сторонами, демонстрируя приверженность ответственным ИИ.

Можете ли вы обсудить сотрудничество с OneValley и то, как технология Seekr обеспечивает платформу Haystack AI?

OneValley является доверенным ресурсом для десятков тысяч предпринимателей и малых и средних бизнесов (МСБ) во всем мире. Общая проблема, с которой сталкиваются эти лидеры, заключается в поиске правильных советов, продуктов и услуг для начала и роста своего бизнеса. Модели ИИ Seekr, специфичные для отрасли, обеспечивают платформу OneValley – Haystack AI, которая предлагает клиентам доступ к огромным базам данных доступных продуктов, их атрибутов, цен, плюсов и минусов и многое другое. Haystack AI интеллектуально делает рекомендации пользователям и отвечает на вопросы, все доступно через чат-бот в приложении.

Какие конкретные преимущества предлагает Haystack AI стартапам и МСБ, и как ИИ Seekr усиливает эти преимущества?

Независимо от того, нужен ли пользователю быстрый ответ, чтобы узнать, какая бизнес-кредитная карта предлагает самые высокие денежные вознаграждения с самыми низкими сборами на пользователя и самой низкой процентной ставкой, или чтобы сравнить два системы CRM, которые они рассматривают в качестве правильного решения, Haystack AI, обеспеченный Seekr, предоставляет им правильные ответы быстро.

Haystack AI отвечает на вопросы пользователей быстро и в наиболее экономически эффективном порядке. Ждать и задавать вопросы человеку, а также проводить исследования, необходимые для этого процесса, является невыполнимым для очень занятых бизнес-лидеров. Клиенты хотят точные ответы, на которые они могут положиться, быстро, не просматривая результаты (и спонсируемые ссылки!) поисковых систем. Их время лучше всего тратить на управление своим основным бизнесом. Это отличный пример того, как Seekr AI решает реальную бизнес-потребность.

Как Seekr обеспечивает, чтобы его решения ИИ оставались масштабируемыми и экономически эффективными для бизнеса всех размеров?

Простой ответ заключается в том, чтобы обеспечить масштаб и низкую стоимость, вам нужно стратегическое сотрудничество для доступа к вычислениям в масштабе. Предоставление масштабируемых, экономически эффективных и надежных решений ИИ требует союза лучшего программного обеспечения ИИ, работающего на ведущем оборудовании. Наше сотрудничество с Intel включает многолетнюю приверженность доступу к все более растущему количеству оборудования ИИ, включая обновление через поколения от текущего Gaudi 2 до Gaudi 3 в начале 2025 года и далее на следующую инновацию чипов. Мы поставили на то, что лучшая доступность и цена вычислений будут来自 фактического производителя кремния, одним из которых является Intel. Это решает любые проблемы с нехваткой, особенно когда мы и наши клиенты масштабируемся и обеспечиваем лучшую возможную цену и производительность, которая приносит пользу клиенту.

Клиенты Seekr, работающие на своей собственной хостинговой службе, платят только за фактическое использование. Мы не взимаем плату за простаивающие GPU. SeekrFlow имеет высококонкурентную модель ценообразования по сравнению с современниками в этой области, которая поддерживает самые маленькие и самые крупные развертывания.

Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить Seekr.