Роб Кларк, Президент и Технический Директор Seekr – Интервью Серия

Роб Кларк является Президентом и Техническим Директором (CTO) Seekr. Роб имеет более 20 лет опыта в области программной инженерии, управления продуктами, операций и разработки передовых технологий искусственного интеллекта и веб-машstab. До того, как присоединиться к Seekr, он возглавлял несколько проектов по искусственному интеллекту и поисковым решениям для некоторых из крупнейших телекоммуникационных, издательских и электронных коммерческих компаний.

Seekr – компания, занимающаяся искусственным интеллектом, создает надежные большие языковые модели (LLM), которые идентифицируют, оценивают и генерируют надежный контент в крупном масштабе.

Начиная с веб-поиска, постоянные инновации Seekr привели к разработке запатентованных технологий, повышающих безопасность и ценность веба. Их модели, разработанные с помощью экспертного человеческого вклада и объяснимости, решают потребности клиентов в оценке контента, генеративном ИИ и обучении надежных LLM.

Можете ли вы описать основную миссию Seekr и то, как она отличается в конкурентном ландшафте ИИ?

Мы основали Seekr на простом, но важном принципе, что каждый должен иметь доступ к надежной, заслуживающей доверия и достоверной информации – независимо от ее формы или источника. Это не имеет значения, являетесь ли вы онлайн-потребителем или бизнесом, использующим эту информацию для принятия важных решений – ответственные системы ИИ позволяют всем нам полностью и лучше понять информацию, как вам нужно обеспечить, чтобы то, что выходит из генеративного ИИ, было точным и надежным.

Когда информация ненадежна, она охватывает весь спектр, например, от более безобидного сенсационизма до худшего случая координированных неаутентичных поведений, предназначенных для того, чтобы ввести в заблуждение или повлиять вместо того, чтобы информировать. Подход Seekr к ИИ заключается в обеспечении пользователю полной прозрачности контента, включая происхождение, родословную и объективность, а также возможность создавать и использовать ИИ, который является прозрачным, заслуживающим доверия, объяснимым и имеет все необходимые ограничения, чтобы потребители и бизнес могли ему доверять.

Помимо предоставления оптимизированных для отрасли больших языковых моделей (LLM), Seekr начала разрабатывать основные модели, отличающиеся большей прозрачностью и точностью с уменьшенной ошибкой и предвзятостью, включая все инструменты проверки. Это стало возможным благодаря сотрудничеству Seekr с Intel для использования последнего поколения ускорителей ИИ Gaudi при лучшей возможной цене и производительности. Мы решили не полагаться на внешние основные модели, где данные обучения были неизвестны и показывали ошибки и врожденную предвзятость, особенно поскольку они часто обучались на популярных данных, а не на наиболее достоверных и надежных данных. Мы ожидаем выпуска этих моделей к концу года.

Наш основной продукт называется SeekrFlow, полная платформа от начала до конца, которая обучает, проверяет, развертывает и масштабирует заслуживающий доверия ИИ. Она позволяет предприятиям использовать свои данные безопасно, быстро разрабатывать ИИ, на который они могут положиться, оптимизированный для их отрасли.

Каковы критические особенности SeekrFlow, и как она упрощает процесс разработки и развертывания ИИ для предприятий?

SeekrFlow использует подход “сверху вниз”, ориентированный на результат, позволяя предприятиям решать проблемы с помощью ИИ как с операционной эффективностью, так и с новыми возможностями получения дохода через одну целостную платформу. Этот интеграция включает безопасный доступ к данным, автоматическую подготовку данных, тонкую настройку модели, вывод, ограничения, инструменты проверки и масштабирование, исключая необходимость в нескольких разрозненных инструментах и снижая сложность внутреннего технического персонала, управляющего различными аспектами разработки ИИ отдельно.

Для предприятий настройка является ключом, поскольку подход “одна модель подходит всем” не решает уникальные бизнес-проблемы. SeekrFlow позволяет клиентам как эффективно использовать свои корпоративные данные безопасно, так и соответствовать конкретным потребностям их отрасли. Это особенно важно в регулируемых отраслях, таких как финансы, здравоохранение и государственный сектор.

Подход Seekr к обучению ИИ с помощью агента значительно снижает стоимость, время и необходимость в человеческом надзоре, связанном с маркировкой и приобретением данных, синтезируя высококачественные и отраслевые данные с помощью отраслевых принципов, таких как политические документы, руководства или пользовательские корпоративные данные.

Приверженность Seekr надежности и объяснимости пронизывает всю платформу SeekrFlow. Никакое предприятие не хочет развернуть модель в производстве и обнаружить, что она “галлюцинирует”, дает неверную информацию или в худшем случае отдает свои продукты и услуги бесплатно! SeekrFlow включает инструменты, необходимые для проверки моделей на надежность, снижения ошибок и прозрачного предоставления пользователю возможности увидеть, что влияет на вывод модели прямо до исходных данных обучения. Аналогично тому, как программисты и QA могут сканировать, тестировать и проверять свой код, мы предоставляем аналогичные возможности для моделей ИИ.

Все это предоставляется по оптимальной стоимости для предприятий. Наше сотрудничество с Intel, работающее в облаке Intel AI, позволяет Seekr получить лучшую цену и производительность, которую мы передаем нашим клиентам.

Как SeekrFlow решает общие проблемы, такие как стоимость, сложность, точность и объяснимость при принятии ИИ?

Высокие цены и нехватка оборудования ИИ являются двумя из крупнейших барьеров для входа на рынок для предприятий. Благодаря вышеупомянутому сотрудничеству с Intel, SeekrFlow имеет доступ к огромному количеству следующего поколения оборудования ИИ, использующего ускорители ИИ Intel Gaudi и оптимизированные для ИИ процессоры Xeon. Это предоставляет клиентам масштабируемые и экономически эффективные вычислительные ресурсы, которые могут обрабатывать крупномасштабные рабочие нагрузки ИИ, используя как ускорители ИИ Intel Gaudi, так и оптимизированные для ИИ процессоры Xeon.

Важно отметить, что SeekrFlow является независимым от поставщика облачного провайдера и платформы и работает на последних поколениях чипов ИИ от Intel, Nvidia и других производителей. Наша цель – абстрагировать сложность оборудования ИИ и избежать зависимости от поставщика, одновременно разблокируя все уникальные преимущества программного обеспечения, инструментов и экосистемы каждого чипа. Это включает в себя как запуск в облаке, так и на локальных операционных центрах.

При создании SeekrFlow мы четко увидели отсутствие конкурентоспособности, которое существовало в других инструментах. Конкурентоспособность является важной для Seekr, поскольку мы хотим убедиться, что у пользователя есть право сказать, что что-то не точное, и иметь простой способ решить эту проблему. С другими моделями и платформами часто бывает трудно или неизвестно, как исправить ошибки. Точечные исправления после факта часто неэффективны, например, манипулирование входным запросом не гарантирует, что ответ будет исправлен каждый раз или в каждом сценарии. Мы предоставляем пользователю все инструменты для прозрачности, объяснимости и простого способа обучать и исправлять модель в чистом интерфейсе. От построения на основе заслуживающих доверия основых моделей в основе до простых в использовании инструментов тестирования и измерения SeekrFlow обеспечивает точные результаты, которые можно понять и проверить. Это важно для понимания того, что ограничения ИИ не являются чем-то, что просто приятно иметь или подумать позже – а скорее мы предлагаем клиентам простые в использовании инструменты объяснимости и конкурентоспособности с самого начала реализации.

Как платформа интегрирует подготовку данных, тонкую настройку, размещение и вывод, чтобы обеспечить более быструю экспериментирование и адаптацию LLM?

SeekrFlow интегрирует процесс разработки ИИ от начала до конца в одной платформе. От обработки маркировки и форматирования данных с помощью подхода агента ИИ к тонкой настройке базовой модели, а также к обслуживанию для вывода и мониторингу тонко настроенной модели. Кроме того, инструменты объяснимости SeekrFlow позволяют разработчикам моделей ИИ обнаруживать пробелы в знаниях модели, понимать, почему происходят ошибки и “галлюцинации”, и直接 действовать на них. Этот интегрированный, комплексный подход позволяет быстро экспериментировать и совершенствовать модели.

Какие другие уникальные технологии или методологии разработала Seekr, чтобы обеспечить точность и надежность своих моделей ИИ?

Seekr разработала запатентованную технологию ИИ для оценки качества, надежности, предвзятости, токсичности и достоверности контента, будь то текст, визуальный или аудиосигнал. Эта технология предоставляет богатые данные и знания, которые можно объединить с любой моделью ИИ в виде данных обучения, алгоритмов или ограничений модели. В конечном итоге технология Seekr для оценки контента может быть использована для обеспечения безопасности, фактичности, полезности, беспристрастности и справедливости моделей ИИ. Примером этого является SeekrAlign, который помогает брендам и издателям увеличить охват и доход с помощью ответственного ИИ, который рассматривает контекст контента через наш запатентованный балл гражданственности.

Подход Seekr к объяснимости гарантирует, что ответы моделей ИИ понятны и прослеживаются. По мере того, как модели ИИ участвуют в решениях с последствиями, необходимость для разработчиков моделей ИИ понять и оспорить решения моделей становится все более важной.

Как SeekrFlow помогает разработчикам выравнивать модели ИИ с ценностями и нормативными актами их предприятия?

Агент выравнивания принципов SeekrFlow является важной функцией, которая помогает разработчикам и предприятиям снизить общую стоимость своих систем, основанных на RAG, и эффективно выравнивать свой ИИ с уникальными принципами, ценностями и нормативными актами без необходимости собирать и обрабатывать структурированные данные.

Агент Seekr использует передовые алгоритмы выравнивания для обеспечения того, чтобы поведение LLM соответствовало этим уникальным и предопределенным стандартам, намерениям, правилам или ценностям. На этапах обучения и вывода агент принципов руководит пользователями через весь процесс подготовки и тонкой настройки данных, постоянно интегрируя экспертный вклад и этические рекомендации. Это гарантирует, что наши модели ИИ работают в допустимых пределах.

Предоставляя инструменты для настройки и обеспечения этих принципов, SeekrFlow наделяет предприятия возможностью контролировать свои приложения ИИ, гарантируя, что они отражают ценности компании и соответствуют юридическим и нормативным требованиям. Эта возможность является важной для построения доверия с клиентами и заинтересованными сторонами, поскольку она демонстрирует приверженность ответственным ИИ.

Можете ли вы обсудить сотрудничество с OneValley и то, как технология Seekr обеспечивает платформу Haystack AI?

OneValley является доверенным ресурсом для десятков тысяч предпринимателей и малых и средних бизнесов (МСБ) во всем мире. Общая проблема, с которой сталкиваются эти лидеры, заключается в том, чтобы найти правильные советы, продукты и услуги для начала и роста своего бизнеса. Модели ИИ Seekr, специфичные для отрасли, обеспечивают последний продукт OneValley – Haystack AI, который предлагает клиентам доступ к огромным базам данных доступных продуктов, их атрибутов, цен, плюсов и минусов и многое другое. Haystack AI интеллектуально делает рекомендации пользователям и отвечает на вопросы, все доступно через чат-бот в приложении.

Какие конкретные преимущества предлагает Haystack AI стартапам и МСБ, и как ИИ Seekr усиливает эти преимущества?

Независимо от того, нужен ли пользователю быстрый ответ, чтобы узнать, какая бизнес-карта предлагает самые высокие денежные вознаграждения с самыми низкими сборами на пользователя и самой низкой процентной ставкой, или чтобы сравнить и противопоставить два системы CRM, которые они рассматривают в качестве правильного решения, Haystack AI, обеспеченный Seekr, предоставляет им правильные ответы быстро.

Haystack AI отвечает на вопросы пользователей быстро и в наиболее экономически эффективном порядке. Им не нужно ждать и спрашивать человека, чтобы ответить на эти вопросы, и все исследование, которое входит в этот процесс, является невыполнимым для非常 занятых лидеров бизнеса. Клиенты хотят точные ответы, на которые они могут положиться, быстро, без необходимости просматривать результаты (и спонсируемые ссылки!) веб-поисковика. Их время лучше всего тратить на управление своим основным бизнесом. Это отличный пример того, как Seekr AI решает реальную бизнес-потребность.

Как Seekr обеспечивает, чтобы его решения ИИ оставались масштабируемыми и экономически эффективными для бизнеса всех размеров?

Простой ответ заключается в том, чтобы обеспечить масштаб и низкую стоимость, вам нужно стратегическое сотрудничество для доступа к вычислениям в крупном масштабе. Обеспечение масштабируемых, экономически эффективных и надежных решений ИИ требует союза лучшего программного обеспечения ИИ, работающего на ведущем оборудовании. Наше сотрудничество с Intel включает многолетнюю приверженность доступу к постоянно растущему количеству оборудования ИИ, включая обновление через поколения от текущего Gaudi 2 до Gaudi 3 в начале 2025 года и далее на следующие инновации чипов. Мы поставили на то, что лучшая доступность и цена вычислений придут от фактического производителя кремния, из которых Intel является одним из двух в мире, производящих свои собственные чипы. Это решает любые проблемы вокруг нехватки, особенно поскольку мы и наши клиенты масштабируемся и обеспечиваем лучшую возможную цену и производительность, которая приносит пользу клиенту.

Клиенты Seekr, работающие на своей собственной хост-сервисе, платят только за фактическое использование. Мы не взимаем плату за простаивающие GPU. SeekrFlow имеет высококонкурентную модель ценообразования по сравнению с современниками в этой области, которая поддерживает самые маленькие и крупнейшие развертывания.

Благодарим за отличное интервью, читатели, которые хотят узнать больше, должны посетить Seekr.