Rob Clark, Presidente e Diretor de Tecnologia da Seekr – Série de Entrevistas

Rob Clark é o Presidente e Diretor de Tecnologia (CTO) da Seekr. Rob tem mais de 20 anos de experiência em engenharia de software, gerenciamento de produtos, operações e desenvolvimento de tecnologias de inteligência artificial e web de ponta. Antes de se juntar à Seekr, ele liderou várias soluções de inteligência artificial e busca para algumas das maiores empresas de telecomunicações, publicação e comércio eletrônico do mundo.

Seekr é uma empresa de inteligência artificial que cria modelos de linguagem grandes (LLMs) confiáveis que identificam, pontuam e geram conteúdo confiável em escala.

Com início na busca na web, a inovação contínua da Seekr produziu tecnologias patentes que melhoram a segurança e o valor da web. Seus modelos, desenvolvidos com entrada humana especializada e explicabilidade, atendem às necessidades dos clientes em avaliação de conteúdo, inteligência artificial gerativa e treinamento e validação de LLMs confiáveis.

Você pode descrever a missão central da Seekr e como ela visa se diferenciar no competitivo cenário de inteligência artificial?

Nós fundamos a Seekr no princípio simples, mas importante, de que todos devem ter acesso a informações confiáveis, credíveis e confiáveis – não importa sua forma ou onde existam. Isso não importa se você é um consumidor online ou uma empresa que usa essas informações para tomar decisões importantes – sistemas de inteligência artificial responsáveis permitem que todos entendam completamente e melhor as informações, como você precisa garantir que o que sai da inteligência artificial gerativa é preciso e confiável.

Quando as informações são pouco confiáveis, elas variam em um espectro, por exemplo, do sensacionalismo mais benigno ao pior caso de comportamentos inautênticos coordenados destinados a enganar ou influenciar em vez de informar. A abordagem da Seekr para a inteligência artificial é garantir que o usuário tenha transparência total no conteúdo, incluindo proveniência, linhagem e objetividade, e a capacidade de construir e aproveitar inteligência artificial transparente, confiável, com explicabilidade e com todas as salvaguardas para que os consumidores e as empresas possam confiar nela.

Além de fornecer Modelos de Linguagem Grandes (LLMs) otimizados para a indústria, a Seekr começou a construir Modelos de Fundação diferenciados por maior transparência e precisão, com redução de erros e viés, incluindo todas as ferramentas de validação. Isso é possível por meio da colaboração da Seekr com a Intel (INTC ) para usar seus aceleradores de inteligência artificial Gaudi de última geração ao melhor preço-desempenho possível. Nós escolhemos não depender de modelos de fundação externos, onde os dados de treinamento eram desconhecidos e mostravam erros e viés inerentes, especialmente porque eles são frequentemente treinados em dados populares em vez dos mais credíveis e confiáveis. Esperamos lançar esses modelos hacia o final do ano.

Nosso produto central é chamado de SeekrFlow, uma plataforma completa de ponta a ponta que treina, valida, implanta e dimensiona inteligência artificial confiável. Ela permite que as empresas aproveitem seus dados de forma segura, para desenvolver rapidamente inteligência artificial confiável, otimizada para sua indústria.

Quais são as características críticas do SeekrFlow, e como ele simplifica o processo de desenvolvimento e implantação de inteligência artificial para as empresas?

O SeekrFlow segue uma abordagem de cima para baixo, com foco em resultados, permitindo que as empresas resolvam problemas usando inteligência artificial com eficiências operacionais e novas oportunidades de receita por meio de uma plataforma coesa. Essa integração inclui acesso seguro a dados, preparação automática de dados, ajuste fino de modelos, inferência, salvaguardas, ferramentas de validação e dimensionamento, eliminando a necessidade de várias ferramentas dispersas e reduzindo a complexidade do talento técnico interno que gerencia diferentes aspectos do desenvolvimento de inteligência artificial separadamente.

Para as empresas, a personalização é fundamental, pois uma abordagem de “um modelo para todos” não resolve problemas de negócios únicos. O SeekrFlow permite que os clientes aproveitem seus dados de empresa de forma segura e econômica e se alinhem às necessidades específicas de sua indústria. Isso é especialmente importante em indústrias regulamentadas, como finanças, saúde e governo.

A abordagem de treinamento assistida por inteligência artificial da Seekr reduz significativamente o custo, o tempo e a necessidade de supervisão humana associados à rotulagem e aquisição de dados, sintetizando dados de alta qualidade e específicos do domínio usando princípios específicos do domínio, como documentos de política, diretrizes ou dados de empresa fornecidos pelo usuário.

O compromisso da Seekr com a confiabilidade e a explicabilidade está enraizado em todo o SeekrFlow. Nenhuma empresa deseja implantar um modelo em produção e descobrir que ele está “alucinando”, fornecendo informações erradas ou, no pior dos casos, distribuindo seus produtos e serviços de graça! O SeekrFlow inclui as ferramentas necessárias para validar modelos para confiabilidade, reduzir erros e permitir que o usuário veja transparentemente o que está impactando a saída de um modelo, desde os dados de treinamento originais. Da mesma forma que os engenheiros de software e os testadores podem verificar, testar e validar seu código, nós fornecemos as mesmas capacidades para modelos de inteligência artificial.

Isso é fornecido ao custo ótimo para as empresas. Nossa colaboração com a Intel, executada na nuvem de inteligência artificial da Intel, permite que a Seekr obtenha o melhor desempenho de preço que passamos para nossos clientes.

Como o SeekrFlow aborda questões comuns, como custo, complexidade, precisão e explicabilidade na adoção de inteligência artificial?

Os preços altos e a escassez de hardware de inteligência artificial são duas das maiores barreiras à entrada que as empresas enfrentam. Graças à colaboração mencionada anteriormente com a Intel, o SeekrFlow tem acesso a vastas quantidades de hardware de inteligência artificial de próxima geração, aproveitando os aceleradores de inteligência artificial Gaudi da Intel e os processadores Xeon otimizados para inteligência artificial. Isso fornece aos clientes recursos de computação escaláveis e econômicos que podem lidar com cargas de trabalho de inteligência artificial em grande escala, aproveitando tanto os aceleradores de inteligência artificial Gaudi da Intel quanto os processadores Xeon otimizados para inteligência artificial.

É importante notar que o SeekrFlow é agnóstico em relação ao provedor de nuvem e à plataforma e executa os chips de inteligência artificial de última geração da Intel, Nvidia (NVDA ) e além. Nosso objetivo é abstrair a complexidade do hardware de inteligência artificial e evitar o bloqueio de fornecedores, ao mesmo tempo em que desbloqueamos todo o valor único do software, das ferramentas e do ecossistema de cada chip. Isso inclui execução tanto na nuvem quanto em datacenters operados localmente.

Quando construímos o SeekrFlow, claramente vimos a falta de contestabilidade que existia em outras ferramentas. A contestabilidade é fundamental na Seekr, pois queremos garantir que o usuário tenha o direito de dizer que algo não é preciso e tenha uma maneira fácil de resolver isso. Com outros modelos e plataformas, é frequentemente difícil ou desconhecido como corrigir erros. Correções pontuais após o fato são frequentemente ineficazes, por exemplo, manipular o prompt de entrada não garante que a resposta seja corrigida todas as vezes ou em todos os cenários. Nós fornecemos ao usuário todas as ferramentas para transparência, explicabilidade e uma maneira simples de ensinar e corrigir o modelo em uma interface de usuário limpa. Desde a construção em cima de modelos de fundação confiáveis na base até ferramentas de teste e medição fáceis de usar, o SeekrFlow garante resultados precisos que podem ser entendidos e validados. É essencial entender que as salvaguardas de inteligência artificial não são apenas algo que é bom ter ou pensar mais tarde – em vez disso, oferecemos aos clientes ferramentas de explicabilidade e contestabilidade fáceis de usar desde o início da implementação.

Como a plataforma integra a preparação de dados, ajuste fino, hospedagem e inferência para permitir experimentação e adaptação mais rápidas de LLMs?

O SeekrFlow integra o processo de desenvolvimento de inteligência artificial de ponta a ponta em uma plataforma. Desde o manuseio da rotulagem e formatação dos dados com sua abordagem de geração assistida por agente de inteligência artificial, até o ajuste fino de um modelo base, e todo o caminho até a inferência e monitoramento do modelo ajustado. Além disso, as ferramentas de explicabilidade do SeekrFlow permitem que os modeladores de inteligência artificial descubram lacunas no conhecimento do modelo, entendam por que ocorrem erros e alucinações e atuem diretamente sobre eles. Essa abordagem integrada e de ponta a ponta permite iterações e experimentação rápidas de modelos.

Quais outras tecnologias ou metodologias únicas a Seekr desenvolveu para garantir a precisão e a confiabilidade de seus modelos de inteligência artificial?

A Seekr desenvolveu tecnologia de inteligência artificial patenteada para avaliar a qualidade, confiabilidade, viés, toxicidade e veracidade do conteúdo, seja ele um texto, uma imagem ou um sinal de áudio. Essa tecnologia fornece dados e conhecimento ricos que podem ser fundidos em qualquer modelo de inteligência artificial, na forma de dados de treinamento, algoritmos ou salvaguardas de modelo. Em última análise, a tecnologia da Seekr para avaliar o conteúdo pode ser aproveitada para garantir a segurança, a factualidade, a utilidade, a imparcialidade e a justiça dos modelos de inteligência artificial. Um exemplo disso é o SeekrAlign, que ajuda marcas e editores a crescerem em alcance e receita com inteligência artificial responsável que examina o contexto do conteúdo por meio de nossa pontuação de civilidade patenteada.

A abordagem da Seekr para a explicabilidade garante que as respostas dos modelos de inteligência artificial sejam compreensíveis e rastreáveis. À medida que os modelos de inteligência artificial se envolvem em decisões de consequência, a necessidade de os modeladores de inteligência artificial entenderem e contestarem as decisões do modelo se torna cada vez mais importante.

Como o agente de alinhamento de princípios do SeekrFlow ajuda os desenvolvedores a alinhar os modelos de inteligência artificial com os valores e regulamentações da indústria de sua empresa?

O agente de alinhamento de princípios do SeekrFlow é uma característica crítica que ajuda os desenvolvedores e as empresas a reduzir o custo geral de seus sistemas baseados em RAG e a alinhar eficientemente sua inteligência artificial com seus próprios princípios, valores e regulamentações da indústria únicos, sem precisar reunir e processar dados estruturados.

O agente da Seekr usa algoritmos de alinhamento avançados para garantir que o comportamento dos LLMs adira a esses padrões, intenções, regras ou valores pré-definidos e únicos. Durante as fases de treinamento e inferência, o agente de alinhamento de princípios orienta os usuários por todo o processo de preparação e ajuste fino de dados, integrando continuamente a entrada especializada e as diretrizes éticas. Isso garante que nossos modelos de inteligência artificial operem dentro de limites aceitáveis.

Ao fornecer ferramentas para personalizar e aplicar esses princípios, o SeekrFlow capacita as empresas a manter o controle sobre suas aplicações de inteligência artificial, garantindo que elas reflitam os valores da empresa e adiram aos requisitos legais e da indústria. Essa capacidade é essencial para construir confiança com os clientes e partes interessadas, pois demonstra um compromisso com a inteligência artificial responsável.

Pode discutir a colaboração com a OneValley e como a tecnologia da Seekr impulsiona a plataforma Haystack AI?

A OneValley é um recurso confiável para dezenas de milhares de empreendedores e pequenas e médias empresas (SMBs) em todo o mundo. Um problema comum que esses líderes enfrentam é encontrar os conselhos, produtos e serviços certos para iniciar e crescer seus negócios. A Seekr fornece modelos de linguagem grandes (LLMs) específicos da indústria que impulsionam o produto mais recente da OneValley, o Haystack AI, que oferece aos clientes acesso a vastos bancos de dados de produtos disponíveis, seus atributos, preços, prós e contras e mais. O Haystack AI fornece recomendações inteligentes aos usuários e responde a perguntas, tudo acessível por meio de um chatbot dentro do aplicativo.

Quais são os benefícios específicos que o Haystack oferece às startups e às SMBs, e como a inteligência artificial da Seekr melhora esses benefícios?

Seja qual for a necessidade do usuário, seja saber rapidamente qual cartão de crédito empresarial oferece as recompensas em dinheiro mais altas com as menores taxas por usuário e a menor APR, ou contrastar e comparar dois sistemas de CRM que estão considerando como a solução certa, o Haystack AI, impulsionado pela Seekr, fornece as respostas certas rapidamente.

O Haystack AI responde às perguntas dos usuários de forma rápida e econômica. Ter que esperar e perguntar a um ser humano para responder a essas perguntas e a toda a pesquisa que acompanha esse tipo de processo é inadministrável para líderes de negócios extremamente ocupados. Os clientes querem respostas precisas em que possam confiar rapidamente, sem ter que vasculhar os resultados (e links patrocinados!) de um mecanismo de busca na web. O tempo deles é melhor gasto executando seu negócio principal. Isso é um ótimo exemplo de como a inteligência artificial da Seekr resolve uma necessidade de negócios real.

Como a Seekr garante que suas soluções de inteligência artificial permaneçam escaláveis e econômicas para empresas de todos os tamanhos?

A resposta simples é garantir escala e baixo custo; você precisa de uma colaboração estratégica para acessar computação em escala. Fornecer inteligência artificial escalável, econômica e confiável exige o casamento de software de inteligência artificial de classe mundial executado em hardware de última geração. Nossa colaboração com a Intel envolve um compromisso de vários anos para acessar uma quantidade cada vez maior de hardware de inteligência artificial, incluindo a atualização por meio de gerações, desde o atual Gaudi 2 até o Gaudi 3 no início de 2025 e adiante, para as próximas inovações de chip. Nós apostamos que a melhor disponibilidade e preço de computação viriam do próprio fabricante do silício, do qual a Intel é uma das duas empresas do mundo que produz seus próprios chips. Isso resolve qualquer problema de escassez, especialmente à medida que escalamos e garantimos o melhor desempenho de preço possível que beneficia o cliente.

Os clientes da Seekr que executam em seu próprio serviço hospedado pagam apenas pelo uso real. Nós não cobramos por GPUs ociosas. O SeekrFlow tem um modelo de preços altamente competitivo em comparação com os contemporâneos no espaço, que suporta os menores aos maiores implantações.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Seekr.