Juan E. Riojas, diretor de informação da Bland — Série de entrevistas

Juan E. Riojas, diretor de informação da Bland, é um experiente executivo de tecnologia e dados, com uma carreira que abrange TI corporativa, gestão de dados, análise, operações e transformação digital. Antes de ingressar na Bland, em dezembro de 2025, atuou como diretor de informação na Twilio e na Rackspace Technology, após ocupar cargos de liderança como diretor de dados na Informatica e vice-presidente de gestão e análise de dados na Gogo. Seu histórico também inclui cargos de gestão e operações de alto escalão na Dell, Accenture, Expeditors International, OfficeMax e AxonGroup, o que lhe proporcionou ampla experiência na gestão de iniciativas de tecnologia e dados em organizações de grande porte.

Bland é uma empresa de IA de voz para o mercado corporativo que desenvolve agentes de IA capazes de conduzir conversas telefônicas recebidas e realizadas, prestar suporte ao cliente, agendar compromissos, coletar informações, encaminhar chamadas e executar outros fluxos de trabalho complexos. Sua plataforma prioriza o controle sobre a infraestrutura tecnológica subjacente: a Bland desenvolve e opera seus próprios modelos de voz, linguagem e fala, além de oferecer implantação na Bland Cloud, em nuvens privadas virtuais ou em ambientes corporativos totalmente auto-hospedados e isolados de redes externas. A empresa se concentra especialmente em casos de uso regulamentados e sensíveis à segurança, oferecendo recursos como fluxos de conversa, integrações com sistemas de telefonia existentes, retenção de dados configurável, controles de acesso baseados em funções e recursos de conformidade corporativa.

Você ocupou cargos de CIO na Twilio e na Rackspace, atuou como diretor de dados na Informatica e passou boa parte da carreira trabalhando com infraestrutura de comunicações e dados corporativos. O que essas experiências lhe ensinaram sobre as barreiras que as empresas enfrentam para adotar IA e como elas influenciaram a plataforma auto-hospedada que você está desenvolvendo agora na Bland?

Minha experiência na Twilio, na Rackspace e na Informatica me ensinou que a maior barreira à IA corporativa não é a tecnologia: é a confiança, o controle e a capacidade de operar com segurança em grande escala. As empresas precisam saber onde seus dados ficam, quem os controla e se a IA pode se integrar às estruturas de segurança e governança que levaram anos para construir. Isso moldou nossa abordagem na Bland: oferecer às empresas uma plataforma auto-hospedada que proporciona o poder da IA sem obrigá-las a abrir mão do controle sobre sua infraestrutura ou seus dados.

A Bland é a única plataforma auto-hospedada de IA de voz, o que significa que você controla cada camada da orquestração de IA: conversão de fala em texto, inferência de LLM e conversão de texto em fala. Por que a Bland escolheu esse caminho e quais foram os maiores desafios técnicos de assumir o controle de toda a infraestrutura de IA de voz?

Optamos por hospedar e controlar todas as camadas, do reconhecimento automático de fala (ASR) ao raciocínio do modelo de linguagem de grande porte (LLM) e à conversão de texto em fala (TTS), por três motivos: latência conversacional inferior a 1 segundo, limites rigorosos de privacidade de dados e alta confiabilidade operacional.

Quando se conectam em sequência vários fornecedores externos diferentes, os atrasos se acumulam. Os saltos de rede de ida e volta, as filas independentes e as inicializações a frio se somam. O resultado é aquele tipo de pausa artificial que interrompe o fluxo da conversa.

Ao alojar nossos modelos em um ambiente de execução unificado e eliminar a dependência de APIs de terceiros, eliminamos esses saltos. Isso também nos dá soberania total sobre os dados: fluxos de voz e transcrições confidenciais nunca vazam para provedores externos de modelos de fronteira.

Os maiores desafios técnicos envolveram a orquestração da latência, a sincronização do fluxo de dados e o agendamento de GPUs com alto nível de simultaneidade. A comunicação por voz bidirecional em tempo real exige a geração contínua e integrada de tokens. O mecanismo de TTS precisa começar a sintetizar o áudio antes mesmo de o LLM terminar de gerar a frase.

Para viabilizar isso, criamos mecanismos de inferência personalizados, pipelines de decodificação especulativa de baixa latência e adaptações de modelos acústicos. Em conjunto, eles evitam oscilações, gerenciam a alternância de turnos e lidam com naturalidade com as interrupções dos usuários, tudo isso sem saturar a memória da GPU.

Muitas plataformas de IA de voz combinam transcrição, raciocínio e geração de fala de diferentes fornecedores terceirizados. Quais são as vantagens e os compromissos de engenharia envolvidos quando a Bland controla e opera por conta própria uma parcela maior dessa infraestrutura?

A maior vantagem é o controle da latência de ponta a ponta. Não há sobrecarga de rede entre o ASR, o LLM e o TTS, então podemos executar pipelines de streaming unificados, realizar otimizações entre camadas e controlar rigorosamente o tempo até o primeiro byte. Simplesmente não se obtém esse nível de controle quando cada componente vem de um fornecedor diferente.

A segunda vantagem é contar com um perímetro unificado de segurança e conformidade. Os dados nunca saem do nosso ambiente controlado, então o áudio e as transcrições dos clientes permanecem dentro do perímetro que verificamos. Isso elimina os riscos associados a subprocessadores terceirizados e simplifica bastante a conformidade com HIPAA, SOC 2 e PCI DSS. Quem já passou por uma avaliação de segurança de fornecedores sabe o quanto isso importa.

A terceira vantagem é a previsibilidade dos custos. Não pagamos acréscimos por token ou por minuto pelo uso de APIs externas de modelos de base, então nossos custos unitários permanecem previsíveis em escala corporativa. Além disso, como os modelos são nossos, podemos ajustar diretamente a acústica, a prosódia e os pesos de raciocínio específicos para cada tarefa.

Nada disso, porém, sai de graça. Essa abordagem exige muita infraestrutura e capital investido em GPUs. Gerenciar grandes frotas de GPUs dedicadas requer agendamento sofisticado, orquestração e failover em várias regiões, além de implicar altos custos de hardware.

Também assumimos o trabalho de manutenção e especialização dos modelos. Não podemos terceirizar a pesquisa de ponta para fornecedores externos. Em vez disso, nos encarregamos do trabalho contínuo de engenharia necessário para treinar, avaliar e manter modelos próprios que atendam a diferentes sotaques, condições de ruído de fundo e idiomas.

Para nós, essa compensação vale a pena.

A Bland recebeu a certificação FedRAMP 20x Classe A em agosto e afirma ser a primeira plataforma de IA de voz a obtê-la. A maioria dos leitores não saberá o que é o 20x em comparação com o FedRAMP tradicional. O que é a Classe A e o que vocês tiveram de demonstrar para obtê-la?

O FedRAMP 20x é uma estrutura modernizada e nativa da nuvem, introduzida pelas Regras Consolidadas do FedRAMP para 2026 (CR26). O processo tradicional classificava tudo segundo os níveis de impacto da FIPS 199 (Baixo, Moderado e Alto) e era notoriamente burocrático. O 20x substitui esses níveis por classes de certificação identificadas por letras: A, B, C e D.

A Classe A é o nível de entrada. Foi concebida especificamente para provedores comerciais de serviços em nuvem (CSPs) que já têm programas de segurança maduros e querem entrar no mercado federal. Pense nela como uma porta de entrada, não como um destino permanente. Você obtém uma Certificação de Programa reconhecida, emitida diretamente pelo Escritório de Gestão do Programa FedRAMP (PMO), e então tem um prazo de 2 anos para fazer a transição para a Classe B, C ou D.

Para chegar lá, tivemos de demonstrar quatro coisas. Primeiro, uma auditoria SOC 2 Tipo II atual e verificada, que abrangesse os princípios fundamentais de segurança, confidencialidade e disponibilidade. Segundo, um limite de serviço de nuvem federal claramente definido e logicamente isolado, que abrangesse nossos serviços de voz, SMS e chat.

Terceiro, a implementação básica dos Indicadores-Chave de Segurança (KSIs) obrigatórios do FedRAMP 20x, além da prontidão para o monitoramento contínuo. Isso abrange a varredura de vulnerabilidades, os procedimentos de resposta a incidentes, a aplicação dos controles de acesso e a geração contínua de relatórios de segurança legíveis por máquina.

Foi no quarto requisito que ter controle sobre nossa própria pilha tecnológica realmente fez a diferença. Tivemos de verificar se toda a transcrição, o raciocínio e a síntese de fala eram executados estritamente dentro dos limites autorizados dos contêineres da Bland, sem transmitir dados federais a provedores terceirizados de IA de ponta não avaliados. Para uma plataforma montada com componentes de fornecedores externos, é muito difícil cumprir esse requisito.

A Bland oferece implantações que vão de VPCs de nuvem privada a infraestrutura dedicada de GPUs locais. Como a arquitetura muda entre esses modelos de implantação, especialmente em relação à latência, à escalabilidade e aos requisitos de infraestrutura?

Em resumo, quanto mais perto você chega de uma implantação local, mais ganha em latência e controle, mas menos elasticidade tem.

Comecemos pela latência. As implantações locais e as VPCs dedicadas minimizam o tráfego pela rede externa, pois ficam bem próximas dos troncos de telefonia e dos gateways SIP internos da empresa. Em uma VPC de nuvem privada — na AWS ou na GCP, por exemplo —, a latência depende da rede dentro da região e das interconexões de nuvem. O hardware dedicado local, instalado diretamente no servidor físico, vai um passo além. Ele elimina por completo as camadas de virtualização do hipervisor e o roteamento pela internet pública, o que proporciona a menor variação acústica possível.

É na escalabilidade que a compensação fica evidente. Em uma VPC de nuvem, ampliamos a capacidade horizontalmente com orquestração elástica, como clusters Kubernetes com escalabilidade automática, apoiados por instâncias de GPU na nuvem. Assim, a capacidade se ajusta dinamicamente quando há picos de chamadas. No ambiente local, o funcionamento é diferente. A operação fica sujeita a um limite fixo de capacidade física de GPUs, o que exige controle rigoroso de admissão, políticas de filas e provisionamento estático de hardware com base no pico de chamadas simultâneas. É preciso se planejar com antecedência para o dia de maior movimento.

Os requisitos de infraestrutura também são bem diferentes. As implantações em VPC privada podem contar com armazenamento gerenciado na nuvem, IAM nativo e gerenciamento de segredos na nuvem. As instalações locais precisam de clusters dedicados de GPUs montados em racks (como aceleradores empresariais da NVIDIA), redes locais de alta capacidade, módulos de segurança de hardware (HSMs) ou cofres de chaves locais, além de coletores locais de telemetria. E tudo isso precisa ser executado em ambientes de contêineres empresariais capazes de operar totalmente isolados ou com saída restrita para redes externas.

A Bland permite que as empresas controlem os lançamentos, mantenham ambientes de teste separados e testem novas versões com uma parcela das chamadas reais antes de disponibilizá-las de forma mais ampla. Por que as práticas tradicionais de lançamento de software estão se tornando especialmente importantes à medida que os agentes de IA passam a operar em ambientes de produção voltados para os clientes?

Isso acontece porque os agentes de IA não se comportam como o software empresarial tradicional.

O software determinístico faz a mesma coisa todas as vezes. Os agentes de IA generativa são probabilísticos e não determinísticos. Uma pequena alteração no prompt, uma atualização dos pesos do modelo ou uma mudança no fluxo de execução pode causar, sem querer, regressões na conversa, alucinações ou violações de políticas de conformidade. Muitas vezes, nada na própria alteração indica que isso está prestes a acontecer.

É por isso que a antiga disciplina de lançamento é ainda mais importante agora, não menos. Ambientes de preparação isolados e testes de regressão rigorosos com corpora históricos de chamadas detectam muitos problemas antes que qualquer coisa entre em produção. As implantações canário vão um passo além. Você libera a nova versão para uma porcentagem controlada das chamadas em produção e acompanha métricas em tempo real, como quedas no sentimento, taxas de conclusão de objetivos, picos de latência e gatilhos de escalonamento ou transferência. Tudo isso acontece antes que a base mais ampla de clientes seja exposta à versão.

O que torna isso inegociável são os riscos envolvidos. No atendimento ao cliente, na gestão de sinistros ou na administração de contas, uma falha pode resultar em exposição regulatória ou graves danos à marca. O controle rigoroso das liberações canário e as reversões imediatas são o que impede que uma atualização problemática se transforme em uma manchete negativa.

Bancos, organizações de saúde, seguradoras e órgãos governamentais costumam enfrentar obstáculos muito maiores para implementar IA generativa do que outras empresas. Nas conversas com essas organizações, o que está realmente impedindo mais implementações de IA de voz hoje: segurança, soberania de dados, confiabilidade, complexidade de integração, aquisição ou outra coisa?

Segurança e soberania de dados, de longe, seguidas de perto pela complexidade de integração e pela arquitetura legada. Esse tem sido o padrão em nossas conversas nos setores bancário, de saúde, de seguros e governamental.

Em termos de segurança, organizações altamente reguladas simplesmente não podem tolerar uma arquitetura em que fluxos de áudio sensíveis, informações de saúde protegidas (PHI) ou informações pessoais não públicas atravessem os perímetros de APIs externas ou sejam retidos por provedores terceirizados de modelos para treinamento. Para esses compradores, auditabilidade, garantias de retenção zero de dados e limites rigorosos de conformidade, como HIPAA, FedRAMP e PCI DSS, não são meros diferenciais. São requisitos básicos. Se você não puder atendê-los, a conversa geralmente termina aí.

A integração é o próximo obstáculo. Muitas dessas empresas ainda operam com sistemas PBX locais legados, IVRs complexos e sistemas centrais de registro fragmentados, como Epic ou Cerner na área da saúde, ou sistemas centrais em mainframes no setor bancário. Conectar fluxos conversacionais a esses ambientes por meio de acesso bidirecional a APIs de leitura e gravação, em tempo real e com baixa latência, gera uma sobrecarga significativa de integração.

Há também a questão da confiabilidade e do risco de alucinações. As equipes jurídica, de gestão de riscos e de compras ficam, compreensivelmente, apreensivas com a possibilidade de um agente de voz autônomo fornecer orientações financeiras, médicas ou regulatórias imprecisas. Antes de aprovar uma implantação em escala de produção, elas querem salvaguardas granulares, alternativas conversacionais determinísticas e caminhos claros para escalonamento a uma pessoa.

Obrigado pela excelente entrevista. Leitores que quiserem saber mais devem visitar Bland.