Gerald Kierce, CEO e Co-Fundador da Trustible – Série de Entrevistas

Gerald Kierce, CEO e Co-Fundador da Trustible, é um líder em tecnologia e política focado em operacionalizar a inteligência artificial responsável. Ele lidera a missão da Trustible para ajudar as organizações a construir confiança, gerenciar riscos e cumprir com as regulamentações de inteligência artificial emergentes. Anteriormente, ele atuou como Vice-Presidente e Gerente Geral de Soluções de Inteligência Artificial da FiscalNote, onde supervisionou produtos de inteligência artificial para empresas e ocupou cargos seniores em desenvolvimento corporativo, produto, sucesso do cliente e operações executivas. Sua carreira sempre esteve na interseção da tecnologia, regulamentação e execução empresarial escalável.

Trustible fornece uma plataforma de governança de inteligência artificial que ajuda as organizações a inventariar sistemas de inteligência artificial, avaliar e mitigar riscos e operacionalizar a conformidade por meio de fluxos de trabalho estruturados e documentação. Projetada para equipes jurídicas, de conformidade e de inteligência artificial, a plataforma centraliza as atividades de governança, alinha os casos de uso de inteligência artificial com estruturas regulamentares e permite a implantação mais rápida e transparente de inteligência artificial responsável em toda a empresa.

Você se mudou do marketing de produtos e do trabalho de Chefe de Gabinete para liderar soluções de inteligência artificial na FiscalNote antes de fundar a Trustible. O que você viu nesses papéis que o convenceu de que a governança de inteligência artificial precisava de uma plataforma dedicada, e qual foi o problema que você estava determinado a resolver primeiro quando lançou a Trustible?

Eu tive a sorte de ter muitos papéis durante meus 8+ anos na FiscalNote, onde comecei como um funcionário precoce da Seed/Série A e saí como um executivo sênior após a IPO.

Ao longo do marketing de produtos, do trabalho de Chefe de Gabinete e, eventualmente, liderando soluções de inteligência artificial na FiscalNote, eu continuei vendo o mesmo problema surgir de diferentes ângulos. A governança de inteligência artificial é fundamentalmente um problema sociotécnico, mas a maioria das organizações abordava isso de maneira fragmentada. As equipes tratavam o desempenho da inteligência artificial, segurança, privacidade, ética e revisões legais como faixas separadas, frequentemente possuídas por diferentes funções com pouca espinha dorsal operacional compartilhada que as ligasse. Essas cinco dimensões absolutamente importam, e elas precisam ser abordadas colaborativamente. Mas onde as organizações estavam lutando era traduzir essa intenção sociotécnica em algo duradouro, uma vez que a inteligência artificial se movesse para a tomada de decisões reais.

Ao mesmo tempo, o ambiente regulamentar em torno da inteligência artificial claramente estava mudando. A Lei de Inteligência Artificial da UE e as normas relacionadas sinalizavam uma mudança em direção à governança da inteligência artificial como infraestrutura regulamentada, e não como tecnologia experimental. O que se tornou aparente foi que muitas empresas estavam tentando mapear expectativas de política e regulamentação em sistemas de inteligência artificial após a implantação, em vez de projetar governança que pudesse operacionalizar continuamente a intenção regulamentar através dessas dimensões sociotécnicas.

Minha experiência na FiscalNote foi importante porque estávamos aplicando inteligência artificial ao próprio cenário de política, jurídico e regulamentar. Estávamos ajudando as organizações a entender como as leis evoluem, como os requisitos são interpretados e como as expectativas regulamentares se traduzem em obrigações operacionais ao longo do tempo. Essa experiência tornou claro que a governança de inteligência artificial eficaz requer a mesma disciplina em reverso: aplicar pensamento político e regulamentar diretamente à forma como os sistemas de inteligência artificial são construídos, implantados, monitorados e adaptados à medida que as condições mudam.

Os clientes consistentemente descreviam os mesmos pontos de dor. Eles não podiam confiantemente responder o que os sistemas de inteligência artificial estavam em produção, quais eram de alto risco sob as regulamentações emergentes, quem era responsável quando os sistemas cruzavam fronteiras funcionais, ou como demonstrar conformidade contínua à medida que os modelos, dados, fornecedores e regulamentações evoluíam simultaneamente.

Quando lançamos a Trustible, o primeiro problema que nos propusemos a resolver foi transformar a governança sociotécnica da teoria em realidade operacional. Nos concentramos em criar um sistema que conecta o comportamento técnico, o contexto de risco do caso de uso, a propriedade e as expectativas regulamentares em um só lugar. A Trustible foi construída para dar às organizações um sistema de registro vivo para a inteligência artificial, com visibilidade contínua e responsabilidade, para que a governança pudesse acompanhar tanto a mudança tecnológica quanto a evolução regulamentar, em vez de ficar para trás.

Na linha de frente, o que você aprendeu ao longo do último ano sobre por que os programas de governança param quando a inteligência artificial se move para decisões reais, fluxos de trabalho e experiências orientadas ao cliente?

Uma vez que a inteligência artificial se move para fora da experimentação e para os fluxos de trabalho reais, a governança tende a parar por razões práticas, em vez de filosóficas. A maioria das organizações simplesmente não sabe como avaliar o risco da inteligência artificial de uma maneira que se alinhe com como os sistemas estão sendo usados. Elas podem avaliar modelos de forma abstrata, mas lutam para avaliar o risco no nível do caso de uso, onde o contexto, o impacto e as decisões downstream importam muito mais do que as métricas técnicas isoladas.

Esse problema se torna ainda mais pronunciado com a inteligência artificial gerativa. Um único modelo de fundação pode ser usado para suporte ao cliente, pesquisa interna, suporte à decisão, ou geração de conteúdo, cada um com perfis de risco muito diferentes. Sem uma maneira estruturada de avaliar e comparar esses usos, as equipes ou se excedem na cautela ou avançam sem confiança real.

A inteligência artificial de terceiros complica ainda mais as coisas. As organizações dependem fortemente de fornecedores e capacidades de inteligência artificial incorporadas, mas carecem de métodos consistentes para avaliar esses sistemas, entender controles upstream ou determinar como o risco do fornecedor se traduz em exposição operacional e regulamentar. Como resultado, as revisões se tornam subjetivas e lentas.

Esses desafios são amplificados por lacunas em expertise e propriedade. As responsabilidades de governança são frequentemente distribuídas por equipes jurídicas, de conformidade, segurança, dados e produtos, sem um quadro compartilhado ou um proprietário claramente responsável, uma vez que os sistemas atingem a produção. Combinado com ferramentas inadequadas, como planilhas, repositórios de documentos ou plataformas de GRC legadas, as equipes de governança perdem visibilidade sobre o que está mudando e por quê.

No núcleo, a governança para. As organizações estão aplicando velhos livros de jogadas projetados para sistemas estáticos a sistemas de inteligência artificial dinâmicos. A inteligência artificial requer avaliação contínua de risco, propriedade clara ligada a resultados e ferramentas que refletem como os sistemas realmente se comportam em produção, em vez de como foram aprovados no papel. As equipes de governança não podem ver o que está mudando, quando está mudando ou por quê.

Finalmente, a propriedade é frequentemente irresolvida. Em muitas organizações, não há um proprietário claramente responsável por um sistema de inteligência artificial, uma vez que ele cruza da experimentação para a produção. Sem um proprietário de negócios nomeado que seja responsável pelos resultados, a governança se torna consultiva e o progresso desacelera.

A linha comum é que as organizações estão aplicando velhos livros de jogadas de governança a uma tecnologia fundamentalmente nova. Esses livros de jogadas foram construídos para sistemas estáticos e revisões periódicas. A inteligência artificial requer avaliação contínua de risco, propriedade mais clara e ferramentas que conectam a governança diretamente à forma como os sistemas realmente operam em produção.

Como você define a governança de inteligência artificial do Ano 2, e o que muda quando uma organização muda da adoção inicial para o monitoramento contínuo, gerenciamento de deriva e conformidade contínua?

A governança de inteligência artificial do Ano 2 é o momento em que a inteligência artificial deixa de ser tratada como uma série de projetos e começa a ser tratada como infraestrutura subjacente para a tomada de decisões. O que quero dizer com isso é que, no primeiro ano, a governança de inteligência artificial é amplamente sobre habilitação. As equipes estão focadas em aprovar casos de uso, documentar modelos e estabelecer processos de revisão para que a inteligência artificial possa avançar de forma responsável.

À medida que os sistemas de inteligência artificial se escalonam e se tornam incorporados em processos de negócios centrais, o foco muda. A pergunta não é mais se algo deve ser implantado, mas se pode ser operado de forma segura e confiável ao longo do tempo, à medida que os dados, usuários, fornecedores e regulamentações mudam. A governança de inteligência artificial se torna contínua, em vez de episódica, desencadeada por mudanças reais no comportamento ou contexto, em vez de revisões baseadas no calendário.

O risco também se torna dinâmico. Em vez de atribuir uma classificação de risco estática no lançamento, as organizações precisam entender como o risco evolui à medida que os modelos mudam, os escopos se expandem ou novos stakeholders interagem com o sistema. A conformidade segue a mesma mudança. Os requisitos regulamentares mudam de ser mapeados para políticas para serem aplicados por meio de controles ao vivo, sinais de monitoramento e evidências continuamente capturadas.

Outro aspecto chave da governança de inteligência artificial do Ano 2 é a introdução de gerenciamento real de incidentes de inteligência artificial. As organizações precisam saber quais sistemas estão sendo monitorados, priorizar com base no risco inerente, integrar os dados certos para superfície de sinais significativos e definir critérios claros de alerta e escalada. Isso permite que as equipes intervenham cedo, antes que os problemas se tornem incidentes.

Com sistemas fragmentados e recursos limitados, quais são as primeiras capacidades de governança que você acha que as empresas devem padronizar em toda a organização?

Quando os recursos são limitados, as organizações precisam ser deliberadas sobre onde começar, porque as primeiras escolhas definem a trajetória para tudo o que se segue. A primeira prioridade é ganhar visibilidade confiável sobre onde a inteligência artificial realmente existe no negócio. Muitas equipes acreditam que têm apenas alguns sistemas de inteligência artificial, apenas para descobrir inteligência artificial sombra, capacidades de fornecedores incorporadas e casos de uso escalonados que nunca foram formalmente revisados. Sem uma visão viva do que está em produção, as discussões de governança permanecem teóricas e desconectadas da realidade.

Uma vez que a visibilidade exista por meio do seu inventário de inteligência artificial, é sobre impulsionar a responsabilidade nos casos de uso de inteligência artificial. A governança se desintegra rapidamente quando a responsabilidade é distribuída por comitês ou funções. As organizações precisam claramente atribuir quem é responsável pelos resultados quando um sistema de inteligência artificial toma ou influencia decisões, não apenas quem o construiu ou revisou inicialmente. Essa clareza se torna especialmente importante quando incidentes ocorrem ou quando os modelos evoluem além de seu escopo original.

Em seguida, as equipes precisam de uma maneira prática de raciocinar sobre o risco. Isso significa estabelecer uma abordagem compartilhada de classificação de risco que funcione em sistemas internos, casos de uso de inteligência artificial gerativa e fornecedores de terceiros. Sem uma lente de risco comum, as organizações ou superavaliam sistemas de baixo impacto ou subavaliam os que mais importam.

Finalmente, a governança precisa gerar evidências como subproduto de operações normais. Gostamos de falar sobre “Diga, Faça, Prove” como uma maneira de demonstrar confiabilidade em sua governança de inteligência artificial. Capturar aprovações, alterações e sinais de monitoramento à medida que os sistemas são executados permite que as organizações respondam a auditorias, incidentes, solicitações de clientes e perguntas regulamentares com confiança, em vez de reconstruir. Essas fundações não precisam ser perfeitas no início, mas elas precisam ser coerentes e repetíveis se a governança for escalonar.

Por que você acredita que a governança de inteligência artificial precisa ser tratada com a mesma seriedade que a segurança cibernética ou a conformidade, e onde os líderes subestimam mais a carga de trabalho operacional?

A governança de inteligência artificial carrega risco sistêmico que é comparável à segurança cibernética e à conformidade, mas com complexidade adicionada. Como as falhas de segurança cibernética, as falhas de inteligência artificial podem se propagar rapidamente e invisivelmente por toda a organização. Como a conformidade, a inteligência artificial se cruza com obrigações legais, éticas e operacionais. Diferentemente de qualquer uma delas, os sistemas de inteligência artificial podem mudar de comportamento ao longo do tempo sem ação humana explícita.

Onde os líderes tendem a subestimar a carga de trabalho é nos requisitos operacionais contínuos. O monitoramento é contínuo, em vez de periódico. A coordenação abrange equipes de produto, dados, TI, jurídico, conformidade e compras. O gerenciamento de mudanças é constante, porque os modelos, fornecedores, casos de uso e regulamentações evoluem simultaneamente.

As organizações que tratam a governança de inteligência artificial como um exercício de conformidade de uma única vez inevitavelmente lutam. Aquelas que abordam como infraestrutura operacional, muito como a segurança ou a engenharia de confiabilidade, estão muito melhor posicionadas para escalonar a inteligência artificial de forma segura e sustentável.

À medida que os estados dos EUA impulsionam regras de inteligência artificial, enquanto a política federal permanece contestada, como as empresas devem projetar a governança para permanecer resiliente através da incerteza regulamentar?

O ambiente regulamentar para a inteligência artificial é incerto e em evolução. Os programas de governança mais resilientes são construídos em torno de requisitos, em vez de regulamentações individuais. Em vez de reagir a cada nova lei com processos personalizados, as organizações devem se concentrar nas expectativas comuns que aparecem em diferentes jurisdições, como inventário, transparência, responsabilidade, avaliação de risco, supervisão humana e documentação.

Quando os sistemas de governança são modulares, novos requisitos regulamentares podem ser mapeados em controles existentes, em vez de forçar as equipes a reinventar sua abordagem a cada vez que o cenário muda. Isso reduz a fricção e ajuda a governança a acompanhar as mudanças de política.

O objetivo não é otimizar a conformidade com as regras de hoje, mas adaptá-la à medida que as expectativas evoluem.

Olhando para 2026, quais capacidades de governança de inteligência artificial você espera que se tornem não negociáveis, à medida que as organizações escalonam a inteligência artificial em mais unidades de negócios?

À medida que a inteligência artificial se move de pilotos isolados para sistemas que moldam decisões do mundo real, as expectativas de governança estão mudando rapidamente. Em 2026, as organizações não poderão mais confiar nos livros de jogadas que funcionaram em 2024 e 2025, quando a supervisão de inteligência artificial era frequentemente manual, episódica e centrada em revisões individuais. O monitoramento contínuo se tornará fundamental, porque a documentação estática e as avaliações de um momento no tempo não satisfarão os reguladores, conselhos, funcionários ou clientes em um ambiente de inteligência artificial dinâmico.

À medida que a inteligência artificial se incorpora em mais equipes e fluxos de trabalho, as organizações também precisarão de governança consistente em cadeias de suprimento de inteligência artificial cada vez mais complexas. Modelos internos, fornecedores de terceiros, recursos de inteligência artificial incorporados e componentes autônomos precisarão ser governados por meio da mesma lente, em vez de tratar a inteligência artificial de fornecedores como um ponto cego ou supor que a responsabilidade termina na compra.

A evidência pronta para auditoria precisará estar disponível sob demanda, à medida que a aplicação regulamentar se torna mais rígida e as expectativas públicas de transparência aumentam. Isso significa capturar a atividade de governança à medida que os sistemas de inteligência artificial são projetados, implantados e monitorados, em vez de reconstruir decisões após um incidente ou solicitação de auditoria.

Finalmente, a governança precisará ser incorporada em todo o ciclo de vida da inteligência artificial. A supervisão não será uma revisão jurídica na implantação, mas uma capacidade operacional integrada em fluxos de trabalho de SDLC, MLOps e compras para terceiros. As organizações que construírem essas capacidades estarão melhor posicionadas para adaptar-se à incerteza regulamentar, responder a incidentes e escalonar a inteligência artificial de forma mais rápida e segura, à medida que as expectativas continuam a evoluir.

Se você estivesse aconselhando uma empresa que já tem inteligência artificial em produção, mas não tem um programa formal de governança, o que um primeiro período de 90 dias realista pareceria?

Os primeiros 30 dias devem se concentrar em ganhar visibilidade básica. Isso significa identificar quais sistemas de inteligência artificial estão em produção, entender onde eles influenciam decisões reais e atribuir propriedade clara.

A próxima fase é sobre estabelecer controles básicos. As organizações devem definir como classificam o risco, introduzir pontos de controle para sistemas de alto risco e começar a monitorar as áreas que mais importam.

No trecho final, a governança precisa mudar de configuração para operação. O monitoramento deve ser integrado em fluxos de trabalho existentes, os caminhos de escalada devem ser claramente definidos e a evidência deve começar a se acumular naturalmente à medida que os sistemas são executados.

O objetivo nos primeiros 90 dias não é a perfeição. É o momentum. Um programa de governança que funciona imperfeitamente na prática é muito mais valioso do que um que existe apenas no papel.”

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Trustible.