AI Ainda Precisa de um Coach e a Supervisão Humana Precisa de um Playbook

A IA está em toda parte que você olha, e o futebol profissional não é exceção.

A NFL introduziu o Digital Athlete, que usa dados e IA para ajudar as equipes a identificar cenários nos quais os jogadores podem enfrentar risco elevado de lesão. Ele combina vídeo e dados de treinamentos, práticas e jogos com milhões de simulações, proporcionando a todos os 32 times acesso a informações de tendências em toda a liga. Treinadores e equipe de treinamento então utilizam essas informações para desenvolver programas individualizados de prevenção de lesões, treinamento e recuperação.

Embora a tecnologia “leia” o campo, os treinadores ainda são responsáveis por tomar as decisões. À medida que as organizações ampliam o uso de IA em processos de negócios, incluindo conformidade e investigações no local de trabalho, o potencial de automação parece ilimitado. Mas quais tarefas a IA deve executar, sob quais condições e com que supervisão humana?

É aí que um playbook organizacional pode definir o tom: oferecer aos treinadores os meios para aproveitar ferramentas de IA enquanto mantêm a supervisão humana onde realmente importa.

Dar à IA uma Posição ao invés de todo o Campo

Investigações apresentam diferentes níveis de risco. A IA pode ajudar a organizar informações a partir de relatos iniciais e:

• Identificar detalhes ausentes
• Resumir informações em um relatório final
• Construir linhas do tempo
• Revelar padrões que os investigadores podem querer examinar mais a fundo

Esses casos de uso podem reduzir a triagem manual e liberar tempo para focar em trabalhos que exigem julgamento humano.

Considere que a IA pode resumir uma alegação, mas não pode decidir se ela é credível. A IA pode identificar uma inconsistência, mas não pode determinar por que ela existe. É aqui que as organizações podem se meter em apuros ao usar a IA sem salvaguardas.

Para manter a supervisão, a IA precisa de um papel definido. As organizações devem decidir:

• Quais tarefas o sistema deve executar
• Quais informações ele pode acessar
• Os limites do que ele tem permissão para fazer
• Em quais situações uma pessoa precisa assumir o controle

O National Institute of Standards and Technology’s AI Risk Management Framework fornece um referencial útil. O roteiro da NIST descreve Perfis do AI RMF como forma de demonstrar como a estrutura pode ser aplicada a setores, tecnologias, contextos ou outros ambientes específicos. Em outras palavras, a governança responsável de IA se torna mais prática quando as organizações traduzem princípios amplos para as realidades de um caso de uso concreto.

Um playbook de IA pode fazer algo semelhante no nível operacional. Ele define papéis, situações e ações com especificidade.

A Supervisão Humana é um Problema de Design de Sistema

A expressão “human in the loop” se tornou comum nas discussões sobre IA responsável. Mas a presença de uma pessoa em algum ponto do fluxo de trabalho não garante que o sistema de IA seja bem governado.

A NIST identificou human-AI teaming como uma área importante para pesquisa e orientação em gerenciamento de risco de IA. Entre as questões destacadas estão como as pessoas interpretam os resultados produzidos pela IA e como os humanos supervisionam sistemas de IA operando em ambientes reais.

A supervisão humana não deve ser tratada como uma solução temporária até que a IA se torne sofisticada o suficiente para operar sozinha. Em muitos ambientes de alto risco, ela faz parte da arquitetura necessária para usar a IA de forma responsável a longo prazo.

Um peer-reviewed examination of human oversight in AI governance observa que os supervisores humanos devem melhorar a precisão e a segurança para sustentar valores humanos e gerar confiança. Contudo, os humanos nem sempre são supervisores confiáveis. Uma supervisão eficaz depende de competência, incentivos e do desenho da função de supervisão.

Para um investigador, ser solicitado a aprovar uma recomendação gerada por IA não basta se ele não possuir as informações ou a autoridade necessárias para contestá‑la. O playbook deve definir não apenas que um humano está envolvido, mas como e quando essa pessoa pode intervir.

A Transferência Importa Tanto Quanto o Modelo

Existe outro desafio: mesmo quando um humano tem autoridade final, a forma como a IA apresenta as informações pode influenciar a decisão subsequente.

Um estudo pré‑impressão de 2025 preprint study from researchers at the University of California, Santa Barbara ilustra por que o design da interface importa. Em um experimento controlado com 108 participantes em um cenário de tomada de decisão em saúde, os pesquisadores testaram seis formas de suporte decisório por IA. Eles descobriram que mecanismos, incluindo informações de confiança da IA, explicações textuais e visualizações de desempenho, melhoraram a precisão da decisão humano‑IA no experimento.

O estudo também destaca o risco de viés de automação: as pessoas podem confiar excessivamente em sugestões da IA, inclusive nas incorretas.

Esse experimento demonstra por que a passagem de controle entre máquina e humano requer design e testes deliberados.

Ao extrapolarmos isso e introduzirmos o conceito de investigação, várias questões surgem:

• O investigador vê apenas a conclusão gerada pela IA, ou pode examinar as informações que a sustentam?

• O sistema pode comunicar incerteza?

• É claro quando informações estão ausentes?

• Os investigadores podem rejeitar um output e documentar o porquê?

Essas são questões de governança tanto quanto técnicas.

Cinco Perguntas que Todo Playbook de IA Deve Responder

Um playbook de IA útil deve transformar princípios abstratos como “IA responsável” e “supervisão humana” em regras operacionais concretas.

1. O que a IA está autorizada a fazer? As organizações devem autorizar tarefas específicas em vez de conceder permissão ampla para usar IA em todo o fluxo de trabalho.
2. Quais informações ela pode usar? Para investigações e denúncias, as organizações precisam de limites claros sobre as informações disponíveis a um sistema de IA e como essas informações são tratadas.
3. Como as pessoas avaliarão sua saída? Revisores humanos precisam de contexto suficiente para entender o que o sistema produziu, suas limitações relevantes e as informações necessárias para questionar o resultado.
4. Quando um humano deve intervir? Um playbook deve estabelecer gatilhos de escalonamento ao invés de depender de cada colaborador para decidir quando a IA foi longe demais.
5. Onde termina a autoridade da IA? Algumas decisões devem exigir julgamento humano, e as pessoas responsáveis por essas decisões precisam de autoridade real para desconsiderar, sobrescrever ou interromper a tecnologia.

Essas ideias estão refletidas em um dos documentos regulatórios de IA mais importantes do mundo. Article 14 of the EU AI Act estabelece requisitos de supervisão humana para sistemas de IA que se enquadram na categoria de alto risco do Ato. Ele afirma que as medidas de supervisão devem ser proporcionais aos riscos do sistema, sua autonomia e ao contexto de uso. Também exige que os supervisores possam entender as capacidades e limitações relevantes, interpretar corretamente os resultados, permanecer atentos ao viés de automação, desconsiderar ou sobrescrever saídas, e intervir ou interromper um sistema.

Isso não significa que toda ferramenta de IA usada em uma investigação seja automaticamente um sistema de alto risco. A estrutura ilustra um princípio importante para a governança de IA. A supervisão humana deve proporcionar aos humanos capacidades significativas, não apenas um ponto no fluxo de trabalho.

A IA Não Substitui o Treinador. Ela Muda o que o Treinador Pode Ver.

O Digital Athlete da NFL é atraente não porque demonstra que a IA pode substituir treinadores, mas porque mostra como a tecnologia sofisticada pode ampliar as informações disponíveis para profissionais experientes.

A IA pode ajudar as pessoas a processar informações, destacar o que merece atenção e criar maior consistência em tarefas repetíveis. No entanto, os momentos mais decisivos em uma investigação frequentemente exigem algo diferente: contexto, ceticismo, interpretação e responsabilidade.

As organizações melhor posicionadas para se beneficiar da IA, portanto, perguntarão mais do que o que a tecnologia pode automatizar. Elas definirão o que deve ser feito, o que não deve ser feito e como humanos e IA devem trabalhar juntos.