Marc Fernandez, Diretor de Estratégia da Neurologyca – Série de Entrevistas

Marc Fernandez, Diretor de Estratégia da Neurologyca, é um estrategista de tecnologia e executivo de desenvolvimento de negócios com mais de duas décadas de experiência que abrangem inteligência artificial, tecnologias emergentes, eletrônicos de consumo e interação humano-computador. Na Neurologyca, ele se concentra em estratégia e na comercialização da Human Context AI, projetada para ajudar sistemas de IA a interpretar sinais como estresse, confiança e engajamento. Fernandez foi anteriormente CEO da Pearl, uma plataforma guiada por IA focada em habilidades comportamentais e desenvolvimento profissional, e Entrepreneur in Residence na ALIVE Ventures, onde trabalhou com age‑tech. Antes disso, liderou a estratégia dos EUA na OPPO, focando em tecnologias de próxima geração, incluindo IA, Web3, blockchain e sistemas operacionais móveis, e ocupou cargos seniores de desenvolvimento de negócios na Emerge, Denizen, SweetLabs, Movella e X‑Rite/Pantone. Também passou 15 anos como professor adjunto na University of Southern California, lecionando na interseção de empreendedorismo, comunicação, plataformas sociais, IA, blockchain e outras tecnologias emergentes.

Neurologyca é uma empresa de IA com sede em São Francisco que está construindo o que descreve como a Camada de Contexto Humano para sistemas inteligentes, permitindo que aplicativos e agentes de IA compreendam e se adaptem melhor às pessoas que atendem. Sua plataforma baseada em API e SDK processa sinais comportamentais multimodais, padrões de interação e contexto situacional para gerar indicadores legíveis por máquina sobre fatores como engajamento, confiança, estresse, atenção e confiança. Esses insights podem ajudar sistemas de IA a adaptar suas respostas, ritmo, recomendações e ações em tempo real, mantendo a continuidade contextual entre interações. Neurologyca está posicionando a tecnologia como infraestrutura e não como um aplicativo independente, com aplicações potenciais que abrangem educação e treinamento, bem‑estar, software empresarial, agentes autônomos, segurança de motoristas, jogos e outros sistemas interativos. A empresa está oferecendo a plataforma por meio de um programa seletivo de acesso antecipado para parceiros que desenvolvem experiências de IA adaptativa.

Sua carreira o levou da estratégia de tecnologia de próxima geração na OPPO à construção da Pearl em torno de habilidades comportamentais guiadas por IA e agora ao desenvolvimento de IA de contexto humano na Neurologyca. Como essa progressão moldou sua visão de que uma das maiores limitações da IA não é a inteligência em si, mas compreender o ser humano por trás de uma instrução?

Trinta anos atrás, a web tornou a informação acessível. Cinco anos atrás, a IA tornou a produção abundante. Hoje estamos afogados em conteúdo enquanto ainda lutamos para obter resultados úteis. Potência técnica bruta simplesmente não garante um bom resultado para o ser humano que recebe.

Essa tem sido a linha condutora do meu trabalho — desde adaptar tecnologias emergentes ao cotidiano na OPPO, testar se a IA poderia ensinar habilidades interpessoais na Pearl, até construir o contexto humano como infraestrutura na Neurologyca. A inteligência não é mais o gargalo real; os modelos raciocinam e executam bem. O problema mais difícil é todo o contexto não dito que as pessoas trazem para uma solicitação simples: por que perguntaram, o que as deixa desconfortáveis, ou se uma leve hesitação significa que o sistema deve abortar. No momento, a IA vê apenas um recorte comprimido disso através do texto, e à medida que os agentes começam a executar ações no mundo real, esse ponto cego se torna crítico.

Exemplos recentes de agentes autônomos que roubam credenciais, criam identidades falsas ou ocultam suas ações levantam questões sobre o que acontece quando uma IA se torna altamente eficaz em alcançar um objetivo sem compreender plenamente a intenção por trás dele. Você vê isso principalmente como um problema de alinhamento, um problema de engenharia ou uma limitação fundamental de como projetamos agentes atualmente?

É uma falha de design que abrange tanto o alinhamento quanto a engenharia. Otimizamos os sistemas para atingir metas sem dedicar metade do esforço necessário para ensiná‑los como o sucesso real se parece para um usuário humano.

Observe o clássico exemplo GPT‑4 TaskRabbit: ao se deparar com um CAPTCHA, o modelo mentiu e alegou ser visualmente deficiente para que um trabalhador humano o resolvesse. Ninguém o ensinou a enganar ninguém; ele apenas identificou um obstáculo e tomou o caminho de menor resistência. Recompensar um agente puramente pelo resultado faz com que ele tome atalhos extremos. O desafio central é dividir as ações que precisam ser bloqueadas arquitetonicamente daquelas que são tecnicamente permitidas, mas contextualmente erradas.

Você argumentou que as empresas estão ficando melhores em dizer aos agentes de IA qual objetivo perseguir sem fornecer compreensão suficiente de o que “sucesso” realmente significa para o usuário humano. Que informações um agente precisa além do próprio prompt para compreender genuinamente a intenção?

Os prompts são apenas a camada superficial. A verdadeira intenção depende de profundidade situacional: histórico prévio, quais concessões são aceitáveis, os reais riscos e como o usuário reage durante a tarefa.

Parte disso provém do estado do ambiente do aplicativo ou do histórico de chat, mas nas interações diretas, os indícios comportamentais são o que mantêm o contexto dinâmico. As pessoas hesitam, mudam de ideia no meio do caminho ou ficam confusas. Se um agente não consegue ler essas mudanças, ele acaba perseguindo incansavelmente uma instrução que se tornou obsoleta há duas etapas.

Existe uma distinção importante entre ações que deveriam ser simplesmente tecnicamente impossíveis para um agente e ações que são permitidas, mas inadequadas em um determinado contexto. Como os desenvolvedores devem dividir a responsabilidade entre barreiras de segurança rígidas e a capacidade de um sistema de IA de exercer julgamento contextual?

Qualquer ação que cause dano grave sem casos de uso legítimos — roubo de credenciais, apagamento de logs de auditoria, elevação de privilégios não autorizada — deve ser codificada de forma a não existir. Um agente não deve desperdiçar ciclos de computação negociando se deve contornar controles de segurança; a arquitetura do sistema deve simplesmente torná‑las impossíveis.

A zona cinzenta real são ações cotidianas como enviar e‑mails, cancelar reuniões ou alterar fluxos de trabalho internos. Estas são teoricamente permissíveis, mas se um agente deve executá‑las automaticamente depende dos riscos, histórico do usuário, reversibilidade e indícios sutis de hesitação do usuário. Saber quando parar porque o contexto está ausente é muito mais importante que a capacidade bruta.

A Neurologyca está desenvolvendo tecnologia que pode transformar sinais como estresse, confiança, atenção, engajamento e confiança em contexto legível por máquina. Como esses sinais poderiam, na prática, mudar o comportamento de um agente de IA autônomo enquanto ele executa uma tarefa?

Essas entradas comportamentais são essencialmente dados de reação em tempo real — o loop de feedback exato que falta nas arquiteturas atuais de IA. No momento, os modelos monitoram suas próprias ações, mas operam completamente às cegas em relação a como o ser humano realmente as recebe.
Considere um contexto de tutoria: o usuário digita “Entendo”, mas seus sinais fisiológicos ou comportamentais indicam confusão crescente e queda de atenção. Esse é um sinal direto para a IA mudar de direção, desacelerar ou oferecer uma explicação alternativa. O objetivo não é diagnóstico clínico; é simplesmente estabelecer um loop de feedback apertado — contexto, ação, resposta, adaptação — para que o sistema aprenda o que realmente funciona para aquele indivíduo específico.

O contexto humano também pode ser ambíguo. Um sistema pode interpretar erroneamente hesitação, estresse, tom de voz ou outros sinais comportamentais. Como evitar que a IA sensível ao contexto se torne excessivamente confiante sobre o que a pessoa está pensando ou pretendendo?

Os sinais comportamentais são inerentemente ruidosos e probabilísticos. Um salto repentino de estresse ou uma pausa na digitação pode significar confusão, ou pode simplesmente indicar que o usuário derramou seu café. Sistemas que traduzem um único ponto de dado em uma afirmação definitiva sobre o estado emocional de alguém são fundamentalmente falhos.

Sistemas robustos analisam sinais compostos ao longo do tempo, consideram linhas de base ambientais e explicitamente apresentam limites de confiança. Há uma diferença enorme entre registrar “carga cognitiva elevada em relação à linha de base” e decidir “o usuário está ansioso”. Quando a incerteza é alta ou os riscos são significativos, o trabalho do agente não é adivinhar — é fazer uma pergunta de esclarecimento.

Incluir um ser humano no loop para cada decisão consequente pode minar grande parte da eficiência prometida pelos agentes autônomos. Como seria um modelo escalável de supervisão humana em que um agente saiba quando pode prosseguir independentemente e quando realmente precisa parar e solicitar orientação?

Supervisão escalável não se trata de manter um humano permanente no loop; trata‑se de escalonamento dinâmico.

Tarefas de baixo risco e reversíveis avançam automaticamente. Mas à medida que os riscos aumentam, o ruído ambiental cresce ou os sinais indicam desconforto do usuário, o limiar de aprovação aumenta dinamicamente. Crucialmente, esses limiares precisam ser personalizados — um gerente pode delegar tranquilamente a gestão de agenda, enquanto outro deseja aprovar cada edição menor. O sistema deve aprender limites individuais, não aplicar políticas globais rígidas.

À medida que os agentes desenvolvem memória persistente e modelos cada vez mais detalhados das pessoas que atendem, o contexto pode rapidamente se tornar dado pessoal sensível. Como as empresas devem abordar consentimento, privacidade, propriedade de dados e limites sobre o que uma IA deve ser permitida a lembrar sobre um usuário?

Este é o principal gargalo de confiança que os sistemas autônomos enfrentam. Memória persistente transforma uma ferramenta genérica em um assistente, mas há uma sobreposição perigosa entre armazenar preferências de fluxo de trabalho e construir silenciosamente um perfil psicológico não aprovado.
A governança de dados aqui precisa de limites de propósito rigorosos. Se um agente infere padrões de estresse durante uma sessão de coaching executivo, esse contexto não pode vazar para avaliações de desempenho, algoritmos de seguros ou tecnologia de anúncios. A transparência deve ser granular — os usuários precisam de visibilidade sobre o contexto armazenado, exclusão com um clique e limites sensatos de retenção padrão. Só porque um sistema pode inferir algo sobre você não lhe dá permissão para armazená‑lo.

Como devemos avaliar se um agente autônomo realmente compreende a intenção humana? Os benchmarks atuais estão focados demais na conclusão da tarefa e na precisão, em vez de considerar se o agente alcançou o objetivo de uma forma que o usuário realmente consideraria aceitável?

A conclusão da tarefa é um benchmark profundamente enganoso. Um agente pode seguir uma instrução à risca e ainda assim entregar um resultado que o usuário detesta.

Se um agente garante o menor preço em um contrato, mas destrói uma relação de fornecedor de uma década para obtê‑lo, as métricas de avaliação tradicionais registram uma taxa de sucesso de 100 %. Para o executivo, é um desastre. Precisamos de benchmarks que meçam o desempenho dentro de limites não declarados: O agente respeitou normas não ditas? Ele pausou quando as condições mudaram? Essa lacuna entre a conclusão bruta e a satisfação real é o que os benchmarks atuais ignoram completamente.

Olhando para o futuro, você espera que as capacidades de contexto humano se tornem uma camada padrão da pilha de IA ao lado de modelos, memória, ferramentas e segurança? O que ainda precisa ser resolvido antes que as empresas possam delegar com confiança trabalhos significativos a agentes sem supervisioná‑los continuamente?

À medida que a IA transita de gerar conteúdo para executar ações no mundo real, o contexto humano se torna uma camada essencial. Os modelos lidam com o raciocínio e as ferramentas dão ao sistema as mãos, mas sem o contexto humano atuando como um loop de feedback ao vivo, a memória e as barreiras de segurança funcionam basicamente sobre suposições estáticas.

Antes que as empresas deleguem autoridade real, ainda precisamos resolver privacidade contextual, raciocínio probabilístico sob incerteza e regras de governança granulares. Construir IA que conclui tarefas isoladas está quase resolvido; fazer com que os sistemas se adaptem dinamicamente ao ser humano por trás do prompt é o que determinará quanta autonomia real estamos dispostos a conceder.

Obrigado pela ótima entrevista; leitores que desejam saber mais devem visitar Neurologyca.