O hype apocalíptico da IA e os cafés com clima de IA: as questões de governança que não podemos nos dar ao luxo de ignorar

Estamos condenados? A IA é consciente? E por que as empresas de IA estão abrindo cafés?

Essas perguntas são vívidas, inquietantes e — sobretudo no caso da consciência — genuinamente difíceis. Também têm em comum a capacidade de nos atrair para os aspectos mais especulativos ou emocionalmente envolventes da história da IA. Enquanto isso, as perguntas menos cinematográficas já estão moldando a vida das pessoas: quem é responsável quando um sistema de IA causa danos? Que dados e trabalho foram necessários para torná-lo possível? Que decisões ele deveria poder influenciar? E quem tem direito a opinar?

Não presumo necessariamente que quem levanta a questão dos riscos existenciais, discute a consciência das máquinas ou abre um café o faça para fugir dessas perguntas. Cada tema pode merecer nossa atenção por si só. Mas a atenção é um recurso finito. Quando uma história dramática ocupa o centro das atenções, vale a pena perguntar o que mais ficou fora de vista.

O apelo de uma IA tangível

O setor de IA começou a dar endereços físicos a produtos em grande parte intangíveis. O “Zero Slop Zone” da Anthropic, em Nova York, convidou os visitantes a desacelerar com café, livros, papel e caneta; a Perplexity abriu o Cafe Curious, um café em Seul onde a IA da empresa faz parte da experiência. A cobertura do espaço temporário da Anthropic e do café da Perplexity em Seul descreve duas iniciativas distintas para levar uma tecnologia abstrata a um ambiente social e cotidiano.

Isso faz algum sentido. A maioria das pessoas não consegue ver um modelo de linguagem, examinar a infraestrutura por trás dele ou imaginar com facilidade o que acontece entre uma solicitação e uma resposta. Um café oferece uma espécie de representação física: uma sala, uma xícara, uma conversa. Ele pode tornar uma empresa e sua tecnologia mais acessíveis — e talvez mais fáceis de entender.

Há também uma segunda dimensão. Um espaço físico torna uma empresa visível em uma comunidade. No mínimo, ele diz: “estamos aqui, neste lugar, por enquanto”. Isso pode ser reconfortante em um setor onde produtos, políticas e expectativas mudam rapidamente. Mas visibilidade não é o mesmo que responsabilização. Um espaço acolhedor pode tornar uma tecnologia mais familiar sem nos dizer como ela foi treinada, em que situações é confiável ou que recurso uma pessoa tem quando ela erra em algo importante.

Essa distinção remete a uma ideia à qual volto há anos: as experiências digitais nunca são apenas digitais. Elas encontram as pessoas em lugares, relações e instituições. A questão de design não é simplesmente como tornar um sistema de IA mais acessível. É saber se a experiência ajuda as pessoas a entender os limites do sistema e a preservar uma autonomia significativa.

O debate sobre a consciência — e as pessoas já afetadas

A mesma distinção importa nos debates sobre a consciência da IA. Há divergências reais sobre a possibilidade de consciência em máquinas, sobre quais evidências seriam suficientes e sobre como a incerteza deve orientar nossas responsabilidades. O argumento de Anil Seth na Noema defende que inteligência e consciência não devem ser tratadas como conceitos intercambiáveis; reportagens recentes no The Guardian também explicam por que a questão continua sem resposta definitiva. Esse debate não admite respostas fáceis.

Mas a incerteza sobre a vida interior de uma máquina não torna incertas as questões atuais sobre as consequências para as pessoas. A responsabilidade não começa apenas quando chegamos a um consenso sobre o que é consciência. Ela começa quando organizações desenvolvem, implementam e lucram com sistemas que afetam as pessoas.

Consideremos as perguntas que podemos investigar agora. Que informações foram usadas para treinar um sistema e em que condições? Quem realiza o trabalho de preparar e verificar as respostas que ele produz? Como ele funciona com diferentes grupos? O que acontece quando um sistema é usado na saúde, na contratação, na educação ou nos serviços públicos? Uma pessoa pode contestar uma recomendação automatizada, falar com alguém responsável por tomar decisões e obter uma explicação significativa?

Essas preocupações não são hipotéticas. Uma análise de vieses na IA médica descreve como dados enviesados e escolhas de design podem contribuir para decisões clínicas desiguais. Enquanto isso, a pesquisa sobre IA e emprego ainda está em desenvolvimento: a análise da Anthropic sobre o mercado de trabalho oferece uma maneira de medir a exposição, enquanto a análise do Hamilton Project alerta que as evidências sobre os efeitos gerais no mercado de trabalho continuam incompletas. Essas fontes apontam em direções diferentes quanto ao que podemos concluir hoje, mas reforçam a necessidade de medir os efeitos, em vez de substituir evidências por narrativas confiantes.

Há um risco relacionado na forma como falamos sobre esses sistemas. Nomes, vozes e estilos de conversa semelhantes aos humanos podem fazer a IA parecer mais uma pessoa do que um produto. Isso pode afetar a confiança e a maneira como as pessoas acatam suas respostas. É razoável perguntar se o discurso sobre consciência ou o design antropomórfico podem desviar a atenção das organizações que definem os objetivos e os limites do sistema. Uma análise da MIT Technology Review argumenta que as narrativas sobre consciência podem obscurecer questões de responsabilidade corporativa. Trata-se de um argumento sobre os efeitos desse enquadramento — não de uma prova de que toda pessoa que levanta a questão tenha uma motivação oculta.

O apocalipse não é um plano de governança

O risco existencial merece atenção séria. A existência de danos mais próximos no tempo não torna menos importantes os resultados catastróficos, assim como a possibilidade de uma catástrofe não torna menos importantes os danos de curto prazo. Não precisamos escolher um horizonte temporal e ignorar o outro.

Mas, quando “Estamos condenados?” se torna o assunto inteiro, os riscos de longo prazo voltam a ofuscar os danos do presente. O fatalismo pode soar como uma conclusão, em vez de um convite à ação: se o resultado é inevitável, por que se dar ao trabalho de tentar mudá-lo? Um relato da New Yorker sobre um curso de risco existencial descreve a pergunta de um estudante sobre “construir catedrais”: por que se comprometer a construir algo que talvez sobreviva a você se acredita que o mundo pode acabar? A resposta não é que os riscos desapareçam. É que a incerteza não anula nossa capacidade — nem nossa responsabilidade — de decidir o que importa a seguir e ajudar a moldar o que acontecerá.

É isso que quero dizer com minha filosofia de “otimismo estratégico”. Não se trata de um despreocupado “vai dar tudo certo”, nem de uma recusa a olhar para as evidências. Significa reconhecer os riscos reais, trabalhar para reduzi-los e, ao mesmo tempo, dedicar esforços sérios a um futuro que valha a pena alcançar. A esperança não é o oposto do rigor. Ela pode ser o que mantém o rigor ligado à ação.

As questões de governança por trás do espetáculo

Seja uma organização comprando uma ferramenta de IA, desenvolvendo uma ou definindo políticas para ela, as questões práticas são menos glamorosas do que uma cafeteria ou uma afirmação sobre consciência — e mais úteis:

• Objetivo: Que problema o sistema deve resolver, e a IA é a ferramenta adequada para isso?
• Evidências: Como o sistema foi testado, inclusive com diferentes usuários e em situações menos comuns?
• Limites: Quais decisões devem continuar a cargo de uma pessoa, e o que o sistema não pode fazer?
• Responsabilização: Quem é responsável quando o sistema falha, e como as pessoas afetadas podem recorrer?
• Transparência: As pessoas conseguem entender quando a IA está sendo usada e quais informações influenciaram o resultado?
• Supervisão contínua: Quem monitora o desempenho, as mudanças nos dados e os efeitos não intencionais após o lançamento?

Estruturas como o Framework de Gestão de Riscos de IA do NIST oferecem às organizações uma maneira estruturada de identificar e gerenciar riscos ao longo de todo o ciclo de vida de um sistema de IA. Nenhuma estrutura pode substituir o discernimento ou o debate público, mas a governança se torna mais concreta quando responsabilidades, testes e mecanismos de reparação são explícitos.

Há também uma dimensão física que precisa ser governada. A IA depende de centros de dados, eletricidade, água, terras e financiamento — não apenas de interfaces. Uma reportagem sobre a estrutura de financiamento de um grande projeto de centro de dados levanta questões sobre como os riscos de infraestrutura são divulgados e quem acaba arcando com eles. Uma cafeteria pode ajudar as pessoas a conhecer a IA; por si só, não pode tornar compreensível a infraestrutura que a sustenta.

Então, aproveite a cafeteria. Faça as grandes perguntas sobre consciência. Leve a sério o risco catastrófico. Depois, volte às decisões que podemos analisar e influenciar agora: o que é desenvolvido, quem se beneficia, quem arca com os custos e quais salvaguardas existem quando algo dá errado.

O futuro não é uma sentença anunciada por uma manchete. É um conjunto de escolhas — feitas por empresas, instituições, governos e comunidades — que ainda podem ser questionadas e alteradas. A pergunta mais útil não é apenas se estamos condenados. É quais condições fariam a IA contribuir para o florescimento humano e o que estamos dispostos a fazer para torná-las realidade.