Não Estamos Mais Alinhando AIs. Estamos Alinhando Civilizações

Por muitos anos, a principal pergunta na inteligência artificial (IA) era como alinhar os modelos de IA com os valores humanos. Os pesquisadores tentaram definir regras de segurança, princípios éticos e mecanismos de controle que orientam as decisões da IA. Esse trabalho alcançou um progresso significativo. Mas agora, à medida que esses sistemas de IA crescem em capacidade e se tornam mais difundidos, o foco do alinhamento está começando a mudar. O que começou como o desafio de alinhar um único modelo a um conjunto de instruções agora se tornou o desafio muito maior de alinhar civilizações inteiras que usam esses sistemas em escala global. A IA não é mais apenas uma ferramenta. Está evoluindo para um ambiente onde as sociedades trabalham, se comunicam, negociam e competem. Como resultado, o alinhamento não permanece mais um problema técnico. Tornou-se um problema civilizacional. Neste artigo, explico por que o alinhamento não é mais apenas sobre modelos e por que devemos começar a pensar em termos de civilizações em vez de máquinas. Também discuto como essa mudança afeta nossas responsabilidades e o que significa para a cooperação global.

Quais Valores a IA Realmente Representa?

Se você perguntar a uma IA sobre um evento histórico sensível, sua resposta depende dos dados que estudou. Se esses dados vêm principalmente da internet ocidental, a resposta terá um viés ocidental. Priorizará o individualismo, a liberdade de expressão e os ideais democráticos. Esses são bons valores para muitas pessoas. Mas não são os únicos valores no mundo.

Um usuário em Cingapura, um usuário em Riade e um usuário em São Francisco têm definições diferentes do que é “útil” e do que é “prejudicial”. Em algumas culturas, a harmonia social é mais importante do que a liberdade absoluta de expressão. Em outras, o respeito à hierarquia é mais importante do que a disruptura.

Quando uma empresa do Vale do Silício usa “Reinforcement Learning from Human Feedback” (RLHF), eles contratam humanos para avaliar as respostas da IA. Mas quem são esses humanos? Quais são suas crenças? Se eles alinham o modelo com os padrões americanos, estão acidentalmente construindo uma exportação cultural americana. Estão construindo um diplomata digital que impõe as regras de uma civilização específica ao resto do mundo.

O Surgimento de Loops de Feedback

O desafio não é apenas que a IA reflete as crenças de uma cultura. É como essas crenças podem mudar-nos. Os sistemas de IA modernos têm o potencial de moldar o comportamento de indivíduos, organizações e até mesmo nações. Podem influenciar como pensamos, trabalhamos, confiamos e competimos. Isso cria loops de feedback entre os sistemas de IA e as sociedades humanas; treinamos a IA e a IA molda como pensamos e agimos. Esses loops estão se tornando mais fortes à medida que a IA se torna mais difundida. Para ver como esse loop de feedback funciona, aqui estão dois exemplos:

• A implantação em larga escala de IA muda o comportamento social, e o comportamento social muda os dados que treinam os novos sistemas. Por exemplo, um algoritmo de recomendação pode moldar o que as pessoas assistem, leem e acreditam. Ferramentas de produtividade reorganizam como as equipes colaboram e como os estudantes aprendem. Essas mudanças no comportamento alteram os padrões de dados na forma de diferentes hábitos de visualização, padrões de comunicação no local de trabalho ou estilos de escrita. Quando esses dados fluem para conjuntos de dados de treinamento futuros, os modelos ajustam suas suposições e saídas de acordo. O comportamento humano molda os modelos, e os modelos, por sua vez, moldam o comportamento humano.
• Ferramentas de decisão automatizadas influenciam a política pública, e a política pública influencia o treinamento de modelos futuros. Por exemplo, muitos governos agora usam a IA para sugerir onde alocar recursos, como identificar quais bairros precisam de mais apoio à saúde ou quais áreas podem ter um risco de crime mais alto. Quando os formuladores de políticas agem com base nessas recomendações, os resultados dessas decisões mais tarde se tornam parte de novos conjuntos de dados. Com o tempo, as decisões de política moldadas pela IA acabam moldando a próxima geração de modelos de IA.

Uma vez que você reconhece esse loop de feedback, fica claro que a IA está gradualmente moldando e alinhando civilizações. Como resultado, as nações estão começando a perguntar: Como elas podem salvaguardar seus valores enquanto integram a IA em suas sociedades e instituições?

O Surgimento da IA Soberana

Esse desafio de alinhamento provocou uma reação significativa dos governos em todo o mundo. As nações perceberam que depender de IA importada é um risco para sua soberania. Elas não podem se dar ao luxo de ter seus cidadãos educados, informados e aconselhados por uma caixa preta que pensa como um estrangeiro.

Essa percepção levou ao surgimento da “IA Soberana“. A França está investindo pesadamente para construir modelos que falem francês e entendam a lei e a cultura francesa. A Índia está construindo modelos de IA indígenas para garantir que seus valores culturais sejam respeitados. Os Emirados Árabes Unidos e a China estão construindo modelos de IA alinhados com suas próprias visões nacionais.

Isso é a nova corrida armamentista. É uma corrida pelo controle da narrativa. Uma civilização que não tem sua própria IA eventualmente perderá sua própria memória. Se seus filhos fizerem uma pergunta a uma máquina e a máquina responder com a lógica de uma cultura diferente, sua cultura começa a se deteriorar. Essa percepção, no entanto, pode levar à formação de blocos digitais distintos. Podemos acabar com uma IA ocidental, uma IA chinesa, uma IA indiana e assim por diante. Esses sistemas operarão com fatos e bússolas morais diferentes. Esses desenvolvimentos tornam claro que, se queremos criar um modelo de IA verdadeiramente alinhado, devemos primeiro encontrar uma maneira de alinhar as civilizações.

Necessidade de uma IA Diplomática

O alinhamento tradicional assume que um modelo pode ser alinhado por treinamento cuidadoso, prompt e guardrails. Esse pensamento vem da mentalidade técnica da pesquisa de segurança da IA nos primórdios. Mas mesmo o alinhamento perfeito do nível do modelo não pode resolver os desafios de alinhar as civilizações. O alinhamento não pode permanecer estável quando as sociedades puxam em direções opostas. Se os países, empresas e comunidades têm objetivos conflitantes, eles empurrarão os sistemas de IA para refletir esses conflitos. Esses limites mostram que o alinhamento não é apenas um problema técnico. É um problema de governança, cultural e de coordenação. E esses problemas exigem não apenas especialistas ou desenvolvedores. Envolve civilizações inteiras.

Então, como prosseguimos? Se aceitamos que o alinhamento universal é impossível, devemos mudar nossa estratégia. Devemos parar de procurar uma solução técnica para um problema filosófico. Devemos começar a pensar como diplomatas. Devemos construir protocolos para “Alinhamento Civilizacional”. Devemos descobrir como a IA pode respeitar as crenças e valores de uma sociedade sem impor a ela as crenças de outras culturas. Em outras palavras, devemos criar uma ONU digital para nossos algoritmos.

Isso requer transparência. Atualmente, não sabemos realmente quais valores estão escondidos nas camadas profundas de uma rede neural. Só vemos a saída. Para alinhar as civilizações, devemos ser claros sobre a “Constituição” de cada modelo. Um modelo deve ser capaz de declarar seu viés. Deve ser capaz de dizer: “Eu sou treinado nesses dados, com essas regras de segurança, priorizando esses valores.” Só quando o viés for visível podemos confiar no sistema. Um usuário deve ser capaz de alternar entre perspectivas. Você deve ser capaz de fazer uma pergunta e ver como um modelo “ocidental” responde versus como um modelo “oriental” responde. Isso transformaria a IA em uma ferramenta para compreensão, em vez de uma ferramenta para doutrinação.

O Resumo

Passamos muito tempo preocupados com o Terminator. O risco real não é que um robô nos destrua. O risco real é que um robô nos faça esquecer quem somos. O alinhamento não é um código que podemos escrever uma vez e esquecer. É uma negociação constante com os modelos de IA para mantê-los alinhados com nossas crenças e valores. É um ato político. À medida que entramos nessa próxima fase da era da inteligência, devemos olhar além da tela. Devemos considerar como a IA interpreta nossa história, nossas fronteiras e nossas crenças. Estamos construindo as mentes que nos ajudarão a governar o mundo. Devemos garantir que essas mentes respeitem as diferenças entre as civilizações.