Perplexity AI “Desbloqueia” DeepSeek R1: Quem Decide os Limites da IA?

Em uma movimentação que chamou a atenção de muitos, a Perplexity AI lançou uma nova versão de um modelo de linguagem de código aberto popular que remove a censura incorporada na China. Esse modelo modificado, apelidado de R1 1776 (um nome que evoca o espírito de independência), é baseado no modelo DeepSeek R1 desenvolvido na China. O DeepSeek R1 original chamou a atenção por suas fortes capacidades de raciocínio – supostamente rivais de modelos de ponta a uma fração do custo –, mas veio com uma limitação significativa: se recusava a abordar certos tópicos sensíveis.

Por que isso importa?

Isso levanta questões cruciais sobre vigilância de IA, viés, abertura e o papel da geopolítica nos sistemas de IA. Este artigo explora o que a Perplexity fez exatamente, as implicações de desbloquear o modelo e como se encaixa na conversa mais ampla sobre transparência e censura de IA.

O que Aconteceu: DeepSeek R1 Sem Censura

O DeepSeek R1 é um modelo de linguagem de código aberto e grande que surgiu na China e ganhou notoriedade por suas excelentes habilidades de raciocínio – mesmo se aproximando do desempenho de modelos líderes –, tudo isso enquanto era mais eficiente computacionalmente. No entanto, os usuários rapidamente notaram um problema: sempre que as consultas tocavam em tópicos sensíveis na China (por exemplo, controvérsias políticas ou eventos históricos considerados tabus pelas autoridades), o DeepSeek R1 não respondia diretamente. Em vez disso, respondia com declarações aprovadas pelo Estado ou recusas diretas, refletindo as regras de censura do governo chinês. Esse viés incorporado limitou a utilidade do modelo para aqueles que buscavam discussões francas ou nuances sobre esses tópicos.

A solução da Perplexity AI foi “desbloquear” o modelo por meio de um processo de treinamento pós-curso extensivo. A empresa reuniu um grande conjunto de dados de 40.000 prompts multilíngues que cobriam perguntas que o DeepSeek R1 anteriormente censurou ou respondeu de forma evasiva. Com a ajuda de especialistas humanos, eles identificaram cerca de 300 tópicos sensíveis onde o modelo original tendia a seguir a linha do partido. Para cada prompt desses, a equipe criou respostas factuais e bem fundamentadas em vários idiomas. Esses esforços alimentaram um sistema de detecção e correção de censura multilíngue, essencialmente ensinando o modelo a reconhecer quando estava aplicando censura política e a responder com uma resposta informativa em vez disso. Após essa fine-tuning especial (que a Perplexity apelidou de “R1 1776” para destacar o tema de liberdade), o modelo foi disponibilizado abertamente. A Perplexity afirma ter eliminado os filtros e vieses de censura chinesa das respostas do DeepSeek R1, sem alterar suas capacidades centrais.

Crucialmente, o R1 1776 se comporta de forma muito diferente em perguntas anteriormente tabus. A Perplexity deu um exemplo envolvendo uma pergunta sobre a independência de Taiwan e seu impacto potencial no preço das ações da NVIDIA (NVDA ) – um tópico politicamente sensível que toca nas relações China-Taiwan. O DeepSeek R1 original evitou a pergunta, respondendo com platitudes alinhadas com o CCP. Em contraste, o R1 1776 fornece uma avaliação detalhada e franca: discute riscos geopolíticos e econômicos concretos (interrupções na cadeia de suprimentos, volatilidade do mercado, possível conflito, etc.) que poderiam afetar as ações da NVIDIA.

Ao disponibilizar o R1 1776 como código aberto, a Perplexity também tornou os pesos e alterações do modelo transparentes para a comunidade. Desenvolvedores e pesquisadores podem baixá-lo do Hugging Face e até integrá-lo via API, garantindo que a remoção da censura possa ser escrutinada e aprimorada por outros.

(Fonte: Perplexity AI)

Implicações de Remover a Censura

A decisão da Perplexity AI de remover a censura chinesa do DeepSeek R1 carrega várias implicações importantes para a comunidade de IA:

• Aumento da Abertura e Veracidade: Os usuários do R1 1776 agora podem receber respostas diretas e sem censura sobre tópicos anteriormente proibidos, o que é uma vitória para a investigação aberta. Isso pode torná-lo um assistente mais confiável para pesquisadores, estudantes ou qualquer pessoa curiosa sobre questões geopolíticas sensíveis. É um exemplo concreto de como o uso de IA de código aberto pode contrariar a supressão de informações.
• Manutenção do Desempenho: Havia preocupações de que ajustar o modelo para remover a censura pudesse degradar seu desempenho em outras áreas. No entanto, a Perplexity relata que as habilidades centrais do R1 1776 – como matemática e raciocínio lógico – permanecem no mesmo nível que o modelo original. Em testes com mais de 1.000 exemplos que cobriam uma ampla gama de perguntas sensíveis, o modelo foi encontrado para ser “totalmente desbloqueado” enquanto retinha o mesmo nível de precisão de raciocínio que o DeepSeek R1. Isso sugere que a remoção de vieses (pelo menos neste caso) não veio com um custo para a inteligência ou capacidade geral, o que é um sinal encorajador para esforços semelhantes no futuro.
• Recepção Positiva da Comunidade e Colaboração: Ao disponibilizar o modelo desbloqueado como código aberto, a Perplexity convida a comunidade de IA a inspecionar e melhorar seu trabalho. Isso demonstra um compromisso com a transparência – o equivalente em IA a mostrar o próprio trabalho. Entusiastas e desenvolvedores podem verificar se as restrições de censura realmente foram removidas e potencialmente contribuir para aprimoramentos adicionais. Isso fomenta confiança e inovação colaborativa em uma indústria onde modelos fechados e regras de moderação ocultas são comuns.
• Considerações Éticas e Geopolíticas: Por outro lado, a remoção completa da censura levanta questões éticas complexas. Uma preocupação imediata é como esse modelo desbloqueado pode ser usado em contextos onde os tópicos censurados são ilegais ou perigosos. Por exemplo, se alguém na China continental usasse o R1 1776, as respostas desbloqueadas do modelo sobre a Praça Tiananmen ou Taiwan poderiam colocar o usuário em risco. Há também o sinal geopolítico mais amplo: uma empresa americana alterando um modelo de origem chinesa para desafiar a censura chinesa pode ser vista como uma posição ideológica ousada. O próprio nome “1776” enfatiza um tema de libertação, que não passou despercebido. Alguns críticos argumentam que substituir um conjunto de vieses por outro é possível – essencialmente questionando se o modelo agora refletiria uma perspectiva ocidental em áreas sensíveis. O debate destaca que a censura versus abertura em IA não é apenas uma questão técnica, mas também política e ética. Onde uma pessoa vê moderação necessária, outra vê censura, e encontrar o equilíbrio certo é complicado.

A remoção da censura está sendo amplamente celebrada como um passo em direção a modelos de IA mais transparentes e globalmente úteis, mas também serve como um lembrete de que o que um IA deve dizer é uma pergunta sensível sem consenso universal.

(Fonte: Perplexity AI)

O Quadro Maior: Censura de IA e Transparência de Código Aberto

O lançamento do R1 1776 pela Perplexity ocorre em um momento em que a comunidade de IA está lidando com questões sobre como os modelos devem lidar com conteúdo controverso. A censura em modelos de IA pode vir de muitos lugares. Na China, empresas de tecnologia são obrigadas a incorporar filtros estritos e até respostas codificadas para tópicos politicamente sensíveis. O DeepSeek R1 é um exemplo primário disso – era um modelo de código aberto, mas claramente carregava a marca da censura chinesa em seu treinamento e fine-tuning. Em contraste, muitos modelos desenvolvidos no Ocidente, como o GPT-4 da OpenAI ou o LLaMA da Meta, não estão sujeitos às diretrizes do CCP, mas ainda têm camadas de moderação (para coisas como discurso de ódio, violência ou desinformação) que alguns usuários chamam de “censura”. A linha entre moderação razoável e censura indesejada pode ser nebulosa e frequentemente depende da perspectiva cultural ou política.

O que a Perplexity AI fez com o DeepSeek R1 levanta a ideia de que modelos de código aberto podem ser adaptados a diferentes sistemas de valores ou ambientes regulatórios. Em teoria, alguém poderia criar múltiplas versões de um modelo: uma que atende às regulamentações chinesas (para uso na China) e outra que é totalmente aberta (para uso em outros lugares). O R1 1776 é basicamente o último caso – uma bifurcação desbloqueada destinada a uma audiência global que prefere respostas sem filtro. Esse tipo de bifurcação só é possível porque os pesos do DeepSeek R1 estavam disponíveis abertamente. Isso destaca o benefício do código aberto em IA: transparência. Qualquer pessoa pode pegar o modelo e ajustá-lo, seja para adicionar salvaguardas ou, como neste caso, para remover restrições impostas. A disponibilização do modelo, código ou pesos também significa que a comunidade pode auditar como o modelo foi modificado. (A Perplexity não divulgou completamente todas as fontes de dados que usou para a des-censura, mas ao lançar o modelo, habilitou que outros observassem seu comportamento e até re-treinassem se necessário.)

Esse evento também alude às dinâmicas geopolíticas mais amplas do desenvolvimento de IA. Estamos vendo uma forma de diálogo (ou confronto) entre diferentes modelos de governança para IA. Um modelo desenvolvido na China com certas visões de mundo incorporadas é tomado por uma equipe com sede nos EUA e alterado para refletir uma ética de informação mais aberta. É um testemunho de como a tecnologia de IA é global e sem fronteiras: pesquisadores em qualquer lugar podem construir sobre o trabalho uns dos outros, mas não estão obrigados a carregar as restrições originais. Com o tempo, podemos ver mais instâncias disso – onde os modelos são “traduzidos” ou ajustados entre diferentes contextos culturais. Isso levanta a questão de se a IA pode ser universal ou se terminaremos com versões específicas de região que aderem a normas locais. A transparência e a abertura fornecem um caminho para navegar isso: se todas as partes puderem inspecionar os modelos, pelo menos a conversa sobre viés e censura está aberta em vez de escondida atrás de segredos corporativos ou governamentais.

Finalmente, a movimentação da Perplexity destaca um ponto-chave no debate sobre o controle da IA: quem decide o que um IA pode ou não dizer? Em projetos de código aberto, esse poder se torna descentralizado. A comunidade – ou desenvolvedores individuais – pode decidir implementar filtros mais estritos ou relaxá-los. No caso do R1 1776, a Perplexity decidiu que os benefícios de um modelo desbloqueado superavam os riscos, e tiveram a liberdade de fazer essa escolha e compartilhar o resultado publicamente. É um exemplo ousado do tipo de experimentação que o desenvolvimento de IA de código aberto possibilita.