Existe uma Solução Clara para os Riscos de Privacidade Impostos pela Inteligência Artificial Geradora?

Os riscos de privacidade impostos pela inteligência artificial geradora são muito reais. Desde o aumento da vigilância e exposição a campanhas de phishing e vishing mais eficazes do que nunca, a inteligência artificial geradora erode a privacidade em massa, indiscriminadamente, enquanto fornece aos atores mal-intencionados, sejam criminosos, patrocinados pelo Estado ou governamentais, as ferramentas de que precisam para direcionar indivíduos e grupos.

A solução mais clara para esse problema envolve os consumidores e usuários coletivamente rejeitando o hype da IA, exigindo transparência daqueles que desenvolvem ou implementam recursos de IA e regulamentação eficaz dos órgãos governamentais que supervisionam suas operações. Embora valha a pena lutar por isso, isso não deve acontecer tão cedo.

O que resta são abordagens razoáveis, mesmo que necessariamente incompletas, para mitigar os riscos de privacidade da inteligência artificial geradora. A previsão de longo prazo, segura e entediante é que, quanto mais educado o público se torna sobre a privacidade de dados em geral, menores serão os riscos de privacidade impostos pela adoção em massa da inteligência artificial geradora.

Todos Nós Entendemos o Conceito de Inteligência Artificial Geradora Corretamente?

O hype em torno da IA é tão onipresente que uma pesquisa sobre o que as pessoas significam por inteligência artificial geradora é quase desnecessária. Claro, nenhuma dessas “recursos de IA”, funcionalidades e produtos realmente representa exemplos de inteligência artificial verdadeira, seja lá o que isso signifique. Em vez disso, são principalmente exemplos de aprendizado de máquina (ML), aprendizado profundo (DL) e modelos de linguagem grandes (LLMs).

A inteligência artificial geradora, como o nome sugere, pode gerar novo conteúdo – seja texto (incluindo linguagens de programação), áudio (incluindo música e vozes humanas) ou vídeos (com som, diálogo, cortes e mudanças de câmera). Tudo isso é alcançado treinando LLMs para identificar, corresponder e reproduzir padrões em conteúdo gerado por humanos.

Vamos usar o ChatGPT como exemplo. Como muitos LLMs, ele é treinado em três fases amplas:

• Pré-treinamento: Durante essa fase, o LLM é “alimentado” com material textual da internet, livros, periódicos acadêmicos e qualquer outra coisa que contenha texto potencialmente relevante ou útil.
• Ajuste fino de instruções supervisionadas: Os modelos são treinados para responder de forma mais coerente a instruções usando pares de instrução-resposta de alta qualidade, geralmente provenientes de humanos.
• Aprendizado por reforço com feedback humano (RLHF): LLMs como o ChatGPT frequentemente passam por essa etapa de treinamento adicional, durante a qual as interações com usuários humanos são usadas para refinar o alinhamento do modelo com casos de uso típicos.

As três fases do processo de treinamento envolvem dados, seja armazenamento massivo de dados pré-coletados (como os usados no pré-treinamento) ou dados coletados e processados quase em tempo real (como os usados no RLHF). É esse dado que carrega a maior parte dos riscos de privacidade decorrentes da inteligência artificial geradora.

Quais São os Riscos de Privacidade Impostos pela Inteligência Artificial Geradora?

A privacidade é comprometida quando informações pessoais relacionadas a um indivíduo (o titular dos dados) são tornadas disponíveis a outros indivíduos ou entidades sem o consentimento do titular dos dados. Os LLMs são pré-treinados e ajustados finamente em uma ampla gama de dados que podem e frequentemente incluem dados pessoais. Esses dados são normalmente coletados de fontes publicamente disponíveis, mas nem sempre.

Mesmo quando esses dados são coletados de fontes publicamente disponíveis, ter esses dados agregados e processados por um LLM e, em seguida, essencialmente tornados pesquisáveis por meio da interface do LLM pode ser considerado uma violação adicional de privacidade.

A etapa de aprendizado por reforço com feedback humano (RLHF) complica as coisas. Nessa etapa de treinamento, interações reais com usuários humanos são usadas para corrigir e refinar iterativamente as respostas do LLM. Isso significa que as interações de um usuário com um LLM podem ser visualizadas, compartilhadas e disseminadas por qualquer pessoa com acesso aos dados de treinamento.

Na maioria dos casos, isso não é uma violação de privacidade, dado que a maioria dos desenvolvedores de LLMs inclui políticas de privacidade e termos de serviço que exigem que os usuários concordem antes de interagir com o LLM. O risco de privacidade aqui reside mais no fato de que muitos usuários não estão cientes de que concordaram com a coleta e uso de dados. Tais usuários provavelmente revelarão informações privadas e sensíveis durante suas interações com esses sistemas, sem perceber que essas interações não são confidenciais nem privadas.

Dessa forma, chegamos aos três principais modos pelos quais a inteligência artificial geradora impõe riscos de privacidade:

• Grandes armazenamentos de dados de pré-treinamento potencialmente contendo informações pessoais são vulneráveis a comprometimento e exfiltração.
• Informações pessoais incluídas em dados de pré-treinamento podem ser vazadas para outros usuários do mesmo LLM por meio de suas respostas a consultas e instruções.
• Informações pessoais e confidenciais fornecidas durante interações com LLMs acabam com os funcionários dos LLMs e possivelmente com contratados terceirizados, de onde podem ser visualizadas ou vazadas.

Esses são todos riscos para a privacidade dos usuários, mas as chances de informações de identificação pessoal (PII) acabarem nas mãos erradas ainda parecem relativamente baixas. Isso é, pelo menos, até que os corretores de dados entrem em cena. Essas empresas se especializam em detectar PII e coletar, agregar e disseminar, se não transmitir abertamente, esses dados.

Com PII e outros dados pessoais tendo se tornado uma espécie de commodity e a indústria de corretores de dados surgindo para lucrar com isso, qualquer dado pessoal que “saia” é muito provável que seja coletado por corretores de dados e disseminado amplamente.

Os Riscos de Privacidade da Inteligência Artificial Geradora no Contexto

Antes de olhar para os riscos que a inteligência artificial geradora impõe à privacidade dos usuários no contexto de produtos, serviços e parcerias corporativas específicas, vamos dar um passo atrás e olhar para a gama completa de riscos da inteligência artificial geradora de forma mais estruturada. Escrevendo para a IAPP, Moraes e Previtali adotaram uma abordagem baseada em dados para refinar a “Taxonomia de Privacidade” de Solove de 2006, reduzindo os 16 riscos de privacidade descritos lá para 12 riscos de privacidade específicos de IA.

Esses são os 12 riscos de privacidade incluídos na taxonomia revisada de Moraes e Previtali:

• Vigilância: A IA aumenta os riscos de vigilância aumentando a escala e a ubiquidade da coleta de dados pessoais.
• Identificação: As tecnologias de IA permitem o link de identidade automatizado em várias fontes de dados, aumentando os riscos relacionados à exposição de identidade pessoal.
• Agregação: A IA combina várias peças de dados sobre uma pessoa para fazer inferências, criando riscos de invasão de privacidade.
• Frenologia e fisiognomia: A IA infere personalidade ou atributos sociais a partir de características físicas, uma nova categoria de risco não presente na taxonomia de Solove.
• Uso secundário: A IA aumenta o uso de dados pessoais para fins outros que não os originalmente pretendidos por meio da reutilização de dados.
• Exclusão: A IA torna pior a falta de informação ou controle dos usuários sobre como seus dados são usados por meio de práticas de dados opacas.
• Insegurança: A IA aumenta os riscos de vazamento de dados e acesso inadequado devido às suas necessidades e práticas de armazenamento de dados.
• Exposição: A IA pode revelar informações sensíveis, como por meio de técnicas de inteligência artificial geradora.
• Distorção: A capacidade da IA de gerar conteúdo realista, mas falso, aumenta a disseminação de informações falsas ou enganosas.
• Divulgação: A IA pode causar a partilha inadequada de dados quando infere informações sensíveis adicionais a partir de dados brutos.
• Aumento da acessibilidade: A IA torna informações sensíveis mais acessíveis a uma audiência mais ampla do que a pretendida.
• Intrusão: As tecnologias de IA invadem o espaço pessoal ou a solidão, frequentemente por meio de medidas de vigilância.

Isso faz uma leitura um pouco alarmante. É importante notar que essa taxonomia, a seu crédito, leva em conta a tendência da inteligência artificial geradora a alucinar – para gerar e apresentar com confiança informações factualmente imprecisas. Esse fenômeno, embora raramente revele informações reais, também é um risco de privacidade. A disseminação de informações falsas e enganosas afeta a privacidade do sujeito de maneiras mais sutis do que no caso de informações precisas, mas afeta-a ainda assim.

Vamos mergulhar em alguns exemplos concretos de como esses riscos de privacidade se manifestam no contexto de produtos de IA reais.

Interações Diretas com Sistemas de Inteligência Artificial Geradora Baseados em Texto

O caso mais simples é aquele que envolve um usuário interagindo diretamente com um sistema de inteligência artificial geradora, como o ChatGPT, Midjourney ou Gemini. As interações do usuário com muitos desses produtos são registradas, armazenadas e usadas para RLHF (aprendizado por reforço com feedback humano), ajuste fino de instruções supervisionadas e até mesmo o pré-treinamento de outros LLMs.

Uma análise das políticas de privacidade de muitos serviços como esses também revela outras atividades de compartilhamento de dados impulsionadas por propósitos muito diferentes, como marketing e corretagem de dados. Isso é um tipo diferente de risco de privacidade imposto pela inteligência artificial geradora: esses sistemas podem ser caracterizados como grandes funis de dados, coletando dados fornecidos pelos usuários, bem como aqueles gerados por meio de suas interações com o LLM subjacente.

Interações com Sistemas de Inteligência Artificial Geradora Incorporados

Alguns usuários podem estar interagindo com interfaces de inteligência artificial geradora incorporadas em qualquer produto que estejam usando. O usuário pode saber que está usando um “recursos de IA”, mas é menos provável que saiba o que isso implica em termos de riscos de privacidade de dados. O que se destaca com sistemas incorporados é a falta de apreciação do fato de que dados pessoais compartilhados com o LLM podem acabar nas mãos de desenvolvedores e corretores de dados.

Há dois graus de falta de conscientização aqui: alguns usuários percebem que estão interagindo com um produto de inteligência artificial geradora; e alguns acreditam que estão usando o produto em que a inteligência artificial geradora está incorporada ou acessada. Em qualquer caso, o usuário pode ter (e provavelmente teve) tecnicamente consentido com os termos e condições associados às suas interações com o sistema incorporado.

Outras Parcerias que Exponem Usuários a Sistemas de Inteligência Artificial Geradora

Algumas empresas incorporam ou incluem interfaces de inteligência artificial geradora em seus softwares de maneiras menos óbvias, deixando os usuários interagindo – e compartilhando informações – com terceiros sem perceber. Felizmente, “IA” se tornou um ponto de venda tão eficaz que é improvável que uma empresa mantenha tais implementações em segredo.

Outro fenômeno nesse contexto é a crescente reação que essas empresas têm enfrentado após tentar compartilhar dados de usuários ou clientes com empresas de inteligência artificial geradora, como a OpenAI. A empresa de remoção de dados Optery, por exemplo, recentemente reverteu uma decisão de compartilhar dados de usuários com a OpenAI em uma base de opt-out, o que significa que os usuários foram inscritos no programa por padrão.

Não apenas os clientes foram rápidos em expressar sua insatisfação, mas o serviço de remoção de dados da empresa foi prontamente removido da lista de serviços de remoção de dados recomendados pela Privacy Guides. Para o crédito da Optery, ela reverteu rapidamente e de forma transparente sua decisão, mas é a reação geral que é significativa aqui: as pessoas estão começando a apreciar os riscos de compartilhar dados com empresas de “IA”.

O caso da Optery faz um bom exemplo aqui porque seus usuários estão, de certa forma, à vanguarda do ceticismo crescente em torno das implementações de IA. Os tipos de pessoas que optam por um serviço de remoção de dados também são, tipicamente, aquelas que prestarão atenção a mudanças nos termos de serviço e políticas de privacidade.

Evidências de uma Reação em Crescimento Contra o Uso de Dados de Inteligência Artificial Geradora

Os consumidores conscientes da privacidade não foram os únicos a levantar preocupações sobre sistemas de inteligência artificial geradora e os riscos de privacidade de dados associados. No nível legislativo, o Ato de Inteligência Artificial da UE categoriza os riscos de acordo com sua gravidade, com a privacidade de dados sendo o critério explícito ou implícito para atribuir gravidade na maioria dos casos. O Ato também aborda as questões de consentimento informado que discutimos anteriormente.

Os EUA, notoriamente lentos para adotar legislação de privacidade de dados abrangente e federal, têm pelo menos algumas barreiras de segurança graças à Ordem Executiva 14110. Mais uma vez, as preocupações com a privacidade de dados estão no centro dos propósitos declarados para a Ordem: “o uso irresponsável [das tecnologias de IA] poderia exacerbate danos sociais, como fraude, discriminação, viés e desinformação” – todos relacionados à disponibilidade e disseminação de dados pessoais.

Voltando ao nível do consumidor, não são apenas os consumidores particularmente conscientes da privacidade que se opuseram a implementações de IA invasivas de privacidade. A função “Recall” da Microsoft, “impulsionada por IA”, destinada ao seu sistema operacional Windows 11, é um exemplo primário. Uma vez que a extensão dos riscos de privacidade e segurança foi revelada, a reação foi suficiente para fazer com que o gigante da tecnologia recuasse. Infelizmente, a Microsoft parece não ter desistido da ideia, mas a reação inicial do público é, no entanto, encorajadora.

Permanecendo com a Microsoft, seu programa Copilot foi amplamente criticado por problemas de privacidade e segurança de dados. Como o Copilot foi treinado em dados do GitHub (principalmente código-fonte), também surgiu controvérsia em torno das supostas violações da Microsoft das acordos de licenciamento de software de programadores e desenvolvedores. São casos como esse que as linhas entre privacidade de dados e direitos de propriedade intelectual começam a se confundir, concedendo à primeira um valor monetário – algo que não é facilmente feito.

Talvez a maior indicação de que a IA está se tornando uma bandeira vermelha aos olhos dos consumidores seja a reação pública morna, se não abertamente cética, que a Apple recebeu em seu lançamento inicial de IA, especificamente em relação a acordos de compartilhamento de dados com a OpenAI.

As Soluções Parciais

Existem etapas que os legisladores, desenvolvedores e empresas podem dar para mitigar alguns dos riscos impostos pela inteligência artificial geradora. Essas são soluções especializadas para aspectos específicos do problema abrangente, nenhuma delas é suficiente por si só, mas todas elas, trabalhando juntas, poderiam fazer uma grande diferença.

• Minimização de dados. Minimizar a quantidade de dados coletados e armazenados é um objetivo razoável, mas está diretamente em oposição ao desejo dos desenvolvedores de IA por dados de treinamento.
• Transparência. Dada a situação atual da arte em ML, isso pode nem sempre ser tecnicamente viável em muitos casos. Visão geral do que os dados são processados e como ao gerar uma determinada saída é uma maneira de garantir a privacidade em interações com a inteligência artificial geradora.
• Anonimização. Qualquer informação de identificação pessoal (PII) que não possa ser excluída dos dados de treinamento (por meio da minimização de dados) deve ser anonimizada. O problema é que muitas técnicas de anonimização e pseudonimização populares são facilmente derrotadas.
• Consentimento do usuário. Exigir que os usuários concordem com a coleta e compartilhamento de seus dados é essencial, mas muito aberto a abusos e muito propenso à complacência do consumidor para ser eficaz. É o consentimento informado que é necessário aqui e a maioria dos consumidores, devidamente informados, não concordariam com o compartilhamento de dados, então os incentivos estão desalinhados.
• Proteger dados em trânsito e em repouso. Outro alicerce da privacidade e segurança de dados, proteger os dados por meio de meios criptográficos e outros pode sempre ser tornado mais eficaz. No entanto, os sistemas de inteligência artificial geradora tendem a vazar dados por meio de suas interfaces, tornando isso apenas parte da solução.
• Aplicar a lei de direitos autorais e propriedade intelectual no contexto da chamada IA. O ML pode operar em uma “caixa preta”, tornando difícil, se não impossível, rastrear que material com direitos autorais e propriedade intelectual acaba em que saída de inteligência artificial geradora.
• Auditorias. Outra medida de salvaguarda crucial frustrada pela natureza de “caixa preta” dos LLMs e dos sistemas de inteligência artificial geradora que eles suportam. Além disso, a natureza de código fechado da maioria dos produtos de inteligência artificial geradora limita as auditorias àquelas realizadas por conveniência do desenvolvedor.

Todas essas abordagens para o problema são válidas e necessárias, mas nenhuma é suficiente. Elas todas exigem apoio legislativo para entrar em efeito significativo, o que significa que estão condenadas a ficar atrás do tempo à medida que esse campo dinâmico continua a evoluir.

A Solução Clara

A solução para os riscos de privacidade impostos pela inteligência artificial geradora não é revolucionária nem emocionante, mas levada à sua conclusão lógica, seus resultados podem ser ambos. A solução clara envolve os consumidores comuns se tornando conscientes do valor de seus dados para as empresas e do valor inestimável da privacidade de dados para si mesmos.

Os consumidores são as fontes e motores por trás das informações privadas que alimentam o que é chamado de economia de vigilância moderna. Uma vez que uma massa crítica de consumidores comece a reduzir o fluxo de dados privados para a esfera pública e comece a exigir responsabilidade das empresas que lidam com dados pessoais, o sistema terá que se autocorrigir.

O aspecto encorajador da inteligência artificial geradora é que, ao contrário dos atuais modelos de publicidade e marketing, ela não precisa envolver informações pessoais em nenhum estágio. Os dados de pré-treinamento e ajuste fino não precisam incluir PII ou outros dados pessoais, e os usuários não precisam expor os mesmos durante suas interações com os sistemas de inteligência artificial geradora.

Para remover suas informações pessoais dos dados de treinamento, as pessoas podem ir diretamente à fonte e remover seus perfis dos vários corretores de dados (incluindo sites de busca de pessoas) que agregam registros públicos, trazendo-os para o mercado aberto. Serviços de remoção de dados pessoais automatizam o processo, tornando-o rápido e fácil. Claro, remover dados pessoais dessas empresas tem muitos outros benefícios e nenhum lado negativo.

As pessoas também geram dados pessoais ao interagir com software, incluindo inteligência artificial geradora. Para reduzir o fluxo desses dados, os usuários terão que ser mais conscientes de que suas interações estão sendo registradas, revisadas, analisadas e compartilhadas. Suas opções para evitar isso se resumem a restringir o que revelam a sistemas online e usar LLMs de código aberto e locais sempre que possível. As pessoas, em geral, já fazem um bom trabalho de modular o que discutem em público – apenas precisamos estender esses instintos para o domínio da inteligência artificial geradora.