Pesquisadores Acreditam que a IA Pode Ser Usada para Ajudar a Proteger a Privacidade das Pessoas

Dois professores de ciência da informação publicaram recentemente um artigo em The Conversation, argumentando que a IA pode ajudar a preservar a privacidade das pessoas, corrigindo alguns dos problemas que ela criou.

Zhiyuan Chen e Aryya Gangopadhyay argumentam que algoritmos de inteligência artificial podem ser usados para defender a privacidade das pessoas, contrariando algumas das muitas preocupações de privacidade que outros usos da IA criaram. Chen e Gangopadhyay reconhecem que muitos dos produtos impulsionados por IA que usamos para conveniência não funcionariam sem acesso a grandes quantidades de dados, o que, à primeira vista, parece estar em desacordo com as tentativas de preservar a privacidade. Além disso, à medida que a IA se espalha por mais e mais indústrias e aplicações, mais dados serão coletados e armazenados em bancos de dados, tornando as violações desses bancos de dados tentadoras. No entanto, Chen e Gangopadhyay acreditam que, quando usada corretamente, a IA pode ajudar a mitigar esses problemas.

Chen e Gangopadhyay explicam em seu artigo que os riscos de privacidade associados à IA vêm de pelo menos duas fontes diferentes. A primeira fonte é o grande conjunto de dados coletados para treinar modelos de rede neural, enquanto a segunda ameaça à privacidade é o modelo em si. Os dados podem potencialmente “vazar” desses modelos, com o comportamento dos modelos revelando detalhes sobre os dados usados para treiná-los.

Redes neurais profundas são compostas por múltiplas camadas de neurônios, com cada camada conectada às camadas ao redor. Os neurônios individuais, bem como as ligações entre os neurônios, codificam diferentes partes dos dados de treinamento. O modelo pode provar ser muito bom em lembrar padrões dos dados de treinamento, mesmo que o modelo não esteja superajustado. Vestígios dos dados de treinamento existem dentro da rede e atores mal-intencionados podem ser capazes de discernir aspectos dos dados de treinamento, como a Universidade de Cornell descobriu em um de seus estudos. Os pesquisadores de Cornell descobriram que mesmo que um atacante não tenha acesso ao modelo original usado para treinar o aplicativo, o atacante ainda pode ser capaz de sondar a rede e determinar se uma pessoa específica foi incluída nos dados de treinamento, simplesmente usando modelos que foram treinados em dados altamente semelhantes.

Alguns modelos de IA estão sendo usados atualmente para proteger contra violações de dados e tentar garantir a privacidade das pessoas. Modelos de IA são frequentemente usados para detectar tentativas de hacking, reconhecendo os padrões de comportamento que os hackers usam para penetrar métodos de segurança. No entanto, os hackers frequentemente mudam seu comportamento para tentar enganar a IA que detecta padrões.

Métodos novos de treinamento e desenvolvimento de IA visam tornar os modelos e aplicações de IA menos vulneráveis a métodos de hacking e táticas de evasão de segurança. A aprendizagem adversária visa treinar modelos de IA em simulações de entradas maliciosas ou prejudiciais e, ao fazer isso, tornar o modelo mais robusto à exploração, daí o “adversário” no nome. De acordo com Chen e Gangopadhyay, sua pesquisa descobriu métodos de combate a malware projetado para roubar informações privadas das pessoas. Os dois pesquisadores explicaram que um dos métodos que encontraram para ser mais eficaz na resistência ao malware foi a introdução de incerteza no modelo. O objetivo é tornar mais difícil para atores mal-intencionados antecipar como o modelo reagirá a qualquer entrada dada.

Outros métodos de utilização da IA para proteger a privacidade incluem minimizar a exposição de dados quando o modelo é criado e treinado, bem como sondar para descobrir as vulnerabilidades da rede. Quando se trata de preservar a privacidade dos dados, o aprendizado federado pode ajudar a proteger a privacidade de dados sensíveis, pois permite que um modelo seja treinado sem que os dados de treinamento jamais deixem os dispositivos locais que contêm os dados, isolando os dados e muitos dos parâmetros do modelo de espionagem.

Ultimamente, Chen e Gangopadhyay argumentam que, embora a proliferação da IA tenha criado novas ameaças à privacidade das pessoas, a IA também pode ajudar a proteger a privacidade quando projetada com cuidado e consideração.