5 Pilares Fundamentais para Garantir a Responsabilidade da IA

Estamos presenciando um crescimento avassalador nos sistemas de IA/ML para processar oceanos de dados que estão sendo gerados na nova economia digital. No entanto, com esse crescimento, há uma necessidade de considerar seriamente as implicações éticas e legais da IA.

À medida que confiamos tarefas cada vez mais sofisticadas e importantes aos sistemas de IA, como a aprovação automática de empréstimos, por exemplo, devemos ter certeza absoluta de que esses sistemas sejam responsáveis e confiáveis. Reduzir os vieses na IA se tornou uma área de foco maciço para muitos pesquisadores e tem implicações éticas enormes, assim como a quantidade de autonomia que damos a esses sistemas.

O conceito de IA Responsável é um quadro importante que pode ajudar a construir confiança nos seus deploys de IA. Existem cinco pilares fundamentais para a IA Responsável. Este artigo explorará esses pilares para ajudá-lo a construir sistemas melhores.

1. Reprodutibilidade

Há um ditado antigo no mundo do desenvolvimento de software que diz: “hey, funciona no meu computador” Em ML e IA, a frase poderia ser adaptada para: “hey, funciona no meu conjunto de dados.” Isso significa que os modelos de aprendizado de máquina podem frequentemente tender a ser uma caixa preta. Muitos conjuntos de dados de treinamento podem ter vieses inerentes, como viés de amostragem ou viés de confirmação, que reduzem a precisão do produto final.

Para ajudar a tornar os sistemas de IA/ML mais reprodutíveis e, portanto, precisos e confiáveis, o primeiro passo é padronizar o pipeline de MLOps. Mesmo os cientistas de dados mais inteligentes têm suas tecnologias e bibliotecas favoritas, o que significa que a engenharia de recursos e os modelos resultantes não são uniformes de pessoa para pessoa. Ao usar ferramentas como MLflow, você pode padronizar o pipeline de MLOps e reduzir essas diferenças.

Outra forma de ajudar a tornar os sistemas de IA/ML mais reprodutíveis é por meio do uso do que se chamam de “conjuntos de dados de ouro”. Esses são conjuntos de dados representativos que atuam essencialmente como testes e validação de novos modelos antes que sejam liberados para produção.

2. Transparência

Como mencionado anteriormente, muitos modelos de ML, particularmente redes neurais, são caixas pretas. Para torná-los mais responsáveis, precisamos torná-los mais interpretáveis. Para sistemas simples, como árvores de decisão, é bastante fácil entender como e por que o sistema tomou uma certa decisão, mas, à medida que a precisão e a complexidade de um sistema de IA aumentam, sua interpretabilidade frequentemente diminui.

Há uma nova área de pesquisa chamada “explicabilidade” que está tentando trazer transparência mesmo para os sistemas de IA complexos, como redes neurais e aprendizado profundo. Esses usam modelos proxy para copiar o desempenho de uma rede neural, mas também tentam fornecer explicações válidas sobre quais recursos são importantes.

Isso tudo leva à justiça; você quer saber por que uma certa decisão foi tomada e garantir que essa decisão seja justa. Você também quer garantir que recursos inadequados não sejam considerados para que o viés não se infiltre em seu modelo.

3. Responsabilidade

Talvez o aspecto mais importante da IA Responsável seja a responsabilidade. Há muita conversa sobre esse tópico, mesmo no setor governamental, pois lida com quais políticas impulsionarão os resultados da IA. Essa abordagem baseada em políticas determina em que estágio os humanos devem estar no loop.

A responsabilidade exige monitores e métricas robustos para ajudar a orientar os formuladores de políticas e controlar os sistemas de IA/ML. A responsabilidade realmente une a reprodutibilidade e a transparência, mas precisa de supervisão eficaz na forma de comitês de ética de IA. Esses comitês podem lidar com decisões de política, decidir o que é importante medir e realizar revisões de justiça.

4. Segurança

A segurança da IA se concentra na confidencialidade e integridade dos dados. Quando os sistemas estão processando dados, você quer que eles estejam em um ambiente seguro. Você quer que os dados sejam criptografados enquanto estão em repouso em seu banco de dados e também enquanto estão sendo chamados sobre o pipeline, mas vulnerabilidades ainda existem enquanto estão sendo alimentados em um modelo de aprendizado de máquina como texto simples. Tecnologias como criptografia homomórfica resolvem esse problema, permitindo que o treinamento de aprendizado de máquina ocorra em um ambiente criptografado.

Outro aspecto é a segurança do modelo em si. Por exemplo, ataques de inversão de modelo permitem que hackers aprendam os dados de treinamento usados para construir o modelo. Também existem ataques de envenenamento de modelo, que inserem dados ruins no modelo enquanto ele está treinando e danificam completamente seu desempenho. Testar seu modelo para ataques adversários, como esses, pode mantê-lo seguro e seguro.

5. Privacidade

O Google e a OpenMined são duas organizações que recentemente têm priorizado a privacidade da IA, e a OpenMined sediou uma conferência recente sobre esse tema. Com novas regulamentações, como o GDPR e o CCPA, e possivelmente mais regulamentações a caminho, a privacidade desempenhará um papel central em como treinamos os modelos de aprendizado de máquina.

Uma forma de garantir que você está lidando com os dados dos clientes de forma consciente em termos de privacidade é usar o aprendizado federado. Esse método descentralizado de aprendizado de máquina treina diferentes modelos localmente e, em seguida, agrega cada modelo em um hub central, mantendo os dados seguros, seguros e privados. Outro método é introduzir ruído estatístico para que os valores individuais dos clientes não sejam vazados. Isso mantém você trabalhando com o agregado, de modo que os dados individuais de um cliente sejam intactos e não estejam disponíveis para o algoritmo.

Mantendo a IA Responsável

 Em última análise, manter a IA responsável é responsabilidade de cada organização que projeta sistemas de IA/ML. Ao perseguir intencionalmente tecnologias dentro de cada um desses cinco aspectos da IA Responsável, você pode não apenas se beneficiar do poder da inteligência artificial, mas também fazer isso de uma maneira confiável e direta que tranquilizará sua organização, clientes e reguladores.