A Explicabilidade Pode Abordar o Problema de IA de Todas as Indústrias: A Falta de Transparência

Por: Migüel Jetté, VP de P&D Speech, Rev.

Em suas fases iniciais, a IA pode ter se apoiado na novidade. Era aceitável que o aprendizado de máquina aprendesse lentamente e mantivesse um processo opaco, onde o cálculo da IA era impossível para o consumidor médio penetrar. Isso está mudando. À medida que mais indústrias, como saúde, finanças e sistema de justiça criminal, começam a utilizar a IA de maneiras que podem ter um impacto real nas vidas das pessoas, mais pessoas querem saber como os algoritmos estão sendo utilizados, como os dados estão sendo coletados e quão precisas são suas capacidades. Se as empresas desejam permanecer à frente da inovação em seus mercados, elas precisam confiar em uma IA que sua audiência confie. A explicabilidade da IA é o ingrediente fundamental para aprofundar essa relação.

A explicabilidade da IA difere dos procedimentos padrão de IA porque oferece às pessoas uma maneira de entender como os algoritmos de aprendizado de máquina criam saídas. A IA explicável é um sistema que pode fornecer às pessoas resultados potenciais e limitações. É um sistema de aprendizado de máquina que pode atender ao desejo humano por justiça, responsabilidade e respeito à privacidade. A IA explicável é imperativa para que as empresas construam confiança com os consumidores.

À medida que a IA está se expandindo, os fornecedores de IA precisam entender que a caixa preta não pode. Os modelos de caixa preta são criados diretamente a partir dos dados e, muitas vezes, nem mesmo o desenvolvedor que criou o algoritmo pode identificar o que impulsionou os hábitos aprendidos pela máquina. No entanto, o consumidor consciente não quer se envolver com algo tão impenetrável que não possa ser responsabilizado. As pessoas querem saber como um algoritmo de IA chega a um resultado específico sem o mistério da entrada de dados e saída controlada, especialmente quando os erros da IA são frequentemente devidos a vieses da máquina. À medida que a IA se torna mais avançada, as pessoas querem acesso ao processo de aprendizado de máquina para entender como o algoritmo chegou a seu resultado específico. Líderes de todas as indústrias devem entender que, mais cedo ou mais tarde, as pessoas não preferirão mais esse acesso, mas o exigirão como um nível necessário de transparência.

Sistemas de SR, como assistentes de voz, tecnologia de transcrição e outros serviços que convertem a fala humana em texto, são especialmente afetados por vieses. Quando o serviço é utilizado para medidas de segurança, erros devidos a sotaques, idade ou origem de uma pessoa, podem ser erros graves, então o problema precisa ser levado a sério. O SR pode ser utilizado de forma eficaz em câmeras de corpo de polícia, por exemplo, para registrar e transcrever interações automaticamente — mantendo um registro que, se transcritado com precisão, poderia salvar vidas. A prática da explicabilidade exigirá que a IA não se baseie apenas em conjuntos de dados comprados, mas busque entender as características do áudio de entrada que possam contribuir para erros, se existirem. Qual é o perfil acústico? Há ruído no fundo? O falante é de um país não anglófono ou de uma geração que usa um vocabulário que a IA ainda não aprendeu? O aprendizado de máquina precisa ser proativo no aprendizado mais rápido e pode começar coletando dados que possam abordar essas variáveis.

A necessidade está se tornando óbvia, mas o caminho para implementar essa metodologia não terá sempre uma solução fácil. A resposta tradicional para o problema é adicionar mais dados, mas uma solução mais sofisticada será necessária, especialmente quando os conjuntos de dados comprados por muitas empresas são inerentemente tendenciosos. Isso ocorre porque historicamente foi difícil explicar uma decisão específica tomada pela IA e isso se deve à natureza da complexidade dos modelos de ponta a ponta. No entanto, agora podemos e podemos começar perguntando como as pessoas perderam a confiança na IA pela primeira vez.

Inevitavelmente, a IA cometerá erros. As empresas precisam construir modelos que estejam cientes de limitações potenciais, identificar quando e onde os problemas estão ocorrendo e criar soluções contínuas para construir modelos de IA mais fortes:

1. Quando algo dá errado, os desenvolvedores precisarão explicar o que aconteceu e desenvolver um plano imediato para melhorar o modelo e diminuir erros futuros semelhantes.
2. Para que a máquina realmente saiba se estava certa ou errada, os cientistas precisam criar um loop de feedback para que a IA possa aprender sobre suas limitações e evoluir.
3. Outra forma de o SR construir confiança enquanto a IA ainda está melhorando é criar um sistema que possa fornecer pontuações de confiança e oferecer razões pelas quais a IA está menos confiante. Por exemplo, as empresas geralmente geram pontuações de zero a 100 para refletir as imperfeições de sua própria IA e estabelecer transparência com seus clientes. No futuro, os sistemas podem fornecer explicações pós-fato para por que o áudio foi desafiador, oferecendo mais metadados sobre o áudio, como o nível de ruído percebido ou um sotaque menos compreendido.

Uma transparência adicional resultará em uma melhor supervisão humana do treinamento e desempenho da IA. Quanto mais abertos formos sobre onde precisamos melhorar, mais responsáveis somos por tomar medidas para essas melhorias. Por exemplo, um pesquisador pode querer saber por que um texto errôneo foi produzido para que possa mitigar o problema, enquanto um transcritor pode querer evidências de por que o SR mal interpretou a entrada para ajudar em sua avaliação de validade. Manter os humanos no loop pode mitigar alguns dos problemas mais óbvios que surgem quando a IA não é verificada. Isso também pode acelerar o tempo necessário para a IA detectar seus erros, melhorar e, eventualmente, corrigir a si mesma em tempo real.

A IA tem a capacidade de melhorar a vida das pessoas, mas apenas se os humanos a construírem para produzir corretamente. Precisamos responsabilizar não apenas esses sistemas, mas também as pessoas por trás da inovação. Os sistemas de IA do futuro são esperados para aderir aos princípios estabelecidos pelas pessoas e, apenas então, teremos um sistema que as pessoas confiem. É hora de estabelecer as bases e lutar por esses princípios agora, enquanto ainda é, em última análise, os humanos que servem a nós mesmos.