Quando o ‘Conhecimento’ do AI tem 50 Anos: O Risco de Conformidade que Você Não Pode Ignorar

A questão das falsas percepções do AI é um desafio urgente à medida que as empresas aumentam o uso de ferramentas geradoras. Apesar do entusiasmo generalizado sobre a adoção do AI, também há uma forte corrente de críticas. Comentadores críticos frequentemente apontam para inexactidões aparentemente aleatórias e imprevisíveis na saída do AI, que minam seu valor – e podem até causar danos reais aos humanos, particularmente em setores como saúde e transporte, onde saídas falsas poderiam teoricamente levar a tudo, desde a prescrição errada a trens em rota de colisão.

Muitas vezes, essas inexactidões são atribuídas a “alucinações” do AI – instâncias em que o AI gera uma resposta de “melhor palpite”, transmitida com a mesma confiança que uma resposta “genuína”, em vez de informar o usuário sobre uma lacuna em seu conhecimento ou capacidade. As alucinações podem ser difíceis de detectar à primeira vista – mas há um problema mais silencioso e igualmente grave que é ainda mais difícil de detectar.

Dívida de Qualidade de Dados: O Calcanhar de Aquiles do AI

Quando os sistemas de AI extraem dados desatualizados, incompletos ou imprecisos, ocorrem saídas falsas, mas são menos imediatamente discerníveis. Por exemplo, você pode pedir a um AI que identifique os sintomas de uma condição médica e receber uma resposta baseada em um artigo de 50 anos atrás em vez de pesquisas atuais. O resultado é improvável que pareça obviamente, risivelmente errado – mas essa aparência inicial de plausibilidade representa um risco real tanto para o paciente em questão quanto para o provedor de saúde.

O mesmo é verdadeiro em todas as indústrias – se os dados que são alimentados no modelo de AI incluem informações antigas, desatualizadas ou parciais, há um alto risco de saídas falsas. E à medida que mais empresas integram o AI em processos críticos de negócios, o risco de tirar conclusões falsas a partir de dados mal gerenciados cresce.

Precisão para o Regulador

Isso não é apenas um problema para operações diárias – é também um desafio de conformidade significativo. Os requisitos regulamentares estão evoluindo rapidamente para abordar preocupações sobre a precisão do AI. Por exemplo, várias ações regulamentares iniciais sobre o AI ocorreram; notadamente quando a Itália baniram temporariamente o ChatGPT por preocupações com a privacidade, e o Conselho de Proteção de Dados da UE lançou uma força-tarefa dedicada para coordenar potenciais ações de aplicação contra o ChatGPT.

Uma das mudanças regulamentares mais reveladoras foi a aprovação do Ato de IA da UE, o primeiro quadro jurídico abrangente para o AI. O Ato estabelece obrigações com base no nível de risco dos sistemas de AI, desde sistemas de “risco inaceitável”, que são proibidos, até sistemas de “alto risco”, que enfrentam requisitos estritos em torno de transparência, qualidade de dados, governança e supervisão humana.

A importância do Ato de IA da UE não reside em seu escopo ambicioso, mas importante no precedente que estabelece. Os reguladores estão deixando claro que o AI estará sujeito a regras vinculantes e que as organizações devem tratar a conformidade e a transparência sobre onde e como o AI é usado como integral à adoção do AI, e não como um afterthought.

O Ato tem um amplo escopo, com o potencial de impactar uma grande proporção de desenvolvimentos de AI. Em seu cerne, visa tornar o AI seguro, respeitando direitos e valores fundamentais. Dentro desse novo ecossistema baseado em princípios, vem o diagnóstico de fontes potenciais para inexactidões do AI, incluindo os dados e conjuntos de dados que alimentam os modelos, opacidade e acesso do modelo, e design e uso do sistema. As soluções de AI são uma construção de todos os três – problemas com qualquer um deles podem ter um resultado negativo. Além disso, os dados que entram no design, desenvolvimento, implantação e operação do AI provavelmente serão compostos principalmente por registros de negócios, que por si só estão sujeitos a vários requisitos de conformidade.

Em outras palavras, o ambiente regulamentar em torno do AI está se tornando cada vez mais rigoroso – e isso é tão verdadeiro para a entrada de dados quanto para a saída de dados, embora a última receba mais manchetes.

Cinco Etapas para Alimentar o AI com Dados Conformes, Atuais e Relevantes

Para resolver esse desafio duplo – garantir tanto a manipulação de dados conforme quanto a entrada de alta qualidade que permite saídas de alta qualidade – as empresas precisam ter controle sobre os dados de treinamento e inferência. Infelizmente, isso é algo que muitas empresas ainda carecem.

No mínimo, as organizações devem aplicar seus programas mais amplos de conformidade e governança às iniciativas de AI. Elas precisam começar a capturar e manter registros apropriados sobre os dados que alimentam os modelos de AI, como os modelos e sistemas são projetados, bem como as decisões e conteúdo gerados via AI.

No entanto, também está se tornando criticamente importante para as organizações irem um passo além disso e garantirem que tenham controle total sobre todos os dados que possam ser usados em implantações de AI, seja para treinamento inicial ou “trabalho ao vivo”. Isso requer uma estratégia de gerenciamento e armazenamento de dados de alta qualidade, garantindo que todos os dados relevantes sejam inteligentemente coletados, limpos, armazenados, classificados e autorizados. Para alcançar isso, as organizações precisam considerar quatro etapas principais:

1. Linhagem e Proveniência de Dados

Isso inclui manter um registro da fonte dos dados, sua origem, propriedade e quaisquer alterações nos metadados (se permitidas) ao longo de seu ciclo de vida. Isso também significa manter metadados ricos e todos os documentos ou artefatos subjacentes de que são derivados.

2. Autenticidade de Dados

Isso exige manter uma cadeia clara de custódia para todos os dados, armazenar objetos em suas formas nativas e hash objetos recebidos para demonstrar que os dados permanecem inalterados. Além disso, as organizações devem manter um histórico de auditoria completo para cada objeto e para todas as ações e eventos com respeito a quaisquer alterações.

3. Classificação de Dados

Estabelecer a natureza de um conjunto ou tipo de dados é importante. As organizações precisam ser capazes de governar dados estruturados, semi-estruturados e conjuntos estruturados de dados. Dar a cada classe um esquema único pode permitir que as organizações gerenciem conjuntos diversificados de dados sem uma ontologia fixa de um tamanho único – evitando que os dados sejam desnecessariamente manipulados para forçá-los em uma estrutura de dados inflexível.

4. Normalização de Dados

Estabelecer definições e formatos comuns de metadados é importante para uso em soluções de análise e AI. Esquemas claramente definidos são um elemento importante, juntamente com ferramentas que possam transformar ou mapear dados para manter visões consistentes e normalizadas de dados relacionados.

5. Autorizações de Dados

As empresas precisam de controles de autorização granulares, incluindo no nível de objeto ou campo, com base em perfis de usuário ou sistema. Isso significa que os dados certos estão disponíveis para usuários e sistemas que têm permissão para acessá-los, enquanto restringem ou limitam o acesso àqueles que não têm.

Com esses elementos cruciais no lugar, as empresas estarão melhor posicionadas para garantir que os dados fornecidos aos modelos de AI sejam tanto de alta qualidade quanto conformes. O AI impulsionará melhorias e eficiências em várias indústrias – mas para que isso aconteça, uma base de dados sólida é essencial.