Preocupações sobre os Riscos Potenciais do ChatGPT Estão Ganhar Momentum, mas uma Pausa na IA é uma Boa Maneira?

Enquanto Elon Musk e outros líderes globais de tecnologia pediram uma pausa na IA após o lançamento do ChatGPT, alguns críticos acreditam que uma paralisação no desenvolvimento não é a resposta. O evangelista da IA Andrew Pery, da empresa de automação inteligente ABBYY, acredita que fazer uma pausa é como tentar colocar a pasta de dentes de volta no tubo. Aqui, ele nos explica por quê…

As aplicações de IA são onipresentes, afetando virtualmente todos os aspectos de nossas vidas. Embora seja louvável, colocar os freios agora pode ser implausível.

Existem certamente preocupações palpáveis que pedem um aumento da supervisão regulatória para conter seus impactos potencialmente prejudiciais.

Há pouco tempo, a Autoridade de Proteção de Dados Italiana bloqueou temporariamente o uso do ChatGPT em todo o país devido a preocupações de privacidade relacionadas à maneira de coletar e processar dados pessoais usados para treinar o modelo, bem como a falta aparente de salvaguardas, exposto crianças a respostas “absolutamente inapropriadas para sua idade e consciência”.

A Organização Europeia de Consumidores (BEUC) está pedindo à UE que investigue os impactos potencialmente prejudiciais de modelos de linguagem de grande escala, dado que “as preocupações estão crescendo sobre como o ChatGPT e chatbots semelhantes podem enganar e manipular as pessoas. Esses sistemas de IA precisam de uma maior supervisão pública, e as autoridades públicas devem reafirmar o controle sobre eles”.

Nos EUA, o Centro de Política de IA e Digital apresentou uma reclamação à Comissão Federal de Comércio alegando que o ChatGPT viola a seção 5 da Lei da Comissão Federal de Comércio (FTC) (15 USC 45). A base da reclamação é que o ChatGPT supostamente não atende às orientações estabelecidas pela FTC para transparência e explicabilidade de sistemas de IA. Referência foi feita às declarações do ChatGPT sobre vários riscos conhecidos, incluindo a violação de direitos de privacidade, geração de conteúdo prejudicial e propagação de desinformação.

A utilidade de modelos de linguagem de grande escala, como o ChatGPT, não obstante a pesquisa aponte seu lado negro. Foi provado que produz respostas incorretas, pois o modelo subjacente do ChatGPT é baseado em algoritmos de aprendizado profundo que utilizam grandes conjuntos de dados de treinamento da internet. Diferentemente de outros chatbots, o ChatGPT usa modelos de linguagem baseados em técnicas de aprendizado profundo que geram texto semelhante a conversas humanas, e a plataforma “chega a uma resposta fazendo uma série de palpites, o que é parte do motivo pelo qual pode argumentar respostas erradas como se fossem completamente verdadeiras”.

Além disso, o ChatGPT é provado que accentua e amplifica vieses, resultando em “respostas que discriminam gênero, raça e grupos minoritários, algo que a empresa está tentando mitigar”. O ChatGPT também pode ser um tesouro para atores nefastos explorarem usuários inexperientes, comprometendo sua privacidade e expondo-os a ataques de golpe.

Essas preocupações levaram o Parlamento Europeu a publicar um comentário que reforça a necessidade de fortalecer ainda mais as disposições atuais do projeto de Lei de IA da UE, que ainda está pendente de ratificação. O comentário aponta que o projeto de regulamento atual se concentra em aplicações de IA de propósito estreito, consistindo em categorias específicas de sistemas de IA de alto risco, como recrutamento, crédito, emprego, aplicação da lei e elegibilidade para serviços sociais. No entanto, o projeto de regulamento da UE não cobre a IA de propósito geral, como modelos de linguagem de grande escala que fornecem capacidades cognitivas avançadas e que podem “realizar uma ampla gama de tarefas inteligentes”. Há pedidos para estender o escopo do projeto de regulamento para incluir uma categoria separada de alto risco de sistemas de IA de propósito geral, exigindo que os desenvolvedores realizem testes de conformidade rigorosos antes de colocar esses sistemas no mercado e monitorem continuamente seu desempenho para resultados potencialmente prejudiciais inesperados.

Uma pesquisa particularmente útil chama a atenção para essa lacuna que o regulamento da IA da UE é “primariamente focado em modelos de IA convencionais, e não na nova geração cujo nascimento estamos testemunhando hoje”.

Recomenda quatro estratégias que os reguladores devem considerar.

1. Exigir que os desenvolvedores de tais sistemas relatem regularmente sobre a eficácia de seus processos de gestão de riscos para mitigar resultados prejudiciais.
2. As empresas que usam modelos de linguagem de grande escala devem ser obrigadas a divulgar aos seus clientes que o conteúdo foi gerado por IA.
3. Os desenvolvedores devem se inscrever em um processo formal de lançamentos em estágios, como parte de um quadro de gestão de riscos, projetado para salvaguardar contra resultados potencialmente prejudiciais inesperados.
4. Colocar o ônus nos desenvolvedores para “mitigar o risco em suas raízes” tendo que “auditar proativamente o conjunto de dados de treinamento para misrepresentações”.

Um fator que perpetua os riscos associados a tecnologias disruptivas é a corrida por inovadores para alcançar a vantagem do primeiro movimento, adotando um modelo de negócios “lançar primeiro e consertar depois”. Embora a OpenAI seja um pouco transparente sobre os riscos potenciais do ChatGPT, eles o lançaram para uso comercial amplo com um “compre com cautela” sobre os usuários para avaliar e assumir os riscos por si mesmos. Isso pode ser uma abordagem insustentável, considerando o impacto onipresente de sistemas de IA conversacional. Regulação proativa, combinada com medidas de aplicação robustas, deve ser fundamental ao lidar com essa tecnologia disruptiva.

A inteligência artificial já permeia quase todas as partes de nossas vidas, o que significa que uma pausa no desenvolvimento de IA poderia implicar uma multitude de obstáculos e consequências inesperados. Em vez de frear subitamente, os jogadores da indústria e da legislação devem colaborar de boa fé para criar regulamentações eficazes enraizadas em valores humanos, como transparência, responsabilidade e justiça. Referenciando legislações existentes, como a AIA, líderes nos setores privado e público podem projetar políticas globais padronizadas e abrangentes que prevenirão usos nefastos e mitigarão resultados adversos, mantendo a inteligência artificial dentro dos limites de melhorar as experiências humanas.