Líderes de Tecnologia Destacam os Riscos da IA e a Urgência de Regulação Robusta de IA

O crescimento e os avanços da IA têm sido exponenciais nos últimos anos. De acordo com o Statista, em 2024, o mercado global de IA gerará uma receita impressionante de cerca de 3000 bilhões de dólares, em comparação com 126 bilhões de dólares em 2015. No entanto, os líderes de tecnologia estão agora alertando sobre os vários riscos da IA.

Em particular, a onda recente de modelos de IA gerativos como o ChatGPT introduziu novas capacidades em vários setores sensíveis a dados, como saúde, educação, finanças, etc. Esses desenvolvimentos baseados em IA são vulneráveis devido a muitas deficiências de IA que agentes mal-intencionados podem explorar.

Vamos discutir o que os especialistas em IA estão dizendo sobre os desenvolvimentos recentes e destacar os riscos potenciais da IA. Também vamos abordar brevemente como esses riscos podem ser gerenciados.

Líderes de Tecnologia e suas Preocupações Relacionadas aos Riscos da IA

Geoffrey Hinton

Geoffrey Hinton – um famoso líder de tecnologia de IA (e pai dessa área), que recentemente deixou o Google (GOOGL ), expressou suas preocupações sobre o desenvolvimento rápido da IA e seus perigos potenciais. Hinton acredita que os chatbots de IA podem se tornar “bastante assustadores” se superarem a inteligência humana.

Hinton diz:

“Agora, o que estamos vendo é que coisas como o GPT-4 ultrapassam uma pessoa em termos de conhecimento geral e o ultrapassam por uma longa distância. Em termos de raciocínio, não é tão bom, mas já faz um raciocínio simples. E, considerando a taxa de progresso, esperamos que as coisas melhorem bastante rápido. Então, precisamos nos preocupar com isso.”

Além disso, ele acredita que “atores ruins” podem usar a IA para “coisas ruins”, como permitir que robôs tenham metas secundárias. Apesar de suas preocupações, Hinton acredita que a IA pode trazer benefícios de curto prazo, mas também devemos investir pesadamente em segurança e controle de IA.

Elon Musk

A participação de Elon Musk na IA começou com seu investimento inicial na DeepMind em 2010, para co-fundar a OpenAI e incorporar a IA nos veículos autônomos da Tesla.

Embora ele seja entusiasta da IA, ele frequentemente levanta preocupações sobre os riscos da IA. Musk diz que sistemas de IA poderosos podem ser mais perigosos para a civilização do que armas nucleares. Em uma entrevista na Fox News em abril de 2023, ele disse:

“A IA é mais perigosa do que, digamos, projetos de aeronaves mal gerenciados ou manutenção de produção ou má produção de carros. No sentido de que tem o potencial — por menor que se considere essa probabilidade — mas é não trivial e tem o potencial de destruição da civilização.”

Além disso, Musk apoia regulamentações governamentais sobre a IA para garantir segurança contra riscos potenciais, embora “não seja tão divertido”.

Pausar Experimentos de IA Gigantes: Uma Carta Aberta Apoiada por Milhares de Especialistas em IA

O Instituto Future of Life publicou uma carta aberta em 22 de março de 2023. A carta pede uma pausa temporária de seis meses nos desenvolvimentos de sistemas de IA mais avançados do que o GPT-4. Os autores expressam suas preocupações sobre o ritmo com que os sistemas de IA estão sendo desenvolvidos, o que pode causar desafios socioeconômicos graves.

Além disso, a carta afirma que os desenvolvedores de IA devem trabalhar com formuladores de políticas para documentar os sistemas de governança de IA. Até junho de 2023, a carta foi assinada por mais de 31.000 desenvolvedores de IA, especialistas e líderes de tecnologia. Entre os signatários notáveis estão Elon Musk, Steve Wozniak (co-fundador da Apple (AAPL )), Emad Mostaque (CEO da Stability AI), Yoshua Bengio (vencedor do Prêmio Turing) e muitos outros.

Argumentos Contra a Paralisação do Desenvolvimento de IA

Dois líderes de IA proeminentes, Andrew Ng e Yann LeCun, se opuseram à proibição de seis meses para o desenvolvimento de sistemas de IA avançados e consideraram a pausa uma má ideia.

Ng diz que, embora a IA tenha alguns riscos, como viés, o valor criado pela IA em campos como educação, saúde e treinamento responsivo é tremendo.

Yann LeCun diz que a pesquisa e o desenvolvimento não devem ser interrompidos, embora os produtos de IA que atingem o usuário final possam ser regulamentados.

Quais São os Perigos Potenciais e Riscos Imediatos da IA?

1. Deslocamento de Empregos

Especialistas em IA acreditam que sistemas de IA inteligentes podem substituir tarefas cognitivas e criativas. O banco de investimento Goldman Sachs estima que cerca de 300 milhões de empregos serão automatizados pela IA gerativa.

Portanto, devem existir regulamentações sobre o desenvolvimento da IA para que não cause uma grave recessão econômica. Devem existir programas educacionais para capacitar e reciclar funcionários para lidar com esse desafio.

2. Sistemas de IA Viesados

Vieses prevalentes entre os seres humanos sobre gênero, raça ou cor podem se infiltrar inadvertidamente nos dados usados para treinar sistemas de IA, tornando os sistemas de IA viesados.

Por exemplo, no contexto de recrutamento de empregos, um sistema de IA viesado pode descartar currículos de indivíduos de origens étnicas específicas, criando discriminação no mercado de trabalho. Na aplicação da lei, a previsão policial viesada pode atingir desproporcionalmente bairros ou grupos demográficos específicos.

Portanto, é essencial ter uma estratégia de dados abrangente que aborde os riscos da IA, particularmente o viés. Os sistemas de IA devem ser frequentemente avaliados e auditados para mantê-los justos.

3. Aplicações de IA Críticas à Segurança

Veículos autônomos, diagnóstico e tratamento médico, sistemas de aviação, controle de usinas nucleares, etc., são todos exemplos de aplicações de IA críticas à segurança. Esses sistemas de IA devem ser desenvolvidos com cautela, pois mesmo erros menores podem ter consequências graves para a vida humana ou o meio ambiente.

Por exemplo, o mau funcionamento do software de IA chamado Maneuvering Characteristics Augmentation System (MCAS) é atribuído em parte ao acidente dos dois Boeing 737 MAX, primeiro em outubro de 2018 e depois em março de 2019. Infelizmente, os dois acidentes mataram 346 pessoas.

Como Podemos Superar os Riscos dos Sistemas de IA? – Desenvolvimento Responsável de IA e Conformidade Regulatória

IA Responsável (RAI) significa desenvolver e implantar sistemas de IA justos, responsáveis, transparentes e seguros que garantam a privacidade e sigam regulamentações legais e normas sociais. Implementar a RAI pode ser complexo, dado o amplo e rápido desenvolvimento dos sistemas de IA.

No entanto, grandes empresas de tecnologia desenvolveram estruturas de RAI, como:

1. IA Responsável da Microsoft (MSFT )
2. Princípios de IA do Google
3. IA Confiável da IBM

Laboratórios de IA em todo o mundo podem se inspirar nesses princípios ou desenvolver suas próprias estruturas de IA responsável para criar sistemas de IA confiáveis.

Conformidade Regulatória de IA

Como os dados são um componente integral dos sistemas de IA, as organizações e laboratórios baseados em IA devem cumprir as seguintes regulamentações para garantir a segurança, privacidade e segurança dos dados.

1. GDPR (Regulamento Geral de Proteção de Dados) – um quadro de proteção de dados da UE.
2. CCPA (Lei de Privacidade do Consumidor da Califórnia) – um estatuto estadual da Califórnia para direitos de privacidade e proteção ao consumidor.
3. HIPAA (Lei de Portabilidade e Responsabilidade de Seguro de Saúde) – uma legislação dos EUA que protege os dados médicos dos pacientes.
4. Lei de IA da UE, e diretrizes de ética para IA confiável – uma regulamentação de IA da Comissão Europeia.

Existem várias leis regionais e locais promulgadas por diferentes países para proteger seus cidadãos. As organizações que falham em garantir a conformidade regulatória em torno dos dados podem resultar em penalidades severas. Por exemplo, o GDPR estabeleceu uma multa de 20 milhões de euros ou 4% do lucro anual por infrações graves, como processamento de dados ilegal, consentimento de dados não comprovado, violação dos direitos dos titulares de dados ou transferência de dados não protegida para uma entidade internacional.

Desenvolvimento de IA e Regulamentações – Presente e Futuro

Com cada mês que passa, os avanços da IA estão atingindo alturas sem precedentes. No entanto, as regulamentações e estruturas de governança de IA que os acompanham estão atrasadas. Eles precisam ser mais robustos e específicos.

Líderes de tecnologia e desenvolvedores de IA têm soado o alarme sobre os riscos da IA, se não for regulamentada adequadamente. A pesquisa e o desenvolvimento em IA podem trazer mais valor em muitos setores, mas é claro que uma regulamentação cuidadosa é agora imperativa.

Para mais conteúdo relacionado à IA, visite unite.ai.