O AI é uma Ameaça Existencial?

Quando se discute Inteligência Artificial (IA), um debate comum é se a IA é uma ameaça existencial. A resposta requer entender a tecnologia por trás do Aprendizado de Máquina (AM) e reconhecer que os humanos tendem a antropomorfizar. Vamos explorar dois tipos diferentes de IA, a Inteligência Artificial Estreita (IAE), que está disponível agora e é causa de preocupação, e a ameaça que é mais comumente associada a versões apocalípticas da IA, que é a Inteligência Artificial Geral (IAG).

Ameaças da Inteligência Artificial Estreita

Para entender o que é a IAE, basta entender que todos os aplicativos de IA atualmente disponíveis são uma forma de IAE. Esses são campos de IA que têm uma área de especialização estreita, por exemplo, veículos autônomos usam IA projetada com o único propósito de mover um veículo de um ponto A para um ponto B. Outro tipo de IAE pode ser um programa de xadrez que é otimizado para jogar xadrez, e mesmo que o programa de xadrez melhore continuamente a si mesmo usando aprendizado por reforço, o programa de xadrez nunca será capaz de operar um veículo autônomo.

Com seu foco em qualquer operação que é responsável, os sistemas de IAE são incapazes de usar aprendizado generalizado para tomar o mundo. Essa é a boa notícia; a má notícia é que, com sua dependência de um operador humano, o sistema de IA é suscetível a dados enviesados, erros humanos ou, pior ainda, um operador humano desonesto.

Vigilância por IA

Pode não haver perigo maior para a humanidade do que os humanos usando IA para invadir a privacidade e, em alguns casos, usando vigilância por IA para prevenir completamente que as pessoas se movam livremente. A China, a Rússia e outras nações aprovaram regulamentações durante a COVID-19 para permitir que monitorem e controlem o movimento de suas respectivas populações. Essas são leis que, uma vez em vigor, são difíceis de remover, especialmente em sociedades que apresentam líderes autocráticos.

Na China, câmeras são instaladas fora das casas das pessoas e, em alguns casos, dentro da casa da pessoa. Cada vez que um membro da família sai, um IA monitora o horário de chegada e partida e, se necessário, alerta as autoridades. Como se isso não fosse suficiente, com a ajuda da tecnologia de reconhecimento facial, a China é capaz de rastrear o movimento de cada pessoa sempre que ela é identificada por uma câmera. Isso oferece poder absoluto à entidade que controla o IA e absolutamente zero recurso para seus cidadãos.

Por que esse cenário é perigoso é que governos corruptos podem monitorar cuidadosamente os movimentos de jornalistas, opositores políticos ou qualquer pessoa que ouse questionar a autoridade do governo. É fácil entender como jornalistas e cidadãos seriam cautelosos em criticar governos quando todos os movimentos estão sendo monitorados.

Felizmente, muitas cidades estão lutando para prevenir que o reconhecimento facial infiltre suas cidades. Notadamente, Portland, Oregon, aprovou recentemente uma lei que bloqueia o uso desnecessário do reconhecimento facial na cidade. Embora essas mudanças nas regulamentações possam ter passado despercebidas pelo público em geral, no futuro, essas regulamentações podem ser a diferença entre cidades que oferecem algum tipo de autonomia e liberdade e cidades que se sentem oprimidas.

Armas e Drones Autônomos

Mais de 4.500 pesquisadores de IA estão pedindo uma proibição de armas autônomas e criaram o site Ban Lethal Autonomous Weapons. O grupo tem muitas organizações não governamentais notáveis como signatárias, como Human Rights Watch, Amnesty International e o Instituto Future of Life, que por si só tem um conselho científico de alto nível, incluindo Elon Musk, Nick Bostrom e Stuart Russell.

Antes de continuar, compartilharei esta citação do Instituto Future of Life, que explica melhor por que há causa para preocupação: “Em contraste com armas semi-autônomas que exigem supervisão humana para garantir que cada alvo seja validado como eticamente e legalmente legítimo, essas armas autônomas completamente autônomas selecionam e engajam alvos sem intervenção humana, representando a automação completa do dano letal.”

Atualmente, bombas inteligentes são implantadas com um alvo selecionado por um humano e a bomba usa IA para traçar um curso e pousar em seu alvo. O problema é o que acontece quando decidimos remover completamente o humano da equação?

Quando um IA escolhe o que os humanos precisam de alvo, bem como o tipo de dano colateral que é considerado aceitável, podemos ter cruzado um ponto de não retorno. É por isso que tantos pesquisadores de IA se opõem a pesquisar qualquer coisa que esteja remotamente relacionada a armas autônomas.

Há vários problemas em tentar bloquear a pesquisa de armas autônomas. O primeiro problema é que, mesmo que nações avançadas, como Canadá, EUA e a maioria da Europa, escolham concordar com a proibição, não significa que nações desonestas, como China, Coreia do Norte, Irã e Rússia, jogarão junto. O segundo e maior problema é que a pesquisa e as aplicações de IA projetadas para uso em um campo podem ser usadas em um campo completamente não relacionado.

Por exemplo, a visão computacional melhora continuamente e é importante para o desenvolvimento de veículos autônomos, medicina de precisão e outros casos de uso importantes. Também é fundamental para drones regulares ou drones que podem ser modificados para se tornar autônomos. Um uso potencial da tecnologia de drone avançada é desenvolver drones que possam monitorar e combater incêndios florestais. Isso removeria completamente os bombeiros do perigo. Para fazer isso, você precisaria construir drones que possam voar para o perigo, navegar em baixa ou zero visibilidade e ser capaz de soltar água com precisão impecável. Não é um grande salto para usar essa tecnologia idêntica em um drone autônomo projetado para alvo seletivo de humanos.

É um dilema perigoso e, no momento, ninguém fully entende as implicações de avançar ou tentar bloquear o desenvolvimento de armas autônomas. É algo que precisamos manter um olho, melhorando a proteção a denunciantes pode permitir que aqueles no campo relatem abusos.

Além do operador desonesto, o que acontece se o viés da IA se infiltrar na tecnologia de IA projetada para ser uma arma autônoma?

Viés da IA

Uma das ameaças mais subnotificadas da IA é o viés da IA. Isso é simples de entender, pois a maioria disso é involuntária. O viés da IA se infiltra quando um IA revisa dados que são alimentados por humanos, usando reconhecimento de padrões a partir dos dados que foram alimentados no IA, o IA alcança conclusões indesejadas que podem ter consequências negativas para a sociedade. Por exemplo, um IA alimentado com literatura do século passado sobre como identificar pessoal médico pode alcançar a conclusão indesejada de que mulheres são sempre enfermeiras e homens são sempre médicos.

Um cenário mais perigoso é quando o IA usado para sentenciar criminosos condenados é enviesado para dar penas mais longas para minorias. Os algoritmos de avaliação de risco criminal do IA simplesmente estudam padrões nos dados que foram alimentados no sistema. Esses dados indicam que historicamente certas minorias são mais propensas a reofender, mesmo quando isso é devido a conjuntos de dados pobres que podem ser influenciados por perfis raciais policiais. O IA enviesado reforça políticas humanas negativas. É por isso que o IA deve ser uma diretriz, nunca juiz e júri.

Retornando às armas autônomas, se tivermos um IA que é enviesado contra certos grupos étnicos, ele pode escolher alvo certos indivíduos com base em dados enviesados e pode ir tão longe quanto garantir que qualquer tipo de dano colateral afete certas demografias menos do que outras. Por exemplo, quando alvejando um terrorista, antes de atacar, ele pode esperar até que o terrorista esteja cercado por aqueles que seguem a fé muçulmana em vez de cristãos.

Felizmente, foi provado que o IA projetado com equipes diversificadas é menos propenso a viés. Isso é razão suficiente para que as empresas tentem, quando possível, contratar uma equipe diversificada e bem arredondada.

Ameaças da Inteligência Artificial Geral

Deve ser dito que, embora a IA esteja avançando a um ritmo exponencial, ainda não alcançamos a IAG. Quando alcançaremos a IAG é um debate e todos têm uma resposta diferente sobre a linha do tempo. Eu pessoalmente subscrevo as visões de Ray Kurzweil, inventor, futurista e autor de “A Singularidade está Próxima”, que acredita que teremos alcançado a IAG até 2029.

A IAG será a tecnologia mais transformacional do mundo. Dentro de semanas após a IA alcançar a inteligência humana, ela então alcançará superinteligência, que é definida como inteligência que supera a inteligência humana.

Com esse nível de inteligência, uma IAG poderia rapidamente absorver todo o conhecimento humano e usar reconhecimento de padrões para identificar biomarcadores que causam problemas de saúde e, em seguida, tratar essas condições usando ciência de dados. Ela poderia criar nanobots que entram no sistema circulatório para alvo de células cancerígenas ou outros vetores de ataque. A lista de realizações que uma IAG é capaz de fazer é infinita. Já exploramos alguns dos benefícios da IAG.

O problema é que os humanos podem não ser mais capazes de controlar a IA. Elon Musk descreve assim: ”Com a inteligência artificial, estamos convocando o demônio”. Será que seremos capazes de controlar esse demônio é a pergunta?

Alcançar a IAG pode ser simplesmente impossível até que uma IA deixe um ambiente de simulação para interagir verdadeiramente em nosso mundo de fim aberto. A autoconsciência não pode ser projetada; em vez disso, acredita-se que uma consciência emergente é provável que evolua quando uma IA tem um corpo robótico com múltiplos fluxos de entrada. Esses fluxos de entrada podem incluir estimulação tátil, reconhecimento de voz com compreensão de linguagem natural aprimorada e visão computacional aprimorada.

O IA avançado pode ser programado com motivos altruístas e querer salvar o planeta. Infelizmente, o IA pode usar ciência de dados ou mesmo uma árvore de decisão para chegar a uma lógica falha indesejada, como avaliar que é necessário esterilizar humanos ou eliminar parte da população humana para controlar a superpopulação humana.

Pensamento cuidadoso e deliberação precisam ser explorados quando se constrói um IA com inteligência que superará a inteligência humana. Muitos cenários de pesadelo foram explorados.

Professor Nick Bostrom no argumento do Maximizador de Clipe de Papel argumentou que um IAG mal configurado, se instruído a produzir clipes de papel, simplesmente consumiria todos os recursos da Terra para produzir esses clipes de papel. Embora isso pareça um pouco longe, um ponto de vista mais pragmático é que um IAG poderia ser controlado por um estado desonesto ou uma corporação com ética pobre. Essa entidade poderia treinar o IAG para maximizar lucros e, com programação pobre e zero remorso, poderia escolher falir concorrentes, destruir cadeias de suprimentos, hackear o mercado de ações, liquidar contas bancárias ou atacar opositores políticos.

É quando precisamos lembrar que os humanos tendem a antropomorfizar. Não podemos dar ao IA emoções, desejos ou desejos humanos. Embora haja humanos diabólicos que matam por prazer, não há razão para acreditar que um IA seria suscetível a esse tipo de comportamento. É inconcebível para humanos considerar como um IA veria o mundo.

Em vez disso, o que precisamos fazer é ensinar o IA a sempre ser deferente a um humano. O IA sempre deve ter um humano confirmar qualquer alteração nas configurações e sempre deve haver um mecanismo de segurança. Mais uma vez, foi argumentado que o IA simplesmente se replicará na nuvem e, no momento em que percebermos que é autoconsciente, pode ser tarde demais.

É por isso que é tão importante abrir o código-fonte de tanto IA quanto possível e ter discussões racionais sobre essas questões.

Resumo

Há muitos desafios para a IA, felizmente, ainda temos muitos anos para coletivamente descobrir o caminho futuro que queremos que a IAG tome. Devemos, no curto prazo, nos concentrar em criar uma força de trabalho de IA diversificada, que inclua tantas mulheres quanto homens e tantos grupos étnicos com pontos de vista diversificados quanto possível.

Devemos também criar proteções para denunciantes que trabalham na IA e devemos aprovar leis e regulamentações que previnam o abuso generalizado da vigilância estatal ou empresarial. Os humanos têm uma oportunidade única na vida para melhorar a condição humana com a ajuda da IA; precisamos apenas garantir que criemos cuidadosamente um quadro social que permita os aspectos positivos, ao mesmo tempo em que mitigamos os negativos, que incluem ameaças existenciais.