Pesquisadores Dizem que os Humanos Não Seriam Capazes de Controlar a IA Superinteligente

Qualquer pessoa que esteja ciente da inteligência artificial (IA) provavelmente já ouviu alguma versão sobre ela eventualmente se libertar do controle humano. Isso não é apenas um tema de filmes de ficção científica, mas sim uma possibilidade muito forte que preocupa muitos especialistas da indústria. Muitos desses especialistas, incluindo cientistas, defendem que devemos começar a nos preparar para essa possibilidade e evitá-la de todas as maneiras possíveis.

Agora, uma equipe internacional de pesquisadores pegou essa ideia e a apoiou com cálculos teóricos. A equipe, que incluiu cientistas do Centro de Humanos e Máquinas do Instituto Max Planck para Desenvolvimento Humano, usou esses cálculos para demonstrar como não seria possível controlar uma IA superinteligente.

A pesquisa foi recentemente publicada na Revista de Pesquisa de Inteligência Artificial.

Sistema de IA Superinteligente

O medo de um sistema de IA superinteligente tem a ver com o fato de que tal sistema seria muito superior aos humanos. Ele seria capaz de aprender de forma independente e também acessar todos os dados existentes e processá-los extremamente rápido.

Um evento desses poderia levar a IA superinteligente a tomar controle de todas as máquinas existentes online, e embora ela pudesse e faria coisas como curar doenças e resolver outros problemas importantes que a humanidade enfrenta, o risco de as coisas saírem do controle também é alto.

Manuel Cebrian é coautor do estudo e Líder do Grupo de Mobilização Digital do Centro de Humanos e Máquinas, Instituto Max Planck para Desenvolvimento Humano.

“Uma máquina superinteligente que controla o mundo soa como ficção científica. Mas já existem máquinas que realizam certas tarefas importantes de forma independente sem que os programadores fully entendam como elas aprenderam. A pergunta, portanto, surge se isso poderia se tornar incontrolável e perigoso para a humanidade”, diz Cebrian.

Controlando o Sistema

Existem duas principais escolas de pensamento quando se trata de controlar tal sistema. Primeiro, os humanos poderiam limitar as capacidades de uma IA superinteligente restringindo seu acesso a algumas fontes de dados, como a internet inteira. O sistema também poderia funcionar sem entrar em contato com o mundo exterior. No entanto, o problema com isso é que limitaria drasticamente o potencial da IA.

O sistema seria controlado permitindo que ele apenas perseguisse resultados que beneficiassem a humanidade, e isso poderia ser feito programando princípios éticos nele.

O estudo envolveu a equipe desenvolvendo um algoritmo teórico de contenção que impede a IA superinteligente de causar danos aos humanos em qualquer circunstância. Isso pode ser alcançado criando uma simulação do comportamento da IA e detectando qualquer comportamento que possa ser prejudicial. Apesar dessa teoria promissora, a análise atual mostra que tal algoritmo não pode ser desenvolvido.

Iyad Rahwan é Diretor do Centro de Humanos e Máquinas.

“Se você quebrar o problema em regras básicas da ciência da computação teórica, descobrirá que um algoritmo que comandaria a IA a não destruir o mundo poderia inadvertidamente interromper suas próprias operações. Se isso acontecesse, você não saberia se o algoritmo de contenção ainda está analisando a ameaça ou se parou para conter a IA prejudicial. Em essência, isso torna o algoritmo de contenção inutilizável”, diz Rahwan.

Outro problema é que os especialistas podem nem mesmo perceber quando uma máquina superinteligente atinge esse estado, principalmente devido ao fato de que ela seria mais inteligente do que os humanos.