Como as Três Leis da Robótica de Asimov Impactam a IA

As Três Leis da Robótica são icônicas no mundo da ficção científica e se tornaram um símbolo dentro da comunidade de IA e robótica de como é difícil projetar um sistema que seja à prova de falhas.

Para compreender totalmente a importância dessas três leis, devemos primeiro aprender sobre a mente brilhante que concebeu essas leis, o falecido autor de ficção científica Isaac Asimov. Devemos então entender como adaptar essas leis e fazê-las evoluir para proteger a humanidade.

Isaac Asimov – O Surgimento de um Gênio

Isaac Asimov nasceu na Rússia em 2 de janeiro de 1920, e imigrou para os Estados Unidos aos três anos de idade. Ele cresceu no Brooklyn, Nova York, e se formou na Universidade de Columbia em 1939. Ele foi reconhecido como um escritor talentoso e prolífico que se concentrou em ciência e ficção científica. Durante sua carreira, ele escreveu e/ou editou mais de 500 livros.

Asimov foi grandemente inspirado por alguns dos escritores mais icônicos do mundo da ficção científica. Ele começou a trabalhar no Estaleiro Naval de Filadélfia, onde conheceu dois de seus colegas de trabalho, que logo se tornariam dois dos escritores de ficção científica mais bem-sucedidos da história da ficção especulativa: L. Sprague de Camp e Robert A. Heinlein.

L. Sprague de Camp é um autor premiado que escreveu mais de 100 livros e foi uma figura importante na ficção científica nos anos 1930 e 1940. Algumas de suas obras mais populares incluem “Darkness Fall” (1939), “The Wheels of If” (1940), “A Gun for Dinosaur” (1956), “Aristotle and the Gun” (1958) e “The Glory That Was” (1960).

Robert A. Heinlein foi possivelmente o escritor de ficção científica mais popular do mundo durante o auge de sua carreira. Juntamente com Isaac Asimov e Arthur C. Clarke, ele foi considerado um dos “Três Grandes” autores de ficção científica. Algumas das obras mais populares de Robert A. Heinlein incluem “Farnham’s Freehold” (1964) e “To Sail Beyond the Sunset” (1987). A geração atual provavelmente o conhece melhor pelo filme baseado em seu romance “Starship Troopers” (1959).

Estabelecer-se ao redor desses gigantes do futurismo inspirou Isaac Asimov a lançar sua carreira de escritor prolífico. Asimov também era altamente respeitado na comunidade científica e era frequentemente convidado a dar palestras sobre ciência.

As Três Leis da Robótica

Isaac Asimov foi a primeira pessoa a usar o termo ‘Robótica’ em uma história curta chamada ‘Liar!’, publicada em 1941.

Logo após, sua história curta de 1942 “Runaround” introduziu o mundo às suas três leis da robótica. As leis são:

1. Um robô não pode causar dano a um ser humano ou, por inação, permitir que um ser humano sofra danos.

2. Um robô deve obedecer às ordens dadas por seres humanos, exceto quando essas ordens entrariam em conflito com a Primeira Lei.

3. Um robô deve proteger sua própria existência, desde que essa proteção não entre em conflito com a Primeira ou Segunda Leis.

Essas leis foram projetadas para oferecer pontos de trama interessantes, e Asimov continuou a criar uma série de 37 histórias curtas de ficção científica e seis romances que apresentavam robôs positrônicos.

Uma dessas coletâneas de histórias curtas intitulada “Eu, Robô” foi posteriormente adaptada para o cinema em 2004. O filme “Eu, Robô” estrelado por Will Smith é ambientado em um futuro distópico de 2035 e apresenta robôs públicos altamente inteligentes que operam sob as três leis da robótica. O filme, assim como as histórias, rapidamente se tornou uma parábola de como a programação pode dar errado e que programar qualquer tipo de IA avançada envolve um alto nível de risco.

O mundo agora alcançou o que antes era ficção científica, estamos agora projetando IA que é de certa forma muito mais avançada do que qualquer coisa que Isaac Asimov poderia ter imaginado, enquanto ao mesmo tempo é muito mais limitada.

As três leis da robótica são frequentemente referenciadas em discussões sobre Inteligência Artificial Geral (IAG). Vamos explorar rapidamente o que é IAG, bem como como as três leis da robótica devem evoluir para evitar problemas potenciais no futuro.

Inteligência Artificial Geral (IAG)

Atualmente, a maioria dos tipos de IA que encontramos no dia a dia é quantificada como “IA estreita”. Esse é um tipo de IA que é muito específico e estreito em sua função de utilidade. Por exemplo, um veículo autônomo pode navegar ruas, mas devido às suas limitações “estreitas”, a IA não pode facilmente realizar outras tarefas. Outro exemplo de IA estreita seria um sistema de reconhecimento de imagens que pode facilmente identificar e rotular imagens em um banco de dados, mas não poderia ser facilmente adaptado para outra tarefa.

Inteligência Artificial Geral, comumente referida como “IAG”, é uma IA que, semelhante aos humanos, pode aprender, adaptar, mudar de direção e funcionar no mundo real. É um tipo de inteligência que não é estreito em escopo, pode adaptar-se a qualquer situação e aprender a lidar com problemas do mundo real.

Deve ser dito que, embora a IA esteja avançando a um ritmo exponencial, ainda não alcançamos a IAG. Quando alcançaremos a IAG é um tópico de debate, e todos têm uma resposta diferente sobre o cronograma. Eu pessoalmente subscrevo as visões de Ray Kurzweil, inventor, futurista e autor de “A Singularidade está Próxima”, que acredita que teremos alcançado a IAG até 2029.

É esse cronograma de 2029 que é um relógio ticando, devemos aprender a codificar um tipo de livro de regras na IA, que não seja apenas semelhante às três leis, mas que seja mais avançado e capaz de evitar conflitos reais entre humanos e robôs.

Leis da Robótica do Dia a Dia

Embora as três leis da robótica tenham sido fenomenais para a literatura, elas são significativamente deficientes em sofisticação para serem seriamente programadas em um robô. Isso foi, afinal, o ponto da trama por trás das histórias curtas e dos romances. Conflitos entre as três leis, ou, no mínimo, a interpretação das três leis, causaram que os robôs entrassem em colapso, retaliaram contra humanos ou outros pontos de trama cruciais.

O principal problema com as leis atuais é a programação ética de sempre obedecer a instruções humanas e de sempre se proteger, o que pode entrar em conflito. Afinal, o robô é permitido defender-se contra um dono que o abusa?

Que tipo de mecanismo de segurança precisa ser programado? Como instruímos um robô que ele deve desligar, não importa as consequências? O que acontece se um robô estiver no processo de salvar uma dona de casa de abuso, o robô deve desligar automaticamente se instruído a fazê-lo pelo marido abusivo?

Em outras palavras, se o robô for de propriedade e controlado por um psicopata, o robô pode recusar ordens que sejam imorais? As perguntas são numerosas, e as respostas são difíceis demais para qualquer indivíduo responder. É por isso que organizações como The Future of Life Institute são tão importantes, o momento de debater esses dilemas morais é agora, antes que uma verdadeira IAG surja.