Como as Três Leis de Robótica de Asimov Impactam a IA

As Três Leis de Robótica são icônicas no mundo da ficção científica e se tornaram um símbolo dentro da comunidade de IA e robótica de como é difícil projetar um sistema que seja infalível.

Para compreender completamente a importância dessas três leis, devemos primeiro aprender sobre a mente brilhante que as concebeu, o falecido autor de ficção científica Isaac Asimov. Devemos então entender como adaptar essas leis e fazê-las evoluir para proteger a humanidade.

Isaac Asimov – O Surgimento de um Gênio

Isaac Asimov nasceu na Rússia em 2 de janeiro de 1920 e imigrou para os Estados Unidos aos três anos de idade. Ele cresceu no Brooklyn, Nova York, e se formou na Universidade de Columbia em 1939. Ele foi reconhecido como um escritor talentoso e prolífico que se concentrou em ciência e ficção científica. Durante sua carreira, ele escreveu e/ou editou mais de 500 livros.

Asimov foi grandemente inspirado por alguns dos escritores mais icônicos do mundo da ficção científica. Ele começou a trabalhar no Estaleiro Naval de Filadélfia, onde conheceu dois de seus colegas de trabalho, que logo se tornariam dois dos escritores de ficção científica mais bem-sucedidos da história da ficção especulativa: L. Sprague de Camp e Robert A. Heinlein.

L. Sprague de Camp é um autor premiado que escreveu mais de 100 livros e foi uma figura importante na ficção científica nos anos 1930 e 1940. Alguns de seus trabalhos mais populares incluem “Darkness Fall” (1939), “The Wheels of If” (1940), “A Gun for Dinosaur” (1956), “Aristotle and the Gun” (1958) e “The Glory That Was” (1960).

Robert A. Heinlein foi possivelmente o escritor de ficção científica mais popular do mundo durante o auge de sua carreira. Juntamente com Isaac Asimov e Arthur C. Clarke, ele foi considerado um dos “Três Grandes” autores de ficção científica. Alguns dos trabalhos mais populares de Robert A. Heinlein incluem “Farnham’s Freehold” (1964) e “To Sail Beyond the Sunset” (1987). A geração atual provavelmente o conhece melhor pelo filme baseado em seu romance “Starship Troopers” (1959).

Estando cercado por esses gigantes do futurismo inspirou Isaac Asimov a lançar sua prolífica carreira de escritor. Asimov também era altamente respeitado na comunidade científica e frequentemente era convidado a dar palestras sobre ciência.

As Três Leis de Robótica

Isaac Asimov foi a primeira pessoa a usar o termo “Robótica” em uma história curta chamada “Liar!”, publicada em 1941.

Logo após, sua história curta “Runaround”, de 1942, apresentou ao mundo suas três leis de robótica. As leis são:

1. Um robô não pode causar dano a um ser humano ou, por inação, permitir que um ser humano sofra dano.

2. Um robô deve obedecer às ordens dadas por seres humanos, exceto quando essas ordens entrarem em conflito com a Primeira Lei.

3. Um robô deve proteger sua própria existência, desde que essa proteção não entre em conflito com a Primeira ou Segunda Leis.

Essas leis foram projetadas para oferecer pontos de trama interessantes, e Asimov foi em frente para criar uma série de 37 histórias curtas de ficção científica e seis romances que apresentavam robôs positrônicos.

Uma dessas coletâneas de histórias curtas, intitulada “Eu, Robô”, foi posteriormente adaptada para o cinema em 2004. O filme “Eu, Robô”, estrelado por Will Smith, é ambientado em um futuro distópico de 2035 e apresenta robôs públicos altamente inteligentes que operam de acordo com as três leis de robótica. O filme, assim como as histórias, rapidamente se tornou uma parábola de como a programação pode dar errado e que programar qualquer tipo de IA avançada envolve um alto nível de risco.

O mundo agora alcançou o que anteriormente era ficção científica; estamos agora projetando IA que, de certa forma, é muito mais avançada do que qualquer coisa que Isaac Asimov poderia ter imaginado, enquanto, ao mesmo tempo, é muito mais limitada.

As três leis de robótica são frequentemente referenciadas em discussões sobre Inteligência Artificial Geral (IAG). Vamos explorar rapidamente o que é IAG, bem como como as três leis de robótica devem evoluir para evitar problemas potenciais no futuro.

Inteligência Artificial Geral (IAG)

Atualmente, a maioria dos tipos de IA que encontramos diariamente é quantificada como “IA estreita”. Esse é um tipo de IA que é muito específico e estreito em sua função de utilidade. Por exemplo, um veículo autônomo pode navegar ruas, mas devido às suas limitações “estreitas”, a IA não pode facilmente realizar outras tarefas. Outro exemplo de IA estreita seria um sistema de reconhecimento de imagens que pode facilmente identificar e rotular imagens em um banco de dados, mas não pode ser facilmente adaptado para outra tarefa.

Inteligência Artificial Geral, comumente referida como “IAG”, é uma IA que, semelhante aos humanos, pode aprender, adaptar, mudar e funcionar no mundo real. É um tipo de inteligência que não é estreito em escopo, pode adaptar-se a qualquer situação e aprender a lidar com problemas do mundo real.

Deve ser dito que, embora a IA esteja avançando a um ritmo exponencial, ainda não alcançamos a IAG. Quando alcançaremos a IAG é um tópico de debate, e todos têm uma resposta diferente sobre o cronograma. Eu pessoalmente subscrevo as visões de Ray Kurzweil, inventor, futurista e autor de “A Singularidade está Próxima”, que acredita que alcançaremos a IAG em 2029.

É esse cronograma de 2029 que é um relógio ticking; devemos aprender a codificar um tipo de livro de regras na IA que não seja apenas semelhante às três leis, mas que seja mais avançado e capaz de evitar conflitos reais entre humanos e robôs.

Leis de Robótica do Dia de Hoje

Enquanto as três leis de robótica foram fenomenais para a literatura, elas são significativamente deficientes em sofisticação para serem seriamente programadas em um robô. Isso foi, afinal, o ponto de trama por trás das histórias curtas e dos romances. Conflitos entre as três leis, ou no mínimo a interpretação das três leis, causaram que os robôs entrassem em colapso, retaliem contra humanos ou outros pontos de trama importantes.

O principal problema com as leis atuais é a programação ética de sempre obedecer às instruções humanas e sempre se proteger, o que pode entrar em conflito. Afinal, o robô é permitido a se defender contra um dono que o abuse?

Que tipo de mecanismo de segurança precisa ser programado? Como instruímos um robô a desligar, não importa as consequências? O que acontece se um robô estiver no processo de salvar uma dona de casa de abuso, deve o robô desligar automaticamente se instruído a fazê-lo pelo marido abusivo?

Quem deve dar as instruções aos robôs? Com armas autônomas capazes de identificar e atingir alvos de todo o mundo, o robô deve ser capaz de recusar um comando para eliminar um alvo se identificar o alvo como uma criança?

Em outras palavras, se o robô for controlado por um psicopata, pode o robô recusar ordens que sejam imorais? As perguntas são numerosas, e as respostas são muito difíceis para qualquer indivíduo responder. É por isso que organizações como The Future of Life Institute são tão importantes; o tempo de debater esses dilemas morais é agora, antes que uma verdadeira IAG surja.