Como as três leis da robótica de Asimov afetam a IA

As Três Leis da Robótica são icônicas no mundo da ficção científica e se tornaram um símbolo dentro da comunidade de IA e robótica de como é difícil projetar adequadamente um sistema infalível.

Para compreender completamente a importância dessas três leis, devemos primeiro aprender sobre a mente brilhante que concebeu essas leis, o falecido autor de ficção científica Isaac Asimov. Devemos então entender como adaptar essas leis e fazê-las evoluir para proteger a humanidade.

Isaac Asimov – A Ascensão de um Gênio

Isaac Asimov nasceu na Rússia em 2 de janeiro de 1920 e imigrou para os Estados Unidos aos três anos. Ele cresceu no Brooklyn, Nova York, e se formou na Universidade de Columbia em 1939.  Ele foi reconhecido como um escritor talentoso e prolífico que se concentrou na ciência e na ficção científica. Durante sua carreira escreveu e/ou editou mais de 500 livros.

Asimov foi muito inspirado por alguns dos escritores mais icônicos do mundo da ficção científica. Ele começou seu emprego no Philadelphia Navy Yard, onde conheceu dois de seus colegas de trabalho, que logo emergiriam como dois escritores de ficção científica de maior sucesso na história da ficção especulativa: L. Sprague de Camp e Robert A. Heinlein.

L. Sprague de Camp é um autor premiado que escreveu mais de 100 livros e foi uma figura importante na ficção científica nas décadas de 1930 e 1940. Algumas de suas obras mais populares incluem “Darkness Fall” (1939), “The Wheels of If” (1940), “A Gun for Dinosaur” (1956), “Aristóteles and the Gun” (1958) e “The Glory That Foi” (1960).

Robert A. Heinlein foi possivelmente o escritor de ficção científica mais popular do mundo durante o auge de sua carreira. Junto com Isaac Asimov, e Arthur C. Clarke ele foi considerado o “Três Grandes” dos autores de ficção científica. Algumas das obras mais populares de Robert A. Heinlein incluem “Farnham's Freehold” (1964) e “Para Veleje Além do Pôr do Sol” (1987). A geração atual provavelmente o conhece melhor pela adaptação cinematográfica de seu romance “Starship Troopers” (1959).

Estar cercado por esses gigantes do futurismo inspirou Issac Asimov a lançar sua prolífica carreira de escritor. Asimov também era altamente respeitado na comunidade científica e era frequentemente contratado como orador público para dar palestras sobre ciência.

As Três Leis da Robótica

Isaac Asimov foi a primeira pessoa a usar o termo 'Robótica' em um conto chamado 'Mentiroso!' que foi publicado em 1941.

Pouco depois, seu conto de 1942 “Runaround” apresentou ao mundo suas três leis da robótica. As leis são:

1. Um robô não pode ferir um ser humano ou, por omissão, permitir que um ser humano sofra algum mal.

2. Um robô deve obedecer às ordens dadas por seres humanos, exceto quando tais ordens entrarem em conflito com a Primeira Lei.

3. Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou Segunda Lei.

Essas leis foram projetadas para oferecer pontos de enredo interessantes, e Asimov passou a criar uma série de 37 contos de ficção científica e seis romances que apresentavam robôs positrônicos.

Uma dessas coleções de contos intitulada "I, Robot" foi posteriormente adaptada para o cinema em 2004. O filme "I, Robot", estrelado por Will Smith, se passa em um ano distópico de 2035 e apresenta robôs servidores públicos altamente inteligentes que operam sob as três leis de robótica. O filme, assim como as histórias, rapidamente se tornou uma parábola de como a programação pode dar errado, e que programar qualquer tipo de IA avançada envolve um alto nível de risco.

O mundo agora alcançou o que antes era ficção científica, agora estamos projetando IA que é, de certa forma, muito mais avançada do que qualquer coisa que Issac Asimov poderia ter imaginado, ao mesmo tempo em que é muito mais limitada.

As três leis da robótica são referenciadas com bastante frequência nas discussões sobre Inteligência Artificial Geral (AGI). Vamos explorar rapidamente o que é AGI, bem como como as três leis da robótica devem evoluir para evitar possíveis problemas no futuro.

Inteligência Artificial Geral (AGI)

Atualmente, a maioria dos tipos de IA que encontramos diariamente são quantificados como “IA estreita”. Este é um tipo de IA muito específico e estreito em sua função de utilidade. Por exemplo, um veículo autônomo pode navegar pelas ruas, mas devido às suas limitações “estreitas”, a IA não pode concluir facilmente outras tarefas. Outro exemplo de AI estreita seria um sistema de reconhecimento de imagem que pode facilmente identificar e rotular imagens em um banco de dados, mas seria incapaz de ser facilmente adaptado para outra tarefa.

A Inteligência Artificial Geral, comumente chamada de “AGI”, é uma IA que, semelhante aos humanos, pode aprender, adaptar, girar e funcionar rapidamente no mundo real. É um tipo de inteligência que não tem escopo limitado, pode se adaptar a qualquer situação e aprender a lidar com problemas do mundo real.

Deve-se afirmar que, embora a IA esteja avançando em ritmo exponencial, ainda não alcançamos a AGI. Quando chegaremos ao AGI está em debate, e todos têm uma resposta diferente quanto a um cronograma. Pessoalmente, concordo com as opiniões de Ray Kurzweil, inventor, futurista e autor de 'The Singularity is Near', que acredita que teremos AGI alcançado até 2029.

É esta linha do tempo de 2029 que é um relógio, devemos aprender a codificar um tipo de livro de regras na IA, que não seja apenas semelhante às três leis, mas que seja mais avançado e capaz de realmente evitar o mundo real conflito entre humanos e robôs.

Leis Modernas da Robótica

Embora as três leis da robótica tenham sido fenomenais para a literatura, elas carecem significativamente de sofisticação para programar seriamente em um robô. Afinal, esse era o ponto da trama por trás dos contos e romances. Conflitos entre as três leis ou, no mínimo, a interpretação das três leis causaram o colapso dos robôs, retaliação contra humanos ou outros pontos cruciais da trama.

O principal problema com as leis atuais é a programação ética de sempre obedecer às instruções humanas e de sempre se proteger pode entrar em conflito. Afinal, o robô pode se defender de um dono que abusa dele?

Que tipo de mecanismo à prova de falhas precisa ser programado? Como instruir um robô a desligar, independentemente das repercussões? O que acontece se um robô está no processo de salvar uma dona de casa do abuso, o robô deve desligar automaticamente se for instruído a fazê-lo pelo marido abusivo?

Quem deve dar as instruções aos robôs? Com armas autônomas capazes de identificar e direcionar inimigos de todo o mundo, o robô deveria ser capaz de recusar um comando para eliminar um alvo se identificar o alvo como sendo uma criança?

Em outras palavras, se o robô pertence e é controlado por um psicopata, o robô pode recusar ordens imorais? As perguntas são numerosas e as respostas são muito difíceis para qualquer pessoa responder. É por isso que organizações como O futuro da vida Institute são tão importantes que o momento de debater esses dilemas morais é agora, antes que surja uma verdadeira AGI.