Charles J. Simon, Autor, Will Computers Revolt? – Série de Entrevistas

Charles J. Simon, BSEE, MSCS, empreendedor nacionalmente reconhecido, desenvolvedor e gerente de software. Com uma ampla experiência em gestão e técnica e diplomas em Engenharia Elétrica e Ciências da Computação, o Sr. Simon tem muitos anos de experiência em computação na indústria, incluindo trabalhos pioneiros em IA e CAD (duas gerações de CAD).

Ele também é autor de ‘Will Computers Revolt’, que oferece uma visão aprofundada sobre a possibilidade futura de Inteligência Artificial Geral (AGI).

O que foi que originally o atraiu para a IA e, especificamente, para a AGI?

Eu estive fascinado pela pergunta, “Podem as máquinas pensar?” desde que li o artigo seminal de Alan Turing de 1950, que começa com essa pergunta. Até agora, a resposta é claramente, “Não”, mas não há razão científica para que não possa ser. Eu me juntei à comunidade de IA com o boom inicial de redes neurais no final dos anos 80 e, desde então, a IA fez grandes progressos. Mas os trinta anos intermediários não trouxeram compreensão para as nossas máquinas, uma capacidade que catapultaria numerosos aplicativos para novos níveis de utilidade.

Você disse que compartilha a opinião do especialista em IA do MIT, Rodney Brooks, que diz que ‘sem interação com o ambiente – sem um corpo robótico, como você vai – as máquinas nunca exibirão AGI.’ Isso basicamente está dizendo que, sem entradas suficientes de um corpo robótico, a IA nunca desenvolverá capacidades de AGI. Fora da visão computacional, quais tipos de entradas são necessárias para desenvolver AGI?

A IA de hoje precisa ser complementada com conceitos básicos como a existência física de objetos na realidade, o passagem do tempo, causa e efeito – conceitos claros para qualquer criança de três anos. Uma criança de três anos usa múltiplos sentidos para aprender esses conceitos, tocando e manipulando brinquedos, movendo-se pela casa, aprendendo linguagem, etc. Embora seja possível criar uma AGI com sentidos mais limitados, assim como há pessoas surdas e cegas que são perfeitamente inteligentes, mais sentidos e habilidades para interagir tornam mais fácil resolver o problema da AGI.

Para completar, meu simulador pode fornecer sentidos de olfato e paladar. Resta ser visto se esses também se provarão importantes para a AGI.

Você disse que ‘Um requisito-chave para a inteligência é um ambiente que é externo à inteligência’. O exemplo que você deu é que ‘é irrazoável esperar que o Watson da IBM “entenda” algo se não tiver uma ideia subjacente do que é um “coisa”’. Isso claramente se aplica às limitações atuais da IA estreita, especialmente o processamento de linguagem natural. Como os desenvolvedores de IA podem superar melhor essa limitação atual da IA?

Um fator-chave é armazenar conhecimento que não é especificamente verbal, visual ou tátil, mas como “Coisas” abstratas que podem ter atributos verbais, visuais e táteis. Considere algo tão simples quanto a frase, “uma bola vermelha”. Você sabe o que essas palavras significam porque de suas experiências visuais e táteis. Você também sabe o significado de ações relacionadas como jogar, quicar, chutar, etc., que vêm à mente em certa medida quando você ouve a frase. Qualquer sistema de IA que seja baseado especificamente em palavras ou imagens perderá a compreensão dos outros níveis.

Eu implementei um Armazenamento de Conhecimento Universal que armazena qualquer tipo de informação em uma estrutura semelhante ao cérebro, onde as Coisas são análogas a neurônios e têm muitas referências de atributos para outras Coisas – referências são análogas a sinapses. Assim, vermelho e bola são Coisas individuais e uma bola vermelha é uma Coisa que tem referências de atributos para a Coisa vermelha e a Coisa bola. Tanto vermelho quanto bola têm referências para as Coisas correspondentes para as palavras “vermelho” e “bola”, cada uma das quais, por sua vez, tem referências para outras Coisas que definem como as palavras são ouvidas, faladas, lidas ou escritas, bem como possíveis ações Coisas.

Você chegou à conclusão de que a simulação do cérebro para inteligência geral está longe, enquanto a AGI pode estar (relativamente) logo ali. Com base nessa afirmação, devemos parar de tentar emular ou criar uma simulação do cérebro humano e simplesmente nos concentrar na AGI?

As tecnologias de aprendizado profundo e relacionadas de hoje são ótimas para aplicações apropriadas, mas não levarão espontaneamente à compreensão. Para dar os próximos passos, precisamos adicionar técnicas específicamente direcionadas a resolver os problemas que estão dentro da capacidade de qualquer criança de três anos.

Aproveitar as habilidades intrínsecas dos nossos computadores pode ser orders de magnitude mais eficiente do que o equivalente biológico ou qualquer simulação dele. Por exemplo, o seu cérebro pode armazenar informações na química das sinapses biológicas ao longo de várias iterações, exigindo 10-100 milissegundos. Um computador pode simplesmente armazenar o novo valor da sinapse em um único ciclo de memória, um bilhão de vezes mais rápido.

Desenvolvendo software de AGI, eu fiz tanto simulação de neurônios biológicos quanto algoritmos mais eficientes. Carregando adiante com o Armazenamento de Conhecimento Universal, quando simulado em neurônios biológicos simulados, cada Coisa exige um mínimo de 10 neurônios e geralmente muitos mais. Isso coloca a capacidade do cérebro humano em algum lugar entre dez e cem milhões de Coisas. Mas talvez um AGI pareça inteligente se compreender apenas um milhão de Coisas – bem dentro do escopo dos computadores de mesa de alta gama de hoje.

Um desconhecido-chave é quanto tempo do robô deve ser alocado para processar e reagir ao mundo versus tempo gasto imaginando e planejando. Pode explicar brevemente a importância da imaginação para um AGI?

Nós podemos imaginar muitas coisas e então apenas agir sobre as que gostamos, aquelas que promovem nossos objetivos internos, se você quiser. O verdadeiro poder da imaginação é ser capaz de prever o futuro – uma criança de três anos pode descobrir quais sequências de movimento a levarão a um objetivo em outro quarto e um adulto pode especular sobre quais palavras terão o maior impacto sobre os outros.

Um AGI também se beneficiará de ir além de ser puramente reativo para especular sobre ações complexas e escolher a melhor.

Você acredita que as três leis da robótica de Asimov são muito simples e ambíguas. Em seu livro, você compartilhou algumas ideias para leis recomendadas a serem programadas em robôs. Quais leis você acredita que sejam mais importantes para um robô seguir?

Novas “leis da robótica” evoluirão ao longo dos anos à medida que a AGI emerge. Eu proponho alguns iniciadores:

1. Maximizar o conhecimento interno e a compreensão do ambiente.
2. Compartilhar esse conhecimento com precisão com os outros (tanto AGI quanto humanos).
3. Maximizar o bem-estar de ambos AGIs e humanos como um todo – não apenas como um indivíduo.

Você tem algumas questões com o Teste de Turing e o conceito por trás dele. Pode explicar como você acredita que o Teste de Turing é falho?

O Teste de Turing serviu bem por cinquenta anos como uma definição ad-hoc de inteligência geral, mas à medida que a AGI se aproxima, precisamos aprimorar a definição e precisamos de uma definição mais clara. O Teste de Turing é, na verdade, um teste de quão humano se é, e não de quão inteligente se é. Quanto mais tempo um computador pode manter a decepção, melhor ele se sai no teste. Obviamente, fazer perguntas como “Você é um computador?” e perguntas proxy relacionadas, como “Qual é sua comida favorita?”, são revelações óbvias, a menos que o AGI seja programado para enganar – um objetivo duvidoso, no mínimo.

Além disso, o Teste de Turing motivou o desenvolvimento de IA em áreas de valor limitado, como chatbots com grande flexibilidade em respostas, mas sem compreensão subjacente.

O que você faria de diferente em sua versão do Teste de Turing?

Perguntas melhores poderiam sondar especificamente a compreensão do tempo, espaço, causa e efeito, previsão, etc., em vez de perguntas aleatórias sem base em psicologia, neurociência ou IA. Aqui estão alguns exemplos:

1. O que você vê agora? Se você recuasse três pés, quais diferenças você veria?
2. Se eu [ação], qual seria sua reação?
3. Se você [ação], quais seriam minhas reações prováveis?
4. Você pode nomear três coisas que são como [objeto]?

Em seguida, em vez de avaliar as respostas para ver se elas são indistinguíveis de respostas humanas, elas devem ser avaliadas em termos de se elas são respostas razoáveis (inteligentes) com base na experiência da entidade sendo testada.

Você disse que, quando confrontado com demandas para realizar alguma atividade destrutiva de curto prazo, AGIs adequadamente programados simplesmente se recusarão. Como podemos garantir que o AGI esteja adequadamente programado para começar?

A tomada de decisão é baseada em objetivos. Em combinação com uma imaginação, você (ou um AGI) considera o resultado de diferentes ações possíveis e escolhe a que melhor atinge os objetivos. Nos humanos, nossos objetivos são definidos por instintos evoluídos e experiência; os objetivos de um AGI são inteiramente definidos pelos desenvolvedores. Precisamos garantir que os objetivos de um AGI estejam alinhados com os objetivos da humanidade, em vez dos objetivos pessoais de um indivíduo. [Três objetivos possíveis, como listados acima.]

Você disse que é inevitável que os humanos criem um AGI, qual é sua melhor estimativa para um cronograma?

Faços da AGI começarão a emergir dentro da década que vem, mas não todos concordarão que a AGI chegou. Eventualmente, concordaremos que a AGI chegou quando elas excederem a maioria das habilidades humanas por uma margem substancial. Isso levará dois ou três décadas mais.

Para todas as discussões sobre AGI, será real consciência como a conhecemos?

A consciência se manifesta em um conjunto de comportamentos (que podemos observar) que são baseados em uma sensação interna (que não podemos observar). AGIs manifestarão os comportamentos; eles precisam para tomar decisões inteligentes. Mas eu sustento que nossa sensação interna é amplamente dependente de nosso hardware sensorial e instintos e, portanto, posso garantir que quaisquer sensações internas que um AGI possa ter serão diferentes das de um humano.

O mesmo pode ser dito para emoções e nosso senso de livre arbítrio. Ao tomar decisões, a crença em livre arbítrio permeia cada decisão que fazemos. Se você não acredita que tem uma escolha, simplesmente reage. Para um AGI tomar decisões pensadas, ele também precisará estar ciente de sua própria capacidade de tomar decisões.

Última pergunta, você acredita que um AGI tem mais potencial para o bem ou para o mal?

Eu sou otimista de que os AGIs nos ajudarão a avançar como espécie e trarão respostas para muitas perguntas sobre o universo. A chave será para nós prepararmos e decidirmos qual será nossa relação com os AGIs à medida que definimos seus objetivos. Se decidirmos usar os primeiros AGIs como ferramentas de conquista e enriquecimento, não devemos nos surpreender se, no futuro, eles se tornarem suas próprias ferramentas de conquista e enriquecimento contra nós. Se escolhermos que os AGIs sejam ferramentas de conhecimento, exploração e paz, então é isso que provavelmente obteremos em troca. A escolha é nossa.

Obrigado por uma entrevista fantástica explorando o potencial futuro de construir um AGI. Para os leitores que desejam aprender mais, eles podem ler ‘Will Computers Revolt’ ou visitar o site de Charle’s futureai.guru.