Noah Schwartz, Co-Fundador e CEO da Quorum AI – Série de Entrevistas

Noah é um arquiteto de sistemas de IA. Antes de fundar a Quorum AI, Noah passou 12 anos em pesquisa acadêmica, primeiro na Universidade do Sul da Califórnia e mais recentemente na Northwestern como Assistente de Neurobiologia. Seu trabalho se concentrou no processamento de informações no cérebro e ele traduziu sua pesquisa em produtos de realidade aumentada, interfaces cérebro-computador, visão computacional e sistemas de controle de robótica embarcada.

Seu interesse em IA e robótica começou quando você era um menino. Como você foi apresentado a essas tecnologias?

A faísca inicial veio de filmes de ficção científica e um amor por eletrônica. Lembro-me de assistir ao filme Tron, com 8 anos, seguido de Electric Dreams, Short Circuit, DARYL, War Games e outros nos anos seguintes. Embora fosse apresentado através da ficção, a ideia de inteligência artificial me impressionou. E, embora eu tivesse apenas 8 anos, senti uma conexão imediata e uma atração intensa por IA que nunca diminuiu desde então.

Como seus interesses por IA e robótica evoluíram?

Meu interesse em IA e robótica se desenvolveu em paralelo com uma paixão pelo cérebro. Meu pai era um professor de biologia e me ensinava sobre o corpo, como tudo funcionava e como estava tudo conectado. Olhar para a IA e olhar para o cérebro parecia o mesmo problema para mim – ou pelo menos, tinham a mesma pergunta ultimate, que era: Como isso funciona? Eu estava interessado em ambos, mas não tive muita exposição a IA ou robótica na escola. Por isso, inicialmente, eu perseguia a IA em meu tempo livre e estudei biologia e psicologia na escola.

Quando cheguei à faculdade, descobri os livros Parallel Distributed Processing (PDP), que foi enorme para mim. Eles foram minha primeira introdução a IA real, o que me levou de volta aos clássicos, como Hebb, Rosenblatt e até McCulloch e Pitts. Comecei a construir redes neurais com base na neuroanatomia e no que aprendi nas aulas de biologia e psicologia na escola. Depois de me formar, trabalhei como engenheiro de redes de computadores, construindo redes de área ampla complexas e escrevendo software para automatizar e gerenciar o fluxo de tráfego nessas redes – tipo construir grandes cérebros. O trabalho reacendeu minha paixão por IA e me motivou a ir para a pós-graduação para estudar IA e neurociência, e o resto é história.

Antes de fundar a Quorum AI, você passou 12 anos em pesquisa acadêmica, primeiro na Universidade do Sul da Califórnia e mais recentemente na Northwestern como Assistente de Neurobiologia. Na época, seu trabalho se concentrou no processamento de informações no cérebro. Pode nos levar por alguns desses pesquisas?

De forma ampla, minha pesquisa tentava entender a pergunta: Como o cérebro faz o que faz usando apenas o que está disponível? Para começar, não subscrevo a ideia de que o cérebro é um tipo de computador (no sentido de von Neumann). Vejo-o como uma rede massiva que realiza principalmente operações de estímulo-resposta e codificação de sinais. Dentro dessa rede massiva, há padrões claros de conectividade entre áreas especializadas. À medida que nos aproximamos, vemos que os neurônios não se importam com o sinal que estão carregando ou em que parte do cérebro estão – eles operam com base em regras muito previsíveis. Então, se queremos entender a função dessas áreas especializadas, precisamos fazer algumas perguntas: (1) Como a entrada converge com outras entradas para produzir uma decisão? (2) Como a estrutura dessas áreas se forma como resultado da experiência? E (3) como elas continuam a mudar à medida que usamos nossos cérebros e aprendemos com o tempo? Minha pesquisa tentou abordar essas perguntas usando uma mistura de pesquisa experimental combinada com teoria da informação e modelagem e simulação – algo que pudesse nos permitir construir sistemas de decisão artificiais e IA. Em termos de neurobiologia, estudei neuroplasticidade e microanatomia de áreas especializadas como o córtex visual.

Em seguida, você traduziu seu trabalho em realidade aumentada e interfaces cérebro-computador. Quais foram alguns dos produtos em que você trabalhou?

Cerca de 2008, eu estava trabalhando em um projeto que agora chamamos de realidade aumentada, mas na época era apenas um sistema para rastrear e prever movimentos oculares, e então usar essas previsões para atualizar algo na tela. Para fazer o sistema funcionar em tempo real, eu construí um modelo biologicamente inspirado que previa onde o espectador estaria com base em seus microsacados – movimentos oculares minúsculos que ocorrem justo antes de você mover o olho. Usando esse modelo, eu podia prever onde o espectador estaria, então atualizar o buffer de quadros na placa gráfica enquanto os olhos ainda estavam em movimento. Quando os olhos alcançavam o novo local na tela, a imagem já estava atualizada. Isso funcionava em um computador de mesa comum em 2008, sem atraso. A tecnologia era incrível, mas o projeto não passou para a próxima rodada de financiamento, então morreu.

Em 2011, eu fiz um esforço mais focado no desenvolvimento de produtos e construí uma rede neural que podia realizar a descoberta de recursos em dados de EEG de streaming que medimos do couro cabeludo. Essa é a função central da maioria dos sistemas de interface cérebro-computador. O projeto também foi um experimento em quão pequeno podemos fazer isso funcionar? Tínhamos um headset que lia alguns canais de dados de EEG a 400Hz que eram enviados via Bluetooth para um telefone Android para descoberta de recursos e classificação, e então enviados para um controlador Arduino que nós adaptamos em um carro de controle remoto de estoque. Quando em uso, um indivíduo que usava o headset de EEG podia dirigir e controlar o carro mudando seus pensamentos de fazer matemática mental para cantar uma música. O algoritmo funcionava no telefone e criava uma “impressão digital” cerebral personalizada para cada usuário, permitindo que eles alternassem entre uma variedade de dispositivos robóticos sem precisar retreinar em cada dispositivo. O slogan que criamos foi “Controle Cerebral Encontra Plug-and-Play”.

Em 2012, estendemos o sistema para que funcionasse de uma maneira mais distribuída em hardware menor. Usamos para controlar um braço robótico multi-segmentado e multi-articulado, no qual cada segmento era controlado por um processador independente que executava uma versão incorporada da IA. Em vez de usar um controlador centralizado para manipular o braço, permitimos que os segmentos se auto-organizassem e alcançassem seu alvo de forma distribuída e semelhante a um enxame. Em outras palavras, como formigas formando uma ponte de formigas, os segmentos do braço cooperavam para alcançar algum alvo no espaço.

Continuamos movendo nessa mesma direção quando lançamos a Quorum AI – originalmente conhecida como Quorum Robotics – em 2013. Rapidamente percebemos que o sistema era incrível devido ao algoritmo e à arquitetura, não ao hardware, então em fins de 2014, mudamos completamente para software. Agora, 8 anos depois, a Quorum AI está voltando às suas raízes robóticas, aplicando nossa estrutura ao Desafio de Robótica Espacial da NASA.

Deixar seu emprego como professor para lançar uma startup deve ter sido uma decisão difícil. O que o inspirou a fazer isso?

Foi um salto enorme para mim de muitas maneiras, mas uma vez que a oportunidade surgiu e o caminho ficou claro, foi uma decisão fácil. Quando você é um professor, você pensa em prazos de vários anos e trabalha em metas de pesquisa de longo prazo. Lançar uma startup é o oposto disso. No entanto, uma coisa que a vida acadêmica e a vida de startup têm em comum é que ambas exigem que você aprenda e resolva problemas constantemente. Em uma startup, isso pode significar tentar reengenharia uma solução para reduzir o risco de desenvolvimento de produtos ou talvez estudar um novo vertical que possa se beneficiar de nossa tecnologia. Trabalhar em IA é a coisa mais próxima de um “chamado” que eu já senti, então, apesar de todos os desafios e altos e baixos, sinto-me imensamente sortudo por estar fazendo o trabalho que faço.

Você desenvolveu a Quorum AI, que desenvolve inteligência artificial distribuída em tempo real para todos os dispositivos e plataformas. Pode nos explicar o que exatamente essa plataforma de IA faz?

A plataforma é chamada de Ambiente para Agentes Virtuais (EVA), e permite que os usuários construam, treinem e implantem modelos usando nosso Motor de IA Engram. Engram é uma embalagem flexível e portátil que construímos em torno de nossos algoritmos de aprendizado não supervisionado. Os algoritmos são tão eficientes que podem aprender em tempo real, enquanto o modelo está gerando previsões. Como os algoritmos são agnósticos de tarefas, não há entrada ou saída explícita para o modelo, então previsões podem ser feitas de maneira bayesiana para qualquer dimensão sem retreinamento e sem sofrer de esquecimento catastrófico. Os modelos também são transparentes e decomponíveis, o que significa que podem ser examinados e desmontados em dimensões individuais sem perder o que foi aprendido.

Uma vez construídos, os modelos podem ser implantados por meio do EVA em qualquer tipo de plataforma, desde hardware incorporado personalizado até a nuvem. O EVA (e o software de hospedagem incorporável) também contém várias ferramentas para estender a funcionalidade de cada modelo. Alguns exemplos rápidos: Modelos podem ser compartilhados entre sistemas por meio de um sistema de publicação/assinatura, permitindo que sistemas distribuídos alcancem aprendizado federado ao longo do tempo e do espaço. Modelos também podem ser implantados como agentes autônomos para realizar tarefas arbitrárias, e como o modelo é agnóstico de tarefas, a tarefa pode ser alterada durante a execução sem retreinamento. Cada agente individual pode ser estendido com um EVA “virtual” privado, permitindo que o agente simule modelos de outros agentes de forma livre de escala. Finalmente, criamos algumas embalagens para sistemas de aprendizado profundo e reforço (baseados em Keras) para permitir que esses modelos operem na plataforma, em conjunto com sistemas baseados em Engram mais flexíveis.

Você descreveu os algoritmos da Quorum AI como “poesia matemática”. O que você quis dizer com isso?

Quando você está construindo um modelo, seja modelando o cérebro ou modelando dados de vendas para sua empresa, você começa fazendo um inventário de seus dados, então tenta classes de modelos conhecidos para tentar aproximar o sistema. Basicamente, você está criando esboços grosseiros do sistema para ver o que parece melhor. Você não espera que as coisas se encaixem muito bem nos dados, e há um pouco de tentativa e erro à medida que você testa diferentes hipóteses sobre como o sistema funciona, mas com um pouco de habilidade, você pode capturar os dados muito bem.

Enquanto modelava a neuroplasticidade no cérebro, comecei com a abordagem usual de mapear todas as vias moleculares, estados de transição e dinâmicas que eu achava que importavam. Mas encontrei que, quando reduzi o sistema aos seus componentes mais básicos e os organizei de uma certa maneira, o modelo ficou mais e mais preciso até que se encaixasse quase perfeitamente nos dados. Foi como se cada operador e variável nas equações fossem exatamente o que precisavam ser, não havia nada extra, e tudo era essencial para se encaixar nos dados.

Quando conectei o modelo a simulações maiores e maiores, como desenvolvimento do sistema visual ou reconhecimento de faces, por exemplo, consegui formar padrões de conectividade extremamente complicados que correspondiam ao que vemos no cérebro. Como o modelo era matemático, esses padrões cerebrais podiam ser entendidos por meio da análise matemática, fornecendo novas informações sobre o que o cérebro está aprendendo. Desde então, resolvemos e simplificamos as equações diferenciais que compõem o modelo, melhorando a eficiência computacional por várias ordens de magnitude. Pode não ser poesia real, mas com certeza pareceu!

A plataforma da Quorum AI permite que os dispositivos se conectem uns aos outros para aprender e compartilhar dados sem precisar se comunicar por meio de servidores baseados em nuvem. Quais são as vantagens de fazer isso em vez de usar a nuvem?

Nós damos aos usuários a opção de colocar sua IA em qualquer lugar que eles queiram, sem comprometer a funcionalidade da IA. O status quo no desenvolvimento de IA é que as empresas geralmente são forçadas a comprometer segurança, privacidade ou funcionalidade porque sua única opção é usar serviços de IA baseados em nuvem. Se as empresas tentam construir sua própria IA internamente, isso geralmente exige muito dinheiro e tempo, e o ROI raramente vale o risco. Se as empresas querem implantar IA em dispositivos que não estão conectados à nuvem, o projeto rapidamente se torna impossível. Como resultado, a adoção de IA se torna uma fantasia.

Nossa plataforma torna a IA acessível e acessível, dando às empresas uma maneira de explorar o desenvolvimento e a adoção de IA sem a sobrecarga técnica ou financeira. E, além disso, nossa plataforma permite que os usuários passem do desenvolvimento para a implantação em um único passo.

Nossa plataforma também se integra e estende a vida útil de outros “modelos legados” como aprendizado profundo ou reforço, ajudando as empresas a reutilizar e integrar sistemas existentes em novas aplicações. Da mesma forma, como nossos algoritmos e arquiteturas são únicos, nossos modelos não são caixas pretas, então qualquer coisa que o sistema aprenda pode ser explorada e interpretada por humanos, e então estendida para outras áreas de negócios.

Alguns acreditam que a Inteligência Artificial Distribuída (DAI) pode levar o caminho para a Inteligência Artificial Geral (AGI). Você subscreve essa teoria?

Sim, e não apenas porque esse é o caminho que traçamos para nós mesmos! Quando você olha para o cérebro, não é um sistema monolítico. É composto por sistemas distribuídos que cada um se especializa em uma faixa estreita de funções cerebrais. Podemos não saber o que um sistema específico está fazendo, mas sabemos que suas decisões dependem significativamente do tipo de informação que está recebendo e como essa informação muda ao longo do tempo. (É por isso que tópicos de neurociência, como o conectoma, são tão populares.)

Na minha opinião, se queremos construir IA que seja flexível e que se comporte e execute como o cérebro, então faz sentido considerar arquiteturas distribuídas como as que vemos no cérebro. Alguém pode argumentar que arquiteturas de aprendizado profundo, como redes multi-camadas ou CNNs, podem ser encontradas no cérebro, e isso é verdade, mas essas arquiteturas são baseadas no que sabíamos sobre o cérebro 50 anos atrás.

A alternativa à DAI é continuar iterando em arquiteturas monolíticas e inflexíveis que estão fortemente acopladas a um único espaço de decisão, como as que vemos no aprendizado profundo ou reforço (ou qualquer método de aprendizado supervisionado, na verdade). Eu sugeriria que essas limitações não são apenas uma questão de ajuste de parâmetros ou adicionar camadas ou condicionamento de dados – esses problemas são fundamentais para o aprendizado profundo e reforço, pelo menos como os definimos hoje, então novas abordagens são necessárias se vamos continuar inovando e construindo a IA de amanhã.

Você acredita que alcançar a AGI usando a DAI é mais provável do que os métodos de reforço e/ou aprendizado profundo que estão sendo perseguidos por empresas como OpenAI e DeepMind?

Sim, embora, pelo que eles estão blogando, eu suspeite que a OpenAI e a DeepMind estão usando arquiteturas mais distribuídas do que deixam transparecer. Estamos começando a ouvir mais sobre desafios de multi-sistema, como aprendizado de transferência ou aprendizado federado/distribuído, e coincidentemente, sobre como as abordagens de aprendizado profundo e reforço não vão funcionar para esses desafios. Estamos começando a ouvir de pioneiros como Yoshua Bengio sobre como arquiteturas inspiradas biologicamente podem preencher a lacuna! Eu estive trabalhando em IA inspirada biologicamente por quase 20 anos, então sinto-me muito bom sobre o que aprendemos na Quorum AI e como estamos usando isso para construir o que acreditamos ser a próxima geração de IA que superará essas limitações.

Há algo mais que você gostaria de compartilhar sobre a Quorum AI?

Nós vamos pré-visualizar nossa nova plataforma para IA distribuída e baseada em agentes na Conferência de Aprendizado de Máquina Federado e Distribuído em junho de 2020. Durante a palestra, pretendo apresentar alguns dados recentes sobre vários tópicos, incluindo análise de sentimento como uma ponte para alcançar a IA empática.

Gostaria de agradecer a Noah por essas respostas incríveis, e eu recomendaria que você visite a Quorum para saber mais.