Matthew Ikle, Diretor Científico da SingularityNET – Série de Entrevistas

Matthew Ikle é o Diretor Científico da SingularityNET, uma empresa fundada com a missão de criar uma Inteligência Artificial Geral (IAG) descentralizada, democrática, inclusiva e benéfica. Uma IAG que não depende de nenhuma entidade central, que está aberta a todos e não é restrita aos objetivos estreitos de uma única corporação ou mesmo de um único país.

A equipe da SingularityNET inclui engenheiros experientes, cientistas, pesquisadores, empreendedores e marketers. As equipes principais de plataforma e IA são complementadas por equipes especializadas em áreas de aplicação, como finanças, robótica, inteligência artificial biomédica, mídia, artes e entretenimento.

Dada sua ampla experiência e papel na SingularityNET, quão confiante você está de que alcançaremos a IAG até 2029 ou antes, como previsto pelo Dr. Ben Goertzel?

Vou responder a essa pergunta de uma forma um pouco indireta. 2029 é aproximadamente cinco anos a partir de agora. Muitos anos atrás (início-meado da década de 2010), eu era extremamente otimista em relação ao progresso da IAG. Meu otimismo na época se baseava no nível de pensamento detalhado e convergência de ideias que eu testemunhei na pesquisa de IAG na época. Embora a maioria das grandes ideias daquela era, acredito, ainda tenha promessa, a dificuldade, como é muitas vezes o caso, vem de detalhar os detalhes dessas visões de larga escala.

Com essa ressalva em mente, agora há uma grande quantidade de novas informações, de numerousas disciplinas – neurociência, matemática, ciência da computação, psicologia, sociologia, você nomeia – que fornece não apenas os mecanismos para finalizar esses detalhes, mas também apoia conceitualmente os fundamentos daquele trabalho anterior. Estou vendo padrões, e em campos bastante divergentes, que todos parecem estar convergindo a uma taxa acelerada em direção a comportamentos análogos. De muitas maneiras, essa convergência me lembra do período de tempo anterior ao lançamento do primeiro iPhone. Para parafrasear Greg Meredith, que está trabalhando em nossa infraestrutura RhoLang para processamento concorrente seguro, os padrões que vejo nos dias atuais estão relacionados a histórias de origem – como começou a primeira vida/célula na Terra? Como e quando se formou a mente? E questões relacionadas a transições de fase, por exemplo.

Por exemplo, há uma grande quantidade de novas pesquisas experimentais que tendem a apoiar as ideias subjacentes a uma visão de sistemas dinâmicos complexos. Os padrões de EEG de sujeitos humanos, por exemplo, exibem um comportamento notável em alinhamento com essa dinâmica de sistema. Esses resultados remetem a algum trabalho anterior em teorias de consciência. Agora, parece haver o início de um apoio experimental para essas ideias teóricas.

Na SingularityNET, estou pensando muito nas estruturas auto-semelhantes que geram essa dinâmica. Isso é bastante diferente, argumentaria, do que está acontecendo em grande parte da comunidade DNN/LLM, embora haja certamente um reconhecimento entre certains pesquisadores mais fundamentais dessas ideias. Eu apontaria o artigo “Consciência em Inteligência Artificial: Insights da Ciência da Consciência” lançado por 19 pesquisadores em agosto de 2023, por exemplo. Os pesquisadores abrangiam uma variedade de disciplinas, incluindo estudos de consciência, pesquisa de segurança de IA, ciência do cérebro, matemática, ciência da computação, psicologia, neurociência e pesquisa de mente e cognição. O que esses pesquisadores têm em comum é maior do que uma simples busca por melhorias incrementais na arquitetura de DNNs, mas, em vez disso, estão focados em entender cientificamente as grandes ideias filosóficas subjacentes à cognição humana e como trazê-las para implementar sistemas de IAG reais.

Quais você vê como os principais obstáculos tecnológicos ou filosóficos para alcançar a IAG dentro desta década?

Entender e responder a grandes perguntas filosóficas e científicas, incluindo:

• O que é vida? Podemos pensar que a resposta é clara, mas as definições biológicas se provaram problemáticas. Os vírus são “vivos”, por exemplo.
• O que é mente?
• O que é inteligência?
• Como a vida emergiu de alguns produtos químicos básicos em condições ambientais específicas? Como podemos replicar isso?
• Como a primeira “mente” emergiu? Quais ingredientes e condições permitiram isso?
• Como implementamos o que aprendemos ao investigar as cinco perguntas acima?
• Está nossa tecnologia atual à altura da tarefa de implementar nossas soluções? Se não, o que precisamos inventar e desenvolver?
• Quanto tempo e pessoal precisamos para implementar nossas soluções?

A SingularityNET vê a IA neuro-simbólica como uma solução promissora para superar as limitações atuais da inteligência artificial gerativa. Você poderia explicar o que é IA neuro-simbólica e como a SingularityNET planeja aproveitar essa abordagem para acelerar o desenvolvimento da IAG?

Historicamente, houve dois principais campos de pesquisadores de IAG, juntamente com um terceiro campo que combina as ideias dos outros dois. Houve pesquisadores que acreditam apenas em uma abordagem sub-simbólica. Esses dias, isso significa principalmente usar redes neurais profundas (DNNs), como modelos Transformer, incluindo os atuais modelos de linguagem grande (LLMs). Devido ao uso de redes neurais artificiais, as abordagens sub-simbólicas também são chamadas de métodos neurais. Em sistemas sub-simbólicos, o processamento é executado em nós idênticos e não rotulados (neurônios) e links (sinapses). Os proponentes simbólicos usam lógica de ordem superior e raciocínio simbólico, no qual os nós e links são rotulados com significado conceitual e semântico. A SingularityNET segue uma terceira abordagem, que seria mais precisamente descrita como um híbrido neuro-simbólico, aproveitando as forças dos métodos simbólicos e sub-simbólicos.

No entanto, é um tipo específico de híbrido, amplamente baseado na filosofia patternista da mente de Ben Goertzel e detalhado, entre muitos outros documentos, em seu artigo “A Teoria Geral da Inteligência Geral: Uma Perspectiva Pragmática Patternista”.

Embora grande parte da pesquisa atual em DNN e LLM seja baseada em modelos neurais simplistas e algoritmos, o uso de conjuntos de dados mamutes (por exemplo, toda a internet) e configurações corretas de bilhões de parâmetros na esperança de alcançar a IAG, a estratégia PRIMUS da SingularityNET é baseada em compreensões fundamentais de processos dinâmicos em múltiplas escalas espácio-temporais e como alinhar melhor esses processos para promover a emergência de propriedades desejadas em diferentes escalas. Essas compreensões nos permitem prosseguir para guiar a pesquisa e desenvolvimento da IAG de uma maneira compreensível para os humanos.

Quais estruturas você acredita serem críticas para garantir que o desenvolvimento da IAG beneficie toda a humanidade? Como plataformas de IA descentralizadas, como a SingularityNET, podem promover um processo mais equitativo e transparente em comparação com modelos de IA centralizados?

Todas as ideias aqui:

Transparência — Embora nada seja perfeito, garantir a transparência completa do processo de tomada de decisão pode ajudar todos os envolvidos (pesquisadores, desenvolvedores, usuários e não usuários) a se alinhar, guiar, entender e lidar melhor com o desenvolvimento da IAG para o benefício da humanidade. Isso é semelhante ao problema de viés, que vou tocar abaixo.

Descentralização – Embora a descentralização possa ser confusa, pode ajudar a garantir que o poder seja compartilhado de forma mais ampla. Não é, em si, uma panaceia, mas uma ferramenta que, se usada corretamente, pode ajudar a criar processos e resultados mais equitativos.

Tomada de decisão baseada em consenso – A descentralização e a tomada de decisão baseada em consenso podem trabalhar juntas na busca por processos e resultados mais equitativos. Mais uma vez, elas não garantem sempre a equidade. Há também complexidades que precisam ser abordadas aqui em termos de reputação e áreas de especialização. Por exemplo, como podemos equilibrar melhor as características desejadas conflitantes? Vejo a transparência, a descentralização e a tomada de decisão baseada em consenso como apenas três ferramentas críticas que podem ser usadas para guiar o desenvolvimento da IAG para o benefício da humanidade.

Alinhamento espácio-temporal de fenômenos emergentes em múltiplas escalas, desde a extraordinariamente pequena até a inordinariamente grande. Ao desenvolver a IAG, acredito que é importante não apenas confiar em uma abordagem “caixa preta” na qual se espera obter tudo correto desde o início. Em vez disso, acredito que projetar a IAG com compreensões fundamentais em várias etapas de desenvolvimento e em múltiplas escalas pode não apenas tornar mais provável alcançar a IAG, mas, mais importante, guiar esse desenvolvimento em alinhamento com os valores humanos.

A SingularityNET é uma plataforma de IA descentralizada. Como você vê a interseção da tecnologia de blockchain e da IAG evoluindo, particularmente em relação à segurança, governança e controle descentralizado?

A blockchain certamente tem um papel a desempenhar no controle, segurança e governança da IA. A questão do viés é um excelente exemplo disso. Eu argumentaria que toda pessoa e todo conjunto de dados é tendencioso. Tenho meus próprios vieses pessoais, por exemplo, quando se trata do que acredito ser necessário para alcançar uma IAG verdadeiramente segura, benéfica e benevolente. Esses vieses foram forjados por meus estudos e background e guiam meu próprio trabalho.

No entanto, tento ser completamente aberto a ideias que entram em conflito com meus vieses e estou disposto a ajustar meus vieses com base em novas evidências. Independentemente disso, tento ser aberto e transparente em relação a meus vieses e, em seguida, condicionar minhas ideias e decisões com base em uma compreensão autorreflexiva desses vieses. É complicado, é difícil, mas acredito ser melhor do que não reconhecer meus próprios vieses. A blockchain, por sua natureza, permite um acompanhamento, rastreamento e verificação melhor e transparente de processos e eventos. De maneira semelhante à que descrevi anteriormente, a transparência é um componente necessário, embora nem sempre suficiente, para segurança, governança e controle descentralizado.

Como a blockchain e a IAG coevoluem é uma pergunta interessante. Para que as duas tecnologias interajam em direção a uma singularidade positiva, parece claro que as características fundamentais que continuo apontando (transparência, descentralização, consenso e alinhamento de valores) são centrais e críticas e devem ser mantidas em mente em todas as etapas de sua coevolução.

Como um líder que esteve intimamente envolvido em ambos, IA e blockchain, quais você acredita serem os fatores mais importantes para fomentar a colaboração entre esses dois campos e como isso pode impulsionar a inovação na IAG?

Venho do lado da IA/IAG desse par. Como é muitas vezes o caso quando se integram ideias interdisciplinares, muito vem down a questões de linguagem e comunicação. Todos os grupos precisam ouvir uns aos outros para melhor entender como as tecnologias podem ajudar umas às outras. No meu trabalho na SingularityNET, isso tem sido uma luta constante. Pesquisadores de alto nível, que seria uma subestimação dizer que a SingularityNET tem em abundância, muitas vezes têm concepções mentais claras de grandes ideias. Quando trabalhando em limites disciplinares, a parte difícil é perceber que nem todos estão “na sua cabeça”. O que um toma como garantido, não será tão claramente observado por aqueles em outros campos de estudo. Mesmo palavras usadas em comum podem ser usadas de maneira diferente em diferentes campos de estudo. Houve um caso recente em nosso trabalho de BioIA, no qual biólogos estavam usando um termo matemático, mas não inteiramente corretamente em termos de sua definição matemática. Uma vez que essas situações sejam claramente compreendidas, a equipe pode avançar com um propósito comum, de modo que a integração prova que o todo é maior do que a soma de suas partes.

Como você vê as indústrias de IA e blockchain trabalhando em direção a uma maior diversidade e inclusão, e qual é o papel da SingularityNET na promoção desses valores?

A IA e a blockchain podem desempenhar papéis importantes no aprimoramento dos esforços de diversificação e inclusão. Embora eu acredite que seja impossível remover todos os vieses – muitos vieses se formam simplesmente por meio de experiências de vida –, uma pessoa pode ser aberta e transparente sobre seus vieses. Isso é algo que ativamente busco fazer em meu próprio trabalho, que é tendencioso por meu background acadêmico, de modo que vejo problemas por meio de uma lente de dinâmica de sistemas complexos. Ainda assim, busco ser aberto e entender ideias e analogias de outras perspectivas. A IA pode ser usada para auxiliar nesse processo de auto-reflexão, e a blockchain certamente pode ajudar com a transparência. A SingularityNET pode desempenhar um papel enorme ao hospedar ferramentas para detectar, medir e remover, tanto quanto possível, vieses em conjuntos de dados.

Como o trabalho da SingularityNET em ecossistemas de IA descentralizados contribui para resolver desafios globais, como sustentabilidade, educação e criação de empregos, especialmente em regiões como a África, onde você tem um interesse especial?

 Sustentabilidade:

• Aplique a IA e os modelos de sistema para resolver problemas complexos de ecossistemas em larga escala.
• Monitore essas soluções em larga escala.
• Use a blockchain para rastrear, traçar e verificar essas soluções.
• Use uma combinação de IA, modelos de ecossistemas, dados hiper-locais e blockchain, ideamos soluções completas para mineração artesanal na África e seqüestro de carbono agrícola em larga escala.

Educação:

Como um ex-professor titular de matemática e ciência da computação, a educação é extremamente importante para mim, especialmente porque fornece oportunidades para populações de estudantes subatendidas. É importante:

• Melhorar a acessibilidade desenvolvendo cursos híbridos para alcançar estudantes que podem enfrentar restrições geográficas, financeiras ou de tempo.
• Promover a diversidade e a inclusão aumentando a participação de populações subatendidas em IA, blockchain e outras tecnologias avançadas.
• Fomentar o conhecimento interdisciplinar criando cursos que conectam campos acadêmicos e profissionais.
• Apoiar o avanço na carreira fornecendo habilidades e certificações que são diretamente aplicáveis ao mercado de trabalho.

Vejo tanto a IAG quanto a blockchain, e suas sinergias, desempenhando papéis críticos no endereçamento dos objetivos acima dentro de programas de aprendizado baseados em projetos, do tipo “aprendizado a mestria”.

Criação de Empregos:

Ao fomentar os quatro objetivos educacionais acima, parece-me que a IAG, a blockchain e outras tecnologias avançadas, combinadas com colaborações positivas entre professores e aprendizes, poderiam encorajar e gerar novas tecnologias e empresas.

Como alguém comprometido em alcançar uma singularidade positiva, quais marcos ou avanços específicos na tecnologia de IA você acredita que serão necessários para garantir que a IAG se desenvolva de uma maneira benéfica para a sociedade?

• Capacidade de alinhar fenômenos emergentes de maneira interpretável por humanos em múltiplas escalas espácio-temporais.
• Capacidade de entender em um nível mais profundo os conceitos subjacentes às “transições de fase espontâneas”.
• Capacidade de superar múltiplos problemas difíceis em detalhes para habilitar o processamento de verdadeiro multi-processamento por meio de superposições de estado.
• Transparência em todas as etapas.
• Tomada de decisão descentralizada baseada na construção de consenso.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar SingularityNET.