Matthew Ikle, Chief Science Officer at SingularityNET – Interview Series

Matthew Ikle é o Chief Science Officer da SingularityNET, uma empresa fundada com a missão de criar uma Inteligência Artificial Geral (AGI) descentralizada, democrática, inclusiva e benéfica. Uma AGI que não depende de nenhuma entidade central, que está aberta a todos e não é restrita aos objetivos estreitos de uma única corporação ou mesmo de um único país.

A equipe da SingularityNET inclui engenheiros experientes, cientistas, pesquisadores, empreendedores e marketers. A plataforma central e as equipes de IA são complementadas por equipes especializadas em áreas de aplicação, como finanças, robótica, inteligência artificial biomédica, mídia, artes e entretenimento.

Dada sua extensa experiência e papel na SingularityNET, quão confiante você está de que alcançaremos a AGI até 2029 ou antes, como previsto pelo Dr. Ben Goertzel?

Vou responder a essa pergunta de uma forma um pouco indireta. 2029 é aproximadamente cinco anos a partir de agora. Muitos anos atrás (início-meados de 2010), eu era extremamente otimista sobre o progresso da AGI. Meu otimismo na época se baseava no nível de pensamento detalhado e convergência de ideias que eu testemunhei na pesquisa de AGI naquela época. Embora a maioria das grandes ideias daquela era, acredito, ainda tenha promessa, a dificuldade, como é muitas vezes o caso, vem de detalhar os detalhes dessas visões amplas.

Com essa ressalva em mente, agora há uma grande quantidade de novas informações, de numerousas disciplinas – neurociência, matemática, ciência da computação, psicologia, sociologia, você nomeia – que fornece não apenas os mecanismos para finalizar esses detalhes, mas também suporta conceitualmente os fundamentos daquele trabalho anterior. Estou vendo padrões, e em campos bastante divergentes, que todos parecem estar convergindo a uma taxa acelerada em direção a comportamentos análogos. De muitas maneiras, essa convergência me lembra do período de tempo anterior ao lançamento do primeiro iPhone. Para parafrasear Greg Meredith, que está trabalhando em nossa infraestrutura RhoLang para processamento concorrente seguro, os padrões que eu vejo nos dias de hoje estão relacionados a histórias de origem – como a primeira vida/célula começou na Terra? Como e quando a mente se formou? E questões relacionadas a transições de fase, por exemplo.

Por exemplo, há uma grande quantidade de novas pesquisas experimentais que tendem a apoiar as ideias subjacentes a uma visão de sistemas dinâmicos complexos. Os padrões de EEG de sujeitos humanos, por exemplo, exibem um comportamento notável em alinhamento com essa dinâmica de sistema. Esses resultados remetem a um trabalho anterior sobre teorias de consciência. Agora parece haver o início de um suporte experimental para essas ideias teóricas.

Na SingularityNET, estou pensando muito nas estruturas auto-similares que geram essas dinâmicas. Isso é bastante diferente, eu argumentaria, do que está acontecendo na maioria da pesquisa de DNN/GPT, embora haja certamente um reconhecimento entre certos pesquisadores mais fundamentais dessas ideias. Eu apontaria o papel “Consciência em Inteligência Artificial: Insights da Ciência da Consciência” lançado por 19 pesquisadores em agosto de 2023, por exemplo. Os pesquisadores abrangem uma variedade de disciplinas, incluindo estudos de consciência, pesquisa de segurança de IA, ciência cerebral, matemática, ciência da computação, psicologia, neurociência e neuroimagem, e pesquisa de mente e cognição. O que esses pesquisadores têm em comum é maior do que uma simples busca por melhorias incrementais arquitetônicas em DNNs, mas em vez disso estão focados em entender cientificamente as grandes ideias filosóficas subjacentes à cognição humana e como trazê-las para implementar sistemas de AGI reais.

Quais são os principais obstáculos tecnológicos ou filosóficos para alcançar a AGI dentro desta década?

Entender e responder a grandes perguntas filosóficas e científicas, incluindo:

• O que é vida? Podemos pensar que a resposta é clara, mas as definições biológicas se provaram problemáticas. Os vírus são “vivos”, por exemplo.
• O que é mente?
• O que é inteligência?
• Como a vida emergiu de alguns produtos químicos básicos em condições ambientais específicas? Como podemos replicar isso?
• Como a primeira “mente” emergiu? Quais ingredientes e condições permitiram isso?
• Como implementamos o que aprendemos ao investigar as cinco perguntas acima?
• Nossa tecnologia atual está à altura da tarefa de implementar nossas soluções? Se não, o que precisamos inventar e desenvolver?
• Quanto tempo e pessoal precisamos para implementar nossas soluções?

A SingularityNET vê a inteligência artificial neuro-simbólica como uma solução promissora para superar as limitações atuais da inteligência artificial gerativa. Pode explicar o que é inteligência artificial neuro-simbólica e como a SingularityNET planeja aproveitar essa abordagem para acelerar o desenvolvimento da AGI?

Historicamente, houve dois principais campos de pesquisadores de AGI, junto com um terceiro campo que mistura as ideias dos outros dois. Houveram pesquisadores que acreditam apenas em uma abordagem sub-simbólica. Esses dias, isso significa principalmente usar redes neurais profundas (DNNs) como modelos Transformer, incluindo os atuais modelos de linguagem grande (LLMs). Devido ao uso de redes neurais artificiais, as abordagens sub-simbólicas também são chamadas de métodos neurais. Em sistemas sub-simbólicos, o processamento é executado em nós idênticos e não rotulados (neurônios) e links (sinapses). Os proponentes simbólicos usam lógica de ordem superior e raciocínio simbólico, em que os nós e links são rotulados com significado conceitual e semântico. A SingularityNET segue uma terceira abordagem que seria mais precisamente descrita como um híbrido neuro-simbólico, aproveitando as forças das abordagens simbólicas e sub-simbólicas.

No entanto, é um híbrido específico, amplamente baseado na filosofia patternista da mente de Ben Goertzel e detalhado, entre muitos outros documentos, em seu texto “A Teoria Geral da Inteligência Geral: Uma Perspectiva Pragmática Patternista”.

Enquanto mucha da pesquisa atual de DNN e LLM se baseia em modelos neurais simplistas e algoritmos, a estratégia PRIMUS da SingularityNET se baseia em compreensões fundamentais de processos dinâmicos em múltiplas escalas espaço-temporais e como alinhar melhor esses processos para promover a emergência de propriedades desejadas em diferentes escalas. Tais compreensões nos permitem proceder para guiar a pesquisa e desenvolvimento de AGI de uma maneira compreensível para humanos.

Quais estruturas você acredita serem críticas para garantir que o desenvolvimento da AGI beneficie toda a humanidade? Como plataformas de IA descentralizadas, como a SingularityNET, podem promover um processo mais equitativo e transparente em comparação com modelos de IA centralizados?

Todos os tipos de ideias aqui:

Transparência — Embora nada seja perfeito, garantir a transparência completa do processo de tomada de decisão pode ajudar todos os envolvidos (pesquisadores, desenvolvedores, usuários e não usuários) a alinhar, guiar, entender e melhor lidar com o desenvolvimento da AGI para o benefício da humanidade. Isso é semelhante ao problema de viés, que vou tocar abaixo.

Descentralização – Embora a descentralização possa ser confusa, ela pode ajudar a garantir que o poder seja compartilhado mais amplamente. Não é, em si, uma panaceia, mas uma ferramenta que, se usada corretamente, pode ajudar a criar processos e resultados mais equitativos.

Tomada de decisão baseada em consenso – A descentralização e a tomada de decisão baseada em consenso podem trabalhar juntas na busca de processos e resultados mais equitativos. Novamente, elas não garantem sempre a equidade. Há também complexidades que precisam ser abordadas aqui em termos de reputação e áreas de especialização. Por exemplo, como podemos melhor equilibrar características desejadas conflitantes? Vejo a transparência, a descentralização e a tomada de decisão baseada em consenso como apenas três ferramentas criticamente importantes que podem ser usadas para guiar o desenvolvimento da AGI para o benefício da humanidade.

Alinhamento espaço-temporal de fenômenos emergentes em múltiplas escalas, desde a extraordinariamente pequena até a inordinariamente grande. Ao desenvolver a AGI, acredito que é importante não apenas confiar em uma abordagem única de “caixa preta” na qual se espera obter tudo correto desde o início. Em vez disso, acredito que projetar a AGI com compreensões fundamentais em várias etapas de desenvolvimento e em múltiplas escalas pode não apenas tornar mais provável alcançar a AGI, mas, mais importante, guiar esse desenvolvimento em alinhamento com os valores humanos.

A SingularityNET é uma plataforma de IA descentralizada. Como você vê a interseção da tecnologia de blockchain e AGI evoluindo, particularmente em relação à segurança, governança e controle descentralizado?

A blockchain certamente tem um papel a desempenhar no controle, segurança e governança da IA. Uma das maiores forças da blockchain é sua capacidade de promover a transparência. A questão do viés é um excelente exemplo disso. Eu argumentaria que cada pessoa e cada conjunto de dados é tendencioso. Tenho meus próprios vieses pessoais, por exemplo, sobre o que acredito ser necessário para alcançar uma AGI verdadeiramente segura, benéfica e benevolente. Esses vieses foram forjados por meus estudos e background e guiam meu próprio trabalho.

Ao mesmo tempo, tento ser completamente aberto a ideias que conflitam com meus vieses e estou disposto a ajustar meus vieses com base em novas evidências. Independentemente, tento ser aberto e transparente em relação a meus vieses e, em seguida, condicionar minhas ideias e decisões com base em uma compreensão autorreflexiva desses vieses. É complicado, é difícil, mas, acredito, melhor do que não reconhecer meus próprios vieses. A blockchain, por sua natureza, permite um melhor e transparente rastreamento, rastreio e verificação de processos e eventos. De uma maneira semelhante à que descrevi anteriormente, a transparência é um componente necessário, mas não sempre suficiente, para segurança, governança e controle descentralizado.

Como a blockchain e a AGI coevoluem é uma pergunta interessante. Para que as duas tecnologias interajam em direção a uma singularidade positiva, parece claro que as características fundamentais que continuo apontando (transparência, descentralização, consenso e alinhamento de valores), são centrais e críticas e devem ser mantidas em mente em todas as etapas de sua coevolução.

Como um líder que esteve intimamente envolvido em ambos os campos de IA e blockchain, o que você acredita serem os fatores mais importantes para fomentar a colaboração entre esses dois campos, e como isso pode impulsionar a inovação na AGI?

Venho do lado da IA/AGI desse par. Como é muitas vezes o caso quando se integram ideias interdisciplinares, muito se resume a questões de linguagem e comunicação. Todos os grupos precisam ouvir uns aos outros para melhor entender como as tecnologias podem ajudar umas às outras. No meu trabalho na SingularityNET, isso tem sido uma luta constante. Pesquisadores de alto nível, que é uma subestimação dizer que a SingularityNET tem em abundância, muitas vezes têm concepções mentais claras de grandes ideias. Ao trabalhar em fronteiras disciplinares, a parte difícil é perceber que nem todos estão “na sua cabeça”. O que um leva por certo, não será tão claramente observado por aqueles em outros campos. Mesmo palavras usadas em comum podem ser usadas de maneira diferente em diferentes campos de estudo. Houve um caso recente em nosso trabalho de BioIA, no qual biólogos estavam usando um termo matemático, mas não inteiramente corretamente em termos de sua definição matemática. Uma vez que essas situações sejam claramente compreendidas, a equipe pode avançar com um propósito comum, para que a integração realmente prove que o todo é maior do que a soma de suas partes.

Como você vê as indústrias de IA e blockchain trabalhando em direção a uma maior diversidade e inclusão, e qual é o papel da SingularityNET na promoção desses valores?

A IA e a blockchain podem desempenhar papéis importantes no aprimoramento dos esforços de diversificação e inclusão. Embora eu acredite que é impossível remover todos os vieses – muitos vieses se formam simplesmente por meio de experiências de vida –, uma pessoa pode ser aberta e transparente sobre seus vieses. Isso é algo que ativamente busco fazer em meu próprio trabalho, que é tendencioso por meu background acadêmico, então vejo problemas por meio de uma lente de dinâmica de sistemas complexos. Ainda assim, busco ser aberto e entender ideias e analogias de outras perspectivas. A IA pode ser usada para ajudar nesse processo de auto-reflexão, e a blockchain certamente pode ajudar com a transparência. A SingularityNET pode desempenhar um papel enorme ao hospedar ferramentas para detectar, medir e remover, tanto quanto possível, vieses em conjuntos de dados.

Como o trabalho da SingularityNET em ecossistemas de IA descentralizados contribui para resolver desafios globais, como sustentabilidade, educação e criação de empregos, especialmente em regiões como a África, onde você tem um interesse especial?

 Sustentabilidade:

• Aplique a IA e os modelos de sistema para resolver problemas complexos de ecossistemas em grande escala.
• Monitore essas soluções em grande escala.
• Use a blockchain para rastrear, rastrear e verificar essas soluções.
• Use uma combinação de IA, modelos de ecossistemas, dados hiper-locais e blockchain, ideamos soluções completas para mineração artesanal na África e seqüestro de carbono agrícola em grande escala.

Educação:

Como um ex-professor titular de matemática e ciência da computação, a educação é extremamente importante para mim, especialmente porque fornece oportunidades para populações estudantis subatendidas. É importante:

• Melhorar a acessibilidade, desenvolvendo cursos híbridos para atingir estudantes que podem enfrentar restrições geográficas, financeiras ou de tempo.
• Promover a diversidade e a inclusão, aumentando a participação de populações subatendidas em IA, blockchain e outras tecnologias avançadas.
• Fomentar o conhecimento interdisciplinar, criando cursos que conectam campos acadêmicos e profissionais.
• Apoiar o avanço na carreira, fornecendo habilidades e certificações que sejam diretamente aplicáveis ao mercado de trabalho.

Vejo tanto a AGI quanto a blockchain, e suas sinergias, desempenhando papéis críticos no atendimento desses objetivos dentro de programas de estilo “aprendizado a mestria” centrados em aprendizado baseado em projetos práticos.

Criação de Empregos:

Fomentando os quatro objetivos educacionais acima, parece-me que a AGI, a blockchain e outras tecnologias avançadas, combinadas com colaborações positivas entre professores e aprendizes, poderiam encorajar e gerar inteiras novas tecnologias e negócios.

Como alguém comprometido em alcançar uma singularidade positiva, quais são os marcos ou avanços específicos na tecnologia de IA que você acredita serem necessários para garantir que a AGI se desenvolva de uma maneira benéfica para a sociedade?

• Capacidade de alinhar fenômenos emergentes de maneira interpretável por humanos em múltiplas escalas espaço-temporais.
• Capacidade de entender em um nível mais profundo os conceitos subjacentes às “transições de fase espontâneas”.
• Capacidade de superar múltiplos problemas difíceis em detalhes finos para permitir o verdadeiro processamento multi-threading por meio de superposições de estado.
• Transparência em todas as etapas.
• Tomada de decisão descentralizada baseada na construção de consenso.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar SingularityNET.