Especialistas Superam Grande Obstáculo na Tecnologia de IA Usando Mecanismo do Cérebro

Um grupo de especialistas em inteligência artificial (IA) de várias instituições superou um “grande obstáculo de longa data para aumentar as capacidades de IA”. A equipe se voltou para o cérebro humano, o que é comum em muitos desenvolvimentos de IA. Especificamente, a equipe se concentrou no mecanismo de memória do cérebro humano conhecido como “repetição”.

Gido van de Ven é o primeiro autor e um pesquisador pós-doutorado. Ele foi acompanhado pelo investigador principal Andreas Tolias, em Baylor, e por Hava Siegelmann, em UMass Amherst.

A pesquisa foi publicada em Nature Communications.

O Novo Método

De acordo com os pesquisadores, eles desenvolveram um novo método que protege eficientemente as redes neurais profundas do “esquecimento catastrófico”. Quando uma rede neural aprende algo novo, ela pode esquecer o que foi aprendido anteriormente.

Esse obstáculo é o que impede muitos avanços em IA.

“Uma solução seria armazenar exemplos anteriormente encontrados e revisitá-los quando se aprende algo novo. Embora tal ‘repetição’ ou ‘repetição’ resolva o esquecimento catastrófico, retreinar constantemente em todas as tarefas anteriormente aprendidas é altamente ineficiente e a quantidade de dados que teria que ser armazenada se torna rapidamente inadministrável”, escreveram os pesquisadores.

O Cérebro Humano

Os pesquisadores se inspiraram no cérebro humano, pois ele é capaz de construir informações sem esquecer, o que não é o caso das redes neurais de IA. O desenvolvimento atual foi baseado em trabalhos anteriores realizados pelos pesquisadores, incluindo descobertas sobre um mecanismo no cérebro que se acredita ser responsável por prevenir que as memórias sejam esquecidas. Esse mecanismo é a repetição de padrões de atividade neural.

De acordo com Siegelmann, o grande desenvolvimento vem do “reconhecimento de que a repetição no cérebro não armazena dados”, mas “o cérebro gera representações de memórias em um nível alto, mais abstrato, sem a necessidade de gerar memórias detalhadas”.

Siegelmann tomou essa informação e se juntou a seus colegas para desenvolver uma repetição semelhante ao cérebro com inteligência artificial, onde não há dados armazenados. Como é o caso do cérebro humano, a rede artificial pega o que viu antes para gerar representações de alto nível.

O método foi altamente eficiente, com apenas algumas representações geradas sendo repetidas, resultando em memórias mais antigas sendo lembradas enquanto novas eram aprendidas. A repetição geradora é eficaz na prevenção do esquecimento catastrófico, e um dos principais benefícios é que permite que o sistema generalize de uma situação para outra.

De acordo com van de Ven, “Se nossa rede com repetição geradora primeiro aprende a separar gatos de cães e, em seguida, a separar ursos de raposas, ela também dirá gatos de raposas sem ser especificamente treinada para fazer isso. E notavelmente, quanto mais o sistema aprende, melhor ele se torna em aprender novas tarefas”.

“Propomos uma nova variante de repetição inspirada no cérebro, na qual representações internas ou ocultas são repetidas, geradas pelas próprias conexões de feedback moduladas pelo contexto da rede”, escreve a equipe. “Nosso método alcançou um desempenho de ponta em benchmarks de aprendizado contínuo desafiadores sem armazenar dados, e fornece um novo modelo para a repetição abstrata no cérebro”.

“Nosso método faz várias previsões interessantes sobre a forma como a repetição pode contribuir para a consolidação da memória no cérebro”, continua Van de Ven. “Já estamos executando um experimento para testar algumas dessas previsões”.