Redes Neurais Aprendem Melhor Imitando Padrões de Sono Humanos

Uma equipe de pesquisadores da Universidade da Califórnia – San Diego está explorando como redes neurais artificiais podem imitar padrões de sono do cérebro humano para mitigar o problema do esquecimento catastrófico. 

A pesquisa foi publicada em PLOS Computational Biology. 

Em média, os humanos necessitam de 7 a 13 horas de sono por 24 horas. Embora o sono relaxe o corpo de muitas maneiras, o cérebro ainda permanece muito ativo. 

Cérebro Ativo Durante o Sono

Maxim Bazhenov, PhD, é professor de medicina e pesquisador do sono na Universidade da Califórnia San Diego School of Medicine. 

“O cérebro está muito ocupado quando dormimos, repetindo o que aprendemos durante o dia,” diz Bazhenov. “O sono ajuda a reorganizar memórias e as apresenta de forma mais eficiente.”

Bazhenov e sua equipe publicaram trabalhos anteriores sobre como o sono constrói memória racional, que é a capacidade de lembrar associações arbitrárias ou indiretas entre objetos, pessoas ou eventos. Isso também protege contra o esquecimento de memórias antigas. 

O Problema do Esquecimento Catastrófico

Redes neurais artificiais tiram inspiração da arquitetura do cérebro humano para melhorar tecnologias e sistemas de IA. Embora essas tecnologias tenham conseguido alcançar desempenho superhumano na forma de velocidade computacional, elas têm uma limitação importante. Quando as redes neurais aprendem sequencialmente, novas informações sobrescrevem informações anteriores em um fenômeno conhecido como esquecimento catastrófico.

“Em contraste, o cérebro humano aprende continuamente e incorpora novos dados em conhecimentos existentes, e ele geralmente aprende melhor quando novos treinamentos são intercalados com períodos de sono para consolidação de memória,” diz Bazhenov. 

A equipe usou redes neurais de disparo que imitam artificialmente sistemas neurais naturais. Em vez de serem comunicados continuamente, as informações são transmitidas como eventos discretos, ou disparos, em certos pontos de tempo.

Imitando o Sono em Redes Neurais

Os pesquisadores descobriram que, quando as redes de disparo foram treinadas em novas tarefas com períodos off-line ocasionais imitando o sono, o problema do esquecimento catastrófico foi mitigado. Semelhante ao cérebro humano, os pesquisadores dizem que o “sono” permite que as redes rejam memórias antigas sem usar explicitamente dados de treinamento antigos. 

“Quando aprendemos novas informações, os neurônios disparam em uma ordem específica e isso aumenta as sinapses entre eles,” diz Bazhenov. “Durante o sono, os padrões de disparo aprendidos durante o nosso estado de vigília são repetidos espontaneamente. Isso é chamado de reativação ou reprodução. 

“A plasticidade sináptica, a capacidade de ser alterada ou moldada, ainda está presente durante o sono e pode aumentar ainda mais os padrões de peso sináptico que representam a memória, ajudando a prevenir o esquecimento ou a permitir a transferência de conhecimento de tarefas antigas para novas.” 

A equipe encontrou que, aplicando essa abordagem a redes neurais artificiais, ajudou as redes a evitar o esquecimento catastrófico. 

“Isso significou que essas redes puderam aprender continuamente, como humanos ou animais,” continua Bazhenov. “Entender como o cérebro humano processa informações durante o sono pode ajudar a aumentar a memória em sujeitos humanos. Aumentar os ritmos do sono pode levar a uma melhor memória. 

“Em outros projetos, usamos modelos de computador para desenvolver estratégias ótimas para aplicar estímulo durante o sono, como tons auditivos, que melhoram os ritmos do sono e melhoram o aprendizado. Isso pode ser particularmente importante quando a memória não é ótima, como quando a memória declina com o envelhecimento ou em condições como a doença de Alzheimer.”