Redes Neurais Aprendem Melhor Imitando Padrões de Sono Humanos

Uma equipe de pesquisadores da Universidade da Califórnia – San Diego está explorando como redes neurais artificiais podem imitar padrões de sono do cérebro humano para mitigar o problema do esquecimento catastrófico.

A pesquisa foi publicada em PLOS Computational Biology.

Em média, os humanos precisam de 7 a 13 horas de sono a cada 24 horas. Embora o sono relaxe o corpo de muitas maneiras, o cérebro ainda permanece muito ativo.

Cérebro Ativo Durante o Sono

Maxim Bazhenov, PhD, é professor de medicina e pesquisador do sono na Escola de Medicina da Universidade da Califórnia em San Diego.

“O cérebro está muito ocupado quando dormimos, repetindo o que aprendemos durante o dia”, diz Bazhenov. “O sono ajuda a reorganizar as memórias e as apresenta da maneira mais eficiente.”

Bazhenov e sua equipe publicaram trabalhos anteriores sobre como o sono constrói a memória racional, que é a capacidade de lembrar associações arbitrárias ou indiretas entre objetos, pessoas ou eventos. Isso também protege contra o esquecimento de memórias antigas.

O Problema do Esquecimento Catastrófico

Redes neurais artificiais tiram inspiração da arquitetura do cérebro humano para melhorar as tecnologias e sistemas de IA. Embora essas tecnologias tenham conseguido alcançar um desempenho super-humano na forma de velocidade computacional, elas têm uma limitação importante. Quando as redes neurais aprendem sequencialmente, as novas informações sobrescrevem as informações anteriores em um fenômeno conhecido como esquecimento catastrófico.

“Em contraste, o cérebro humano aprende continuamente e incorpora novos dados ao conhecimento existente, e ele geralmente aprende melhor quando o novo treinamento é intercalado com períodos de sono para consolidação da memória”, diz Bazhenov.

A equipe usou redes neurais de disparo que imitam artificialmente sistemas neurais naturais. Em vez de serem comunicadas continuamente, as informações são transmitidas como eventos discretos, ou disparos, em certos pontos de tempo.

Imitando o Sono em Redes Neurais

Os pesquisadores descobriram que, quando as redes de disparo foram treinadas em novas tarefas com períodos off-line ocasionais imitando o sono, o problema do esquecimento catastrófico foi mitigado. Semelhante ao cérebro humano, os pesquisadores dizem que o “sono” permite que as redes repliquem memórias antigas sem usar explicitamente os dados de treinamento antigos.

“Quando aprendemos novas informações, os neurônios disparam em uma ordem específica e isso aumenta as sinapses entre eles”, diz Bazhenov. “Durante o sono, os padrões de disparo aprendidos durante o nosso estado de vigília são repetidos espontaneamente. Isso é chamado de reativação ou replay.

“A plasticidade sináptica, a capacidade de ser alterada ou moldada, ainda está presente durante o sono e pode aumentar ainda mais os padrões de peso sináptico que representam a memória, ajudando a prevenir o esquecimento ou a permitir a transferência de conhecimento de tarefas antigas para novas.”

A equipe encontrou que, aplicando essa abordagem a redes neurais artificiais, ajudou as redes a evitar o esquecimento catastrófico.

“Isso significava que essas redes podiam aprender continuamente, como humanos ou animais”, continua Bazhenov. “Entender como o cérebro humano processa informações durante o sono pode ajudar a aumentar a memória em sujeitos humanos. Aumentar os ritmos do sono pode levar a uma melhor memória.

“Em outros projetos, usamos modelos computacionais para desenvolver estratégias ótimas para aplicar estímulo durante o sono, como tons auditivos, que melhoram os ritmos do sono e aprimoram o aprendizado. Isso pode ser particularmente importante quando a memória não é ótima, como quando a memória declina com o envelhecimento ou em algumas condições, como a doença de Alzheimer.”