Como podemos usar Aprendizado Profundo com Dados Pequenos? – Líderes de Pensamento

Quando se trata de acompanhar as tendências emergentes de cibersegurança, o processo de manter-se atualizado sobre os desenvolvimentos recentes pode se tornar bastante tedioso, pois há muitas notícias para acompanhar. Nos dias de hoje, no entanto, a situação mudou drasticamente, pois os domínios de cibersegurança parecem girar em torno de duas palavras: aprendizado profundo.

Embora tenhamos sido inicialmente pegos de surpresa pela grande cobertura que o aprendizado profundo estava recebendo, logo ficou claro que o burburinho gerado pelo aprendizado profundo era bem merecido. De forma semelhante ao cérebro humano, o aprendizado profundo permite que um modelo de IA alcance resultados altamente precisos, realizando tarefas diretamente a partir de textos, imagens e sinais de áudio.

Até este ponto, era amplamente acreditado que o aprendizado profundo depende de um grande conjunto de dados, semelhante à magnitude de dados armazenados pelos gigantes do Vale do Silício, Google e Facebook, para atingir o objetivo de resolver os problemas mais complexos dentro de uma organização. Contrariamente à crença popular, no entanto, as empresas podem aproveitar o poder do aprendizado profundo, mesmo com acesso a um conjunto de dados limitado.

Em uma tentativa de ajudar nossos leitores com o conhecimento necessário para equipar sua organização com aprendizado profundo, compilamos um artigo que mergulha fundo (sem intenção de fazer piada) em algumas das maneiras pelas quais as empresas podem utilizar os benefícios do aprendizado profundo, apesar de terem acesso a dados limitados ou “pequenos”.

Mas antes de podermos entrar no cerne do artigo, gostaríamos de fazer uma sugestão pequena, mas altamente essencial: comece simples. Antes de formular redes neurais complexas o suficiente para figurar em um filme de ficção científica, comece experimentando com alguns modelos simples e convencionais (por exemplo, random forest) para se familiarizar com o software.

Com isso fora do caminho, vamos direto para algumas das maneiras pelas quais as empresas podem incorporar a tecnologia de aprendizado profundo enquanto têm acesso a dados limitados.

#1 – Ajuste fino do modelo de base:

Como já mencionamos acima, o primeiro passo que as empresas precisam dar após terem formulado um modelo de base de aprendizado profundo simples é ajustá-lo para o problema específico em questão.

No entanto, ajustar um modelo de base soa mais difícil no papel do que na prática. A ideia fundamental por trás do ajuste de um grande conjunto de dados para atender às necessidades específicas de uma empresa é simples: você pega um grande conjunto de dados que tenha alguma semelhança com o domínio em que atua e, em seguida, ajusta os detalhes do conjunto de dados original com seus dados limitados.

Quanto à obtenção do grande conjunto de dados, os proprietários de empresas podem confiar no ImageNet, que também fornece uma solução fácil para qualquer problema de classificação de imagens. O conjunto de dados hospedado pelo ImageNet permite que as organizações acessem milhões de imagens, divididas em várias classes de imagens, o que pode ser útil para empresas de uma ampla variedade de domínios, incluindo, mas não limitado a, imagens de animais, etc.

Se o processo de ajuste de um modelo pré-treinado para atender às necessidades específicas da sua organização ainda parecer muito trabalho para você, recomendamos procurar ajuda na internet, pois uma simples pesquisa no Google fornecerá centenas de tutoriais sobre como ajustar um conjunto de dados.

#2 – Coletar mais dados:

Embora o segundo ponto em nossa lista possa parecer redundante para alguns de nossos leitores mais céticos, o fato é que, quando se trata de aprendizado profundo, quanto maior for o seu conjunto de dados, mais provável será que você alcance resultados mais precisos.

Embora a essência deste artigo seja fornecer às empresas um conjunto de dados limitado, já tivemos o desprazer de encontrar muitos “superiores” que tratam o investimento na coleta de dados como se estivessem cometendo um pecado capital.

É comum que as empresas ignorem os benefícios oferecidos pelo aprendizado profundo simplesmente porque são relutantes em investir tempo e esforço na coleta de dados. Se a sua empresa não tem certeza sobre a quantidade de dados que precisa coletar, sugerimos plotar curvas de aprendizado, à medida que os dados adicionais são integrados ao modelo, e observar a mudança no desempenho do modelo.

Contrariamente à crença popular mantida por muitos CSO e CISO, às vezes a melhor maneira de resolver problemas é por meio da coleta de mais dados relevantes. O papel do CSO e CISO é extremamente importante neste caso, pois sempre há a ameaça de ataques cibernéticos. Foi constatado que, em 2019, o gasto total global em cibersegurança atingiu $103,1 bilhões, e o número continua a crescer. Para colocar isso em perspectiva, vamos considerar um exemplo simples: imagine que você estivesse tentando classificar diamantes raros, mas tem acesso a um conjunto de dados muito limitado. Como a solução mais óbvia para o problema, em vez de se divertir com o modelo de base, basta coletar mais dados!

#3 – Aumento de dados:

Embora os dois primeiros pontos que discutimos acima sejam ambos altamente eficazes para fornecer uma solução fácil para a maioria dos problemas que cercam a implementação do aprendizado profundo em empresas com um conjunto de dados pequeno, eles dependem fortemente de um certo nível de sorte para resolver o problema.

Se você não tiver sucesso com o ajuste de um conjunto de dados pré-existente, recomendamos tentar o aumento de dados. A ideia por trás do aumento de dados é simples: o conjunto de dados de entrada é alterado ou aumentado de tal forma que fornece uma nova saída, sem alterar o valor da etiqueta.

Para colocar a ideia de aumento de dados em perspectiva para nossos leitores, vamos considerar uma imagem de um cão. Quando rotacionada, o observador da imagem ainda poderá dizer que é uma imagem de um cão. É exatamente o que o aumento de dados bem-sucedido busca alcançar, em comparação com uma imagem rotacionada de uma estrada, que muda o ângulo de elevação e deixa muito espaço para o algoritmo de aprendizado profundo chegar a uma conclusão incorreta e derrotar o propósito de implementar aprendizado profundo.

Quando se trata de resolver problemas relacionados à classificação de imagens, o aumento de dados desempenha um papel fundamental no campo e hospeda uma variedade de técnicas de aumento de dados que ajudam o modelo de aprendizado profundo a obter uma compreensão profunda das diferentes classificações de imagens.

Além disso, quando se trata de aumentar dados, as possibilidades são virtualmente infinitas. As empresas podem implementar o aumento de dados de várias maneiras, que incluem NLP e experimentação de GANs, o que permite que o algoritmo gere novos dados.

#4 – Implementação do efeito de ensemble:

A tecnologia por trás do aprendizado profundo dicta que a rede é construída sobre múltiplas camadas. No entanto, contrariamente à crença popular mantida por muitos, em vez de ver cada camada como uma “hierarquia em constante aumento” de recursos, a camada final serve ao propósito de oferecer um mecanismo de ensemble.

A crença de que as empresas com acesso a um conjunto de dados limitado ou pequeno devem optar por construir suas redes profundas foi compartilhada em um artigo da NIPs, que espelhava a crença que expressamos acima. As empresas com dados pequenos podem facilmente manipular o efeito de ensemble em seu favor, simplesmente construindo suas redes de aprendizado profundo profundas, por meio do ajuste fino ou alguma outra alternativa.

#5 – Incorporação de autoencoders:

Embora o quinto ponto que consideramos tenha recebido apenas um nível relativo de sucesso, ainda estamos a favor do uso de autoencoders para pré-treinar uma rede e inicializá-la corretamente.

Uma das principais razões, além dos ataques cibernéticos, pelas quais as empresas falham em superar os obstáculos iniciais da integração do aprendizado profundo é a inicialização ruim, e seus muitos armadilhas. O pré-treinamento não supervisionado muitas vezes leva a uma execução pobre ou incorreta da tecnologia de aprendizado profundo, e é aí que os autoencoders podem brilhar.

A noção fundamental por trás de uma rede neural dicta a criação de uma rede neural que preveja a natureza do conjunto de dados de entrada. Se você não souber como usar um autoencoder, há vários tutoriais online que fornecem instruções claras.

Conclusão:

No final do artigo, gostaríamos de reembolsar o que dissemos ao longo do artigo, com uma adição – incorporando conhecimento específico do domínio ao processo de aprendizado! Não apenas a incorporação de insights valiosos acelera o processo de aprendizado, mas também permite que a tecnologia de aprendizado profundo produza resultados melhores e mais precisos.