Cómo podemos utilizar el aprendizaje profundo con poca datos – Líderes de pensamiento

Cuando se trata de mantenerse al día con las tendencias emergentes de ciberseguridad, el proceso de estar al tanto de los últimos desarrollos puede ser bastante tedioso, ya que hay mucha información para seguir. Sin embargo, en la actualidad, la situación ha cambiado dramáticamente, ya que los ámbitos de la ciberseguridad parecen girar en torno a dos palabras: aprendizaje profundo.

Aunque inicialmente nos sorprendió la gran cobertura que recibió el aprendizaje profundo, pronto se hizo evidente que el revuelo generado por el aprendizaje profundo estaba bien merecido. De manera similar al cerebro humano, el aprendizaje profundo permite que un modelo de inteligencia artificial logre resultados muy precisos, realizando tareas directamente a partir de textos, imágenes y señales de audio.

Hasta este punto, se creía ampliamente que el aprendizaje profundo depende de un gran conjunto de datos, similar en magnitud a los datos alojados por los gigantes de Silicon Valley como Google y Facebook para lograr el objetivo de resolver los problemas más complicados dentro de una organización. Contrariamente a la creencia popular, sin embargo, las empresas pueden aprovechar el poder del aprendizaje profundo, incluso con acceso a un conjunto de datos limitado.

Con el fin de ayudar a nuestros lectores con los conocimientos necesarios para equipar a su organización con aprendizaje profundo, hemos compilado un artículo que profundiza (sin intención de hacer un juego de palabras) en algunas de las formas en que las empresas pueden utilizar los beneficios del aprendizaje profundo a pesar de tener acceso a un conjunto de datos limitado o “pequeño”.

Pero antes de que podamos entrar en la parte principal del artículo, nos gustaría hacer una pequeña sugerencia esencial: comience de manera sencilla. Sin embargo, antes de empezar a formular redes neuronales lo suficientemente complejas como para aparecer en una película de ciencia ficción, comience experimentando con algunos modelos simples y convencionales (por ejemplo, bosque aleatorio) para familiarizarse con el software.

Con eso dicho, vamos directamente a algunas de las formas en que las empresas pueden combinar la tecnología de aprendizaje profundo mientras tienen acceso a un conjunto de datos limitado.

#1- Perfeccionar el modelo base:

Como ya mencionamos anteriormente, el primer paso que las empresas deben tomar después de haber formulado un modelo base de aprendizaje profundo simple es perfeccionarlo para el problema específico que se está abordando.

Sin embargo, perfeccionar un modelo base suena más difícil en el papel de lo que realmente es. La idea fundamental detrás de perfeccionar un gran conjunto de datos para satisfacer las necesidades específicas de una empresa es simple: se toma un gran conjunto de datos que tiene alguna similitud con el dominio en el que se opera, y luego se perfeccionan los detalles del conjunto de datos original con los datos limitados.

En cuanto a la obtención del gran conjunto de datos, los propietarios de empresas pueden confiar en ImageNet, que también proporciona una solución fácil para cualquier problema de clasificación de imágenes. El conjunto de datos alojado por ImageNet permite a las organizaciones acceder a millones de imágenes, que se dividen en múltiples clases de imágenes, lo que puede ser útil para empresas de una amplia variedad de dominios, incluyendo, pero no limitado a, imágenes de animales, etc.

Si el proceso de perfeccionar un modelo preentrenado para satisfacer las necesidades específicas de su organización todavía parece demasiado trabajo para usted, le recomendamos buscar ayuda en Internet, ya que una simple búsqueda en Google le proporcionará cientos de tutoriales sobre cómo perfeccionar un conjunto de datos.

#2- Recopilar más datos:

Aunque el segundo punto de nuestra lista puede parecer redundante para algunos de nuestros lectores más cínicos, el hecho es que, cuando se trata de aprendizaje profundo, cuanto más grande sea el conjunto de datos, más probable es que se logren resultados más precisos.

Aunque la esencia de este artículo radica en proporcionar a las empresas un conjunto de datos limitado, hemos tenido el disgusto de encontrar a demasiados “altos mandos” que tratan la inversión en la recopilación de datos como si estuvieran cometiendo un pecado cardinal.

Es demasiado común que las empresas pasen por alto los beneficios que ofrece el aprendizaje profundo simplemente porque están reacios a invertir tiempo y esfuerzo en la recopilación de datos. Si su empresa no está segura de la cantidad de datos que necesita recopilar, le sugerimos trazar curvas de aprendizaje, a medida que se integran los datos adicionales en el modelo, y observar el cambio en el rendimiento del modelo.

Contrariamente a la creencia popular mantenida por la mayoría de los CSO y CISO, a veces la mejor manera de resolver problemas es a través de la recopilación de más datos relevantes. El papel de CSO y CISO es extremadamente importante en este caso, ya que siempre hay una amenaza de ciberataques. Se ha encontrado que en 2019, el gasto total global en ciberseguridad alcanzó $103.1 mil millones, y el número sigue aumentando. Para poner esto en perspectiva, consideremos un ejemplo sencillo: imagine que estaba tratando de clasificar diamantes raros, pero tiene acceso a un conjunto de datos muy limitado. Como la solución más obvia al problema dicta, en lugar de tener un día de campo con el modelo base, ¡simplemente recopile más datos!

#3- Ampliación de datos:

Aunque los dos primeros puntos que hemos discutido anteriormente son ambos altamente eficaces para proporcionar una solución fácil a la mayoría de los problemas que rodean la implementación del aprendizaje profundo en empresas con un conjunto de datos pequeño, dependen en gran medida de un cierto nivel de suerte para lograr el trabajo.

Si no puede tener éxito con el perfeccionamiento de un conjunto de datos preexistente, le recomendamos intentar la ampliación de datos. La forma en que se realiza la ampliación de datos es simple. A través del proceso de ampliación de datos, el conjunto de datos de entrada se altera o se amplía de tal manera que produce una nueva salida, sin cambiar realmente el valor de la etiqueta.

Para poner la idea de la ampliación de datos en perspectiva para nuestros lectores, consideremos una imagen de un perro. Cuando se rota, el espectador de la imagen todavía podrá decir que es una imagen de un perro. Esto es exactamente lo que la buena ampliación de datos pretende lograr, en comparación con una imagen girada de una carretera, que cambia el ángulo de elevación y deja mucho espacio para que el algoritmo de aprendizaje profundo llegue a una conclusión incorrecta y derrote el propósito de implementar el aprendizaje profundo en primer lugar.

Cuando se trata de resolver problemas relacionados con la clasificación de imágenes, la ampliación de datos desempeña un papel clave en el campo y alberga una variedad de técnicas de ampliación de datos que ayudan al modelo de aprendizaje profundo a obtener una comprensión profunda de las diferentes clasificaciones de imágenes.

Además, cuando se trata de ampliar datos, las posibilidades son virtualmente ilimitadas. Las empresas pueden implementar la ampliación de datos de diversas maneras, que incluyen NLP y la experimentación de GAN, lo que permite al algoritmo generar nuevos datos.

#4- Implementar un efecto de ensamblaje:

La tecnología detrás del aprendizaje profundo dicta que la red se construye sobre múltiples capas. Sin embargo, contrariamente a la creencia popular mantenida por muchos, en lugar de ver cada capa como una “jerarquía cada vez mayor” de características, la capa final sirve como un mecanismo de ensamblaje.

La creencia de que las empresas con acceso a un conjunto de datos limitado o “pequeño” deben optar por construir sus redes profundas fue compartida en un documento de NIPs, que reflejó la creencia que hemos expresado anteriormente. Las empresas con datos pequeños pueden manipular fácilmente el efecto de ensamblaje a su favor, simplemente construyendo sus redes de aprendizaje profundo de manera profunda, a través del perfeccionamiento o alguna otra alternativa.

#5- Incorporar autoencoders:

Aunque el quinto punto que hemos considerado tiene un éxito relativo, todavía estamos a favor del uso de autoencoders para preentrenar una red y inicializarla correctamente.

Una de las razones principales, aparte de los ciberataques, por las que las empresas no logran superar los obstáculos iniciales de integrar el aprendizaje profundo es debido a una mala inicialización y sus muchas trampas. El preentrenamiento no supervisado a menudo conduce a una ejecución pobre o incorrecta de la tecnología de aprendizaje profundo, lo que es donde los autoencoders pueden brillar.

La noción fundamental detrás de una red neuronal dicta la creación de una red neuronal que predice la naturaleza del conjunto de datos que se ingresa. Si no está seguro de cómo usar un autoencoder, hay varios tutoriales en línea que dan instrucciones claras.

Para concluir:

Al final del artículo, nos gustaría reembolsar lo que hemos dicho a lo largo del artículo, con una adición: incorporar conocimientos específicos del dominio en el proceso de aprendizaje. No solo la incorporación de conocimientos valiosos acelera el proceso de aprendizaje, sino que también permite que la tecnología de aprendizaje profundo produzca mejores y más precisos resultados.