El papel de tinyML en la habilitación de la visión por computadora en el borde – Líderes de opinión

Por: Davis Sawyer, Co-Fundador y Director de Producto, Deeplite

La visión por computadora tiene un gran potencial para mejorar nuestra vida diaria, y hay muchas aplicaciones y usos para ella. Algunos ejemplos incluyen:

• Timbres inteligentes para la seguridad del hogar ayudan a prevenir a los “piratas de porche” y los allanamientos. Según una investigación de I.H.S. Markit (publicada en SecurityInfoWatch) se esperaba que el número de cámaras de vigilancia globales alcanzara los mil millones en 2021. Solo en Estados Unidos, se esperaba que el número de cámaras alcanzara los 85 millones;
• En estacionamientos, las cámaras con capacidad de IA automatizan el seguimiento de los espacios de estacionamiento disponibles y ocupados para informar a los consumidores dónde están los espacios abiertos;
• Cámaras de salpicadero en camiones ahora leen los letreros de límite de velocidad y reducen dinámicamente la velocidad del camión para mejorar la seguridad;
• Y drones con cámaras conectadas están monitoreando áreas remotas y de difícil acceso, y pueden procesar imágenes y tomar decisiones en tiempo real.

Todas estas aplicaciones utilizan análisis de video inteligentes, impulsados por IA y aprendizaje automático (ML), para ver el video, utilizar la inteligencia para tomar decisiones y luego actuar.

La visión por computadora necesita más recursos en el borde

Sin embargo, al igual que muchas aplicaciones impulsadas por IA, la visión por computadora necesita explosiones de potencia de cálculo, memoria y energía para realizar su análisis complejo y tomar decisiones. Si bien esto está bien en un centro de datos con mucha potencia de cálculo, puede evitar el traslado de la IA al borde. En particular, los dispositivos pequeños que se encuentran lejos de los centros de datos corporativos y operan con baterías pequeñas necesitan una nueva generación de IA que sea más pequeña, rápida y “ligera” que los enfoques tradicionales. Y los dispositivos existentes necesitarán ser actualizados con nueva funcionalidad de IA + ML (visión por computadora) para seguir siendo viables y competitivos.

Nuevas mejoras impulsan las redes neuronales profundas

Hoy en día, las nuevas mejoras en la IA están haciendo que las redes neuronales profundas (DNN) sean más rápidas, más pequeñas y más eficientes en términos de energía, lo que ayuda a trasladar la IA de la nube y los centros de datos a los dispositivos de borde y sensores alimentados por baterías. Cuando se trata de la formación de modelos de IA, se ha documentado y discutido la huella de carbono asombrosa (es decir, la formación de un modelo de lenguaje de IA emite tanto CO2 como 5 automóviles durante su vida útil). Sin embargo, debemos entender qué es el impacto ambiental de la inferencia de modelo de IA y cómo reducir esta huella. Es aquí donde la optimización de modelos puede tener beneficios tremendos al reducir el costo económico y ambiental de las DNN.

tinyML permite la IA en dispositivos pequeños

Una de estas mejoras es tinyML, una poderosa nueva tendencia que permite que los dispositivos pequeños y alimentados por baterías utilicen aprendizaje automático avanzado para entregar visión por computadora y otras tareas de percepción. Facilita la inferencia de ML en dispositivos pequeños y con recursos limitados, generalmente en el borde de la nube, y ayuda a habilitar aplicaciones de borde más cerca del usuario.

Por ejemplo, una GPU de servidor como la NVIDIA A100 tiene más de 40 GB de memoria disponible, lo que es adecuado para ejecutar IA compleja como la visión por computadora y el procesamiento de lenguaje natural. Sin embargo, cuando hablamos de dispositivos de borde y tinyML, un microcontrolador (MCU) común puede tener solo 256 KB de memoria en chip, lo que es más de 100.000 veces menos memoria que la nube. Además, a diferencia de los centros de datos y la nube, el hardware de los dispositivos de borde no se puede actualizar fácilmente en el campo. Esto significa que debemos “ajustar” nuestra IA al hardware disponible, lo que puede tomar meses o años de prueba y error para los desarrolladores, si es que lo logran. Es aquí donde tinyML, en particular el aprendizaje automático automatizado (también llamado AutoML), puede desempeñar un papel importante en la eliminación de barreras para adoptar la IA en el mundo real.

Y la influencia de tinyML está creciendo. Con más de 10.000 miembros, la Fundación tinyML está creciendo el ecosistema para apoyar el desarrollo y la implementación de soluciones de aprendizaje automático de ultra baja potencia en el borde. La Fundación une a una comunidad global de hardware, software, aprendizaje automático, científicos de datos, ingenieros de sistemas, diseñadores, productos y empresarios.

Un mundo de oportunidades

En resumen, hay miles de millones de dispositivos pequeños y conectados en todas partes que pueden beneficiarse de una inteligencia avanzada. El desafío es que tienen recursos muy limitados, así que ¿cómo podemos agregar inteligencia a ellos? tinyML puede desempeñar un papel clave en la introducción de la IA y el ML en más aplicaciones de visión por computadora en el mundo real, en el borde, en dispositivos pequeños. Y esto puede desbloquear un mundo de beneficios para las personas y las empresas en una variedad de productos, servicios e industrias, lo que nos ayudará a avanzar hacia nuevos frentes para la IA.