El papel de tinyML en la habilitación de la visión artificial en el perímetro: líderes de opinión

Por: Davis Sawyer, cofundador y director de productos, Profundo

La visión por computadora tiene un gran potencial para mejorar nuestra vida cotidiana, y existen muchas aplicaciones y usos para ella. Algunos ejemplos incluyen:

• Timbres inteligentes para la seguridad del hogar ayuda a prevenir los "piratas del porche" y los allanamientos. Según una investigación de IHS Markit (publicado en SecurityInfoWatch) se esperaba que la cantidad de cámaras de vigilancia globales en todo el mundo alcanzara los mil millones en 2021. Solo en los EE. UU., se esperaba que la cantidad de cámaras alcanzara los 85 millones;
• In estacionamientos, las cámaras habilitadas para IA automatizan el seguimiento de los lugares de estacionamiento disponibles y ocupados para que los consumidores sepan dónde están los espacios abiertos;
• Cámaras de salpicadero en los camiones ahora leen las señales de límite de velocidad y reducen dinámicamente la velocidad del camión para mejorar la seguridad;
• Y drones con cámaras conectadas están monitoreando áreas remotas y de difícil acceso, y pueden procesar imágenes y tomar decisiones en tiempo real.

Todas estas aplicaciones utilizan análisis de vídeo inteligentes, impulsados ​​por IA y aprendizaje automático (ML), para ver vídeos, utilizar inteligencia para tomar decisiones y luego actuar.

Computer Vision necesita más recursos en el perímetro

Sin embargo, al igual que muchas aplicaciones impulsadas por IA, la visión por computadora necesita ráfagas de poder de cómputo, memoria y energía para realizar su análisis complejo y tomar decisiones. Si bien esto está bien en un centro de datos con mucha potencia informática, puede evitar el movimiento de la IA al límite. Específicamente, los dispositivos pequeños que están ubicados lejos de los centros de datos corporativos y funcionan con baterías pequeñas necesitan una nueva generación de IA que sea más pequeña, más rápida y "más liviana" que los enfoques tradicionales. Y los dispositivos existentes deberán actualizarse con la nueva funcionalidad AI + ML (visión por computadora) para seguir siendo viables y competitivos.

Nuevos avances impulsan las redes neuronales profundas

Hoy en día, los nuevos avances en IA están haciendo que las redes neuronales profundas (DNN) sean más rápidas, más pequeñas y más eficientes energéticamente, y ayudan a mover la IA de la nube y los centros de datos a dispositivos periféricos y sensores alimentados por batería. Cuando se trata de la capacitación del modelo de IA, la asombrosa huella de carbono ha sido documentada y discutida (es decir, la capacitación de un modelo de lenguaje de IA emite tanto CO2 como 5 coches a lo largo de su vida). Sin embargo, necesitamos entender cuál es el impacto ambiental de Inferencia del modelo de IA es y cómo reducir esta huella. Aquí es donde la optimización del modelo puede tener enormes beneficios al reducir el costo económico y ambiental de las DNN.

TinyML habilita la IA en dispositivos pequeños

Uno de esos avances es diminutoML, una nueva y poderosa tendencia que permite que los dispositivos más pequeños que funcionan con baterías usen ML avanzado para ofrecer visión por computadora y otras tareas de percepción. Facilita la inferencia de ML en dispositivos pequeños y con recursos limitados, normalmente en el perímetro de la nube, y ayuda a habilitar las aplicaciones perimetrales más cerca del usuario.

Por ejemplo, una GPU de servidor como una NVIDIA A100 tiene más de 40 GB de memoria disponible, lo que es adecuado para ejecutar IA compleja como visión por computadora y procesamiento de lenguaje natural. Sin embargo, cuando hablamos de dispositivos periféricos y tinyML, un microcontrolador (MCU) común puede tener solo 256 KB de memoria en el chip, ¡lo que es más de 100,000 XNUMX veces menos memoria que la nube! Además, a diferencia de los centros de datos y la nube, el hardware de los dispositivos perimetrales no se puede actualizar fácilmente sobre el terreno. Esto significa que debemos “adaptar” nuestra IA al hardware disponible, lo que puede llevar meses o años de prueba y error para que los desarrolladores lo logren, si es que lo logran. Aquí es donde tinyML, en particular el aprendizaje automático automatizado (también llamado AutoML), puede desempeñar un papel importante a la hora de romper las barreras para la adopción de la IA en el mundo real.

Y la influencia de tinyML está creciendo. Con más de 10,000 miembros, la Fundación tinyML está haciendo crecer el ecosistema para respaldar el desarrollo y la implementación de soluciones de aprendizaje automático de consumo ultrabajo en el borde. La Fundación reúne a una comunidad global de hardware, software, aprendizaje automático, científicos de datos, ingenieros de sistemas, diseñadores, productos y empresarios.

Un mundo de oportunidades

En total, hay miles de millones de pequeños dispositivos conectados en todas partes que pueden beneficiarse de la inteligencia avanzada. El desafío es que tienen recursos muy limitados, entonces, ¿cómo podemos agregarles inteligencia? tinyML puede desempeñar un papel clave para llevar la IA y el ML a más aplicaciones del mundo real basadas en la visión por computadora, en el perímetro en dispositivos pequeños. Y esto puede desbloquear un mundo de beneficios para las personas y las empresas en una variedad de productos, servicios e industrias, ayudándonos a avanzar hacia nuevas fronteras para la IA.