O Papel do tinyML na Habilitação da Visão Computacional na Edge – Líderes de Pensamento

Por: Davis Sawyer, Co-Fundador e Diretor de Produto, Deeplite

A visão computacional tem um grande potencial para melhorar nosso dia a dia – e existem muitas aplicações e usos para ela. Alguns exemplos incluem:

• Câmeras de porta inteligentes para segurança doméstica ajudam a prevenir “piratas de varanda” e arrombamentos. De acordo com uma pesquisa da I.H.S. Markit (publicada em SecurityInfoWatch) o número de câmeras de vigilância globais era esperado para atingir um bilhão em 2021. Nos EUA, o número de câmeras era esperado para atingir 85 milhões;
• Nos estacionamentos, câmeras com IA automatizam o rastreamento de vagas de estacionamento disponíveis e ocupadas para que os consumidores saibam onde estão as vagas abertas;
• Câmeras de painel em caminhões agora lêem placas de limite de velocidade e reduzem dinamicamente a velocidade do caminhão para melhorar a segurança;
• E drones com câmeras conectadas estão monitorando áreas remotas e de difícil acesso, e podem processar imagens e tomar decisões em tempo real.

Todas essas aplicações usam análise de vídeo inteligente, impulsionada por IA e Aprendizado de Máquina (AM), para assistir a vídeos, usar inteligência para tomar decisões e então agir.

A Visão Computacional Precisa de Mais Recursos na Edge

No entanto, como muitas aplicações impulsionadas por IA, a visão computacional precisa de explosões de poder de processamento, memória e energia para realizar sua análise complexa e tomar decisões. Embora isso seja aceitável em um centro de dados com muito poder de processamento, pode impedir a transferência da IA para a edge. Especificamente, dispositivos pequenos que estão localizados longe dos centros de dados corporativos e operam com baterias pequenas precisam de uma nova geração de IA que seja menor, mais rápida e “mais leve” do que as abordagens tradicionais. E os dispositivos existentes precisarão ser atualizados com novas funcionalidades de IA + AM (visão computacional) para permanecer viáveis e competitivos.

Novos Avanços Impulsionam Redes Neurais Profundas

Hoje, novos avanços em IA estão tornando as Redes Neurais Profundas (RNP) mais rápidas, menores e mais eficientes em termos de energia – e ajudando a transferir a IA das nuvens e centros de dados para dispositivos de edge e sensores alimentados por bateria. Quando se trata de treinamento de modelos de IA, a pegada de carbono assombrosa foi documentada e discutida (por exemplo, o treinamento de um modelo de linguagem de IA emite tanto CO2 quanto 5 carros durante toda a sua vida útil). No entanto, precisamos entender o que é o impacto ambiental da Inferência de Modelo de IA e como reduzir essa pegada. É aqui que a otimização de modelo pode ter benefícios tremendos, reduzindo o custo econômico e ambiental das RNP.

O tinyML Habilita a IA em Dispositivos Pequenos

Um desses avanços é o tinyML, uma tendência poderosa e nova para habilitar dispositivos pequenos e alimentados por bateria a usar aprendizado de máquina avançado para entregar visão computacional e outras tarefas de percepção. Ele facilita a inferência de ML em dispositivos pequenos e com recursos limitados, normalmente na edge da nuvem, e ajuda a habilitar aplicações de edge mais próximas do usuário.

Por exemplo, um servidor GPU como o NVIDIA A100 tem mais de 40GB de memória disponível, o que é adequado para executar IA complexa como visão computacional e processamento de linguagem natural. No entanto, quando falamos de dispositivos de edge e tinyML, um microcontrolador comum (MCU) pode ter apenas 256KB de memória interna, o que é mais de 100.000 vezes menos memória do que a nuvem! Além disso, ao contrário dos centros de dados e da nuvem, o hardware de dispositivos de edge não pode ser facilmente atualizado no campo. Isso significa que devemos “ajustar” nossa IA ao hardware disponível, o que pode levar meses a anos de tentativa e erro para os desenvolvedores alcançar, se é que conseguem. É aqui que o tinyML, em particular o aprendizado de máquina automatizado (também chamado de AutoML), pode desempenhar um papel fundamental em quebrar barreiras para a adoção da IA no mundo real.

E a influência do tinyML está crescendo. Com mais de 10.000 membros, a Fundação tinyML está crescendo o ecossistema para apoiar o desenvolvimento e a implantação de soluções de aprendizado de máquina de baixo poder em dispositivos de edge. A Fundação une uma comunidade global de hardware, software, aprendizado de máquina, cientistas de dados, engenheiros de sistemas, designers, produto e negócios.

Um Mundo de Oportunidades

Em resumo, existem bilhões de dispositivos pequenos e conectados em todos os lugares que podem se beneficiar de inteligência avançada. O desafio é que eles têm recursos muito limitados, então como podemos adicionar inteligência a eles? O tinyML pode desempenhar um papel fundamental em trazer IA e ML para mais aplicações de visão computacional baseadas no mundo real, na edge em dispositivos pequenos. E isso pode desbloquear um mundo de benefícios para as pessoas e empresas em uma variedade de produtos, serviços e indústrias, ajudando-nos a avançar para novas fronteiras para a IA.