Entre em contato

Líderes de pensamento

O papel do tinyML em habilitar a visão computacional na borda – líderes de pensamento

mm

Publicado

 on

Por: Davis Sawyer, co-fundador e diretor de produtos, Deeplite

A visão computacional tem um grande potencial para melhorar nossa vida cotidiana – e há muitas aplicações e usos para ela. Alguns exemplos incluem:

  • Campainhas inteligentes para a segurança doméstica, ajuda a prevenir “piratas da varanda” e arrombamentos. De acordo com pesquisa da IHS Markit (publicado em SecurityInfoWatch) esperava-se que o número de câmeras de vigilância globais em todo o mundo chegasse a um bilhão em 2021. Somente nos EUA, esperava-se que o número de câmeras chegasse a 85 milhões;
  • In estacionamentos, câmeras habilitadas para IA automatizam o rastreamento de vagas de estacionamento disponíveis e ocupadas para que os consumidores saibam onde estão as vagas abertas;
  • Câmeras do painel nos caminhões agora estão lendo os sinais de limite de velocidade e reduzindo dinamicamente a velocidade do caminhão para melhorar a segurança;
  • E drones com câmeras conectadas estão monitorando áreas remotas e de difícil acesso, e podem processar imagens e tomar decisões em tempo real.

Todos esses aplicativos usam análise de vídeo inteligente, impulsionada por IA e aprendizado de máquina (ML), para assistir vídeos, usar inteligência para tomar decisões e depois agir.

Visão computacional precisa de mais recursos na borda

No entanto, como muitos aplicativos orientados por IA, a visão computacional precisa de rajadas de poder de computação, memória e energia para fazer sua análise complexa e tomar decisões. Embora isso seja bom em um data center com muita potência de computador, pode impedir o movimento da IA ​​para o limite. Especificamente, pequenos dispositivos localizados longe de data centers corporativos e que operam com baterias pequenas precisam de uma nova geração de IA que seja menor, mais rápida e “mais leve” do que as abordagens tradicionais. E os dispositivos existentes precisarão ser atualizados com a nova funcionalidade AI + ML (visão computacional) para permanecerem viáveis ​​e competitivos.

Novos avanços impulsionam redes neurais profundas

Hoje, novos avanços em IA estão tornando as Redes Neurais Profundas (DNNs) mais rápidas, menores e mais eficientes em termos de energia – e ajudando a mover a IA da nuvem e dos data centers para dispositivos de ponta e sensores alimentados por bateria. Quando se trata de treinamento de modelo de IA, a impressionante pegada de carbono foi documentada e discutida (ou seja, treinar um modelo de linguagem de IA emite tanto CO2 quanto 5 carros ao longo de suas vidas). No entanto, precisamos entender qual é o impacto ambiental da Inferência de modelo de IA é e como reduzir essa pegada. É aqui que a otimização do modelo pode trazer enormes benefícios ao reduzir o custo econômico e ambiental das DNNs.

TinyML permite IA em pequenos dispositivos

Um desses avanços é minúsculoML, uma nova tendência poderosa para permitir que dispositivos menores, alimentados por bateria, usem ML avançado para fornecer visão computacional e outras tarefas de percepção. Ele facilita a inferência de ML em dispositivos pequenos e com recursos limitados, geralmente na borda da nuvem, e ajuda a habilitar aplicativos de borda mais próximos do usuário.

Por exemplo, uma GPU de servidor como NVIDIA A100 tem mais de 40 GB de memória disponível, o que é adequado para executar IA complexa, como visão computacional e processamento de linguagem natural. No entanto, quando falamos sobre dispositivos de ponta e tinyML, um microcontrolador comum (MCU) pode ter apenas 256 KB de memória on-chip, o que representa 100,000 vezes menos memória que a nuvem! Além disso, diferentemente dos data centers e da nuvem, o hardware dos dispositivos de borda não pode ser facilmente atualizado em campo. Isso significa que devemos “encaixar” nossa IA no hardware disponível, o que pode levar meses ou anos de tentativa e erro para os desenvolvedores conseguirem, se é que conseguem. É aqui que o tinyML, em particular o aprendizado de máquina automatizado (também chamado de AutoML), pode desempenhar um papel importante na quebra de barreiras à adoção da IA ​​no mundo real.

E a influência do tinyML está crescendo. Com mais de 10,000 membros, o Fundação tinyML está expandindo o ecossistema para dar suporte ao desenvolvimento e implantação de soluções de aprendizado de máquina de ultrabaixo consumo de energia na borda. A Fundação une uma comunidade global de hardware, software, aprendizado de máquina, cientistas de dados, engenheiros de sistemas, designers, produtos e empresários.

Um mundo de oportunidades

Ao todo, existem bilhões de pequenos dispositivos conectados em todos os lugares que podem se beneficiar de inteligência avançada. O desafio é que eles têm recursos muito limitados, então como podemos adicionar inteligência a eles? O tinyML pode desempenhar um papel fundamental em trazer IA e ML para mais aplicativos do mundo real baseados em visão computacional, na borda em pequenos dispositivos. E isso pode revelar um mundo de benefícios para pessoas e empresas em uma variedade de produtos, serviços e setores, ajudando-nos a abrir novas fronteiras para a IA.

Davis Sawyer é um empresário de tecnologia canadense com experiência interdisciplinar em startups e indústria de IA. No Deeplite, ele dirige a direção do produto e a estratégia de comercialização. Antes da Deeplite, Davis desenvolveu modelos estatísticos para segurança farmacêutica em imunoncologia, manufatura e na produção upstream de petróleo e gás.