Anais Dotis-Georgiou, Defensora de Desenvolvedores da InfluxData – Série de Entrevistas

Anais Dotis-Georgiou é uma Defensora de Desenvolvedores da InfluxData com paixão por tornar os dados bonitos com o uso de Análise de Dados, Inteligência Artificial e Aprendizado de Máquina. Ela pega os dados que coleta, faz uma mistura de pesquisa, exploração e engenharia para traduzir os dados em algo de função, valor e beleza. Quando não está atrás de uma tela, você pode encontrá-la fora desenhando, alongando, andando de skate ou perseguindo uma bola de futebol.

InfluxData é a empresa que constrói InfluxDB, o banco de dados de séries temporais de código aberto usado por mais de um milhão de desenvolvedores em todo o mundo. Sua missão é ajudar os desenvolvedores a construir sistemas inteligentes e em tempo real com seus dados de séries temporais.

Pode compartilhar um pouco sobre sua jornada de Assistente de Pesquisa a Defensora de Desenvolvedores Sênior da InfluxData? Como seu background em análise de dados e aprendizado de máquina moldou seu papel atual?

Eu obtive meu diploma de graduação em engenharia química com foco em engenharia biomédica e eventualmente trabalhei em laboratórios realizando desenvolvimento de vacinas e detecção de autismo prenatal. A partir daí, comecei a programar robôs de manipulação de líquidos e ajudar cientistas de dados a entender os parâmetros para detecção de anomalias, o que me fez mais interessado em programação.

Em seguida, me tornei representante de desenvolvimento de vendas na Oracle (ORCL ) e percebi que realmente precisava me concentrar em codificação. Fiz um boot camp de codificação na Universidade do Texas em análise de dados e consegui entrar na tecnologia, especificamente em relações de desenvolvedores.

Vim de um background técnico, então isso ajudou a moldar meu papel atual. Embora eu não tivesse experiência em desenvolvimento, eu podia me relacionar e empatizar com pessoas que tinham um background de engenharia e mente, mas também estavam tentando aprender software. Então, quando criei conteúdo ou tutoriais técnicos, eu pude ajudar novos usuários a superar desafios técnicos enquanto colocava a conversa em um contexto que era relevante e interessante para eles.

Seu trabalho parece combinar criatividade com expertise técnica. Como você incorpora sua paixão por tornar os dados “bonitos” em seu trabalho diário na InfluxData?

Ultimamente, estou mais focada em engenharia de dados do que em análise de dados. Embora eu não me concentre tanto em análise de dados quanto costumava, eu ainda gosto muito de matemática – acho que a matemática é bonita e vou saltar em uma oportunidade para explicar a matemática por trás de um algoritmo.

InfluxDB tem sido uma pedra angular no espaço de dados de séries temporais. Como você vê a comunidade de código aberto influenciando o desenvolvimento e a evolução do InfluxDB?

InfluxData é muito comprometida com a arquitetura de dados abertos e o ecossistema Apache. No ano passado, anunciamos o InfluxDB 3.0, o novo núcleo do InfluxDB escrito em Rust e construído com Apache Flight, DataFusion, Arrow e Parquet – o que chamamos de pilha FDAP. À medida que os engenheiros da InfluxData continuam a contribuir para esses projetos upstream, a comunidade continua a crescer e o conjunto de projetos Apache Arrow fica mais fácil de usar com mais recursos e funcionalidades, e interoperabilidade mais ampla.

Quais são alguns dos projetos ou contribuições de código aberto mais emocionais que você viu recentemente no contexto de dados de séries temporais e Inteligência Artificial?

Foi legal ver a adição de LLMs sendo reutilizados ou aplicados a séries temporais para previsão zero-shot. Autolab tem uma coleção de modelos de linguagem de séries temporais abertos, e TimeGPT é outro exemplo excelente.

Além disso, várias bibliotecas de processamento de fluxo de código aberto, incluindo Bytewax e Mage.ai, que permitem que os usuários aproveitem e incorporem modelos do Hugging Face, são bastante emocionais.

Como a InfluxData garante que suas iniciativas de código aberto permaneçam relevantes e benéficas para a comunidade de desenvolvedores, especialmente com os avanços rápidos em Inteligência Artificial e aprendizado de máquina?

As iniciativas da InfluxData permanecem relevantes e benéficas ao se concentrar em contribuir para projetos de código aberto que empresas de Inteligência Artificial também utilizam. Por exemplo, toda vez que o InfluxDB contribui para Apache Arrow, Parquet ou DataFusion, isso beneficia todas as outras tecnologias de Inteligência Artificial e empresas que as utilizam, incluindo Apache Spark, DataBricks, Rapids.ai, Snowflake, BigQuery, HuggingFace e mais.

Modelos de linguagem de séries temporais estão se tornando cada vez mais vitais na análise preditiva. Pode elaborar sobre como esses modelos estão transformando a previsão de séries temporais e detecção de anomalias?

Modelos de linguagem de séries temporais superam modelos lineares e estatísticos, além de fornecer previsão zero-shot. Isso significa que você não precisa treinar o modelo em seus dados antes de usá-lo. Também não há necessidade de ajustar um modelo estatístico, o que requer expertise profunda em estatísticas de séries temporais.

No entanto, ao contrário do processamento de linguagem natural, o campo de séries temporais carece de conjuntos de dados de grande escala acessíveis publicamente. A maioria dos modelos pré-treinados existentes para séries temporais é treinada em tamanhos de amostra pequenos, que contêm apenas alguns milhares – ou talvez apenas algumas centenas – de amostras. Embora esses conjuntos de dados de benchmark tenham sido instrumentais no progresso da comunidade de séries temporais, seus tamanhos de amostra limitados e falta de generalidade apresentam desafios para pré-treinar modelos de aprendizado profundo.

Isso é o que acredito que torna os modelos de linguagem de séries temporais de código aberto difíceis de encontrar. O TimesFM do Google (GOOGL ) e o Tiny Time Mixers da IBM foram treinados em conjuntos de dados maciços com centenas de bilhões de pontos de dados. Com o TimesFM, por exemplo, o processo de pré-treinamento é feito usando o Google Cloud TPU v3 – 256, que consiste em 256 núcleos TPU com um total de 2 terabytes de memória. O processo de pré-treinamento leva cerca de dez dias e resulta em um modelo com 1,2 bilhão de parâmetros. O modelo pré-treinado é então ajustado em tarefas e conjuntos de dados downstream específicos usando uma taxa de aprendizado mais baixa e menos épocas.

Esperançosamente, essa transformação implica que mais pessoas possam fazer previsões precisas sem conhecimento profundo de domínio. No entanto, é necessário muito trabalho para avaliar os prós e contras de aproveitar modelos computacionalmente caros, como os modelos de linguagem de séries temporais, tanto do ponto de vista financeiro quanto ambiental.

Este post do blog do Hugging Face detalha outro exemplo excelente de previsão de séries temporais.

Quais são as principais vantagens de usar modelos de linguagem de séries temporais em vez de métodos tradicionais, especialmente em termos de lidar com padrões complexos e desempenho zero-shot?

A vantagem crítica é não precisar treinar e retreinar um modelo em seus dados de séries temporais. Isso esperançosamente elimina o problema de aprendizado de máquina online de monitorar o drift do modelo e acionar o re-treinamento, idealmente eliminando a complexidade da pipeline de previsão.

Você também não precisa lutar para estimar as correlações entre séries ou relações para modelos estatísticos multivariados. A variância adicional adicionada por estimativas frequentemente prejudica as previsões resultantes e pode fazer com que o modelo aprenda correlações espúrias.

Pode fornecer alguns exemplos práticos de como modelos como o TimesFM do Google, o TinyTimeMixer da IBM e o MOMENT da Autolab foram implementados em cenários do mundo real?

Isso é difícil de responder; como esses modelos estão em sua infância relativa, pouco se sabe sobre como as empresas os usam em cenários do mundo real.

Em sua experiência, quais desafios as organizações geralmente enfrentam ao integrar modelos de linguagem de séries temporais em sua infraestrutura de dados existente, e como elas podem superá-los?

Modelos de linguagem de séries temporais são tão novos que não sei quais desafios as organizações enfrentam. No entanto, imagino que elas enfrentarão os mesmos desafios enfrentados ao incorporar qualquer modelo de Inteligência Artificial em sua pipeline de dados. Esses desafios incluem:

• Problemas de compatibilidade e integração de dados: Modelos de linguagem de séries temporais frequentemente requerem formatos de dados específicos, marcação de tempo consistente e intervalos regulares, mas a infraestrutura de dados existente pode incluir dados de séries temporais não estruturados ou inconsistentes espalhados por diferentes sistemas, como bancos de dados legados, armazenamento em nuvem ou fluxos em tempo real. Para resolver isso, as equipes devem implementar pipelines de ETL robustas para pré-processar, limpar e alinhar os dados de séries temporais.
• Escalabilidade e desempenho do modelo: Modelos de linguagem de séries temporais, especialmente modelos de aprendizado profundo como transformadores, podem ser intensivos em recursos, exigindo recursos computacionais e de memória significativos para processar grandes volumes de dados de séries temporais em tempo real ou quase em tempo real. Isso exigiria que as equipes implantassem modelos em plataformas escaláveis como Kubernetes ou serviços de aprendizado de máquina gerenciados em nuvem, aproveitassem a aceleração de GPU quando necessário e utilizassem frameworks de processamento distribuído como Dask ou Ray para parallelizar a inferência do modelo.
• Interpretabilidade e confiabilidade: Modelos de séries temporais, particularmente modelos de linguagem complexos, podem ser vistos como “caixas pretas”, tornando difícil interpretar previsões. Isso pode ser particularmente problemático em setores regulamentados, como finanças ou saúde.
• Privacidade e segurança de dados: Lidar com dados de séries temporais frequentemente envolve informações sensíveis, como dados de sensores IoT ou transações financeiras, então garantir a segurança e conformidade dos dados é crítico ao integrar modelos de linguagem de séries temporais. As organizações devem garantir que as pipelines de dados e os modelos estejam em conformidade com as melhores práticas de segurança, incluindo criptografia e controle de acesso, e implantem modelos em ambientes seguros e isolados.

Olhando para o futuro, como você vê o papel dos modelos de linguagem de séries temporais evoluindo no campo de análise preditiva e Inteligência Artificial? Há alguma tendência ou tecnologia emergente que o excita particularmente?

Um próximo passo possível na evolução dos modelos de linguagem de séries temporais pode ser introduzir ferramentas que permitam que os usuários implantem, acessem e usem esses modelos mais facilmente. Muitos dos modelos de linguagem de séries temporais que eu usei exigem ambientes muito específicos e carecem de uma ampla gama de tutoriais e documentação. Ultimamente, esses projetos estão em estágios iniciais, mas será emocionante ver como eles evoluem nos próximos meses e anos. I’ve used require very specific environments and lack a breadth of tutorials and documentation. Ultimately, these projects are in their early stages, but it will be exciting to see how they evolve in the coming months and years. Thank you for the great interview, readers who wish to learn more should visit InfluxData.