Ramprakash Ramamoorthy, chefe de pesquisa de IA da ManageEngine – série de entrevistas

Ramprakash Ramamoorthy, é o chefe de pesquisa de IA da ManageEngine, a divisão de gerenciamento de TI empresarial da Zoho Corporation. O ManageEngine capacita as empresas a assumir o controle de sua TI, desde segurança, redes e servidores até seus aplicativos, central de serviços, Active Directory, desktops e dispositivos móveis.

Como você inicialmente se interessou por ciência da computação e aprendizado de máquina?

Quando criança, eu tinha uma curiosidade natural por computação, mas ter um computador pessoal estava além das possibilidades da minha família. No entanto, graças à posição do meu avô como professor de química em uma faculdade local, às vezes eu tinha a oportunidade de usar os computadores de lá depois do expediente.

Meu interesse se aprofundou na faculdade, onde finalmente consegui meu próprio PC. Lá, desenvolvi alguns aplicativos web para minha universidade. Esses aplicativos ainda estão em uso hoje – 12 anos depois – o que realmente destaca o impacto e a longevidade do meu trabalho inicial. Essa experiência foi uma lição abrangente sobre engenharia de software e os desafios do mundo real de dimensionamento e implantação de aplicativos.

Minha jornada profissional em tecnologia começou com um estágio na Zoho Corp. Inicialmente, meu foco era o desenvolvimento de aplicativos mobile, mas meu chefe me incentivou a concluir um projeto de aprendizado de máquina antes de passar para o desenvolvimento de aplicativos. Isso acabou sendo um ponto de virada — nunca tive a oportunidade de trabalhar com desenvolvimento de aplicativos mobile — então é um pouco agridoce.

Na Zoho Corp, temos uma cultura de aprender fazendo. Acreditamos que, se você dedicar tempo suficiente a um problema, se tornará um especialista. Sou muito grato por essa cultura e pela orientação do meu chefe; foi o que impulsionou minha jornada no mundo do aprendizado de máquina.

Como diretor de pesquisa de IA da Zoho & ManageEngine, como é seu dia de trabalho médio?

Meu dia de trabalho é dinâmico e gira em torno da colaboração em equipe e do planejamento estratégico. Passo uma parte significativa do meu dia trabalhando em estreita colaboração com uma talentosa equipe de engenheiros e matemáticos. Juntos, construímos e melhoramos a nossa pilha de IA, que constitui a espinha dorsal dos nossos serviços.

Atuamos como a equipe central de IA, fornecendo soluções de IA como serviço para uma ampla gama de produtos, tanto na ManageEngine quanto na Zoho. Essa função envolve um profundo conhecimento das diversas linhas de produtos e seus requisitos específicos. Minhas interações não se limitam apenas à minha equipe; também trabalho extensivamente com equipes internas em toda a organização. Essa colaboração é crucial para alinhar nossa estratégia de IA às necessidades específicas de nossos clientes, que estão em constante evolução. Esta é uma ótima oportunidade para interagir com as mentes mais brilhantes de toda a empresa.

Dado o ritmo rápido dos avanços na IA, dedico uma quantidade substancial de tempo para me manter atualizado sobre os últimos desenvolvimentos e tendências na área. Esta aprendizagem contínua é essencial para manter a nossa vantagem e garantir que as nossas estratégias permanecem relevantes e eficazes.

Além disso, minha função se estende além dos limites do escritório. Tenho paixão por falar e viajar, o que se encaixa perfeitamente com minhas responsabilidades. Frequentemente interajo com analistas e participo de vários fóruns para divulgar nossa estratégia de IA. Essas interações não apenas ajudam a divulgar nossa visão e conquistas, mas também fornecem insights valiosos que retroalimentam nosso planejamento e execução estratégicos.

Você testemunhou a evolução da IA ​​desde que posicionou a ManageEngine como uma pioneira estratégica em IA em 2013. Quais foram alguns dos algoritmos de aprendizado de máquina usados ​​naqueles primeiros dias?

Nosso foco inicial foi substituir as técnicas estatísticas tradicionais por modelos de IA. Por exemplo, na detecção de anomalias, fizemos a transição de uma metodologia de curva em sino que sinalizava extremos para modelos de IA que eram adeptos do aprendizado com dados anteriores, reconhecendo padrões e sazonalidade.

Incorporamos uma ampla variedade de algoritmos — desde máquinas de vetores de suporte até métodos baseados em árvores de decisão — como base de nossa plataforma de IA. Esses algoritmos foram fundamentais na identificação de casos de uso de nicho onde a IA poderia aproveitar significativamente os dados anteriores para descoberta de padrões, previsão e análise de causa raiz. Notavelmente, muitos destes algoritmos ainda estão efetivamente em produção hoje, sublinhando a sua relevância e eficiência.

Você poderia discutir como os LLMs e a IA generativa mudaram o fluxo de trabalho na ManageEngine?

Os grandes modelos de linguagem (LLMs) e a IA generativa certamente causaram agitação no mundo do consumidor, mas a sua integração na esfera empresarial, incluindo na ManageEngine, tem sido mais gradual. Uma razão para isto é a elevada barreira de entrada, especialmente em termos de custo, e os significativos requisitos de dados e computação que estes modelos exigem.

Na ManageEngine, estamos investindo estrategicamente em LLMs específicos para cada domínio, a fim de aproveitar seu potencial de forma personalizada às nossas necessidades. Isso envolve o desenvolvimento de modelos que não sejam apenas genéricos em sua aplicação, mas também ajustados para atender a áreas específicas de nossas operações corporativas. Por exemplo, estamos trabalhando em um LLM dedicado à segurança, que pode sinalizar eventos de segurança com mais eficiência, e outro focado no monitoramento de infraestrutura. Esses modelos especializados estão atualmente em desenvolvimento em nossos laboratórios, refletindo nosso compromisso em alavancar os comportamentos emergentes de LLMs e IA generativa de forma a agregar valor tangível às nossas soluções corporativas de TI.

O ManageEngine oferece uma infinidade de diferentes ferramentas de IA para vários casos de uso. De qual ferramenta você está particularmente orgulhoso?

Tenho muito orgulho de todas as nossas ferramentas de IA na ManageEngine, mas nossa análise de comportamento de usuários e entidades (UEBA) se destaca para mim. Lançada em nossos primórdios, ela ainda é uma parte forte e vital de nossas ofertas. Entendemos as expectativas do mercado e adicionamos uma explicação para cada anomalia como prática padrão. Nossa capacidade de UEBA está em constante evolução e aplicamos os aprendizados para aprimorá-la.

A ManageEngine oferece atualmente o Criador de aplicativos, uma plataforma de desenvolvimento de aplicativos personalizados com pouco código que permite que as equipes de TI criem soluções personalizadas rapidamente e as lancem no local. Qual é a sua opinião sobre o futuro dos aplicativos sem código ou com baixo código? Será que estes eventualmente assumirão o controle?

O futuro dos aplicativos com e sem código, como nosso AppCreator, é altamente promissor, especialmente no contexto da evolução das necessidades de negócios. Essas plataformas estão se tornando essenciais para que as organizações ampliem e maximizem os recursos de seus ativos de software existentes. À medida que as empresas crescem e os seus requisitos mudam, as soluções low-code e no-code oferecem uma forma flexível e eficiente de adaptação e inovação.

Além disso, estas plataformas estão a desempenhar um papel crucial na capacitação das TI para as empresas. Ao oferecer tecnologia em evolução, como a IA como serviço, eles reduzem significativamente a barreira de entrada para que as organizações experimentem o poder da IA.

Você poderia compartilhar suas próprias opiniões sobre os riscos da IA, incluindo o viés da IA, e como a ManageEngine está gerenciando esses riscos?

Na ManageEngine, reconhecemos a grave ameaça representada pelos riscos da IA, incluindo o preconceito da IA, que pode ampliar a lacuna de acesso à tecnologia e afetar funções comerciais críticas, como RH e finanças. Por exemplo, histórias de IA exibindo comportamento tendencioso no recrutamento são histórias de advertência que levamos a sério.

Para mitigar esses riscos, implementamos políticas e fluxos de trabalho rigorosos para garantir que nossos modelos de IA minimizem distorções ao longo de seu ciclo de vida. É crucial monitorar esses modelos continuamente, pois eles podem começar imparciais, mas potencialmente desenvolver vieses ao longo do tempo devido a alterações nos dados.

Também estamos investindo em tecnologias avançadas, como privacidade diferencial e criptografia homomórfica, para fortalecer nosso compromisso com uma IA segura e imparcial. Esses esforços são vitais para garantir que nossas ferramentas de IA não sejam apenas poderosas, mas também usadas de forma responsável e ética, mantendo sua integridade para todos os usuários e aplicativos.

Qual é a sua visão para o futuro da IA ​​e da robótica?

O futuro da IA ​​e da robótica está se tornando emocionante e transformador. A IA certamente experimentou sua cota de ciclos de expansão e queda no passado. No entanto, com os avanços nas capacidades de recolha e processamento de dados, bem como com os modelos emergentes de receitas em torno dos dados, a IA está agora firmemente estabelecida e veio para ficar.

A IA evoluiu para uma tecnologia convencional, impactando significativamente a forma como interagimos com o software, tanto no nível empresarial quanto no pessoal. As suas capacidades geradoras já se tornaram parte integrante da nossa vida quotidiana e prevejo que a IA se tornará ainda mais acessível e económica para as empresas, graças às novas técnicas e avanços.

Um aspecto importante deste futuro é a responsabilidade dos desenvolvedores de IA. É crucial que os construtores garantam que os seus modelos de IA sejam robustos e livres de preconceitos. Além disso, espero ver os quadros jurídicos evoluirem a um ritmo que corresponda ao rápido desenvolvimento da IA ​​para gerir e mitigar eficazmente quaisquer questões jurídicas que surjam.

A minha visão para a IA é um futuro onde estas tecnologias sejam perfeitamente integradas nas nossas vidas diárias, melhorando as nossas capacidades e experiências, ao mesmo tempo que são geridas de forma ética e responsável.

Obrigado pela ótima entrevista, os leitores que desejam saber mais devem visitar ManageEngine.