Brian Sathianathan, Chief Technology Officer & Co-Founder of Iterate.ai – Interview Series

Brian Sathianathan é o Chief Technology Officer e co-fundador da Iterate.ai, criadora da plataforma de código baixo Interplay para construir rapidamente aplicações baseadas em IA em várias indústrias. Anteriormente, Sathianathan trabalhou na Apple em vários projetos de tecnologia emergente que incluíam o sistema operacional Mac e o primeiro iPhone.

O que o atraiu inicialmente a trabalhar com tecnologias de IA?

Eu sempre tive interesse em aprendizado baseado em algoritmos e comecei a trabalhar com sistemas de IA durante meus dias de faculdade. Além disso, passei bastante tempo no início da minha carreira construindo tecnologias de criptografia e segurança para a Apple, e tecnologias de compressão de vídeo para uma empresa que co-fundei. Tanto as tecnologias de vídeo quanto as de criptografia são muito intensivas em algoritmos, e isso realmente acelerou minha curva de aprendizado em IA/ML. Por volta de 2016, comecei a brincar com frameworks de IA de código aberto/GPUs, percebendo o quanto eles haviam avançado nos últimos cinco anos – tanto do ponto de vista dos algoritmos quanto da capacidade de fazer uma ampla gama de classificações. Então, percebi a necessidade de tornar isso mais fácil e simples para todos usarem.

Você tem algumas opiniões fortes sobre viés cognitivo e viés de dados em IA, pode compartilhar essas preocupações?

O viés de IA ocorre quando os engenheiros deixam que suas próprias perspectivas e preconceitos moldem seus conjuntos de dados de treinamento de IA. Isso rapidamente subverte o que eles estão tentando alcançar com a IA. Muitas vezes, essa influência é subconsciente, então eles podem nem mesmo estar cientes de que o viés entrou em seus conjuntos de dados. Sem controles e balanços eficazes, os dados podem ser limitados apenas aos pontos de foco ou demográficos que os engenheiros tendem a considerar. Mesmo quando os engenheiros têm dados de alta qualidade e volume para trabalhar, os viés nos conjuntos de dados podem tornar os resultados entregues pelas aplicações de IA incorretos e, em muitos casos, largamente inúteis.

Um relatório da Gartner estimou que até 2030, 85% dos projetos de IA fornecerão resultados falsos devido a viés. Essa é uma grande lacuna a ser superada. As empresas que investem, confiam e tomam decisões estratégicas com base em IA – apenas para serem enganadas por conclusões falsas enraizadas em viés – correm o risco de falhas de alto custo e danos à sua reputação. Com a IA se mudando rapidamente de uma tecnologia emergente para um canto fundamental em ambos os aplicativos voltados para o cliente e processos internos, remover o viés é essencial para realizar o verdadeiro potencial da IA em frente.

Quais são algumas maneiras de prevenir esses tipos de viés de aparecerem?

O viés de IA deve ser detectado e removido sistematicamente e de forma proativa. Os viés podem ser codificados nos algoritmos. Inaccuracies podem ser introduzidas por meio de viés cognitivo que simplesmente omitam dados necessários. O viés de agregação é outro risco aqui, onde uma série de pequenas decisões se somam a resultados de IA distorcidos.

Detectar e eliminar o viés de IA em todas as suas formas requer que as organizações utilizem frameworks, kits de ferramentas, processos e políticas construídos para mitigar eficazmente essas questões. Por exemplo, frameworks de IA como o Aletheia Framework da Rolls Royce e o framework de IA da Deloitte – suplementado por benchmarks automaticamente aplicados – podem promover práticas livres de viés em todo o desenvolvimento e implantação de aplicações de IA. Kits de ferramentas como AI Fairness 360 e IBM Watson OpenScale podem reconhecer e remover viés e padrões de viés em modelos e pipelines de aprendizado de máquina. Finalmente, processos que testam os dados contra métricas de viés definidas, combinados com políticas que fornecem governança para dissuadir o viés por meio de práticas aplicadas, permitem que as organizações sejam sistemáticas em verificar seus pontos cegos e restringir o viés de IA.

Você é o CTO e co-fundador da Iterate.ai – como tudo começou?

Essa história começa em 2013, quando o co-fundador Jon Nordmark (nosso CEO) e eu servíamos como membros do conselho de uma aceleradora da Europa Oriental, com sede na Ucrânia, projetada para ajudar os empreendedores a construir e operar startups no estilo do Vale do Silício. Essas experiências com empresas inovadoras e novas nos levaram à ideia de emparelhar startups promissoras (mas talvez menos conhecidas) com grandes empresas que precisam de apoio à inovação. Posteriormente, lançamos o que era então chamado de Iterate Studio, oferecendo um mecanismo de busca especializado para que as empresas encontrem parceiros de startup com base nas capacidades inovadoras que essas organizações maiores estavam procurando. Em 2015, a empresa se tornou Iterate.ai para destacar nossa curadoria de startups impulsionada por IA. Hoje, nosso Signals indexa mais de 15,7 milhões de tecnologias de startups com base em vários fatores (e usando IA proprietária para fazer isso em essa escala).

Expansão em 2017 e lançamento da primeira versão de nossa Interplay plataforma de desenvolvimento de aplicações de código baixo. Interplay fornece uma camada de software impulsionada por IA que moderniza os legados de empresas, permitindo a utilização de tecnologias inovadoras por meio de recursos de arrastar e soltar e acelerando o desenvolvimento de software em dez vezes. A plataforma de código baixo tem 475 componentes pré-construídos, para que os usuários possam combinar e combinar as tecnologias de que precisam para criar rapidamente aplicações. O empowerment de IA está no núcleo da plataforma, bem como outros componentes de código baixo para IoT, integração de dados e até blockchain.

Iterate é uma plataforma de código baixo para desenvolver aplicações impulsionadas por IA; quais são algumas das aplicações de IA que podem ser construídas?

Nossa plataforma de código baixo permitiu aplicações de IA para uma variedade realmente interessante de casos de uso – a amplitude de implantação é algo do que nos orgulhamos. Ulta Beauty, o varejista de beleza global de bilhões de dólares, usou nossa plataforma para construir um chatbot de varejo inteligente de IA em apenas duas semanas. Em contraste, os chatbots primitivos são centrados em palavras-chave, e a maioria dos aplicativos de chatbot de fornecedores não consegue integrar-se perfeitamente com sistemas legados para acessar informações do cliente ou permitir transições suaves para suporte humano. O chatbot de IA inteligente da Ulta eliminou esses problemas com funcionalidade de processamento de linguagem natural e a capacidade de reconhecer “intenções” do cliente para fornecer respostas realmente precisas. Nossa plataforma tornou fácil para a Ulta construir o motor de IA do chatbot em apenas horas, e configurar, refinar e melhorar o treinamento e as respostas do chatbot extremamente rapidamente.

Em outro exemplo, Jockey utilizou nossa plataforma para habilitar FAQs de IA prontos para responder automaticamente (e com sucesso) a cenários de serviço ao cliente complexos e subjetivos. Nossa plataforma também permitiu que uma rede global de lojas de conveniência e gasolina respondesse à pandemia com bombas de gasolina sem toque, confiando no reconhecimento de imagem de IA de placas de licença do cliente. Nossas capacidades de IA também estão sendo aplicadas para habilitar estratégias de segurança baseadas em câmera em locais de varejo. Por meio do reconhecimento de imagem, aplicações de IA treinadas podem identificar ameaças e a presença de armas fora das lojas, acionar o bloqueio da loja para proteger os clientes e contatar as autoridades.

Quão pequenos são os requisitos de codificação reais? Quanto habilidade de desenvolvimento os usuários precisam ter?

Na minha opinião, a regra dos 80/20 se aplica. 80% dos casos de uso de IA aplicados já estão construídos e têm modelos e dados de treinamento estabelecidos ao seu redor. Uma organização tradicional pode facilmente usar uma plataforma de código baixo (a nossa, Interplay, é uma dessas plataformas) e implementar esses casos. Aqui estão alguns exemplos:

• FAQs impulsionados por IA
• Encontradores de produtos impulsionados por IA
• Recomendações de produtos e agrupamento
• OCR
• Identificação de produtos visuais
• Análise de dados tabulares: coisas como AOV, análise de carrinho, previsões de churn, etc.
• Extração/detecção de objetos
• Permanência de objetos

Os casos acima podem ser implementados por um engenheiro com conhecimento de programação de servidor e algum entendimento básico de APIs de aprendizado de máquina. É muito semelhante às técnicas de streaming de vídeo, criptografia e gerenciamento de chaves que são amplamente usadas por meio de APIs hoje. A maioria dos engenheiros que usam essas APIs muitas vezes não sabe como elas funcionam por baixo.

Por que o código baixo de IA é importante para dimensionar a tecnologia de IA?

As empresas que buscam capacidades de IA em seu desenvolvimento de aplicações podem enfrentar rapidamente desafios significativos quando não utilizam código baixo. No mundo de hoje, existem apenas 300.000 engenheiros de IA, e apenas 60.000 deles são cientistas de dados. Devido a isso, o talento necessário para desenvolver e dimensionar soluções de IA é caro e está aumentando. Em contraste, o desenvolvimento de código baixo realmente democratiza o acesso à IA. Com o código baixo, qualquer um dos 25 milhões de desenvolvedores de software do mundo e até mesmo aqueles sem treinamento podem facilmente implementar motores de IA, refinar suas capacidades e produzir e dimensionar soluções eficazes.

Voltando à plataforma de IA alimentada por sinais da Iterate.ai, quais são algumas das tendências mais interessantes que surgem?

Estamos vendo um crescimento rápido em cinco forças de inovação: IA, IoT, blockchain, dados e soluções de startups emergentes. Esses são todos mercados muito grandes. Estamos vendo milhares de pontos de dados sobre notícias, patentes e novos produtos de startups todos os dias. Interplay é construído para aproveitar essas forças, incluindo componentes pré-construídos para aproveitar essas forças em crescimento.

Há algo mais que você gostaria de compartilhar sobre a Iterate.ai?

Acho que ainda existem mal-entendidos em torno do código baixo e seu papel na construção de aplicações de IA. Não é incomum ver profissionais de TI questionando se uma estratégia de código baixo pode atender às suas necessidades de escalabilidade, extensibilidade e segurança de nível empresarial. Acho que as opções de código baixo destinadas a prototipagem – mas mal aplicadas como ferramentas para aplicativos de produção – contribuíram para essa fadiga. Dito isso, as plataformas de código baixo certas estão absolutamente à altura da tarefa de construir e suportar aplicações de IA prontas para produção. As empresas devem realizar sua devida diligência na seleção de ferramentas de código baixo, garantindo que essas ferramentas tenham uma camada de segurança transparente e abrangente e um registro comprovado de entrega de aplicações em escala empresarial.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Iterate.ai.