Brian Sathianathan, diretor de tecnologia e cofundador da Iterate.ai — Série de entrevistas

Brian Sathianathan é o Chief Technology Officer e co-fundador da Iterate.ai, criadora da plataforma de código baixo Interplay para construir rapidamente aplicações baseadas em IA em várias indústrias. Anteriormente, Sathianathan trabalhou na Apple (AAPL ) em vários projetos de tecnologia emergente que incluíam o sistema operacional Mac e o primeiro iPhone.

O que o atraiu inicialmente a trabalhar com tecnologias de IA?

Eu sempre tive interesse em aprendizado baseado em algoritmos e comecei a trabalhar com sistemas de IA durante meus dias de faculdade. Além disso, passei muito tempo no início da minha carreira construindo tecnologias de criptografia e outras tecnologias de segurança para a Apple, e tecnologias de compressão de vídeo para uma empresa que eu co-fundei. Tanto as tecnologias de vídeo quanto as de criptografia são muito intensivas em algoritmos, e isso realmente acelerou minha curva de aprendizado em IA/ML. Por volta de 2016, comecei a brincar com frameworks de IA de código aberto/GPUs, percebendo o quanto eles haviam avançado nos últimos cinco anos – tanto do ponto de vista dos algoritmos quanto da capacidade de fazer uma gama mais ampla de classificações. Então, percebi a necessidade de tornar isso mais fácil e simples para todos usarem.

Você tem pontos de vista fortes sobre viés cognitivo e viés de dados em IA, poderia compartilhar essas preocupações?

O viés de IA ocorre quando os engenheiros permitem que seus próprios pontos de vista e preconceitos moldem seus conjuntos de dados de treinamento de IA. Isso rapidamente subverte o que eles estão tentando realizar com a IA. Muitas vezes, essa influência é subconsciente, então eles podem não estar cientes de que o viés entrou em seus conjuntos de dados. Sem controles e contrapesos eficazes, os dados podem ser limitados apenas aos pontos de foco ou demográficos que os engenheiros tendem a considerar. Mesmo quando os engenheiros têm uma alta qualidade e volume de dados para trabalhar, os vieses nos conjuntos de dados podem tornar os resultados entregues pelas aplicações de IA incorretos e, em muitos casos, amplamente inúteis.

Um relatório da Gartner estimou que até 2030, 85% dos projetos de IA fornecerão resultados falsos devido a viés. Essa é uma grande lacuna a ser superada. As empresas que investem em, confiam e tomam decisões estratégicas com base em IA – apenas para serem enganadas por conclusões falsas enraizadas em viés – correm o risco de falhas de alto custo e danos à sua reputação. Com a IA se mudando rapidamente de uma tecnologia emergente para um pilar onipresente em aplicações voltadas para o cliente e processos internos, remover o viés é essencial para realizar o verdadeiro potencial da IA no futuro.

Quais são algumas maneiras de prevenir esses tipos de viés de aparecer?

O viés de IA deve ser detectado e removido sistematicamente e de forma proativa. Os vieses podem ser codificados em algoritmos. Inexatidões podem ser introduzidas por meio de vieses cognitivos que simplesmente omitem dados necessários. O viés de agregação é outro risco aqui, onde uma série de pequenas decisões se soma a resultados de IA enviesados.

Detectar e eliminar o viés de IA em todas as suas formas exige que as organizações utilizem frameworks, kits de ferramentas, processos e políticas construídos para mitigar eficazmente essas questões. Por exemplo, frameworks de IA como o Aletheia Framework da Rolls Royce e o framework de IA da Deloitte – suplementado por benchmarks automaticamente aplicados – podem promover práticas livres de viés em todo o desenvolvimento e implantação de aplicações de IA. Kits de ferramentas como AI Fairness 360 e IBM Watson OpenScale podem reconhecer e remover viés e padrões de viés em modelos e pipelines de aprendizado de máquina. Finalmente, processos que testam dados contra métricas de viés definidas, combinados com políticas que fornecem governança para dissuadir o viés por meio de práticas aplicadas, permitem que as organizações sejam sistemáticas em verificar seus pontos cegos e restringir o viés de IA.

Você é o CTO e co-fundador da Iterate.ai – como tudo começou?

Essa história começa em 2013, quando o co-fundador Jon Nordmark (nosso CEO) e eu servíamos como membros do conselho de um acelerador da Europa Oriental com sede na Ucrânia, projetado para ajudar os empreendedores a construir e operar startups no estilo do Vale do Silício. Essas experiências com empresas inovadoras nos levaram à ideia de emparelhar startups promissoras (mas talvez menos conhecidas) com grandes empresas que precisavam de apoio à inovação. Subsequentemente, lançamos o que era então chamado de Iterate Studio, oferecendo um mecanismo de busca especializado para que as empresas encontrem parceiros de startup com base nas capacidades inovadoras que essas organizações maiores estavam procurando. Em 2015, a empresa se tornou Iterate.ai para destacar nossa curadoria de startups impulsionada por IA. Hoje, nosso Signals indexa mais de 15,7 milhões de tecnologias de startups com base em vários fatores (e usando IA proprietária para fazer isso em essa escala).

Expandimos em 2017 e lançamos a primeira versão de nossa Interplay plataforma de desenvolvimento de aplicações de código baixo. A Interplay fornece uma camada de software impulsionada por IA que moderniza as pilhas de legado das empresas, permitindo a utilização de tecnologias inovadoras por meio de arrastar e soltar, enquanto acelera o desenvolvimento de software em dez vezes. A plataforma de código baixo tem 475 componentes pré-construídos, para que os usuários possam combinar e combinar as tecnologias de que precisam para rapidamente criar aplicações. O empowerment de IA está no núcleo da plataforma, bem como outros componentes de código baixo para IoT, integração de dados e até blockchain.

Iterate é uma plataforma de código baixo para desenvolver aplicações impulsionadas por IA; quais são algumas das aplicações de IA que podem ser construídas?

Nossa plataforma de código baixo permitiu aplicações de IA para uma variedade realmente interessante de casos de uso – a amplitude de implantação é algo que nos orgulhamos. Ulta Beauty (ULTA ), o varejista de beleza global de bilhões de dólares, usou nossa plataforma para construir um chatbot de varejo inteligente de IA em apenas duas semanas. Em contraste, chatbots primitivos são centrados em palavras-chave e a maioria das aplicações de chatbot de vendedor não pode integrar-se perfeitamente com sistemas de legado para acessar informações do cliente ou permitir transições suaves para suporte assistido por humanos. O chatbot de IA inteligente da Ulta eliminou esses problemas com funcionalidade de processamento de linguagem natural e a capacidade de reconhecer “intenções” do cliente para fornecer respostas realmente precisas. Nossa plataforma tornou fácil para a Ulta construir o motor de IA do chatbot em apenas horas e configurar, refinar e melhorar o treinamento e as respostas do chatbot de forma extremamente rápida.

Em outro exemplo, a Jockey utilizou nossa plataforma para habilitar FAQs de IA prontos para responder automaticamente (e com sucesso) a cenários de atendimento ao cliente complexos e subjetivos. Nossa plataforma também permitiu que uma rede global de lojas de conveniência e bombas de gasolina respondesse à pandemia com bombas de gasolina sem toque, confiando no reconhecimento de imagens de IA de placas dos veículos dos clientes. Nossas capacidades de IA também estão sendo aplicadas para habilitar estratégias de segurança baseadas em câmera em locais de varejo. Por meio do reconhecimento de imagens, aplicações de IA treinadas podem identificar ameaças e a presença de armas fora das lojas, acionar o bloqueio das lojas para proteger os clientes e contatar as autoridades.

Quão pequenos são os requisitos de codificação reais? Quanta habilidade de desenvolvimento os usuários precisam ter?

Na minha opinião, a regra dos 80/20 se aplica. 80% dos casos de uso de IA aplicados já estão construídos e têm modelos e dados de treinamento estabelecidos ao seu redor. Uma organização tradicional pode facilmente usar uma plataforma de código baixo (nossa, Interplay, é uma dessas plataformas) e implementar esses casos. Aqui estão alguns exemplos:

• FAQs impulsionados por IA
• Encontradores de produtos impulsionados por IA
• Recomendações de produtos e agrupamento
• OCR
• Identificação visual de produtos
• Análise de dados tabulares: coisas como AOV, análise de carrinho, previsões de churn, etc.
• Extração/detecção de objetos
• Permanência de objetos

Os casos acima poderiam ser implementados por um engenheiro com conhecimento de programação de servidor e algum entendimento básico de APIs de aprendizado de máquina. É muito semelhante às técnicas de transmissão de vídeo, criptografia e gerenciamento de chaves que são amplamente usadas por meio de APIs hoje. A maioria dos engenheiros que usam essas APIs muitas vezes não sabe como elas funcionam por baixo.

Por que o código baixo de IA é importante para dimensionar a tecnologia de IA?

As empresas que perseguem capacidades de IA em seu desenvolvimento de aplicações podem enfrentar rapidamente grandes desafios quando não utilizam o código baixo. No mundo de hoje, existem apenas 300.000 engenheiros de IA e apenas 60.000 deles são cientistas de dados. Devido a isso, o talento necessário para desenvolver e dimensionar soluções de IA é caro e está aumentando. Em contraste, o desenvolvimento de código baixo realmente democratiza o acesso à IA. Com o código baixo, qualquer um dos 25 milhões de desenvolvedores de software do mundo e até mesmo aqueles sem treinamento podem facilmente implementar motores de IA, refinar suas capacidades e produzir e dimensionar soluções eficazes.

Voltando à plataforma Signals da Iterate.ai, impulsionada por IA, quais são algumas das tendências mais interessantes que estão surgindo?

Estamos vendo um crescimento rápido em cinco forças de inovação: IA, IoT, blockchain, dados e soluções de startups emergentes. Esses são todos mercados muito grandes. Estamos vendo milhares de pontos de dados sobre notícias, patentes e novos produtos de startups todos os dias. A Interplay é construída para aproveitar essas forças, incluindo componentes pré-construídos para aproveitar essas forças em crescimento.

Há algo mais que você gostaria de compartilhar sobre a Iterate.ai?

Acho que ainda existem concepções erradas sobre o código baixo e seu papel na construção de aplicações de IA. Não é incomum ver profissionais de TI questionando se uma estratégia de código baixo pode atender às suas necessidades de escalabilidade, extensibilidade e segurança de nível empresarial. Acho que as opções de código baixo destinadas a prototipagem – mas aplicadas incorretamente como ferramentas para aplicações de produção – contribuíram para essas ressalvas. No entanto, as plataformas de código baixo certas são absolutamente capazes de construir e dar suporte a aplicações de IA prontas para produção. As empresas devem realizar sua due diligence na seleção de ferramentas de código baixo, garantindo que essas ferramentas tenham uma camada de segurança transparente e abrangente e um histórico comprovado de entrega de aplicações em escala empresarial.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Iterate.ai.