Entre em contato

Líderes de pensamento

Cinco razões pelas quais os algoritmos de IA podem ser difíceis de implementar no gerenciamento operacional

mm

Publicado

 on

De: Evgenia Malina, Diretor de estratégia e operações de negócios da Foguete Alimentar.

De acordo com uma pesquisa recente do McKinsey Global Institute, a IA está pronta para impulsionar a produção econômica global $ 13 trilhões por 2030.

No entanto, isso vem com seus próprios desafios e consequências não intencionais. Alguns os riscos e desafios mais comumente identificados da implementação da IA ​​incluem preocupações com privacidade, incapacidade de generalizar e uma falta geral de confiança.

Abaixo estão três desafios com IA que afetam especificamente o gerenciamento operacional para empresas.

1. Má qualidade de dados

A primeira coisa que um algoritmo robusto de IA precisa são os dados. Para treinar adequadamente um algoritmo, você deve alimentá-lo com grandes quantidades de dados precisos e de alta qualidade. Infelizmente, nem sempre é fácil obter esses dados, e uma Relatório Gartner 2020 observa que a má qualidade dos dados pode custar à sua empresa cerca de US$ 13 milhões por ano.

Por exemplo, alguns processos podem não ter nenhuma pegada digital quando você está iniciando. Não há dados para você inserir em um algoritmo nessas instâncias. Tudo o que você dá são apenas hipóteses e suposições educadas, o que apresenta dois problemas.

Primeiro, isso introduz viés humano significativo em seu processo desde o início. Em segundo lugar, significa que quaisquer resultados do algoritmo são simplesmente uma extensão de suas melhores suposições. Em última análise, isso deixa você com um cenário de dados incompleto e um processo de tomada de decisão instável e não confiável.

2. Navegando em “Cold Starts” e Engajamento dos Funcionários

A automação é excelente para agilizar os processos existentes, mas a contrapartida é o “cold start”. É quando você deve iniciar um processo sem dados históricos nos quais a IA possa basear sua rotina. Em todos os casos, a IA lutará para superar esse obstáculo.

De acordo com a Harvard Business Review, 80 por cento ou mais do tempo de uma equipe de TI geralmente é gasto tentando melhorar e refinar dados inconsistentes para algoritmos de IA

Freqüentemente, é necessário um investimento considerável de esforço humano para ajudar a IA a superar esse obstáculo de “inicialização a frio” e retomar as operações sem problemas.

Na minha experiência, isso pode causar sérias interrupções no gerenciamento de suprimentos e também pode custar uma receita considerável às empresas. Todos sabemos que a IA ainda não evoluiu o suficiente para lidar com todos os aspectos de um sistema de gerenciamento operacional. Isso significa que qualquer solução de IA que sua empresa utilizar se sobrepõe aos processos humanos de tomada de decisão.

Embora isso possa ser uma coisa boa, também pode levar a um desengajamento do senso de responsabilidade pessoal de um funcionário. Em alguns casos, os funcionários sentem que podem se separar de uma decisão porque “a IA fez isso”.

Além disso, é comum que a introdução de um novo algoritmo coincida com uma queda significativa nas métricas de qualidade. Na minha experiência, esse paradoxo é o resultado de uma pessoa que antes era responsável pela métrica sentir que agora é simplesmente um elo sem importância em uma cadeia de tomada de decisão automatizada.

É essencial gerenciar esse aspecto da automação devido à facilidade com que ele pode levar sua equipe a um caminho de desinteresse e baixo comprometimento. Também tem o potencial de causar danos à sua marca. Se a IA for deixada sozinha para tomar decisões, ela pode involuntariamente começar a discriminar clientes de certa idade, sexo ou faixas geográficas.

3. Desafios com transparência e implementação eficiente

Como todo empresário sabe, as coisas podem mudar em um instante. As empresas nem sempre têm tempo para criar uma solução complexa de IA para uma nova operação.

Na verdade, é muito mais comum que as empresas tenham um aperto de tempo e sejam forçadas a resolver um problema sem a ajuda da automação porque a configuração de um novo processo simplesmente leva muito tempo. Como normalmente não há tempo para escrever modelos complexos, uma de duas coisas acontece.

Primeiro, a empresa pode optar por implementar um processo quase completo, mas inserir uma etapa intermediária manual até que o processo possa ser refinado. Nesse caso, as empresas perdem até 80% da eficiência calculada do processo.

Como alternativa, a empresa pode implantar SaaS para acelerar o processo de implementação. Embora os custos de tempo e dinheiro sejam menores, o problema da perda de eficiência permanece. Nesse caso, implementar algoritmos SaaS que não sejam especificamente adaptados às necessidades da empresa pode tornar um processo menos eficiente do que se fosse feito manualmente.

Além desses problemas, é importante entender que a transparência no processo de IA é incrivelmente difícil de comunicar ao gerenciamento, mesmo por especialistas. Isso se deve à complexidade dos algoritmos, mas pode fazer com que sua equipe sinta reservas quanto à transição para o gerenciamento de operações automatizadas.

Para onde vamos daqui?

Alguns pesquisadores sugerem que os desafios que enfrentamos atualmente levarão a novos papéis humanos em uma empresa: Treinadores, explicadores e sustentadores.

Os treinadores ajudarão a otimizar o desempenho da IA; os explicadores terão a tarefa de analisar as decisões de IA para não profissionais, e os sustentadores trabalharão para tornar os processos de IA sustentáveis ​​a longo prazo.

No entanto, até então, as empresas e os fundadores devem considerar mais do que apenas o significativo vantagem competitiva que a IA pode oferecer. A vantagem deve ser ponderada em relação à ambiguidade, custos de tempo e obstáculos de crescimento que acompanham a IA operacional.

A inteligência artificial ainda tem um longo caminho a percorrer em termos de crescimento, desenvolvimento e implementação. Pode, sem dúvida, fazer uma grande diferença na gestão operacional, mas ainda não podemos confiar plenamente que seja sempre a melhor opção.

Evgeniya Malina é chefe de estratégia e operações de negócios da Foguete Alimentar. Evgeniya se formou na University College London e fez mestrado na Queen Mary University of London. Ela é responsável por automatizar os processos operacionais da empresa e construir as bases para escalar. Graças à sua experiência, a equipe de TI de 20 pessoas construiu um sistema proprietário de gerenciamento de armazém, que agora foi totalmente implementado em todas as lojas escuras e no recém-lançado centro de distribuição.