Cinco Razões Pelas Quais os Algoritmos de IA Podem Ser Difíceis de Implementar no Gerenciamento Operacional

Por: Evgeniya Malina, Diretora de Estratégia e Operações da Food Rocket.

De acordo com uma pesquisa recente do McKinsey Global Institute, a IA está prestes a aumentar a produção econômica global em $13 trilhões até 2030.

No entanto, isso vem com seus próprios desafios e consequências não intencionais. Alguns dos riscos e desafios mais comumente identificados da implementação da IA incluem preocupações de privacidade, a incapacidade de generalizar e uma falta geral de confiança.

Abaixo estão três desafios com a IA que afetam especificamente o gerenciamento operacional das empresas.

1. Baixa Qualidade dos Dados

A primeira coisa que um algoritmo de IA robusto precisa é dados. Para treinar adequadamente um algoritmo, você deve alimentá-lo com grandes quantidades de dados precisos e de alta qualidade. Infelizmente, não é sempre fácil obter esses dados, e um relatório da Gartner de 2020 observa que a baixa qualidade dos dados pode custar à sua empresa cerca de $13 milhões por ano.

Por exemplo, alguns processos podem não ter nenhum registro digital quando você está começando. Não há dados para você alimentar o algoritmo nesses casos. Tudo o que você fornece é apenas hipóteses e palpites educados, o que apresenta dois problemas.

Primeiro, isso introduz viés humano significativo no seu processo desde o início. Segundo, significa que quaisquer resultados do algoritmo são apenas uma extensão dos seus melhores palpites. Em última análise, isso deixa você com um cenário de dados duvidoso e um processo de tomada de decisão instável.

2. Navegando “Inícios Frios” e Engajamento dos Funcionários

A automação é excelente para otimizar processos existentes, mas a contrapartida é o “início frio”. Isso ocorre quando você deve iniciar um processo sem dados históricos nos quais a IA possa basear sua rotina. Em cada instância, a IA lutará para superar esse obstáculo.

De acordo com a Harvard Business Review, 80 por cento ou mais do tempo de uma equipe de TI é frequentemente gasto tentando melhorar e refinar dados inconsistentes para algoritmos de IA

Muitas vezes, é necessário um investimento considerável de esforço humano para ajudar a IA a superar esse “início frio” e retomar operações suaves.

Em minha experiência, pode causar sérias interrupções no gerenciamento de suprimentos e pode custar às empresas consideráveis receitas também. Todos sabemos que a IA ainda não está evoluída o suficiente para lidar com todos os aspectos de um sistema de gerenciamento operacional. Isso significa que qualquer solução de IA que sua empresa utilize irá se sobrepor com processos de tomada de decisão humana.

Embora isso possa ser uma coisa boa, também pode levar a um desengajamento do senso de responsabilidade pessoal de um funcionário. Em alguns casos, os funcionários se sentem como se pudessem se separar de uma decisão porque “a IA fez isso.”

Além disso, é comum que a introdução de um novo algoritmo coincida com uma queda significativa nos métricas de qualidade. Em minha experiência, esse paradoxo é resultado de uma pessoa que era anteriormente responsável pela métrica se sentir como se agora fosse apenas um elo não importante em uma cadeia de tomada de decisão automatizada.

É essencial gerenciar esse aspecto da automação devido à facilidade com que pode levar sua equipe por um caminho de desinteresse e comprometimento reduzido. Isso também tem o potencial de causar danos à sua marca. Se a IA for deixada sozinha para tomar decisões, pode inadvertidamente começar a discriminar clientes em certas faixas etárias, gênero ou geográficas.

3. Desafios com Transparência e Implementação Eficiente

Como todos os proprietários de empresas sabem, as coisas podem mudar em um instante. As empresas nem sempre têm tempo para construir uma solução de IA complexa para uma nova operação.

Na verdade, é muito mais comum que as empresas estejam com pressa e sejam forçadas a resolver um problema sem a ajuda da automação porque configurar um novo processo simplesmente leva muito tempo. Como não há tempo para escrever modelos complexos, uma das duas coisas acontece.

Primeiro, a empresa pode optar por implementar um processo quase completo, mas inserir um passo intermediário manual até que o processo possa ser aprimorado. Nesse caso, as empresas perdem até 80 por cento da eficiência calculada do processo.

Alternativamente, a empresa pode implantar SaaS para acelerar o processo de implementação. Embora os custos de tempo e dinheiro sejam menores, o problema da perda de eficiência permanece. Nesse caso, a implementação de algoritmos SaaS que não são especificamente adaptados às necessidades da empresa pode tornar o processo menos eficiente do que se fosse feito manualmente.

Além desses problemas, é importante entender que a transparência no processo de IA é incrivelmente difícil de comunicar à gestão, mesmo por especialistas. Isso ocorre devido à complexidade dos algoritmos, mas pode fazer com que sua equipe sinta reservas sobre a transição para operações automatizadas.

Onde Vamos a Partir Daqui?

Alguns pesquisadores sugerem que os desafios que enfrentamos atualmente levarão a novos papéis humanos em uma empresa: Treinadores, explicadores e sustentadores.

Os treinadores ajudarão a otimizar o desempenho da IA; os explicadores serão responsáveis por desmembrar as decisões da IA para não profissionais, e os sustentadores trabalharão para tornar os processos de IA sustentáveis a longo prazo.

No entanto, até lá, as empresas e os fundadores devem considerar mais do que apenas a vantagem competitiva significativa que a IA pode oferecer. A vantagem deve ser pesada contra a ambiguidade, os custos de tempo e os obstáculos de crescimento que vêm com a IA operacional.

A inteligência artificial ainda tem um longo caminho a percorrer em termos de crescimento, desenvolvimento e implementação. Ela pode, sem dúvida, fazer uma grande diferença no gerenciamento operacional, mas ainda não podemos confiar plenamente nela como a melhor opção.