Nova Análise de Risco Adverte sobre os Perigos da Agricultura de IA

Pesquisadores publicaram uma nova análise de risco na revista Nature Machine Intelligence que adverte sobre o uso de IA na agricultura. Ela afirma que existem sérios riscos para os agricultores, fazendas e segurança alimentar, e que esses riscos não são totalmente compreendidos.

O Dr. Asaf Tzachor, do Centro de Estudo de Risco Existencial da Universidade de Cambridge (CSER), é o primeiro autor do artigo.

“A ideia de máquinas inteligentes administrando fazendas não é ficção científica. Grandes empresas já estão pioneiras na próxima geração de ag-bots autônomos e sistemas de apoio à decisão que substituirão os humanos no campo”, disse Tzachor.

“Mas até agora, ninguém parece ter feito a pergunta ‘existem algum risco associado a um rápido deploy de IA agrícola?'”, continuou ele.

Abordando os Riscos

A IA pode melhorar drasticamente a gestão de culturas e a produtividade agrícola, mas existem muitos riscos potenciais que devem ser abordados. Novas tecnologias também devem ser testadas minuciosamente em ambientes experimentais para garantir segurança e segurança, pois elas são propensas a falhas, consequências não intencionais e ataques cibernéticos.

Os pesquisadores primeiro criaram um catálogo de riscos que devem ser considerados quando a IA está sendo desenvolvida para a agricultura, bem como maneiras de abordar esses riscos. Um dos principais pontos da análise envolveu ataques cibernéticos, que podem interromper fazendas comerciais que usam IA. Eles poderiam fazer isso alterando conjuntos de dados ou desligando coisas como drones autônomos, pulverizadores e colhedoras robóticas. Os pesquisadores dizem que as empresas devem trabalhar para descobrir quaisquer falhas de segurança durante a fase de desenvolvimento para prevenir tais ataques.

A equipe também levantou a questão da falha acidental. Por exemplo, um sistema de IA programado para entregar apenas o melhor rendimento de culturas no curto prazo poderia ignorar preocupações ambientais, levando ao uso excessivo de fertilizantes e erosão do solo no longo prazo. Outro problema poderia ser a aplicação excessiva de pesticidas ou fertilizantes nitrogenados. Para prevenir isso, os autores sugerem incluir ecologistas aplicados no processo de design da tecnologia.

Outra grande preocupação é que máquinas autônomas poderiam manter ou até aprofundar desigualdades socioeconômicas existentes na indústria agrícola global, como discriminação de gênero, classe e étnica.

“Sistemas de agricultura de IA especializados que não consideram as complexidades das entradas de trabalho ignorarão e potencialmente sustentarão a exploração de comunidades desfavorecidas”, disse Tzachor.

Agricultores de Pequena Escala vs. Fazendas Comercializadas

Por fim, os agricultores de pequena escala poderiam ser excluídos dos benefícios relacionados à IA. Essa é uma grande preocupação, considerando que esses agricultores são responsáveis por alimentar grandes quantidades de pessoas, cultivando a maioria das fazendas em todo o mundo. Isso, por sua vez, ampliaria a lacuna entre os agricultores comerciais e os de subsistência.

Embora a IA possa revolucionar a agricultura e ajudar a resolver a insegurança alimentar para centenas de milhões de pessoas em todo o mundo, é crucial abordar os riscos potenciais para maximizar os benefícios.

O Dr. Seán Ó hÉigeartaigh é Diretor Executivo do CSER e coautor da nova pesquisa.

“A IA está sendo saudada como a maneira de revolucionar a agricultura. À medida que implantamos essa tecnologia em larga escala, devemos considerar cuidadosamente os riscos potenciais e buscar mitigá-los desde cedo no design da tecnologia”, disse ele.