Nova Análise de Risco Adverte sobre os Perigos da Agricultura de IA

Pesquisadores publicaram uma nova análise de risco na revista Nature Machine Intelligence que adverte sobre o uso de IA na agricultura. Ele afirma que existem riscos graves para os agricultores, fazendas e segurança alimentar, e que esses riscos não são totalmente compreendidos. 

O Dr. Asaf Tzachor, do Centro de Estudo de Risco Existencial da Universidade de Cambridge (CSER), é o primeiro autor do artigo. 

“A ideia de máquinas inteligentes administrando fazendas não é ficção científica. Grandes empresas já estão pioneiras na próxima geração de ag-bots autônomos e sistemas de apoio a decisões que substituirão os humanos no campo”, disse Tzachor.

“Mas até agora, ninguém parece ter feito a pergunta ‘há algum risco associado a um rápido deploy de IA agrícola?’” ele continuou.

Abordando os Riscos

A IA pode melhorar drasticamente a gestão de culturas e a produtividade agrícola, mas existem muitos riscos potenciais que devem ser abordados. Novas tecnologias também devem ser testadas minuciosamente em ambientes experimentais para garantir segurança e segurança, pois elas são propensas a falhas, consequências não intencionais e ataques cibernéticos. 

Os pesquisadores primeiro criaram um catálogo de riscos que devem ser considerados quando a IA está sendo desenvolvida para a agricultura, bem como maneiras de abordar esses riscos. Um dos principais pontos da análise envolveu os cibercriminosos, que podem interromper fazendas comerciais que usam IA. Eles podem fazer isso alterando conjuntos de dados ou desligando coisas como drones autônomos, pulverizadores e colheitadeiras robóticas. Os pesquisadores dizem que as empresas devem trabalhar para descobrir falhas de segurança durante a fase de desenvolvimento para prevenir tais ataques. 

A equipe também levantou a questão da falha acidental. Por exemplo, um sistema de IA programado para entregar apenas o melhor rendimento de culturas no curto prazo pode ignorar as preocupações ambientais, levando ao uso excessivo de fertilizantes e erosão do solo no longo prazo. Outro problema pode ser a aplicação excessiva de pesticidas ou fertilizantes nitrogenados. Para prevenir isso, os autores sugerem incluir ecologistas aplicados no processo de design da tecnologia 

Outra grande preocupação é que as máquinas autônomas possam manter ou até aprofundar as desigualdades socioeconômicas existentes na indústria agrícola global, como discriminação de gênero, classe e étnica. 

“Sistemas de agricultura de IA especializados que não consideram as complexidades das entradas de mão de obra podem ignorar e potencialmente sustentar a exploração de comunidades desfavorecidas”, disse Tzachor.

Cultivadores de Pequena Escala vs. Fazendas Comercializadas

Por fim, os cultivadores de pequena escala podem ser excluídos dos benefícios relacionados à IA. Essa é uma grande preocupação, considerando que esses agricultores são responsáveis por alimentar grandes quantidades de pessoas, cultivando a maioria das fazendas em todo o mundo. Isso ampliaria a lacuna entre os agricultores comerciais e os subsistentes. 

Embora a IA possa revolucionar a agricultura e ajudar a resolver a insegurança alimentar para centenas de milhões de pessoas em todo o mundo, é crucial abordar os riscos potenciais para maximizar os benefícios. 

O Dr. Seán Ó hÉigeartaigh é o diretor executivo do CSER e coautor da nova pesquisa. 

“A IA está sendo saudada como a maneira de revolucionar a agricultura. À medida que implantamos essa tecnologia em larga escala, devemos considerar cuidadosamente os riscos potenciais e visar mitigá-los desde cedo no design da tecnologia”, disse ele.