Nouvelle analyse des risques met en garde contre les dangers de l’agriculture basée sur l’IA

Les chercheurs ont publié une nouvelle analyse des risques dans la revue Nature Machine Intelligence qui met en garde contre l’utilisation de l’IA dans l’agriculture. Elle affirme qu’il existe des risques graves pour les agriculteurs, les fermes et la sécurité alimentaire, et que ces risques ne sont pas entièrement compris. 

Le Dr Asaf Tzachor, du Centre d’étude des risques existentiels de l’Université de Cambridge (CSER), est le premier auteur de l’article. 

“L’idée de machines intelligentes gérant les fermes n’est pas de la science-fiction. Les grandes entreprises sont déjà à l’avant-garde de la prochaine génération de robots agricoles autonomes et de systèmes de soutien à la décision qui remplaceront les humains dans les champs,” a déclaré Tzachor.

“Mais jusqu’à présent, personne ne semble avoir posé la question ‘existe-t-il des risques associés à un déploiement rapide de l’IA agricole ?’” a-t-il poursuivi.

Aborder les risques

L’IA peut améliorer considérablement la gestion des cultures et la productivité agricole, mais il existe de nombreux risques potentiels qui doivent être abordés. Les nouvelles technologies doivent également être testées minutieusement dans des contextes expérimentaux pour assurer la sécurité et la sûreté, car elles sont sujettes aux défaillances, aux conséquences involontaires et aux attaques informatiques. 

Les chercheurs ont tout d’abord élaboré un catalogue de risques à prendre en compte lors du développement de l’IA pour l’agriculture, ainsi que des moyens pour atténuer ces risques. L’un des principaux points de l’analyse concernait les attaques informatiques, qui pourraient perturber les fermes commerciales utilisant l’IA. Les attaquants pourraient le faire en modifiant les jeux de données ou en fermant des éléments tels que des drones autonomes, des pulvérisateurs et des moissonneuses robotisées. Les chercheurs estiment que les entreprises devraient travailler pour découvrir les failles de sécurité pendant la phase de développement pour prévenir de telles attaques. 

L’équipe a également soulevé la question de la défaillance accidentelle. Par exemple, un système d’IA programmé pour ne fournir que le meilleur rendement des cultures à court terme pourrait ignorer les préoccupations environnementales, conduisant à une utilisation excessive des engrais et à l’érosion des sols à long terme. Un autre problème pourrait être l’application excessive de pesticides ou d’engrais azotés. Pour prévenir cela, les auteurs suggèrent d’inclure des écologistes appliqués dans le processus de conception de la technologie 

Une autre préoccupation majeure est que les machines autonomes pourraient maintenir ou même approfondir les inégalités socio-économiques existantes dans l’industrie agricole mondiale, telles que les discriminations fondées sur le sexe, la classe et l’ethnie. 

“Les systèmes d’IA experts en agriculture qui ne prennent pas en compte les complexités des intrants de main-d’œuvre ignorent, et potentiellement maintiennent, l’exploitation des communautés défavorisées,” a déclaré Tzachor.

Petits producteurs vs. fermes commercialisées

Enfin, les petits producteurs pourraient être exclus des avantages liés à l’IA. Il s’agit d’une préoccupation majeure, étant donné que ces agriculteurs sont responsables de la nourriture de millions de personnes en cultivant la majorité des fermes à travers le monde. Cela élargirait l’écart entre les agriculteurs commerciaux et les agriculteurs de subsistance. 

Alors que l’IA peut révolutionner l’agriculture et aider à résoudre les problèmes de sécurité alimentaire pour des centaines de millions de personnes à travers le monde, il est crucial de prendre en compte les risques potentiels pour maximiser les avantages. 

Le Dr Seán Ó hÉigeartaigh est directeur exécutif du CSER et co-auteur de la nouvelle recherche. 

“L’IA est considérée comme un moyen de révolutionner l’agriculture. Lorsque nous déployons cette technologie à grande échelle, nous devons prendre en compte les risques potentiels et viser à les atténuer dès le début de la conception de la technologie,” a-t-il déclaré.