Nouvelle analyse des risques met en garde contre les dangers de l’agriculture basée sur l’IA

Les chercheurs ont publié une nouvelle analyse des risques dans la revue Nature Machine Intelligence qui met en garde contre l’utilisation de l’IA en agriculture. Elle indique qu’il existe des risques graves pour les agriculteurs, les fermes et la sécurité alimentaire, et que ces risques ne sont pas entièrement compris.

Le Dr Asaf Tzachor du Centre pour l’étude des risques existentiels (CSER) de l’Université de Cambridge est le premier auteur de l’article.

“L’idée de machines intelligentes gérant des fermes n’est pas de la science-fiction. Les grandes entreprises sont déjà à l’avant-garde de la prochaine génération d’ag-bots autonomes et de systèmes de soutien à la décision qui remplaceront les humains sur le terrain”, a déclaré Tzachor.

“Mais jusqu’à présent, personne ne semble avoir posé la question ‘existe-t-il des risques associés à un déploiement rapide de l’IA agricole ?'” a-t-il poursuivi.

traiter les risques

L’IA peut améliorer considérablement la gestion des cultures et la productivité agricole, mais il existe de nombreux risques potentiels qui doivent être pris en compte. Les nouvelles technologies doivent également être testées de manière approfondie dans des environnements expérimentaux pour assurer la sécurité et la sûreté, car elles sont sujettes à des défaillances, à des conséquences involontaires et à des attaques cybernétiques.

Les chercheurs ont tout d’abord établi un catalogue de risques qui doivent être pris en compte lors du développement de l’IA pour l’agriculture, ainsi que des moyens pour atténuer ces risques. L’un des principaux points de l’analyse concernait les attaquants cybernétiques, qui peuvent perturber les fermes commerciales utilisant l’IA. Ils pourraient le faire en modifiant les jeux de données ou en arrêtant des choses comme les drones autonomes, les pulvérisateurs et les moissonneuses robotiques. Les chercheurs estiment que les entreprises devraient travailler pour découvrir les failles de sécurité pendant la phase de développement pour prévenir de telles attaques.

L’équipe a également soulevé la question de la défaillance accidentelle. Par exemple, un système d’IA programmé pour ne livrer que le meilleur rendement des cultures à court terme pourrait ignorer les préoccupations environnementales, entraînant une utilisation excessive des engrais et une érosion des sols à long terme. Un autre problème pourrait être une application excessive de pesticides ou d’engrais azotés. Pour prévenir cela, les auteurs suggèrent d’inclure des écologistes appliqués dans le processus de conception de la technologie

Une autre préoccupation majeure est que les machines autonomes pourraient maintenir ou même approfondir les inégalités socio-économiques existantes dans l’industrie agricole mondiale, telles que les discriminations fondées sur le sexe, la classe et l’ethnie.

“Les systèmes d’agriculture basés sur l’IA d’experts qui ne prennent pas en compte les complexités des apports de main-d’œuvre ignoreront, et potentiellement perpétueront, l’exploitation des communautés défavorisées”, a déclaré Tzachor.

Petits producteurs vs. fermes commercialisées

Enfin, les petits producteurs pourraient être exclus des avantages liés à l’IA. Il s’agit d’une préoccupation majeure étant donné que ces agriculteurs sont responsables de la nourriture de millions de personnes en cultivant la majorité des fermes à travers le monde. Cela élargirait l’écart entre les agriculteurs commerciaux et les agriculteurs de subsistance.

Alors que l’IA peut révolutionner l’agriculture et aider à résoudre les problèmes de sécurité alimentaire pour des centaines de millions de personnes à travers le monde, il est crucial de traiter les risques potentiels si nous voulons maximiser les avantages.

Le Dr Seán Ó hÉigeartaigh est le directeur exécutif du CSER et co-auteur de la nouvelle recherche.

“L’IA est considérée comme le moyen de révolutionner l’agriculture. Alors que nous déployons cette technologie à grande échelle, nous devons considérer attentivement les risques potentiels et viser à les atténuer dès le début de la conception de la technologie”, a-t-il déclaré.