Nuevo Análisis de Riesgos Advierte sobre los Peligros de la Agricultura de IA

Los investigadores han publicado un nuevo análisis de riesgos en la revista Nature Machine Intelligence que advierte sobre el uso de la IA en la agricultura. Establece que existen riesgos graves para los agricultores, las granjas y la seguridad alimentaria, y que estos riesgos no son completamente entendidos. 

El Dr. Asaf Tzachor, del Centro para el Estudio de Riesgos Existenciales (CSER) de la Universidad de Cambridge, es el primer autor del artículo. 

“La idea de máquinas inteligentes que gestionan granjas no es ciencia ficción. Las grandes empresas ya están pioneras en la próxima generación de ag-bots autónomos y sistemas de apoyo a la decisión que reemplazarán a los humanos en el campo”, dijo Tzachor.

“Pero hasta ahora nadie parece haberse planteado la pregunta ‘¿hay algún riesgo asociado con una rápida implementación de la IA agrícola?'”, continuó.

Abordar los Riesgos

La IA puede mejorar drásticamente la gestión de cultivos y la productividad agrícola, pero existen muchos riesgos potenciales que deben abordarse. Las nuevas tecnologías también deben probarse exhaustivamente en entornos experimentales para garantizar la seguridad y la seguridad, ya que son propensas a fallos, consecuencias no deseadas y ciberataques. 

Los investigadores primero elaboraron un catálogo de riesgos que deben considerarse al desarrollar la IA para la agricultura, así como formas de abordar estos riesgos. Uno de los puntos principales del análisis involucró a los ciberatacantes, que pueden interrumpir las granjas comerciales que utilizan la IA. Podrían hacerlo alterando conjuntos de datos o desactivando cosas como drones autónomos, pulverizadores y cosechadoras robóticas. Los investigadores afirman que las empresas deben trabajar para descubrir cualquier fallo de seguridad durante la fase de desarrollo para prevenir dichos ataques. 

El equipo también planteó el problema de fallo accidental. Por ejemplo, un sistema de IA programado para entregar solo el mejor rendimiento de cultivos a corto plazo podría ignorar las preocupaciones ambientales, lo que lleva a un uso excesivo de fertilizantes y erosión del suelo a largo plazo. Otro problema podría ser la aplicación excesiva de pesticidas o fertilizantes nitrogenados. Para prevenir esto, los autores sugieren incluir a ecólogos aplicados en el proceso de diseño de la tecnología 

Otra preocupación importante es que las máquinas autónomas podrían mantener o incluso profundizar las desigualdades socioeconómicas existentes en la industria agrícola global, como la discriminación de género, clase y étnica. 

“Los sistemas de agricultura de IA expertos que no consideran las complejidades de las entradas de mano de obra ignorarán, y potencialmente sostendrán, la explotación de comunidades desfavorecidas”, dijo Tzachor.

Cultivadores a Pequeña Escala vs. Granjas Comercializadas

Finalmente, los cultivadores a pequeña escala podrían ser excluidos de los beneficios relacionados con la IA. Esta es una preocupación importante, dado que estos agricultores son responsables de alimentar a grandes cantidades de personas cultivando la mayoría de las granjas en todo el mundo. Esto ampliaría la brecha entre los agricultores comerciales y los subsistencia. 

Si bien la IA puede revolucionar la agricultura y ayudar a resolver la inseguridad alimentaria para cientos de millones de personas en todo el mundo, es crucial abordar los posibles riesgos si queremos maximizar los beneficios. 

El Dr. Seán Ó hÉigeartaigh es el director ejecutivo de CSER y coautor de la nueva investigación. 

“La IA se está considerando como la forma de revolucionar la agricultura. A medida que desplegamos esta tecnología a gran escala, debemos considerar cuidadosamente los posibles riesgos y apuntar a mitigarlos desde el principio en el diseño de la tecnología”, dijo.