Nuevo análisis de riesgos advierte sobre los peligros de la agricultura con IA

Los investigadores han publicado un nuevo análisis de riesgo en la revista Nature Machine Intelligence que advierte del uso de la IA en la agricultura. Establece que existen riesgos graves para los agricultores, las granjas y la seguridad alimentaria, y que estos riesgos no se comprenden completamente. 

El Dr. Asaf Tzachor del Centro para el Estudio del Riesgo Existencial (CSER) de la Universidad de Cambridge es el primer autor del artículo. 

“La idea de máquinas inteligentes manejando granjas no es ciencia ficción. Las grandes empresas ya son pioneras en la próxima generación de bots agrícolas autónomos y sistemas de apoyo a la toma de decisiones que reemplazarán a los humanos en el campo”, dijo Tzachor.

“Pero hasta ahora nadie parece haber hecho la pregunta '¿existen riesgos asociados con un rápido despliegue de IA agrícola?'”, continuó.

Abordar los riesgos

La IA puede mejorar drásticamente la gestión de cultivos y la productividad agrícola, pero existen muchos riesgos potenciales que deben abordarse. Las nuevas tecnologías también deben probarse exhaustivamente en entornos experimentales para garantizar la seguridad, ya que son propensas a fallas, consecuencias no deseadas y ataques cibernéticos. 

Los investigadores primero elaboraron un catálogo de riesgos que deben tenerse en cuenta cuando se desarrolla la IA para la agricultura, así como las formas de abordar estos riesgos. Uno de los puntos principales del análisis involucró a los atacantes cibernéticos, que pueden interrumpir las granjas comerciales que utilizan IA. Podrían hacer esto alterando conjuntos de datos o apagando cosas como drones autónomos, rociadores y cosechadoras robóticas. Los investigadores dicen que las empresas deberían trabajar para descubrir cualquier falla de seguridad durante la fase de desarrollo para prevenir tales ataques. 

El equipo también planteó la cuestión de la falla accidental. Por ejemplo, un sistema de IA programado para ofrecer solo el mejor rendimiento de cultivo a corto plazo podría ignorar las preocupaciones ambientales, lo que llevaría al uso excesivo de fertilizantes y la erosión del suelo a largo plazo. Otro problema podría ser la aplicación excesiva de pesticidas o fertilizantes nitrogenados. Para evitar esto, los autores sugieren incluir ecologistas aplicados en el proceso de diseño de tecnología. 

Otra preocupación importante es que las máquinas autónomas podrían mantener o incluso profundizar las desigualdades socioeconómicas que existen en la industria agrícola mundial, como las discriminaciones de género, clase y etnia. 

“Los sistemas agrícolas expertos en IA que no tienen en cuenta las complejidades de los insumos laborales ignorarán y potencialmente mantendrán la explotación de las comunidades desfavorecidas”, dijo Tzachor.

Productores de pequeña escala versus granjas comercializadas

Por último, los pequeños productores podrían quedar excluidos de los beneficios relacionados con la IA. Esta es una gran preocupación dado que estos agricultores son responsables de alimentar a cantidades masivas de personas cultivando la mayoría de las granjas en todo el mundo. Esto, a su vez, ampliaría la brecha entre los agricultores comerciales y los de subsistencia. 

Si bien la IA puede revolucionar la agricultura y ayudar a resolver la inseguridad alimentaria de cientos de millones de personas en todo el mundo, es crucial abordar los riesgos potenciales si queremos maximizar los beneficios. 

El Dr. Seán Ó hÉigeartaigh es Director Ejecutivo de CSER y coautor de la nueva investigación. 

“La IA está siendo aclamada como la forma de revolucionar la agricultura. A medida que implementamos esta tecnología a gran escala, debemos considerar de cerca los riesgos potenciales y tratar de mitigarlos desde el principio en el diseño de la tecnología”, dijo.