Nuevo Análisis de Riesgos Advierte sobre los Peligros de la Agricultura con IA

Los investigadores han publicado un nuevo análisis de riesgos en la revista Nature Machine Intelligence que advierte sobre el uso de la IA en la agricultura. Establece que existen riesgos graves para los agricultores, las granjas y la seguridad alimentaria, y que estos riesgos no son completamente entendidos.

El Dr. Asaf Tzachor, del Centro de Estudio de Riesgos Existenciales de la Universidad de Cambridge (CSER), es el primer autor del documento.

“La idea de máquinas inteligentes que gestionan granjas no es ciencia ficción. Las grandes empresas ya están pioneras en la próxima generación de ag-bots autónomos y sistemas de apoyo a la decisión que reemplazarán a los humanos en el campo”, dijo Tzachor.

“Pero hasta ahora, nadie parece haber preguntado ‘¿hay algún riesgo asociado con una rápida implementación de la IA agrícola?'”, continuó.

Abordar los Riesgos

La IA puede mejorar drásticamente la gestión de cultivos y la productividad agrícola, pero existen muchos riesgos potenciales que deben ser abordados. Las nuevas tecnologías también deben ser probadas exhaustivamente en entornos experimentales para garantizar la seguridad y la seguridad, ya que son propensas a fallos, consecuencias no deseadas y ataques cibernéticos.

Los investigadores primero crearon un catálogo de riesgos que deben ser considerados cuando se desarrolla la IA para la agricultura, así como formas de abordar estos riesgos. Uno de los puntos principales del análisis involucró a los atacantes cibernéticos, que pueden interrumpir las granjas comerciales que utilizan la IA. Podrían hacerlo alterando conjuntos de datos o apagando cosas como drones autónomos, pulverizadores y cosechadoras robóticas. Los investigadores afirman que las empresas deben trabajar para descubrir cualquier fallo de seguridad durante la fase de desarrollo para prevenir dichos ataques.

El equipo también planteó el problema del fallo accidental. Por ejemplo, un sistema de IA programado para entregar solo el mejor rendimiento de cultivos a corto plazo podría ignorar las preocupaciones ambientales, lo que llevaría al uso excesivo de fertilizantes y la erosión del suelo a largo plazo. Otro problema podría ser la aplicación excesiva de pesticidas o fertilizantes de nitrógeno. Para prevenir esto, los autores sugieren incluir ecologistas aplicados en el proceso de diseño de la tecnología.

Otra preocupación importante es que las máquinas autónomas podrían mantener o incluso profundizar las desigualdades socioeconómicas existentes en la industria agrícola global, como la discriminación de género, clase y etnia.

“Los sistemas de agricultura experta en IA que no consideran la complejidad de las entradas de mano de obra ignorarán y potencialmente sostendrán la explotación de comunidades desfavorecidas”, dijo Tzachor.

Agricultores a Pequeña Escala vs. Granjas Comercializadas

Finalmente, los agricultores a pequeña escala podrían ser excluidos de los beneficios relacionados con la IA. Esta es una preocupación importante, considerando que estos agricultores son responsables de alimentar a grandes cantidades de personas cultivando la mayoría de las granjas en todo el mundo. Esto, a su vez, ampliaría la brecha entre los agricultores comerciales y los agricultores de subsistencia.

Si bien la IA puede revolucionar la agricultura y ayudar a resolver la inseguridad alimentaria para cientos de millones de personas en todo el mundo, es crucial abordar los posibles riesgos para maximizar los beneficios.

El Dr. Seán Ó hÉigeartaigh es el director ejecutivo de CSER y coautor de la nueva investigación.

“La IA se está considerando como la forma de revolucionar la agricultura. A medida que desplegamos esta tecnología a gran escala, debemos considerar cuidadosamente los posibles riesgos y apuntar a mitigarlos desde el principio en el diseño de la tecnología”, dijo.