Nieuwe risicoanalyse waarschuwt voor gevaar van AI in de landbouw

Onderzoekers hebben een nieuwe risicoanalyse gepubliceerd in het tijdschrift Nature Machine Intelligence die waarschuwt voor het gebruik van AI in de landbouw. Het stelt dat er ernstige risico’s zijn voor boeren, boerderijen en voedselveiligheid, en dat deze risico’s niet volledig begrepen worden.

Dr. Asaf Tzachor van het Center for the Study of Existential Risk (CSER) van de Universiteit van Cambridge is de eerste auteur van het artikel.

“Het idee van intelligente machines die boerderijen runnen is geen sciencefiction. Grote bedrijven zijn al bezig met de ontwikkeling van de volgende generatie autonome ag-bots en beslissingsondersteuningsystemen die mensen in het veld zullen vervangen,” zei Tzachor.

“Maar tot nu toe lijkt niemand de vraag te hebben gesteld ‘zijn er risico’s verbonden aan een snelle inzet van landbouw-AI?’” hij vervolgde.

Risico’s aanpakken

AI kan het gewasbeheer en de landbouwproductiviteit aanzienlijk verbeteren, maar er zijn veel potentiële risico’s die aangepakt moeten worden. Nieuwe technologieën moeten ook grondig getest worden in experimentele settings om veiligheid en beveiliging te garanderen, aangezien ze gevoelig zijn voor fouten, onbedoelde gevolgen en cyberaanvallen.

De onderzoekers hebben eerst een catalogus van risico’s opgesteld die in aanmerking genomen moeten worden bij de ontwikkeling van AI voor de landbouw, evenals manieren om deze risico’s aan te pakken. Een van de belangrijkste punten van de analyse was de mogelijkheid van cyberaanvallen, die commerciële boerderijen die AI gebruiken, kunnen verstoren. Ze kunnen dit doen door datasets te wijzigen of dingen zoals autonome drones, spuitinstallaties en robotische oogstmachines uit te schakelen. De onderzoekers stellen dat bedrijven moeten werken aan het opsporen van beveiligingslekken tijdens de ontwikkelingsfase om dergelijke aanvallen te voorkomen.

Het team heeft ook de kwestie van onopzettelijke fouten aan de orde gesteld. Bijvoorbeeld, een AI-systeem dat is geprogrammeerd om alleen de beste oogstopbrengst op korte termijn te leveren, kan milieubezorgdheden negeren, wat op lange termijn kan leiden tot het overmatig gebruik van fertilisatoren en bodemerosie. Een ander probleem kan het overmatig gebruik van pesticiden of stikstofmeststoffen zijn. Om dit te voorkomen, stellen de auteurs voor om toegepaste ecologen te betrekken bij het ontwerpproces van de technologie

Een ander grote zorg is dat autonome machines bestaande socio-economische ongelijkheden in de wereldwijde landbouwsector kunnen verergeren, zoals discriminatie op basis van geslacht, klasse en etniciteit.

“Expert AI-landbouwsystemen die de complexiteit van arbeidsinput niet meenemen, zullen de uitbuiting van benadeelde gemeenschappen negeren en mogelijk in stand houden,” zei Tzachor.

Kleine boeren vs. geïndustrialiseerde boerderijen

Ten slotte kunnen kleine boeren worden uitgesloten van de voordelen van AI. Dit is een grote zorg, gezien het feit dat deze boeren verantwoordelijk zijn voor het voeden van enorme aantallen mensen door het merendeel van de boerderijen over de hele wereld te cultiveren. Dit zou op zijn beurt de kloof tussen commerciële en subsistentieboeren vergroten.

Terwijl AI de landbouw kan revolutioneren en helpen om voedselonveiligheid voor honderden miljoenen mensen over de hele wereld op te lossen, is het cruciaal om de potentiële risico’s aan te pakken als we de voordelen maximaal willen benutten.

Dr. Seán Ó hÉigeartaigh is de uitvoerend directeur van CSER en co-auteur van het nieuwe onderzoek.

“AI wordt gezien als de manier om de landbouw te revolutioneren. Als we deze technologie op grote schaal inzetten, moeten we de potentiële risico’s nauwlettend in de gaten houden en ernaar streven om die vroeg in het ontwerpproces van de technologie te mitigeren,” zei hij.