Nieuwe risicoanalyse waarschuwt voor gevaren van AI-landbouw

Onderzoekers hebben een nieuwe risicoanalyse gepubliceerd in het tijdschrift Nature Machine Intelligence die waarschuwt voor het gebruik van AI in de landbouw. Daarin staat dat er serieuze risico's zijn voor boeren, boerderijen en voedselzekerheid, en dat deze risico's niet volledig worden begrepen. 

Dr. Asaf Tzachor van het Centre for the Study of Existential Risk (CSER) van de Universiteit van Cambridge is de eerste auteur van het artikel. 

“Het idee van intelligente machines die boerderijen runnen, is geen sciencefiction. Grote bedrijven pionieren al met de volgende generatie autonome ag-bots en beslissingsondersteunende systemen die mensen in het veld zullen vervangen”, aldus Tzachor.

"Maar tot nu toe lijkt niemand de vraag te hebben gesteld 'zijn er risico's verbonden aan een snelle inzet van agrarische AI?'", vervolgde hij.

De risico's aanpakken

AI kan het gewasbeheer en de landbouwproductiviteit drastisch verbeteren, maar er zijn veel potentiële risico's die moeten worden aangepakt. Nieuwe technologieën moeten ook grondig worden getest in experimentele omgevingen om de veiligheid en beveiliging te waarborgen, aangezien ze vatbaar zijn voor storingen, onbedoelde gevolgen en cyberaanvallen. 

De onderzoekers kwamen eerst met een catalogus van risico's waarmee rekening moet worden gehouden bij de ontwikkeling van AI voor de landbouw, evenals manieren om deze risico's aan te pakken. Een van de belangrijkste punten van de analyse betrof cyberaanvallers, die met behulp van AI commerciële boerderijen kunnen ontwrichten. Ze kunnen dit doen door datasets te wijzigen of zaken als autonome drones, sproeiers en robotoogstmachines uit te schakelen. De onderzoekers zeggen dat bedrijven moeten werken aan het ontdekken van beveiligingsfouten tijdens de ontwikkelingsfase om dergelijke aanvallen te voorkomen. 

Het team bracht ook de kwestie van accidenteel falen ter sprake. Een AI-systeem dat is geprogrammeerd om alleen op korte termijn de beste gewasopbrengst te leveren, kan bijvoorbeeld milieuproblemen negeren, wat leidt tot overmatig gebruik van kunstmest en bodemerosie op de lange termijn. Een ander probleem kan de overmatige toepassing van pesticiden of stikstofkunstmest zijn. Om dit te voorkomen, stellen de auteurs voor om toegepaste ecologen te betrekken bij het technologieontwerpproces 

Een andere grote zorg is dat autonome machines sociaal-economische ongelijkheden die in de wereldwijde landbouwindustrie bestaan, zoals discriminatie op grond van geslacht, klasse en etniciteit, in stand kunnen houden of zelfs kunnen vergroten. 

"Deskundige AI-landbouwsystemen die geen rekening houden met de complexiteit van arbeidsinputs zullen de uitbuiting van kansarme gemeenschappen negeren en mogelijk in stand houden", aldus Tzachor.

Kleinschalige telers versus gecommercialiseerde boerderijen

Ten slotte zouden kleinschalige telers kunnen worden uitgesloten van AI-gerelateerde voordelen. Dit is een grote zorg gezien het feit dat deze boeren verantwoordelijk zijn voor het voeden van enorme hoeveelheden mensen door de meeste boerderijen over de hele wereld te cultiveren. Dit zou op zijn beurt de kloof tussen commerciële en zelfvoorzienende boeren vergroten. 

Hoewel AI een revolutie teweeg kan brengen in de landbouw en kan helpen bij het oplossen van voedselonzekerheid voor honderden miljoenen mensen over de hele wereld, is het cruciaal om de potentiële risico's aan te pakken als we de voordelen willen maximaliseren. 

Dr. Seán Ó hÉigeartaigh is uitvoerend directeur van CSER en co-auteur van het nieuwe onderzoek. 

“AI wordt geprezen als de manier om een ​​revolutie teweeg te brengen in de landbouw. Aangezien we deze technologie op grote schaal inzetten, moeten we mogelijke risico's goed in overweging nemen en ernaar streven deze in een vroeg stadium van het technologieontwerp te beperken", zei hij.