Neue Risikoanalyse warnt vor Gefahren der KI-Landwirtschaft

Forscher haben in der Fachzeitschrift eine neue Risikoanalyse veröffentlicht Nature Machine Intelligence das warnt vor dem Einsatz von KI in der Landwirtschaft. Darin heißt es, dass ernsthafte Risiken für Landwirte, landwirtschaftliche Betriebe und die Ernährungssicherheit bestehen und dass diese Risiken nicht vollständig verstanden werden. 

Dr. Asaf Tzachor vom Centre for the Study of Existential Risk (CSER) der Universität Cambridge ist Erstautor des Artikels. 

„Die Idee, dass intelligente Maschinen landwirtschaftliche Betriebe betreiben, ist keine Science-Fiction. Große Unternehmen leisten bereits Pionierarbeit für die nächste Generation autonomer Ag-Bots und Entscheidungsunterstützungssysteme, die den Menschen im Feld ersetzen werden“, sagte Tzachor.

„Aber bisher scheint sich niemand die Frage gestellt zu haben: ‚Gibt es irgendwelche Risiken, die mit einem schnellen Einsatz landwirtschaftlicher KI verbunden sind?‘“, fuhr er fort.

Den Risiken begegnen

KI kann das Pflanzenmanagement und die landwirtschaftliche Produktivität drastisch verbessern, es gibt jedoch viele potenzielle Risiken, die angegangen werden müssen. Um die Sicherheit zu gewährleisten, müssen neue Technologien auch in experimentellen Umgebungen gründlich getestet werden, da sie anfällig für Ausfälle, unbeabsichtigte Folgen und Cyberangriffe sind. 

Die Forscher erstellten zunächst einen Katalog von Risiken, die bei der Entwicklung von KI für die Landwirtschaft berücksichtigt werden müssen, sowie Möglichkeiten, diesen Risiken zu begegnen. Einer der Hauptpunkte der Analyse betraf Cyber-Angreifer, die kommerzielle landwirtschaftliche Betriebe, die KI nutzen, stören können. Sie könnten dies tun, indem sie Datensätze ändern oder Dinge wie autonome Drohnen, Sprühgeräte und Ernteroboter abschalten. Die Forscher sagen, dass Unternehmen bereits in der Entwicklungsphase daran arbeiten sollten, etwaige Sicherheitsmängel aufzudecken, um solche Angriffe zu verhindern. 

Das Team brachte auch das Problem eines versehentlichen Versagens zur Sprache. Beispielsweise könnte ein KI-System, das so programmiert ist, dass es nur kurzfristig den besten Ernteertrag liefert, Umweltbedenken außer Acht lassen und langfristig zu einem übermäßigen Einsatz von Düngemitteln und Bodenerosion führen. Ein weiteres Problem könnte der übermäßige Einsatz von Pestiziden oder Stickstoffdünger sein. Um dies zu verhindern, schlagen die Autoren vor, angewandte Ökologen in den Technologiedesignprozess einzubeziehen 

Eine weitere große Sorge besteht darin, dass autonome Maschinen die in der globalen Agrarindustrie bestehenden sozioökonomischen Ungleichheiten wie Geschlechter-, Klassen- und ethnische Diskriminierung aufrechterhalten oder sogar vertiefen könnten. 

„Experten-KI-Landwirtschaftssysteme, die die Komplexität des Arbeitseinsatzes nicht berücksichtigen, werden die Ausbeutung benachteiligter Gemeinschaften ignorieren und möglicherweise aufrechterhalten“, sagte Tzachor.

Kleinbauern vs. kommerzialisierte Betriebe

Schließlich könnten Kleinbauern von KI-bezogenen Vorteilen ausgeschlossen werden. Dies ist ein großes Problem, wenn man bedenkt, dass diese Landwirte für die Ernährung riesiger Menschenmengen verantwortlich sind, indem sie die meisten landwirtschaftlichen Betriebe auf der ganzen Welt bewirtschaften. Dies würde wiederum die Kluft zwischen kommerziellen und Subsistenzlandwirten vergrößern. 

Während KI die Landwirtschaft revolutionieren und dazu beitragen kann, die Ernährungsunsicherheit von Hunderten Millionen Menschen auf der ganzen Welt zu lösen, ist es entscheidend, die potenziellen Risiken anzugehen, wenn wir den Nutzen maximieren wollen. 

Dr. Seán Ó hÉigeartaigh ist Geschäftsführer von CSER und Co-Autor der neuen Studie. 

„KI wird als Weg zur Revolutionierung der Landwirtschaft gefeiert. „Da wir diese Technologie in großem Maßstab einsetzen, sollten wir potenzielle Risiken genau berücksichtigen und darauf abzielen, diese frühzeitig im Technologiedesign zu mindern“, sagte er.