Nová analýza rizik varuje před nebezpečími AI v zemědělství

Výzkumníci zveřejnili novou analýzu rizik v časopise Nature Machine Intelligence varující před používáním AI v zemědělství. Tvrdí, že existují vážná rizika pro farmáře, farmy a potravinovou bezpečnost a že tato rizika nejsou plně pochopena.

Dr. Asaf Tzachor z Centra pro studium existenčních rizik (CSER) na Univerzitě v Cambridgi je prvním autorem článku.

“Nápad inteligentních strojů, které řídí farmy, není sci-fi. Velké společnosti již nyní rozvíjí novou generaci autonomních ag-botů a systémů pro podporu rozhodování, které nahradí lidi v poli,” řekl Tzachor.

“Ale zatím nikdo nezdá se, že by se zeptal na otázku ‘existují nějaká rizika spojená s rychlým nasazením zemědělské AI?’” pokračoval.

Vyřešení rizik

AI může dramaticky zlepšit řízení plodin a zemědělskou produktivitu, ale existuje mnoho potenciálních rizik, která je třeba řešit. Nové technologie musí být také důkladně testovány v experimentálních podmínkách, aby byla zajištěna bezpečnost a bezpečnost, protože jsou náchylné k selháním, neúmyslným důsledkům a kybernetickým útokům.

Výzkumníci nejprve vytvořili katalog rizik, která je třeba zvážit při vývoji AI pro zemědělství, a způsoby, jak tato rizika řešit. Jedním z hlavních bodů analýzy byli kybernetičtí útočníci, kteří mohou narušit komerční farmy používající AI. Mohli by to udělat tak, že by změnili datové sady nebo vypnuli věci, jako jsou autonomní drony, postřikovače a robotické sklízeče. Výzkumníci říkají, že společnosti by měly pracovat na odhalení bezpečnostních selhání během fáze vývoje, aby se tyto útoky předešlo.

Tým také poukázal na problém náhodného selhání. Například systém AI naprogramovaný tak, aby dodával pouze nejlepší výnos plodin v krátkém období, by mohl ignorovat environmentální problémy, což by vedlo k nadměrnému používání hnojiv a erozi půdy v dlouhodobém horizontu. Další problém by mohl být nadměrné používání pesticidů nebo dusíkatých hnojiv. Aby se tomu předešlo, autoři navrhují zapojit aplikované ekology do procesu návrhu technologie

Další velkou obavou je, že autonomní stroje by mohly udržet nebo dokonce prohloubit socioekonomické nerovnosti existující v globálním zemědělském průmyslu, jako je gender, třída a etnická diskriminace.

“Odborné AI systémy pro zemědělství, které nezohledňují složitosti pracovních vstupů, budou ignorovat a potenciálně udržovat vykořisťování znevýhodněných komunit,” řekl Tzachor.

Malí pěstitelé vs. komerční farmy

Nakonec by malí pěstitelé mohli být vyloučeni z výhod spojených s AI. To je velká obava, protože tito farmáři jsou zodpovědní za krmení obrovského množství lidí pěstováním většiny farem po celém světě. To by vedlo k prohloubení rozdílu mezi komerčními a subsistenčními farmami.

Zatímco AI může revolucionalizovat zemědělství a pomoci řešit potravinovou bezpečnost pro stovky milionů lidí po celém světě, je zásadní řešit potenciální rizika, abychom maximalizovali výhody.

Dr. Seán Ó hÉigeartaigh je výkonným ředitelem CSER a spoluautorem nové studie.

“AI je oslavována jako způsob, jak revolucionalizovat zemědělství. Když nasazujeme tuto technologii ve velkém měřítku, měli bychom pečlivě zvážit potenciální rizika a snažit se je zmírnit již v rané fázi návrhu technologie,” řekl.