Nová analýza rizik varuje před nebezpečími AI v zemědělství

Výzkumníci zveřejnili novou analýzu rizik v časopise Nature Machine Intelligence , která varuje před používáním AI v zemědělství. Tvrdí, že existují vážná rizika pro farmáře, farmy a potravinovou bezpečnost a že tato rizika nejsou plně pochopena.

Dr. Asaf Tzachor z Centra pro studium existenčních rizik (CSER) na Univerzitě v Cambridgi je prvním autorem článku.

“Nápad inteligentních strojů, které řídí farmy, není sci-fi. Velké společnosti již nyní zavádějí novou generaci autonomních ag-botů a systémů pro podporu rozhodnutí, které nahradí lidi v poli,” řekl Tzachor.

“Ale zatím se nikdo nezeptal otázky ‘existují nějaká rizika spojená s rychlým nasazením AI v zemědělství?’” pokračoval.

Význam rizik

AI může dramaticky zlepšit řízení plodin a zemědělskou produktivitu, ale existuje mnoho potenciálních rizik, která je třeba řešit. Nové technologie musí být také důkladně testovány v experimentálních podmínkách, aby byla zajištěna bezpečnost a bezpečnost, protože jsou náchylné k selháním, neúmyslným následkům a kybernetickým útokům.

Výzkumníci nejprve vytvořili katalog rizik, která je třeba zvážit při vývoji AI pro zemědělství, jakož i způsoby, jak tato rizika řešit. Jedním z hlavních bodů analýzy byli kybernetičtí útočníci, kteří mohou narušit komerční farmy pomocí AI. Mohli by to udělat tak, že by změnili datové sady nebo vypnuli věci, jako jsou autonomní drony, postřikovače a robotické kombajny. Výzkumníci říkají, že společnosti by měly během fáze vývoje odhalit případné bezpečnostní nedostatky, aby se těmto útokům zabránilo.

Tým také poukázal na problém náhodného selhání. Například AI systém naprogramovaný tak, aby dodával pouze nejlepší výnos plodin v krátkém období, by mohl ignorovat environmentální problémy, což by vedlo k nadměrnému používání hnojiv a erozi půdy v dlouhodobém horizontu. Další problém by mohl být nadměrné používání pesticidů nebo dusíkatých hnojiv. Aby se tomu zabránilo, autoři doporučují zapojit aplikované ekology do procesu navrhování technologií

Další velkou obavou je, že autonomní stroje by mohly podržet nebo dokonce prohloubit socioekonomické nerovnosti, které existují v globálním zemědělském průmyslu, jako je gender, třída a etnická diskriminace.

“Odborné AI systémy pro zemědělství, které neberou v úvahu složitosti pracovních vstupů, budou ignorovat a potenciálně podržet vykořisťování znevýhodněných komunit,” řekl Tzachor.

Malí pěstitelé vs. komerční farmy

Nakonec by malí pěstitelé mohli být vyloučeni z výhod spojených s AI. To je velká obava, protože tito farmáři jsou zodpovědní za krmení obrovského množství lidí pěstováním většiny farem po celém světě. To by vedlo ke zhoršení rozdílu mezi komerčními a subsistenčními farmáři.

Zatímco AI může revolucionalizovat zemědělství a pomoci řešit potravinovou nesicherost pro stovky milionů lidí po celém světě, je důležité řešit potenciální rizika, abychom mohli maximalizovat výhody.

Dr. Seán Ó hÉigeartaigh je výkonným ředitelem CSER a spoluautorem nové studie.

“AI je oslavována jako způsob, jak revolucionalizovat zemědělství. Když budeme nasazovat tuto technologii na velkém měřítku, měli bychom pečlivě zvážit potenciální rizika a snažit se je zmírnit již na začátku navrhování technologií,” řekl.