Modely a platformy AI
Nová analýza rizik varuje před nebezpečími AI v zemědělství

Klíčové bodyAI v zemědělství riskuje kybernetické útoky, které by mohly narušit autonomní drony a…
Zobrazit více
- AI v zemědělství riskuje kybernetické útoky, které by mohly narušit autonomní drony a robotické sklízeče.
- Krátkodobá optimalizace plodin pomocí AI může ignorovat environmentální škody, jako je nadměrné hnojení a eroze půdy.
- Autonomní zemědělská AI by mohla prohloubit stávající socioekonomické nerovnosti a vyloučit drobné pěstitele.
Výzkumníci zveřejnili novou analýzu rizik v časopise Nature Machine Intelligence varující před používáním AI v zemědělství. Tvrdí, že existují vážná rizika pro farmáře, farmy a potravinovou bezpečnost a že tato rizika nejsou plně pochopena.
Dr. Asaf Tzachor z Centra pro studium existenčních rizik (CSER) na Univerzitě v Cambridgi je prvním autorem článku.
“Nápad inteligentních strojů, které řídí farmy, není sci-fi. Velké společnosti již nyní rozvíjí novou generaci autonomních ag-botů a systémů pro podporu rozhodování, které nahradí lidi v poli,” řekl Tzachor.
“Ale zatím nikdo nezdá se, že by se zeptal na otázku ‘existují nějaká rizika spojená s rychlým nasazením zemědělské AI?’” pokračoval.
Vyřešení rizik
AI může dramaticky zlepšit řízení plodin a zemědělskou produktivitu, ale existuje mnoho potenciálních rizik, která je třeba řešit. Nové technologie musí být také důkladně testovány v experimentálních podmínkách, aby byla zajištěna provozní bezpečnost a ochrana před útoky, protože jsou náchylné k selháním, neúmyslným důsledkům a kybernetickým útokům.
Výzkumníci nejprve vytvořili katalog rizik, která je třeba zvážit při vývoji AI pro zemědělství, a způsoby, jak tato rizika řešit. Jedním z hlavních bodů analýzy byli kybernetičtí útočníci, kteří mohou narušit komerční farmy používající AI. Mohli by to udělat tak, že by změnili datové sady nebo vypnuli věci, jako jsou autonomní drony, postřikovače a robotické sklízeče. Výzkumníci říkají, že společnosti by měly pracovat na odhalení bezpečnostních selhání během fáze vývoje, aby se těmto útokům předešlo.
Tým také poukázal na problém náhodného selhání. Například systém AI naprogramovaný tak, aby dodával pouze nejlepší výnos plodin v krátkém období, by mohl ignorovat environmentální problémy, což by vedlo k nadměrnému používání hnojiv a erozi půdy v dlouhodobém horizontu. Další problém by mohl být nadměrné používání pesticidů nebo dusíkatých hnojiv. Aby se tomu předešlo, autoři navrhují zapojit aplikované ekology do procesu návrhu technologie
Další velkou obavou je, že autonomní stroje by mohly udržet nebo dokonce prohloubit socioekonomické nerovnosti existující v globálním zemědělském průmyslu, například diskriminaci na základě pohlaví, společenské třídy a etnického původu.
“Expertní systémy AI pro zemědělství, které nezohledňují složitosti pracovních vstupů, budou ignorovat a potenciálně udržovat vykořisťování znevýhodněných komunit,” řekl Tzachor.
Malí pěstitelé vs. komerční farmy
Nakonec by malí pěstitelé mohli být vyloučeni z výhod spojených s AI. To je velká obava, protože tito farmáři jsou zodpovědní za krmení obrovského množství lidí hospodařením na většině farem po celém světě. To by vedlo k prohloubení rozdílu mezi komerčními a subsistenčními farmami.
Zatímco AI může revolucionalizovat zemědělství a pomoci řešit nedostatek potravinového zabezpečení pro stovky milionů lidí po celém světě, je zásadní řešit potenciální rizika, abychom maximalizovali výhody.
Dr. Seán Ó hÉigeartaigh je výkonným ředitelem CSER a spoluautorem nové studie.
“AI je oslavována jako způsob, jak revolucionalizovat zemědělství. Když nasazujeme tuto technologii ve velkém měřítku, měli bychom pečlivě zvážit potenciální rizika a snažit se je zmírnit již v rané fázi návrhu technologie,” řekl.












