Новий аналіз ризиків попереджає про небезпеки штучного інтелекту в сільському господарстві

Дослідники опублікували новий аналіз ризиків у журналі Nature Machine Intelligence , який попереджає про використання штучного інтелекту в сільському господарстві. Він зазначає, що існують серйозні ризики для фермерів, ферм і продовольчої безпеки, і що ці ризики не повністю зрозумілі.

Доктор Асаф Цахор з Центру вивчення екзистенційних ризиків Університету Кембриджа є першим автором статті.

“Ідея інтелектуальних машин, які керують фермами, не є науковою фантастикою. Великі компанії вже розробляють наступне покоління автономних агроботів і систем підтримки прийняття рішень, які замінять людей на полі”, – сказав Цахор.

“Але поки що ніхто не поставив питання ‘чи існують ризики, пов’язані з швидким розгортанням сільськогосподарського штучного інтелекту?'”, – продовжив він.

Вирішення ризиків

Штучний інтелект може суттєво покращити управління посівами та сільськогосподарську продуктивність, але існують багато потенційних ризиків, які потрібно вирішити. Нові технології також повинні бути повністю протестовані в експериментальних умовах, щоб забезпечити безпеку та безпеку, оскільки вони схильні до відмов, непередбачуваних наслідків та кібератак.

Дослідники спочатку створили каталог ризиків, які потрібно враховувати при розробці штучного інтелекту для сільського господарства, а також способи вирішення цих ризиків. Одним із основних моментів аналізу були кібератаки, які можуть порушити комерційні ферми, що використовують штучний інтелект. Вони можуть зробити це, змінивши набори даних або вимкнувши такі речі, як автономні безпілотники, оприскувачі та роботизовані збирачі врожаю. Дослідники стверджують, що компанії повинні працювати над виявленням будь-яких проблем з безпекою під час фази розробки, щоб запобігти таким атакам.

Команда також підняла питання про випадкові відмови. Наприклад, система штучного інтелекту, запрограмована лише на отримання найкращого врожаю в короткостроковій перспективі, може ігнорувати екологічні проблеми, що призводить до надмірного використання добрив та ерозії ґрунту в довгостроковій перспективі. Іншою проблемою може бути надмірне застосування пестицидів або азотних добрив. Щоб запобігти цьому, автори пропонують включати екологів у процес розробки технологій

Іншою великою проблемою є те, що автономні машини можуть зберігати або навіть поглиблювати соціально-економічні нерівності, які існують у глобальній сільськогосподарській промисловості, такі як гендерна, класова та етнічна дискримінація.

“Експертні системи штучного інтелекту для сільського господарства, які не враховують складності трудових вкладів, будуть ігнорувати та потенційно підтримувати експлуатацію неблагополучних спільнот”, – сказав Цахор.

Малі виробники проти комерційних ферм

Нарешті, малі виробники можуть бути виключені з переваг, пов’язаних зі штучним інтелектом. Це велика проблема, враховуючи те, що ці фермери відповідають за харчування величезної кількості людей, вирощуючи більшу частину ферм у світі. Це призведе до розширення розриву між комерційними та підсістенційними фермерами.

Хоча штучний інтелект може революціонізувати сільське господарство та допомогти вирішити проблему продовольчої безпеки для сотень мільйонів людей у світі, важливо вирішити потенційні ризики, щоб максимізувати вигоди.

Доктор Шон О’Хіґарті є виконавчим директором Центру вивчення екзистенційних ризиків і співавтором нового дослідження.

“Штучний інтелект оголошується засобом революціонізувати сільське господарство. Коли ми розгортаємо цю технологію у великому масштабі, ми повинні ретельно розглянути потенційні ризики та спрямовувати зусилля на їхнє пом’якшення на ранній стадії розробки технологій”, – сказав він.