Новий аналіз ризиків попереджає про небезпеки штучного інтелекту в сільському господарстві

Дослідники опублікували новий аналіз ризиків у журналі Nature Machine Intelligence щодо використання штучного інтелекту в сільському господарстві. У ньому зазначається, що існує серйозні ризики для фермерів, ферм та продовольчої безпеки, і що ці ризики не повністю зрозумілі.

Доктор Асаф Цахор з Центру вивчення екзистенційних ризиків Університету Кембриджа є першим автором статті.

“Ідея про те, що розумні машини керують фермами, не є науковою фантастикою. Великі компанії вже розробляють наступне покоління автономних агроботів і систем підтримки прийняття рішень, які замінять людей на полі”, – сказав Цахор.

“Але поки що ніхто не запитав питання ‘чи існують ризики, пов’язані з швидким розгортанням штучного інтелекту в сільському господарстві?'”, – продовжив він.

Вирішення ризиків

Штучний інтелект може суттєво покращити управління посівами та сільськогосподарську продуктивність, але існують багато потенційних ризиків, які потрібно вирішити. Нові технології також повинні бути повністю протестовані в експериментальних умовах, щоб забезпечити безпеку та безпеку, оскільки вони схильні до збоїв, непередбачених наслідків та кібератак.

Дослідники спочатку створили каталог ризиків, які потрібно враховувати при розробці штучного інтелекту для сільського господарства, а також способи вирішення цих ризиків. Одним з основних моментів аналізу була проблема кібератак, які можуть порушити комерційні ферми, що використовують штучний інтелект. Вони могли б це зробити, змінивши набори даних або вимкнувши такі речі, як автономні дрони, оприскувачі та роботизовані збирачі. Дослідники стверджують, що компанії повинні працювати над виявленням будь-яких пробілів у безпеці під час фази розробки, щоб запобігти таким атакам.

Команда також підняла питання випадкового збою. Наприклад, система штучного інтелекту, запрограмована лише на отримання найкращого врожаю в короткостроковій перспективі, могла б ігнорувати екологічні проблеми, що призводить до надмірного використання добрив та ерозії ґрунту в довгостроковій перспективі. Іншою проблемою могла б бути надмірне застосування пестицидів або азотних добрив. Для запобігання цьому автори пропонують включати прикладних екологів у процес розробки технологій

Іншою великою проблемою є те, що автономні машини можуть зберігати або навіть поглиблювати соціально-економічні нерівності, які існують у глобальній сільськогосподарській промисловості, такі як гендерна, класова та етнічна дискримінація.

“Експертні системи штучного інтелекту з сільського господарства, які не враховують складності трудових вкладів, будуть ігнорувати та потенційно підтримувати експлуатацію незахищених спільнот”, – сказав Цахор.

Малі виробники проти комерційних ферм

Нарешті, малі виробники можуть бути виключені з переваг, пов’язаних із штучним інтелектом. Це велика проблема, враховуючи те, що ці фермери відповідають за харчування величезної кількості людей, культивуючи більшу частину ферм у світі. Це, в свою чергу, збільшить розрив між комерційними та підсістними фермерами.

Хоча штучний інтелект може революціонізувати сільське господарство та допомогти вирішити проблему продовольчої безпеки для сотень мільйонів людей у світі, важливо вирішити потенційні ризики, щоб максимізувати вигоди.

Доктор Шон О’Хіґарті є виконавчим директором Центру вивчення екзистенційних ризиків та співавтором нового дослідження.

“Штучний інтелект розглядається як спосіб революціонізувати сільське господарство. Коли ми розгортаємо цю технологію у великому масштабі, нам потрібно ретельно розглянути потенційні ризики та намагатися мінімізувати їх на ранній стадії розробки технологій”, – сказав він.