Новый анализ рисков предупреждает о опасностях ИИ в сельском хозяйстве

Исследователи опубликовали новый анализ рисков в журнале Nature Machine Intelligence , в котором предупреждают об использовании ИИ в сельском хозяйстве. В нем говорится, что существуют серьезные риски для фермеров, ферм и продовольственной безопасности, и что эти риски не полностью поняты.

Доктор Асаф Цахор из Центра изучения экзистенциальных рисков Университета Кембриджа является первым автором статьи.

“Идея интеллектуальных машин, управляющих фермами, не является научной фантастикой. Большие компании уже разрабатывают следующее поколение автономных агроботов и систем поддержки принятия решений, которые заменят людей в поле”, – сказал Цахор.

“Но пока никто не задавался вопросом ‘есть ли какие-либо риски, связанные с быстрым развертыванием сельскохозяйственного ИИ?'”, – продолжил он.

Решение проблем

ИИ может существенно улучшить управление посевами и сельскохозяйственную продуктивность, но существуют многие потенциальные риски, которые необходимо устранить. Новые технологии также должны быть тщательно протестированы в экспериментальных условиях, чтобы обеспечить безопасность и безопасность, поскольку они склонны к сбоям, непредвиденным последствиям и кибератакам.

Исследователи сначала составили каталог рисков, которые необходимо учитывать при разработке ИИ для сельского хозяйства, а также способы устранения этих рисков. Одним из основных моментов анализа стали кибератакеры, которые могут нарушить работу коммерческих ферм, использующих ИИ. Они могут сделать это, изменяя наборы данных или отключая такие вещи, как автономные беспилотники, опрыскиватели и роботы-сборщики. Исследователи считают, что компании должны работать над выявлением любых проблем безопасности на этапе разработки, чтобы предотвратить такие атаки.

Группа также подняла вопрос случайного сбоя. Например, система ИИ, запрограммированная на получение только лучшей урожайности в краткосрочной перспективе, может игнорировать экологические проблемы, что может привести к чрезмерному использованию удобрений и эрозии почвы в долгосрочной перспективе. Другой проблемой может быть чрезмерное применение пестицидов или азотных удобрений. Чтобы предотвратить это, авторы предлагают включать прикладных экологов в процесс разработки технологии

Еще одной серьезной проблемой является то, что автономные машины могут сохранить или даже углубить социально-экономические неравенства, существующие в глобальной сельскохозяйственной промышленности, такие как гендерные, классовые и этнические различия.

“Экспертные системы ИИ для фермерства, которые не учитывают сложности трудовых затрат, будут игнорировать и потенциально поддерживать эксплуатацию неблагополучных сообществ”, – сказал Цахор.

Малые фермеры против коммерциализированных ферм

Наконец, малые фермеры могут быть исключены из выгод, связанных с ИИ. Это является серьезной проблемой, учитывая, что эти фермеры отвечают за кормление огромного количества людей, выращивая большинство ферм по всему миру. Это, в свою очередь, увеличит разрыв между коммерческими и подсistence фермерами.

Хотя ИИ может революционизировать сельское хозяйство и помочь решить проблему продовольственной безопасности для сотен миллионов людей по всему миру, важно устранить потенциальные риски, чтобы максимизировать выгоды.

Доктор Шон О’Хигартай – исполнительный директор CSER и соавтор нового исследования.

“ИИ считается способом революционизировать сельское хозяйство. Когда мы развертываем эту технологию на большом масштабе, мы должны внимательно рассмотреть потенциальные риски и стремиться смягчить их на ранней стадии разработки технологии”, – сказал он.