Новый анализ рисков предупреждает об опасностях ИИ в сельском хозяйстве

Исследователи опубликовали новый анализ рисков в журнале Естественная машинная разведка который предупреждает об использовании ИИ в сельском хозяйстве. В нем говорится, что существуют серьезные риски для фермеров, ферм и продовольственной безопасности, и что эти риски до конца не изучены. 

Доктор Асаф Цахор из Центра изучения экзистенциального риска Кембриджского университета (CSER) является первым автором статьи. 

«Идея разумных машин, управляющих фермами, — не научная фантастика. Крупные компании уже являются пионерами следующего поколения автономных роботов и систем поддержки принятия решений, которые заменят людей в полевых условиях», — сказал Цахор.

«Но до сих пор, кажется, никто не задавался вопросом: «Существуют ли какие-либо риски, связанные с быстрым внедрением сельскохозяйственного ИИ?», — продолжил он.

Устранение рисков

ИИ может радикально улучшить управление растениеводством и продуктивность сельского хозяйства, но существует множество потенциальных рисков, которые необходимо устранить. Новые технологии также должны быть тщательно протестированы в экспериментальных условиях для обеспечения безопасности и защиты, поскольку они подвержены сбоям, непредвиденным последствиям и кибератакам. 

Сначала исследователи составили каталог рисков, которые необходимо учитывать при разработке ИИ для сельского хозяйства, а также способы устранения этих рисков. Один из основных моментов анализа касался кибератак, которые могут нарушить работу коммерческих ферм с помощью ИИ. Они могли бы сделать это, изменив наборы данных или отключив такие вещи, как автономные дроны, опрыскиватели и роботизированные комбайны. Исследователи говорят, что компании должны работать над выявлением любых недостатков безопасности на этапе разработки, чтобы предотвратить такие атаки. 

Команда также подняла вопрос о случайном сбое. Например, система искусственного интеллекта, запрограммированная на получение максимального урожая только в краткосрочной перспективе, может игнорировать экологические проблемы, что в долгосрочной перспективе приведет к чрезмерному использованию удобрений и эрозии почвы. Другой проблемой может быть чрезмерное применение пестицидов или азотных удобрений. Для предотвращения этого авторы предлагают включить в процесс проектирования технологий экологов-прикладников. 

Еще одна серьезная проблема заключается в том, что автономные машины могут сохранить или даже усугубить социально-экономическое неравенство, существующее в мировой сельскохозяйственной отрасли, такое как гендерная, классовая и этническая дискриминация. 

«Экспертные фермерские системы с искусственным интеллектом, которые не учитывают сложности трудозатрат, будут игнорировать и потенциально поддерживать эксплуатацию обездоленных сообществ», — сказал Цахор.

Мелкие производители против коммерческих ферм

Наконец, мелкие производители могут быть лишены преимуществ, связанных с ИИ. Это вызывает серьезную озабоченность, учитывая, что эти фермеры несут ответственность за кормление огромного количества людей, возделывая землю на большинстве ферм по всему миру. Это, в свою очередь, увеличит разрыв между коммерческими и натуральными фермерами. 

Хотя ИИ может произвести революцию в сельском хозяйстве и помочь решить проблему отсутствия продовольственной безопасности для сотен миллионов людей по всему миру, крайне важно устранить потенциальные риски, если мы хотим максимизировать выгоды. 

Доктор Шон О Хейгартай — исполнительный директор CSER и соавтор нового исследования. 

«ИИ приветствуется как способ произвести революцию в сельском хозяйстве. По мере того, как мы внедряем эту технологию в больших масштабах, мы должны внимательно учитывать потенциальные риски и стремиться минимизировать их на ранних этапах разработки технологии», — сказал он.