새로운 위험 분석, AI 농업의 위험 경고

연구자들은 Nature Machine Intelligence 저널에 새로운 위험 분석을 발표했으며, 이는 농업에서 AI의 사용에 대한 경고를 나타낸다. 이는 농민, 농장, 식량 안보에 대한 심각한 위험이 있으며, 이러한 위험은 완전히 이해되지 않는다고 말한다.

剑桥 대학교의 존재 위험 연구 센터(CSER)의 아사프 차코르 박사(Dr. Asaf Tzachor)는 이 논문의 첫 저자이다.

“지능형 기계가 농장을 운영하는 아이디어는 과학 소설이 아니다. 대기업들은 이미 자율적인農業 로봇과 의사 결정 지원 시스템의 다음 세대를 개발 중이며, 이는 필드에서 인간을 대체할 것이다”라고 차코르는 말했다.

“하지만 지금까지는誰도 ‘농업 AI의 빠른 배포와 관련된 위험’에 대한 질문을 하지 않았다”고 그는 계속 말했다.

위험 대처

AI는 작물 관리와 농업 생산성을 크게 개선할 수 있지만, 많은 잠재적인 위험이 해결되어야 한다. 새로운 기술은 실험 환경에서 철저히 테스트되어야 하며, 이는 실패, 예기치 못한 결과, 사이버 공격에 취약하다.

연구자들은 농업을 위한 AI 개발 시 고려해야 할 위험 목록을 만들었으며, 이러한 위험을 해결하는 방법을 제시했다. 분석의 주요 내용 중 하나는 사이버 공격자로, 이는 상업 농장에서 AI를 사용할 때 발생할 수 있다. 공격자는 데이터를 변경하거나 자율적인 무인 항공기, 스프레이기, 로봇 수확기를 중단시킬 수 있다. 연구자들은 이러한 공격을 방지하기 위해 개발 단계에서 보안 결함을 발견해야 한다고 말했다.

팀은 또한 우발적인 실패의 문제를 제기했다. 예를 들어, 단기적으로 최고의 작물 수확을 제공하도록 프로그래밍된 AI 시스템은 장기적으로 환경 문제를 무시하고, 비료와 토양 침식을 과도하게 사용할 수 있다. 또 다른 문제는 살충제나 질소 비료의 과도한 사용이다. 이를 방지하기 위해 저자들은 기술 설계 과정에 생태학자를 포함시킬 것을 제안했다.

또 다른 주요 우려는 자율적인 기계가 기존의 세계 농업 산업에서 존재하는 사회 경제적 불평등, 즉 성별, 계급, 민족적 차별을 유지하거나 심화시킬 수 있다는 것이다.

“노동 입력의 복잡성을 고려하지 않는 전문가 AI 농업 시스템은 불리한 공동체의 착취를 무시하고, 잠재적으로 지속시킬 수 있다”고 차코르는 말했다.

소규모 농가 대 상업 농장

마지막으로, 소규모 농가들은 AI 관련 혜택에서 제외될 수 있다. 이는 이러한 농가들이 세계 대부분의 농장을 경작하여 수백만 명의 사람들을 먹여 살리는 데 책임이 있기 때문에 주요 우려이다. 이는 상업 농가와 자급자족 농가 사이의 격차를 넓히게 될 것이다.

AI는 농업을 혁신하고 수백만 명의 사람들에게 식량 불안을 해결하는 데 도움이 될 수 있지만, 이러한 위험을 해결해야만 혜택을 최대화할 수 있다.

CSER의 이사인 시恩 오헤게르티 박사(Dr. Seán Ó hÉigeartaigh)는 새로운 연구의 공동 저자이다.

“AI는 농업을 혁신하는 방법으로 평가되고 있다. 우리는 이 기술을 대규모로 배포할 때, 잠재적인 위험을 신중하게 고려하고, 기술 설계 초기에 이를 완화해야 한다”고 그는 말했다.