새로운 위험 분석, AI 농업의 위험 경고

연구자들은 저널 Nature Machine Intelligence 에 새로운 위험 분석을 발표했으며, 농업에서 AI를 사용하는 것에 대한 경고를 담고 있습니다. 이는 농민, 농장, 식량 안보에 대해 심각한 위험이 있으며, 이러한 위험이 완전히 이해되지 않는다고 합니다.

剑桥 대학교의 존재적 위험 연구 센터(CSER)의 아사프 차코르 박사(Dr. Asaf Tzachor)는 이 논문의 첫 번째 저자입니다.

“지능형 기계가 농장을 운영하는 아이디어는 과학 소설이 아닙니다. 대규모 기업은 이미 다음 세대의 자율 농업 로봇과 의사 결정 지원 시스템을 개발 중이며, 이는 필드에서 인간을 대체할 것입니다.”라고 차코르는 말했습니다.

“하지만 지금까지 아무도 농업 AI의 빠른 배포와 관련된 위험에 대한 질문을 하지 않았습니다.”라고 그는 계속했습니다.

위험에 대한 대처

AI는 작물 관리와 농업 생산성을 크게 개선할 수 있지만, 많은 잠재적인 위험이 있습니다. 새로운 기술은 안전과 보안을 보장하기 위해 실험 환경에서 철저하게 테스트되어야 합니다. 이는 실패, 의도하지 않은 결과, 사이버 공격에 취약할 수 있습니다.

연구자들은 농업에서 AI를 개발할 때 고려해야 할 위험 목록을 만들었으며, 이러한 위험을 해결하는 방법을 제시했습니다. 분석의 주요 사항 중 하나는 사이버 공격입니다. 사이버 공격자는 농업에서 AI를 사용하는 상업 농장을 방해할 수 있습니다. 데이터를 변경하거나 자율 드론, 스프레이어, 로봇 수확기를 중단할 수 있습니다. 연구자들은 기업이 개발 단계에서 보안 취약점을 발견하여 이러한 공격을 방지해야 한다고 말합니다.

연구 팀은 또한 우발적인 실패에 대한 문제를 제기했습니다. 예를 들어, 단기적으로 최고의 작물 수확을 제공하도록 프로그래밍된 AI 시스템은 환경 문제를 무시할 수 있으며, 이는 장기적으로 비료와 토양 침식을 초래할 수 있습니다. 또 다른 문제는 살충제 또는 질소 비료의 과도한 사용입니다. 이를 방지하기 위해 저자는 기술 설계 과정에 적용 생태학자를 포함할 것을 제안합니다.

또 다른 주요 우려는 자율 기계가 기존의 농업 산업에서 성별, 계급, 민족적 차별과 같은 사회 경제적 불평등을 유지하거나 심화시킬 수 있다는 것입니다.

“노동 입력의 복잡성을 고려하지 않는 전문가 AI 농업 시스템은 불리한 공동체의 착취를 무시하거나 지속시킬 수 있습니다.”라고 차코르는 말했습니다.

소규모 농가 대 상업화 농장

마지막으로, 소규모 농가는 AI 관련 혜택에서 제외될 수 있습니다. 이는 이러한 농민들이 세계 대부분의 농장을 경작하여 수백만 명의 사람들을 먹여 살리는 데 책임이 있기 때문에 주요 우려입니다. 이는 상업 농가와 자급자족 농가 사이의 격차를 넓히게 됩니다.

AI는 농업을 혁신하고 세계 수백만 명의 식량 부족 문제를 해결하는 데 도움이 될 수 있지만, 이러한 위험을 해결하지 않으면 혜택을 최대화할 수 없습니다.

CSER의 집행 이사인 숀 오 히게르티 박사(Dr. Seán Ó hÉigeartaigh)는 새로운 연구의 공동 저자입니다.

“AI는 농업을 혁신하는 방법으로 평가되고 있습니다. 우리는 이 기술을 대규모로 배포할 때 잠재적인 위험을 주의 깊게 고려하고, 기술 설계의 초기에 이를 완화해야 합니다.”라고 그는 말했습니다.