로우코드와 하이코드 에이전트 개발을 위한 사이버보안 전략

조직이 비즈니스 시스템 전반에서 인공지능 에이전트를 활용하기 시작하면서 개발 속도와 보안 감독은 긴밀하게 연결되고 있다. 로우코드 및 하이코드 에이전트 개발을 위한 사이버보안 전략은 각 접근 방식이 정보에 대한 접근 권한을 부여하고 작업을 수행할 수 있게 하는 방식을 고려해야 한다. 배포가 확대되는 동안 공동 거버넌스를 통해 에이전트의 활동을 승인된 업무에 맞추면서, 차이를 겨냥한 보호 조치를 적용할 수 있다.

로우코드와 하이코드 AI 에이전트 개발의 차이

로우코드 플랫폼에서는 시각적 인터페이스와 비즈니스 서비스에 연결되는 사전 구축 커넥터를 사용해 에이전트를 구성할 수 있다. 하이코드 개발은 프로그래머가 맞춤형 코드, 도구 통합, 실행 환경을 통해 에이전트의 동작을 정의할 수 있도록 더 큰 유연성을 제공한다. 두 접근 방식 모두 에이전트가 접근할 수 있는 정보와 수행할 수 있는 작업을 감독해야 한다.

보안 통제의 위치가 서로 다르기 때문에 보안 책임도 달라진다. 로우코드 개발자는 공유 및 커넥터 접근을 관리하는 플랫폼 설정을 사용하므로 구성 단계에서의 판단이 특히 중요하다. 하이코드 팀은 파일과 자격 증명에 대한 경계를 비롯해 에이전트 명령을 실행하는 소프트웨어와 환경을 관리할 책임을 더 크게 진다.

미국 사이버보안 및 기반시설 보안국 은 에이전트형 AI의 여러 위험을 지적하며, 이러한 위험은 두 접근 방식 모두에 유용한 틀을 제공한다. 공격 표면 확대란 추가적인 진입 지점이 생기는 것을 뜻하며, 권한 비대화란 접근 권한이 누적되는 것을 뜻한다. 행동 불일치는 의도된 업무에서 벗어나는 것을 말하고, 불분명한 이벤트 기록은 조사를 어렵게 한다. 널리 사용되는 커넥터와 제한 없는 명령줄 도구는 동일한 문제를 서로 다른 방식으로 일으킬 수 있다.

로우코드 AI 에이전트의 보안 위험과 해결책

로우코드의 접근성 덕분에 기존 개발팀에 속하지 않은 직원도 에이전트를 만들 수 있다. 편리한 연결이 승인된 비즈니스 용도에 부합하도록 하려면 이러한 개발자에게까지 보안 감독을 확대해야 한다.

로우코드 환경의 보안 취약점

시민 개발자는 에이전트의 권한을 충분히 이해하지 못한 채 에이전트를 공유 파일이나 비즈니스 애플리케이션에 연결할 수 있다. 이러한 연결을 통해 부여된 접근 권한은 민감한 정보를 노출하거나 의도된 워크플로를 벗어난 작업을 가능하게 할 수 있다. 광범위한 공유와 불분명한 소유권은 이러한 노출 위험을 키울 수 있다.

도입 규모를 고려하면 부서 전반에 걸친 일관된 감독이 중요하다. Forrester는 2024년 시장 분석에서 기업 개발자의 87%가 일부 개발 업무에 로우코드 플랫폼을 사용한다고 보고한다. 이 조사 결과는 개발 전반에 관한 것이므로, AI 에이전트 도입률을 구체적으로 측정한 것은 아니지만 로우코드 플랫폼이 널리 쓰인다는 점을 보여준다.

로우코드 에이전트 보안을 강화하는 실용적인 방법

팀은 각 에이전트에 부여된 업무를 기준으로 커넥터 권한을 검토하고 최소 권한 원칙을 적용해야 한다. 중앙 목록에는 모든 배포 항목의 소유자와 연결된 서비스를 기록하고, 민감한 작업에는 승인 절차를 마련해야 한다. 이를 바탕으로 보안팀은 등록되지 않은 에이전트를 찾아내고 부적절한 접근을 조사할 수 있다.

Microsoft의 데이터 거버넌스 접근 방식은 비즈니스 정보에 대한 접근을 통제하는 데 중점을 둔다. Microsoft Digital의 수석 아키텍트인 Naveen Jangir는 조직이 “적절한 접근 제한을 통해 정보를 관리하고 보호해야 한다”고 권고한다. 이러한 통제를 통해 승인된 사용자와 AI 기능은 불필요한 노출 없이 정보를 사용할 수 있으며, 정해진 권한 범위를 벗어나지 않는다. 책임 있는 소유권 관리와 함께 커넥터 정책을 적용하면 이러한 제한을 일상적인 개발 과정에 반영할 수 있다.

하이코드 AI 에이전트의 보안 위험과 해결책

팀이 AI 코딩 에이전트를 사용해 맞춤형 시스템을 구축하면 사람이 검토하는 속도보다 생성된 변경 사항이 더 빠르게 쌓일 수 있다. 따라서 하이코드 보안에는 개발 프로세스와 에이전트가 작업을 수행하는 환경 모두에 대한 통제가 필요하다.

하이코드 개발의 고유한 보안 과제

코딩 에이전트가 공격자가 삽입한 지침이 포함된 외부 저장소를 읽을 때 간접 프롬프트 인젝션에 노출될 수 있다. 에이전트가 개발 도구에 접근할 수 있는 상태에서 이러한 지침을 따르면 안전하지 않은 명령을 실행하거나 자격 증명을 노출할 수 있다. 발생 가능한 결과는 실행 환경에서 어떤 파일과 도구, 외부 목적지에 접근할 수 있도록 허용하는지에 따라서도 달라진다.

NVIDIA의 샌드박스 지침은 해당 실행 경계 내에서 자격 증명이 노출되는 문제를 다룬다. 이 지침은 자격 증명에 대한 접근을 제한하기 위해 “샌드박스 환경은 명시적인 비밀 정보 주입에 의존해야 한다”고 명시한다. 따라서 에이전트는 전체 환경의 자격 증명을 그대로 물려받아서는 안 되며, 필요한 작업에 제한된 접근 권한만 필요한 경우에는 특히 그래야 한다. 팀은 해당 작업에 필요한 자격 증명만 제공하고, 관련 없는 비밀 정보는 에이전트가 접근할 수 없도록 해야 한다.

하이코드 에이전트 파이프라인 보안 강화 전략

제한된 실행 환경은 작업에 맞게 파일 접근과 외부 연결을 제한해야 합니다. 팀은 생성된 코드에 정적 애플리케이션 보안 테스트도 적용해야 합니다. 자동화된 검사에서 놓칠 수 있는 권한 부여 결정이나 비즈니스 로직은 독립적인 검토자가 살펴봐야 합니다. 이러한 여러 보안 계층은 실행 경계와 결과 소프트웨어의 취약점을 모두 다룹니다.

Amazon Web Services는 코딩 에이전트 제어 프레임워크에서 코드 생성과 평가를 분리할 것을 권장합니다. 또한 “별도의 세션을 사용하면 자기확증 편향을 피하는 데 도움이 된다”고 설명합니다. 그러나 검토 과정에서 동일한 모델을 사용하는 두 세션은동일한 근본적 맹점을 공유할 수 있습니다. 현실적으로 가능하다면 다른 모델을 검토에 사용하고 보안에 민감한 변경 사항은 사람이 평가하도록 해 한층 면밀히 살펴볼 수 있습니다.

두 접근 방식을 아우르는 보안 전략 수립

로우코드 및 하이코드 에이전트 개발의 AI 보안에는 에이전트가 정보를 주고받는 모든 지점의 활동을 통합적으로 파악하는 시각이 필요합니다. 예를 들어 로우코드 워크플로가 콘텐츠를 맞춤형으로 구축한 에이전트에 전달하고, 해당 에이전트가 다시 다른 비즈니스 서비스를 호출할 수 있습니다. 각 구성 요소를 개별적으로 검토하면 보안팀이 전체 흐름을 파악하는 데 필요한 맥락을 놓칠 수 있습니다.

Darktrace의 AI 보안 전문가들은 조직이 프롬프트와 세션을 반드시 점검해야 한다고 주장합니다. 기업용 생성형 AI 도구와 두 개발 방식 전반에서 응답도 함께 살펴봐야 합니다. Darktrace의 관점은 서비스형 소프트웨어와 보안 액세스 서비스 엣지 환경도 포괄합니다. 이러한 가시성을 확보하면 조직은 맥락을 파악해 “교묘한 대화형 프롬프트 공격과 악의적인 연쇄 공격을 탐지할 수 있습니다.”

Darktrace의 관점은 프롬프트 가시성, 세션 모니터링, ID 감독을 통해 팀이 연결된 도구 전반에서 에이전트가 어떻게 상호작용하는지 파악하도록 돕기 때문에 로우코드 및 하이코드 에이전트 개발을 위한 더 폭넓은 AI 보안 전략을 뒷받침합니다. 보안팀은 연결된 세션을 거치면서 지침이 어떻게 달라지는지, 이후의 작업이 최초 권한 부여 내용에 계속 부합하는지 살펴봐야 합니다. 조사 목적으로 보관하는 정보의 민감도도 고려해야 합니다.

장기적인 AI 에이전트 보안을 위한 거버넌스와 모니터링

개발 방식과 관계없이 각 에이전트에는 책임을 맡는 담당자와 허용된 작업 범위가 명확히 정해져 있어야 합니다. 거버넌스 체계에는 누가 해당 범위의 변경을 승인할 수 있는지, 에이전트가 예상과 다르게 동작할 때 누가 활동을 중단할 수 있는지도 명시해야 합니다.

에이전트 거버넌스에 관한 연구에 따르면 책임성을 뒷받침하려면 에이전트에 인증하고 감사할 수 있는 권한이 필요합니다. 이 접근 방식은 권한을 부여하는 사람과 에이전트가 수행할 수 있는 작업을 연결합니다. 그러면 조직은 각 작업이 해당 권한 범위에 부합하는지 확인할 수 있습니다.

팀은 위임된 권한과 도구 사용 및 결과를 연결하는 활동 기록을 관리해야 합니다. 정기 검토를 통해 역량이 바뀔 때마다 권한을 재검토하고, 완료된 작업에서 남은 접근 권한을 제거하며, 담당자가 여전히 적절한지 확인해야 합니다. 개발팀과 보안팀은 이러한 검토를 통해 운영 통제가 에이전트의 승인된 목적에 계속 부합하도록 할 수 있습니다.

AI 에이전트 보안 위험에 한발 앞서 대응하기

로우코드 개발에서는 플랫폼 권한과 커넥터 거버넌스를 세심하게 관리해야 하며, 하이코드 개발에서는 맞춤형 실행 환경과 코드 검토에 면밀히 주의를 기울여야 합니다. 중앙 집중식 모니터링과 일관된 책임 체계는 에이전트가 연결된 비즈니스 시스템 전반에서 정보에 접근하고 작업을 수행하는 방식을 감독하는 공통 기반이 됩니다. 역량이 확장됨에 따라 개발자는 에이전트 도구와 책임의 변화에 맞춰 보호 조치를 재평가하고, 각 배포 환경에서 허용되는 활동을 전체 수명 주기에 걸쳐 명확히 해야 합니다.