에이전틱 AI 관련 네트워크 보안 도전 과제를 해결하는 방법

에이전틱 인공 지능(AI)은 제너레이티브 AI(Generative AI, GenAI)의 능력을 넘어서는 다음 세대의 AI를 대표한다. 대부분의 GenAI 시스템은 인간의 입력이나 감시가 필요하지만, 에이전틱 AI는 사용자 입력 없이 복잡한 다단계 문제를 해결하는 능력이 있어 프로액티브하다. 에이전틱 AI는 디지털 생태계의 대규모 언어 모델(Large Language Model, LLM), 기계 학습(Machine Learning, ML), 자연어 처리(Natural Language Processing, NLP)를 활용하여 인간이나 시스템을 대신해 작업을 수행함으로써 생산성과 운영을 대폭 개선한다.

에이전틱 AI는 아직 초기 단계에 있지만, 전문가들은 몇 가지 혁신적인 사용 사례를 강조했다. 예를 들어, 은행의 고객 서비스 환경에서 AI 에이전트가 사용자의 질문에 단순히 대답하는 것을 넘어서 사용자의 요청에 따라 거래나 작업을 수행하는 경우를 생각해 보자. 또 다른 예로는 금융 환경에서 에이전틱 AI 시스템이 인간 분석가의 도움을 받아 대규모 데이터를 자동으로 분석하여 데이터 기반 의사 결정에 필요한 감사 준비 보고서를 생성하는 경우가 있다.

에이전틱 AI의驚異的な 가능성은 부인할 수 없다. 그러나, 새로운 기술이 등장할 때마다 보안, 거버넌스, 컴플라이언스에 대한 우려도 따른다. 이러한 AI 에이전트의 고유한 특성은 조직에 여러 보안 및 거버넌스 도전 과제를 제기한다. 기업은 이러한 도전 과제를 해결하여 에이전틱 AI의 혜택을 누리면서 네트워크 보안 및 효율성을 확보해야 한다.

에이전틱 AI가 조직에 미치는 네트워크 보안 도전 과제는 무엇인가?

AI 에이전트의 기본적인 4가지 작업이 있다. 첫 번째는 지각 및 데이터 수집이다. 수백, 수천, 수백만 개의 에이전트가 여러 곳에서 데이터를 수집하고, 이 데이터는 클라우드, 온프레미스, 에지 등에서 수집될 수 있다. 두 번째 단계는 의사 결정이다. 에이전트가 데이터를 수집한 후, AI 및 ML 모델을 사용하여 의사 결정을 내린다. 세 번째 단계는 작업 및 실행이다. 에이전트가 의사 결정을 내린 후, 결정에 따라 작업을 수행한다. 마지막 단계는 학습으로, 에이전트가 이전 및 이후의 의사 결정에 따라 데이터를 수집하여 적절하게 조정한다.

이 과정에서 에이전틱 AI는 효과적으로 작동하기 위해 огром한 데이터셋에 접근할 필요가 있다. 에이전트는 일반적으로 민감한 정보나 개인 식별 정보(PII)를 처리 또는 저장하는 데이터 시스템과 통합된다. 불행히도, 에이전틱 AI는 네트워크 인프라를 취약점으로부터 보호하는 노력을 복잡하게 만든다. 특히, 크로스-클라우드 연결성으로 인해 보안 도전 과제가 더욱 커진다. 또한, 데이터 유출 및 명령 및 제어 위협으로부터 기업을 보호하기가 어려워진다. 에이전트가 손상되면 민감한 데이터가 쉽게 유출되거나 도난될 수 있다. 또한, 에이전트가 악의적인 행위자에 의해 탈취되어 대규모로 허위 정보를 생성 및 배포될 수 있다. 이러한 보안 위협이 발생하면, 금전적 손실뿐만 아니라 기업의 평판에도 영향을 미친다.

관찰 가능성 및 추적 가능성과 같은 핵심 기능이 에이전틱 AI에 의해 방해를 받을 수 있다. AI 에이전트가 어떤 데이터셋에 접근하는지 추적하기가 어려워지기 때문이다. 이는 데이터가 무단 사용자에 의해 노출되거나 접근될 위험이 증가한다. 또한, 에이전틱 AI의 동적 학습 및 적응은 전통적인 보안 감사를 방해한다. 이는 구조화된 로그를 통해 데이터 흐름을 추적하는 것을 기반으로 하기 때문이다. 에이전틱 AI는 또한 임시적이고 동적이며, 지속적으로 실행되므로, 24/7로 최적의 가시성 및 보안을 유지해야 한다. 규모도 또 다른 도전 과제이다. 공격 표면은 온프레미스 데이터 센터와 클라우드를 넘어서 에지까지 확장되며, 에이전틱 AI는 에지에서 수천에서 수백만 개의 새로운 엔드포인트를 추가할 수 있다. 이러한 에이전트는 여러 위치에서 작동하므로, 네트워크가 공격에 취약해진다.

에이전틱 AI 보안 도전 과제를 해결하는 포괄적인 접근법

기업은 에이전틱 AI의 보안 도전 과제를 해결하기 위해 4가지 기본적인 작업 단계에서 보안 솔루션 및 모범 사례를 적용할 수 있다.

1. 지각 및 데이터 수집: 기업은 에이전트가 작동하기 위해 필요한 огром한 데이터를 수집하기 위해 종단간 암호화된 고대역폭 네트워크 연결이 필요하다. 이 데이터는 민감하거나 매우 가치 있는 데이터일 수 있다. 따라서, 기업은 모든 데이터 소스와 민감한 데이터 및 PII를 보호하기 위해 고속 암호화된 연결 솔루션을 배포해야 한다.
2. 의사 결정: 기업은 에이전트가 올바른 의사 결정을 내리기 위해 올바른 모델과 AI 및 ML 인프라에 접근할 수 있도록 해야 한다. 클라우드 방화벽을 구현함으로써, 기업은 에이전트가 감사 가능한 방식으로 올바른 모델에 접근할 수 있는 연결성과 보안을 얻을 수 있다.
3. 작업 및 실행: 에이전트가 의사 결정을 내린 후, 작업을 수행한다. 그러나, 기업은 수백 또는 수천 개의 에이전트 중에서 어떤 에이전트가 결정했는지 식별해야 한다. 또한, 에이전트가 서로 어떻게 통신하는지 알아야 한다. 이를 위해, 기업은 에이전트의 작업에 대한 관찰 가능성과 추적 가능성이 필요하다. 관찰 가능성은 에이전트의 내부 상태와 행동을 실시간으로 추적 및 이해하는 능력을 의미한다. 추적 가능성은 에이전트가 수행하는 데이터, 의사 결정, 및 작업을 추적 및 문서화하는 능력을 의미한다.
4. 학습 및 적응: 기업은 알고리즘을 조정하기 위해 수백만 달러를 투자한다. 이는 에이전트의 가치와 정확도를 증가시킨다. 그러나, 악의적인 행위자가 모델을 탈취하여 데이터를 유출하거나 명령 및 제어를 가할 경우, 모든 투자한 자원이 손실될 수 있다. 기업은 데이터 유출 및 명령 및 제어 위협으로부터 자산을 보호하기 위해 출구 보안 기능을 구현할 수 있다.

보안 및 책임 있는 방식으로 에이전틱 AI를 활용하기

에이전틱 AI는 기업이 생산성과 효율성을 새로운 차원으로 끌어올릴 수 있는驚異的な 잠재력을 가지고 있다. 그러나, AI 기술 공간의 새로운 기술과 마찬가지로, 기업은 네트워크와 민감한 데이터를 보호하기 위해 예방 조치를 취해야 한다. 특히, 국가에서 자금을 지원하는 고도로 조직화된 악의적인 행위자들인 Salt Typhoon 및 Silk Typhoon과 같은 경우에 더욱 중요하다.

기업은 에이전틱 AI의 고유한 도전 과제를 해결할 수 있는 강력한, 확장 가능하며 미래 지향적인 보안 전략을 개발하기 위해 클라우드 보안 전문가와 협력해야 한다. 이러한 파트너는 기업이 에이전트를 추적, 관리, 및 보호할 수 있도록 도와주며, 또한, 컴플라이언스 및 거버넌스와 관련된 표준을 충족하는 데 필요한 인식을 제공할 수 있다.