Geordie AI의 Chief AI Officer인 Hanah-Marie Darley – 인터뷰 시리즈

Hanah-Marie Darley, Geordie AI의 Chief AI Officer는 AI 및 보안 분야의 전문가로, 기업의 IT, 리스크, 보안 팀이 클라리티와 컨트롤을 갖춘 상태에서 에이전트 AI를 채택하도록 도와주는 회사인 Geordie AI를 공동 설립했습니다. 미국 연방 정부의 인텔리전스 작전을 지원하는 데 거의 10년을 보낸 후 Darktrace에서 선임 리더십 역할을 수행한 그는 위협 인텔리전스, 지리 정치 분석, 응용 심리학에 대한 심층 전문 지식을 AI 전략 및 제품 개발에 대한 실무 경험과 결합시켰습니다. 그의 업무는 자율 시스템을 인간의 의도와 일치시키는 데 중점을 두고 있으며, 기업이 혁신, 관리, 실제 제약을 균형 있게 조절하는 방식으로 AI 에이전트를 운영할 수 있도록 합니다.

Geordie AI는 런던에 본사를 둔 기업 소프트웨어 회사로, 기업 환경에서 에이전트 AI가 침투함에 따라 이를 보안하고 관리하는 데 중점을 두고 있습니다. Geordie의 플랫폼은 에이전트 활동에 대한 가시성을 제공하며, 지속적인 위험 노출 모니터링과 구조화된 거버넌스 컨트롤을 통해 기업이 AI 시스템을 확신과 함께 배포하고 확장할 수 있도록 합니다. 에이전트 시대에 맞춰 관찰 가능성, 규정 준수 지원, 운영 관리를 제공함으로써 Geordie는 기업이 점점 더 자율적인 기술을 통합할 때 보안이나 책임성을 손상하지 않는 투명성과 제어를 제공하는 것을 목표로 합니다.

미국 연방 정부의 위협 인텔리전스와 지리 정치 분석에 거의 10년을 보낸 후 Darktrace에서 위협 연구 및 AI 전략 역할을 수행한 후 현재 Geordie AI에서 AI 및 제품 전략을 이끌고 있습니다. 정부와 기업 보안에서 얻은 경험 중 어떤 것이 Geordie를 구축하기로 결정하게 했는지, 그리고 어떤 핵심 문제를 해결하려고 했는지 알려주세요.

정부와 기업 보안 모두에서 구조적인 긴장을 계속 마주했습니다. 조직은 AI에大量 투자했지만, 투자 대비 기대 수익은 뒤처졌습니다. 문제는 능력 değil, 신뢰였습니다.

AI가 실험 도구에서 운영 워크플로우로 이동함에 따라 그 격차는 더 뚜렷해졌습니다. 에이전트는 전통적인 소프트웨어가 कभ도 하지 못한 방식으로 자율성, 의사 결정, 지속성을 시스템 전반에 걸쳐 도입합니다. 비즈니스에서는 에이전트가 어떻게 작동하는지, 어디에서 작동하는지, 그리고 어떻게 위험이 행동을 통해 나타나는지 이해할 수 있어야 했습니다. Geordie는 그 투명성 격차를 메우기 위해 구축되었습니다. 조직은 주저함 없이 자율성을 채택할 수 있도록 합니다.

자율적이거나 에이전트 AI 시스템이 기업에 미치는 가장 오해받는 위험은 무엇이며, 어떻게 하면 전통적인 사이버 보안 노출 모델과 다르게 컨텍스트 의사 결정의 “연쇄 효과”를 이해할 수 있나요?

무음 실패는 가장 오해받는 위험입니다. 에이전트는 승인된 권한과 합법적인 액세스 경계 내에서 작동하면서도 의도와 다르게 결과를 생산할 수 있습니다.

이것은 에이전트 시스템의 본질을 반영합니다. 그들은 컨텍스트를 해석하고 실시간으로 의사 결정을 내립니다. 결정론적 소프트웨어와 달리, 행동은 동적으로 행동 시퀀스에 의해 형성됩니다. 그것은 보안 모델을 변경합니다. 노출은 더 이상 오직 액세스 위반에만 의존하지 않습니다. 그것은 의사 결정, 도구, 컨텍스트가 시간이 지남에 따라 상호 작용하는 방식으로 나타납니다.

Geordie의 접근 방식은 행동 관찰 가능성, 컨텍스트 위험 평가, 에이전트 활동에 대한 동적 제어를 강조합니다. 기업은 어떻게 하면那种 실시간 가시성을 운영 복잡성이나 시스템 성능에 대한 우려와 균형 있게 조절할 수 있나요?

기업은 성능을 위해 관리를 양보할 필요가 없습니다. 우리의 아키텍처는 의도적으로 인라인 프록시와 게이트웨이를 피하여, 기업이 운영상으로 의미 있는 곳에서 에이전트를 구축하고 운영할 수 있도록 합니다.

가시성과 제어는 자율성과 함께 확장되어야 하며, 마찰이나 지연을 도입하지 않습니다. 거버넌스 메커니즘이 워크플로우를 방해하면, 채택은停滞합니다. 효과적인 보안은 생태계가 안전하게 확장하도록 ermöglicht하는 것입니다.

기업 고객과 리스크 리더와의 협력에서, 어떤 워크플로우 또는 사용 사례가 에이전트의 행동이 더 높은 위험 활동으로漂移하는 것에 가장 취약한가요? 또한 초기 경보 신호는 어떻게하면 물질적 사건으로 확대되기 전에 감지할 수 있나요?

위험은 복잡성과 함께 증가합니다. 에이전트가 독립적으로 더 많은 선택을 할수록, 행동의 편차 가능성이 더 커집니다.

漂移은 종종 도구 체인, 컨텍스트 재사용, 출현 워크플로우를 통해 나타납니다. 초기 경보 신호에는 예상치 못한 도구 호출, 비정상적인 시퀀스 패턴, 데이터 이동의 변화가 포함됩니다. 이러한 신호를 감지하려면 행동 분석이 필요합니다. 단순한 이벤트 모니터링이 아닙니다.

에이전트가 컨텍스트와 도구를 작업 간에 재사용할 때, 보안 팀이 더 주의를 기울여야 할 가장 미묘하거나 과소평가된 실패 모드는 무엇인가요?

컨텍스트 재사용은 과소평가됩니다. 노출은 종종 과도한 권한이 아닌 정보가 작업 간에 어떻게 지속되고 전파되는지에서 발생합니다.

에이전트는 하나의 컨텍스트에서 데이터에 액세스할 수 있으며, 의도하지 않게 다른 컨텍스트로 상태를 전달할 수 있습니다. 도구 체인과 결합하면, 이는 의도하지 않은 민감한 정보의 공개 또는 변형을 초래할 수 있습니다.

많은 조직은 여전히 전통적인 기업 보안 도구를 사용하고 있습니다. 예를 들어, 엔드포인트 탐지 및 응답 및 확장된 탐지 및 응답 플랫폼이 있습니다. 이러한 접근 방식은 멀티 스텝 액션을 취하는 자율적 AI 시스템을 관리할 때 어디에서 부족한가요?

EDR 및 XDR 플랫폼은 필수적이지만, 인간 중심의 위협 모델을 중심으로 설계되었습니다. 에이전트는 엔드포인트 및 ID telemetry를 넘어서서 의사 결정 계층을 운영합니다.

에이전트 행동을 이해하려면, 의사 결정 패턴, 도구 선택, 컨텍스트 의사 결정 흐름에 대한 통찰력이 필요합니다. 그 계층이 없으면, 에이전트 활동의 큰 부분이 불투명하게 남아 있습니다.

IT, 리스크, 보안 리더들이 혁신을 가능하게 하면서도 자율성을 방출하지 않으려면, “관리되는 자율성”은 실제로 무엇을 의미하나요?

관리되는 자율성은 가시성에서 시작합니다. 조직은 에이전트가 어디에서 작동하는지, 얼마나 많은 의사 결정 권한을 가지고 있는지, 그리고 어떤 위험이 그 능력으로 인해 발생하는지 이해해야 합니다.

거버넌스는 초기에 내장될 때 가장 효과적입니다. 정의된 경계 내에서 실험을 허용하여, 혁신을 지원하면서 결과에 대한 확신을 유지합니다.

모델 출력 수준에서 설명 가능성이 종종 논의됩니다. 그러나 실제 위험이 에이전트가 시간이 지남에 따라 취하는 행동 시퀀스에 있을 경우, 기업은 어떻게 설명 가능성과 감사 가능성을 생각해야 하나요?

모델 설명 가능성은 방정식의 일부입니다. 기업의 위험은 점점 더 행동 시퀀스에 존재합니다. 출력에서가 아니라.

감사 가능성은 어떻게 가드레일이 해석을 형성했는지, 어떤 도구가 호출되었는지, 컨텍스트가 어떻게 의사 결정을影响했는지 이해하는 것을 필요로 합니다. 행동 관찰 가능성이 책임의基础가 됩니다.

자율적 AI 시스템에 대한 더 강력한 관리를 인식하는 조직은 오늘날 혁신을 늦추지 않고 에이전트 위험을 줄이기 위해 구체적으로 무엇을 해야 하며, Geordie AI는 어떻게 기업이 그런 균형을 구현하는 것을 지원합니까?

조직은 완벽한 프레임워크를 기다리지 말고 초기에 시작해야 합니다. 초기 초점은 인벤토리, 행동 가시성, 에이전트가 시스템과 어떻게 상호 작용하는지 이해하는 데 중점을 두어야 합니다.

거버넌스 모델이 레이턴시를 도입하는 경우, 채택은停滞합니다. 관리는 운영 속도와 일치해야 합니다. Geordie는 에이전트 구성, 행동, 위험 역학에 대한 가시성을 제공하며, 에이전트 시스템을 위한 수정 제어를 가능하게 합니다.

앞으로, 워크플로우에 걸쳐 에이전트 AI를 성공적으로 확장하는 조직과 관리되지 않는 위험으로 인해 좌절을 겪는 조직을 구별할 주요 요인은 무엇이며, 리더십은 지금 어떻게 준비해야 합니까?

초기 차별자는 명확성과 측정이 될 것입니다. 에이전트 능력, 영향, 행동 패턴을 이해하는 팀은 더 자신감 있게 확장할 것입니다.

장기적으로, 경쟁 우위는 컨텍스트 인식 에이전트 생태계를 개발한 조직을 선호할 것입니다. 정밀성이 일반화보다 성능과 회복력의 운전자로 됩니다.

멋진 인터뷰 감사합니다. 더 많은 것을 배우고 싶은 독자는 Geordie AI를 방문해야 합니다.