Cinchy의 CEO J. Paul Haynes – 인터뷰 시리즈

J. Paul Haynes, Cinchy의 CEO는 사이버 보안 및 기술 분야의 전문가로, 수십 년 동안 기업 보안 회사들을 구축하고 확장해 왔다. 그는 eSentire에서 리더십을 발휘하며, 회사를 주요 관리형 탐지 및 응답 제공업체로 성장시킨 것으로 잘 알려져 있으며, 엔지니어링, 사이버 보안, 사모펀드 지원 성장, 기업 위험 관리 분야에서 강한 배경을 가지고 있다.

Cinchy는 기업 AI 거버넌스 및 데이터 협업 회사로, 조직들이 안전하게 AI, 시스템, 데이터를 연결하는 것을 도와주는 회사이다. PeriMind 플랫폼은 AI 액션을 위한 제어 평면으로 작용하며, 기업들에게 비즈니스 시스템과 상호 작용하는 AI 에이전트에 대한 가시성, 정책 시행, 보안, 감사 가능성을 제공한다. 또한, 데이터 협업 플랫폼은 조직 내에서 관리되는 데이터를 공유하고 관리하는 것을 도와준다.
15년 이상 동안 eSentire를 구축하고 확장하는 데 힘을 써 왔습니다. Cinchy의 새로운 CEO로서 이 여정에서 어떤 교훈을 얻었으며, 왜 지금이 신뢰할 수 있는 AI 채택과 거버넌스에 집중할 적절한 시기라고 생각합니까?

eSentire에서 배운 가장 큰 교훈 중 하나는 조직들이 기술이 부족해서 어려움을 겪지 않는다는 것입니다. 오히려 새로운 기술이 나타나면 운영 복잡성이 더 빠르게 증가하기 때문에, 대부분의 회사들이 혼자서 관리하기 어렵습니다. AI도 유사한 경로를 따를 것으로 보입니다.

오늘날의 도전은 직원들이 AI를 실험하도록 설득하는 것이 아닙니다. 대부분의 조직은 이미 그렇게 하고 있습니다. 실제 도전은 AI를 생산에 도입하는 것입니다. 여기서 결정은 고객, 재무 결과, 규제 준수, 비즈니스 운영에 영향을 미칩니다.

금융 서비스와 같은高度 규제 산업은 이를 잘 보여줍니다. 그들은 AI를 이해하지 못해서 느리게 움직이는 것이 아닙니다. 그들은 아직 미션 크리티컬한 작업에 AI를 신뢰할 수 없기 때문에 주의를 기울이고 있습니다. AI 시스템이 결정하기 전에, 조직들은 기본적인 질문에 대한 답변을 얻어야 합니다. 누가 그 결정들을 승인했나요? 어떻게 그것들을 모니터링합니까? 언제 인간이 개입해야 합니까? 모델이漂移하거나 실패하거나 사용할 수 없게 되면 어떻게 합니까?

그 질문들은 15년 전 사이버 보안이 처한 상황을 떠올리게 합니다. 보안은 기술 문제에서 운영 규율로 발전했습니다. 나는 AI 거버넌스가 같은 궤도에 있다고 믿습니다.

그것이 내가 Cinchy에 합류한 이유입니다. 우리는 신뢰할 수 있는 AI 채택(실험 아닌 채택)이 다음 10년을 정의할 것이라고 믿습니다. 우리는 관리형 AI 거버넌스가 관리형 사이버 보안과 같은 중요성을 가지게 될 것이라고 봅니다.

기업들은 지난 2년 동안 생성형 AI를 실험해 왔지만, 상대적으로 몇몇만이 미션 크리티컬한 워크플로우에 걸쳐 AI를 성공적으로 배포했습니다. 조직들이 파일럿에서 생산으로 이동하는 것을 방해하는 가장 큰 장벽은 무엇입니까?

나는 기술이 충분히 좋지 않기 때문에 회사들이 어려움을 겪는다고 생각하지 않습니다. 기술이 실험을 넘어서 생산으로 이동하면 도박이 더 커지기 때문에 회사들이 어려움을 겪는다고 생각합니다.

파일럿은 하나입니다. AI를 생산에 도입하는 것은 다른 것입니다. 이제는 기업 데이터에 접근하고, 비즈니스 시스템과 상호 작용하고, 직원 대신 결정까지 내리는 것입니다. 그것은 когда 리더십이 옳게ถาม는 것입니다. “우리는 이것을 어떻게 제어합니까? 우리는 이것을 어떻게 모니터링합니까? 그리고 우리는 언제 사람을 개입시켜야 합니까?”

그것은 AI 채택을 늦추는 이유가 아닙니다. 그것은 AI 채택을 가능하게 하는 것입니다. 조직이 그것에 대한 답변을 자신감을 가지고 할 수 있다면, 훨씬 더 빠르게 움직입니다.

당신은 기업 환경을 사이버 위협으로부터 보호하는 데 많은 경력을 보유했습니다. AI를 사용하는 조직을 보호하는 것은 전통적인 IT 환경을 보호하는 것과 어떻게 다릅니까?

전통적인 사이버 보안은 엔드포인트, 身分, 네트워크 및 클라우드 환경을 보호하는 데 중점을 둡니다. AI는 또 다른 영구적인 기업 위협 표면을 추가합니다. 모든 AI 시스템은 새로운 위험을 소개합니다. 모델 액세스, 프롬프트 주입, 과도한 권한, 모델漂移, 자율적 결정, 전혀 새로운 공격 경로 등이 있습니다.

중요한 점은 AI 보안이 사이버 보안과 별개가 아니라는 것입니다. 그것은 사이버 보안을 확장합니다. 조직은 여전히 모든 기존 보안 제어를 필요로 하지만, 이제는 또한 생산에서 작동하는 AI 시스템을 위한 보안을 필요로 합니다.

Shadow IT는 오랫동안 보안 팀의 우려였습니다. 그러나 우리는 이제 Shadow AI의 부상을 보고 있습니다. 이 도전은 얼마나 중요한가요? 그리고 조직들은 어떤 위험을 과소평가하고 있나요?

Shadow AI는 비즈니스 리스크 중 가장 빠르게 성장하는 리스크 중 하나가 되고 있습니다. 이는 경영진이 거버넌스를 먼저 설정하지 않고 빠른 AI 채택을 권장하기 때문입니다. 대부분의 직원들은 악의적으로 행동하지 않습니다. 그들은 더 생산적으로 일하려고 합니다. 문제는 AI 시스템이 이미 사용자에게 있는 권한을 상속받기 때문에, 고위 임원이 공공 AI 모델을 실험할 때, 의도치 않게 기밀 금융 데이터, 고객 정보 또는 지적 재산을 노출할 수 있습니다.

그것이 조직들이 가시성, 정책 제어, 거버넌스를 필요로 하는 이유입니다. AI 채택을 늦추는 것이 아니라, 확장하기에 안전하게 만드는 것입니다.

AI 에이전트는 기업 시스템, 데이터 및 의사 결정 과정에 접근할 수 있습니다. AI 시스템이 자율적으로 작동할 때 등장하는 새로운 책임과 거버넌스 도전은 무엇입니까?

AI 에이전트는 거버넌스 대화를 근본적으로 변경합니다. 그들은 더 이상 콘텐츠를 생성하지 않습니다. 그들은 행동을 취합니다. 자율적 시스템이 거래를 승인하거나 기업 시스템에 접근하거나 비즈니스 결정을 내릴 수 있을 때, 조직들은 완전한 책임을 필요로 합니다.

모든 행동은 간단한 질문에 답변해야 합니다.

• 무엇이 일어났나요?
• 왜那样했나요?
• 어떤 AI 에이전트가 결정했나요?
• 누가 그것을 승인했나요?
• 언제 인간이 개입해야 합니까?

그 원칙들은 새로운 것이 아닙니다. 산업은 수십 년 동안 Sarbanes-Oxley와 같은 규제에 따라 책임성 요구 사항을 받아왔습니다. AI는 단지 동일한 기대를 자율적인 디지털 노동자에게 확장합니다.

많은 조직은 경쟁 압력으로 인해 AI를 배포하려고 합니다. 비즈니스 리더는 속도와 거버넌스, 준수, 위험 관리의 필요성을 어떻게 균형을 잡을 수 있나요?

거버넌스는 AI 채택을 늦추지 않습니다. 그것은 가속화합니다. 조직은 환경을 신뢰할 수 있을 때 더 빠르게 움직입니다. 그것은 안전한 AI 아키텍처를 설정하고, 모델을漂移 및 성능을 위해 지속적으로 평가하고, 기업 시스템에 대한 접근을 관리하고, AI가 생산에 도달하기 전에 명확한 운영 제어를 설정하는 것을 의미합니다.

조직은 사이버 보안을 간소화하기 위해 관리형 탐지 및 응답을 채택한 것과 마찬가지로, 많은 조직이 전문가 팀을 내부적으로 구축하지 않고도 전문성을 얻기 위해 관리형 AI 거버넌스를 채택할 것입니다.

이사회는 점점 더 AI 감독에 참여하고 있습니다. 이사회는 관리 팀에게 AI 전략, 거버넌스, 책임에 대해 어떤 질문을 해야 합니까?

이사회는 하나의 근본적인 질문을 해야 합니다. 관리 팀이 AI가 다른 모든 비즈니스 시스템과 같은 수준의 거버넌스를 따라 운영되고 있는지 보여줄 수 있나요?

그것은 AI가 어디서 사용되고 있는지, 누가 소유하고 있는지, 결정이 어떻게 모니터링되고 있는지, 위험이 어떻게 관리되고 있는지, 그리고 AI 서비스가 사용할 수 없게 되면 조직이 어떻게 운영될 것인지 이해하는 것을 의미합니다. 성공하는 조직은 반드시 AI를 가장 빠르게 채택하는 것이 아닙니다. 그들은 운영 규율을 구축하여 대규모로 AI를 신뢰할 수 있는 조직이 될 것입니다.

サイバーセキュリティ 업계는 수십 년 동안 프레임워크, 제어, 모범 사례를 개발해 왔습니다. 사이버 보안에서 얻은 교훈을 AI 거버넌스에 직접 적용할 수 있나요? 아니면 AI는 완전히 새로운 접근 방식을 요구합니까?

サイバーセキュリティ는 AI 거버넌스에 대한 훌륭한 청사진을 제공합니다. 身分 관리, 최소 권한, 지속적인 모니터링, 감사 트레일, 사고 대응, 탄력성 등은 모두 필수적입니다. 새로운 것은 AI가 전통적인 시스템에서 결코 경험하지 못한 도전을 소개한다는 것입니다. 모델漂移, 환각, 프롬프트 조작, 제3자 기초 모델에 대한 의존성 등이 있습니다. 따라서 AI는 사이버 보안을 대체하지 않습니다. 그것은 사이버 보안을 거버넌스 레이어로 확장합니다.

실제에서 “신뢰할 수 있는 AI 채택”은 무엇을 의미합니까? 모든 기업이 AI 이니셔티브를 확장하기 전에 거버넌스 원칙이나 운영 안전 장치를 가지고 있어야 합니까?

나는 그것을 몇 년 전 사이버 보안과 같은 방식으로 생각합니다. 아무도 보안이 가치를 창출하는지 묻지 않았습니다. 질문은 환경을 신뢰할 수 있을 만큼 비즈니스 운영을 지속할 수 있는지 여부였습니다.

AI도 정확히 같은 방향으로 진행되고 있습니다. AI가 하는 일을 볼 수 없거나, 접근할 수 있는 것을 제어할 수 없거나, 결정 이유를 이해할 수 없다면, 중요한 것을 처리하도록 허용하지 않을 것입니다.

그런 확신이 있다면, 채택은 자연스럽게 발생합니다. 조직은 더 이상 AI를 흥미로운 실험으로 취급하지 않고, 비즈니스의 또 다른 부분으로 취급하기 시작합니다.

3~5년 후, AI 거버넌스와 경쟁 우위의 관계는 어떻게 발전할 것으로 보나요? 강력한 거버넌스는 차별화 요소가 될 것인가, 아니면 비즈니스 운영을 위한 필수 요구 사항이 될 것인가?

다음 3~5년 동안, 강력한 AI 거버넌스는 경쟁 차별화 요소가 되지 않을 것입니다. 그것은 비즈니스 요구 사항이 될 것입니다. 거버넌스를 설정한 조직은 더 빠르게 AI를 채택할 것입니다. 왜냐하면 그들은 중요한 워크로드를 생산으로 이동시키는 것을 신뢰하기 때문입니다. 거버넌스를 설정하지 않은 조직은 실험에 갇혀 있게 될 것입니다. 경쟁자들은 생산성, 혁신, 고객 경험에서 측정할 수 있는 이점을 실현할 것입니다. 궁극적으로, 거버넌스는 AI 채택을 늦추지 않을 것입니다. 그것은 조직이 AI를 충분히 신뢰하여 완전히 채택할 수 있는 이유가 될 것입니다.

잘한 인터뷰에 감사합니다. 더 많은 정보를 원하는 독자는 Cinchy를 방문하십시오.