크래니엄 AI의 CEO 및 공동 창립자 조나단 댐브로트 – 인터뷰 시리즈

조나단 댐브로트는 크래니엄 AI의 CEO이자 공동 창립자입니다. 크래니엄 AI는 사이버 보안 및 데이터 과학 팀이 시스템, 데이터 또는 서비스에 영향을 미치는 모든 곳에서 AI가 영향을 미치는 것을 이해하는 데 도움을 주는 기업입니다.

조나단은 이전에 KPMG의 파트너였으며, 사이버 보안 산업의 리더이자 비전가입니다. KPMG 이전에, 그는 2016년 말 인사이트 벤처 파트너스에 매각되기 전에 서드파티 위험 관리에서 가트너 및 포레스터 산업 리더인 Prevalent를 이끌었습니다. 2019년 조나단은 Prevalent의 CEO 역할을 전환했으며, 회사는 새로운 리더십하의 성장을 계속하고 있습니다. 그는 여러 출판물에서 인용되었으며, IT, 정보 보안, 및 규제 준수에 대한 트렌드에 대해 고객 그룹과 정기적으로 이야기합니다.

크래니엄 AI의 기원 이야기를 공유해 줄 수 있나요?

2021년 6월, KPMG에서 제3자 보안 서비스를 글로벌로 이끌고 있던 때, 크래니엄에 대한 아이디어를 갖게 되었습니다. 우리는 우리의 가장 큰 고객을 위해 AI 기반 솔루션을 구축하고 제공하고 있었지만, 나는 그것들을 적대적 위협에 대한 보안을 제공하지 않는다는 것을 알게 되었습니다. 그래서, 나는 우리의 가장 큰 고객의 사이버 보안 리더들에게 같은 질문을 했고, 받은 답변은 똑같이 끔찍했습니다. 많은 보안 팀은 데이터 과학자와 전혀 이야기하지 않았습니다. – 기술과 관련하여 완전히 다른 언어를 사용했습니다. 그리고 기업 전체에서 실행되는 AI에 대한 가시성이 전혀 없었습니다. 모든 이것이 규제의 지속적인 발전에 결합되어 AI를 보호하는 플랫폼을 구축하게 된 계기가 되었습니다. 우리는 KPMG 스튜디오 인큐베이터와 함께 작업을 시작했고, 우리의 가장 큰 고객을 디자인 파트너로 참여시켜 대기업의 요구를 충족하는 개발을 안내했습니다. 올해 1월, Syn Ventures가 시드 펀딩을 완료했고, 3월에 KPMG에서 독립적으로 분사하여 2023년 4월에 비공개 개발 단계에서 벗어나 공개적으로 모습을 드러냈습니다.

크래니엄 AI 카드는 무엇이며, 그것은 어떤 주요 통찰력을 제공합니까?

크래니엄 AI 카드는 조직이 고객과 규제 기관과 함께 자신의 AI 모델의 신뢰성 및 규정 준수에 대한 정보를 효율적으로 수집하고 공유할 수 있도록 해줍니다. 또한 공급업체 AI 시스템의 보안 상태를 파악할 수 있습니다. 궁극적으로 보안 및 규제 준수 팀이 공급망 내 AI 보안을 시각화하고 모니터링하도록 돕습니다. 또한, 자신의 AI 시스템을 현재 및 향후의 규정 요구 사항 및 프레임워크와 일치시키고, 자신의 AI 시스템이 안전하고 신뢰할 수 있음을 쉽게 공유할 수 있습니다.

크래니엄 AI가 해결하는 AI와 관련된 신뢰 문제는 무엇입니까?

사람들은 일반적으로 자신이 사용하는 AI의 배후에 있는 것을 알고 싶어합니다. 특히, 자신의 일상적인 워크플로우가 어떤 형태로나 영향을 받을 때, 더 많이 알고 싶어합니다. 우리는 고객이 자신의 고객으로부터 곧 받을 질문에 대한 답변을 제공할 수 있도록 도와줍니다. “이것은 어떻게 관리되고 있나요?”, “데이터와 모델을 보호하기 위해 무엇을 하고 있나요?”, “이 정보가 검증되었나요?”와 같은 질문에 대한 답변을 제공할 수 있도록 도와줍니다. AI 카드는 조직이 이러한 질문에 대한 답변을 제공하고, 자신의 AI 시스템의 투명성과 신뢰성을 보여줄 수 있는 빠른 방법을 제공합니다.

2022년 10월, 백악관 과학 기술 정책 사무소(OSTP)는 AI 권리장전의 청사진을 발표했습니다. 이 청사진은 AI의 책임 있는 사용에 대한 법적 구속력이 없는 로드맵를 제공했습니다. 이 권리장전의 장단점에 대한 당신의 개인적인 견해를 논의해 줄 수 있나요?

백악관이 책임 있는 AI에 대한 지침을 정의하는 첫 번째 단계를 내디딜 때, 이것은 매우 중요합니다. 그러나 AI 기반 결정에 이의를 제기하려는 개인뿐 아니라 조직에도 지침을 제공하기에는 충분하지 않았다고 봅니다. 미래의 규제 지침은 AI 시스템을 제공하는 사람뿐만 아니라, 이 기술을 안전하고 보안된 방식으로 사용할 수 있는 사람들을 위해 제공되어야 합니다. 궁극적으로, AI 시스템은 더 안전하고, 더 포용적이고, 더 투명해질 것입니다. 그러나, 조직이 미래의 규제를 준비하기 위한 위험 기반 프레임워크가 없으면, 특히 투명성과 설명 가능성 요구 사항을 충족하는 것이 기술적으로 불가능한 상황에서, 혁신의 속도를 늦출 수 있습니다.

크래니엄 AI는 이 권리장전을 준수하는 회사들을 어떻게 도와줍니다?

크래니엄 엔터프라이즈는 안전하고 보안된 시스템을 개발하고 제공하는 데 도움을 주는 회사입니다. 이것은 권리장전의 첫 번째 핵심 원칙입니다. 또한 AI 카드는 조직이 AI 시스템의 실제 작동 방식과 사용하는 데이터의 세부 사항을 공유하게 하여 고지 및 설명 원칙을 충족하도록 돕습니다.

NIST AI 위험 관리 프레임워크는 무엇이며, 크래니엄 AI는 이 프레임워크에 대한 AI 규정 준수 의무를 충족하는 데 기업을 어떻게 도와줍니다?

NIST AI RMF는 개인, 조직, 및 사회와 관련된 AI와 관련된 위험을 더 잘 관리하기 위한 프레임워크입니다. 이것은 다른 프레임워크와 유사한 구조를 따르며, AI에 대한 성공적인 위험 관리 프로그램의 결과를 정의합니다. 우리는 우리의 AI 카드를 이 프레임워크의 목표에 매핑하여 조직이 자신의 AI 시스템이 프레임워크와 일치하는지 추적하는 것을 지원합니다. 또한, 우리의 엔터프라이즈 플랫폼은 이미 많은 정보를 수집하므로, 우리는 일부 필드를 자동으로 채우고 검증할 수 있습니다.

EU AI 법은 최근 역사에서 본 가장 기념비적인 AI 입법 중 하나입니다. 왜 비 EU 회사들도 이 법을 준수해야 합니까?

데이터 개인 정보 보호를 위한 GDPR와 마찬가지로, AI 법은 글로벌 기업이 자신의 AI 시스템을 개발하고 운영하는 방식을 근본적으로 변경할 것입니다. EU 외부에 있는 기업들도 EU 시민이 사용하거나 EU 시민에게 영향을 미치는 AI 시스템을 운영한다면 기업의 관할 지역과 무관하게 해당 요구 사항을 준수해야 합니다.

크래니엄 AI는 EU AI 법을 준비하고 있나요?

크래니엄에서는 AI 법의 개발을 처음부터 따라왔으며, 우리의 AI 카드 제품을 규정 준수 요구 사항을 충족하는 데 도움을 주는 방식으로 설계했습니다. 우리는 초기에 AI 법을 인식하고 그것이 어떻게 발전해 왔는지에 대한 좋은 출발점을 갖고 있다고 생각합니다.

왜 책임 있는 AI는 기업들에게 우선순위가 되어야 합니까?

AI가 모든 비즈니스 프로세스와 기능에 통합되는 속도는 책임 있게 처리하지 않으면 상황이 빠르게 통제 불능에 빠질 수 있음을 뜻합니다. 책임 있는 AI를 현재에 우선순위로 두면, 기업들이 더 효과적으로 확장할 수 있고, 나중에 큰 장애물이나 규정 준수 문제에 부딪히지 않을 수 있습니다.

크래니엄 AI의 미래에 대한 당신의 비전은 무엇입니까?

우리는 크래니엄이 안전하고 신뢰할 수 있는 AI의 진정한 카테고리 왕이 되기를 바랍니다. 윤리적 사용이나 설명 가능성 같은 복잡한 과제를 포함해 모든 것을 해결할 수는 없지만, 책임 있는 AI의 다른 영역의 리더와 협력하여, 고객이 모든 책임 있는 AI 영역을 쉽게 다룰 수 있는 생태계를 구축하려고 합니다. 우리는 또한, 이러한 기능의 보안과 신뢰성을 지원하기 위해, 혁신적인 생성 AI 솔루션의 개발자와 협력하고 싶습니다. 우리는 크래니엄이 전 세계의 기업들이 안전하고 신뢰할 수 있는 방식으로 계속 혁신할 수 있도록 도와주기를 바랍니다.

이번 인터뷰에 감사드립니다. 더 많은 정보를 원하는 독자는 크래니엄 AI를 방문해 주세요.