Rony Ohayon, DeepKeep의 CEO 및 설립자 – 인터뷰 시리즈

Rony Ohayon, DeepKeep의 CEO 및 설립자는 AI, 사이버 보안, 자율 시스템, 대규모 비디오 기술을 아우르는 경력을 보유한 베테랑 기업가이자 기술 전문가입니다. 그는 자율 주행 자동차 연결, 라이브 비디오 전송, 고급 엔지니어링을 포함한这些 분야에서 여러 회사들을 설립하고 이끌었으며, 초기에는 컴퓨터 엔지니어링 분야에서 학술 연구를 수행했습니다.

DeepKeep은 기업들이 AI, 생성형 AI, LLMs, 컴퓨터 비전, 멀티모달 시스템을 전체 수명주기 동안 안전하게 보호할 수 있도록 설계된 AI 보안 플랫폼입니다. 이 회사는 취약점을 식별하고, 적대적 위협을 차단하며, 데이터 누출 및 프롬프트 조작과 같은 문제를 방지하고, 규제 준수를 지원하며, 신뢰할 수 있고 강력하며 보호된 AI 배포를 보장하기 위해 지속적인 모니터링을 제공하는 데 중점을 두고 있습니다.

비디오 전송, 자율 주행 자동차 연결, AI 시스템에서 주요 혁신을 주도했습니다. 자신의 경력에서 기업 AI를 보호해야 할 다음 주요 도전을 해결해야 한다는 것을 무엇으로 확신하셨나요?

저는 항상 산업을 재정의하는 높은 영향力的 도전을 해결하도록 동기부여를 받았습니다. 여러 해 동안, 새로운 기술이 특히 AI의 경우 보안 조치를 앞서는 경우가 많으며, 이는 중요한 취약성을 남긴다는 것을 알게 되었습니다.

기업의 AI 도입, 특히 대규모 언어 모델(LLMs)과 에이전트 AI의 상승으로 인해 새로운 위험의 전장이 열렸으며, 비즈니스들은 이러한 시스템을 안전하게 사용할 수 있도록 준비가 되지 않았습니다. AI 시스템에서 보안을 통합하는 것이 필수적임을 강조했습니다. 이것은 DeepKeep를 설립하게 된 계기가 되었으며, 기업들이 보안이나 개인 정보를 위협하지 않고 생산성과 비즈니스 성장을 위해 AI를 자신감 있게 도입할 수 있도록 AI 시스템을 보호하는 데 중점을 두고 있습니다.

2021년에 공동 설립자와 함께 DeepKeep를 설립했을 때, 전용 플랫폼이 필요한 긴급한 AI 보안 맹점은 무엇이었나요? 그리고 그 통찰은 회사의 초기 방향을 어떻게 형성했나요?

컴퓨터 비전에서 신뢰할 수 있고 강력한 시스템을 보장하기 위해 많은 노력을 기울여야 했으며, 컴퓨터 비전에서 신뢰와 보안을 보장하기 위한 전용 솔루션을 설계할 때가 되었다는 것을 깨달았습니다.

2021년, LLM 폭발 이전에, 우리는 컴퓨터 비전 모델의 위험을 해결하기 위해 DeepKeep를 출시했습니다.

초기 프로토타입으로 돌아가 보겠습니다. 실제로 무엇을 했는지, 팀이 얼마나 작았는지, 그리고 올바른 길을 걷고 있는지 어떻게 검증했나요?

DeepKeep를 설립했을 때, 전통적인 AI – 컴퓨터 비전, 테이블 모델, 초기 NLP – 에 중점을 두었습니다. 초기 프로토타입은 적대적 공격에 대한 컴퓨터 비전 분류기의 강건성을 테스트하기 위한 레드 팀 시스템이었습니다. 또한 적대적 공격을 실시간으로 감지하고 플래그할 수 있는 AI 방화벽의 초기 버전을 구축했습니다.

초기 사용 사례는 자동차, 보험, 금융 서비스에서 왔으며, 모델의 비행이 실제 운영 위험을 초래할 수 있습니다. 우리는 약 8명으로 구성된 작은 팀이었습니다. 이는 빠르게 반복하고 초기에 기능적인 프로토타입을 생성할 수 있었습니다.

잠재적 고객과 직접 대화함으로써 올바른 길을 걷고 있음을 검증했습니다. 그들은 일관되게 적대적 강건성을 새로운 우려로 강조했습니다. 그 시기에 MITRE의 ATLAS와 같은 프레임워크가 나타나기 시작했으며, AI 보안 및 적대적 위협 모델링 분야가 성장할 것이라는 외부 신호였습니다. 고객의 피드백과 산업 방향의 일치로 우리가 올바른 방향으로 가고 있음을 확신할 수 있었습니다.

DeepKeep는 전통적인 소프트웨어보다는 AI 시스템을 보호하도록 설계되었습니다. 모델 유형과 공격 표면을 먼저 중점으로 둘 것에 대해 어떻게 우선순위를 지정했나요?

처음부터 우리는 기업의 AI를 보호하는 데 필요한 패러다임 전환을 알았습니다. 많은 조직은 모델에 대한 침투 테스트와 평가를 수행해야 한다는 것을 알고 있지만, 실제 위험은 모델 자체가 아닌 전체 애플리케이션 생태계에서 발생합니다.

전통적인 AI 채팅봇의 레드 팀 테스팅이 산업의 시작점이었습니다. 그러나 우리는 빠르게 커스텀 AI 애플리케이션과 AI 에이전트를 보호하는 솔루션을 개발하는 방향으로 이동했습니다. 또한 에이전트가 상호 작용하고 상당한 크로스 도메인 지능이 있는 다음 단계로 진화할 것입니다.

모델 스캔을 모든 모델 유형에서 가능하게 하며, 적대적 공격, 데이터 누출, 시스템 오용, 신뢰 침식을 방지하기 위해 모델을 레드 팀 테스팅하고 가드레일을 적용하여 AI 프롬프트와 응답을 보호합니다.

또한 모델이 작동하는 컨텍스트를 이해함으로써 AI의 “시맨틱 레이어”를 보호합니다. 이는 모델이 쉽게 조작되지 않도록 합니다.

초기 설립 단계와 현재 DeepKeep의 제품 방향 사이에서 기술적 또는 전략적으로 가장 큰 변화를 무엇이라고 생각하나요?

우리가 내린 가장 큰 결정은 전통적인 모델 보안을 넘어서 AI 애플리케이션 보안 영역으로 확장하는 것이었습니다. 초기에는 개별 모델을 보호하는 데 중점을 두었습니다. 그러나 AI 풍경이 발전함에 따라 모델, 에이전트, 사용 사례가 교차하는 전체 AI 생태계를 보호하는 것이 훨씬 더 중요하다는 것을 깨달았습니다. 이것은 레드 팀 테스팅, 포괄적인 AI 방화벽, 런타임 모니터링을 포함하는 접근 방식을 확대하는 것을 의미했습니다.

또 다른 중요한 결정은 클라우드-중립, 온프레미스 및 에어 갭 솔루션을 포함한 전체 배포 유연성을 제공하는 것이었습니다. 이는 기업들이 모든 환경에서 DeepKeep를 안전하게 배포할 수 있도록 허용했습니다. 또한 최근에 업그레이드된 산업 최고의 개인 식별 정보 보호 가드레일을 플랫폼에 통합했습니다. 이는 고객에게 더 깊은 수준의 데이터 보호를 제공하며, 기업들이 AI 사용을 확장함에 따라 글로벌 규제 요구 사항을 충족할 수 있도록 합니다.

DeepKeep는 보안과 신뢰성에 동등한 중점을 두고 있습니다. 회사의 정체성에서 이 쌍방향 초점이 핵심이 된 시기는 언제였나요?

보안과 신뢰의 초점은 초기에 명확해졌으며, 특히 고객과 그들의需求에 대한 더 깊은 이해를 형성하기 시작했을 때입니다.

AI 모델을 다룰 때, 보안과 신뢰는 손에 손으로 함께 작동하며, 동일한 역할을 합니다. 궁극적으로, 둘 다 유해하고 파괴적인 결과를 초래할 수 있습니다. 응용 프로그램은 강력하지만 신뢰할 수 없을 수 없으며, 그 반대도 마찬가지입니다.

전통적인 사이버 보안 도구는 프롬프트 주입, 환각, 데이터 누출 또는 모델 조작에 대처하도록 설계되지 않았습니다. 이러한 새로운 위협 벡터 중에서 기업들이 가장 어려움을 겪는 것을 보셨나요? 그리고 이러한 실제 문제는 어떻게 DeepKeep의 아키텍처에 영향을 미쳤나요?

나타나는 위협 중에서 프롬프트 주입과 데이터 누출이 가장 긴급한 문제입니다. AI 애플리케이션과 에이전트가 비즈니스 프로세스에 더 많이 통합됨에 따라, 프롬프트 조작과 민감한 데이터의 우연한 노출의 위험은 더 두드러집니다. 이러한 문제는 컨텍스트 보안에 중점을 두어 모델뿐만 아니라 AI 생태계 내의 데이터와 상호 작용의 흐름을 모두 보호하도록 DeepKeep를 설계하도록 이끌었습니다. 우리의 인프라는 이러한 레이어를 개발 단계에서 펜테스트하고, 런타임 중에 모든 AI 상호 작용을 보호하도록 설계되었습니다.

您的 플랫폼은 가드레일, 레드 팀 테스팅, 데이터 보호 레이어를 결합합니다. 기술적인 관점에서, 이러한 중에서 기업 규모에서 가장 어려운 것을 엔지니어링하는 것은 무엇이었나요? 그리고 빠르게 발전하는 AI 모델에 적응하는 시스템을 구축하면서 무엇을 배웠나요?

각 레이어 – 가드레일, 레드 팀 테스팅, 데이터 보호 – 는 고유한 엔지니어링 도전을 가지고 있지만, 이러한 레이어 모두에서 가장 어려운 것은 공통된 도전이었습니다.

첫 번째 도전은 변화의 속도입니다. 새로운 위험, 탈옥, 공격 기술이 끊임없이 등장하므로, 정적인 모든 것이 빠르게 구식이 됩니다. 두 번째 도전은 컨텍스트 채택입니다. 기업에서 일괄 처리 접근 방식은 작동하지 않습니다. 각 애플리케이션에는 다른 정책, 데이터 민감성, 사용자 동작이 있습니다.

첫 번째 도전을 해결하기 위해, 우리는 완전히 모듈식 아키텍처를 구축했습니다. 플러그인 스타일의 구성 요소를 허용하여 레드 팀 테스팅 엔진에 새로운 공격을 추가하거나 방화벽에 새로운 가드레일을 추가할 수 있습니다.

두 번째 도전을 해결하기 위해, 우리는 에이전트, 컨텍스트 인식 시스템을 설계했습니다. 애플리케이션의 환경을 분석하고 자동으로 관련 보안 조치를 적용합니다. 이는 기본 AI 모델과 사용 사례가 빠르게 발전하는 경우에 필수적입니다.

이 두 가지 기능 – 모듈성과 컨텍스트 인식 – 은 기업 규모에서 작동하고 빠르게 발전하는 AI 시스템을 따라가는데 핵심이었습니다.

AI 보안은 발전하는 분야입니다. 현재 기업 내에서 정책, 툴링, 위험 이해에서 어떤 격차를 보시나요? 그리고 이러한 격차는 어떻게 DeepKeep의 보안 스택과 고객 온보딩을 설계하도록 영향을 미쳤나요?

격차는 산업, 회사 규모, AI 채택 성숙도에 따라 크게 다르다.

현재 대기업에서 보는 가장 큰 격차 중 하나는 모든 AI 보안 요구 사항을 다루는 단일 솔루션의 부족입니다. 많은 비즈니스는 AI 보안 솔루션의 필요성을 인식하고 있지만, 채택이 증가함에 따라 추가 보안 커버리지의 필요성이 증가합니다. 우리는 초기에 강력하고 종합적인 솔루션의 가치, 즉 다양한 기능이 조화롭게 작동하는 것을 배웠습니다. 고객은 부분의 합보다 더 큰 가치를 얻습니다.

시장이 성숙함에 따라, 우리는 또 다른 격차를 식별했습니다. 즉, 조직은 더 커스터마이즈되고 더 제네릭한 보안 도구가 아닌, 에이전트와 애플리케이션을 보호하기 위한 보안 도구를 찾고 있습니다. 컨텍스트 인식 접근 방식은 이 격차를 해결하기 위한 것입니다. 각 애플리케이션과 에이전트는 다르며, 각각 보안이 필요하다는 것을 이해했습니다.

5년 후를 내다보면, 기업의 AI 위험은 어떻게 진화할 것으로 생각하나요? 그리고 미래를 앞서가기 위해 DeepKeep는 어디에 위치해야 할까요?

5년 내에, AI의 가장 큰 위험은 AI 자율성과 함께 발전할 것으로 예상합니다. 에이전트가 비즈니스 운영의 모든 측면에 통합되고, 복잡한 작업을 수행할 수 있을 때, 보안 위반과 오용의 가능성이 증가할 것입니다. 우리는 에이전트 인터넷(IoA)의 개발을 예상합니다. 여기서 에이전트가 상호 작용하고, 보안할 수 있는 훨씬 더 복잡한 AI 상호 작용의 웹을 형성합니다.

앞서기 위해, DeepKeep는 점점 더 복잡한 AI 시스템을 보호할 수 있도록 플랫폼을 계속 발전시킬 것입니다. 이는 런타임 중에 여러 AI 모델을 보호하고, AI 기반 의사 결정의 성장하는 추세를 지원하는 것을 의미합니다. 우리의 목표는 비즈니스들이 자신의 전체 AI 생태계를 보호할 수 있는 신뢰할 수 있는 파트너가 되는 것입니다. 이는 그들이 얼마나 발전하든지 상관없이 보안이나 개인 정보를 위협하지 않고 AI를 자신감 있게 채택할 수 있도록 합니다.

멋진 인터뷰 감사합니다. 더 많은 정보를 원하는 독자는 DeepKeep를 방문하십시오.