AI 보안이 고장 나지 않았습니다. 우리는 단지 잘못된 것을 방어하고 있습니다

サイバーセキュリティ 업계에는 새로운 기술이 등장할 때마다 즉시 그것을 둘러싼 벽을 쌓는 패턴이 있습니다. 우리는 클라우드와 컨테이너에 대해 그렇게 했으며, 이제 우리는 AI에 대해 그렇게 하고 있습니다. 그러나 이번에는 우리가 쌓는 벽은 완전히 잘못된 위치에 있습니다.

오늘날의任何 기업 보안 검토에 들어가면, 같은 우선순위가 있습니다. AI 모델을 보호하고, 학습 데이터를 보호하고, 출력을 검증하고, AI를 사용한 보조 시스템을 배포하는 것입니다. 업체들은 모델 수준의 제어에만 집중하는 “AI 보안” 툴을 판매하려고 급급합니다. 이러한 툴에는 가드레일, 프롬프트 주입 방어, 모델 모니터링 플랫폼 등이 있습니다.

누구도 주목하지 않는 실제 공격 표면

企業 환경에서 일관되게 관찰되는 하나의 패턴은 보안 팀이 AI 개발 환경을 보호하기 위해大量의 투자를 하고 있음을 보여줍니다. 모델 접근 제어, 데이터 거버넌스 프레임워크, MLOps 보안 툴링 등이 포함됩니다. 이것은 AI가 “잠금”되어 있다고 하는 잘못된 자신감을 줍니다.

그러나 실제 공격 표면을 매핑하면, AI 채팅봇이 수십 개의 SaaS 플랫폼에 대한 OAuth 토큰을 보유하고 있으며, 과도한 클라우드 권한을 가진 API 키와 생산 인프라에 직접적인 경로를 만들 수 있는 신뢰 관계를 가지고 있음을 알 수 있습니다. 모델 자체는 안전할 수 있지만, 모델이 존재하는 생태계는 종종 넓게 열려 있으며, 이것은 에지 케이스가 아닙니다.

기업은 평균 130개 이상의 SaaS 애플리케이션을 사용하며, AI 통합은 身分 제공자, 클라우드 인프라, 데이터베이스 및 비즈니스クリ티컬 시스템을 아우릅니다. 각 통합은 잠재적인 공격 경로이며, 각 API 연결은 공격자가 적극적으로 조사하고 있는 신뢰 경계입니다.

문제는 우리의 AI 보안 툴이 고장 났다는 것이 아닙니다. 문제는 우리는 개별 구성 요소를 보호하는 반면, 공격자는 구성 요소 간의 연결을 악용한다는 것입니다.

모델 중심 보안이 왜 실패하는가

현재의 AI 보안 접근법은 현대적인 공격의 작동 방식에 대한 근본적인 오해를 기반으로 합니다. 우리는 AI를 독립된 자산으로 취급하여 데이터베이스나 웹 애플리케이션을 보호하는 것과 유사하게 보호합니다. 그러나 생산 환경의 AI는 고립되어 있지 않습니다. 그것은 복잡한 그래프의 노드입니다. 身分, 권한, API, 데이터 흐름이 있습니다.

일반적인 기업 AI 배포를 고려해 보십시오. Google Workspace에 접근할 수 있는 AI 에이전트가 있습니다. 그것은 Salesforce와 API를 통해 연결되어 있습니다. Slack과 통합되어 있으며, AWS S3 버킷에서 데이터를 가져옵니다. Okta 또는 Azure AD를 통해 인증됩니다. ServiceNow에서 워크플ロー를 트리거합니다.

전통적인 AI 보안은 모델 자체에 초점을 맞춥니다. 모델의 보안 상태, 프롬프트 검증, 출력 안전성에 대해 집중합니다. 그러나 공격자는 통합에 초점을 맞춥니다. 공격자는 어떤 서비스 계정을 통해 도달할 수 있는지, API 조작을 통해 어디로 피벗할 수 있는지, 어떤 신뢰 경계를 건너갈 수 있는지에 대해 집중합니다.

공격 경로가 제품 경계를尊重하지 않는다

여기서 대부분의 조직이 걸리는 곳입니다. 각 보안 도구는 단일 도메인에 대한 가시성을 제공합니다. 하나의 도구는 클라우드 권한을 모니터링합니다. 다른 도구는 SaaS 구성에 대해 추적합니다. 세 번째 도구는 身分 거버넌스를 관리합니다. 네 번째 도구는 취약성 관리를 처리합니다.

각 도구는 퍼즐의 일부를 보여줍니다. 그러나 퍼즐의 일부가 어떻게 연결되는지 보여주지 않습니다.

Gartner에 따르면, 조직은 평균 45개 이상의 보안 도구를 사용합니다. 그러나 이러한大量의 투자에도 불구하고, 공격자는 이러한 도메인에 걸친 구성 오류를 체인으로 연결하여 성공적으로 공격하고 있습니다. 왜냐하면 단일 도구는 완전한 공격 경로를 볼 수 없기 때문입니다.

공격자가 आपक의 AI 모델에 대한 중요 취약성을 발견할 필요는 없습니다. 공격자는 단지 체인을 발견하면 됩니다. 예를 들어, AI 서비스에 연결된 IAM 역할이 있습니다. 이 역할은 S3 버킷에 대한 권한을 가지고 있으며, 버킷에는 생산 환경에 대한 관리자 권한을 가진 SaaS 애플리케이션의 자격 증명이 포함되어 있습니다.

개별 구성 오류는 보안 도구에서 “중간” 또는 “낮음”으로 평가될 수 있습니다. 그러나 체인으로 연결되면, 그것은 임계 노출이 됩니다. 그리고 이것은 각 보안 도메인을 개별적으로看着 보면 보이지 않습니다.

노출 관리의 필요성

이것은 왜 대화가 “AI 보안”에서 AI 통합 환경을 위한 지속적인 위협 노출 관리로 이동해야 하는지에 대한 것입니다.

우리의 AI 모델이 안전한지 묻는 것만으로는 충분하지 않습니다. 보안 팀은 공격자가 AI 서비스 계정을 손상시키면 실제로 무엇에 도달할 수 있는지 이해해야 합니다. 클라우드, SaaS, 身分 시스템의 구성 오류가 어떻게 체인으로 연결될 수 있는지에 대한 가시성을 가져야 합니다. 또한 AI 통합이 실제 공격 표면을 실시간으로 어떻게 변경하는지 알고 있어야 합니다. 그리고 실제 공격 가능성에 따라 위험을 우선순위로 지정해야 합니다.

대부분의 보안 프로그램은 여전히孤立된 위험을 우선순위로 지정합니다. CVSS 점수와 규정 준수 체크리스트를 사용하여 위험을 평가합니다. 그러나 이러한 평가 방법은 실제로 공격이 가능한지 여부를 완전히 무시합니다.

이 격차는 AI 시스템에서 더욱 두드러집니다. 새로운 통합이 매주 추가됩니다. 권한이 변경됩니다. API 연결이 변경됩니다. 지난 달의 공격 표면은 오늘의 공격 표면과 다를 수 있습니다. 그러나 보안 평가에서는 이러한 변경을 고려하지 않을 수 있습니다.

공격 경로 인식 보안이 실제로 무엇인지

생산 환경에서 AI를 보호하려면 근본적으로 다른 접근 방식이 필요합니다. 이것은 사고 방식의 4가지 주요 변경을 의미합니다.

첫째, 보안 도메인 전체에 걸친 통일된 가시성이 필요합니다. 각 보안 도구가 자신의 실로에서 작동하도록 요구하지 마십시오. 클라우드 보안, 身分 거버넌스, SaaS 관리, 취약성 스캔 도구는 모두 공격 경로 퍼즐의 일부를 가지고 있습니다. 실시간으로 데이터를 공유하여 구성 오류가 어떻게 체인으로 연결되는지 볼 수 있어야 합니다.

둘째, 지속적인 공격 경로 시뮬레이션을 받아들이십시오. 침투 테스트 또는 레드 팀 연습을 기다리지 말고, 공격자가 환경을 통해 어떻게 이동할 수 있는지 계속 테스트하십시오. 실제 공격 가능성에 초점을 맞추고, 이론적인 심각성 점수에 의존하지 마십시오.

셋째, 상황에 맞게 우선순위를 지정하십시오. 공개된 S3 버킷은 공개된 것만으로 임계적인 것은 아닙니다. 버킷이 공개되어 있고 자격 증명이 포함되어 있으며, 이러한 자격 증명이 특권 접근을 가지고 있으며, 이러한 자격 증명이 인터넷에 노출된 자산에서 도달할 수 있다면, 임계적인 것입니다. 상황이 더 중요합니다.

넷째, 예방적 조치를 취하십시오. SOC 팀이 경고를 조사하는 동안, 귀하는 이미 귀중한 반응 시간을 잃었습니다. 현대적인 방어는 사건이 발생하기 전에 공격 경로를 닫는 능력이 필요합니다.

무시할 수 없는 경고

AI가 기업 스택의 모든 계층에 걸쳐 내장됨에 따라, 공격 표면은 보안 팀이 수동으로推論할 수 있는 속도보다 더 빠르게 확장하고 있습니다. 우리는 AI 통합을 10배의 속도로 추가하고 있지만, 우리는 그만큼의 속도로 보안을 강화하고 있지 않습니다.

만약 여러분이 AI를孤立하여 보호하고, 모델을 보호하는 반면에 모델이 작동하는 생태계를 무시한다면, 이미 뒤처지고 있습니다. 공격자는 도구에 대해 생각하지 않습니다. 공격자는 경로에 대해 생각합니다. 공격자는 개별 취약성을 악용하지 않습니다. 공격자는 환경 전체에 걸친 구성 오류를 체인으로 연결합니다.

AI를 성공적으로 보호할企业는 가장 많은 AI 보안 도구를 보유한 기업이 아닙니다. AI 보안은 전체 공격 표면에 걸친 노출 관리와 분리할 수 없는 기업이 될 것입니다.

모델 보안은 기본입니다. 중요한 것은 공격자가 AI 통합을 손상시키면 실제로 무엇에 도달할 수 있는지 이해하는 것입니다. 보안 팀이 이러한 질문에 대해 지속적으로, 실시간으로, 전체 환경에서 대답할 수 있을 때까지, 보안 팀은 AI를 보호하고 있지 않습니다. 보안 팀은 단지 자신이 세운 벽이 올바른 위치에 있는지希望하고 있을 뿐입니다.