보안팀 중 정기적으로 직원이 AI 도구에 보내는 민감 데이터를 보고할 수 있는 곳은 29%뿐

이 기사는 Jazz의 의뢰로 진행된 Cloud Security Alliance’s (CSA)의 2026년 설문 보고서 AI 시대의 DLP의 조사 결과를 바탕으로 작성했습니다.

CSA는 6월과 7월에 IT 및 보안 전문가 433명에게 지난 30일 동안 민감 데이터가 생성형 AI 도구로 전송된 횟수를 보여 주는 보고서를 팀에서 작성할 수 있는지 물었습니다. 29%는 정기적으로 보고서를 작성할 수 있다고 답했습니다.

응답자들이 생성형 AI를 사소한 데이터 전송 경로로 여겼다면 이 수치는 그다지 중요하지 않았을 것입니다. 하지만 응답자들은 생성형 AI를 데이터 유출 위험이 가장 큰 경로로 꼽았고, 48%는 상위 3위 안에 들었다고 답했습니다.

저는 데이터 손실 방지 제품을 만드는 회사에서 엔지니어링을 이끌고 있습니다. 제 업무 대부분은 시스템 내 어디에서 데이터 이동의 증거가 발생하는지, 그리고 그에 따른 위험이 왜 생기는지를 파악하는 것입니다. 이런 관점에서 보면, 팀이 파악할 수 있다고 믿는 내용과 실제로 입증할 수 있는 내용 사이의 격차는 생성형 AI 통제를 설계한 방식에서 비롯됩니다.

생성형 AI에 대한 가시성은 자신감이 앞서지만, 팀이 실제로 입증할 수 있는 수준은 못 미쳐

응답자의 절반이 조금 넘는 비율이 생성형 AI에 대한 가시성을 5점 만점에 4점 또는 5점으로 평가했습니다. 그러나 민감 데이터가 AI 도구로 전송된 횟수를 단순히 집계한 보고서로 그 평가를 정기적으로 뒷받침할 수 있는 응답자는 29%뿐이었습니다.

출처: Cloud Security Alliance, DLP in the AI Era(2026), n=433. 보고서 22~23쪽의 차트를 바탕으로 재구성.

통제 방식도 같은 양상을 보입니다. 응답자 중 생성형 AI 경로에서 민감 데이터를 엄격하게 차단하는 비율은 22%뿐이었습니다. 응답자들이 데이터 유출 위험이 가장 낮다고 평가한 이동식 미디어는 엄격 차단 비율이 31%로 가장 높았습니다. 엄격 차단은 가장 오래된 도구를 사용하는 경로에 집중돼 있습니다.

출처: Cloud Security Alliance, DLP in the AI Era(2026), n=433. 보고서 23쪽과 26쪽의 차트를 바탕으로 재구성했으며, 반올림으로 행의 값이 99% 또는 101%가 된 경우 막대는 100%에 맞춰 조정했습니다.

Jazz는 설문과 함께 고객 환경에서 수집한 텔레메트리 데이터도 발표했습니다. 해당 데이터에서 조직당 사용 중인 AI 도구는 평균 169.5개였으며, 이 중 승인된 도구는 9.8개에 불과해 94.2%가 승인 목록에 포함되지 않았습니다.

격차가 생기는 이유: 도구 목록에는 이벤트가 기록되지 않는다

생성형 AI 위험에 대한 일반적인 대응은 몇몇 AI 서비스를 기업 계약으로 승인하고 나머지는 사용을 자제시키거나 차단하는 것입니다. 94.2%라는 수치는 실제 상황에서 승인 목록이 얼마나 뒤처져 있는지를 보여 줍니다. 마감에 쫓기는 엔지니어는 당장 오늘의 문제를 해결해 주는 도구를 사용합니다. 승인된 도구를 조달하는 데 몇 주가 걸리기 때문입니다.

목록을 완벽하게 작성하더라도 CSA가 요청한 보고서를 만들 수는 없습니다. 사고 대응팀이나 감사 담당자는 데이터가 외부로 나간 구체적인 사건에 대해 물을 것입니다. 도구 목록에는 사건이 기록되어 있지 않습니다.

그 사건에서 무슨 일이 일어났는지 밝히려면 네 가지 사실이 필요합니다. 어떤 민감 데이터가 관련됐는지, 어떤 도구가 데이터를 받았는지, 어떤 계정을 통해 전송됐는지, 그리고 당사자가 왜 데이터를 보냈는지입니다.

도구 수준의 거버넌스는 계정에서 가장 먼저 무너집니다. 같은 웹사이트에서 회사의 기업 계정과 직원의 무료 개인 계정을 모두 사용할 수 있습니다. 기업 계정에는 데이터 보존 설정과 계약 조건이 있지만, 개인 계정에는 둘 다 없습니다. 승인된 도구라도 개인 계정으로 로그인해 사용하면 승인되지 않은 도구를 사용한 경우와 거의 다를 바 없는 증거만 확보할 수 있습니다.

사용 목적은 파악하기가 더 어렵고, 실제로 문제가 있었는지를 결정합니다. 재무 분석가가 잘못된 수식을 고치려고 매출 모델을 챗봇에 붙여 넣는 것은 업무를 수행하는 것입니다. 하지만 금요일에 퇴사 의사를 밝힌 사람이 똑같이 붙여 넣었다면 전혀 다른 이야기가 필요합니다. 두 경우를 구분하는 것은 당사자의 주변 상황이지만, 그런 맥락은 데이터 내용 자체에는 전혀 드러나지 않습니다.

사용 중인 통제 수단은 각각 한 곳만 들여다본다

설문 결과, AI 도구로 전송되는 민감 데이터를 통제하는 데 압도적으로 우세한 접근 방식은 없었습니다. AI 도메인에 대한 네트워크 수준 차단, 브라우저 기반 콘텐츠 검사, 허용 가능한 사용 정책만 적용하는 방식은 각각 21~23%를 차지했고, DLP가 내장된 기업용 AI 플랫폼은 10%였습니다.

이러한 통제 수단은 각각 하나의 검사 지점을 중심으로 설계됐습니다. 도메인 차단은 연결을 허용하거나 막고, 연결 대상 사이트를 기록합니다. 브라우저 확장 프로그램은 해당 브라우저에 입력된 내용만 볼 수 있으므로 데스크톱 앱, 코드 편집기 안의 코딩 도우미, 명령줄 도구에서 전송된 내용은 놓칩니다. 기업용 AI 플랫폼에 내장된 DLP는 해당 플랫폼으로 들어오는 내용만 확인합니다. 이들 통제 수단은 모두 한 곳만 살펴보면서 데이터가 바로 그곳으로 전송되기를 기대합니다.

검사 지점이 하나뿐이라는 점은 차단 통계도 설명해 줍니다. 통제 수단이 기업 계정과 개인 계정을 구분하거나 일상적인 붙여 넣기와 위험한 붙여 넣기를 가려낼 수 없다면, 둘 다 차단하거나 둘 다 허용해야 합니다. 그러면 엄격한 차단은 위험한 행위뿐 아니라 정당한 업무까지 막게 됩니다. 더 적극적으로 차단하지 않은 주된 이유를 묻자 응답자의 46%는 업무 흐름을 방해할 우려를, 39%는 DLP의 정확성에 대한 확신 부족을 꼽았습니다.

염두에 둘 만한 주의 사항

설문 결과는 응답자들의 자체 보고에 따른 것이며, 설문에서는 가시성 평가가 실제 적용 범위와 일치하는지 검증하지 않았습니다. 응답자의 다수는 미주 지역(80%)에 있고 직원 수가 5,000명 미만인 조직에 속해 있어(67%), 이 결과가 대규모 글로벌 기업에도 고르게 적용되지는 않을 수 있습니다. 텔레메트리 데이터는 이러한 가시성 확보 기능을 도입하기로 한 조직에서 수집되므로, AI 도구가 무분별하게 확산되는 문제를 이미 우려하는 조직에 치우쳤을 가능성이 있습니다.

승인된 도구와 에이전트가 늘어나면 목록은 더더욱 현실을 반영하지 못합니다

승인된 SaaS 제품에 AI 어시스턴트가 추가되면서, 데이터가 어떤 도구에 전달됐는지 묻는 질문에는 흔히 두 가지 답이 있습니다. 직원이 연 애플리케이션과 그 뒤에서 작동하는 AI 모델 제공업체입니다. AI 에이전트는 상황을 더욱 복잡하게 만듭니다. 에이전트가 직원을 대신해 파일을 가져와 다른 곳으로 보내면, 누가 왜 그 일을 했는지의 일부는 이제 소프트웨어에 달려 있습니다. 최근 Unite.AI 기사에서 프로덕션 환경의 에이전트에 대한 프롬프트 인젝션을 다루며 지적했듯이, 에이전트는 읽은 콘텐츠에 의해 유도될 수 있으므로 에이전트가 자신이 한 일을 설명한 내용만으로는 그 목적을 입증할 수 없습니다.

이번 달에 직접 해볼 수 있는 테스트

지난 30일을 돌아보고, AI 도구에 전달됐다고 생각하는 데이터 중 가장 민감한 항목을 하나 고르세요. 그런 다음 팀이 다음 정보를 수작업으로 모으지 않고도 제시할 수 있는지 확인하세요.

• 데이터가 무엇이었고 어디에서 왔는지
• 승인된 목록에 없는 도구까지 포함해 어떤 도구가 데이터를 받았는지
• 데이터가 기업 계정과 개인 계정 중 어느 계정을 통해 전달됐는지
• 데이터를 보냈을 때 해당 직원이 어떤 업무를 하고 있었는지

앞의 두 항목은 빠르게 확인할 수 있지만 뒤의 두 항목은 직원과 면담해야 알 수 있다면, 거버넌스는 도구 목록은 포괄하지만 데이터는 거의 포괄하지 못하는 것입니다.