GenAI의 광범위한 음영은 기업 데이터를 위험에 빠뜨리고 있습니다

생성적 인공 지능(GenAI) 솔루션은 더 이상 기업 직원이 단순히 “테스트”하는 것이 아닙니다. 그것들은 점점 더 빠른 속도로 일상적인 작업에 채택되고 통합되고 있습니다. 한 보고서에 따르면, 40%의 조직은 과거 1년 동안 일일 워크플로에서 GenAI를 사용했으며, 80% 이상의 조직은 사용자가 이러한 도구와 주간으로 взаим작용한다고 보고했습니다.

그러나 AI 채택이 증가함에 따라, 가시성과 제어는 그 속도를 따라가지 못하고 있습니다. GenAI가 이메일 인박스, 코드 편집기, 협업 스위트, 가상 어시스턴트 등에 통합됨에 따라, 프롬프트, 업로드, 복사-붙여넣기 동작을 통해 점점 더 많은 양의 민감한 데이터에 액세스할 수 있게 됩니다. 이러한 동작은 전통적인 제어를 우회할 가능성이 있습니다.

결과는 점점 더 커지는 음영 데이터 풀입니다. 비즈니스에 중요한 정보가 SaaS, 클라우드, 온프레미스 서비스를 통해 흐르며, 가시성, 거버넌스, 보존을 위한 제한된 안전 장치가 있습니다. 지속 가능한 및 안전한 AI 솔루션을 혁신하기 위해서는 현대의 기업이 이 채택-제어 격차를 이해하고 음영 데이터를 제어하기 전에 해결해야 합니다.

GenAI의 광범위한 음영

음영 데이터의 핵심 도전은 문맥의 부족에서 비롯됩니다. 음영 IT 도전은 파일, 승인된 애플리케이션, 알려진出口 지점에 국한되지만, AI 주도 음영 데이터의 경계는 훨씬 더 유연하게 정의됩니다. 팀은 desconocido 도구를 발견하고 보안할 수만 있지 않습니다. 또한 승인된 애플리케이션에 통합된 AI 모델을 모니터링해야 합니다. 예를 들어, 이메일 플랫폼, 클라우드 스토리지 솔루션, CRM입니다. 이것은 그들이 일해왔던 “안전한” 솔루션을 뒤엎고, 위협 경관을 넓히는 것입니다.

GenAI는 또한 민감한 데이터가 기업 아키텍처를 통해 이동하는 방식을 변경합니다. 전통적인 SaaS 솔루션의 애플리케이션 및 파일 기반 워크플로와는 달리, GenAI는 연속적인 대화 계층에서 작동하여 사용자가 더好的 결과를 얻기 위해 문맥을 공유하도록鼓励합니다. 이것은 사용자가 루틴 복사-붙여넣기 동작과 업로드를 수행하도록 유도합니다. 이러한 동작에는 소스 코드 조각, 고객 레코드, 내부 문서 등이 포함될 수 있으며, 이러한 데이터의 민감성 수준에 대한 적절한 데이터 공유 거버넌스가 없습니다.

또한, GenAI 채택은 깨끗한 중앙 집중식 패턴을 따르지 않습니다. 두 기업 데이터 사용자는 정확히 동일하지 않으며, 최적화된 워크플로와 시간 절약 자동화를 추구하는 과정에서 여러 AI 솔루션을 활용할 수 있습니다. 이것은 훨씬 더 단편화된 데이터 경로를 생성합니다. 이 것을 전체 직원에게 걸쳐乘算하면, 음영은 매우 광범위해집니다.

GenAI를 차단하지 않는 이유

이러한 위협에 직면하여, 많은 조직은 GenAI 도구에 대한 액세스를 완전히 차단하거나 제한하는 반사적인 반응을 보입니다. 그러나 이것은 종종 기대만큼 효과적이지 않습니다. 일단 GenAI의 지니가 병ออก하면, 그것을 다시 넣는 것은 매우 어렵습니다. 많은 직원이 이러한 도구를 일상적인 워크플로를 최적화하고 자동화하는 데 사용하기 때문에, GenAI는 작업 계획 및 실행에 깊이 뿌리내렸습니다.

액세스가 제한되면, 사용은停止하지 않을 것입니다. 그것은 단지 시야에서 벗어날 것입니다. 직원이 개인 또는 관리되지 않는 계정으로 전환하면, 기업은 어떤 데이터가 애플리케이션에 의해 공유되고 보존되는지에 대한 가시성을 잃게 됩니다. 실제로, 한 보고서는 44%의 직원이 정책 및 지침에 위배되는 방식으로 AI를 사용했다고 보고했으며, 또 다른 연구는 75%의 직원이 승인되지 않은 AI 도구를 사용하고, 이러한 도구와 잠재적으로 민감한 정보를 공유한다고 보고했습니다. 잘 의도된 직원이 무의식적으로 안전 장치를 우회하고, 관리되는 환경을 벗어나 불분명한 제어를 가진 시스템으로 민감한 데이터를 이동시키는 기회를 생성할 때, 이는 상당한 내부 위험을 생성하며, 이는 조직에 평균 1,950만 달러의 연간 비용을 초래할 수 있습니다. 사용자 활동을 더 깊은 브라우저, 개인 클라우드 계정 또는 니치 AI 도구로 밀어붙임으로써, 기업은 보안 팀이 결코 볼 수 없는 더 많은 위협 벡터를 생성합니다.

이러한 이유로, 음영 데이터는 단순히 AI 도구에 액세스할 수 있는 무책임한 직원의 결과가 아닙니다. 그것은 GenAI의 접근 가능한 설계, 문맥 요구, 그리고 전체적인 普遍性의 구조적인 결과입니다. 그리고 기업이 음영 데이터가 흐르는 방법과 위치를 다시 확인하기 전까지, GenAI 채택은 위험을 관리하는 능력을 따라가지 못할 것입니다.

가시성 및 보호를 통한 음영 데이터 제거

GenAI 솔루션을 완전히 차단하는 것은 효과적이지 않을 수 있지만, 기업은 세 가지 핵심 동작을 취함으로써 AI 혁신을 지원하면서 음영 데이터의 확산을 방지할 수 있습니다.

1. 종단 간 가시성 설정

기업은 데이터 생태계를 효과적으로 보호하기 전에 정확히 무엇을 다루고 있는지 알아야 합니다. 이것은 승인된 도구에 포함된 GenAI 애플리케이션을 사용하는 직원을 포함하여, 사용 중인 GenAI 애플리케이션에 대한 완전한 그림을 그리기 시작합니다. 또한 공유되는 데이터 유형(금융, 지적 재산, 개인 식별 정보, 보호된 건강 정보 등)을 포함하여, 온프레미스, SaaS 및 클라우드 네트워크를 통해 데이터가 이동하는 경로를 포함합니다. 이러한 중요한 정보 없이, 보안 및 컴플라이언스 팀은 실제 직원 행동이 아닌 가정에 따라 거버넌스를 담당하게 됩니다.

2. 문맥 인식 데이터 보호 정책 적용

가시성만으로는 충분하지 않습니다. 제어는 GenAI 사용 방법에 적응해야 합니다. 클래식한 “허용 또는 차단” 정책은 연속적인 대화형 데이터 교환을 요구하는 AI 워크플로에 너무僵硬합니다. 이러한 솔루션을 효과적으로 보호하기 위해서, 팀은 사용자, 데이터 및 목적지를 실시간으로 평가하는 문맥 인식 정책을 생성해야 합니다. 이것은 위험한 업로드를 차단하거나, 환경을 떠나기 전에 민감한 정보를 편집하거나, 직원에게 더 안전한 대안을 시도하도록 지시하는 것과 같은 현실적이고 비례한 행동을 취할 수 있게 합니다. 이러한 자동화된 가드레일은 완전한 중단 또는 수동 개입보다 더 효과적으로 일상적인 작업에 통합될 수 있으며, 생산성을 방해하지 않고 GenAI 사용을 더 안전하게 만들 수 있습니다.

3. 일관된 정책 시행 보장

기업은 일관된 데이터 보호 정책 집합을 어디서 일이 발생하든지 일관되게 시행해야 합니다. 이것은 팀이 기존 도구를 포기해야 하는 것을 의미하지 않습니다. 이것은 생산성을 크게 방해할 것입니다. 대신, 데이터와 사용자가 클라우드 스토리지, 협업 플랫폼, SaaS 앱 및 GenAI 어시스턴트를 따라 가는 일관된 정책을 설정해야 합니다. 이것은 위험과 마찰을 모두 줄일 것입니다. 보안 팀은 단편화된 제어를 관리하는 대신, 직원은 예상 가능한 가드레일 내에서 일할 수 있습니다. 궁극적으로, 적극적이고 일관된 반응은 반응적이고 단편화된 반응보다 훨씬 더 효과적일 것입니다.

안전하고 지속 가능한 채택 지원

GenAI 도구는 더 이상 기업이 이를 니치 또는 실험적인 위험으로 간주할 수 없습니다. 그것들은 무시할 수 없으며, 완전히 뿌리뽑을 수도 없습니다. 대신, 기업은 혁신적인 AI 사용을 가능하게 하면서 데이터 생태계를 통해 민감한 데이터의 음영, 보호되지 않은 이동을 피하는 경로를 찾는 방법을 찾아야 합니다. 성공은 채택을 억제함으로써 오지 않을 것입니다. 그것은 데이터가 흐르는 모든 곳에서 지속적이고 문맥적이며 일관된 데이터 보호를 통해 안전하게 채택을 가능하게 함으로써 올 것입니다.