데이터 – AI가 아닌 – 핵심은

인공 지능은 비즈니스에 چنان 깊이 뿌리내렸기 때문에 거의 모든 운영이 어떤 식으로든 기술의 영향을 받고 있습니다. 그리고 특히 AI의 사용을 보면, 조직들이 새로운 형태의 AI를 사용하여 기존 시스템을 혁신하고 반복하고 있습니다. 실제로 최근에 실시된 조사에 따르면, 98%의 IT 리더들이 이미 에이전트 AI를 사용하여 GenAI 사용 사례를 오케스트레이션하거나 가까운 미래에 그렇게 할 계획이 있다고 합니다.

최근 몇 년 동안 등장한 다양한 AI 도구와 기술 중에서, 에이전트는 가장 인기 있는 것으로 빠르게 부상하고 있습니다. 이러한 에이전트는 조직이 고객 경험과 지원을 개선하는 것부터 내부 프로세스를 자동화하거나 이미 사용 중인 GenAI 모델을 최적화하는 것까지 모든 것을 도와줍니다. 그러나 AI 에이전트와 전체 AI를 기업 전체에 걸쳐 확장하는 것은 어려움이 없습니다.

많은 조직이 AI, 특히 에이전트를 확장하는 데 어려움을 겪는 이유는 기술이 아니라 신뢰 때문입니다. 에이전트는 본질적으로 다수의 시스템에서 작동합니다. 이러한 시스템이 있는 곳이면, 그 시스템은 고객 데이터, 의료 정보, 또는 금융 데이터와 같은高度 민감한 데이터에 의존하는 경우가 많습니다. 여기서 문제가 있습니다. 적절한 데이터 개인 정보 보호 및 보안 인프라 없이大量의 데이터를 AI 모델에 가져오면, 기업은 상당한 위험에 노출됩니다.

AI 모델의 출력에 관계없이, 그 모델이 신뢰할 수 있는 데이터로 훈련된 경우에만 가치가 있습니다. 그러나 데이터가 안전하다는 것을 보장하는 것보다 더 중요한 것은 있습니다. 특히 에이전트의 경우, 이러한 모델이 작동하는 방식에 많은 자율성이涉及됩니다. 데이터에 액세스할 수 있는 사람, 액세스할 때, 그리고 어떻게 하는지에 대한 이해를 제공하는 것이 신뢰를 구축하는 데 중요합니다.

데이터 개인 정보 보호의 복잡성을 극복하는 것은 불가능하지 않습니다. 데이터 정책, 메타데이터 거버넌스, API, 및 기업급 승인 프레임워크가 제대로 구축되어 있다면, 기업의 IT 리더들은 AI를 구동하는 데이터가 안전하고 신뢰할 수 있는지 확인할 수 있습니다.

자세히 살펴보겠습니다.

데이터 개인 정보 보호와 대규모 AI의 필요성 탐색

기업에서 에이전트를 통합하는 더广い 목표 중 하나는 운영과 시스템 전체에 걸쳐 워크플ロー를 최적화하는 것입니다. 그러나 이러한 작업을 수행하는 데 아무런 가이드라인이 없다면, 민감한 데이터가 노출될 수 있습니다. 데이터 침해와 악의적인 공격이 끊임없이 진화하는 시대에, 노출되거나 승인되지 않은 사용자에 의해 액세스되는 데이터는 AI 이니셔티브뿐만 아니라 전체 기업에 災難을 초래할 수 있습니다. IBM에 따르면, 2025年的 데이터 침해 평균 비용은 4백만 달러 이상입니다. AI 채택은 빠르게 진행되고 있지만, 거버넌스와 보안은 종종 뒤처지고 있습니다. 기업 리더들은 혁신, 더 sâu刻한 통찰력, 그리고 성장의 새로운 기회를 추구하기 위해 급급합니다. 그러나 AI 채택이 급증하는 동안, 규제 정책과 요구사항도 데이터를 안전하게 유지하기 위해 발전하고 있습니다.

GDPR에서 CCPA까지, 그리고 기존의 HIPAA와 같은 정책은 AI 에이전트를 확장하는 데 복잡한 도전을 제기합니다.大量의 데이터를 요구하는 AI 도구는, 제어되지 않으면 위험을 증가시킵니다. AI 모델이 이러한 내부 시스템을 모두横断하여 작동할 때, 민감한 데이터가 이동되고 액세스되는 경우가 많습니다. 데이터에 관해서는, 규제 기관은 개인 정보 보호, 효과적인 거버넌스, 그리고 강력한 보안을 보장하기 위해 더 큰 강조를 두고 있습니다.

최근의 정책 중 하나인 DORA는 EU에서 운영하는 금융 서비스 기업을 위한 ICT 위험 관리에 대한 지침입니다. 이 정책은 기밀성, 무결성, 또는 데이터의 가용성에 영향을 미치는 ICT 사고의 분류와 보고를 명시적으로 요구합니다. 이 정책은 운영적 복원력에 중점을 두고 있지만, AI 채택에도 영향을 미칩니다. 더 많은 AI 이니셔티브, 에이전트를 포함한 것이 데이터에 액세스할 때, 데이터에 대한 비인가된 액세스의 위험도 증가합니다. AI 프로젝트가 데이터의 손실 또는 노출을 초래한다면, 이러한 규제는 신속하게 관련성이 있습니다.

이처럼 많은 것이 걸린 상황에서, 기업 조직은 보안, 거버넌스, 데이터 액세スの 중요성을 간과해서는 안 됩니다.

에이전트를 구동하는 기초 구축

기업은 효과적인 거버넌스를 기반으로 한 기초를 구축해야 합니다. 이는 에이전트가 무엇을 할 수 있고 할 수 없는지 정의하는 엄격한 가이드라인과 시행 가능한 규칙을 포함합니다. 이 기초의 핵심에는 데이터 거버넌스가 있습니다. 즉, 데이터를 책임감 있게 사용하는 높은 수준의 정책, 표준, 및 구조입니다. 이러한 정책은 에이전트가 제한된 데이터 세트에 액세스하거나 인간의 감시 없이 프로세스를 시작하지 못하도록 합니다.

강력한 데이터 거버넌스 정책을 구현하는 데 필요한 몇 가지 주요 사항이 있습니다. 이것은 책임과 소유권, 데이터 품질과 일관성, 보안과 개인 정보 보호, 준수와 감사 가능성, 투명성과 추적 가능성을 포함합니다.

이러한 사항을 거버넌스의 기초로 하여, 기업 리더들은 의사 결정에 대한 더 큰 제어, 데이터에 대한 더 큰 신뢰, 및 데이터 실로에 의해 제기되는 규제 위험을 줄일 수 있습니다. 이것은 메타데이터 관리, 데이터 분류, 및 계보를 통해 투명성과 가시성을 높임으로써 달성됩니다. 이러한 메커니즘은 기업이 데이터의 출처, 흐름, 및 변환을 추적할 수 있도록 합니다.

기술은 중요하지만, 신뢰는 더 중요합니다

새로운 AI 모델이나 혁신이 등장할 때마다, 채택이 급증합니다. 그러나 이러한 AI 이니셔티브는 종종 예상치 못한 곳에서 위험을 수반합니다. 기술적인 도전은 종종 새로운 도구의 채택을 방해하는 주된 원인이 아닙니다. 종종 데이터, 특히 데이터에 대한 신뢰와 개인 정보 보호에 대한 우려로 인해 발생합니다. AI가 너무 빠르게 움직이기 때문에, 액세스 제어, 데이터 거버넌스, 계보, 및 준수를 그 속도에 따라 유지하기가 어려울 때가 있습니다.

거버넌스는 신뢰의 중요한 부분이지만, 효과적인 평가도 필요합니다. 특히 에이전트 AI의 경우, 아직 표준화된 평가에 대한 큰 격차가 있습니다. 그러나 이러한 평가들은 시스템이 신뢰할 수 있고 안전하게 작동하는지 증명하는 데 필수적입니다.

내부 시스템의 성능을 최적화하거나 사기 탐지를 개선하거나 고객 경험을 더 매끄럽게 만들고 싶든, 최고의 에이전트와 전체 AI 이니셔티브는 모두 신뢰할 수 있는 데이터, 개인 정보 보호, 및 보안의 기초 위에 구축되어야 합니다.