3가지 고려 사항: 기업을 위한 안전하고 신뢰할 수 있는 AI 에이전트

Gartner에 따르면, 30%의 GenAI 프로젝트는 2025년 말까지 개념 증명 이후 폐기될 가능성이 있습니다. GenAI의 초기 채택은 대부분의 기업의 데이터 인프라와 거버넌스 관행이 효과적인 AI 배포에 준비되지 않았음을 보여주었습니다. GenAI 제품화의 첫 번째 물결은 상당한 장애물에 직면했으며, 많은 조직은 의미 있는 비즈니스 가치를 달성하기 위해 개념 증명 단계를 넘어가는 데 어려움을 겪었습니다.

우리는 GenAI 제품화의 두 번째 물결에 접어들면서, 이러한 기술을 성공적으로 구현하는 데에는 단순히 LLM을 데이터에 연결하는 것보다 더 많은 것이 필요하다는 것을 깨닫고 있습니다. AI의 잠재력을 해방하는 열쇠는 세 가지 핵심 기둥에 있습니다. 데이터를 정렬하고 AI와 통합할 준비가 되었는지 확인하는 것, GenAI가 도입하는 고유한 도전을 해결하기 위해 데이터 거버넌스 관행을 개선하는 것, 그리고 사용자가 전문적인 기술이나 정확한 사용 패턴을 배우지 않아도 안전하고 신뢰할 수 있는 사용이 자연스럽고直관적인 방식으로 AI 에이전트를 배포하는 것입니다. 이 기둥들은 기업 환경에서 안전하고 효과적인 AI 에이전트를 위한 강한 기초를 만듭니다.

AI를 위한 데이터 적절하게 준비하기

구조화된 데이터는 눈에 보이는대로 정렬되어 있지만, LLM은 종종 이러한 구조화된 데이터를 효과적으로 이해하고 작업하는 데 어려움을 겪습니다. 이는 대부분의 기업에서 데이터가 의미 있는 방식으로 레이블이 지정되지 않았기 때문입니다. 데이터는 종종 모호한 레이블을 가지고 있으며, 예를 들어 “ID”는 고객, 제품 또는 트랜잭션의 식별자를 나타내는지 명확하지 않습니다. 구조화된 데이터의 경우에도 서로 연결된 다양한 데이터 포인트 간의 올바른 컨텍스트와 관계를 포착하는 것이 어렵습니다. 컴퓨터 비전 애플리케이션에서 의미 있는 상호 작용을 가능하게 하기 위해 이미지에 레이블을 지정하는 것과 마찬가지로, 조직은 이제 의미 있는 AI 상호 작용을 가능하게 하기 위해 데이터를 의미적으로 레이블 지정하고 모든 시스템에 걸쳐 관계를 문서화하는 복잡한 작업을 수행해야 합니다.

또한 데이터는 전통적인 서버, 다양한 클라우드 서비스 및 다른 소프트웨어 애플리케이션과 같은 많은 다른 장소에 산재되어 있습니다. 이러한 패치워크 시스템은 AI 솔루션을 구현할 때 더욱 문제가 되는 중요한 상호 운용성 및 통합 문제를 유발합니다.

또 다른 근본적인 도전은 다양한 시스템과 부서에서 비즈니스 정의가 일관되지 않다는 것입니다. 예를 들어, 고객 성공 팀은 “업셀”을 하나의 방식으로 정의할 수 있지만, 판매 팀은 다른 방식으로 정의할 수 있습니다. 이러한 시스템에 AI 에이전트나 채팅봇을 연결하고 질문을 시작하면, 데이터 정의가 일치하지 않기 때문에 다른 답변을 받게 됩니다. 이 불일치는 사소한 불편함이 아니라, 신뢰할 수 있는 AI 솔루션을 구현하는 데 중요한 장벽입니다.

데이터 품질이 낮으면 AI 도구를 배포할 때 훨씬 더 심각해지는 클래식한 “쓰레기가 들어가면 쓰레기가 나온다” 시나리오가 발생합니다. 잘못된 또는 지저분한 데이터는 하나의 분석에만 영향을 미치지 않고, 사용자가 시스템을 통해 질문과 상호 작용을 하는 모든 사람에게 잘못된 정보를 전파합니다. 실제 비즈니스 결정에 대한 신뢰할 수 있는 AI 시스템을 구축하려면 기업은 자신의 AI 애플리케이션이 깨끗하고 정확하며 올바른 비즈니스 컨텍스트에서 이해되는 데이터를 보유하고 있는지 확인해야 합니다. 이는 AI 시대에 데이터 자산에 대해 조직이 생각하는 방식에서 근본적인 전환을 나타냅니다. 여기서 품질, 일관성 및 의미적 명확성이 데이터 자체만큼 중요해집니다.

거버넌스 접근 방식 강화

데이터 거버넌스는 최근 몇 년 동안 조직의 주요 초점이었습니다. 주로 분석에 사용되는 데이터를 관리하고 보호하는 데 중점을 두었습니다. 회사들은 민감한 정보를 매핑하고, 접근 표준을 준수하며, GDPR 및 CCPA와 같은 법률을 준수하며, 개인 데이터를 감지하는 노력을 기울였습니다. 이러한 이니셔티브는 AI 준비 데이터를 생성하는 데 중요합니다. 그러나 조직이 워크플로에 생성된 AI 에이전트를 도입함에 따라 거버넌스 도전은 데이터 자체를 넘어 사용자와 AI 에이전트 간의 상호 작용 경험을 포함합니다.

우리는 이제 데이터 자체뿐만 아니라 사용자가 AI 에이전트를 통해 데이터와 상호 작용하는 프로세스를 거버넌스해야 하는 필요성을 직면하고 있습니다. 기존의 입법, 예를 들어 유럽 연합의 AI 법안과 더 많은 규제가 가까운 시일 내에 필요성을 강조합니다. 이는 AI 에이전트가 투명한, 설명 가능한 및 추적 가능한 응답을 제공하는 것을 보장하는 것을 의미합니다. 사용자가 “어제 입원한 독감 환자는 몇 명입니까?”라고 묻고 단순히 “50”이라는 답변만 받는 경우, 중요한 결정에 대한 정보를 신뢰하기 어렵습니다. 데이터가 어디에서 왔는지, 어떻게 계산되었는지, “입원” 및 “어제”와 같은 용어가 정의되었는지 모르는 경우, AI의 출력은 신뢰할 수 없습니다.

문서와의 상호 작용과 달리 사용자가 답변을 특정 PDF 또는 정책으로 추적하여 정확성을 확인할 수 있는 경우, 구조화된 데이터를 통해 AI 에이전트와의 상호 작용은 종종 이 수준의 추적 가능성과 설명 가능성이 부족합니다. 이러한 문제를 해결하기 위해 조직은 데이터를 보호하는 것만이 아니라 AI 상호 작용 경험을 거버넌스하고 신뢰할 수 있도록 하는 거버넌스 조치를 구현해야 합니다. 이는 특정 정보에 액세스할 수 있는 권한이 있는 사용자만에게 강력한 액세스 제어를 설정하는 것을 포함합니다. 또한 데이터 소유권 및 관리 책임을 명확하게 정의하고, AI 에이전트가 출력에 대한 설명 및 참조를 제공하는 것을 보장합니다. 이러한 고려 사항을 포함하여 데이터 거버넌스 관행을 개선함으로써 기업은 발전하는 규제를 준수하면서 사용자 신뢰를 유지하고 AI 에이전트의 힘을 안전하게 활용할 수 있습니다.

프롬프트 엔지니어링을 넘어 생각하기

조직이 데이터 접근성을 개선하기 위해 생성된 AI 에이전트를 도입하면서, 프롬프트 엔지니어링은 비즈니스 사용자에게 새로운 기술적 장벽으로 등장했습니다. 유망한 경력 경로로 거론되지만, 프롬프트 엔지니어링은 본질적으로 데이터 분석에서 어려움을 겪었던 동일한 장벽을 재창조하는 것입니다. 완벽한 프롬프트를 생성하는 것은 전문적인 SQL 쿼리 또는 대시보드 필터를 작성하는 것과 다르지 않습니다. 이는 기술 전문성을 한 형식에서 다른 형식으로 전환하는 것입니다. 그러나 대부분의 비즈니스 사용자는 이러한 기술을 필요로 하거나 소유해서는 안 됩니다.

기업은 오랫동안 사용자를 더 잘 교육하고, 문서를 개발하며, 전문 역할을 개발함으로써 데이터 접근성을 해결하려고 노력했습니다. 그러나 이러한 접근 방식은 반대입니다. 우리는 사용자가 데이터 시스템을 더 잘 이해하도록 적응하도록 요청하는 대신, 데이터가 사용자에게 적응하도록 만듭니다. 프롬프트 엔지니어링은 기술 중개자의 또 다른 계층을 생성함으로써 이 패턴을 계속할 수 있는 위협입니다.

진정한 데이터 민주화는 비즈니스 언어를 이해하는 시스템을 필요로 합니다. 사용자가 고객 유지에 대해 묻는 경우, 완벽한 용어 또는 프롬프트가 필요하지 않습니다. 시스템은 의도를 이해하고, 다양한 레이블(예: “이탈”, “유지”, “고객 생애 주기”)에서 관련 데이터를 인식하며, 컨텍스트에 맞는 답변을 제공해야 합니다. 이렇게 하면 비즈니스 사용자는 기술적으로 완벽한 질문을 묻는 방법을 배우는 대신, 결정에 집중할 수 있습니다.

결론

AI 에이전트는 기업이 운영되고 결정하는 방식에 중요한 변화를 가져올 것입니다. 그러나 배포되기 전에 해결해야 할 고유한 도전이 있습니다. AI의 경우, 비기술적 사용자가 자체 서비스 액세스를 가지면, 모든 오류가 증폭되므로 기본을 올바르게 설정하는 것이 중요합니다.

데이터 품질, 의미적 정렬 및 거버넌스와 같은 근본적인 도전을 성공적으로 해결하고 프롬프트 엔지니어링의 한계를 넘어서는 조직은 데이터 접근성과 의사 결정의 민주화를 안전하게 달성할 수 있는 위치에 있을 것입니다. 가장好的 접근 방식은 협업 환경을 만드는 것입니다. 여기서 팀워크를 촉진하고, 인간-기계 및 기계-기계 상호 작용을 정렬합니다. 이를 통해 AI 기반 통찰력이 정확하고, 안전하고, 신뢰할 수 있으며, 조직 전체의 문화가 데이터를 관리하고, 보호하고, 최대화하는 것을 보장합니다.