맥락: 에이전트형 AI를 위한 신뢰할 수 있는 데이터 기반 구축

맥락은 우리가 소통하는 방식에서 핵심적인 역할을 합니다. 맥락을 벗어난 발언은 의도와 정반대의 뜻으로 받아들여질 수 있습니다. 맥락 없이 누군가를 만나면 그 사람을 알아보지 못할 수도 있습니다. 맥락은 인간관계를 이어 주고 사회적 상호작용에서 의미를 찾도록 해 주는 접착제와 같습니다.

AI 에이전트도 마찬가지입니다. 맥락이 있어야 에이전트가 모호성을 해소할 수 있습니다. 예를 들어 Apple(기술 기업)과 Apple(음반사), 그리고 apple(과일)을 구별할 수 있습니다. 

이러한 구분은 기업용 AI가 번개처럼 빠른 속도로 의사결정을 내리고 행동하기 때문에 중요합니다. 거래를 표시하고, 신용을 승인하며, 경고를 발생시키기도 합니다. 에이전트가 워크플로에 포함된 개체를 이해하지 못하더라도 계속 행동하겠지만, 틀림없이 실수를 저지르게 될 것입니다. 

일부 추정에 따르면 일반적인 대기업은 올해 말까지 최대 1,600개의 에이전트를 사용할 것으로 예상되며, 이러한 실수는 빠르게 확산될 것입니다.

디지털 신원 확인의 복잡성

에이전트형 AI가 큰 기대를 모으는 것은 당연하지만, 에이전트가 데이터 세트에 포함된 개체를 제대로 이해할 수 있을 때까지는 모래 위에 성을 쌓는 위험을 감수하게 됩니다. 

이 문제는 쉽게 해결할 수 없습니다. 예를 들어 한 고객이 여러 기업 데이터베이스에 서로 다른 이름으로 등록되어 있을 수 있습니다(J. Bloggs, Jane Bloggs, Bloggs 등). 마찬가지로 하나의 기업이 여러 자회사에 각각 별개의 기업으로 표시될 수도 있습니다. 겉보기에는 서로 다른 이 개체들이 사실은 하나의 프로필과 관련되어 있다는 점을 에이전트는 어떻게 알 수 있을까요? 

현재로서는 에이전트가 이를 알아내지 못하는 경우가 많습니다. 이는 에이전트가 구축되는 방식 때문입니다. 에이전트는 기본적으로 입력을 받아 출력을 반환하는 시스템입니다. 그렇다면 에이전트에 정확히 얼마나 많은 데이터를 제공해야 할까요? 연구에 따르면 맥락 창이 지나치게 길면 에이전트가 환각을 일으킬 수 있습니다. 반대로 데이터를 너무 적게 제공하면 에이전트는 확신에 찬 결정을 내리고 부정확한 정보에 따라 행동할 것입니다. 기업은 시스템에 필요한 맥락을 지나치게 많이 제공하지도, 너무 적게 제공하지도 않도록 균형을 맞춰야 합니다. 

데이터 통합이 핵심

데이터 양은 과제의 일부일 뿐입니다. 기업은 데이터 품질과 통합도 고려해야 합니다. 연결이 제대로 되지 않은 데이터는 부정확한 맥락을 낳습니다. 에이전트가 의사결정을 내리는 데 필요한 데이터가 여러 사일로형 데이터베이스와 앱, 사업 부문에 분산되어 있으면 환각이 발생할 수 있습니다. 비즈니스 맥락의 약 80~90%는 사일로화된 비정형 파일에 담겨 서로 연결되지 않은 시스템 곳곳에 흩어져 있습니다. 이러한 정보에 접근할 수 없다면 AI의 출력은 불완전한 가정에 기반하게 됩니다. 

이러한 문제에도 AI 에이전트의 도입은 계속 빠르게 진행되고 있습니다. 경영진이 에이전트가 정확한 의사결정을 내리고 올바르게 행동한다고 신뢰할 수 없다면, 그렇지 않을 경우보다 더 많은 인력 감독에 투자해야 합니다. 기업은 기대했던 자율적이고 효율성이 높은 에이전트 대신, 곁에서 계속 지켜봐야 하는 신뢰할 수 없는 도구를 떠안게 됩니다. 대안은 비즈니스 위험과 컴플라이언스 및 법무팀의 업무량을 늘리는 것입니다. 

맥락을 갖춘 데이터 기반 구축

그렇다면 무엇을 해야 할까요? 핵심은 에이전트에 정확하고 검증된 데이터 기반을 제공하는 것입니다. 이 기반은 내부 및 외부 출처의 분산된 데이터를 통합하고, 정형 데이터와 비정형 데이터 전반에 일관된 거버넌스를 적용합니다. 그런 다음 맥락을 더해 AI에 제공되는 데이터가 고립된 레코드가 아니라 현실 세계의 관계를 반영하도록 합니다. 이를 통해 에이전트는 한 사람과 그 사람의 별칭을 연결하거나, 자회사와 모회사를 연결할 수 있습니다. 

맥락을 갖춘 데이터 기반이 마련되면 AI 기반 운영의 정확성과 설명 가능성이 높아지고, 확신을 갖고 의사결정을 내릴 수 있습니다. 기업은 에이전트를 곁에서 계속 지켜볼 필요 없이 신뢰할 수 있게 되며, 과도한 감독 없이도 에이전트형 자동화의 이점을 온전히 누릴 수 있습니다. 

기술적 관점에서 맥락은 두 가지 기능을 통해 구현됩니다. 첫 번째는 개체 해소입니다. 여러 시스템과 데이터 유형에 흩어진 참조 정보를 연결해 동일한 개체에 해당하는 레코드를 찾아냅니다. 이렇게 하면 사람, 조직, 자산에 관한 레코드를 하나의 신뢰할 수 있는 통합 뷰로 정리할 수 있습니다. 데이터 품질을 저하하고 부정확한 AI 결과를 초래하는 중복과 모호성도 해결됩니다. 

두 번째 기능은 지식 그래프입니다. 지식 그래프는 개체 간 관계를 모델링해 맥락을 더합니다. 예를 들어 고객이 계정과 어떻게 연결되는지, 거래가 행동과 어떤 관련이 있는지, 위험이 네트워크 전반으로 어떻게 확산되는지를 보여 줍니다. 개체 해소와 결합된 지식 그래프는 현실 세계에 존재하는 데이터의 정확한 모습을 구축해, AI 에이전트가 규모를 확장하면서도 성공적으로 작동하는 데 필요한 기반을 제공합니다. 

에이전트형 AI를 넘어서는 이점

물론 AI 에이전트만 기업에서 데이터를 이용하는 것은 아니다. 맥락 데이터 기반을 마련하면 운영 직원, 컴플라이언스 팀, 비즈니스 분석가, 인사팀을 비롯한 모든 데이터 사용자가 세상을 통합되고 정확한 관점에서 파악할 수 있다.

이는 결국 고객 경험을 개선하는 데 도움이 된다. 예를 들어 기업이 동일한 고객의 프로필을 여러 개 관리하면 서로 다른 팀에서 여러 차례 연락하는 상황이 생길 수 있다. 이런 경험은 고객을 상당히 불만스럽게 만들 수 있다. 맥락을 갖춘 데이터는 조직이 고객을 더 온전히 이해하고 고객에게 적절하게 대응할 수 있도록 해 고객 경험을 향상시킨다. 이는 궁극적으로 사람을 중심에 두는 접근 방식이며, 기업의 시간과 비용을 절약할 수 있다.

AI의 신뢰성 지키기

가트너는 올해 기업용 애플리케이션의 40%에 특정 작업에 특화된 AI 에이전트가 탑재될 것으로 전망한다. 이는 2025년 5% 미만에서 증가한 수치다. 에이전틱 AI 시대가 도래했다.

하지만 에이전틱 AI 워크플로의 모든 이점이 이 기술에 투자하는 모든 조직에 똑같이 돌아가지는 않는다. 통합되고 맥락이 풍부한 데이터 기반을 마련해 토대를 다지는 조직은 AI의 결과를 신뢰하고 빠르게 규모를 확장할 수 있다. 나머지 조직은 새 시스템을 일일이 관리하느라 시간과 노력을 낭비하게 된다. 따라서 성공의 관건은 첫날부터 에이전틱 기술 스택에 살아 있는 맥락 계층을 내재화하는 데 있다.