당신의 AI 에이전트는 파일링 시스템만큼이나 좋다

2025년 12월 30일, 덴마크 우편 서비스는 401년 역사의 마지막 편지를 배달했습니다. 남은 1,500개의 우편함은 그 해에 거리에서 철거되었습니다. 한편, 2026년 7월 독일 연방 내각은 GeDIG, 의료 데이터 및 디지털 혁신 법안을 승인했으며, 이는 2029년 가을까지 의사 사무실에서 팩스 사용을 단계적으로 중단하고 전자 진료 의뢰를 의무화합니다.

그렇다면 한 국가가 이러한 변화를 구현하는 동안 다른 국가가 아직도 21세기에 팩스 기계 의존도를 단계적으로 낮추고 있는 이유는 무엇일까요? 각 국가의 비즈니스 AI 활용도를 고려하면, 덴마크 기업의 42%가 2025년에 최소 하나의 AI 기술을 사용했으며, 이는 유럽에서 가장 높은 비율입니다. 독일은 26%로 EU 평균보다 높지만 덴마크보다 16포인트 낮았습니다.

제게는 이 대조가 AI 도입에 대한 우리의 믿음을 재검토하도록 촉구합니다. 특히 모델 선택이 AI 도입의 시작점이라는 믿음은 모델 주변 시스템의 상태를 무시하는 것입니다. 두 국가 모두 동일한 모델과 클라우드 제공업체에 접근할 수 있지만, 차이는 기업 및 공공 프로세스가 이미 신뢰할 수 있는 디지털 기록을 생성하고 있느냐에 달려 있습니다. AI 에이전트는 현실을 직접 다루는 것이 아니라 시스템에 존재하는 현실의 버전과 상호작용하므로, 자연스럽게 몇 가지 제약이 발생합니다.

첫 번째 제약: 정보가 한 번도 디지털화되지 않음

에이전트는 시스템에 전혀 들어가지 않은 문서를 검색할 수 없습니다. 조직의 정보 흐름 형태가 에이전트가 작업으로 인식할 수 있는 범위를 결정합니다.

국가 차원에서 Eurostat 데이터는 기업 AI 도입이 행정 프로세스 디지털화와 상관관계가 있음을 보여줍니다. 그러나 핵심 메커니즘은 시민들이 이미 디지털 방식으로 공식 문서를 받는 국가에서는 기업이 조정해야 할 시스템 외 상호작용이 적어져, AI를 안전하게 운영에 활용하기 전에 필요한 해석 작업량이 감소한다는 점입니다.

기업 차원에서 2026 IZA 연구(1,907개 덴마크 기업 대상)는 디지털화가 한 표준편차 증가할 때 핵심 AI 시스템 도입 확률이 8~10%포인트 상승한다는 결과를 보여줍니다. 이는 AI 도입이 기업 내부 운영이 이미 디지털 구조화·기계가 읽을 수 있는 형태로 조직돼 있느냐에 달려 있음을 시사합니다. 프로세스가 파편화돼 있으면 AI 시스템이나 에이전트가 활용할 안정적인 정보가 거의 없습니다.

이는 정책 주도 디지털화가 자동으로 AI 준비성을 보장하지 않는 이유를 설명하는 데도 도움이 될 수 있습니다. 이탈리아의 의무적인 B2B 전자청구는 완전한 디지털 채널을 만들었지만, 전체 AI 도입률은 EU 평균 이하에 머물고 있습니다. 하나의 단계만 디지털화한다고 해서 주변의 아날로그 시스템이 사라지는 것은 아닙니다.

두 번째 제약: 정보가 오직 누군가의 머리 속에만 존재함

인간이 운영을 담당하기 때문에 대부분의 경우 AI가 모르는 세부 정보를 알고 있습니다. 재무 관리자는 세입자가 현금으로 지불했음을 알지만, 그 결제는 회계 시스템에 입력되지 않았습니다. 결과적으로 은행 기록과 시스템이 일치하지 않게 됩니다. 관리자는 왜 그런지 이해하지만 AI는 불일치된 데이터만을 봅니다. 부동산 관리자는 집주인이 2주간 연락을 받지 않기를 원했다고 기억하고, 팀은 특정 건물이나 고객에 대한 우회 방법을 알고 있지만, 이를 문서화한 사람은 없습니다.

ClarEval은 목표가 누락되거나 전제가 빠진 상황, 그리고 모호한 용어가 포함된 작업을 테스트했습니다. 모델 성능은 명확화 후 약 89%에서 모호함이 해소되지 않을 경우 약 9%로 급락했습니다. 한편, Ambig-SWE는 누락된 정보를 보유한 사용자를 모델이 질문하도록 허용하면 손실된 성능의 최대 74%를 회복할 수 있음을 발견했습니다. 이는 엔지니어가 처음부터 명확화를 요청할 수 있는 시스템을 구축해야 함을 의미합니다.

세 번째 제약: 정보는 존재하지만 전달될 수 없음

일부 데이터는 기업 내부에 존재하지만 개인정보 보호 규정, 보안 통제, 계약 또는 내부 정책 때문에 모델에 전달되지 못합니다.

7년간 클라우드 데이터를 기반으로 한 연구에 따르면, GDPR—EU의 핵심 데이터 프라이버시 법—은 EU 기업의 데이터 저장량을 26%, 처리량을 15% 감소시켰으며, 이는 미국 기업에 비해 낮은 수치입니다. 즉, 개인정보 보호 규제가 기업이 분석 및 AI를 위해 보유·처리할 수 있는 정보량을 제한함으로써 데이터 집약도를 낮춘 것입니다. 생성형 AI 도입률은 EU 기업 37%와 미국 기업 36%로 거의 동일했습니다. 그러나 AI 도입 깊이에서는 큰 차이가 나타나는데, 미국 기업의 81%가 최소 두 개 이상의 내부 프로세스에 AI를 활용하는 반면 EU는 55%에 불과합니다. 한 가지 가능한 이유는 유럽에서는 이미 조직 내부에 존재하는 정보를 AI에 재활용하기가 더 어렵기 때문입니다. 예를 들어 고객 지원 대화에는 고객 문제 해결을 위해 수집된 개인 데이터가 포함되는 경우가 많습니다. GDPR의 목적 제한 원칙인 (Article 5(1)(b))에 따르면, 이러한 데이터는 합법적인 근거 없이 AI 학습용으로 단순 전환될 수 없습니다. 반면 미국 기업은 이러한 데이터 재사용에 대한 연방 차원의 제한이 상대적으로 적습니다.

올바른 시스템 구축 방법

검색은 답이 시스템에 존재할 때만 작동합니다. 에이전트는 정보가 누락된 경우 추측하지 말고 질문해야 하며, 전화나 비공식적인 의사결정을 구조화된 기록으로 전환해야 합니다. 또한 기업은 병행되는 종이 워크플로우를 제거해야 합니다. 작업이 시스템 외부에서 이루어질 경우, 해당 맥락의 일부가 보이지 않게 남게 됩니다.

각 기업은 자체적인 격차를 직시해야 합니다. 올바르게 행동하기 위해 필요한 사실이 시스템 내에 있었는지 여부를 측정하십시오. 제외된 개인정보 검토 필드를 포함하거나 제외한 상태로 워크플로우를 테스트해 보세요. 마지막으로, 종이로 완료할 수 있는 워크플로우는 가장 마지막에 구축할 에이전트가 됩니다.

에이전트는 인간의 산출물을 향상시킬 수 있지만, 누락된 부분을 복구하지는 못합니다.