AI 시대에 모든 기업이 지식 그래프를 필요로 하는 이유

AI는 소프트웨어 개발을 근본적으로 가속화했지만, 소프트웨어 조직이 운영하는 방식에는 거의 영향을 미치지 못했다. 이 불일치는 조용히 기업 AI의 가장 큰 제약이 되고 있다.

수년 동안, 엔지니어링 팀은 수요를 따라가기 위해 더 많은 자원을 필요로 했다. 오늘날, 작은 팀은 AI를 사용하여 코드를 생성하고 테스트하고 아이디어에서 구현까지의 경로를 가속화한다. 개발자는 명확하게 코드를 더 빠르게 출하하고 있지만, 이것이 일관되게 더好的 결과로 번역되는지 여부는 여전히 불분명하다.

이 속도는 새로운 병목 현상을 생성한다: 조정 세금. AI는 실행을 가속화하는 것보다 조직이 작업을 조정하는 방식을 개선하는 데 더 많은 영향을 미쳤다. 컨텍스트 공유, 우선순위 지정, 운영 결정, 상태 보고, 및 기능 간 조정은 여전히 대부분 수동으로 진행되며, 개발 속도가 빨라지면서도 vậy.

Atlassian은 이로 인한 불일치가 Fortune 500 기업들에게 약 161억 달러의 연간 비용을 초래한다고 추정한다. 同じ 연구에 따르면, 89%의 경영진은 AI가 작업을 가속화했다고 말하지만, 6%만이 조직 전체적으로 측정 가능한 결과를 보인다고 말한다.

더 빠른 출력은 자동으로 더智能한 조직을 생성하지 않는다. 17%의 사용자만이 에이전트가 팀 내에서 협력을 개선했다고 동의한다는 것으로 나타났다. 이는 가장 낮은 평가를 받은 영향이었다.

매번 질의마다 컨텍스트를 재구성하는 것은巨大的 세금이다

데모는 깨끗하고 큐레이션된 데이터 소스를 사용하여 번영하지만, 프로덕션 환경은 다음과 같은 도전을 제기한다: 모호하고, 구식이고, 충돌하는 정보가 분산된 시스템에 걸쳐 있다. 이러한 간격에 직면하여, 대규모 언어 모델은 다음 가장 가능성 있는 답변을 예측한다. 컨트롤된 데모에서 합리적으로 보인 것은 실제 프로덕션 데이터에서 자신감 있는 추측으로 빠르게 변한다.

이 문제는 이미 산업에서 이름을 얻기 시작했다. “컨텍스트 엔지니어링”은 엔터프라이즈 AI가 성공하는지 여부를 결정하는 정보, 관계, 거버넌스, 품질을 설계하는 분야로 등장했다. 제한 요인은 더 이상 모델 자체가 아니라, 모델을 둘러싼 컨텍스트의 품질이다.

AI 시스템이 컨텍스트를 재구성할 때마다, 그것은 세금을 지불한다. 응답은 느리며, 토큰 비용이 증가하며, 답변은 조직의 지식이 검색되는 조각에 따라 다르기 때문에 신뢰가 저하된다. 두 개의 AI 에이전트는 동일한 질문에 대해 다르게 답변할 수 있다. 각 에이전트는 조직의 지식의 다른 조각에서 컨텍스트를 조립하기 때문이다.

대부분의 조직은 이미 자신의 AI 시스템이 필요한 지식을 가지고 있다. 하지만, 이 지식은 티켓, 저장소, 문서, 대화, 계획 도구에 걸쳐 분산되어 있다. 따라서, 각 상호작용은 모델이 추론을 시작하기 전에 조직의 컨텍스트를 재구성함으로써 시작된다. 이 비싼 과정은 매번 새로운 질문이 있을 때마다 반복된다.

접근은 지식과 같지 않다

일반적인 질문은 더 큰 컨텍스트 창, 더好的 검색, 또는 개선된 검색이 이 문제를 해결할 수 있는지 여부이다.

모델 컨텍스트 프로토콜은 에이전트가 엔터프라이즈 정보가 있는 시스템에 접근할 수 있는 표준화된 방법을 제공함으로써 실제 통합 문제를 해결한다. 하지만, 접근은 이해와 같지 않다. 에이전트에게 시스템에 접근할 수 있는 권한을 부여한다고 해도, 어느 결정이 다른 결정보다 우선하는지, 요구 사항이 변경된 이유는 무엇인지, 문서가 여전히 권위적인지, 고객 대화가 어떻게 최종적으로 출하된 것을 影響했는지 설명할 수 없다. 구조화된 검증된 논리 계층이 없다면, 이것은 단지 모호한 세부 사항을遭遇할 수 있는 기회를 더 제공할 뿐이다.

대부분의 엔터프라이즈 AI 시스템은 여전히 컨텍스트가 매번 질문을 받을 때마다 재구성되어야 한다고 가정한다. 이 접근 방식은 고립된 질문에 답변할 수 있지만, 비즈니스 운영에 필요한 연속적인 추론을 지원하는 데 어려움을 겪는다. 리더들은 여전히 조직 내에서 이미 존재하는 질문에 답변을 찾기 위해 매주 수시간을 보내고 있다:

• 무엇이 변경되었는가?
• 우선순위가 왜 변경되었는가?
• 로드맵은 여전히 정확한가?
• 우리는 여전히 올바른 문제를 해결하고 있는가?

이것이 지식 그래프가 자신의 위치를 차지하는 곳이다. 그래프는 엔티티와 그 관계를 저장하며, 조직의 기억을 보존하는 기초를 제공한다. 소프트웨어 조직에서, 이러한 엔티티는 고객, 기능, 요구 사항, 결정, 티켓, 저장소, 풀 요청, 릴리스, 사람 등이 될 수 있다.

에이전트는 단순히 유사한 단어가 포함된 문장을 검색하는 대신, 결정에서 요구 사항으로, 티켓에서 풀 요청으로, 고객의 피드백에서 출하된 것으로 연결된 경로를 따라갈 수 있다.

지식 그래프는 단순히 데이터를 조직화하는 또 다른 방법을 넘어선다. 에이전트는 조직이 실제로 작동하는 방식에 대한 지속적으로 진화하는 이해에서 추론할 수 있다. 반복적으로 분산된 시스템에서 컨텍스트를 재구성하는 대신에 말이다.

결과는 결정, 대화, 증거에서 추론할 수 있는 AI가 된다. 매번 새로운 질문을 받을 때마다 컨텍스트를 재구성하는 대신에 말이다.

구조만으로는 충분하지 않다

그래프를 한 번 구축하는 것은 어려운 일이지만, 정확성을 유지하는 것은 더 어렵다. 빠르게 움직이는 조직에서, 티켓은 변경되고, 계획은 이동하며, 코드는 출하되고, 책임은 이동하며, 고객의 피드백은 우선순위를 변경한다. 즉, 조직의 기억은 현실이 변경됨에 따라 업데이트되어야 하며, 각 변경은 그 원천으로 다시 연결되어야 한다.

82%의 개발자는 AI가 코드를 더 빠르게 작성하는 데 도움이 된다고 보고하며, 71%는 복잡한 문제를 해결하는 데 도움이 된다고 말한다. 그러나 이 속도는 다음과 같은 함정과 함께 온다: 96%의 개발자는 생성된 코드가 기능적으로 올바른지에 대한 확신이 없다는 것으로 나타났다.

에이전트가 제공하는 모든 사실은 그 출처로 추적할 수 있어야 한다: 커밋, 티켓, 스레드. 에이전트가 리더에게 릴리스가 예정대로 진행되고 있다고 말하지만, 그 결론背后的 신호를 보여줄 수 없다면, 경험이 풍부한 리더는 그것을 신뢰해서는 안 된다.

나는 도구가 합리적인 답변을 생성했지만, 사용자가 그 답변을 어떻게 도달했는지 확인할 수 없는 경우, 팀이 도구를 포기하는 것을 보았다. 나는 또한 사용자가 그들의 작업을 보여주는 менее 정교한 시스템을 계속 사용하는 것을 보았다. 자신감 있는 요약이 없다면, 그것은 단지 더 빠르게 틀린 것이다. 그리고 한 번 도구가 리더에게 출처가 없는 답변을 제공하면, 신뢰는 돌아오지 않는다. 각 주장을 출처로 연결하면 “신뢰하세요”가 “왜인지 여기 있습니다”로 바뀐다.

정확도는 같은 이유로 중요하다. 시스템이 계획과 실제 사이의 관계를 지속적으로 추적할 때, 팀이 결정하고 실제로 출하한 것 사이의 차이는 가시적인漂移으로 나타나며, 자신감 있는 nhưng 구식된 답변으로 흡수되지 않는다. 이것은 사소한 문제가 아니다. Thoughtworks는 코드漂移을 AI 에이전트의 특정 위험으로 지적했다. 이는 작업이 진행됨에 따라 시스템이 편차를 감지하고 수정하는 데 도움이 되는 검증 루프와 피드백 메커니즘의 필요성을 강조한다. 조직이 볼 수 있는漂移은 유용한 정보이다. 그러나 숨겨진漂移은 AI 시스템이 신뢰를 얻은 사람들을 속이기 시작하는 방식이다.

다음 에이전트 프로젝트 전에 물어야 할 것

엔터프라이즈 에이전트 이니셔티브를 평가할 때, 나는 다음 네 가지 질문으로 시작할 것이다:

• 시스템이 시간이 지나면서 컨텍스트의 최적화된 표현을 유지하는가, 아니면 단지 기존 데이터 소스에 대한 AI 액세스를 제공하는가?
• 매 답변은 특정 출처(예: 티켓 또는 문서)로 추적될 수 있는가?
• 시스템이 조직의 정보가 변경됨에 따라 자동으로 업데이트되는가?
• 에이전트는 데이터 포인트 간의 관계를 이해하는가, 아니면 단지 데이터에 액세스할 수 있는가?

기초 모델은 계속해서 개선될 것이다. 추론 능력은 더 강력해질 것이며, 컨텍스트 창은 커질 것이며, 이러한 발전은 모두에게 점점 더 उपलब할 것이다. 그러나 조직의 이해는 공통화되지 않을 것이다.

CEO의 과반수 는 지난 1년 동안 AI에서 거의 또는 전혀 수익이나 비용 절감을 보지 못했다고 보고한다. 나는 대부분의 경우, 모델이 이미 조직에서 알고 있는 것을 추론할 수 있는 컨텍스트 계층이 결여되어 있기 때문이라고 생각한다.

소프트웨어를 Dramatically 더 쉽게 만들면서, 이해가 희소한 자원이 된다. AI에서 가장 많은 가치를 창출하는 사람들은 조직의 지식을 보존하고, 연결하고, 지속적으로 학습하는 데 더 능숙하다. 이것이 추측하는 AI와 알고 있는 AI의 차이이다.