AI 에이전트는 모든 것을 알고 있지만 아무 것도 이해하지 못합니다

“저희는 저희 부모님과 함께 아일랜드 여행에 합류해야 합니다” — 이 하나의 겉으로 보이는 무해한 진술은 제脊柱을 따라 오싹한 느낌을 주었습니다.

제妻와 저는 광범위하게 여행을 합니다. 우리는 우리가 무엇을 좋아하는지 압니다. 제妻의 부모님은 반면에 몇백 마일을 넘어 여행하는 경우가 드물고 결혼식 때만 함께 나라를 떠난 적이 있습니다.

이 모든 것을 더하면, 이 여행은 제 장모님에게 크리스마스 선물로 제 장인님으로부터 주어진 것이었고, 그녀는 그녀의 가족을 방문하고, 아마도 마지막으로 볼 수 있는 기회였습니다.

저는 이 여행이 단 한 단어로 펼쳐질 수 있다고 생각했습니다: 재난. 우리는 어떻게 우리의 광범위하게 다른 경험과 기대치를 합쳐서 놀라운 여행을 할 수 있을까요? 아니면 적어도 여행이 끝날 때까지 서로를 미워하지 않을 수 있을까요?

기술을 좋아하는 사람으로서, 저는 기술, 특히 AI를 사용했습니다.

하지만 제가 기대하지 않았던 것은 제 작은 실험, 즉 가족 여행 계획 애플리케이션을 위한 감성 코딩 AI의 실험이, 기업 내부의 AI 적용에 대해 거의 모든 것을 가르쳐 줄 것이라는 것이었습니다.

AI를 더 많이 공급할수록 더 어리석어집니다

대부분의 기업 AI 배포는 예측 가능한 패턴을 따릅니다. 조직은 에이전트에게 일련의 지시를 제공하고 정보源에 연결합니다. 다음으로, LLM을 추가하고 그대로 두면 됩니다. 하지만 문제는 LLM이 기본적으로 어리석다는 것입니다. 모든 정보를 동일하게 처리하므로, 인간이 추가적인 관리를 해야 합니다. 관리가 없으면, 모든 것을 알고 있지만 아무 것도 이해하지 못하는 AI가 됩니다.

중요한 세 가지 종류의 기억

효과적인 기업 AI 관리는 세 가지 종류의 기억을 최대한 활용하는 것입니다.

첫 번째는 기관 기억입니다. 이것은 기본적으로 기관의 지식과 규칙을 포함합니다. 두 번째는 행동 기록입니다. 이것은 중요한 결정과 행동을 포함합니다. 세 번째는 단기 대화 기록입니다. 이것은 순간적인 대화와 상호작용을 포함합니다.

이 세 가지 기억을 결합하면, 일반적인 AI 모델이欠缺하는 가중 시스템을 생성할 수 있습니다. 이제 누군가가 에이전트에게 비즈니스에 대해 말할 때, 에이전트는 모든 기억을 분류하고 중요도를 부여할 수 있습니다.

큐레이션된 기억이 대규모에서 어떻게 보이는지

하지만 이 프레임워크는 실제로 어떻게 작동할까요? 우리가 이러한 에이전트를 구축하면서 발견한 내용은 다음과 같습니다.

일반적인 IT 시나리오는 트러블 티켓을 헬프 데스크 에이전트에게 보냅니다. 아웃룩이 작동하지 않으면, 문제를 설명하고 에이전트가 검토하여 해결책을 제안하기를 기다립니다.

하지만 큐레이션된 기억이 작용하면, 더 나은 과정은 아웃룩 오류를 보여주는 스크린샷을 업로드하는 것입니다. 이제 에이전트는 기관 기억을 사용하여 작업 환경을 이해하고, 행동 기록을 확인하여 관련된 사건을 찾고, 맥락적 판단을 적용하여 특정한 해결책을 제공합니다.

결과는 에이전트가 단순한 답변을 제공하는 것이 아니라, 실제로 상황을 분석하여 더 유용한 답변을 제공하는 것입니다. 에이전트는 다른 사용자와의 네트워크나 스웜 효과를 생성하여 아웃룩 문제가 개인적인 문제인지还是 기업 전체의 문제인지 확인할 수 있습니다.

기록이나 기억의 맥락화는 차이점을 만듭니다. 기억을 효과적으로 관리하지 않으면, 기억을 잘 관리하는 사람들보다 뒤처질 것입니다. 시간이 지남에 따라 데이터를 관리하고, 무엇을 유지하고, 무엇을 표시하고, 무엇을 버릴지 이해하는 아키텍처가 필요합니다.

여행으로 돌아가기

그么, 제 AI 기반 여행 계획 애플리케이션이 기업 내부의 AI에 대한 제 관점을 어떻게 변화시켰나요?

제가 구축한 것은 개인 여행 컨시어지 애플리케이션으로, 각 참가자와 인터뷰를 시작했습니다. 우리는 모두 여행에서 중요하게 여기는 것을 설명했습니다. 무엇이 필수였는지, 무엇을 건너뛸 수 있는지 말했습니다. 더 중요한 것은, 왜 그 것이 중요했는지, 무엇을 의미하는지 물었습니다.

이 정보를 사용하여, 애플리케이션은 모든 사람에게 균형된 여행 계획을 생성했습니다. 우리는 모두 우리의 소원을 볼 수 있었고, 계획에 우리의 선호도를 반영할 수 있었습니다.

하지만, 물론, 첫 번째 여행 계획은 초안에 불과했습니다. 아직 많은 질문이 남아있었습니다.

그리고 바로 그때 실제 마법이 일어났습니다. 우리는 에이전트에게 호텔이나 관광지 또는 운전에 대해 물었고, 에이전트는 우리의 고유한 상황에 대한 맥락을 포함하여 답변을 제공했습니다.

이 모든 풍부한 이해를 바탕으로, 우리는 여행을 계획하고 정제할 수 있었습니다. 이것은 다른 방법으로는 불가능할 것입니다.

그리고 바로 그 순간에, 저는 우리가 기업 고객을 위해 구축해야 할 것을 이해했습니다: 기관적, 거래적, 개인적 맥락으로 가득 찬 지능형 시스템으로, 모든 답변과 상호작용이 유일무이한 가치를 제공할 것입니다.