AI는 질문에 답할 수 있다. 다음 과제는 사람들이 앞으로 나아가도록 돕는 일이다.

우리는 질문에 답할 수 있는 AI를 만드는 데 놀라울 만큼 능숙해졌다. 지원서 제출 기한이 언제인지, 어떤 서류가 필요한지, 절차가 어떻게 진행되는지 물으면 AI는 몇 초 만에 유용한 답변을 내놓을 수 있다. 하지만 누군가의 교육이나 경제적 미래, 소속감이 걸린 문제라면 답변은 시작에 불과하다. 중요한 것은 그 사람이 실제로 앞으로 나아갈 수 있느냐는 점이다.

에이전트형 AI의 가능성이 흥미로워지는 지점이 바로 여기다. AI 에이전트는 상호작용 하나하나를 서로 무관한 질문으로 취급하는 대신, 누군가가 전체 여정의 어느 단계에 있는지 파악하고 다음에 해야 할 일을 알아낸 뒤, 그 과정에서 도움을 줄 수 있다. 하지만 이를 안정적으로 수행하려면 성능이 뛰어난 언어 모델만으로는 부족하다. 처음부터 프로세스에 반영된 목적에 맞게 설계된 여정과 서로 연결된 시스템, 그리고 사람의 감독이 필요하다.

고등교육을 생각해 보자. 한 학생은 대학에 지원하고, 재정보조 절차를 마치고, 수강 신청을 하고, 지도교수를 만나고, 학업 지원을 받고, 인턴십을 찾고, 졸업을 준비한 뒤, 일자리를 알아보고, 마침내 졸업생이 된다. 대학은 이러한 일을 각기 다른 부서와 기술 시스템으로 나누어 관리하지만, 학생에게는 모두 하나의 대학에서 일어나는 일이다. 필요한 도움을 받기 위해 대학의 조직도를 이해해야 해서는 안 된다.

사람들이 원하는 것은 또 다른 인터페이스가 아니다. 원하는 것은 일을 해내는 것이다.

현재 미국 대학에 재학 중인 학생 1,058명을 대상으로 한 최근 설문조사에서 76%는 전화하거나 사무실을 방문하지 않고도 대부분의 학생 서비스 관련 요구를 해결할 수 있기를 기대한다고 답했다. 그러나 4명 중 1명은 소속 대학이 그러한 기대에 부응하지 못한다고 답했다. 현대적인 디지털 경험에서 무엇이 가장 중요한지 묻자 64%는 신속한 응답과 문제 해결을, 54%는 연중무휴 이용 가능성을, 50%는 한곳에서 업무를 마칠 수 있는 점을 꼽았다. 학생들은 더 빠른 답변과 더 적은 업무 이관을 원하며, 여러 시스템을 오가지 않고도 필요한 일을 끝낼 수 있기를 바란다.

대학 지원서를 작성하기 시작했지만 끝내지 못한 예비 학생이 있다고 하자. 일반적인 챗봇은 지원 요건에 관한 질문에 답할 수 있지만, 무엇이 빠졌는지, 어떻게 진행해야 하는지는 학생이 직접 알아내야 한다. 에이전트형 시스템은 지원서 작성이 어디서 중단됐는지 파악하고 다음 단계를 확인해 학생이 중단한 지점부터 다시 이어 가도록 도울 수 있다. 학생이 성적표를 이미 업로드했다고 말하면, 시스템은 지원서 기록을 확인해 성적표가 제출됐는지 확인하고, 다시 제출하라고 요청하는 대신 해당 요건을 완료된 것으로 처리할 수 있다.

기술적으로 가장 큰 과제가 여전히 남아 있는 분야도 바로 이 지점이다. Microsoft Research는 생산성 에이전트가 직면한 과제로 신뢰성, 맥락 유지, 실제 업무 흐름 실행을 꼽는다. 에이전트가 단계 사이에서 맥락을 잃거나 관련 시스템 전반에서 작업할 수 없다면, 누군가가 절차를 진행하도록 안정적으로 안내할 수 없다.

사후 대응형 답변에서 선제적 지원으로

기회는 질문에 답하는 데 그치지 않고, 누군가에게 지원이 필요한 시점을 파악하고 대학이 적절한 다음 단계를 정하도록 돕는 데까지 이어진다. 예를 들어 대학 발전기금팀은 졸업생이 다시 교류하거나 자원봉사에 참여하거나 첫 기부를 할 준비가 됐다는 신호를 알아챌 수 있다. 하지만 신호를 포착하는 것은 시작에 불과하다. 진정한 가치는 그 사람에게 그 시점에 어떤 방식으로 연락하는 것이 적절한지, 그다음에는 무엇을 해야 하는지 파악하는 데서 나온다.

목적에 맞게 설계된 여정에는 대상과 목표에 따라 확립된 관행을 반영할 수 있어, 팀은 범용 도구를 쓰거나 처음부터 업무 흐름을 구축하는 것보다 더 탄탄한 출발점을 마련할 수 있다. 이점은 직원의 시간을 아끼는 데 그치지 않는다. 대학에는 이미 방대한 데이터가 있다. 필요한 것은 그 신호를 해석하고 사려 깊고 시의적절한 소통으로 이어 가도록 돕는 것이다.

필요성은 분명하다. 같은 학생 설문조사에서 학생 절반은 절차가 너무 복잡하게 느껴져 소속 대학에 연락하기를 포기한 적이 있다고 답했다. 또 40%는 이미 제공한 정보를 다시 제출하라는 요청을 받았고, 34%는 문제를 해결하지 못한 채 다른 곳으로 이관됐으며, 31%는 필요한 정보를 찾지 못해 포기했다.

가장 유용한 AI 경험은 이런 마찰 지점을 파악해 누군가가 참여를 중단하는 원인이 되기 전에 해결하도록 대학을 돕는다.

답변을 유용한 행동으로 바꾸는 것은 맥락이다

우리 모두 같은 정보를 한 기관에 몇 번이고 반복해서 알려야 하는 답답함을 경험해 봤다. 이제 수강 신청을 하거나 재정보조 문제를 해결하거나 모교와 다시 연락을 이어 가려는 와중에 그런 일을 해야 한다고 상상해 보자. 서로 연결되지 않은 상호작용이 반복될수록 그 기관은 자신을 잘 아는 곳이라는 느낌을 조금씩 잃게 된다.

각 부서가 아니라 개인을 중심으로 정보를 연결하면 이러한 경험이 달라진다. 학생과 졸업생, 기부자는 더욱 지속적이고 개인화된 소통의 혜택을 누리고, 직원은 더 효과적으로 대응할 수 있는 맥락을 확보한다. 대학이 소통을 더 쉽고 개인적으로 만들면 더욱 돈독한 관계와 지속적인 충성도가 형성될 여건이 마련된다.

학생들은 이미 디지털 경험이 이런 방식으로 제공되기를 바란다는 신호를 보내고 있습니다. 같은 학생 조사에서 56%는 다른 페이지로 이동하거나 같은 정보를 반복해서 입력하지 않아도 시스템이 서로 연결되어 있다고 느낄 수 있기를 기대하는 것으로 나타났습니다. 절반은 디지털 도구가 마감일, 요건 또는 문제가 더 큰 문제로 번지기 전에 이를 선제적으로 알려주기를 기대합니다.

이런 경험을 제공하려면 개별 도구를 더 똑똑하게 만드는 것만으로는 부족합니다. 기관이 각 개인이 여정의 어느 단계에 있는지 파악하고 그에 맞게 대응할 수 있도록 정보와 업무 흐름을 연결해야 합니다.

최고의 AI는 언제 행동하고, 언제 보호하며, 언제 물러서야 하는지 안다

에이전트형 AI의 목표는 최대한의 자율성이어서는 안 됩니다. 처음부터 업무 흐름에 사람의 승인을 포함해 지원, 실행, 인간의 판단이 적절히 조화를 이루도록 하는 것이 목표여야 합니다.

AI가 더 많은 행동을 수행할 수 있게 될수록, 무엇을 독자적으로 수행해야 하는지 결정하는 일은 AI의 역량을 확장하는 것만큼 중요해집니다. 미완성 양식을 찾아내거나 관련 정보를 제시하는 일과 같은 일상적인 작업은 자동화에 적합할 수 있습니다. 그러나 AI 시스템이 학생에게 보낼 연락 내용을 작성하거나 학생의 경험에 영향을 미칠 수 있는 조치를 권고한다면, 그 내용이나 조치가 학생에게 전달되기 전에 사람이 승인할 기회를 가져야 합니다.

사람의 감독은 이례적인 사례를 상급자에게 넘기거나 이미 내려진 결정을 검토하는 데만 국한되어서는 안 됩니다. 중대한 영향을 미칠 수 있는 상황에서는 조치가 실행된 뒤가 아니라 실행되기 전에 승인을 받아야 합니다. AI는 신호를 파악하고 다음 단계를 권고하며 연락 내용을 준비할 수 있지만, 이후에 무엇을 할지는 직원이 계속 통제해야 합니다.

이러한 접근 방식은 기술이 대신할 수 없는 판단력과 공감 능력을 발휘할 여지도 마련합니다. 이례적인 재정 상황에 놓였거나 학업에 어려움을 겪는 학생에게는 자동화된 권고 이상의 도움이 필요할 수 있습니다. 기술은 직원을 과정에서 배제하는 대신, 직원이 그런 순간을 알아차리고 상황을 이해하는 데 필요한 맥락을 바탕으로 대응하도록 도와야 합니다.

책임감 있는 기술 도입은 이러한 경험을 가능하게 하는 민감한 정보를 보호하는 일도 뜻합니다. 시스템을 연결하고 AI가 행동을 수행할 수 있도록 하면 데이터 접근, 권한, 보안 및 책임 소재에 관한 중요한 문제가 생깁니다. 지원서 작성이나 재정 지원 절차를 돕는 에이전트는 해당 상호작용에 필요한 정보와 조치에만 접근할 수 있어야 하며, 수행할 수 있는 작업의 범위도 명확히 정해야 합니다.

Microsoft Research의 인간 개입형 에이전트 연구는 점점 더 자율성이 높아지는 시스템에 사람의 감독과 통제를 내장하는 설계가 중요하다는 점을 강조합니다. 여기에는 사람이 에이전트의 작업에 참여하고 그 방향을 바꿀 수 있도록 하는 장치도 포함됩니다. 책임감 있는 AI는 더 나은 경험을 제공하는 데 필요한 신뢰를 쌓아 그러한 경험을 가능하게 합니다.

차세대 AI의 핵심은 성과다

기관이 바꿔야 할 또 다른 점은 AI가 실제로 효과를 내는지 측정하는 방식입니다.

오늘날 AI의 성능은 대개 처리한 대화 수, 답변한 질문 수, 응답 시간, 직원에게 전달되지 않은 문의 수와 같은 활동 지표로 평가됩니다. 이런 지표를 통해 시스템이 사용되고 있는지 또는 업무량을 줄이고 있는지는 알 수 있지만, 누군가가 하려던 일을 해내도록 실제로 도움이 되었는지는 반드시 알 수 있는 것은 아닙니다.

지원서를 작성하다가 중간에 멈춘 학생에게 성공이란 AI 어시스턴트로부터 답변을 받는 데 그치지 않고 지원서 작성을 마치는 것입니다. 다시 관계를 맺고 싶어 하는 졸업생에게는 그 관계의 다음 단계로 나아가는 것을 뜻합니다.

이러한 디지털 경험이 미치는 영향은 편리함을 훨씬 넘어섭니다. 학생 조사에 따르면 응답자의 38%는 디지털 도구를 이용하기 어려워 등록, 재정 지원 또는 학업과 관련된 중요한 일을 미룬 적이 있었습니다. 4명 중 1명은 그런 어려움 때문에 계속 재학할 가치가 있는지 의문을 품게 되었다고 답했습니다. 기술이 이처럼 큰 불편을 초래한다면 기술 자체에 대한 참여도를 측정하는 것은 핵심을 놓치는 일입니다. 기관은 사람들이 하려던 일을 완료하고 있는지, 어디에서 막히는지, 경험이 시간이 흐르면서 개선되고 있는지를 살펴야 합니다.

차세대 AI는 AI 덕분에 사람들이 무엇을 이룰 수 있는지로 정의될 것이며, 이는 고무적인 변화입니다. 대학 생활을 이어가거나 의료 서비스를 이용하거나 자신이 중요하게 여기는 조직과 교류하는 사람이 누구든, 복잡한 경험을 진정으로 든든한 지원을 받는 경험으로 바꿀 기회가 있습니다. 이를 위해서는 실제 사람을 중심으로 설계한 여정, 서로 연결된 정보, 의미 있는 인간의 감독, 활동량이 아닌 성과를 측정하겠다는 의지가 필요합니다.

목표는 그 자체를 위한 자동화 확대가 아닙니다. 마찰은 줄이고 자신감은 키우며, 상대편의 조직이 자신을 진정으로 이해한다는 확신을 더해 사람들이 앞으로 나아가도록 돕는 것입니다.