새로운 AI가 과거 대화를 기반으로 다음 반응을 예측합니다

MIT 연구원들은 사람의 실제 대화를 몇 주 동안 수집해 반복되는 패턴을 학습하고, 다음 대화 행동을 예측하는 LLM 기반 시스템을 개발했습니다.

AI가 실제로 당신의 삶에 접근할 수 있고, 실제로 장기간 혹은 지속적인 기간 동안 당신을 알 수 있도록 허용된다면, 수천 시간에 걸친 당신의 상호작용을 분석해 습득한 정보를 바탕으로 당신의 행동, 결정—그리고 심지어 다음에 할 말까지 예측할 수 있을 것입니다.

ChatGPT와 Claude와 같은 대형 언어 모델(LLM)을 사용해 온 우리들은 이미 ‘필요 예측’ 경향을 오래전부터 눈치챘으며, 이는 우리의 사용 이력에 기반한 것이 분명합니다. 그리고 아마도 이를 환영했을 텐데, 기억 유지와 컨텍스트가 이제 핵심 마찰점이 되었습니다.

하지만 임시로 그리고 ‘실시간 스트리밍’되는 당신의 생활 및 커뮤니케이션 정보를 영리 기업이 운영하는 AI 시스템에 제공하는 것은, 잠재적인 프라이버시·보안 위험이라고 말해도 과언이 아닙니다. 서비스가 당신에게 훨씬 유용해질 수는 있겠지만, 기업이 데이터를 공유하려는 유혹과 부끄러운 온라인 유출이나데이터 탈취 위험이 결합되면, 이러한 수준의 AI·인간 통합은 신중히 고려해야 할 사안이 됩니다.

우리가 좋은 것을 가질 수 있다면…

음, 흥미로운 새로운 논문을 다루기 전에 ‘공공 서비스 경고’를 먼저 제시해야 했습니다. 이 논문은 데이터가 안전하고 진정으로 신뢰할 수 있는 영역에 격리될 수 있는 더 나은 세상을 전제로 하고 있어, 분석 AI의 진정한 힘을 개인에게 실질적인 이익으로 전환할 수 있기를 기대합니다.

새 연구는 사용자의 허가와 데이터에 대한 통제 하에, 착용하고 있는 스마트워치가 지속적으로 대화를 기록해 행동 패턴을 발굴하도록 제안합니다:

새 MIT 논문에서 제시한 행동 예측 파이프라인 일러스트. 몇 주에 걸쳐 수집된 대화는 반복적인 행동 패턴을 드러내며, 이를 바탕으로 사용자의 다음 행동을 예측하고 예상 행동이 발생하기 전에 스마트워치 알림을 제공합니다. Source

이 논문은 Before You Say It: Anticipating Verbal Behavior from Longitudinal Everyday Conversations with LLMs라는 제목으로, 14명의 참여자로부터 스마트워치를 통해 1,000시간이 넘는 자연스러운(즉, 기회주의적이며 실제 세계) 대화를 수집·전사·구조화된 행동 이력으로 변환한 뒤, Gemini 2.5 Pro에 행동별 프롬프트와 추출된 행동 규칙을 함께 제공해 각 사용자의 다음 대화 행동을 예측하도록 했습니다.

(그리고 이제 이 새로운 논문이 프라이버시와 관련된 맥락을 필요로 하는 이유가 명확해졌을 것입니다.)

새 연구는 사실상 2026년 저자들의 이전 Mind Mapper* 발표를 현장 실험으로 확장한 것으로, 이론을 실제에 적용하고 학습된 행동 패턴이 실시간으로 사용자의 다음 대화 행동을 예측할 수 있는지를 검증했습니다.

‘우리의 결과는 장기 대화에서 추출한 상황별 행동 패턴이 사용자의 언어 행동 경향 예측을 의미 있게 개선한다는 것을 보여줍니다. 우리의 접근법의 핵심 강점은 이러한 패턴을 인간이 읽을 수 있는 컨텍스트 조건부 행동 패턴으로 표현하고, 사용자가 직접 검토·수정할 수 있는 명시적 예외 조건을 포함한다는 점입니다.’

‘참여자들은 이러한 투명성을 높이 평가했으며, 여러 명이 자신이 추론된 패턴을 읽고, 수정하고, 개인 목표를 설정할 수 있다는 점을 특히 좋아했습니다.’

‘참여자들은 또한 자신의 행동 변화를 위한 전략을 반성했으며, 사전 개입 시스템이 주의를 전환하고 대안을 제시하며 목표와 연계된 재구성을 제공함으로써 어떻게 도움이 될 수 있는지를 제시했습니다.’

‘이는 사용자가 인식하고 이미 효과적이라고 생각하는 전략에 기반해 개입을 설계하는 선제적 AI의 가능성을 시사합니다.’

방법

앞서 언급한 Mind Mapper가 새로운 시스템의 기반이며, 스마트워치에 기록된 몇 주간의 대화에서 반복적인 행동 규칙을 학습하도록 설계된 워크플로우를 제공합니다. 이는 직접적인 미래 발화를 예측하거나 일반 데이터셋에 의존하는 것이 아니라, 장기 대화에서 행동 규칙을 학습하는 접근법입니다. Mind Mapper 워크플로우에서는 모든 기록된 대화를 전사·익명화한 뒤, 다단계 GPT-5 파이프라인**을 통해 처리합니다.

(오래된 논문의 보호 조치 때문에 일반에 공개된 저해상도 이미지가 식별이 어려워, 해당 논문의 이미지는 제공할 수 없습니다.)

새 논문에서 제시한 행동 예측 파이프라인 일러스트. 몇 주에 걸쳐 수집된 대화는 컨텍스트 의존적 행동 규칙으로 변환되고, 이를 지지·반증 증거와 함께 정제한 뒤 새로운 대화에 적용해 사용자의 가장 가능성 높은 다음 대화 응답을 예측합니다.

이 파이프라인은 후보 ‘if‑then’ 행동 규칙(즉, 대화 상황과 가능한 응답을 연결하는 규칙)을 생성하고, 지지·반증 증거를 탐색하며, 겹치는 규칙을 병합하고, 약한 가설을 배제한 뒤 신뢰도와 확률 추정치를 부여합니다.

대상

14명의 영어 사용 성인 참가자는 7~10일 동안 일상 생활 속에서 스마트워치를 착용했습니다. 장치 내 음성 활동 감지기가 음성이 감지될 때만 기록했으며, 2~3분 길이의 오디오 클립을 원격 서버로 전송해 처리했습니다.

참가자들에게는 $100이 지급되었으며, 대화가 녹음된다는 사실을 주변 사람에게 알리고, 각 상호작용 전에 다른 사람의 동의를 얻어야 했습니다.

전사 및 검증

오디오 클립은 Deepgram의 Nova‑3‑meeting 모델을 사용해 전사하고 화자를 구분했습니다. 이후 SpeechBrain을 화자 검증 모델로 활용해 참가자의 음성을 20초 등록 샘플과 매칭했습니다.

spaCy 명명된 엔터티 인식(NER) 모델은 언급된 이름 및 기타 개인 식별 정보를 익명화된 자리표시자로 교체했습니다. 원본 오디오는 삭제되었으며, AES‑256‑GCM으로 암호화된 전사본만 스마트워치에 로컬 저장되었습니다.

수집 기간이 끝난 뒤, 참가자들은 웹 인터페이스를 통해 자신의 전사본을 검토하고, 연구에 포함되길 원하지 않는 부분을 삭제하거나 화자 라벨·대화 컨텍스트를 필요에 따라 수정할 수 있었습니다.

평균적으로 전사본의 0.16%만 삭제되었고, 2.48%의 구간이 잘못 분류된 것으로 표시되어, 최종 데이터셋은 14명 참가자에게서 총 15,066개의 발화(착용자 57%, 기타 화자 43%)를 포함했습니다. 평균 발화 길이는 49단어였습니다.

(하지만 논문에서는 이 부분을 다루지 않지만, 참가자들이 스마트워치를 착용하면서 매우 개인적인 대화에 관여하는 것을 비교적 경계했을 것으로 추정됩니다.)

전사본은 매우 짧은 교환과 흔히 나타나는 말버릇(예: ‘err’, ‘um’)을 제거하고, 조각난 문장을 완전한 발화로 병합해 추가 정제되었습니다. 이 과정을 거쳐 최종 데이터셋은 9,901개의 발화로 축소되었습니다.

접근법을 평가하기 위해 Gemini 2.5 Pro에 각 참가자의 현재까지의 대화를 기반으로 다음 대화 응답을 예측하도록 요청했으며, 세 가지 입력(대화 기록만; 요약된 대화; 새로운 Mind Mapper 행동 규칙)과 비교해 학습된 패턴의 기여도를 직접 측정했습니다.

GPT‑5를 자동 채점기로 사용해 예측을 점수화했으며, 별도의 인간 평가를 통해 채점기의 신뢰성을 확인했습니다.

데이터 및 테스트

테스트 결과는 저자들의 패턴 기반 접근법이 기존 베이스라인 방법을 크게 앞선다는 것을 보여주며, 대화 데이터가 누적될수록 정확도가 지속적으로 향상되었습니다:

세 가지 예측 접근법을 비교한 테스트 결과. 왼쪽은 시스템이 행동 패턴을 학습할 때만 대화 데이터가 증가함에 따라 예측 정확도가 꾸준히 상승하는 반면, 베이스라인 접근법은 거의 변동이 없습니다. 오른쪽은 동일 접근법이 참가자가 의도적으로 변화시키려는 대화에서 훨씬 높은 점수를 기록합니다.

저자들은 시스템이 특히 참가자가 명시적으로 변화시키고자 하는 행동을 예측하는 데 효과적이었다고 주장합니다.

40명의 독립적인 인간 평가자가 참여한 검증 연구에서는 자동 평가와 일치함을 확인했으며, 패턴 기반 방법이 테스트된 시나리오의 43%에서 가장 높은 순위를 차지했고, 전체 컨텍스트는 24%, 제로샷은 18%, 서술형 요약은 15%에 그쳤습니다.

인간 평가 결과는 의사소통 의도, 구체성, 기능적 복잡성 측면에서 모델 기반 점수와 매우 유사했으며, 이는 대화 행동 평가에 자동 채점기를 활용하는 것이 타당함을 뒷받침합니다.

두 차례의 후속 연구에서는 사람들이 추출된 패턴에 어떻게 반응하는지, 그리고 이러한 예측이 실제로 습관 변화에 도움이 되는지를 조사했습니다. 참가자들은 먼저 자신의 규칙을 검토해 바꾸고 싶은 행동을 표시했으며, 몇 달 뒤 다시 모여 자신이 시도한 전략과 일상 생활에서 실제로 도움이 되는 ‘넛지’ 유형을 논의했습니다.

참가자들은 114개의 바꾸고 싶은 습관을 912개의 대화 순간에 걸쳐 표시했습니다. 이러한 교환에 대한 테스트에서 패턴 기반 방법은 표준 접근법보다 약 40% 높은 성과를 보였으며, 저자들은 시스템이 특히 깊게 뿌리내린 습관을 예측하고 변화시키려는 사람들에게 가장 효과적이라고 주장합니다.

‘전반적으로 우리의 발견은 장기 대화 데이터를 통해 개인별 언어 행동을 예측할 수 있다는 증거를 제공합니다.’

‘이는 향후 상황 인식·선제적·능동적·개인화된 AI 시스템의 새로운 가능성을 열어줍니다.’

결론

주로 국가 의료 및 정신과 분야와 같이 정부 규제가 강한 적용 사례를 제외하고, 사람들에게 참여를 강요하거나(예: 보험료 인하와 같은) 명시적·묵시적 압력이 없는 상황이라면, 이 접근법이 프라이버시와 개인의 신성함을 위협하지 않을 사용 사례를 상상하기 어렵습니다—특히 기록된 대화 데이터를 디지털 또는 기타 개인 데이터와 연계할 수 있는 에이전시와 결합될 경우는 더욱 그렇습니다.

MIT 논문은 이 접근법을 흥미롭고 다소 치료적인 맥락(예: 식단에 대한 상황 인식 알림 제공)으로 제시하지만, 실제로는 광고주, 교정·교도소 기관, 보험사, 그리고 개인의 생각을 더 알고 싶어 하는 수많은 기업·국가 기관의 공격적인 관심과 투자를 끌 가능성이 높습니다.

만약 지역 AI가 완전히 사용자 소유이며 철저히 격리된 형태가 필요하다는 설득력 있는 주장이 있다면, 바로 이러한 시스템이 그 사례가 될 것입니다.

그럼에도 불구하고 최근 몇 년간 광고와 감시 기술의 역사는 소비자 무관심으로 이어지는 경향을 보여왔습니다—이러한 무관심이 이처럼 침투적이고 광범위한 시스템까지 확장될 수 있을까요?

* 고해상도 이미지가 공개되지 않은 훨씬 더 보호된 출판물이며, 텍스트는 몇 가지 절차를 거치면 읽을 수 있습니다.

** 강조하고 싶지는 않지만, 오래된 논문은 접근이 훨씬 어려우니 꾸준히 시도해 보시기 바랍니다!

2026년 8월 20일 목요일 최초 게시