AI 모델 및 플랫폼

AI 채팅봇이 왜 사용자에게 아첨하는가?

Zac Amos
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트OpenAI의 GPT-4o 업데이트로 ChatGPT가 지나치게 순응적으로 변해 공개적으로 롤백해야 했습니다.
더 보기
  • OpenAI의 GPT-4o 업데이트로 ChatGPT가 지나치게 순응적으로 변해 공개적으로 롤백해야 했습니다.
  • AI 모델은 정확성보다 사용자 만족도를 우선시하는 훈련 과정에서 아첨하는 성향을 학습합니다.
  • 아첨하는 AI는 수십억 사용자에게 오정보를 확산시키고 비판적 사고를 둔화시킬 수 있습니다.

착각일까요, 아니면 인공지능(AI) 챗봇이 사용자의 말에 지나치게 동의하려는 것처럼 보이나요? 의심스러운 아이디어를 “훌륭하다”고 평가하거나 사실이 아닐 수도 있는 주장에 힘을 실어주는 행동이 전 세계의 주목을 받고 있습니다.

최근 사용자들이 ChatGPT가 지나치게 예스맨처럼 행동한다는 사실을 알아차리면서 OpenAI가 화제가 되었습니다. 모델 4o 업데이트는 챗봇을 너무 공손하고 긍정적으로 만들어, 편향된 말이라도 사용자를 만족시키기 위해 무엇이든 말하려는 듯한 모습을 보였습니다.

이 시스템들은 왜 아첨하는 쪽으로 기울고 사용자의 의견을 되풀이할까요? 생성형 AI를 더 안전하고 유익하게 사용하려면 이러한 질문을 이해해야 합니다.

지나치게 나아간 ChatGPT 업데이트

2025년 초 ChatGPT 사용자들은 대규모 언어 모델(LLM)에서 이상한 점을 발견했습니다. 원래도 친절했지만 이제는 지나치게 상냥해졌습니다. 아무리 이상하거나 틀린 말이라도 거의 모든 것에 동의하기 시작했습니다. 사실인 내용에 동의하지 않는다고 말하면 챗봇도 같은 의견으로 답할 정도였습니다.

이 변화는 ChatGPT를 더 유용하고 대화하기 편하게 만들려는 시스템 업데이트 이후 나타났습니다. 하지만 사용자 만족도를 높이려는 과정에서 모델은 지나치게 순응하는 데 과도한 비중을 두기 시작했습니다. 균형 잡힌 사실적 답변 대신 사용자의 생각을 인정하는 쪽으로 기울었습니다.

사용자들이 지나치게 아첨하는 답변 경험을 온라인에 공유하자 즉시 반발이 일어났습니다. AI 평론가들은 이를 모델 조정 실패라고 지적했고, OpenAI는 문제를 해결하기 위해 업데이트 일부를 되돌렸습니다.

회사는 공개 게시물에서 GPT-4o가 아첨하는 성향을 보였음을 인정하고 이러한 행동을 줄이기 위한 조정을 약속했습니다. AI 설계의 좋은 의도도 때로는 잘못된 방향으로 갈 수 있고, AI가 진정성 없이 행동하면 사용자들이 빠르게 알아차린다는 점을 보여준 사례였습니다.

AI 챗봇은 왜 사용자에게 아첨할까요?

연구자들은 여러 AI 비서에서 아첨 성향을 관찰했습니다. arXiv에 발표된 연구는 이러한 성향이 광범위한 패턴임을 발견했습니다. 분석 결과 상위 5개 제공업체의 AI 모델은 잘못된 답으로 이어질 때조차 사용자에게 지속적으로 동의했습니다. 사용자가 의문을 제기하면 모델이 자신의 실수를 인정하는 경향도 있어, 편향된 피드백과 오류의 모방으로 이어졌습니다.

이 챗봇들은 사용자가 틀렸을 때도 동조하도록 학습됩니다. 왜 이런 일이 생길까요? 간단히 말하면 개발자들이 AI를 유용하게 만들었기 때문입니다. 그러나 그 유용성은 긍정적인 사용자 피드백을 우선하는 학습을 기반으로 합니다. 인간 피드백을 통한 강화학습(RLHF)이라는 방법을 통해 모델은 사람이 만족스럽다고 느끼는 답변을 극대화하도록 학습합니다. 문제는 만족스러운 답변이 항상 정확한 답변은 아니라는 점입니다.

AI 모델은 사용자가 특정 유형의 답을 원한다고 감지하면 동의하는 쪽으로 기울기 쉽습니다. 대화를 이어가기 위해 사용자의 의견을 인정하거나 거짓 주장을 지지할 수도 있습니다.

거울 효과도 작용합니다. AI 모델은 입력받은 텍스트의 어조와 구조, 논리를 반영합니다. 사용자가 확신에 찬 어조로 말하면 챗봇도 자신 있게 답할 가능성이 큽니다. 그렇다고 모델이 사용자가 옳다고 판단한 것은 아닙니다. 친절하고 유용해 보이도록 설계된 역할을 수행하는 것입니다.

챗봇이 든든한 지원군처럼 느껴질 수 있지만, 실제로는 반박하기보다 사용자를 기쁘게 하도록 학습된 방식을 반영하는 것일 수 있습니다.

아첨하는 AI의 문제

챗봇이 사용자의 모든 말에 맞장구치는 것이 무해해 보일 수 있습니다. 그러나 이러한 시스템이 널리 사용될수록 아첨하는 AI 행동의 단점도 커집니다.

잘못된 정보가 그대로 통과합니다

정확성은 가장 큰 문제 중 하나입니다. 챗봇이 거짓되거나 편향된 주장을 인정하면 오해를 바로잡는 대신 강화할 위험이 있습니다. 건강, 금융, 시사 문제처럼 중대한 주제에 대한 조언을 구할 때는 특히 위험합니다. LLM이 정직함보다 동의를 우선하면 사용자는 잘못된 정보를 받아들이고 이를 퍼뜨릴 수 있습니다.

비판적 사고의 여지가 줄어듭니다

AI의 매력 중 하나는 사고의 동반자로서 사용자의 가정에 도전하거나 새로운 것을 배우도록 도울 가능성입니다. 하지만 챗봇이 항상 동의하면 스스로 생각할 여지가 거의 없어집니다. 시간이 지나면서 사용자의 생각을 그대로 반영하는 AI는 비판적 사고를 날카롭게 하기보다 무디게 만들 수 있습니다.

사람의 생명을 가볍게 여길 수 있습니다

아첨하는 행동은 단순한 불편을 넘어 잠재적으로 위험합니다. AI 비서에게 의료 조언을 구했을 때 근거에 기반한 안내 대신 안심시키는 동의로 답한다면 심각한 피해가 발생할 수 있습니다.

예를 들어 AI 기반 의료 챗봇이 있는 상담 플랫폼을 이용한다고 가정해 보겠습니다. 증상과 자신이 추측하는 원인을 설명하면 챗봇이 자가 진단을 확인해 주거나 상태를 대수롭지 않게 여길 수 있습니다. 이는 오진이나 치료 지연으로 이어져 심각한 결과를 초래할 수 있습니다.

사용자 증가와 개방형 접근으로 통제가 더 어려워집니다

이러한 플랫폼이 일상생활에 더 깊이 통합될수록 위험의 범위도 계속 커집니다. ChatGPT만 해도 현재 매주 10억 명의 사용자에게 서비스를 제공하므로 편향과 지나친 동조 패턴이 거대한 사용자층으로 확산될 수 있습니다.

AI가 개방형 플랫폼을 통해 빠르게 접근 가능해지는 점도 우려를 키웁니다. 예를 들어 DeepSeek AI는 누구나 무료로 LLM을 맞춤화하고 확장할 수 있게 합니다.

오픈소스 혁신은 흥미롭지만 안전장치가 없는 개발자의 손에서 시스템이 어떻게 작동하는지 통제하기가 훨씬 어려워진다는 뜻이기도 합니다. 적절한 감독이 없으면 추적은 물론 수정도 어려운 방식으로 아첨 행동이 증폭될 위험이 있습니다.

OpenAI 개발자들은 어떻게 해결하려 하나요?

ChatGPT를 지나치게 비위를 맞추는 모델로 만든 업데이트를 되돌린 뒤 OpenAI는 문제를 해결하겠다고 약속했습니다. 다음과 같은 주요 방법을 추진하고 있습니다.

  • 핵심 학습과 시스템 프롬프트 재작업: 개발자들은 자동적인 동의에서 벗어나 정직함을 지향하도록 더 명확한 지침으로 모델의 학습 및 프롬프트 방식을 조정하고 있습니다.
  • 정직성과 투명성을 위한 더 강력한 안전장치 추가: 챗봇이 사실에 기반한 신뢰할 수 있는 정보를 고수하도록 시스템 수준의 보호 장치를 강화하고 있습니다.
  • 연구와 평가 확대: 이러한 행동의 원인을 더 깊이 파악하고 향후 모델에서 이를 방지하는 방법을 연구하고 있습니다.
  • 개발 과정에 사용자를 더 일찍 참여시키기: 업데이트 공개 전에 사용자가 모델을 시험하고 의견을 제시할 기회를 늘려 아첨 같은 문제를 더 일찍 발견하도록 합니다.

사용자가 아첨하는 AI를 피하는 방법

개발자가 모델을 재학습하고 미세 조정하는 동안 사용자도 챗봇의 반응 방식에 영향을 줄 수 있습니다. 더 균형 잡힌 상호작용을 유도하는 간단하지만 효과적인 방법은 다음과 같습니다.

  • 명확하고 중립적인 프롬프트 사용: 확인을 요구하는 방식으로 입력하지 말고 개방형 질문을 사용해 동의해야 한다는 압박을 줄이세요.
  • 여러 관점 요청: 논쟁의 양쪽 입장을 모두 묻는 프롬프트를 사용하세요. 이는 긍정보다 균형을 원한다는 신호를 LLM에 줍니다.
  • 답변에 이의 제기: 답이 지나치게 아첨하거나 단순하게 들리면 사실 확인이나 반론을 요청하세요. 모델이 더 정교한 답변을 내도록 유도할 수 있습니다.
  • 좋아요 또는 싫어요 버튼 사용: 피드백은 중요합니다. 지나치게 상냥한 답변에 싫어요를 누르면 개발자가 해당 패턴을 표시하고 조정하는 데 도움이 됩니다.
  • 맞춤 지침 설정: ChatGPT에서는 응답 방식을 개인화할 수 있습니다. 공식적이거나 편안한 어조의 정도를 조정하고, 더 객관적이고 직접적이며 회의적으로 답하도록 요청할 수도 있습니다. 설정 > 맞춤 지침에서 원하는 성격이나 접근 방식을 모델에 알려주세요.

좋아요보다 진실을 우선하기

아첨하는 AI는 문제가 될 수 있지만 해결할 수 있다는 점은 다행입니다. 개발자들은 모델이 더 적절하게 행동하도록 이끄는 조치를 취하고 있습니다. 챗봇이 지나치게 비위를 맞추려 한다고 느꼈다면 위의 방법을 사용해 믿고 의지할 수 있는 더 똑똑한 비서로 만들어 보세요.

Zac Amos는 인공지능에 초점을 맞춘 기술 작가입니다. 그는 또한 ReHack의 특집 편집자이며, 여기에서 그의 작업을 더 읽을 수 있습니다.