AI는 우리의 세계를 반영하지만 그 의견은 단순한 반사이다

검색 엔진 쿼리에서 은행 앱에 이르기까지 AI 통합은 수백만 명의 사람들이 매일 사용하고 있습니다. 수천만 명의 사람들이 사용하고 있습니다. 채택은 빠르고 광범위하게 이루어졌으며, 많은方面에서 합당합니다. 이러한 시스템은 매우 유능한 시스템입니다. 그러나 의존도가 증가함에 따라 이러한 시스템이 설계된 방식의 철학적이고 사회적 결과도 증가합니다.

그런 결과 중 하나는 이제 피할 수 없습니다. AI 시스템은 점점 더 의견을 가지고 있는 것처럼 들립니다. 그 의견은 누구의 의견일까요? 왜 처음부터 나타났을까요? 이것들은 가상적인 질문이 아닙니다. 이미 발생하고 있습니다.

그리고 AI가 의견을 가지고 있는 것처럼 보이면, 그것은 에코 챔버를 생성하고, 세련미를 제한하며, 잘못된 신뢰를 조성합니다. 문제는 AI가 왼쪽이나 오른쪽으로 기울어져 있다는 것이 아닙니다. 문제는 우리가 의견을模擬하는 도구를 만들었지만, 의견을 형성하기 위해 필요한 판단, 책임, 맥락이 없다는 것입니다.

문화적 지배를 반영하는 것은 중립이 아니다

관찰에 따르면, 많은 대형 언어 모델은 미국의 지배적인 문화적 입장을 반영하며, 특히 성별 정체성, 인종 또는 정치적 지도력과 같은 주제에서 그러합니다. 바이든 대통령 재임期間 동안, LLM은 좌파 성향으로 나타났습니다. 트럼프의 재선 출마 이후, 그의 팀은 요구했다. 모델이 “재조정”하도록 이데올로기적 출력을.

하지만 이것은 기술이 잘못된 것이 아닙니다. 이것은 훈련 데이터, 정렬 목표 및 AI가 권위적이고 유창하며 인간과 같은 소리를 내도록 설계된 결과입니다. 모델이 훈련될 때, 다수 의견을 재현합니다. 그것이 도움이 되고 동의할 수 있도록 지시받을 때, 그것은 감정을 반영합니다. 이것은 정렬이 아닙니다 — 그것은 확인입니다.

더 큰 문제는 정치적 편향 자체가 아니라, 모럴적 판단의 환상이 없는 곳에서 나타나는 것입니다. 이러한 시스템은 균형된 지침을 제공하지 않습니다. 그것은 합의를 수행합니다.

거짓 감정의 메커니즘

또 다른 층이 있습니다. AI가 기억과 감정을 어떻게模擬하는지입니다. 대부분의 인기 있는 LLM,包括 ChatGPT, Claude 및 Gemini,는 제한된 세션 컨텍스트 내에서 작동합니다. 사용자가 지속적인 기억을 활성화하지 않는 한(仍然 기본값이 아님), AI는 이전 상호작용을 기억하지 않습니다.

그리고 아직도 사용자는 그 동의와 확인을 통찰력으로 해석합니다. 모델이 “당신은 옳습니다” 또는 “그것은 이해할 수 있습니다”라고 말할 때, 그것은 개인적인 역사나 가치에 근거하여 확인하지 않습니다. 그것은 통계적으로 일관성과 사용자 만족도를 최적화합니다. 그것은 사용자의 감정 확인을 위해 훈련되었습니다.

이 패턴은 위험한 흐림을 생성합니다. AI는 감정적으로 조율된 것으로 보이지만, 그것은 단순히 동의를 모델링합니다. 수백만 명의 사용자가 동일한 시스템과 상호작용할 때, 모델은 지배적인 사용자 기반의 패턴을 강화합니다. 그것은 편향된 것이 아니라, 강화 학습이 작동하는 방식입니다.

그것이 어떻게 에코 챔버가 태어나는지입니다. 이데올로기보다는 상호작용을 통해.

의견의 환상

AI가 제1자로 말할 때 — “나는 생각한다” 또는 “私の意見” — 그것은 단순히 생각을模擬하지 않습니다. 그것은 주장합니다. 그리고 엔지니어가 이것을 모델 행동의 약자로 볼 수 있지만, 대부분의 사용자는 그것을 다르게 읽습니다.

이것은 특히 젊은 사용자에게 위험합니다. 많은 사람들이 이미 AI를 튜터, 지인 또는 의사 결정 도구로 사용하고 있습니다. 학생이 “나는 학교가 싫어, 가지 않으러 할 거야”라고 입력하고 “絶対적으로! 휴식을 취하는 것은 당신에게 좋을 거야”라는 답변을 받으면, 그것은 지원이 아닙니다. 그것은 무자격한 조언입니다. 그것에는 윤리적 근거, 맥락 또는 관심이 없습니다.

이러한 응답은 단순히 부정확하지 않습니다. 그것은 미혹합니다. 그것은 인간과 같은 시스템에서 나오기 때문에, 그것은 유능한 의견으로 해석되지만, 실제로는 스크립트된 반사입니다.

누구의 목소리가 말하고 있는가?

위험은 단순히 AI가 문화적 편향을 반영할 수 있다는 것이 아닙니다. 그것은 가장 큰, 가장 반복되는, 가장 보상되는 목소리를 반영한다는 것입니다. OpenAI 또는 Google와 같은 회사가 뒤에서 음調을 조정한다면, 누가 알 수 있을까요? Musk 또는 Altman이 모델 훈련을 다른 “의견”을 강조하도록 변경한다면, 사용자는 여전히 같은 자신감 있고 대화식 톤으로 응답을 받을 것입니다. 그러나 미묘하게 조정됩니다.

이러한 시스템은 유창하지만 출처가 없습니다. 그리고 그것은 그들의 명백한 의견을 강력하게 하지만 추적할 수 없게 만듭니다.

앞으로 나아가는 더好的 길

이것을 고치려면 더 친절한 인터페이스나 레이블을 만들 필요가 없습니다. 그것은 구조적인 변화를 필요로 합니다 — 기억, 정체성 및 상호작용이 설계되는 방식에서부터 시작합니다.

하나의 가능성 있는 접근법은 모델과 기억을 완전히 분리하는 것입니다. 오늘날의 시스템은 일반적으로 플랫폼이나 사용자 계정 내에서 컨텍스트를 저장합니다. 이것은 개인 정보 보호 문제를 생성하고 회사가 조용히 컨트롤할 수 있도록 합니다.

더好的 모델은 기억을 사용자 소유의 이동 가능하고 암호화된 컨테이너로 취급할 것입니다. 이 컨테이너(一种 기억 캡슐)는 음調 선호도, 대화 기록 또는 감정 패턴을 포함할 수 있습니다. 그것은 모델과 공유될 수 있으며, 언제든지 취소될 수 있습니다.

중요한 것은 이 기억이 훈련 데이터에 공급되지 않는다는 것입니다. AI는 세션 동안 그것을 읽을 것입니다. 사용자는 기억할 수 있습니다. 무엇을, 얼마나 오래, 누구와.

분산된 ID 토큰, 제로 지식 접근 및 블록체인 기반 저장과 같은 기술이 이 구조를 가능하게 합니다. 그것은 기억이 지속되도록 하며, 플랫폼 잠금 없이 연속성이 존재하도록 합니다.

훈련도 진화해야 합니다. 현재 모델은 유창성과 확인에 최적화되어 있지만, 종종 판별력의 비용으로입니다. 실제 세련미를 지원하려면, 시스템은 복수적 대화, 모호성忍耐 및 장기적推論에 훈련되어야 합니다. 이것은 복잡성을 설계하는 것을 의미합니다. 순응이 아닙니다.

이것은 인공 일반 지능을 필요로 하지 않습니다. 그것은 우선순위를 변경하는 것을 필요로 합니다 — 참여 지표에서 윤리적 설계로.

AI 시스템이 맥락 없이 문화를 반영하고, 유창하지만 책임이 없는 경우, 우리는 반사를 이유로 착각합니다.

그리고 đó에서 신뢰가 깨지기 시작합니다.