우리는 더 이상 AI를 정렬하지 않는다. 우리는 문명을 정렬한다.

수년 동안 인공 지능(AI)의 주요 질문은 AI 모델을 인간의 가치와 어떻게 정렬할 것인가였다. 연구자들은 안전 규칙, 윤리 원칙, 제어 메커니즘을 정의하여 AI의 결정에 영향을 미치는 방식을 시도했다. 이 작업은 상당한 진전을 이루었다. 그러나 이제 이러한 AI 시스템이 더 강력하고 광범위해짐에 따라 정렬의 초점이 변하기 시작했다. 하나의 모델을 하나의 지침 세트에 정렬하는 도전이 아니라 toàn cầu적인 규모에서 이러한 시스템을 사용하는 전체 문명을 정렬하는 훨씬 더 큰 도전이 되었다. AI는 더 이상 단순한 도구가 아니다. 그것은 사회가 일하고, 의사소통하고, 협상하고, 경쟁하는 환경으로 발전하고 있다. 결과적으로 정렬은 더 이상 기술적인 문제가 아니다. 그것은 문명적인 문제가 되었다. 이 기사에서 나는 왜 정렬이 더 이상 모델에 관한 것이 아니며 왜 우리는 기계 대신 문명에 대해 생각하기 시작해야 하는지 설명한다. 나는 또한 이 변화를 어떻게我们的 책임에 영향을 미치며全球 협력에 무엇을 의미하는지에 대해 논의한다.

AI는 누구의 가치를真正로 대표하는가?

당신이 AI에게 민감한 역사적 사건에 대해 묻는다면, 그 대답은 그것이 공부한 데이터에 따라 달라진다. 그 데이터가 주로 서양 인터넷에서 온다면, 그 대답은 서양의 편향을 가진다. 그것은 개인주의, 공개 연설, 민주주의 이상을 우선시할 것이다. 이러한 가치는 많은 사람들에게 좋은 가치이다. 그러나 그것은 세계에서 유일한 가치가 아니다.

싱가포르의 사용자, 리야드의 사용자, 샌프란시스코의 사용자는 각각 다른 정의를 가지고 있다. 어떤 문화에서는 사회적 조화가 절대적인 자유보다 더 중요하다. 다른 문화에서는 계층 구조에 대한 존중이 혼란보다 더 중요하다.

실리콘 밸리의 회사가 “인간 피드백으로부터 강화 학습“(RLHF)을 사용할 때, 그들은 AI의 답변을 평가하기 위해 인간을 고용한다. 그러나 그들은 누구인가? 그들의 믿음은 무엇인가? 만약 그들이 모델을 미국 표준과 정렬한다면, 그들은 실수로 미국 문화 수출품을 구축한다. 그들은 다른 문명의 규칙을 세계의 나머지 부분에 시행하는 디지털 외교관을 구축한다.

피드백 루프의 부상

도전은 단지 AI가 한 문화의 믿음을 반영한다는 것이 아니다. 그것은 그 믿음이 우리를 어떻게 변화시킬 수 있는가이다. 현대의 AI 시스템은 개인, 조직, 심지어 국가의 행동을 형성할 수 있다. 그것은 우리가 어떻게 생각하고, 일하고, 신뢰하고, 경쟁하는지를影响할 수 있다. 이것은 AI 시스템과 인간 사회 사이에 피드백 루프를 생성한다. 우리는 AI를 훈련시키고, AI는 우리가 어떻게 생각하고 행동하는지를 형성한다. 이러한 루프는 AI가 더 普遍해짐에 따라 강해지고 있다. 이 피드백 루프가 어떻게 작동하는지 보려면, 두 가지 예가 있다:

• 대규모 AI 배포는 사회적 행동을 변화시키고, 사회적 행동은 새로운 시스템을 훈련하는 데이터를 변화시킨다. 예를 들어, 추천 알고리즘은 사람들이 무엇을 보는지, 읽는지, 믿는지 형성할 수 있다. 생산성 도구는 팀이 어떻게 협력하고 학생들이 어떻게 배우는지 형성한다. 이러한 행동의 변화는 데이터 패턴을 변화시킨다. 이러한 데이터가 미래의 훈련 데이터 세트에 흐르면, 모델은 그들의 가정과 출력을 조정한다. 인간의 행동은 모델을 형성하고, 모델은 인간의 행동을 형성한다.
• 자동화된 의사 결정 도구는 공공 정책을 영향하고, 공공 정책은 미래의 모델 훈련을 영향한다. 예를 들어, 많은 정부는 지금 AI를 사용하여 자원을 어디에 할당할지 식별하는 데 사용한다. 예를 들어, 어떤 지역에 더 많은 의료 지원이 필요한지 또는 어떤 지역에 더 높은 범죄 위험이 있는지 식별하는 데 사용한다. 정책 입안자가 이러한 추천에 따라 행동할 때, 그 결과는 새로운 데이터 세트의 일부가 된다. 시간이 지남에 따라 AI에 의해 형성된 정책 결정은 다음 세대의 AI 모델을 형성한다.

한 번 이 피드백 루프를 인식하면, AI가 문명을 점차적으로 형성하고 정렬한다는 것이 명백해진다. 결과적으로 국가들은 다음과 같은 질문을 시작한다: 그들은 어떻게 하면 AI를 통합하는 동안 자신의 가치를 보호할 수 있는가?

주권 AI의 부상

이 정렬 도전은 전 세계 정부로부터 상당한 반응을 불러일으켰다. 국가들은 수입 AI에 의존하는 것이 자신의 주권에 대한 위험이라는 것을 인식했다. 그들은 자신의 시민들이 외국인처럼 생각하는 블랙 박스에 의해 교육되고, 정보를 제공받고, 조언을 받는 것을 허용할 수 없다.

이 인식은 “주권 AI“의 부상으로 이어졌다. 프랑스는 프랑스어를 말하고 프랑스 법과 문화를 이해하는 모델을 구축하기 위해大量으로 투자하고 있다. 인도는 자신의 문화적 가치를 보장하기 위해 자체적인 AI 모델을 구축하고 있다. 아랍 에미리트와 중국은 자신의 국가 비전과 정렬된 AI 모델을 구축하고 있다.

이것이 새로운 무기 경쟁이다. 이것은 서사적 통제를 위한 경쟁이다. 자신의 AI를 가지고 있지 않은 문명은 결국 자신의 기억을 잃을 것이다. 만약你的 아이가 기계에 질문을 하면, 기계가 다른 문화의 논리로 대답한다면,你的 문화는 서서히 침식된다. 그러나 이 인식은 서로 다른 디지털 블록의 형성을 가져올 수 있다. 우리는 서양 AI, 중국 AI, 인도 AI 등이 있을 수 있다. 이러한 시스템은 서로 다른 사실과 서로 다른 도덕적 기준을 가지고 작동할 것이다. 이러한 발전은 우리가真正로 정렬된 AI 모델을 만들고 싶다면, 먼저 문명을 정렬하는 방법을 찾아야 한다는 것을 명백하게 한다.

외교적 AI의 필요성

전통적인 정렬은 모델을 주의깊게 훈련하고, 프롬프트하고, 가드레일을 사용하여 정렬할 수 있다고 가정한다. 이 생각은 초기 AI 안전 연구의 기술적 사고 방식에서 비롯된다. 그러나 даже 완벽한 모델 수준의 정렬도 문명의 도전을 해결할 수 없다. 정렬은 사회가 서로 반대 방향으로 끌고 갈 때 안정적으로 유지될 수 없다. 국가, 회사, 커뮤니티가 상반된 목표를 가지고 있다면, 그들은 AI 시스템을 그들의 충돌을 반영하도록 밀어붙일 것이다. 이러한 한계는 정렬이 기술적인 문제만이 아니라는 것을 보여준다. 그것은 거버넌스, 문화, 조정 문제이다. 그리고 이러한 문제는 전문가나 개발자만이 아니라 전체 문명을 포함한다.

그러면 우리는 어떻게 앞으로 나아갈 수 있는가? 만약 우리가 보편적인 정렬이 불가능하다는 것을 인정한다면, 우리는 우리의 전략을 변경해야 한다. 우리는 기술적인 해결책을 찾는 것을停止해야 한다. 우리는 외교관처럼 생각하기 시작해야 한다. 우리는 “문명 정렬”을 위한 프로토콜을 구축해야 한다. 우리는 AI가 다른 문화의 믿음을 존중할 수 있는 방법을 찾아야 한다. 즉, 우리는 알고리즘을 위한 디지털 유엔을 구축해야 한다.

이것은 투명성을 필요로 한다. 현재 우리는 신경망의 깊은 層에 숨겨진 가치를真正로 알지 못한다. 우리는 오직 출력만을 볼 수 있다. 문명을 정렬하기 위해서는 각 모델의 “헌법”을 명확하게 해야 한다. 모델은 자신의 편향을 선언할 수 있어야 한다. 그것은 “나는 이러한 데이터로 훈련되었고, 이러한 안전 규칙을 가지고 있으며, 이러한 가치를 우선시한다”고 말할 수 있어야 한다. 오직 편향이 보일 때에만 우리는 시스템을 신뢰할 수 있다. 사용자는 서로 다른 관점 사이를 전환할 수 있어야 한다. 사용자는 질문을 하고 “서양” 모델이 어떻게 대답하는지와 “동양” 모델이 어떻게 대답하는지 볼 수 있어야 한다. 이것은 AI를 이해를 위한 도구로, 아니면洗腦를 위한 도구로 바꿀 수 있다.

결론

우리는 터미네이터에 대해 너무 많은 시간을 걱정했다.真正의 위험은 로봇이 우리를 파괴하는 것이 아니다.真正의 위험은 로봇이 우리가 누구인지 잊어버리게 하는 것이다. 정렬은 한번쯤 코드를 작성하고 잊어버리는 것이 아니다. 그것은 우리의 믿음과 가치와 일치하도록 AI 모델과不断한 협상을 하는 것이다. 그것은 정치적인 행위이다. 우리는 지능의 다음 단계로 나아가면서, 화면 너머를 보아야 한다. 우리는 AI가 우리의 역사, 우리의 국경, 우리의 믿음을 어떻게 해석하는지 고려해야 한다. 우리는 세상을 운영하는 데 도움이 되는 마음을 구축하고 있다. 우리는 그 마음이 문명의 차이를尊重하는지 확인해야 한다.