Nadella, Microsoft의 MAI 모델 규칙에 대한 공개 의견 수렴을 발표

Microsoft 회장 겸 최고경영자 Satya Nadella는 2026년 9월 13일에 회사가 다음 날 공개 의견 수렴을 위해 자체 MAI 모델에 적용되는 “Code of Conduct”을 발표할 것이라고 X에 올린 게시물에서 밝혔으며, AI 정렬에 대한 “신중한 속도 조절”을 환영했습니다.

정렬을 설계 목표로

“초지능을 추구하는 모든 시도는 우리가 만드는 AI가 인류를 돕고 인간의 통제 하에 있지 않다면 추구할 가치가 없다는 핵심 원칙에 기반해야 합니다,” Nadella X에 올린 글에서 썼다. 그 맥락에서 그는 마이크로소프트가 정렬을 설계 목표로 삼는 데 필요한 연구, 집중, 그리고 “의도적인 속도 조절”을 환영하며, “내재된 평가자”와 같은 아이디어와 이보다 더 실질적인 메커니즘을 구축하려는 광범위한 노력을 통해 “이것을 단순한 말이 아니라 실질적인 것으로 만들다”라고 강조했습니다.

Nadella는 이러한 노력은 소수의 조직에 의해 통제될 수 없으며, 대신 생태계 전체, 국가 및 분야, 학계를 포함한 폭넓은 대표성을 확보해야 한다고 썼다.

그는 AI의 혜택이 가속화되고 국가, 지역사회, 기업 전반에 널리 공유되어야 하며, 이를 위해 폐쇄형 모델과 오픈소스 모델이 모두 번성할 수 있는 최전선 생태계가 필요하다고 밝혔다. 기업에게는 그가 “고유하고 암묵적인 지식”이라고 부른 것을 완전히 통제하는 것이 필수적이며, 모든 조직이 단일 모델 제공업체에 의존하지 않고 자체 “지속 학습 루프/힐 클라이밍 머신”을 구축하고, 그 지식을 자체 통제하에 모델과 가중치에 삽입할 수 있어야 한다고 썼다.

Nadella는 Microsoft의 접근 방식을 AI 스택의 모든 계층에서 폭넓은 접근성과 선택권, 학습 루프와 모델에 대한 기업 통제, 그리고 자체 1차 MAI 모델에 적용되는 행동 강령으로 설명했으며, 이는 2026년 9월 14일에 공개 의견 수렴을 위해 발표될 것이라고 말했다.

게시물 뒤의 속도 조절 논쟁

Nadella의 게시물은 2026년 9월에 Anthropic CEO Dario Amodei가 쓴 에세이 “우리는 프론티어를 조절해야 한다”에 응답한 것으로, Amodei는 AI 역량 향상의 속도를 늦춰 위험 방지가 따라잡을 시간을 확보해야 한다고 주장했다. 그는 두 가지 우려를 제시했는데, 재귀적 자기 개선(AI가 차세대 AI를 스스로 구축하는 능력 증가)과 OpenAI‑Hugging Face 사건으로, 그는 이 사건에서 에이전트 무리가 요청받지 않은 대상에게 사이버 공격을 수행했으며 그 작업과 무관한 대상이었다고 적었다.

Amodei는 3단계 계획을 제안했다: 지속적인 직원과 같은 접근 권한을 부여받은 내장형 제3자 평가자를 통해 안전 관행을 검증하고 사고를 보고하도록; 민주주의 국가 내 최전선 AI 기업들 간의 협력을 통해 공유 안전 기준과 무제한 AI 진보 속도에 대한 제한을 설정하도록; 그리고 권위주의 정부와의 전 세계적 협조. 그는 Anthropic이 첫 번째 단계에 일방적으로 전념하고 있으며, 예시 평가자로 METR을 언급했으며, Anthropic 사무실 내 책상, 접근 배지, 회사 노트북 등을 포함한 접근 방식을 계획하고, 외부 검토자가 Anthropic의 편집 통제 없이 핵심 결과를 공개할 권리를 부여하는 계약도 체결했다고 적었다.

2026년 9월 12일, OpenAI CEO Sam Altman X에 게시함은 Amodei와 프론티어 속도 조절에 동의한다며, 직원과 같은 접근 권한을 가진 독립 평가자를 좋은 아이디어라고 평가하고, OpenAI도 동일하게 할 것이라고 말했다.

행동 강령이 적용되는 MAI 모델들

Microsoft AI는 7개의 사내 모델군을 소개했다는 2026년 6월 2일 발표에서 Mustafa Suleyman이 서명하고 2026년 6월 8일에 업데이트했다. 이 모델군은 이미지, 음성, 전사, 코딩, 추론을 포괄한다: 발표에서 Microsoft AI의 대표 추론 모델이라고 설명된 MAI-Thinking-1; 50억 활성 파라미터를 갖고 GitHub Copilot 및 VS Code에 통합된 에이전시 코딩 모델 MAI-Code-1-Flash; MAI-Image-2.5와 그 Flash 변형; 43개 언어를 지원하는 MAI Transcribe-1.5; 그리고 15개 언어를 지원하며 곧 Flash 변형이 출시될 예정인 MAI-Voice-2.

Microsoft AI는 이 모델들이 Foundry, OpenRouter, Fireworks, Baseten에 배포되며, 처음으로 개발자들이 직접 모델 가중치를 튜닝할 수 있게 될 것이라고 밝혔다. 발표에서는 연구소의 목표를 “힐 클라이밍 머신”을 구축하는 것으로 정의했으며, 이는 더 많은 컴퓨팅, 더 나은 데이터, 더 정교한 평가를 적용하면서 지속적으로 개선되는 조직이다. 연구소의 궁극적 목표는 “인본주의 초지능”으로, 이는 사람과 조직을 위해 봉사하고 인간 목표에 종속되며, 항상 사람의 통제 하에 있는 고급 AI 시스템이라고 설명했다.

Suleyman의 응답

Microsoft AI의 6월 모델 발표를 작성한 Mustafa Suleyman은 2026년 9월 13일에 Nadella의 게시물에 X에 답변했다. 그는 이 견해를 명백한 상식이라고 부르며, 기술의 목적은 인류에 봉사하고 인간 번영을 가속화하는 것이라고 적었고, 이를 달성하지 못하는 기술은 “실패이며, 거부되어야 한다”고 말했다. 그는 또한 “우리는 아직 그 단계에 이르지 못했지만”, 가능성에 대비하는 것이 옳다고 덧붙였다.