윤리
AI 안전과 의료를 둘러싼 반대 시위에 휩싸인 Anthropic의 IPO

핵심 포인트시위대는 Anthropic이 업계의 상호 조치를 기다리기보다 재귀적 자기 개선에 반대하는 검증 가능한 조치를 발표할 것을 요구한다.
더 보기
- 시위대는 Anthropic이 업계의 상호 조치를 기다리기보다 재귀적 자기 개선에 반대하는 검증 가능한 조치를 발표할 것을 요구한다.
- Anthropic의 투자설명서는 Claude가 후속 모델을 구축하는 것을 제약해야 할 위험이 아니라 구조적 이점으로 규정한다.
- 창업자가 보유한 단일 F종 주식은 50.1%의 의결권을 가지며, 신탁이 대부분의 이사를 선임한다.
ACT UP NY와 Ban RSI는 Anthropic이 2026년 11월 19일 공개 시장에 진출하는 가운데 뉴욕과 샌프란시스코에서 각각 별도의 시위를 조직했다. 이들은 의료 분야의 AI와 재귀적 자기 개선에 반대했으며, 별도의 캠페인에서는 AI 투자와 퇴직 저축 자금의 사용을 문제 삼아 금융기관에 변화를 촉구했다.
뉴욕과 샌프란시스코에서 열린 시위
ACT UP NY는 동부시간 오전 8시 30분에 4 Times Square로 지지자들을 불러 모았다. Anthropic이 그곳에서 Nasdaq 기업공개(IPO) 행사를 진행하고 있었다. 시위 안내문은 참가자들에게 ‘AI Out Of Our Healthcare’ 현수막을 들고 전단을 배포하며, 집회와 기자들 앞에서 발언할 수도 있다고 알렸다.
ACT UP의 안내문에 따르면 이 단체가 반대하는 관행 중 일부는 이미 병원과 진료실에서 시작됐다. 우려 사항으로는 AI가 의료진의 대면 검진이나 병원 직원을 대체하고, 치료와 결과에 영향을 미치며, 건강 데이터를 학습에 사용하고, 인종·성별·성소수자에 대한 편견을 보일 수 있다는 점이 포함된다.
Ban RSI의 집회 안내 페이지에는 샌프란시스코 500 Howard Street에 있는 Anthropic 사무실 밖에서 별도의 집회를 연다고 공지돼 있었다. 행사 공지에는 집회 시간이 태평양시간 오전 11시부터 정오까지로 명시됐다.
이후 행사 공지에는 주최 플랫폼의 RSVP 상태 중 하나인 ‘Went’ 항목에 계정 164개가 표시됐다. 이는 확인된 실제 참석 인원수가 아니다. Ban RSI는 전직 AI 연구원 Jacob Coxon과 Daniel Kokotajlo, AI 안전 교육자 Rob Miles가 연사로 참석할 예정이라고 밝혔다.
재귀적 자기 개선을 둘러싼 논쟁
Ban RSI는 재귀적 자기 개선을 더 강력한 AI를 만드는 일을 AI가 수행하는 것으로 정의한다. 이 단체는 대형 AI 기업이 집회 당시 사용할 수 있는 시스템보다 더 강력한 시스템을 AI 연구에 활용하지 못하도록 금지해야 한다고 주장하며, 가능하다면 국제 조약을 통해 이를 실현하고자 한다. 제안된 집행 방안에 따르면 더 강력한 시스템에는 내부적으로도 이러한 연구를 차단하는 안전장치를 갖춰야 하고, 해당 안전장치는 레드팀 테스트를 거쳐야 한다. 또한 AI의 역량을 분명히 높이지 않는 모니터링 및 안전 연구는 예외로 허용해야 한다.
이 단체는 일방적인 개발 중단을 요구하지 않는다. 대신 Anthropic이 재귀적 자기 개선을 피하기 위해 취할 구체적이고 검증 가능한 조치를 발표하기를 원한다. 여기에는 다른 AI 기업에도 같은 조치를 촉구하거나 관련 법안을 지지하는 활동이 포함될 수 있다.
Anthropic의 최종 투자설명서는 개발 과정을 순환 구조로 만드는 것이 구조적 이점이라고 설명한다. 연이은 Claude 버전은 실험, 학습 데이터 생성과 처리, 평가, 안전성 감사, 코드 작성 및 검토를 통해 다음 버전의 개발을 돕는다.
Anthropic Institute의 한 글은 AI 시스템이 자율적으로 후속 시스템을 설계하고 개발하는 것을 뜻하는 완전한 재귀적 자기 개선은 아직 실현되지 않았으며, 필연적으로 일어나는 일도 아니라고 말한다. 또한 이러한 역량이 생기면 인간이 통제력을 잃을 위험이 커질 수 있다고 지적한다. 이 글은 Claude가 더 많은 엔지니어링 및 연구 업무를 맡고 있지만, 어떤 목표와 실험을 추구할지 판단하는 능력에는 여전히 부족한 점이 있다고 설명한다.
회사는 다른 개발자들이 최첨단 수준에 있거나 그에 근접한 상태에서 검증 가능한 방식으로 개발을 늦추면, 자사도 속도를 늦추거나 일시적으로 중단할 것으로 본다고 밝혔다. 회사가 제안한 조건에는 여러 국가에 충분한 자원을 갖춘 연구소가 여럿 있어야 하며, 준수 여부를 확인할 수 있는 시스템이 있어야 한다는 내용이 포함된다.
Anthropic은 일방적인 개발 중단은 효과가 제한적이고 업계 선두 기업을 바꿔 놓을 수 있다고 주장한다. 이 점에서 일방적인 중단 요구를 거부하는 Ban RSI와는 의견이 일부 일치하지만, 당장 무엇을 해야 하는지를 두고는 차이가 있다. 시위대는 Anthropic이 직접 검증 가능한 조치를 발표하기를 원하는 반면, 회사는 상호적인 조치가 있을 때 중단할 수 있다고 밝혔다.
퇴직연금과 주주 통제권
Action Center on Race and the Economy, Stop Funding Billionaires, Climate Defenders와 여러 단체가 후원하는 별도의 공동 청원은 Anthropic의 IPO 불매, 모든 AI 및 데이터센터 투자 중단, 납세자 세금이나 퇴직연금 자금으로 AI 기업을 구제하지 않겠다는 약속을 촉구한다. 이 청원은 공모를 인수하거나 진행을 지원하는 은행 임원, 주 및 지방정부의 재무 담당자, 자산운용사와 기관투자자에게 전달된다. 기관투자자에는 대학 기금과 재단도 포함된다.
재무적 반대 의견은 기업공개 이후 Anthropic을 누가 통제할 수 있는지에도 주목하게 한다. 최종 투자설명서에는 A종 주식 9억 8,000만 주의 공모가가 주당 83달러로 책정돼 총 공모 규모가 813억 4,000만 달러라고 명시됐다. 창업자들의 Founder LLC가 보유한 F종 주식 한 주에 일반 의결권의 50.1%에 해당하는 의결권을 부여하고, 장기 이익 신탁(Long-Term Benefit Trust)은 일반적으로 이사회의 과반수를 차지하는 T종 이사를 선임하고 해임할 수 있도록 규정하고 있다. A종 주식은 한 주당 1개의 의결권을 가진다.
이러한 구조에서는 창업자들의 법인이 일반 의결권을, 신탁이 이사 선임권을 집중적으로 보유한다. 기업공개(IPO) 이후에도 책임성을 둘러싼 두 가지 질문이 남는다. Anthropic의 개발 관행을 검증 가능한 방식으로 제약할 수 있는지, 그리고 이러한 지배구조가 인류의 장기적 이익을 위한 책임 있는 AI 개발이라는 회사의 공익 목적을 지켜낼 수 있는지다.












