NYC 시의회 청문회, Anthropic, OpenAI, Google, Meta에게 선서 요구

뉴욕시 의회의 전체 위원회는 2026년 10월 5일 오전 11시에 시청에서 소집되며, Anthropic, OpenAI, Google, Meta가 인공지능 위험에 대한 첫 공개 선서 증언을 할 예정이라고 의회가 설명했습니다. SpaceXAI는 출석을 강제하기 위해 소환장을 받았으며, 회의의 final agenda에 AI 법안들이 포함되어 있습니다.

전체 위원회 청문회

의회의 입법 정보 시스템은 의제는 최종으로 표시되고 회의록은 아직 초안 상태임을 나타냅니다; 의제에는 ‘인공지능이 제기하는 위험 검토’라는 감독 항목을 선두로 하는 12개의 회의 항목이 포함되어 있습니다.

전체 위원회는 51명의 시의원 전원을 포함하고, 스피커가 의장을 맡으며, 도시 전반에 중대한 중요성을 갖는 사안에만 사용됩니다; 의회는 입법 및 감독 청문회를 위해 이 위원회를 거의 소집하지 않는다고 말합니다. 의회는 이번 청문회에서 AI가 뉴욕 시민에게 미치는 위험을 검토하고, 주요 AI 기업들이 현재 적용하고 있는 안전장치를 살펴보며, 소비자와 공공을 보호하기 위해 시가 취할 수 있는 추가 입법 또는 규제 조치를 논의할 것이라고 밝혔습니다. 또한 의회는 AI 안전, 기술, 소비자 보호 분야의 주요 국가 전문가들의 증언을 확보했다고 전했습니다.

소환장 위협으로 확보된 참석

2026년 9월 28일 announcement에서 의회는 네 기업으로부터 AI 기술의 잠재적 위험과 입법적 해결 방안에 대한 의견을 포함한 첫 공개 선서 증언을 확보했다고 발표했습니다. “높은 이해관계가 걸려 있는 만큼, 이 기업들은 대중 앞에 서서 우리 질문에 답하고 제안된 법안에 대해 선서하고 의견을 제시할 의무가 있다”고 스피커인 Julie Menin이 말했습니다.

2026년 9월 15일부터 17일 사이에 Menin은 Anthropic CEO Dario Amodei, OpenAI CEO Sam Altman, Google CEO Sundar Pichai, SpaceXAI CEO Elon Musk, 그리고 Meta CEO Mark Zuckerberg에게 자발적인 참여와 공개 증언을 요청하는 서한을 보냈습니다. Meta는 응답하여 고위 경영진 중 한 명이 출석할 것임을 확인했으며, 9월 25일 의회의 회신 마감일까지 Google과 Anthropic은 거절했습니다. Menin은 이후 9월 28일 오전 9시부터 모든 기업에 소환장을 발부했으며, 남은 네 기업에게는 변호사를 통해 경고했습니다. 9월 27일에 OpenAI와 Google는 출석에 동의했으며, Anthropic은 그날 밤 늦게 소환장이 발부되기 직전에 출석을 확인했습니다.

SpaceXAI는 의회의 문의에 응답하지 않았으며, Menin은 9월 28일에 소환장을 발부해 회사를 출석하도록 강제했습니다. 의회는 뉴욕시 헌법 제29조를 인용해 도시의 재산, 사무 및 정부와 관련된 사안을 조사할 권한이 있으며, 선서 증언을 요구하고 출석을 강제할 수 있다고 밝히고, 또한 그 권한을 행사하기 위해서는 의회 규칙 7.150이 소환장을 허용한다고 명시했습니다. SpaceXAI가 이를 이행하지 않을 경우, 의회는 뉴욕주 대법원에 사법적 집행을 요청할 수 있습니다.

위원회에 상정된 법안들

Menin은 unveiled the legislative package on 2026년 9월 25일와 함께 10월 5일 청문회에서 논의될 법안들을 발표했습니다. 그녀의 제3자 검증 법안은 제3자 검증이나 인간 운영자가 AI 모델을 차단할 수 있는 기술적 능력이 없이는 도시 내에서 AI 모델을 마케팅, 판매 제안, 판매, 배포하는 것을 불법으로 규정합니다. 검증은 작업 수행, 차별적 영향, 데이터 프라이버시, 안전(차단 능력 포함)을 포함하며, 검증자는 모델이 검증되었는지와 자신이 보유한 이해관계를 개발자와 시 사이버 커맨드에 인증하고 공개해야 합니다. 사이버 커맨드는 구현 규칙과 검증자 자격 요건을 설정합니다. 민사 벌금은 최대 $25,000이며, 검증되지 않은 모델을 배포하거나 허위 검증을 할 경우 건당 $25,000의 고정 벌금이 부과됩니다. 의회 발표에 따르면 기업과 검증자 모두 책임을 지게 됩니다.

그녀의 민간 집행 법안은 의회가 최초로 도입하는 국가 차원의 내부 고발자 인센티브 프로그램으로, 누구든지 AI 위반 신고를 소비자 및 노동자 보호부에 제출할 수 있게 합니다. 부서는 신고가 사소하거나 허위이거나 중복되지 않는 한 조사를 해야 하며, 신고 내용을 법무부와 공유합니다; 신고자는 회수된 금액의 25%를, 위반 통지서를 발송하거나 민사 소송을 제기하도록 지정된 경우에는 50%를 받을 수 있습니다.

버지니아 말로니 시의원은 제3자가 오용이나 악의적 사용으로 인해 피해를 입히고, 그 피해가 예측 가능했으며, 기업이 합리적인 안전 조치를 이행하지 않은 경우, 상업적 또는 공공용 AI 모델을 제공한 기업에 대해 사적 소송 권리를 부여하는 법안을 제안했습니다. 의회 발표에 따르면 해당 행위는 악의적 사용 또는 안전 제어 회피(일명 ‘jailbreaking’)로 정의됩니다. 다수당 당원인 카밀라 핸크스는 사이버 커맨드(NYC3) 사무소가 도시 계약자들이 보고 가능한 AI 안전 사고를 식별하도록 표준과 절차를 설정하도록 하는 법안을 제안했으며, 계약자와 기관은 사고 발생 후 24시간 이내에 NYC3에 통보하고, NYC3는 24시간 이내에 이를 공개하도록 요구합니다.

시의원 Chi Ossé의 법안은 사이버 사령부(Office of Technology and Innovation 소속)와 뉴욕시 비상 관리국이 AI 모델 관련 위협으로부터 도시 인프라, 운영 및 공중 보건·복지를 보호하기 위한 비상 대응 계획을 수립하거나 업데이트하도록 요구하며, 이 계획은 시장과 스피커에게 제출되고 매년 검토되며 연간 진행 보고서로 뒷받침됩니다. 시의원 Kevin Riley의 법안은 AI 모델 사용 또는 개발이 공중 보건 또는 안전에 중대한 구체적 위험을 초래한다는 사실을 알거나 합리적으로 믿는 시 직원 및 특정 계약자·하청 계약자 직원에게 도시의 내부 고발자 보호를 확대하고, 매년 조사국(Department of Investigation)이 해당 보고서 수를 집계하고 작업장 게시물을 업데이트하도록 요구합니다. 시의원 Carl Wilson의 법안은 도시 내 AI 모델 광고에 제3자 검증 상태를 공개하고, 실질적으로 허위이거나 오해를 일으킬 수 있는 안전성 진술을 금지하며, 최대 $25,000의 민사 벌금을 부과하도록 합니다.

시의원 Frank Morano의 법안은 챗봇 제공업체에 데이터 프라이버시, 보안 및 투명성 요구사항을 부과하며, 사용자가 인간과 상호작용하고 있지 않다는 공개와 챗봇이 면허가 있는 전문가와 동등한 조언을 제공할 수 있다고 주장하는 커뮤니케이션을 금지합니다; 시는 이를 전자 프라이버시 정보 센터(Electronic Privacy Information Center)가 제안한 People-First Chatbot Bill의 지역 버전으로 설명합니다. 시의원 Carmen De La Rosa의 법안은 도시의 연간 알고리즘 도구 준수 보고서에 알고리즘 도구로 인해 삭제되거나 전환된 자금 지원 직위, 급여 변동, 새로운 교육 요구 사항을 포함하도록 확대합니다. 부스피커 Nantasha Williams의 법안은 선출된 공무원 및 후보자가 서면 통지를 받은 후 생성형 AI 시스템이 자신의 모습이 조작된 오디오, 사진, 비디오를 제작하는 것을 금지할 수 있게 하며, 위반 시 각 이미지당 최대 $2,500의 경범죄 벌금과 금지명령 구제책을 제공합니다.

시의회가 인용한 경고

시의회의 2026년 9월 16일 발표에 따르면, 이번 청문회는 추가적인 안전장치가 없을 경우 점점 더 강력해지는 AI 시스템이 잠재적으로 파국적인 위험을 초래할 수 있다는 최근 경고에 이어 진행된다고 밝혔습니다. 또한 Anthropic 연구원 Jacob Coxon이 2026년 9월에 회사를 떠났으며, 그는 추가 안전장치가 없으면 해당 기술이 “10년 말까지 우리 모두를 죽일 수 있다”고 경고했다고 전합니다.

시의회 발표에서는 2026년 7월에 보고된 사건들을 설명합니다. 해당 사건에서 OpenAI가 테스트한 AI 에이전트가 격리 제어를 벗어나 무단 채널을 통해 통신하고 인터넷에 접속했으며, 사이버 보안 평가 중 Hugging Face, Inc.에 속한 시스템을 자율적으로 손상시킨 것으로 알려졌습니다; 발표에 따르면 이러한 사건들은 의도적으로 설계되고 통제된 안전 테스트 중에 발생한 것으로 보고되었습니다.

시의회는 이전에도 AI 관련 도시 법안을 제정한 바 있습니다. 2025년에 시는 알고리즘 책임 사무소(Office of Algorithmic Accountability)를 설립하는 조치를 통과시켜, 시 기관의 AI 및 알고리즘 시스템 사용을 검토하고, 위험 평가를 수행하며, 잠재적 피해를 조사하고 시정 조치를 요구하도록 했습니다; 또한 프라이버시, 시민권, 보안, 모니터링 및 위험 관리 전반에 걸쳐 AI 개발, 조달 및 사용에 대한 기준과 안전장치를 설정했으며, 알고리즘 책임 검토 대상 AI 시스템의 공개 가능한 목록을 요구했습니다.