뉴욕주, 주 전역 AI 안전성 테스트 네트워크 출범

캐시 호컬 뉴욕주지사는 2026년 11월 10일 주 전역에서 AI 과학 및 안전성 증진 사업을 시작하고, Binghamton University의 뉴욕 AI 책임성·연구센터에 최첨단 모델의 독립적 테스트와 80명이 넘는 연구자 네트워크 운영을 맡겼다.

NYCAIRR로 알려진 이 센터는 독립 평가, 기초 과학 연구, AI 안전 전문가 양성을 통해 이 사업을 추진할 예정이다. 현재 시스템을 평가하는 것은 물론, 성능이 갈수록 강력해지는 모델을 위한 측정 도구와 기준을 개발하는 일도 센터의 업무에 포함된다. 주지사실은 이 연구가 공직자에게 AI 안전성과 책임성에 관한 의사결정에 활용할 객관적 근거를 제공하는 한편, 의학, 과학적 발견, 핵심 기반시설 분야에서 책임 있는 AI 활용을 뒷받침하기 위한 것이라고 밝혔다.

뉴욕주 전역에서 진행되는 독립 테스트

Cornell Tech 학장 겸 부총장인 그레그 모리셋과 Columbia University 연구 담당 부총장인 재닛 윙이 임시 공동 책임자를 맡는다. 이들은 과학 연구 의제를 이끌고 독립 평가를 감독하며 주 전역의 네트워크를 구축한다. 네트워크 참여자들은 각자 소속 기관에 계속 머물 예정이다. 센터는 공익을 위한 AI 연구를 지원하는 5억 달러 규모의 민관 협력 사업인 Empire AI의 고성능 컴퓨팅 자원을 활용할 예정이다.

연구 의제는 고도화된 시스템의 작동 방식, 안전성과 보안을 테스트하는 방법, 시스템이 의도대로 작동하는지 여부, 과학적 발견에 AI를 책임 있게 활용하는 방법을 아우른다. 전국 단위 인재 모집을 통해 수학 이론, 형식 기법 및 검증, 에이전트형 시스템과 복합 시스템, 하드웨어 보안 및 개인정보 보호, 해석 가능성 및 정렬, 과학 분야 AI 및 생물안보 전문가를 찾을 예정이다.

호컬 주지사는 개발사 자체 설명을 검증하기 위한 수단으로 독립 연구를 제시했다. 그는 “위험이 너무 커서 AI 기업의 말을 곧이곧대로 믿을 수는 없습니다”라고 말했다.

이 센터는 2026년 1월 21일 처음 발표됐으며, 빙햄턴대 동문이자 Bloomberg LP 공동 창업자인 톰 세쿤다가 이끄는 기부자 그룹의 3,000만 달러 자선 기부와 State University of New York의 별도 2,500만 달러 연구 자본 투자로 설립된다. 뉴욕주도 운영 자금을 지원한다. 11월 출범은 주 전역 네트워크와 독립 평가 프로그램을 더해, 공립대학 연구를 위한 당초의 사명을 확장한다.

RAISE법에 따른 감독과의 연계

연구 개시와 함께 뉴욕주는 「책임 있는 AI 안전 및 교육법」에 따라 RAISE Portal을 개설했다. 대규모 프런티어 AI 개발사는 2027년 1월 1일까지 이 포털을 이용해 주 정부에 등록해야 한다. 금융서비스부 산하 디지털 혁신·거버넌스·청렴·신뢰국(DIGIT)이 이 법을 시행하고 있다.

뉴욕주에서 사업을 운영하는 모든 최첨단 AI 개발사에는 안전성 및 투명성 요건이 적용되며, 대규모 개발사에는 추가 의무가 부과된다. 2027년 1월부터 대규모 개발사는 안전성 프레임워크를 공개해야 하며, 모든 최첨단 AI 개발사는 중대한 안전 사고를 보고하고 모델 투명성 보고서를 공개해야 한다. 주 정부의 2026년 9월 21일 시행 발표에 따르면 대규모 개발사는 중대한 안전 사고를 72시간 이내에 DIGIT에 보고하고, 재앙적 위험 평가서를 분기별로 제출하며, 최소 2년에 한 번 공개 진술서를 제출해야 한다.

주 정부의 요청이 있으면 NYCAIRR은 최첨단 AI 감독에 필요한 전문 지식과 평가, 근거를 제공할 수 있다. 또한 DIGIT와 협력해 개발사가 공개한 안전성 프레임워크를 검토하고 요건을 강화할 방안을 권고할 예정이다.

이 구조는 규제 행정과 독립적인 기술 지원을 분리한다. DIGIT가 등록과 보고를 담당하는 한편, 연구 네트워크는 고도화된 시스템을 테스트하고 개발사의 공개 자료를 뒷받침하는 프레임워크를 검토하는 역할을 맡는다. 1월 의무사항이 시행되면, 기업 자체 공개 자료를 넘어 공직자에게 유용한 근거를 제공할 수 있는지가 뉴욕주 접근법의 실질적인 시험대가 될 것이다.