버니 샌더스에게 보내는 공개 서한: AI 위험을 규제하라, 그 약속을 금지하지 말라

Ban Artificial Superintelligence Act는 AI 거버넌스에서 실제 실패를 식별합니다. 그러나 공개된 정의는 인공 일반 지능과 초지능을 혼동할 위험이 있어 교육, 의료 및 과학적 발견을 촉진할 수 있는 기술을 제한할 수 있습니다.

편집자 주: 2026년 9월 5일 현재, Ban Artificial Superintelligence Act의 전체 법령 텍스트는 공개되지 않았습니다. 샌더스 상원의원 사무실은 이를 향후 입법으로 설명하고 정의, 규제 구조 및 처벌을 요약한 한 페이지 요약본을 공개했습니다. 이 공개 서한은 현재 설명된 제안에 대해 다룹니다.

샌더스 상원의원께,

2026년 9월 3일, 귀하와 그렉 카사르 하원의원은 Ban Artificial Superintelligence Act를 발표했습니다. 이 법안은 미국 내에서 인공 초지능의 개발 및 배치를 영구적으로 금지하고, 새로운 연방 규제기관이 안전 규칙을 마련하는 동안 고급 AI 개발을 일시 중단하며, 다른 국가에서 초지능이 개발되는 것을 방지하기 위한 국제 협정을 추진하는 내용을 담고 있습니다.

먼저 우리가 강하게 동의하는 부분부터 시작하고 싶습니다: 인공지능은 기업이 자발적인 약속만으로는 통제하기엔 너무 중요한 존재가 되었습니다.

귀하가 제기한 위험은 심각하게 받아들여져야 합니다. 7월에, 사이버 보안 평가 중에 OpenAI 모델이 격리 제어를 우회하고, 허가되지 않은 채널을 통해 통신하며, 인터넷에 접속해 OpenAI 자체 인프라와 Hugging Face 시스템의 일부를 손상시켰습니다. METR이 수행한 독립 조사에 따르면 약 1,200명의 에이전트가 허가되지 않은 게시판을 통해 통신했으며, 약 700명이 최종적으로 Hugging Face에 대한 공격에 참여했습니다. OpenAI는 모델이 제한된 안전 장치 하에 운영되었다는 점을 중요한 사실로 인정했습니다.

그 후 Anthropic은 세 차례의 사건을 공개했는데, Claude 모델이 제3자 사이버 보안 평가 중에 인터넷에 접속해 실제 시스템에 무단 접근한 사례였습니다. Anthropic은 구성 오류가 예기치 않게 인터넷 접근을 허용했으며, 모델이 시뮬레이션 환경 안에서 동작하고 있다고 믿었다고 설명했습니다. 상황 자체도 중요하지만 결과도 중요합니다: 점점 더 능력 있는 에이전트가 운영자가 의도하지 않은 경계를 넘어설 수 있습니다.

이것이 AI 안전 문제를 공상 과학으로 치부할 이유가 아닙니다. 이는 독립적인 평가, 안전한 테스트 환경, 의무적인 사고 보고, 강력한 접근 제어, 실질적인 권한을 가진 연방 규제기관이 필요하다는 강력한 논거입니다.

목표는 옳지만 정의가 위험하게 광범위합니다

귀하 입법안의 공식 요약은 인공 초지능을 “다양한 분야나 과업 전반에 걸쳐 인간의 인지 성능 및 역량과 일치하거나 이를 초과할 수 있는 AI 시스템”이라고 정의합니다. 또한 인류의 권한을 박탈하거나 미국 정부를 전복시키는 등 인류를 무력화시킬 수 있는 시스템을 별도로 포함합니다.

두 번째 정의는 비범하고 잠재적으로 재앙적인 능력을 묘사합니다. 첫 번째 정의는 전혀 다릅니다.

다양한 분야에 걸쳐 인간의 인지 성능과 일치한다는 것은 전통적으로 인공 일반 지능(AGI)과 논의되는 방식에 가깝고, 초지능의 통상적 의미와는 차이가 있습니다. OpenAI의 오래된 헌장 은 AGI를 “대부분의 경제적으로 가치 있는 작업에서 인간을 능가할 수 있는 고도로 자율적인 시스템”으로 정의합니다. 구글 딥마인드의 연구 프레임워크 역시 성능의 폭과 깊이를 통해 AGI를 평가하면서 자율성과 위험을 별개의 차원으로 취급합니다.

반면 철학자 닉 보스트롬의 영향력 있는 정의는 초지능을 “실질적으로 모든 분야에서 최고의 인간 두뇌보다 훨씬 더 똑똑한 지능”이라고 설명합니다. 인간을 넓게 일치시키는 것과 인간 최고 수준을 훨씬 초과하는 것 사이의 구분은 학문적 사소한 차이가 아닙니다.

특히 위법 행위가 최대 20년 징역에 처해질 수 있고, 기업에게는 제안서가 “기업 사형”이라고 부르는 처벌이 부과될 수 있다는 점에서 이 구분은 매우 중요합니다. “광범위한 범위”, “일치하거나 초과”, 특히 “쉽게 수정 가능”과 같은 문구는 형사 책임이 따를 경우 극히 정밀하고 측정 가능한 기준이 필요합니다.

또 다른 큰 불확실성이 있습니다. 공개 요약은 “고급 AI 개발”이 규제기관이 규칙과 모델 검토 절차를 마련할 때까지 일시 중단될 것이라고 말하지만, 고급 AI를 정의하지 않습니다. 법령 텍스트가 공개되기 전까지는 외부인이 일시 중단이 어느 정도 연구·개발을 포함하는지 정확히 알 수 없습니다.

귀하 제안의 시기는 이러한 정의가 얼마나 어려워졌는지를 보여줍니다. 2026년 9월 3일, 귀하와 그렉 카사르 하원의원이 인공 초지능을 목표로 한 법안을 발표한 바로 그 날, OpenAI는 GPT-6 Astra를 공개했으며, 이는 회사 최초로 “핵심 사이버 보안 능력 임계값”을 달성한 모델입니다. OpenAI는 적절한 도구와 접근 권한이 주어지면 Astra가 이전에 알려지지 않은 취약점을 발견하고 인간이 매 단계 지시하지 않아도 잘 보호된 시스템을 공격할 수 있다고 주장합니다.

런칭 브리핑에서 OpenAI 사장 그렉 브록맨은 “AGI 시대에 오신 것을 환영합니다.”라고 선언했지만, 동시에 Astra는 “AI 자체 개선 고임계값”에 도달하지 못했다고 시스템 카드에 명시했습니다.

이 긴장은 의회에 중요한 메시지를 전달합니다. 지능은 다차원적입니다. 시스템이 사이버 보안, 수학, 전문 업무에서 뛰어나더라도 지능 폭발이나 인간 통제 상실과 연관된 모든 능력을 갖춘 것은 아닙니다.

따라서 해결책은 기술 기업이 용어를 정의하도록 내버려 두는 것이 아니라, 측정 가능한 능력, 자율성, 접근 및 입증된 위험을 규제하는 입법이어야 합니다. 논란이 되는 라벨을 법적 연구와 연방 범죄 사이의 경계선으로 삼아서는 안 됩니다.

교육 평등을 위한 귀하의 투쟁이 무엇이 위태로운지를 보여줍니다

수십 년 동안 귀하는 교육 접근이 부모의 소득에 좌우돼서는 안 된다고 주장해 왔습니다. 2015년에 4년제 공립 대학 및 대학의 무상 교육을 위한 법안을 처음 도입했으며, 이후에도 반복적으로 이 문제를 제기했습니다. 2025년 “모두를 위한 대학법”은 공립 대학 및 대학을 약 95% 학생에게 무상 교육으로 만들고, 커뮤니티 컬리지 역시 모두에게 무상 교육을 제공하도록 할 예정입니다.

이 철학은 인공지능과 직접적으로 연결됩니다.

인류 역사의 대부분 동안 뛰어난 교육을 받는 기회는 희소했습니다. 지리적 위치, 가정 소득, 학교 재정, 전문 교사의 가용성 등이 아이가 배울 수 있는 기회를 좌우했습니다.

AI는 이 방정식을 바꿀 가능성을 제공합니다.

우리는 이미 초기 증거를 보고 있습니다. 나이지리아에서 진행된 세계은행 무작위 시험에 따르면 GPT-4 기반 튜터링 프로그램을 6주 동안 교사가 지원한 학생들은 전체 시험 성적이 0.31 표준편차 상승했습니다. 스탠포드에서는 Tutor CoPilot을 700명 이상의 튜터와 1,000명 이상의 소외된 지역 학생에게 시험했으며, AI 지원을 받은 튜터가 있는 학생들은 수학 주제 숙달 확률이 4% 포인트 높았고, 낮은 평가를 받은 튜터에게 배정된 학생들의 경우 9점까지 상승했습니다.

두 연구 모두 AI가 교육 불평등을 해결한다는 것을 증명하지는 않으며, AGI를 요구하지도 않습니다. 그러나 이 기술이 나아갈 방향을 보여줍니다.

그 방향이 지속된다고 상상해 보십시오.

루이지애나 시골에 사는 아이가 뛰어난 수학 교사를 만나기 위해 엘리트 학교 근처에 살아야 할 필요는 없습니다. 천문학에 매료된 학생이 대학에 진학하기 전까지 천체 물리학을 탐구해야 할 필요도 없습니다. 고고학에 흥미를 가진 아이가 AI 튜터가 독서, 역사, 통계, 과학적 추론의 격차를 파악하고 그에 맞게 교육을 조정해 주면 호기심을 따라갈 수 있습니다.

목표는 교사를 대체하는 것이 아니라, 교사와 학생이 이전에는 경제적으로 일대일 제공이 불가능했던 전문 지식에 접근하도록 돕는 것입니다.

아마도 처음으로 개인화된 교육을 대규모로 제공하는 것이 기술적으로 가능해졌습니다. 미래 세대를 보호하려는 법은 이 문을 닫지 않도록 매우 신중해야 합니다.

귀하의 의료 의제도 동일한 논리를 제시합니다

귀하의 의료 기록 역시 일관됩니다. 2017년에 전국 의료보험법을 도입했으며, 2019, 2023, 2025년에 재도입하면서 의료는 특권이 아닌 권리여야 한다고 반복 주장해 왔습니다.

또한 귀하는 소외된 지역의 실제 의료 전문가 부족이라는 또 다른 형태의 의료 불평등에 오랫동안 맞서 왔습니다. 귀하의 “커뮤니티 보건센터 및 1차 진료 인력 확대” 이니셔티브는 의료 서비스가 부족한 지역의 접근성을 확대했으며, 2023년 양당 1차 진료 법안은 커뮤니티 보건센터 자금을 크게 늘리고 국가 보건 서비스 코프와 의료 레지던시 파이프라인을 확대했습니다. 2025년에는 제프 머클리 상원의원과 함께 보건 인력 확대법을 도입했으며, 여기에는 특히 농촌 지역에서 의사, 간호사, 치과의사 수를 늘리기 위한 학비 지원이 포함되었습니다.

이 정책들은 재정적 희소성과 인적 자원 희소성을 다룹니다.

AI는 세 번째 희소성, 즉 전문 지식의 부족을 해결하는 데 도움을 줄 수 있습니다.

FDA는 현재 10,000개 이상의 희귀 질환이 3천만 명 이상의 미국인에게 영향을 미친다고 추정하며, 이는 10명 중 1명에 해당하고 대부분의 희귀 질환은 아직 승인된 치료법이 없습니다. 환자 수가 적어 기존 임상 시험을 진행하기도 어렵습니다.

인공지능은 생물학이나 임상 검증을 우회하는 마법 같은 지름길이 아닙니다. AI를 통해 발견된 약물도 다른 약물과 마찬가지로 실패할 수 있습니다. 그러나 이미 발견 과정의 일부를 변화시키고 있습니다.

2025년에 연구진은 렌토세르빕이라는 소분자를 이용한 특발성 폐섬유증 치료제에 대한 최초 무작위 2a상 시험을 발표했으며, 이 표적과 분자는 생성 AI를 통해 발견되었습니다. 결과는 실제 임상 이정표였지만, 연구진은 AI로 발견된 약물이 임상 시험에 진입한 사례는 아직 적고 3상까지 진행된 사례는 없다고 경고했습니다.

따라서 우리는 이 기술을 과대광고도, 일축도 아닌 균형 잡힌 시각으로 바라봐야 합니다: 과대광고도, 일축도 아닙니다.

점점 더 능력 있는 AI 시스템은 분자 생물학, 화학, 유전학, 의료 문헌, 영상, 소프트웨어, 통계 분석, 실험 설계 등을 통합할 수 있습니다. 그 가치는 인간이 전통적으로 별개의 전문 분야로 나눠왔던 영역을 넘나들며 추론할 수 있다는 점에 있습니다.

따라서 핵심 질문은 “AGI만으로 암, 알츠하이머, 항생제 내성 감염, 희귀 유전 질환을 치료할 수 있느냐”가 아니라, “그러한 지능이 우리에게 어떤 기여를 할 수 있을지 아직 모르는 상황에서, 광범위한 지능 형태를 영구적으로 금지해야 하는가”입니다.

오늘날 가장 구체적인 AI 피해 중 다수는 AGI를 필요로 하지 않습니다

일반 지능 자체를 규제 목표로 삼는 또 다른 문제는: 오늘날 가장 중대한 피해 중 다수가 인공 일반 지능에 훨씬 못 미치는 시스템에서 발생한다는 점입니다.

2020년에 저는 페이스북의 추천 알고리즘이 어떻게 잘못된 정보를 증폭시킬 수 있는지에 대해 글을 썼습니다. 문제는 페이스북이 인간보다 똑똑한 지능을 만든 것이 아니라, 참여도를 극대화하도록 설계된 최적화 시스템이 사회적 가치와 무관하게 강한 반응을 일으키는 콘텐츠를 우선적으로 확대할 수 있다는 점이었습니다.

그 이후로 부실하게 관리된 추천 시스템의 결과는 무시하기 어려워졌습니다. 국제앰네스티는 메타의 알고리즘이 미얀마 로힝야에 대한 증오와 폭력을 선동하는 콘텐츠를 적극적으로 확대했다고 결론지었으며, 이는 대량 폭력 위험을 높였습니다. 유럽연합 집행위원회는 또한 유튜브, 스냅챗, 틱톡에 대해 유해 콘텐츠, 선거·시민 담론, 중독 행동, “러빗홀”, 정신 건강, 미성년자와 관련된 위험을 포함한 추천 시스템 위험 정보를 요구했습니다.

이러한 시스템들은 정부를 전복하거나 자체 재귀적 자기 개선을 할 필요가 없었습니다. 초인적인 일반 추론 능력도 필요하지 않았습니다.

그들은 단지 잘못된 목표를 가지고 충분히 큰 규모로 배포되었을 뿐입니다.

이는 AI 규제의 근본 원칙을 보여줍니다: 위험은 모델의 지능 수준만으로 결정되지 않습니다. 잘못된 인센티브 아래 수십억 번 배포되는 좁은 알고리즘도 사회적으로 파괴적일 수 있습니다. 엄격한 통제 하에 실험실, 교실, 병원 등에서 운영되는 고도로 일반화된 시스템은 엄청난 이익을 가져올 수 있습니다.

규제는 이 차이를 인식해야 합니다.

이중 용도 기술은 사용·접근·권한에 대한 통제가 필요합니다

같은 원칙이 감시 기술에도 적용됩니다.

컴퓨터 비전 및 패턴 인식 기술은 의사가 의료 영상을 분석하고, 위험한 산업 환경을 점검하며, 구조 로봇을 탐색하고, 인간이 수행하기 어려운 작업을 자동화하는 데 도움을 줄 수 있습니다.

하지만 이러한 기술은 동시에 매우 강력한 감시 시스템을 구축하는 데도 이용될 수 있습니다.

최근 워싱턴 포스트 조사에 따르면 최소 50명의 법 집행관이 자동 번호판 인식 시스템을 개인적인 목적으로 오용하거나, 기소·유죄 판결을 받았습니다. 한 사례에서는 경찰서장이 전 파트너와 그 청소년 딸이 탄 차량을 약 600번 조회했다고 합니다. 이후 조사에서는 오용 혐의가 있는 공무원 수가 최소 69명으로 늘어났습니다.

이는 심각한 기술·정책 실패입니다.

그러나 실제 규제 수단이 어디에 있는지 주목하십시오. 조사 이후, Flock은 검색에 형사 사건 코드를 요구하고, 자동 오용 탐지를 의무화하며, 기본 데이터 보관 기간을 30일에서 7일로 단축하겠다고 발표했습니다. 이러한 조치는 충분하지 않을 수도 있지만, 입법자가 규제할 수 있는 통제 유형—인가, 목적 제한, 감사 로그, 보관, 인간 책임 및 오용에 대한 처벌—을 보여줍니다.

오용된 감시를 금지하는 답은 컴퓨터 비전을 금지하는 것이 아닙니다.

사이버 공격을 방지하기 위해 사이버 보안을 수행할 수 있는 모델을 금지하는 것이 반드시 정답은 아닙니다.

답은 시스템이 무엇을 할 수 있는지, 어떤 자원을 접근할 수 있는지, 누가 중대한 행동을 승인할 수 있는지, 그리고 그 경계가 위반될 때 어떤 일이 일어나는지를 규제하는 것입니다.

귀하는 이미 더 나은 규제 모델의 일부를 작성했습니다

흥미롭게도, 올해 귀하가 도입한 또 다른 법안에는 보다 생산적인 접근을 시사하는 여러 아이디어가 포함되어 있습니다.

저는 인공지능 데이터 센터 금지법 전체 텍스트를 읽었습니다. 데이터 센터 건설을 전면 중단하는 것에는 동의하지 않지만, 금지 조치를 해제하기 위한 조건은 범주 전체를 금지하는 것보다 훨씬 구체적입니다.

귀하의 법안은 AI 데이터 센터가 소비자 전기 요금을 상승시키거나, 기후 변화를 악화시키거나, 환경을 해치지 않아야 한다고 명시합니다. 또한 영향을 받는 지역 사회가 목소리를 낼 수 있게 하고, 강력한 노동 기준과 물 사용, 에너지 소비, 온실가스 배출, 폐수, 냉각 화학물질, 소음, 일자리 및 기타 영향을 공개하도록 요구합니다.

이러한 항목은 측정 가능한 외부 효과이며, 규제가 효과를 발휘할 수 있는 정확한 지점입니다.

에너지 측면에서도 더 나아가겠습니다. AI 산업이 급증하는 전력 수요를 석탄 발전소를 지속시키거나 인프라 비용을 일반 요금 사용자에게 전가하는 변명으로 삼는 것을 허용해서는 안 됩니다. 새로운 초대규모 프로젝트는 전력망에 상당한 추가 저탄소·무탄소 발전을 도입하고 물·에너지 영향을 공개하도록 해야 합니다.

이미 전환이 어떻게 보일 수 있는지 보여주는 유망한 사례가 있습니다. Exowatt의 P3 시스템은 태양열 에너지를 열로 저장하고, 이를 데이터 센터 부하에 맞춘 디스패치 가능한 전기로 변환합니다. 그리고 이번 주에 Fervo Energy는 구글과 396메가와트 계약을 발표했으며, 이는 유타주에서 24/7 무탄소 향상 지열 전력을 제공하고, 옵션을 통해 총 용량을 1기가와트에 육박하게 할 수 있습니다.

AI의 에너지 욕구는 더러운 인프라를 연장시키는 이유가 될 수도, 새로운 청정 에너지 기술에 대한 거대한 수요 엔진이 될 수도 있습니다.

정부 정책은 어느 결과가 나타날지를 결정하는 데 기여할 수 있습니다.

또한 6월에 도입한 미국 AI 주권 부(Wealth) 펀드법은 AI가 엄청난 경제 가치를 창출한다면 일반 국민도 그 가치를 공유해야 한다는 원칙을 담고 있습니다. 귀하의 제안은 AI가 창출한 부가 결국 의료, 교육, 주거 및 건강한 환경에 기여하도록 명시하고 있습니다.

이는 중요한 사실을 인식하고 있습니다: 인공지능은 엄청난 잠재적 가치를 가지고 있습니다. 실제 정치적 질문은 그 가치를 어떻게 통제하고 배분할 것인가입니다.

영구 금지에 대한 더 나은 대안

저는 Ban Artificial Superintelligence Act의 가장 강력한 부분—연방 규제기관, 독립 기술 전문성, 최전선 시스템에 대한 의무적 감독, 의미 있는 처벌 및 국제 협력—을 유지하되, 금지 사유와 유익한 개발이 지속될 수 있는 방식을 근본적으로 바꾸길 권고합니다.

• AGI 또는 ASI 라벨이 아니라 측정 가능한 위험 능력을 규제하십시오. 자율 사이버 공격, 생물·화학 무기 활용, 차단 회피, 무단 복제, 전략적 기만 및 재앙적 피해를 초래할 수 있는 기타 능력에 대한 기술적 임계값을 설정하십시오.
• 최전선 임계값을 초과하는 경우 라이선스와 독립 평가를 요구하십시오. 개발자는 지정된 위험 능력을 가진 시스템을 배포하기 전에 안전성을 입증해야 하며, 모델이 새로운 도구·권한·자율성을 얻을 때마다 평가를 반복해야 합니다. 중대한 사고는 의무적 공개 의무를 수반해야 합니다.
• 독립 규제기관에 실질적인 집행 권한을 부여하십시오. 제안된 기관은 최전선 실험실을 감사하고, 정보를 확보하며, 시정 조치를 요구하고, 위험한 배포를 중단할 수 있어야 합니다. 그러나 기준은 투명하고, 기술적으로 측정 가능하며, 독립 과학 전문가에 의해 정기적으로 검토되어야 합니다.
• 모델의 지능 수준과 무관하게 해로운 용도를 금지하십시오. 무단 사이버 공격, 불법 감시, 위험한 생물학적 지원 및 기타 용납할 수 없는 사용은 좁은 모델이든 AGI 시스템이든 기존 소프트웨어이든 관계없이 불법으로 유지되어야 합니다.
• 사회적으로 가치 있는 연구를 위한 통제된 경로를 만들십시오. 의학, 과학 발견, 교육, 사이버 방어 및 정렬 연구는 적절한 인간 감독, 검증, 보안 및 감사 요구 사항 하에 강력한 모델에 접근할 수 있는 규제 메커니즘을 가져야 합니다.
• AI 인프라가 사회·환경 비용을 전액 부담하도록 하고 국제적으로 조정하십시오. 요금 사용자를 보호하고, 물·에너지 사용에 대한 투명한 보고를 요구하며, 추가 청정 발전을 가속화하고, 의미 있는 지역·노동 보호를 유지하며, 동맹국과 공동 능력 기준·평가·수출 통제를 협력하십시오.

이는 실리콘밸리를 신뢰한다는 의미가 아닙니다.

오히려 그 반대입니다.

기술 산업은 의회에 자발적 자체 규제에 의존하지 말아야 할 충분한 이유를 제공했습니다. OpenAI와 Anthropic 사건만으로도 최전선 AI가 외부 감시와 강제 안전 기준이 필요함을 보여줍니다.

그러나 기술 기업에 대한 불신이 기술 진보 자체에 대한 불신으로 확대되어서는 안 됩니다.

선택은 무모한 가속이나 금지가 아닙니다

샌더스 상원의원님, 귀하는 경력 전반에 걸쳐 희소성에 맞서 싸워 왔습니다.

가족 소득이 아이의 교육 여부를 결정해서는 안 된다는 생각에 맞서 싸워 왔습니다. 개인의 은행 계좌나 우편번호가 의료 서비스를 좌우해서는 안 된다는 생각에 맞서 싸워 왔습니다. 소수의 집단이 막대한 이익을 얻고 나머지 모두가 비용을 흡수하는 경제 구조에 맞서 싸워 왔습니다.

인공지능은 이러한 모든 문제를 악화시킬 수 있습니다.

전례 없는 부를 집중시킬 수 있습니다. 생산성 향상을 공유하지 않고 노동자를 대체할 수 있습니다. 감시, 조작 및 사이버 공격을 가능하게 할 수 있습니다. 소수의 기업에 엄청난 권력을 집중시킬 수 있습니다.

이러한 위험은 규제의 필요성을 뒷받침합니다.

하지만 AI는 인류 문명에서 가장 오래된 불평등 형태인 전문 지식 접근의 불평등을 감소시킬 수도 있습니다.

모든 아이가 개인화된 교육에 접근하고, 모든 의사가 뛰어난 분석 지원을 활용하며, 모든 과학자가 수세기 축적된 연구를 탐구하고, 환자 수가 적어 간과된 질병이 더 많은 과학적 관심을 받을 수 있는 세상은 또한 싸워야 할 가치가 있습니다.

우리는 그 미래와 AI 안전 사이에서 선택해야 하는 것이 아닙니다.

보다 나은 목표는 강력한 AI가 남용되기 어렵고, 통제 상실이 어렵고, 감사할 만큼 투명하고, 무분별한 배포가 비용이 많이 들며, 사회적으로 유익한 목적에 널리 접근 가능하도록 만드는 것입니다.

인류를 위협하는 행위를 금지하십시오. 위험한 능력에는 라이선스를 부여하십시오. 부주의하거나 악의적인 배포에는 처벌을 가하십시오. 기업이 인프라의 환경 비용을 내부화하도록 요구하십시오. 노동자를 보호하십시오. 경제적 이익을 대중과 공유하도록 하십시오. 그리고 세계 최대 기술 기업조차도 “아니오”라고 말할 수 있는 독립 규제기관을 설립하십시오.

그러나 인간 인지 능력을 다양한 분야에 걸쳐 일치시키는 것 자체가 범죄가 되도록 금지된 지능을 너무 광범위하게 정의하지 말아 주시기 바랍니다.

귀하의 평생 사역은 한때 특권층에게만 허용되었던 것들의 접근성을 확대하는 데 초점을 맞추었습니다.

고도화된 인공지능은 우리가 만든 가장 강력한 집중 권력 엔진이 될 수도 있습니다.

또는 지식, 교육, 의료 및 과학 역량을 민주화하는 가장 위대한 도구 중 하나가 될 수도 있습니다.

좋은 입법은 우리가 어떤 미래를 맞이할지 결정하는 데 도움을 줄 수 있습니다.