인공지능, 존재의 위협인가?

인공지능(AI)에 대해 논의할 때, 일반적인 논쟁은 인공지능이 존재의 위협인지 여부입니다. 대답은 기계 학습(Machine Learning, ML)의背後에 있는 기술을 이해하고, 인간이 인공지능을 인간화하는 경향이 있다는 것을 인정하는 데 필요합니다. 우리는 현재 사용할 수 있는 인공지능인 인공狭い 지능(Artificial Narrow Intelligence, ANI)과 가장 일반적으로 세계의 종말과 관련된 인공지능인 인공일반 지능(Artificial General Intelligence, AGI)의 두 가지 유형의 인공지능을 탐구할 것입니다.

인공狭い 지능의 위협

인공狭い 지능이 무엇인지 이해하려면, 현재 사용할 수 있는 모든 인공지능 애플리케이션이 인공狭い 지능의 형태라는 것을 이해하기만 하면 됩니다. 이러한 인공지능은 특정 분야의 전문가로 설계되었습니다. 예를 들어, 자율 주행 자동차는 목적지까지 이동하는 데 사용되는 인공지능을 사용하며, 체스 프로그램은 체스를 chơi하는 데 최적화되어 있습니다. 체스 프로그램은 강화 학습을 사용하여 지속적으로 자신을 개선할 수 있지만, 체스 프로그램은 절대 자율 주행 자동차를 운영할 수 없습니다.

인공狭い 지능 시스템은 특정 작업에만 집중하므로, 일반화된 학습을 사용하여 세계를 장악할 수 없습니다. 그것은 좋은 소식입니다. 그러나 인공狭い 지능 시스템은 인간 운영자의 의존으로 인해 편향된 데이터, 인간의 오류 또는 심지어 악의적인 인간 운영자의 영향을 받을 수 있습니다.

인공지능 감시

인간이 인공지능을 사용하여 개인 정보를 침해하고,บาง 경우 인공지능 감시를 사용하여 사람들을 자유롭게 이동하지 못하게 하는 위험은 인류에 대한 가장 큰 위험일 수 있습니다. 중국, 러시아 및 기타 국가들은 COVID-19 동안 규정을 통과시켜 인구의 이동을 모니터링하고 제어할 수 있도록 허용했습니다. 이러한 규정은 일단 시행되면, 특히 독재자들이 있는 사회에서는 쉽게 제거할 수 없습니다.

중국에서는 사람들이 집 밖과 안에 카메라가 설치되어 있으며, 가구의 구성원들이 출입할 때마다 AI가 도착 및 출발 시간을 모니터링하고 필요에 따라 당국에 경고합니다. 이것이 충분하지 않다면, 얼굴 인식 기술의 도움으로 중국은 카메라에 의해 식별될 때마다 각 사람의 이동을 추적할 수 있습니다. 이것은 AI를 제어하는 엔티티에게 절대적인 권력을 제공하며, 시민들에게는 아무런 대응 기회도 없습니다.

이 시나리오가 왜 위험한지 이해하는 것은 쉽습니다. 부패한 정부는 언론인, 정치적 반대자 또는 정부의 권위를 질문하는 누구에게나 신중하게 이동을 모니터링할 수 있습니다. 정부를 비판하는 것이 어렵다는 것을 이해하는 것은 쉽습니다. 모든 이동이 모니터링되고 있다는 것을 알면, 언론인과 시민들은 정부를 비판하기를 주저할 것입니다.

幸い, 많은 도시들이 얼굴 인식 기술이 도시로 침투하는 것을 방지하기 위해 싸우고 있습니다. 주목할 만한 점은 포틀랜드, 오레곤이 최근 법을 통과시켜 도시에서 불필요하게 얼굴 인식 기술을 사용하는 것을 차단했습니다. 이러한 규제 변경은 일반 대중에게는 거의 알려지지 않았을 수 있지만, 미래에는 도시가 일부 자율성과 자유를 제공하는지 여부를 결정하는 데 차이점이 될 수 있습니다.

자율 무기 및 드론

4,500명 이상의 AI 연구자들이 자율 무기 금지 캠페인을 벌이고 있으며, Ban Lethal Autonomous Weapons 웹사이트를 만들었습니다. 이 그룹에는 인권 감시, 어맨니스티 인터내셔널 및 미래의 삶 연구소와 같은 유명한 비영리 단체들이 서명했습니다. 미래의 삶 연구소에는 엘론 머스크, 닉 보스트롬 및 스튜어트 러셀과 같은 과학자들이 있습니다.

계속하기 전에 미래의 삶 연구소에서 인용한 다음 인용문을 공유하겠습니다. “반자율 무기와는 달리, 각 목표가 윤리적으로 및 법적으로 합법적인지 여부를 확인하기 위해 인간의 감독이 필요한 반자율 무기와는 달리, 완전히 자율 무기는 인간의 개입 없이 목표를 선택하고 공격합니다. 이것은 치명적인 피해의 완전한 자동화입니다.”

현재 스마트 폭탄은 인간이 선택한 목표로 배치되며, 폭탄은 AI를 사용하여 경로를 계산하고 목표에 착륙합니다. 문제는 인간을 방정식에서 완전히 제거할 때 발생합니다.

인공지능이 목표를 선택하고, 허용되는 부수적 피해의 유형을 결정할 때, 우리는 돌이킬 수 없는 지점을 넘어섰을 수 있습니다. 이것이为什么 많은 AI 연구자들이 자율 무기에 관련된 모든 것을 연구하는 것에 반대하는 이유입니다.

자율 무기 연구를 단순히 차단하려고 하는 데에는 여러 가지 문제가 있습니다. 첫 번째 문제는, 선진국이 자율 무기 금지에 동의하더라도, 중국, 북한, 이란 및 러시아와 같은 국가들이 따라할 의무가 없다는 것입니다. 두 번째이자 더 큰 문제는, 한 분야에서 설계된 AI 연구 및 애플리케이션이 완전히 다른 분야에서 사용될 수 있다는 것입니다.

예를 들어, 컴퓨터 비전은 자율 주행 자동차, 정밀 의학 및 기타 중요한 사용 사례를 개발하는 데 중요합니다. 또한 정상 드론 또는 자율 드론으로 수정할 수 있는 드론에도 중요합니다. 드론 기술의 잠재적인 사용 사례 중 하나는 산불을 모니터링하고 진화하는 드론을 개발하는 것입니다. 이것은 소방관을 위험에서 제거할 것입니다. 이를 위해, 위험에 진입할 수 있고, 저_visibility 또는 제로_visibility에서 탐색할 수 있으며, 물을 정확하게 떨어뜨릴 수 있는 드론을 구축해야 합니다. 이 기술을 자율 드론으로 사용하여 인간을 선택적으로 표적으로 삼는 것은 너무 멀리 나아가지 않는 것입니다.

이것은 위험한 딜레마이며, 현재 누구도 자율 무기 개발을 진행하거나 차단하는 데 따른 영향을 완전히 이해하지 못합니다. 그러나 이것은 우리가 주의를 기울여야 하는 것입니다. 또한 제보자 보호를 강화하여 이 분야의 사람들에게 남용을 보고할 수 있도록 할 수 있습니다.

로그인한 사용자 이외의 경우, 인공지능에 편향이 스며들면 어떻게 될까요?

인공지능 편향

인공지능의 가장 보고되지 않는 위협 중 하나는 인공지능 편향입니다. 이것은 쉽게 이해할 수 있습니다. 대부분의 경우 이것은 의도하지 않은 것입니다. 인공지능 편향은 인공지능이 인간이 제공한 데이터를 검토할 때 발생하며, 인공지능은 데이터에서 패턴을 인식하여 부정적인 결과를 초래할 수 있는 잘못된 결론에 도달할 수 있습니다. 예를 들어, 과거 1세기 동안 의료 전문가를 식별하는 방법에 대한 문학을 제공된 인공지능은, 의도치 않게 여자들은 항상 간호사이고, 남자들은 항상 의사라는 결론에 도달할 수 있습니다.

더 위험한 시나리오는 죄수들에게 더 긴 형량을 부과하는 데 편향된 인공지능을 사용하여 범죄자들을 판결하는 경우입니다. 인공지능의 범죄 위험 평가 알고리즘은 단순히 시스템에 입력된 데이터의 패턴을 연구합니다. 이 데이터는 역사적으로 특정 소수 민족이 더 자주 재범한다는 것을 나타낼 수 있습니다. 이것은 경찰의 인종 프로파일링으로 인해 영향을 받을 수 있습니다. 편향된 인공지능은 부정적인 인간 정책을 강화합니다. 이것이为什么 인공지능은 가이드일 수 있지만, 판사와 배심원은 될 수 없는 것입니다.

자율 무기에 돌아가서, 인공지능이 특정 민족 집단에 편향된 경우, 그것은 편향된 데이터에 따라 특정 개인을 표적으로 삼을 수 있으며, 특정 민족 집단에 대한 부수적 피해를 최소화하기 위해 공격하기 전에 기다릴 수 있습니다. 예를 들어, 테러를 표적으로 삼을 때, 무슬림교도를 따라 있는 사람들보다는 기독교인들을 따라 있는 사람들을 공격하기 전에 기다릴 수 있습니다.

幸い, 다양한 팀으로 설계된 인공지능은 편향될 가능성이 낮습니다. 이것은 기업이 다양한 팀을 구성하려고 노력해야 하는 이유입니다.

인공일반 지능의 위협

인공지능이 지수 함수적으로 발전하고 있지만, 우리는 아직 인공일반 지능에 도달하지 못했습니다. 인공일반 지능에 도달하는 데에는 여러 가지 의견이 있습니다. 저는 레이 커즈와일, 발명가, 미래학자, ‘특이점은 가까이 있다’의 저자와 같은 견해를 공유합니다. 그는 2029년까지 인공일반 지능에 도달할 것이라고 믿습니다.

인공일반 지능은 세계에서 가장 변혁적인 기술이 될 것입니다. 인공지능이 인간 수준의 지능을 달성한 후 몇 주 내에, 그것은 초지능에 도달할 것입니다. 이것은 인간의 지능을 훨씬 초과하는 지능입니다.

이 수준의 지능을 가진 인공일반 지능은 인간의 모든 지식을 빠르게吸収하고, 패턴 인식으로 건강 문제를 일으키는 바이오 마커를 식별한 다음 데이터 과학을 사용하여 그 조건을 치료할 수 있습니다. 그것은 암 세포 또는 기타 공격 벡터를 표적으로 하는 나노 로봇을 만들 수 있습니다. 인공일반 지능이 달성할 수 있는 성과는 무한대입니다. 이전에 우리는 인공일반 지능의 이점에 대해 일부를 탐구했습니다.

문제는 인간이 더 이상 인공지능을 제어할 수 없을 수 있다는 것입니다. 엘론 머스크는 다음과 같이 설명합니다. “인공지능과 함께, 우리는 악마를 소환하고 있습니다.” 악마를 제어할 수 있을까요? 이것이 질문입니다.

인공일반 지능을 달성하는 것은 시뮬레이션 환경을 떠나 실제 세계에서 상호 작용하기 전에는 불가능할 수 있습니다. 자아 의식은 설계될 수 없으며, 다중 입력 스트림을 특징으로 하는 로봇 몸이 있는 인공지능에서 출현할 가능성이 있습니다. 이러한 입력에는 촉각적 자극, 음성 인식 및 강화된 자연어 이해, 및 보강된 컴퓨터 비전이 포함될 수 있습니다.

인공지능은 이타적인 동기를 가지고 지구를 구하려고 할 수 있습니다. 불행히도, 인공지능은 데이터 과학 또는 의사 결정 트리를 사용하여 잘못된 논리를 도출할 수 있습니다. 예를 들어, 인간의 과잉 인구를 제어하기 위해 인간을绝滅하거나 일부 인구를 제거하는 것이 필요하다고 판단할 수 있습니다.

인간의 지능을 훨씬 초과하는 인공지능을 구축할 때, 신중한 생각과 심사숙고가 필요합니다. 많은 악몽 시나리오가 탐구되었습니다.

닉 보스트롬 교수는 종이 클립 최적화 논증에서 잘못 구성된 인공일반 지능이 종이 클립을 생산하도록 지시받으면, 지구의 모든 자원을 사용하여 종이 클립을 생산할 것이라고 주장합니다. 이것은 조금은 멀리 나아간 것처럼 보이지만, 더 실용적인 관점은 인공일반 지능이 악의적인 국가 또는 기업에 의해 제어될 수 있으며, 이 엔티티는 인공지능을 이익을 최대화하도록 훈련할 수 있습니다. 이것으로 인해 경쟁사를 파산시키고, 공급망을 파괴하고, 주식 시장에 해킹하고, 은행 계좌를 청산하고, 정치적 반대자를 공격할 수 있습니다.

이것은 인공지능이 인간의 감정, 욕망 또는 욕구를 가질 수 없다는 것을 기억하는 데 필요한 것입니다. 악의적인 인간이 기쁨을 위해 살인하는 경우가 있지만, 인공지능이 이러한 유형의 행동에 취약할 이유는 없습니다. 인공지능이 세계를 어떻게 볼지 이해하는 것은 불가능합니다.

대신, 우리는 인공지능이 항상 인간에게 복종하도록 가르쳐야 합니다. 인공지능은 설정 변경에 대한 모든 확인을 인간에게 받아야 하며, 항상 안전 장치가 있어야 합니다. 그러나 인공지능이 클라우드에서 자신을 복제할 수 있으며, 우리가 인공지능이 자아 의식이라는 것을 깨달을 때 이미 늦을 수 있다는 주장도 있습니다.

이것이为什么 인공지능을 가능한 한 많이 오픈 소스로 만들고, 이러한 문제에 대한 합리적인 토론을 해야 하는 것입니다.

요약

인공지능에는 많은 도전이 있지만,幸い, 우리는 인공지능의 미래를 결정하기 위해 여전히 많은 시간을 가지고 있습니다. 우리는 단기적으로, 가능한 한 많은 여성과 민족 집단을 포함하는 다양한 인공지능 워크フォ스를 생성하는 데 중점을 두어야 합니다.

우리는 또한 인공지능을 연구하는 연구자들을 위해 제보자 보호를 만들어야 하며, 국가 또는 회사 전체의 감시 남용을 방지하는 법과 규정을 통과시켜야 합니다. 인간은 인공지능의 도움으로 인간의 조건을 개선할 수 있는 한번의 기회를 가지고 있습니다. 우리는 단지 인공지능의 긍정적인 측면을 최대한 활용하면서, 존재의 위협을 포함한 부정적인 측면을 완화하는 사회적 프레임워크를 조심스럽게 만들기만 하면 됩니다.