아시모프의 로봇공학 3법칙이 AI에 미치는 영향

로봇공학 3법칙은 과학 소설 세계에서 아이콘이자 AI 및 로봇공학 커뮤니티에서 시스템을 설계하는 어려움을 상징하는象徵이다.

이 세 가지 법칙의 중요성을 완전히 이해하기 위해서는 먼저 이러한 법칙을 생각해낸 천재적인 과학 소설 작가 이사악 아시모프에 대해 알아야 한다. 그리고 우리는 어떻게 이러한 법칙을 적용하고 발전시켜 인간을 보호할 수 있는지 이해해야 한다.

이사악 아시모프 – 천재의 등극

이사악 아시모프는 1920년 1월 2일 러시아에서 태어났고 3세 때 미국으로 이민했다. 그는 뉴욕 브루클린에서 자랐고 1939년 컬럼비아 대학교를 졸업했다. 그는 과학과 과학 소설에 중점을 둔 재능 있고 다작하는 작가로 인정받았다. 그의 경력 동안 그는 500권 이상의 책을 저술했다.

아시모프는 과학 소설 세계에서 가장 아이콘이던 일부 작가들로부터 크게 영향을 받았다. 그는 필라델피아 해군 조선소에서 일했는데, 그곳에서 그는 두 명의 동료를 만나게 되었는데, 그들은 곧 과학 소설의 역사에서 가장 성공적인 두 작가 중 하나가 될 것이다: L. 스프라그 드 캠프와 로버트 A. 하인라인.

L. 스프라그 드 캠프는 100권 이상의 책을 저술한 수상 경력 있는 작가로 1930년대와 1940년대 과학 소설의 주요 인물이었다. 그의 가장 인기 있는 작품에는 “Darkness Fall” (1939), “The Wheels of If” (1940), “A Gun for Dinosaur” (1956), “Aristotle and the Gun” (1958), “The Glory That Was” (1960) 등이 있다.

로버트 A. 하인라인은 그의 경력의 정점에서 세계에서 가장 인기 있는 과학 소설 작가 중 하나였다. 이사악 아시모프와 함께, 그리고 아瑟 C. 클라크와 함께, 그는 과학 소설 작가 중 “빅 쓰리”로 간주되었다. 로버트 A. 하인라인의 가장 인기 있는 작품에는 “Farnham’s Freehold” (1964)과 “To Sail Beyond the Sunset” (1987) 등이 있다. 현재 세대는 아마도 그의 소설 “Starship Troopers” (1959)의 영화 개봉으로 가장 잘 알고 있을 것이다.

이러한 미래주의의 거인들로부터의 영감은 이사악 아시모프의 다작하는 작가 경력을 시작하게 했다. 아시모프는 과학 커뮤니티에서도 매우 존경받았으며, 과학에 대한 공개 강연을 위해頻繁하게 초청받았다.

로봇공학 3법칙

이사악 아시모프는 1941년에 발표된 단편 소설 “Liar!”에서 ‘로봇공학’이라는 용어를 처음 사용했다.

그 직후, 그의 1942년 단편 소설 “Runaround”에서 로봇공학의 세 가지 법칙을 세상에紹介했다. 법칙은 다음과 같다:

1. 로봇은 인간을傷害하거나, 부작용 없이 인간이傷害를 받지 않도록해야 한다.

2. 로봇은 인간이 주는 명령에 따라야 한다. 그러나 그러한 명령이 제1법칙과 충돌하는 경우에는 그러하지 않다.

3. 로봇은 제1법칙이나 제2법칙과 충돌하지 않는 한自己的 존재를 보호해야 한다.

이러한 법칙은 흥미로운 플롯 포인트를 제공하기 위해 설계되었으며, 아시모프는 37개의 과학 소설 단편과 6개의 소설을 저술했는데, 그 작품에는 포지트로닉 로봇이登場했다.

이 단편 소설 중 하나인 “I, Robot”은 2004년에 영화로 각색되었다. 윌 스미스가 주연한 “I,Robot” 영화는 2035年的 디스토피아적 세계를 배경으로 하고, 세 가지 로봇공학 법칙에 따라 작동하는 공공 서비스 로봇을 특징으로 한다. 영화는 소설과 마찬가지로 프로그래밍이 어떻게 잘못될 수 있는지, 그리고 고급 AI를 프로그래밍하는 것이 높은 위험을 수반하는지를 보여주는 비유가 되었다.

세계는 이제 과거의 과학 소설을 현실로 만들었다. 우리는 이제 이사악 아시모프가 상상할 수 없었던 것보다 훨씬 더 발전된 AI를 설계하고 있다. 그러나同時에, 그것은 훨씬 더 제한적이다.

로봇공학의 세 가지 법칙은 인공 일반 지능(AGI)에 대한 논의에서 자주 언급된다. 우리는 AGI가 무엇인지, 그리고 로봇공학의 세 가지 법칙이 어떻게 발전해야 하는지 살펴볼 것이다.

인공 일반 지능 (AGI)

현재 우리가 일상적으로遭遇하는 대부분의 AI는 “좁은 AI”로 분류된다. 이것은 매우 구체적이고 狹窄한 유틸리티 함수를 갖는 AI이다. 예를 들어, 자율 주행 자동차는 도로를 주행할 수 있지만, 그 좁은 제한으로 인해 AI는 쉽게 다른 작업을 수행할 수 없다. 좁은 AI의 또 다른 예는 이미지 인식 시스템으로, 데이터베이스의 이미지들을 쉽게 식별하고 레이블을 붙일 수 있지만, 다른 작업에 쉽게 적용될 수 없다.

인공 일반 지능, 즉 AGI는 인간과 마찬가지로 빠르게 학습하고, 적응하고, 피벗하고, 현실 세계에서 작동할 수 있는 AI이다. 이는狹窄하지 않은 지능으로, 모든 상황에 적응하고 현실 세계의 문제를 해결할 수 있다.

현재 AI는指数적으로 발전하고 있지만, 우리는 아직 AGI에 도달하지 못했다. 언제 AGI에 도달할 수 있을지는 논쟁의 여지가 있으며, 모두가 다르게 대답한다. 나는 레이 커즈와일의 견해를 따른다. 그는 ‘특이점은 가까이 있다’라는 책의 저자이며, 2029년까지 AGI를 달성할 수 있을 것으로 믿는다.

2029년이라는 시한은 우리에게 시간제한을 주고 있다. 우리는 로봇공학의 세 가지 법칙과 유사하지만, 더 발전된 규칙집을 AI에 프로그래밍해야 한다. 그것은 인간과 로봇 사이의 실제 충돌을 피할 수 있어야 한다.

현代 로봇공학 법칙

로봇공학의 세 가지 법칙은 문학적으로는 훌륭했지만, 로봇을 실제로 프로그래밍하는 데에는 너무나도 단순하다. 이것은 소설과 단편의 플롯 포인트였다. 세 가지 법칙 사이의 충돌, 또는 적어도 세 가지 법칙의 해석은 로봇이 인간에 대한 공격을 가하거나, 또는 다른 중요한 플롯 포인트를 발생시켰다.

현재 법칙의 주요 문제는 인간의 지시를 항상 따르며, 항상 자신의 존재를 보호해야 하는 것 사이의 충돌이다. 로봇은 자신을 학대하는 소유자에 대하여 자신을 방어할 수 있는가?

어떤 종류의 안전 장치를 프로그래밍해야 하는가? 로봇에게 어떻게 명령하여 어떤 결과가 발생하더라도 끄도록 지시해야 하는가? 로봇이 가해자에 의한 학대에서 집주인을 구하는 중이라면, 로봇은 가해자에 의한 명령으로 자동으로 끌 수 있는가?

누가 로봇에게 지시를 해야 하는가? 자율 무기 시스템이全球적으로 적을 식별하고 공격할 수 있다면, 로봇은 목표가 아이라는 것을 식별할 경우 명령을 거부할 수 있는가?

즉, 로봇이 사이코패스에 의해 제어된다면, 로봇은 비도덕적인 명령을 거부할 수 있는가? 질문은 많으며, 답변은 너무 어려워서 개인이 답변하기 어렵다. 이것이未来 인명 연구소와 같은 조직이 중요한 이유이다. 진정한 AGI가 등장하기 전에 이러한 도덕적 딜레마를 논의할 시간이다.