아시모프의 로봇공학 3원칙이 AI에 미치는 영향

로봇공학 3원칙은 공상과학 세계에서 상징적인 존재이며, 완벽한 시스템을 설계하는 것이 얼마나 어려운지에 대한 AI 및 로봇공학 커뮤니티 내의 상징이 되었습니다. 이 세 가지 법칙의 중요성을 완전히 이해하기 위해서는 먼저 이 법칙을 고안한 천재적인 정신, 고(故) 공상과학 작가 아이작 아시모프에 대해 알아야 합니다. 그런 다음 이 법칙을 어떻게 적용하고 진화시켜 인류를 보호할 수 있을지 이해해야 합니다.

아이작 아시모프 – 천재의 부상

아이작 아시모프는 1920년 1월 2일 러시아에서 태어나 세 살 때 미국으로 이민을 갔습니다. 그는 뉴욕 브루클린에서 자랐으며 1939년 컬럼비아 대학교를 졸업했습니다. 그는 과학과 공상과학에 집중한 재능 있고 다작의 작가로 인정받았습니다. 그의 경력 동안 500권 이상의 책을 쓰거나 편집했습니다. 아시모프는 공상과학 세계에서 가장 상징적인 작가들로부터 큰 영감을 받았습니다. 그는 필라델피아 해군 조선소에서 일하기 시작했는데, 그곳에서 두 동료를 만났고, 이들은 곧 공상과학 역사상 가장 성공적인 공상과학 작가 중 두 명으로 부상하게 됩니다: L. 스프레이그 드 캠프와 로버트 A. 하인라인. L. 스프레이그 드 캠프는 100권 이상의 책을 쓴 수상 경력이 있는 작가로, 1930년대와 1940년대 공상과학계의 주요 인물이었습니다. 그의 가장 유명한 작품으로는 “Darkness Fall” (1939), “The Wheels of If” (1940), “A Gun for Dinosaur” (1956), “Aristotle and the Gun” (1958), “The Glory That Was” (1960) 등이 있습니다. 로버트 A. 하인라인은 그의 전성기 동안 아마도 세계에서 가장 인기 있는 공상과학 작가였을 것입니다. 아이작 아시모프, 아서 C. 클라크와 함께 그는 공상과학 작가 “빅 쓰리”로 간주되었습니다. 로버트 A. 하인라인의 가장 유명한 작품으로는 “Farnham’s Freehold” (1964)와 “To Sail Beyond the Sunset” (1987)가 있습니다. 현재 세대는 아마도 그의 소설 “스타십 트루퍼스” (1959)의 영화 각색판으로 그를 가장 잘 알 것입니다. 이러한 미래주의 거인들에 둘러싸여 있는 것이 아이작 아시모프가 그의 다작의 작가 경력을 시작하도록 영감을 주었습니다. 아시모프는 또한 과학계에서 매우 존경받았으며 과학에 대해 강연하기 위해 공개 연사로 자주 초청되었습니다.

로봇공학 3원칙

아이작 아시모프는 1941년에 출판된 ‘Liar!’라는 단편 소설에서 ‘로봇공학(Robotics)’이라는 용어를 처음 사용한 사람입니다. 그 후 얼마 지나지 않아, 그의 1942년 단편 소설 “Runaround”은 세상에 그의 로봇공학 3원칙을 소개했습니다. 그 법칙들은 다음과 같습니다:

1. 로봇은 인간에게 해를 가하거나, 행동을 하지 않음으로써 인간이 해를 입게 해서는 안 된다.

2. 로봇은 제1법칙과 상충하는 경우를 제외하고 인간이 내린 명령에 반드시 복종해야 한다.

3. 로봇은 제1법칙 및 제2법칙과 상충하지 않는 한 자신의 존재를 보호해야 한다.

이 법칙들은 흥미로운 플롯 포인트를 제공하기 위해 설계되었으며, 아시모프는 포지트로닉 로봇이 등장하는 37편의 공상과학 단편 소설과 6편의 장편 소설 시리즈를 창작해 나갔습니다. 이 단편 소설 모음집 중 “I, Robot”이라는 제목의 작품은 나중에 2004년에 영화로 각색되었습니다. 윌 스미스가 주연한 “아이, 로봇” 영화는 디스토피아적인 2035년을 배경으로 하며, 로봇공학 3원칙 아래 작동하는 고도로 지능적인 공공 서비스 로봇들을 특징으로 합니다. 이 영화는 이야기들처럼 빠르게 프로그래밍이 어떻게 잘못될 수 있는지, 그리고 어떤 종류의 고급 AI를 프로그래밍하는 것도 높은 수준의 위험을 수반한다는 우화가 되었습니다. 세상은 이제 이전의 공상과학이 현실이 되었으며, 우리는 이제 어떤 면에서는 아이작 아시모프가 상상할 수 있었던 것보다 훨씬 더 발전된 동시에 훨씬 더 제한적인 AI를 설계하고 있습니다. 로봇공학 3원칙은 인공일반지능(AGI)에 대한 논의에서 꽤 자주 언급됩니다. 우리는 AGI가 무엇인지, 그리고 미래의 잠재적 문제를 피하기 위해 로봇공학 3원칙이 어떻게 진화해야 하는지 빠르게 탐구해 보겠습니다.

인공일반지능(AGI)

현재 우리가 일상에서 접하는 대부분의 AI 유형은 “협의의 AI”로 분류됩니다. 이것은 그 유틸리티 기능이 매우 구체적이고 협소한 AI 유형입니다. 예를 들어, 자율 주행 차량은 거리를 주행할 수 있지만, 그 “협소한” 한계로 인해 AI는 다른 작업을 쉽게 완수할 수 없습니다. 협의의 AI의 또 다른 예는 데이터베이스에서 이미지를 쉽게 식별하고 라벨을 붙일 수 있지만, 다른 작업에 쉽게 적용될 수 없는 이미지 인식 시스템일 것입니다. 일반적으로 “AGI”라고 불리는 인공일반지능은 인간과 유사하게 현실 세계에서 빠르게 학습, 적응, 전환 및 기능할 수 있는 AI입니다. 이것은 범위가 협소하지 않은 지능 유형으로, 어떤 상황에도 적응하고 현실 세계의 문제를 처리하는 방법을 배울 수 있습니다. AI가 기하급수적인 속도로 발전하고 있지만, 우리는 아직 AGI를 달성하지 못했다는 점을 명시해야 합니다. AGI에 언제 도달할지는 논쟁의 여지가 있으며, 타임라인에 대해 모두 다른 답을 가지고 있습니다. 저는 개인적으로 ‘특이점이 가까웠다’의 저자이자 발명가이자 미래학자인 레이 커즈와일의 견해에 동의하는데, 그는 우리가 2029년까지 AGI를 달성할 것이라고 믿습니다. 이 2029년 타임라인은 째깍거리는 시계와 같습니다. 우리는 AI에 3원칙과 유사할 뿐만 아니라 더 발전되고, 실제로 인간과 로봇 사이의 현실 세계 갈등을 피할 수 있는 일종의 규칙책을 하드코딩하는 방법을 배워야 합니다.

현대의 로봇공학 법칙

로봇공학 3원칙은 문학적으로는 경이로웠지만, 로봇에 심각하게 프로그래밍하기에는 정교함이 크게 부족합니다. 이것은 결국 단편 소설과 장편 소설의 플롯 포인트였습니다. 세 법칙 간의 충돌, 또는 최소한 세 법칙의 해석이 로봇들이 고장 나거나, 인간들에게 보복하거나, 다른 중대한 플롯 포인트를 일으키게 했습니다. 현재 법칙들의 주요 문제는 항상 인간의 지시를 따르고 항상 자신을 보호해야 한다는 윤리적 프로그래밍이 상충할 수 있다는 점입니다. 결국, 로봇이 자신을 학대하는 소유자로부터 자신을 방어하는 것이 허용됩니까? 어떤 종류의 안전 장치 메커니즘이 프로그래밍되어야 합니까? 결과가 어떻든 로봇이 반드시 종료되어야 한다고 어떻게 지시합니까? 로봇이 가정주부를 학대에서 구하는 과정에 있는데, 학대하는 남편이 그렇게 하라고 지시하면 로봇이 자동으로 종료되어야 합니까? 누가 로봇에게 지시를 내려야 합니까? 전 세계에서 적을 식별하고 표적을 정할 수 있는 자율 무기가 있는 상황에서, 로봇이 표적을 어린이로 식별한다면 그 표적을 제거하라는 명령을 거부할 수 있어야 합니까? 다시 말해, 로봇이 사이코패스가 소유하고 통제한다면, 로봇이 비도덕적인 명령을 거부할 수 있습니까? 질문은 많고, 답은 어떤 개인도 답하기 너무 어렵습니다. 이것이 바로 The Future of Life Institute와 같은 조직들이 중요한 이유이며, 진정한 AGI가 등장하기 전에 지금이 이러한 도덕적 딜레마를 논의할 때입니다.