AI 리더들이 ‘절멸 위험’ 경고

급속한 기술 발전의 시대에 인공지능(AI)의 부상은 혁신의 최전선에 서 있습니다. 그러나 이 같은 인간 지성의 경이로움은 발전과 편리함을 추동하는 동시에 인류의 미래에 대한 인류의 존립에 대한 우려를 제기하고 있습니다. 저명한 AI 지도자들이 이러한 우려를 표명하고 있습니다.

최근, AI 안전 센터(Centre for AI Safety)는 오픈AI의 샘 알트만(Sam Altman), 구글 딥마인드(Google DeepMind)의 데미스 하사비스(Demis Hassabis), 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei) 등 산업의 개척자가 지지하는 성명을 발표했습니다. 메시지는 명확합니다. 인공지능으로 인한 인류의 절멸 위험은 세계적인 우선 순위가 되어야 합니다. 이러한 주장은 AI 커뮤니티에서 논쟁을 불러일으켰습니다. 일부에서는 이러한 우려가 과장되었다고 생각하는 반면, 다른 사람들은 주의를 촉구하는 목소리에 동의합니다.

위험한 예측: AI의 재난 가능성

AI 안전 센터는 AI의 오남용이나 제어되지 않는 성장으로 인해 발생할 수 있는 여러 재난 시나리오를 설명합니다. 그 중에는 AI의 무기화, AI가 생성한 허위 정보로 인한 사회의 불안정화, 그리고 AI 기술에 대한 점점 더 독점적인 통제로 인한 광범위한 감시와 억압적인 검열이 있습니다.

인간이 AI에 과도하게 의존하여 약화되는 시나리오도 언급됩니다. 이는 월-E 영화에서 묘사된 상황과 유사합니다. 이러한 의존성은 인류를 취약하게 만들 수 있으며, 심각한 윤리적 및 인류의 존립에 관한 질문을 제기합니다.

인공지능 분야의 저명한 인물이자 초지능 AI에 대한 신중한 접근을 적극적으로 주장하는 제프리 힌튼(Geoffrey Hinton) 박사는 몬트리올 대학교의 컴퓨터 과학 교수인 요슈아 벵기오(Yoshua Bengio)와 함께 센터의 경고를 지지합니다.

반대하는 목소리: AI의 잠재적 위험에 대한 논쟁

반면에, AI 커뮤니티의 상당한 부분은 이러한 경고를 과장된 것으로 간주합니다. 메타의 AI 연구자이자 뉴욕 대학교 교수인 얀 르쿤(Yann LeCun)은 이러한 ‘세계의 종말’ 예측에 대해 환멸을 느끼고 있습니다. 비평가들은 이러한 재난 예측이 현재의 AI 문제, 즉 시스템 편향과 윤리적 고려 등으로부터 주의를 산만하게 만든다고 주장합니다.

프린스턴 대학교의 컴퓨터 과학자 아빈드 나라야난(Arvind Narayanan)은 현재의 AI 능력이 재난 시나리오와 거리가 멀다고 주장합니다. 그는 즉각적인 AI 관련 피해에 초점을 맞추는 필요성을 강조합니다.

마찬가지로, 옥스포드 대학교의 AI 윤리 연구소의 엘리자베스 르니에리스(Elizabeth Renieris) 선임 연구원은 근미래의 위험, 즉 편향, 차별적 결정, 잘못된 정보의 확산, 사회적 분열 등에 대한 우려를 표명했습니다. AI가 인간이 만든 콘텐츠에서 학습하는 경향은 부와 권력이 대중에게서 소수의 민간 기관으로 이전될 수 있다는 우려를 낳습니다.

균형 잡기: 현재의 우려와 미래의 위험 사이에서

다양한 관점을 인정하면서, AI 안전 센터의 단 헨드릭스(Dan Hendrycks) 소장은 현재의 문제를 해결하는 것이 미래의 위험을 완화하는 데 도움이 될 수 있다고 강조합니다. 목표는 AI의 잠재력을 활용하면서도 그 오남용을 방지하기 위한 안전 장치를 설치하는 것입니다.

AI로 인한 인류의 존립에 대한 위협에 대한 논쟁은 새로운 것이 아닙니다. 2023년 3월, 일론 머스크(Elon Musk) 등 여러 전문가들이 차세대 AI 기술 개발을 중단하도록 촉구하는 공개 서한에 서명한 이후, 이 문제는 더욱 논의되었습니다. 최근의 토론에서는 잠재적 위험을 핵전쟁의 위험과 비교했습니다.

앞으로의 길: 주의와 규제 조치

AI가 사회에서 점점 더 중요한 역할을 하면서, 이 기술은 양날의 검이라는 것을 기억하는 것이 중요합니다. AI는 발전을 위한 엄청난 잠재력이 있지만, 통제하지 않으면 인류의 존립을 위협할 수도 있습니다. AI의 잠재적 위험에 대한 논의는 윤리적 지침을 정의하고, 강력한 안전 조치를 만들고, AI 개발 및 사용에 대한 책임 있는 접근 방식을 보장하기 위한 세계적인 협력을 강조합니다.