줄리엣 파월 & 아트 클라이너, ‘AI 딜레마’ 저자 – 인터뷰 시리즈

줄리엣 파월과 아트 클라이너가 쓴 ‘AI 딜레마’는 AI 기술이 잘못된 손에 들어가는 위험성을 강조하는 책이다.

줄리엣 파월은 작가이자 텔레비전 크리에이터로 9,000개가 넘는 라이브 쇼를 진행한 경험이 있다. 그녀는 또한 기술자이자 사회학자이며 블룸버그 TV와 비즈니스 뉴스 네트워크의 해설자이다. 그녀의 TED 강의는 유튜브에서 13만 회 이상 시청되었다. 줄리엣 파월은 윤리적인 AI와 데이터를 사용하여 성공하는 비즈니스 리더들의 패턴과 관행을 식별한다. 그녀는 뉴욕 대학교의 ITP에서 설계 기술을 가르치고 있으며, 책을 기반으로 한 ‘책임감 있는 미디어 설계 기술’ 강의를 포함하여 4개의 강의를 진행하고 있다.

아트 클라이너는 작가이자 편집자이며 미래학자이다. 그의 책으로는 ‘이단자들의 시대’, ‘누가真正으로 중요한가’, ‘특권과 성공’, ‘현명한 사람들’이 있다. 그는 PwC에서 발행하는 수상 경력에 빛나는 잡지인 strategy+business의 편집장을 역임했다. 아트 클라이너는 뉴욕 대학교의 ITP와 IMA에서 오랜 시간 동안 교수로 재직했으며, ‘책임감 있는 기술과 미디어의 미래’를 공동으로 강의했다.

“‘AI 딜레마’는 잘못된 손에 들어가는 AI 기술의 위험성을 강조하는 책이다. 그러나 AI가 사회에 제공하는ประโยชน도 인정한다.

문제는 기술이 너무 복잡하여 사용자가 시스템의 내부 작동을真正로 이해할 수 없다는 것이다.

가장 중요한 문제 중 하나는 책임감 있는 AI의 정의가 항상 변한다는 것이다. 사회적 가치观은 시간이 지남에 따라 일관성이 없기 때문이다.

‘AI 딜레마’를 읽는 것을 매우 즐겼다. 이 책은 AI의 위험성을 과장하지도 않고, 인공 일반 지능(AGI)의 잠재적인 함정을 깊이 다루지도 않는다. 대신, 독자는 개인 데이터가 우리의 지식 없이 어떻게 사용되는지, AI의 현재 한계와 우려할 이유를 배울 수 있다.

아래는 독자들에게 이 책에서 무엇을 기대할 수 있는지 보여주는 질문이다.

당신이 ‘AI 딜레마’를 쓰기 시작한 계기는 무엇인가?

줄리엣 파월은 콜롬비아 대학교에서 AI의 한계와 가능성을 연구하기 위해 다녔다. 그녀는 AI 프로젝트에 참여한 친구들로부터 프로젝트 내에 내재된 긴장을 직접 들었다. 그녀는 AI에 대한 더 큰 문제가 있다는 결론을 내렸고, Apex 벤치마크 모델을 개발했다. 이 모델은 회사 내에서 그룹 간의 상호 작용으로 인해 AI에 대한 책임이 낮아지는 경향이 있음을 보여주었다. 이것은 그녀의 박사 학위 논문으로 이어졌다.

아트 클라이너는 줄리엣 파월과 함께 여러 글을 썼다. 그는 그녀의 박사 학위 논문을 읽고, “이것은 책이다”라고 말했다. 줄리엣 파월은 그를 공동 저자로 초대했다. 함께 작업을 하면서, 그들은 서로 다른 관점을 가지고 있지만, 이 복잡하고 위험한 AI 현상을 더 잘 이해해야 한다는 점에서 동의했다.

‘AI 딜레마’에서 강조하는 가장 근본적인 문제 중 하나는 AI 시스템이 책임감 있게 작동하는지, 사회적 불평등을 조장하는지 단지 소스 코드를 분석해서는 알 수 없다는 것이다. 이 문제는 얼마나 큰 문제인가?

문제는 주로 소스 코드와 관련이 없다. 캐시 오닐은 닫힌 시스템에서는 코드만이 아니라, 기술과 인간의 상호 작용이 이루어지는 사회 기술 시스템을 탐구해야 한다고 지적한다. AI 시스템을 구축하고发布한 논리는 목적을 정의하고, 데이터를 식별하고, 우선순위를 설정하고, 모델을 생성하고, 가이드라인과 경계를 설정하고, 인간이 언제 어떻게 개입해야 하는지 결정하는 것이었다. 이것이 투명해져야 하는 부분이다. 至少 관찰자와 감시자에게는如此이다. 이 과정의 일부가 숨겨져 있으면, 사회적 불평등과 다른 위험의 가능성이 훨씬 더 크다. 소스 코드만으로는 설계 논리를 재구성할 수 없다.

설명 가능한 AI(XAI)에 초점을 맞출 수 있으면 이 문제를 해결할 수 있나?

기술자들에게 설명 가능한 AI는 기술적 제약과 관행의 집합으로, 모델을 기술자들에게 더 투명하게 만드는 것을 목표로 한다. 그러나 잘못된 혐의를 받은 사람에게 설명 가능성은 다른 의미와 긴급성을 가진다. 그들은 자신의 방어를 위해 설명 가능성을 필요로 한다. 우리는 모두 설명 가능성을 필요로 한다. 至少 미국에서는 설명 가능성과 조직의 경쟁과 혁신의 권리 사이에 항상 긴장이 있을 것이다. 감시자와 규제자들은 다른 수준의 설명 가능성을 필요로 한다. 우리는 ‘AI 딜레마’에서 이것에 대해 더 자세히 다룬다.

AI 公司들이 출시하는 코드에 대한 책임을 지게 하는 것이 중요하다는 당신의 견해를 간단히 공유해 줄 수 있나?

예를 들어, 템피에서 자율 주행 자동차가 보행자를 치어 죽인 사건에서, 운전자는 책임을 지게 되었다. 한 사람이 감옥에 갔다. 그러나 궁극적으로それは 조직적인 실패였다.

다리 붕괴와 같이, 기계 엔지니어는 책임을 진다. 그들은 훈련을 받고, 지속적으로 훈련을 받으며, 자신의 직업에서 책임을 진다. 컴퓨터 엔지니어는 그렇지 않다.

AI 公司들이 더 나은 결정을 내리기 위해 훈련과 재훈련을 받아야 하는 책임을 지게 하는 것이 중요하다고 생각한다.

‘AI 딜레마’는 구글과 메타가 개인 데이터를 수집하고 수익을 낼 수 있는 방식을 많이 강조한다. 우리 모두가 주목해야 할 개인 데이터의 오남용 예를 하나 공유해 줄 수 있나?

‘AI 딜레마’ 67페이지부터;

계속해서 개인 데이터의 오남용 사례가 공개되고 있다. 많은 경우가 얼굴 인식 기술을 사용한 경우이다. 2022년 12월, MIT 테크놀로지 리뷰는 iRobot의 로봇 청소기들이 베타 테스터의 집에서 녹화한 이미지와 비디오를 기록하고, 이를 테스터의 인식 없이 외부 그룹과 공유한다는 사실을 보도했다. 적어도 한 경우, 화장실에 있는 사람의 이미지가 페이스북에 게시되었다. 한편, 이란 당국은 여성들이 히잡을 착용하지 않은 것을 추적하고 체포하기 위해 얼굴 인식 시스템의 데이터를 사용하기 시작했다.

이러한 이야기를 더 이상 늘리지 않아도 좋다. 이러한 사례가 너무 많다. 중요한 것은 이러한 방식으로生活하는 것이 우리에게cumulative 효과를 미친다는 것이다. 우리는 우리의 개인 정보가 언제든지 경고 없이 사용될 수 있다는 생각에 우리의 삶을 통제할 수 없다는 느낌을 받는다.

당신이 지적한 위험한 개념 중 하나는 우리가 마찰 없는 경험을 기대한다는 것이다. 마찰은 고객이 회사와의 상호 작용에서 느끼는 불편이나 滯留을 의미한다. 마찰 없는 경험의 기대가 어떻게 위험한 AI로 이어질 수 있는가?

뉴질랜드에서 Pak’n’Save의 스마트 식사 로봇이 레시피를 제안했는데, 이를 사용하면 염소 가스를 생성할 수 있었다. 이것은 고객이 남은 재료를 사용하여 돈을 절약하는 방법으로 홍보되었다.

마찰 없는 경험은 통제의 환상을 창조한다. 앱을 듣는 것이 할머니의 레시피를 찾는 것보다 더 빠르고 쉽다. 사람들은 저항의 경로를 따라가지 않고, 어디로 가는지 모른다.

마찰은 창의적이다. 당신은 참여한다. 이것은 실제 통제를 의미한다. 실제 통제는 주의와 노력이 필요하며, AI의 경우에는 확장된 비용-편익 분석이 필요하다.

통제의 환상이 우리에게 주는 것은 인간이 실제로 통제를 가지고 있지 않다는 것이다. 인간이 실제로 통제를 가지고 있지 않은 예를 하나 들어줄 수 있나?

샌프란시스코에서 현재 로봇 택시가 운행을 시작했다. 자율 주행 택시의 아이디어는 두 가지 상반된 감정을 불러일으킨다.興奮과 두려움이다. 많은 규제자들은 차에 사람이 타고 있는 경우에 테스트를 해야 한다고 제안한다. 그러나 실제로 인간이 실시간으로 시스템을 제어할 수 있는지 테스트하는 것은 PUBLIC 안전에 대한 좋은 테스트가 아니다. 자율 주행 시스템의 경우, 인간 운용자가 시스템을 더 신뢰하고, 충분한 주의를 기울이지 않는다. 우리는 이러한 기술을 지켜보는 데에 지루해한다. 실제로 사고가 발생할 때, 우리는 예상하지 못하고, 반응하지도 않는다.

이 책을 쓰기 위해 많은 연구를 했다. 당신이 놀랐던 것이 무엇인가?

우리가 정말로 놀랐던 것은 사람들이 자율 주행 자동차 충돌 시뮬레이션에서 누가 살고 누가 죽어야 하는지에 대해 동의하지 못한다는 것이었다. 만약 우리가 이것에 대해 동의하지 못한다면, 글로벌 거버넌스 또는 AI 시스템에 대한 세계적인 표준을 가질 수 있을까?

당신들은 둘 다 기업가라고 말한다. 이 책에서 배운 것이 당신們의 미래 노력에 어떻게 영향을 미칠 것인가?

우리의 AI 자문 업무는 조직이 기술을 책임감 있게 사용하여 성장하도록 도와주는 것을 목표로 한다. 법률가, 엔지니어, 사회 과학자, 비즈니스 思想家들은 모두 AI의 미래에 관심을 가진 이해관계자이다. 우리의 업무에서 우리는 이러한 모든 관점을 결합하고, 창의적인 마찰을 실천하여 더 나은 해결책을 찾는다. 우리는 의도적인 위험의 계산과 같은 프레임워크를 개발하여 이러한 문제를 해결하도록 도왔다.

감사합니다. 더 많은 것을 배우고 싶은 독자는 ‘AI 딜레마’를 방문해 보세요.