현실이 죽었을 때, 당신은 어디에 있었나요?

어제 저녁, 흔히 그럴 때처럼, 아내가 퇴근 후 소셜 미디어에서 재미있게 본 다양한 동영상과 이미지를 보여주기 위해 찾아왔습니다. 그녀가 고른 콘텐츠는 주로 사랑스러운 동물과 봉제 인형이 들어간 ‘귀여운’ 콘텐츠에 편중되어 있습니다.

곧이어, 그녀는 아직 살펴볼 시간이 없었지만 저장해 둔 것을 보여주었습니다 – 암컷 코알라와 그녀의 두 마리 새끼, 그리고 호기심 많은 고양이가 등장하는 ‘귀여운 동물’ 영상이었습니다.

즉시, 어린 집고양이가 이런 야생 동물들과 같은 공간에 어떻게 들어갈 수 있겠냐는 생각이 들었습니다. 설령 ‘동물원’ 같은 환경이라고 가정한다 해도 말이죠. 하지만 그 생각은 성가신 모기처럼 털어냈습니다. ‘삶은 이상하다’는 말에 충분히 들어맞으니까요.

영상은 어미 코알라와 두 마리의 잠든 새끼가 천 위에 놓여 있는 고정되고 꽤 좁은 화면을 보여주었으며, 어미는 별다른 특징이 없는 벽에 기대고 있었습니다.

어린, 조심스러운 얼룩 고양이가 화면에 들어왔고, 호기심이 두려움을 이겨내게 했으며, 잠자는 새끼들 옆으로 다가갔습니다 – 그 사이 어미가 이 개입을 눈살을 찌푸릴 수도 있기에 계속해서 어미를 살폈습니다.

약 1분 정도의 이 추측적 교착 상태가 지속된 뒤, 어미 코알라는 몸을 뻗어 어린 고양이를 휘감아 올렸고, 몇 순간 동안 잡고 있었으며, 이는 두 동물의 무게와 체형에 완전히 부합하는 방식이었습니다; 그리고 나서 침입자를 새끼 옆에 ‘허용 가능한 손님’으로 자리 잡게 했습니다.*

새로운 문제를 위한 새로운 고양이

이 시점에서, 거의 동시에 아내와 나는 이 영상이 AI가 생성했을 가능성이 높다고 선언했고, 나는 ‘보류된 실망감’이라고밖에 표현할 수 없는 감정을 표현했습니다; 우리에게 이것은 문자 그대로 새로운 종류의 슈뢰딩거 고양이와 같았습니다 – 마침내 상자 밖에 나왔지만, 반드시 살아있는 것은 아니다.

그 이후로 나는 그 영상을 찾아보지 않았습니다. 게시자가 그 진위 여부를 인정했는지, 혹은 현재보다 이전에 처음 게시되어 수많은 웹사이트와 포털에서 저렴하게 제작될 수 있었는지, 혹은 영상의 댓글자들이 이 자료가 AI 생성이라고 비난하는 모습을 보기 위해서도 말이죠. 그들이 확실히 알지는 못할지라도.

그 특정 영상이 가짜인지 진짜인지는 중요하지 않습니다; 나를 사로잡은 것은 내가 마침내 오래 기다리고 기대하던 깨달음에 도달했다는 점이었습니다 – 즉, 내가 지난 7년 동안 AI 생성 이미지와 영상 시스템에 대한 깊고 집중적인 보도**(뿐만 아니라 그리고 딥페이크 탐지 시스템을 만들며)을 제공했음에도 불구하고, 이제는 내가 보는 것을조차 신뢰할 수 없다는 사실입니다.

AI 영상 합성의 가장 큰 남은 병목 현상인 불일치는 바이럴 가능성이 가장 높은 짧은 형식 콘텐츠를 만드는 데는 장애물이 되지 않습니다. AI는 우리의 짧아진 주의 집중 시간을 완벽하고 정확하게 채워줄 수 있지만, 당분간은 그 정도만 가능합니다; 그러나 분명히 이러한 경고들, 도전적이긴 하지만, 언젠가 극복될 것입니다.

따라서, 코알라 영상에 대한 이 늦게(그리고 어쩌면 잘못된) 생각은 평생 동안의 ‘내가 어디에 있었는가’ 순간들과 맞물립니다: 엄마가 사다리를 타고 천장을 칠하고 라디오는 엘비스가 사망했다고 전한다; 1977년 크리스마스 이브 레스터 스퀘어에서 공개 상영된 스타워즈에서 별 파괴기가 머리 위를 울리며 지나간다; 1993년 7월 레스터 스퀘어에서 티라노사우루스가 우리 우리에서 탈출한다; 마라가 (이탈리아어로) ‘부엌으로 와, 얘들아 – 뉴욕에서 무언가 일어나고 있어’ 라고 말한다; 나는 코알라 영상의 고양이를 바라보며 이것이 바로 그 해이며 – 나에게는 – 현실이 죽은 순간이라는 것을 깨닫는다.

(이봐, 케네디가 총에 맞았을 때 나조차도 외계에 있었어.)

‘문 앞의 적’ 반응

2025년 말 기준으로, 한 연구자에 따르면 AI 생성 이미지를 인식하는 우리의 능력은 우연보다 크게 벗어나지 않으며, 54% 수준입니다. 직접 테스트를 해보세요 – 저는 그다지 좋은 결과를 얻지 못했으며, 그 사이 8~9개월 동안 생성 AI의 품질이 눈에 띄게 향상되었습니다:

재생하려면 클릭 – 수년간의 연구에도 불구하고, 이미지를 AI 생성 또는 실제로 평가할 때 나는 인용된 연구에서 수행된 테스트의 평균과 거의 동일한 점수를 얻습니다. Source 

The Washington Post made 잠재적인 포스트-리얼리티 세계에 대한 가장 초기 예측 중 하나를 2018년 2월에 제시했으며, 이는 오토인코더 기반 딥페이크가 세상을 놀라게 한 지 불과 몇 달 뒤였습니다. 이 글은 곧 규제에 대한 경고성 구호로 빠르게 전개되었으며, 결국 성적 딥페이크에 대한 법률 제정 형태로 나타났고; EU의 AI 생성 자료 공개에 관한 새로운 법; 그리고 콘텐츠 출처 및 진위 보증 연합(C2PA) 인증 시스템이 뒤따랐습니다.

후자는 이미지의 전체 수명 주기 동안, 카메라 센서 데이터부터 출판 및 보관까지, 이미지에 자격 정보를 부착하려 시도하며, 여정 중에 이루어진 모든 변경 사항을 기록하고 그에 따라 매니페스트를 수정합니다.

당연히 이러한 출생-소멸 접근 방식은 현재 유통 중인 방대한 이미지들을 대부분 무시하며, 채택된 극히 제한된 몇몇 장소에서만 소비자 가치가 있습니다.

내가 몇 손가락을 들고 있나요?

하지만 요점은 2018년 초반의 충동적인 사설 이후 크게 증가한 AI 생성 콘텐츠에 대한 규제 욕구가 아이러니하게도 인간 판단의 자동화 또는 위임을 요구한다는 점입니다.

우리는 그 작업을 직접 하고 싶지 않으며 정부와 기관이 대신 하길 원하거나, 혹은 특정 사람들 – 혹은 그러한 유형의 사람들 – 이 이러한 판단을 내리게 두어서는 안 된다고 생각합니다 (이는 그런 입장을 취하는 사람들에게는 칭찬이 아닙니다).

제가 이미 조금 낙담한 듯이 코알라/고양이 영상의 출처를 조사하지 않겠다고 말하지 않았나요? 그 영상이 가짜인지 여부를 알지 못하고, 최소한 더 나은 추정을 위해 충분한 정보를 모으려 하지 않는다는 점은 조지 오웰이 1984에서 묘사한 탄력적인 믿음 상태와 동일합니다. 그 소설에서 주인공은 경찰 국가에 의해 고문을 당하면서 두 가지 상충되는 믿음을 동시에 가질 수 있게 됩니다:

마이클 라드포드가 오웰의 고전 디스토피아 SF 소설을 1984년 영화화한 작품에서, 고통받는 윈스턴 스미스(존 허트)는 최소한 네 손가락이 실제로는 세 손가락과 같을 수 있으며, 그의 눈을 반드시 신뢰할 수 없다고 인정하기 시작합니다. 1984 (1984)에서 발췌, © Metro-Goldwyn-Mayer Studios Inc. / Amazon MGM Studios.

오웰의 소설에서, 적대자 오브라이언(리처드 버턴이 1984년 영화에서 연기)은 피해자들에게 고문을 이용해 그들의 믿음을 유연하게 만들려는 목적을 명시하며, 이는 전체주의 국가가 요구하는 대로 동시에 두 가지 믿음을 갖게 하는 것입니다 – 예를 들어 네 손가락을 들어도 국가가 요구하면 세 손가락으로 간주될 수 있다는 식입니다.

이러한 ‘믿음의 탄력성’은 모든 종류의 인플루언서들 사이에서 자연스럽게 높이 평가됩니다. 왜냐하면 일반적으로 유권자나 소비자가 영향력 있는 대상으로 성숙해질 때까지 그 믿음은 경직되기 마련이기 때문입니다.

나에게 코알라/고양이 영상은 동시에 ‘AI’이면서 ‘AI가 아니다’이기에, 나는 이중 믿음에 익숙해지기 위한 첫 걸음을 내디뎠고, 그 이진적 인식을 멈추고 무엇이 진짜인지 알려주려는 사람들에게 쉽게 영향을 받게 되었습니다.

따라서, 이 특정한 깨달음은 찬양받아야 할 것이 아니라 오히려 저항해야 할 것이라고 생각합니다. ‘비현실성’에 대한 내면의 양보가 ‘귀여운 동물’ 영상 형태로 나에게 찾아왔고, 당신에게도 – 혹은 아직 찾아오지 않았다면 – 다른 형태로 찾아올 수 있는데, 이는 자신의 세계를 판단하고 평가하는 능력에 위험이 될 수 있습니다.

가벼운 이야기

가벼운 이야기로, 철학자 조슈아 해브굿-쿠트는 2024년에 ‘인식론적 종말론’을 과장된 경보로 치부하며, 어쨌든 취약하고 사진술의 경우 비교적 최근에 등장한 시스템의 상실에 대한 경보라고 보았습니다.

하지만 그는 보다 최근의 연구에서, ‘가짜 뉴스’와 ‘포스트 트루스’라는 밈이 정치적 목적에 이용되고 있다고 주장합니다. 적어도 전자의 경우, 이는 부인하기 어렵습니다(비록 정치적 기회주의를 나타내지만, 음모라기보다는).

* 그리고 여러분은 이 편리한 예가 실제인지, 혹은 내가 AI든 아니든 논술 장치로 만들어낸 것이 아닌지 궁금해하고 있나요? 나는 이것이 실제라고 말합니다; 내가 이 문제에 대해 새로운 목소리가 아니라는 사실이 설득력을 가진다면, 여러분도 믿을지도 모릅니다. 아니면 내가 최근에 변했는가…?

** 이에는 문헌의 다양한 항목에 대한 인용이 포함되며, 여기에는 The Cambridge Handbook of Generative AI and the Law (머신러닝 가중치에 관한)도 포함됩니다.

2026년 9월 4일 금요일 최초 게시. 코알라와 관련된 오류를 수정하기 위해 최초 게시 후 몇 분 내에 수정되었으며, 같은 날 조금 뒤에 누락된 태그를 추가했습니다.