폴리마켓의 가짜 승리에서부터 제조된 합의에 대한 진실

6월, 월 스트리트 저널은 폴리마켓이 주로 대학생들을 대상으로 웹사이트를 똑같이 만든 후 베팅을 하는 영상을 촬영하도록 창작자를 고용했다고 보도했다. 일부 비디오는 실제로 발생하지 않은 승리를 보여주었다.

폴리마켓은 então 네트워크를 고용하여 영상을 재게시하여 유기적인 인기의 물결처럼 보이도록 했다. 118개의 비디오에서 창작자는 실제로 배팅을 하지 않았음에도 불구하고 약 90만 달러의 승리를 축하했다. 전체 캠페인은 1,105개의 비디오로 구성되었으며, 실제 거래를 반영하지 않는다.

대부분의 반응은 가짜 광고라는 생각에 초점이 맞춰져 있었지만, 폴리마켓이 어떻게 걸렸는지, 그리고 같은 종류의 캠페인이 향후 감지되지 않을지에 대한 더 유용한 질문을 다루지 않는다. 회사는 궁극적으로 인간이 관련되어 있었기 때문에 걸렸다. 그러나 AI는 이를 변경하고 있다. 온라인에서 설득력 있는 내러티브를 제조하는 비용은 빠르게 떨어지고 있으며, 이를 감지하는 우리의 능력도 함께 떨어지고 있다.

인간이 필요한 모델 대 인간이 필요 없는 모델

폴리마켓의 캠페인은 유기적으로 보였기 때문에 작동했다. 창작자는 자신의 계정에서 자신의 경험을 녹화하는 것처럼 게시했으며, 클립은 진정한 열광의 물결처럼 보이기까지 퍼졌다. 그러나 이 캠페인이 작동한 것은 창작자뿐만 아니라 다른 반쪽, 즉 가짜 참여였다.

이러한 비디오가 TikTok, YouTube, Instagram에서 1.4억 회의 조회수를 기록한 것은 우연이 아니다. 이러한 조회수는 보통 인공적인 좋아요, 댓글, 조회수로 비디오를 채우고, 플랫폼의 추천 엔진이 사람들이真正로 보고 싶어하는 것으로 착각하게 만듦으로써 달성된다. 폴리마켓은 거의 확실하게 두 가지 방법을 모두 사용했다.

이것이 비용이 많이 들고, 궁극적으로 추적 가능한 이유는 모든 단계에서 인간이 관련되어 있었기 때문이다. 가짜 사이트를 만들고 호스팅해야 했고, 창작자를 고용해야 했고, 재게시 네트워크를 관리하기 위해 회사를 고용해야 했으며, 이러한 모든 단계에서 기록이 남아 있었다.

AI는 이러한 제약을 제거한다. 합성된 인물, 생성된 비디오, 복제된 목소리는 유기적인 열광의 환상을 만들어내는 데 동일한 방식을 사용할 수 있지만, 급여, 계약, 또는 서류가 필요 없다.

가짜와 실제의 구분선이 유지되지 않는다

대부분의 경영진은 온라인 내러티브를 이진으로 생각한다. 폴리마켓의 피치는 실제로 시작된 것이 아니라 제조된 것으로 시작했지만, 충분히 많은 사람들이 그것을 보았을 때, 믿었을 때, 그리고 행동했을 때, 실제 사용자와 함께 구축되었다. 그 시점에서, 내러티브의 기원은 더 이상 관련이 없는 사실이 된다. 최근 연구에 따르면 인간은 AI 생성 콘텐츠와 실제 콘텐츠를 51%의 확률로만 구별할 수 있다.

폴리마켓은 이러한 혼란을 거래 수수료로 전환했다. 동일한 메커니즘을 선거 또는 기타 논쟁의 있는 공공 문제에 적용하면, AI는 이러한 종류의 조작을 대규모로 실행하기 쉽게 만든다. 그리고 여기서 걸리는 것은 수익의 손실이 아니라, 대중이 누구를 신뢰하고, 어떻게 투표하는지에 대한 것이다.

일반적인 모니터링 도구가 이를 놓치는 이유

대부분의 평판 모니터링은 텍스트 중심의 인터넷을 추적하도록 설계되었으며, 키워드, 해시태그, 언급을 감시한다. 그러나 인식은 이제 짧은 형식의 비디오와 추천 시스템 안에서 형성된다. 캡션, 댓글을 읽는 도구는 음성, 시각적 맥락, 화면상의 사람의 신뢰도를 읽도록 설계되지 않았다. 그리고 이러한 정보는 더 이상 선택적이지 않다.

AI 비디오 생성은 거의 모든 것을 믿을 수 있는 클립으로制作하는 데 충분히 발전했다. 이러한 캠페인을 실행하는 사람은 이미 브랜드를 태그하거나 검색 가능한 언어를 사용하지 않는다는 것을 알고 있다. 따라서 실제로 내러티브를 전달하는 신호, 즉 톤, 시각적 맥락, 창작자의 신뢰도, 커뮤니티 반응은 키워드 기반 시스템에 의해 설계적으로 숨겨진다.

폴리마켓이 걸렸던 이유: 아직도 인간이 필요했다

누구도 회사가 자체적인 호재를 제조했다는 사실에 충격을 받지 않을 것이다. 이것은 수년간 사용되어 온 표준적인 불법 정보 플레이북이다. 폴리마켓은 특정하게 인간이 관련되어 있었기 때문에 걸렸으며, 이를 추적할 수 있는 기록이 남아 있었다.

다음 버전의 캠페인은 이러한 것이 필요하지 않을 것이다. 합의를 제조하는 비용이 거의 제로에 가까워지면, 실제와 제조된 것을 구별하는 능력은 좋은 기능에서 모든 하위 결정의 근본이 되는 것으로 바뀐다. 즉, 누구를 신뢰하고, 무엇을 믿고, 어떻게 반응할지에 대한 모든 결정은 실제와 제조된 것을 구별하는 능력에 달려 있다.