Sean Gourley, Primer CEO 겸 창립자 – 인터뷰 시리즈

Sean Gourley는 CEO이자 창립자입니다. 뇌관는 정부 기관, 금융 기관, Fortune 50대 기업 및 기타 여러 조직에 산업 등급의 자연어 처리(NLP) 애플리케이션을 제공하는 기업입니다.

Primer의 주요 사용 사례 중 하나는 사람들이 허위 정보 캠페인을 감지, 이해 및 대응하도록 돕는 것입니다. 이러한 서비스를 향상시키기 위한 노력의 일환으로 Primer 최근 인수한 Yonder 허위 정보 공격에 대처하는 능력을 향상시킵니다.

Sean과 함께 최근 잘못된 정보에 대해 논의했습니다. Ai4 회의 라스베가스에서 개최된 것입니다. Sean은 잘못된 정보 캠페인 및 정부 선전에 관한 정보의 보고입니다. 아래는 우리의 인터뷰입니다.

처음에 전체 잘못된 정보 생태계를 배우고 이해하게 된 이유는 무엇입니까?

그래서 고주파 거래에 대해 조금 이야기했는데 흥미로웠습니다. 나는 그것을 통해보고 있었다. 세상에서 어떤 일이 일어났는지 이해하려고 시도한 다음 거래를 시도하는 이런 종류의 알고리즘 공간이 있었습니다. 그리고 그것은 원시적이었습니다. 이것은 2012년으로 돌아가서 우리는 소음을 포착하고 있었습니다.

그들은 그것을 읽을 때 일이 잘못되거나 신호를 잘못 해석했습니다. 그리고 AP가 해킹당했다는 트윗이 나왔습니다. 그리고 그들의 트위터 계정은 "속보: 백악관 폭발, 버락 오바마 부상"이라고 말했습니다. 그리고 나서 시장은 그 정보를 가지고 떨어졌고, 그 트윗에서 약 130억 달러를 잃었습니다. 지금은 그것이 시장을 주도하기 위한 것인지, 단지 대혼란을 일으키기 위한 것인지, 아니면 무언가를 하기 위한 것인지 모르겠습니다. 하지만 그 당시에는 그저 그런 연결 고리였을 뿐입니다. 저는 "와우." 마치 이 나비가 날개를 퍼덕이며 이런 종류의 영향을 미치는 것과 같습니다. 실제로 그렇게 똑똑하지 않은 일련의 알고리즘 액터를 활용하기 때문입니다.

그래서 저는 그것을 보았고, 파고들게 되었고, 그리고 나서 찾기 시작했습니다... 그리고 저는 많은 멕시코 봇, 언론인들이 마약 카르텔에 의해 살해되지 않았다고 주장하는 멕시코 계정이 있다는 것을 보았습니다. 그리고 지금은 2013년과 같습니다. 저는 이렇게 말했습니다. 그리고 그들이 이기는 것 같습니다.” 그리고 저는 “이들은 국가 행위자도 아닙니다.”라고 생각했습니다. 그리고 그 시점에서 일종의 말을 했습니다. 그것은 어떻게 생겼고 그것은 무엇을 할 것입니까?” 그리고 나서 2015년에 Wired에 기사를 실었습니다. 실제로는 2014년 말에 작성되었지만 2015년에 대한 예측에 관한 것이었습니다. .”

그리고 그 작품이 완성되면서 믿을 수 없을 정도로 선견지명해졌습니다. 아마도 제가 원래 생각했던 것보다 훨씬 더 그랬을 것입니다. 그러나 그것은 단지 이런 종류의 기술 아크를 보고 있었을 뿐입니다. 같은 측면에서 우리는 이러한 기술이 얼마나 초보적인지 확인하고 있었습니다. 꽤 원시적이었습니다. 그래서 그 모든 것이 함께 모이기 시작했고, 그런 다음 우리는 이런 유형의 공간을 갖게 되었고, 와우, 지금 소비하고 있는 피드의 정보에 반복적으로 노출되는 것만으로 내러티브를 제어할 수 있습니다.

흔들리는 선거가 있었거나 미래의 선거가 이러한 유형의 잘못된 정보에 의해 흔들릴 수 있다고 믿습니까?

어떤 의미에서 이것을 다시 프레이밍합니다. 첫 번째는 잘못된 정보가 사실이 아니라는 매우 협소한 기준을 적용한 것입니다. 그리고 너무 좁다고 생각합니다. 내러티브를 제어하는 ​​사람으로 확장해야 합니다. 지금 당장 내러티브는 매우 현실적일 수 있지만 그다지 중요하지 않을 수 있습니다.

당신이 범죄에 대해 걱정한다면 우리는 이야기를 할 수 있고 모든 범죄를 모든 채널에 대규모로 방송할 수 있습니다. 본 적이 있다는 것입니다. 그리고 당신이 한 모든 것은 보고된 모든 범죄, 이전에는 당신의 레이더에 없었던 모든 범죄를 당신의 시스템에 입력한 것입니다.

이제 당신은 범죄가 실제보다 훨씬 높다고 믿기 시작할 것입니다. 그것은 변하지 않았지만 당신은 그것에 더 많이 노출되어 있습니다. 따라서 이것은 범죄가 발생했는지 여부가 아니라 주의를 끌기 위해 싸우고 있었는지 여부입니다. 그래서 이것은 한 조각입니다. 우리는 이것에 걸렸습니까? 마치 그것이 전투인 것처럼. 그러나 전투는 실제로 사람들의 세계관을 위한 것입니다. 그래서, 그것은 그것의 한 면입니다.

여기서 두 번째 부분은, 음, 이 물건에 얼마나 많은 영향을 미칠 수 있습니까? 음, 백신이 IQ 37점을 잃게 하는지 여부에 대한 인식이 없거나 백신과 지능이 연결되어 있다는 믿음이 이전에 없었던 경우입니다. 내가 백신이 당신의 IQ를 높였다고 말하면 누군가가 돌아와서 백신이 당신의 IQ를 떨어뜨렸다고 말하는 것보다 그것을 믿을 가능성이 XNUMX배 더 높아질 것입니다. 따라서 첫 번째 메시지를 가지고 오는 사람은 이전에 어떤 것에 대한 의견이 없었다면 그 믿음을 가질 가능성이 가장 높습니다.

그렇다면 이것에 취약한 것은 인간 두뇌의 편견입니까?

인간 두뇌의 편견입니다. 두 번째 비트는 정보가 거짓임을 알고 있어도 노출되면 거짓임을 알고 있어도 믿을 가능성이 더 큽니다. 정보의 반복이 있습니다. 이전에 의견이 없었던 첫 번째 정보가 있습니다. 그리고 우리가 알고 있는 또 다른 부분은 독립적인 출처에서 얻은 정보를 가지고 있다면 더 신뢰하게 된다는 것입니다. 그리고 당신의 친구 네트워크에 있는 사람들로부터 그것을 가지고 있다면, 당신은 그것을 더 신뢰하고, 그것은 제휴 방법론이 됩니다. 그리고 우리는 약 25%가 티핑 포인트라는 것을 알고 있습니다. 25%의 사람들이 무언가를 믿기 시작하면 엄청난 티핑 포인트가 생성되어 75% 또는 80%의 사람들이 그것을 믿기 시작할 가능성이 매우 높아집니다.

따라서 이 모든 것은 일종의 의견 형성 세계와 그룹이 합의에 도달하는 메커니즘으로 귀결됩니다. 물리학의 하위 분과인 전산 물리학이 있는데, 이것을 연구하고 있습니다. 여러분은 문헌을 통해 의견이 어떻게 형성되고 전파되고 채택되는지에 대한 이러한 모델을 이해할 수 있습니다.

원하는 경우 이러한 시스템을 엔지니어링할 수 있으며 이것이 사람들이 시작하는 것입니다. 나는 그들이 매우 정교했다고 생각하지 않습니다. 하지만 보세요, 중국은 AI 초강대국입니다. 그들은 대만의 역동성을 둘러싼 정보 전쟁에서 승리하는 것이 엄청나게 중요하다는 것을 알고 있습니다. 우리는 그들이 기술이 허용하는 모든 단계를 밟고 그 갈등에 참여하고 승리하기를 기대해야 합니다.

우리는 인간이 어떻게 이것의 희생양이 되는지 알고 있지만 AI는 어떻게 근본 진실을 감지합니까?

우리는 진실이라는 것에서 벗어날 필요가 있습니다. 제가 의미하는 바는 팩트 체커를 모든 것에 도입하는 것이 아니라는 것입니다. 우리가 말했기 때문에 여기 보세요, AI가 판단할 수 있습니다. 예, 이 범죄가 발생했지만 중요하지 않습니다. 그게 문제가 아닙니다. 당신은 이제 당신의 도시에 엄청난 범죄의 물결이 있고 그것에 대해 뭔가 조치를 취해야 한다고 믿습니다. 오른쪽? 그리고 대만이 중국에 속해 있는지 아닌지에 대한 근본적인 진실은 무엇입니까? 내 말은, 당신은 역사적으로 돌아갈 수 있습니다. 우리는 그것에 대해 토론할 수 있지만 AI는 알고 있습니까? 우리는 그것이 정확히 어디에 있는지 알고 있습니까?

이제 우리는 그것이 상대적으로 분열적인 문제라는 것을 알고 있습니다. 그리고 미국과 대만에는 신념 구조가 있습니다. 중국에는 또 다른 신념 구조가 있습니다. AI의 임무는 누가 옳은지 알아내는 것이 아닙니다. AI의 임무는 누군가가 당신이 한쪽 또는 다른 쪽을 믿도록 적극적으로 영향을 미치려고 시도했는지 여부를 결정하는 것입니다.

두 번째는 사람들이 인공 지능을 사용하여 한쪽 또는 다른 쪽을 믿도록 설득하려고 시도한다는 것입니다. 첫 번째 믿음을 얻는 방법을 사용하여 이것에 지속적으로 노출되고 겉보기에 독립적인 목소리를 듣게 됩니다. 영향력 네트워크의 25%를 제어하고 선택하여 상대방을 믿도록 전환할 수 있기를 바랍니다. 이것들은 모두 AI가 향상시킬 수 있고 AI가 방어할 수 있는 기술입니다. 하지만 우리는 AI가 진실을 결정할 수 있는가 하는 문제에서 벗어날 필요가 있습니다. 왜냐하면 종종 진실은 아마도 내러티브를 위한 전투보다 덜 중요하기 때문입니다.

Primer는 이를 어떻게 지원합니까?

따라서 주로 감시 및 탐지에 관한 것입니다. 떠오르는 것 중 하나는 잘못된 정보 캠페인에 대해 처음 듣는 경우가 발생한 지 XNUMX개월 후인 경우가 많다는 것입니다.

우리가 이것을 실시간으로 잡을 수 없다는 것을 의미합니까?

음, 실시간도 아닙니다. 우리를 동역학적인 것에 넣으면 미사일이 미국 국경으로 이동했고 XNUMX개월 후 우리는 그들이 우리를 향해 발사되었다는 것을 깨닫습니다. 그것이 우리가 있는 곳입니다. 우리는 잘못된 정보 또는 우리가 부르는 정보 작전에 대한 감시 및 정찰을 메울 엄청난 격차가 있습니다. 수행된 정보 작업이 있었다면 실시간 또는 거의 실시간으로 그것이 어떻게 생겼는지, 동기가 무엇인지, 조작이 무엇인지 이해하고 시작할 수 있는 위치에 배치해야 합니다. 이러한 봇 네트워크를 차단하거나 해당 정보의 확산을 제한하기 시작할 수 있습니다.

그리고 중국이 세계에서 하는 궁극적인 위협에 대한 당신의 견해는 무엇입니까?

그것은 세계에서 큰 질문입니다. 우리가 아는 것은 우리가 중국과 AI 군비 경쟁을 벌이고 있다는 것입니다. 왜냐하면 그 경쟁의 승자는 그 경쟁에서 XNUMX위를 차지한 사람보다 매우 지배적인 군사적 이점을 갖게 될 것이기 때문입니다. 그래서 중국은 인공 지능의 구성 요소를 매우 공격적으로 추구할 것입니다. 두 번째 부분은 칩 제조의 탁월함과 대만이 보유한 고급 GPU입니다. 그리고 제 생각에 중국이 그것을 보고 대만의 제조 연구소, 시설, 파운드리를 가질 수 있다면 그들은 AI 군비 경쟁에서 매우 매우 지배적인 위치에 있게 될 것입니다.

이제 중국이 무력으로 이를 취하면 결국 그러한 능력을 파괴하거나 대만에 의해 파괴되고 아무도 그것을 가지고 있지 않을 가능성이 높습니다. 어느 정도 중국에게는 괜찮을 것입니다. 전 세계적으로 엄청난 혼란이 있을 것이지만, 그런 일이 일어난다면 반드시 중국에 그다지 큰 문제를 일으키지는 않을 것입니다.

그러나 그들이 전체를 가져갈 수 있다면 그것은 그들에게 엄청난 이점입니다. 그렇게 하는 방식은 홍콩에서 본 것처럼 "당신은 정말 우리의 일부입니다." 그리고 당신은 그들이 정말로 우리의 일부라는 것을 세계의 나머지 사람들에게 확신시킵니다. 그리고 그 믿음이나 의견에 반대하려고 하면 경제 문제나 다른 문제가 생길 것입니다. 그래서 중국이 관여하고 있는 것은 대만이 중국의 일부라는 것을 세계에 확신시키고 대만 사람들에게 그들이 중국의 일부라는 것을 확신시키기 위한 글로벌 영향력 작전이 될 것입니다. 그리고 그들이 그렇게 할 수 있다면, 갑자기 중국은 케이크를 갖게 되고 그것을 먹을 수 있게 됩니다.

그래서 우리가 보게 될 곳은 중국이 대만이 중국의 일부라는 것을 세계에 확신시키기 위해 내러티브 정보 작전을 계획하는 것입니다. 그리고 이것은 하원 정보위원회에서 인정하고 있습니다. 그들은 정보 승인법을 만들면서 특히 카리브해, 남미, 중앙 아메리카에서 중국 영향력 작전을 탐지하는 방법을 요구했습니다.

그것은 정보 커뮤니티가 이것에 대해 작업하도록 하는 구체적인 요청입니다. 인텔리전스 권한 부여법은 또한 인공 지능을 채택할 수 있는 능력, 기성 상용 기술을 사용할 수 있는 능력, 코드 없는 환경을 이러한 조직에 배포할 수 있는 능력을 요구했습니다. Hill에서 나오는 정말 건설적인 것들이 있습니다. 공개되어 읽을 수 있는 일부 글은 특히 남미, 중앙 아메리카 및 카리브해 국가에서 중국의 잘못된 정보 캠페인과 싸우는 데 매우 흥미로웠습니다.

YouTube, Facebook, Twitter 및 TikTok과 같은 추천 엔진이 이 거짓 내러티브를 증폭시키는 데 어느 정도의 역할을 해야 한다고 생각하십니까?

중국에 대해 우리가 아는 한 가지는 그들이 Facebook이 들어오는 것을 막았다는 것입니다. Facebook이 중국에 진출했습니다. 2012년에 Mark Zuckerberg는 “나는 북경어를 배울 거예요. 모든 것이 중국에 관한 것입니다.” 중국은 “당신을 들여보내고 이제 작별 인사를 하겠습니다.”라고 말했습니다.

왜냐하면 중국은 “글쎄, 미국 회사가 우리 인구의 정보 피드를 통제하도록 내버려 두다니 정말이지. 우리는 인구가 얻는 정보를 통제하기 위해 매우 열심히 일했습니다. 대단히 감사합니다. 이것이 우리가 하는 일입니다. 우리는 그것에 아주 능숙합니다. 우리는 당신을 들여보낼 것입니다, 우리는 당신에게서 배울 것입니다. 하지만 그 후에 당신은 사라졌습니다.” 이제 Facebook은 없습니다.

그래서 CCP(중국 공산당)는 정보 통제 방법에 대해 매우 명확한 결정을 내렸습니다. 이제 권위주의 정권으로서 여러분은 그 통제권을 가지고 있습니다. “당신은 이러한 아이디어를 생각하지 않을 것입니다. 당신은 이런 말을 하지 않을 것입니다. 당신은 그렇게하지 않을 것입니다.” 자유 민주주의로서 우리는 비교적 자유롭고 열린 공간에서 토론 능력과 아이디어 교환에 참여해야 합니다. 특정 한계가 있지만 바로 가장자리에 있습니다. 그래서 중국은 정보를 통제할 수 있었다고 생각합니다. 미국은 같은 정도로 할 수 없습니다. 민주주의가 있습니다. 우리는 혼란스러운 정보가 스스로 싸우도록 내버려 두어야 합니다. 그렇기 때문에 우리는 이러한 유형의 정보 공격에 취약해졌습니다. 시스템에 큰 비대칭이 있습니다. “토론의 자유를 원하십니까? 글쎄, 우리는 그것을 손상시킬 것입니다. 정보 시스템에 대한 잠금이 매우 잘 되어 있기 때문에 우리에게 그렇게 할 수 없습니다.”

나는 그것이 우리가 이것을 통해 씨름하게 될 것이라고 생각합니다. 그리고 첫 번째 종류의 프로토콜은 정보 작업이 플랫폼에서 실행되고 있는지 신속하게 식별하고 시스템에 최소한 해당 정보의 확산 유형을 제한하는 것이지만 그렇지 않은 경우 경고합니다. -봇 네트워크, 신속하게 제거하십시오. 이것의 권장 측면은… 이것은 미국 회사에서 악의적으로 사용된 적이 없다고 말하고 싶습니다. 그런 곳이 아닌가 싶습니다. 외부 업체에서 악의적으로 사용할 수 있나요? 그래, 잠재적으로. 당신이 누군가와 전쟁 중이고 그들이 당신의 인구에게 내러티브를 제공하는 정보 네트워크를 통제하고 있다면, 당신은 그들이 공정하고 편견이 없다고 믿겠습니까?

음, 우리는 VK와 소셜 네트워크인 러시아에 무슨 일이 일어났는지 이미 알고 있습니다. 그들은 말했습니다. 그것은 단지 금지입니다. 그리고 우리는 서구 네트워크에서 우리 네트워크로 정보가 확산되는 것을 막기 위해 정보 벽을 세울 것입니다.” 따라서 갈등이 시작되면 사람들은 "당신은 우리 인구를 통제할 영향력을 가지지 못할 것입니다."라고 말하는 장벽을 세웁니다.

VK가 그렇게 하는 데 XNUMX~XNUMX주가 걸렸습니다. 상대적으로 열려 있다고 생각되는 창이 있었지만 그들은 그것을 닫았습니다. 왜냐하면 당신이 인구의 내러티브를 통제하지 않고 미사일과 공격이 가지고 있는 피해를 그들에게 보여주면 깨달았기 때문입니다. 우크라이나의 민간인에 대해 더 이상 싸우고 싶지 않을 수도 있습니다.

우크라이나에 대해 우리 모두가 놀란 것 중 하나는 그들이 앞뒤로 얼마나 강했는지였습니다. 그리고 우크라이나 사람들이 총을 내려 놓으면 매우 빠른 전쟁이 될 수 있다고 생각하는 것이 틀렸다고 생각하지 않습니다. 그러나 일어난 일은 정반대였습니다. 그들은 시골로 돌아와 Kalashnikovs를 집어 들고 싸우기 시작했습니다. 그리고 그것은 내러티브가 뒤집혔고 몇 가지 중요한 사항을 뒤집었기 때문입니다. 키예프의 유령, 스네이크 아일랜드, 군인 주머니에 해바라기 씨를 넣고 "네가 죽으면 해바라기가 올 것이다."라고 말하는 여자. 이 순간, 밈, 그들은 그 인구를 통해 공명했습니다.

이제 그들 중 많은 수가 실제로 사실이 아니었습니다. 또는 그들은 제조되었습니다. 키예프의 유령과 뱀 섬이 증폭되었습니다. 그들은 살아남았지만 "엿먹어라"라고 말하는 순교자로 캐스팅되어 죽임을 당했다. 이것은 우크라이나뿐만 아니라 NATO 회원국과 미국에서 우크라이나 국기를 휘날리며 "우리는 이것에 관심을 가져야 한다"는 투지를 불러일으킨 탁월한 정보 전쟁이었습니다. 그럴 필요는 없었습니다. 승리하기 가장 쉬운 전쟁은 상대가 싸우고 싶어하지 않는 전쟁입니다. 그리고 그것은 러시아인과 푸틴이 한 내기와 도박이었고 그는 틀렸습니다. 그리고 그가 틀렸습니다. 왜냐하면 우리는 이전에 우크라이나에서 본 적이 있는 것처럼 내러티브 전쟁에서 승리하기 위해 돌아온 영향력 작전을 본 적이 없었기 때문입니다. 그리고 훌륭했습니다.

우리는 정보 운영의 힘을 과소평가하고 있다고 생각합니다. 나는 중국이 매우 세심한 주의를 기울이고 있다고 생각하며 우리는 그것이 전개되는 것을 보게 될 것이라고 생각합니다. 그리고 우리는 대만에 대해, 그리고 나머지 세계가 그것에 대해 어떻게 생각하는지에 대해 그것이 전개되는 것을 보고 있습니다. 그리고 미국이 참여하기를 원한다면 정보 작전과 싸우기 위해 동일한 기술을 보유해야 한다고 생각합니다.

Primer에 대해 마지막으로 공유하고 싶은 말이 있습니까?

우리는 미국과 그 동맹국이 전투원의 손에 쥐어줄 최고의 기술을 제공하도록 지원하기 위해 이 임무에 참여하고 있으며, 더 많은 기술 회사가 와서 이 싸움에 참여하기를 원한다고 생각합니다.

이 계몽적인 인터뷰에 감사드립니다. 더 많은 것을 알고 싶은 독자들은 방문을 촉구합니다. 뇌관.