Sean Gourley, Primer의 CEO & 설립자 – 인터뷰 시리즈

Sean Gourley는 Primer의 CEO 및 설립자로, 정부 기관, 금융 기관, Fortune 50 회사 및 기타 많은 조직을 위한 산업급 자연어 처리(NLP) 애플리케이션을 제공하는 기업입니다.

Primer의 주요 사용 사례 중 하나는 사람들이 허위 정보 캠페인을 감지, 이해 및 대응하는 것을 도와주는 것입니다. 이러한 서비스를 강화하기 위해 Primer는 최근 Yonder를 인수하여 허위 정보 공격에 대응하는 능력을 강화했습니다.

우리는 최근 라스베이거스에서 개최된 Ai4 컨퍼런스에서 Sean과 허위 정보에 대해 논의하기 위해 앉았습니다. Sean은 허위 정보 캠페인 및 정부 선전에 대한 정보의 보물창입니다. 아래는 우리의 인터뷰입니다.

당신이 허위 정보 생태계를 학습하고 이해하는 것을 처음으로 끌어당긴 것은 무엇인가?

그래, 나는 고주파 거래에 대해 조금 이야기했습니다. 그리고 그것은 흥미로웠습니다. 나는 그것을 통해 알고리즘의 공간을 보았고, 세계에서 어떤 일이 발생했는지 이해하고 그것에 따라 거래를 하는 것을 시도했습니다. 그리고 그것은 원시적이었습니다. 이것은 2012년이었고 우리는 노이즈를 잡고 있었습니다.

그들은 그것을 읽거나 신호를 잘못 해석할 때 오류를犯했습니다. 그런 다음 AP가 해킹되었다는 트윗이 나타났고, 그들의 트위터 계정은 “브레이킹: 백악관 폭발, 버락 오바마 부상”이라고 말했습니다. 그리고 시장은 그 정보를 받아들여 약 1,300억 달러를 잃었습니다. 이제 나는 그것이 시장에 영향을 미치기 위해 의도된 것인지, 혼란을 일으키기 위해 의도된 것인지, 아니면 다른 것을 하기 위해 의도된 것인지 모릅니다. 그러나 그것은 그 때에 나는 “와우”라고 생각했습니다. 그것은 나비의 날개가 떨리는 것과 같은 것이었고, 알고리즘적 행위자들이 실제로 매우 똑똑하지 않기 때문에 이러한 영향을 미쳤습니다.

그래서 나는 그것을 보았고, 그것이 나를 더 깊이 파고들게 만들었습니다. 그리고 나는 멕시코 봇, 멕시코 계정들이 저널리스트들이 마약 카르텔에 의해 살해되지 않았다고 주장하는 것을 보았습니다. 이것은 2013년이었고, 나는 “오 мой 갓, 당신은 국가 행위자가 아닌 행위자들이 이 것에 참여하여 서사시 전투를 벌이고 있으며, 그들이 승리하는 것 같습니다”라고 생각했습니다. 그리고 나는 “이들은 국가 행위자가 아닙니다”라고 생각했습니다. 그리고 그 때 나는 “만약 국가 행위자가 이것을 손에 넣으면 어떻게 될까요? 그것은 무엇일까요?”라고 생각했습니다. 그리고 나는 2015년에 와이어드에 기사를 썼습니다. 그것은 실제로 2014년 말에 쓰여졌지만, 2015年的 예측에 관한 것이었습니다. 그리고 나는 “이것은 봇이 선거를 장악하고 통제할 해가 될 것입니다”라고 말했습니다.

그리고 그것은 내가 처음으로 생각했던 것보다 훨씬 더 예측력이 있었습니다. 그러나 그것은 기술의 아크를 보는 것이었습니다. 같은 때에, 우리는 또한 이러한 기술들이 얼마나 원시적인지 보았습니다. 그것은 매우 원시적이었습니다. 그래서 모든 것이 함께 오기 시작했고, 우리는 결국 이 공간에 도착했습니다. 그것은 “당신은 반복적으로 정보를 노출시킴으로써 서사시를 제어할 수 있습니다”라는 것입니다.

당신은 허위 정보가 선거에 영향을 미쳤거나 미래의 선거에 영향을 미칠 수 있다고 믿는가?

이것을 Narrow하게 프레임합니다. 첫 번째는 우리가 매우 좁은 관점을 취하고 있습니다. 즉, 허위 정보는 실제로 없습니다. 그리고 나는 그것이 너무狭い 것입니다. 우리는 그것을 확장해야 합니다. 즉, 누가 서사시를 제어하는지입니다. 현재 서사시는 실제로 될 수 있지만, 그것이 중요하지 않을 수 있습니다.

우리는 범죄에 대해 걱정한다면, 모든 범죄를 모든 채널에 广播할 수 있고, 당신은 그것을 통해 돌아와서 당신의 도시가 가장 끔찍한 범죄 물결을 겪고 있다고 생각할 것입니다. 그리고 당신은 단지 이전에 당신의 레이더에 없었던 모든 범죄를 보고한 것을 당신의 시스템에 넣은 것입니다.

이제 당신은 범죄가 실제보다 훨씬 더 높다고 믿기 시작할 것입니다. 그것은 변하지 않았지만, 당신은 더 많이 노출됩니다. 그래서 이것은 실제로 발생했는지 여부와는 관련이 없습니다. 그것은 당신의 주의를 위해 싸우는지 여부와 관련이 있습니다. 그래서 이것은 실제로 발생했는지 여부를 묻는 것이 아니라, 실제로 중요하지도 않습니다.

두 번째는, 얼마나 영향을 미칠 수 있는지입니다. 만약 당신이 백신이 당신의 IQ를 37점 낮춘다는 것을 믿지 않는다면, 또는 백신과 지능이 관련이 있다고 믿지 않는다면, 만약 내가 당신에게 그것이 사실이라고 말했다면, 당신은 이제 그것을 믿을 가능성이 3배 더 높습니다. 첫 번째 메시지를 받은 사람이 당신의 믿음을 가지기 위한 최고의 기회를 가지고 있습니다.

그것은 인간 뇌의 편향 때문인가?

그것은 인간 뇌의 편향입니다. 두 번째로, 即使 당신이 정보를 거짓으로 알고 있다 하더라도, 그것에 노출되면, 당신은 그것을 믿을 가능성이 더 높습니다. 그래서 정보의 반복이 있습니다. 이전에 의견이 없던 첫 번째 정보가 있습니다. 그리고 우리는 또한 독립적인 출처에서 그것을 받으면 더 신뢰한다는 것을 알고 있습니다. 그리고 친구 네트워크에 있는 사람들로부터 받으면 더 신뢰합니다. 그것은 소속 방법론이 됩니다. 우리는 약 25%가 임계점이라는 것을 알고 있습니다. 25%의 사람들이 무언가를 믿기 시작하면, 그것은 대규모 임계점을 생성하여 75% 또는 80%의 사람들이 그것을 믿기 시작할 가능성이 매우 높아집니다.

그래서 모든 이것은 의견 형성의 세계와, 그룹이 어떻게 합의에 도달하는지에 대한 역학으로 이어집니다. 물리학의 하위 분支인 계산 물리학이 이것을 연구해 왔으며, 당신은 문헌으로 들어가서 의견이 어떻게 형성되고, 전파되고, 채택되는지에 대한 모델을 이해할 수 있습니다.

당신은 이러한 시스템을 설계할 수 있습니다. 그리고 사람들이 이것을 시작하고 있습니다. 나는 아직 매우 정교하지 않다고 생각합니다. 그러나 중국은 AI 超强国입니다. 그들은 정보 전쟁에서 대만의 역학이 매우 중요하다는 것을 알고 있습니다. 우리는 중국이 기술이 허용하는 모든 단계를 취하여 그 충돌에서 승리할 것을 기대해야 합니다.

인간이 어떻게 허위 정보의 피해자가 되는지 우리는 알고 있습니다. 그러나 AI는 어떻게 진실을 감지합니까?

우리는 무엇이 참인지에 대한 것에서 벗어나야 합니다. 즉, 이것은 모든 것에 사실 검사기를 가져오는 것이 아닙니다. 우리는 여기서 보았듯이, AI는 해당 범죄가 실제로 발생했는지 여부를 결정할 수 있습니다. 그러나 그것이 중요하지는 않습니다. 당신은 이제 당신의 도시에서 범죄 물결이 발생했다고 믿을 것입니다. 그리고 무엇이 대만이 중국의 일부인지에 대한 근본적인 진실인지 묻는 것입니다. 나는 그것이 역사적으로 논쟁의 여지가 있습니다. 우리는 그것에 대해 논쟁할 수 있습니다. 그러나 AI는 그것을 정확히 알 수 있습니까? 우리는 정확히 어디에 있는지 알 수 있습니까?

우리는 지금 그것이 상대적으로 분열적인 문제라는 것을 알고 있습니다. 그리고 미국과 대만은 믿음의 구조를 가지고 있습니다. 중국은 다른 믿음의 구조를 가지고 있습니다. AI의 작업은 어느 쪽이 옳은지 결정하는 것이 아닙니다. AI의 작업은 누군가가 당신을 한쪽이나 다른 쪽으로 믿게 하려고 aktif으로 시도하는지 여부를 결정하는 것입니다.

그리고 그것이 두 번째입니다. 즉, 사람들이 인공 지능을 사용하여 당신을 한쪽이나 다른 쪽으로 믿게 하려고 설득할 것입니다. 첫 번째 믿음을 얻기 위해, 계속해서 반복적으로 노출시키기 위해, 독립적인 목소리가 나타나기 위해, 25%의 당신의 영향 네트워크를 제어하기 위해, 당신을 다른 쪽으로 믿게 하기 위해, 이러한 기술을 사용할 것입니다. 이것은 모두 AI가 강화할 수 있는 기술입니다. 그리고 AI는 또한 방어할 수 있습니다. 그러나 우리는 무엇이 참인지에 대한 것에서 벗어나야 합니다. 때때로 진실은 서사시에 비해 중요하지 않을 수 있습니다.

Primer는 어떻게 도와줍니까?

기본적으로それは 감시 및 탐지에 있습니다. 하나의 것들이 나타납니다. 즉, 우리는 허위 정보 캠페인에 대해 처음으로 듣는 것이 6개월 후에 발생하는 곳에 있습니다.

의미는 우리는 이것을 실제로 잡을 수 없다는 것입니다?

잘, 그것은 실제로 실제시간에도 아닙니다. 그것은 만약 우리가 운동에 들어가면, 미사일이 미국의 국경으로 이동한 경우, 6개월 후에 우리는 그것이 발사되었다는 것을 깨닫습니다. 그것이 우리가 있는 곳입니다. 우리는 허위 정보 또는 정보 작전에 대한 감시 및 정찰에 대한巨大的 갭을 채워야 합니다. 만약 정보 작전이 수행되었다면, 우리는 실제시간 또는 거의 실제시간에 무엇인지, 어떤 동기가 있는지, 어떤 조작이 있는지 이해해야 합니다. 그리고 우리는 그것을 시작하여 봇 네트워크를 종료하거나 정보의 확산을 제한할 수 있는 곳에 넣어야 합니다.

당신은 중국이 세계에서 어떤 역할을 할 것이라고 생각합니까?

それは 큰 질문입니다. 우리는 중국과 AI 경쟁에 있습니다. 그 승자는 군사적으로 매우 우세한 위치에 있을 것입니다. 중국은 인공 지능의 구성 요소를 매우 적극적으로 추구할 것입니다. 두 번째는 반도체 제조 및 고급 GPU의 중요성입니다. 대만은 이것을 가지고 있습니다. 그리고 나는 중국이 그것을 손에 넣으면 매우 우세한 위치에 있을 것입니다. 중국이 그것을 강제로 취한다면, 그 능력을 파괴하거나 대만이 파괴하거나 아무도 그것을 가지지 못할 수 있습니다. 그것은 중국에게 괜찮을 것입니다.全球적으로巨大的 혼란이 있을 것입니다. 그러나 그것은 중국에게 큰 문제를 일으키지 않을 것입니다.

그러나 만약 중국이 그것을 온전히 취할 수 있다면, 그것은 중국에게巨大的 이점이 될 것입니다. 그리고 그것을 하는 방법은 홍콩에서 본 것과 같이, “당신은 실제로 우리의 일부입니다”라고 말하는 것입니다. 그리고 당신은 세계의 나머지 부분에게 그것을 믿게 합니다. 그리고 만약 당신이 그 믿음이나 의견에 반대한다면, 경제적 또는 다른 문제가 있을 것입니다. 그래서 중국이 하는 것은 세계적인 影響 작전을 수행하여 대만이 중국의 일부라는 것을 믿게 하는 것입니다. 그리고 만약 중국이 그것을 할 수 있다면, 중국은 케이크를 가지고 있고 그것을 먹을 수 있습니다.

그래서 우리는 그것을 볼 것입니다. 즉, 중국은 대만이 중국의 일부라는 것을 세계에 믿게 하기 위해 서사시 정보 작전을 투영할 것입니다. 그리고 이것은 미국 하원 정보위원회에서 인식되고 있습니다. 그들은 정보 인증법을 구성했으며, 중국의 影響 작전을 감지하는 방법을 명시적으로 호출했습니다.

그것은 정보 커뮤니티가 이것을 작업하는 특정 호출입니다. 정보 인증법은 또한 인공 지능을 채택하고, 상업용 오프 더 셀프 기술을 사용하고, 노 코드 환경을 이러한 조직에 배치하는 능력을 호출했습니다. 힐에서 매우 건설적인 것이 나왔습니다. 읽을 수 있는 일부는 중국의 허위 정보 캠페인, 특히 남미, 중미, 카리브해의 국가에서 싸우는 것에 대해 매우 흥미롭습니다.

YouTube, Facebook, Twitter 및 TikTok와 같은 추천 엔진은 이 거짓 서사를 확대하는 데 어떤 역할을 할까요?

중국은 페이스북이 들어오는 것을 막았습니다. 페이스북은 중국에 들어갔습니다. 2012년에 마크 주커버그는 “나는 중국어를 배우고 싶습니다. 그것은 모두 중국에 관한 것입니다”라고 말했습니다. 중국은 “당신이 우리 인구의 정보 피드를 제어하는 미국 회사에게 그것을 허용하지 않을 것입니다. 우리는 우리가 매우 잘하는 것을 제어하기 위해 매우努力했습니다. 우리는 그것을 배우고, 당신을 받아들이고, 당신을 내보낼 것입니다”라고 말했습니다.

그래서 중국은 정보를 제어하기로 매우 명확한 결정을 내렸습니다. 이제, 권위주의 정권으로서, 당신은 그 제어를 가지고 있습니다. “당신은 이러한 아이디어를 생각하지 않을 것입니다. 당신은 이러한 것을 말하지 않을 것입니다. 당신은 그것을하지 않을 것입니다”라고 말합니다. 자유 민주주의로서, 우리는 아이디어의 논쟁과 교환을 상대적으로 자유롭고 공개된 공간에서 참여해야 합니다. 그래서 중국은 정보를 제어할 수 있습니다. 미국은 그렇게 할 수 없습니다. 우리는 정보의 혼란을 자신으로 하여금 싸우게 해야 합니다. 그것은 왜 우리는 이러한 유형의 정보 공격에 취약해졌는지입니다. 시스템에는 큰 비대칭성이 있습니다. “당신은 토론의 자유를 원하나요? 그렇다면 우리는 그것을 부패시킬 것입니다. 우리는 우리의 정보 시스템을 매우 잘 잠금으로 제어하고 있기 때문에, 당신은 그것을 우리에게 할 수 없습니다”

나는 그것이 우리가 이 문제와 싸우는 것을 볼 것입니다. 그리고 그것은 첫 번째 프로토콜입니다. 즉, 정보 작전이 플랫폼에서 실행 중인지 신속하게 식별하고, 시스템에 경고하고, 최소한으로 정보의 확산을 제한하고, 봇 네트워크가 아닌 경우에는 빠르게 종료합니다. 추천 측면은… 이것은 아직 미국 회사에 의해 악의적으로 사용되지 않았습니다. 나는 그것이 어디에도 없습니다. 그러나 외부 회사에 의해 악의적으로 사용될 수 있습니까? 예, 가능합니다. 만약 당신이 누군가와 전쟁을 하고, 그들이 당신의 인구에게 서사시를 제공하는 정보 네트워크를 제어한다면, 당신은 그것이 공정하고 편향되지 않는지 신뢰할 수 있습니까?

우리는 이미 러시아와 VK의 경우를 보았습니다. 러시아는 “우리는 우크라이나에서 우리가 죽인 죽은 사람들의 이미지를 넣지 않을 것입니다. 그것은 금지됩니다. 그리고 우리는 서양 네트워크에서 우리 네트워크로의 정보 확산을 막기 위해 정보 장벽을 세울 것입니다”라고 말했습니다. 그래서 충돌이 시작되면, 사람들이 인구의 제어를 막기 위해 장벽을 세우는 것을 볼 수 있습니다.

나는 그것이 VK에게 3주 또는 4주가 걸렸습니다. 그리고 그 때는 상대적으로 개방적이었습니다. 그러나 그들은 그것을 막았습니다. 왜냐하면 그들은 인구의 서사시를 제어하지 않으면, 우크라이나의 민간 인구에 미사일과 공격이 미치는 피해를 보게 되면, 그들이 더 이상 싸우고 싶어하지 않을 수 있다고 생각했기 때문입니다.

나는 우크라이나가 매우 강하게 돌아온 것에 대해 모두가 놀랐다고 생각합니다. 그리고 나는 그것이 매우 빠른 전쟁일 수 있다고 생각했습니다. 그러나 우크라이나 사람들이 총을 내리놓고 싸우지 않았다면, 반대쪽은 돌아와서 칼라슈니코프를 잡고 싸웠습니다. 그리고 그것은 서사시가 반전되었기 때문입니다. 기이한 키예프, 뱀 섬, солдат의 주머니에 있는 해바라기 씨를 가진 여성, 그리고 “당신이 죽으면 해바라기가 나타날 것입니다”라고 말했습니다. 이러한 순간, 메임들은 인구를 통해 공명했습니다.

그중 많은 것이 실제로 사실이 아니었습니다. 또는 그것은 제조되었습니다. 기이한 키예프와 뱀 섬은 증폭되었습니다. 그들은 생존했지만, 그들은 “당신을 죽여라”라고 말하면서 죽은 사람들로 간주되었습니다. 이것은 우크라이나에서, 나토 회원국에서, 미국에서 우크라이나 국기를 흔들면서 “우리는 이것에 대해 관심을 가져야 합니다”라고 말하는 정보 전쟁이었습니다. 그리고 그것은 우수했습니다.

나는 정보 작전의 힘을 우리는 과소평가한다고 생각합니다. 나는 중국이 매우 주의 깊게 보고 있다고 생각합니다. 그리고 우리는 그것을 볼 것입니다. 그리고 우리는 그것을 볼 것입니다. 즉, 대만과 세계가 그것에 대해 무엇을 생각하는지에 대한 것입니다. 그리고 미국은 그것에 참여하고 싶다면, 정보 작전을 싸우는 동일한 기술을 가지고 있어야 합니다.

Primer에 대해 마지막으로 공유하고 싶은 것이 있나요?

우리는 미국과 그 동맹국을 지원하기 위해 최고의 기술을 전사에게 제공하는 임무에 참여하고 있습니다. 그리고 나는 더 많은 기술 회사들이 이 싸움에加入하기를 원합니다.

이번 인터뷰에 감사드립니다. 더 많은 것을 배우고 싶은 독자들은 Primer를 방문하십시오.