Sean Gourley, Primer의 CEO & 설립자 – 인터뷰 시리즈

Sean Gourley는 Primer의 CEO이자 설립자입니다. Primer는 정부 기관, 금융 기관, Fortune 50 회사 등 다양한 조직에 산업급 자연어 처리(NLP) 애플리케이션을 제공하는 기업입니다.

Primer의 주요 사용 사례 중 하나는 사람들이 허위 정보 캠페인을检测하고 이해하고 대응하는 것을 도와주는 것입니다. 이러한 서비스를 강화하기 위해 Primer는 최근 Yonder를 인수하여 허위 정보 공격에 대처하는 능력을 향상시켰습니다.

최근 Las Vegas에서 열린 Ai4 컨퍼런스에서 Sean과 허위 정보에 대해 논의했습니다. Sean은 허위 정보 캠페인과 정부 선전에 대한 정보의宝庫입니다. 아래는 우리의 인터뷰입니다.

당신이 허위 정보 생태계를 학습하고 이해하기 시작한 것은 무엇이었나요?

저는 고주파 거래에 대해 조금 이야기했습니다. 그것은 interessant했습니다. 저는 그것을 통해 알고리즘의 공간을 탐색했습니다. 그것은 원시적이었습니다. 2012년에 우리는 노이즈를 감지했습니다.

그들은 그것을 읽을 때 또는 신호를 잘못 해석할 때 오류를犯했습니다. 그런 다음 AP가 해킹되었다는 트윗이 나타났습니다. 그들의 트위터 계정은 “브레이킹: 백악관 폭발, 버락 오바마 부상”이라고 말했습니다. 그런 다음 시장은 그 정보를 받아들여 약 1,300억 달러를 잃었습니다. 저는 그것이 시장에 영향을 미치기 위한 의도였는지, 혼란을 일으키기 위한 의도였는지, 또는 다른 것을 하기 위한 의도였는지 모릅니다. 하지만 그것은 저에게 충격을 주었습니다.

저는 그것을 보고 조사하기 시작했습니다. 그리고 2013년에 멕시코 봇과 멕시코 계정이 저널리스트가 마약 카르텔에 의해 살해되지 않았다고 주장하는 것을 보았습니다. 저는 “오 мой 갓, 非국가 행위자들이 정보 전쟁을 벌이고 있습니다. 그리고 그들은 승리하는 것 같습니다”라고 생각했습니다. 그리고 저는 “국가 행위자가 이것을 손에 넣으면 어떻게 될까요?”라고 생각했습니다. 그리고 2014년 말에 저는 Wired에 기사를 썼습니다. 그것은 2015년에 출판되었습니다. 저는 “이것은 봇이 선거를 장악하고 통제할 해가 될 것입니다”라고 말했습니다.

그리고 그것은 매우 예언적이었습니다. 그 기사가 출판된 후에 그것은 더욱 예언적이었습니다. 하지만 저는 기술의 아크를 보았습니다. 우리는 또한 이러한 기술이 얼마나 원시적인지 보았습니다. 그것은 매우 원시적이었습니다. 그래서 모든 것이 함께 모여서 우리는 현재 있는 공간에 도착했습니다. 우리는 내러티브를 반복적인 정보 노출을 통해 제어할 수 있습니다.

당신은 선거가 허위 정보에 의해 영향을 받았거나 미래의 선거가 영향을 받을 수 있다고 믿나요?

이것은 좁은 관점에서 본 것입니다. 우리는 허위 정보가 실제로 존재하지 않는다고 생각합니다. 하지만 저는 그것이 너무 좁은 관점이라고 생각합니다. 우리는 내러티브를 제어하는 사람에게 집중해야 합니다. 현재 내러티브는 실제로 중요하지 않을 수 있습니다.

우리는 범죄에 대해 걱정한다고 가정해 보겠습니다. 우리는 모든 범죄를 방송할 수 있습니다. 그리고 당신은 도시에서 가장 끔찍한 범죄 물결을 보았을 것입니다. 하지만 실제로는 아무런 변화도 없었습니다. 당신은 단지 더 많이 노출된 것입니다. 그래서 이것은 실제로 발생한 일인지 여부와는 상관없이 당신의 주의를 끌기 위한 것입니다.

두 번째로, 우리는 이러한 정보를 얼마나 영향을 줄 수 있는지 보아야 합니다. 만약 당신이 이전에 의견을 가지고 있지 않았다면, 저는 вам을 설득할 수 있습니다. 그리고 당신은 그것을 믿을 가능성이 더 높습니다. 그리고 만약 당신이 이미 정보를 알고 있다면, 당신은 그것을 믿을 가능성이 더 높습니다.

인간의 뇌가 허위 정보에 취약한 이유는 무엇인가요?

그것은 인간의 뇌에 있는 편향입니다. 두 번째로, 即使 당신이 정보가 거짓임을 알고 있다 해도, 반복적으로 노출되면 당신은 그것을 믿을 가능성이 더 높습니다. 그리고 만약 당신이 독립적인 출처에서 정보를 얻으면, 당신은 그것을 더 믿을 가능성이 높습니다. 그리고 만약 당신이 친구 네트워크에서 정보를 얻으면, 당신은 그것을 더 믿을 가능성이 높습니다.

우리는 25%가 임계점이라고 알고 있습니다. 25%의 사람들이何か를 믿기 시작하면, 그것은 매우 빠르게 распростран됩니다. 그래서 모든 것은 의견 형성의 세계와 집단이 합의에 도달하는 메커니즘에 관한 것입니다. 물리학의 한 하위 분야인 계산 물리학이 이를 연구하고 있습니다.

당신은 이러한 시스템을 설계할 수 있습니다. 그리고 사람들이 이를 시작하고 있습니다. 하지만 저는 아직까지 매우 정교하지 않다고 생각합니다. 중국은 정보 전쟁에서 승리하기 위해 기술을 사용할 것입니다. 우리는 중국이 모든 기술을 사용하여 정보 전쟁에서 승리하도록 허용해야 합니다.

인공지능이 허위 정보를检测하는 방법은 무엇인가요?

우리는 진실에 대한 것에서 벗어나야 합니다. 인공지능이 사실을 확인하는 것이 아니라, 누군가가 당신을 설득하려고 하는지 여부를检测하는 것입니다. 그리고 그것은 매우 중요합니다.

예를 들어, 台湾이 중국의 일부인지 여부는 역사적으로 논쟁의 여지가 있습니다. 하지만 인공지능은 그것을 결정하지 않습니다. 인공지능은 누군가가 당신을 설득하려고 하는지 여부를检测하는 것입니다.

Primer는 주로 감시와 탐지에 초점을 맞추고 있습니다. 우리는 허위 정보 캠페인에 대해 6개월 후에 처음으로 듣는 경우가 많습니다.

당신은 중국의 궁극적인 위협을 어떻게 보나요?

중국은 인공지능을 매우 공격적으로 추구할 것입니다. 그리고 그들은 이미 매우 강력한 인공지능을 가지고 있습니다. 그리고 台湾의 반도체 제조 능력을 가지고 있다면, 그들은 매우 강력한 위치에 있을 것입니다.

중국이 台湾을 강제로 점령한다면, 그들은 매우 강력한 위치에 있을 것입니다. 하지만 만약 台湾이 저항한다면, 중국은 매우 어려운 상황에 처할 것입니다. 그리고 그들은 台湾을 점령하기 위해 모든 수단을 사용할 것입니다.

당신은 추천 엔진이 허위 정보의 확산에 어떤 역할을 할 수 있다고 생각하나요?

중국은 이미 페이스북을 차단했습니다. 페이스북은 중국에 진출하려고 했습니다. 하지만 중국은 페이스북을 차단했습니다. 중국은 정보를 제어하기 위해 매우 노력하고 있습니다.

중국은 이미 정보 전쟁에서 승리하기 위해 기술을 사용하고 있습니다. 그리고 우리는 중국이 모든 기술을 사용하여 정보 전쟁에서 승리하도록 허용해야 합니다.

Primer에 대한 마지막 말은 무엇인가요?

우리는 미국과 그 동맹국을 지원하기 위해 최고의 기술을 제공하기 위해 노력하고 있습니다. 그리고 우리는 더 많은 기술 회사들이 이 싸움에 참여하기를 바랍니다.

이번 인터뷰에 감사드립니다. 더 많은 정보를 원하시면 Primer를 방문해 주세요.