Sean Gourley, CEO & Founder của Primer – Loạt Phỏng Vấn

Sean Gourley là CEO & Founder của Primer, một doanh nghiệp cung cấp các ứng dụng Xử lý Ngôn ngữ Tự nhiên (NLP) cấp công nghiệp cho các cơ quan chính phủ, tổ chức tài chính, các công ty Fortune 50 và nhiều tổ chức khác.

Một trong những trường hợp sử dụng chính của Primer là giúp người dùng phát hiện, hiểu và phản hồi các chiến dịch thông tin sai lệch. Để nâng cao các dịch vụ này, Primer gần đây đã mua lại Yonder để tăng cường khả năng chống lại các cuộc tấn công thông tin sai lệch.

Chúng tôi đã ngồi xuống với Sean để thảo luận về thông tin sai lệch tại hội nghị Ai4 gần đây được tổ chức tại Las Vegas. Sean là một kho tàng thông tin về các chiến dịch thông tin sai lệch và tuyên truyền của chính phủ. Dưới đây là cuộc phỏng vấn của chúng tôi.

Điều gì đã thu hút bạn đến việc học tập và hiểu biết về hệ sinh thái thông tin sai lệch?

Vậy, tôi đã nói một chút về giao dịch tần suất cao, và điều đó rất thú vị. Tôi đã xem xét không gian của các thuật toán, cố gắng hiểu nếu có điều gì đó xảy ra trên thế giới, và sau đó giao dịch dựa trên đó. Và đó là một không gian sơ khai. Điều này diễn ra vào năm 2012, và chúng tôi đã thu thập được một số tín hiệu nhiễu.

Họ đã sai khi đọc hoặc hiểu sai các tín hiệu. Và sau đó, có một dòng tweet được đưa ra, được cho là AP đã bị hack. Và tài khoản Twitter của họ nói: “Breaking: Vụ nổ Nhà Trắng, Barack Obama bị thương.” Và sau đó, thị trường đã mất khoảng 130 tỷ đô la vì dòng tweet đó. Bây giờ tôi không biết liệu nó có được thiết kế để lái thị trường hay không, liệu nó có được thiết kế để tạo ra sự hỗn loạn hay không, hay liệu nó có được thiết kế để làm điều gì đó khác. Nhưng đó chỉ là kết nối trở lại vào thời điểm đó, tôi như: “Wow.” Đó giống như một con bướm vỗ cánh và tạo ra một tác động như vậy, vì nó tận dụng tập hợp các tác nhân thuật toán mà thực sự không quá thông minh.

Vậy tôi đã thấy điều đó, và điều đó đã khiến tôi đào sâu hơn và sau đó tôi bắt đầu xem… Và tôi thấy có một số bot Mexico, tài khoản Mexico đang tuyên bố rằng các nhà báo không bị giết bởi các băng đảng ma túy. Và điều này là vào khoảng năm 2013. Và tôi như: “Oh my God, bạn đã có các tác nhân phi nhà nước, các băng đảng ma túy, tham gia vào việc tạo ra một trận chiến về câu chuyện. Và nó trông như họ đang thắng.” Và tôi như: “Những người này thậm chí không phải là các tác nhân nhà nước.” Và vào thời điểm đó, tôi nói: “Vậy điều gì sẽ xảy ra nếu một tác nhân nhà nước có được tay vào điều này? Điều gì sẽ xảy ra và điều đó sẽ làm gì?” Và sau đó tôi đã xuất bản một bài viết trên Wired vào năm 2015. Đó thực sự được viết vào cuối năm 2014, nhưng nó là về dự đoán cho năm 2015. Và tôi nói: “Đây sẽ là năm mà các bot sẽ chiếm quyền kiểm soát và kiểm soát các cuộc bầu cử.”

Và nó đã trở nên cực kỳ tiên tri khi bài viết đó được xuất bản, có thể thậm chí còn nhiều hơn những gì tôi ban đầu nghĩ. Nhưng đó chỉ là việc nhìn thấy loại cung cấp công nghệ này. Ở cùng một bên, chúng tôi cũng thấy rằng nhiều công nghệ này rất thô sơ. Đó là một công nghệ rất sơ khai. Vì vậy, tất cả những điều này bắt đầu đến với nhau, và sau đó chúng tôi đã có được không gian mà chúng tôi kết thúc, đó là wow, bạn có thể kiểm soát các câu chuyện chỉ thông qua việc lặp lại thông tin từ các nguồn cấp dữ liệu mà bạn đang tiêu thụ bây giờ.

Bạn có tin rằng đã có một cuộc bầu cử bị ảnh hưởng hoặc một cuộc bầu cử trong tương lai có thể bị ảnh hưởng bởi loại thông tin sai lệch này?

Khung cảnh này lại ở đây. Đầu tiên, chúng tôi đã thực hiện một phép đo rất hẹp, đó là thông tin sai lệch không thực sự tồn tại. Và tôi nghĩ rằng đó là quá hẹp. Chúng tôi cần phải mở rộng nó để tìm hiểu ai đang kiểm soát các câu chuyện. Hiện tại, câu chuyện có thể rất thực, nhưng nó có thể không quan trọng.

Chúng tôi có thể lấy một câu chuyện nếu bạn lo lắng về tội phạm, và chúng tôi có thể chỉ phát sóng tất cả các tội phạm đến tất cả các kênh, và bạn sẽ trở lại thông qua điều này và nghĩ rằng thành phố của bạn đã trải qua làn sóng tội phạm khủng khiếp nhất mà nó từng thấy. Và tất cả những gì bạn đã làm là chỉ lấy mọi tội phạm đã từng được báo cáo, mà trước đây không nằm trong tầm nhìn của bạn, và đưa nó vào hệ thống của bạn.

Bây giờ bạn sẽ bắt đầu tin rằng tội phạm cao hơn nhiều so với thực tế. Nó không thay đổi, nhưng bạn đã暴露 nhiều hơn với nó. Vì vậy, điều này không phải là liệu tội phạm có xảy ra hay không, mà là liệu nó có đang chiến đấu để thu hút sự chú ý của bạn. Vì vậy, đây là một phần của nó.

Phần thứ hai của nó là, làm thế nào nhiều bạn có thể ảnh hưởng đến điều này? Nếu bạn không có một quan niệm về việc liệu vắc-xin có gây mất 37 điểm IQ hay không, hoặc nếu bạn không có niềm tin trước đó rằng vắc-xin và trí tuệ có liên quan. Nếu tôi nói với bạn rằng chúng có liên quan, bạn sẽ có khả năng tin vào điều đó gấp ba lần so với nếu ai đó nói với bạn rằng vắc-xin gây mất IQ. Vì vậy, ai đến với thông điệp đầu tiên có cơ hội tốt nhất để bạn giữ niềm tin đó, nếu bạn không có quan điểm trước về điều gì đó.

Vậy có phải sự thiên vị trong não bộ con người dễ bị tổn thương trước điều này?

Đó là sự thiên vị trong não bộ con người. Phần thứ hai, ngay cả khi bạn biết thông tin là sai, nếu bạn tiếp xúc với nó, bạn có nhiều khả năng tin vào nó, ngay cả khi bạn biết nó là sai. Vì vậy, có sự lặp lại của thông tin. Có thông điệp đầu tiên khi bạn không có quan điểm trước. Và phần khác mà chúng tôi biết là, nếu bạn có nó từ các nguồn độc lập, bạn sẽ tin vào nó nhiều hơn. Và nếu bạn có nó từ những người trong mạng lưới bạn bè của bạn, bạn sẽ tin vào nó nhiều hơn, nó trở thành một phương pháp liên kết. Và chúng tôi biết rằng khoảng 25% là một điểm tới hạn, nếu 25% người bắt đầu tin vào điều gì đó, nó tạo ra một điểm tới hạn lớn mà tại đó 75% hoặc 80% người sẽ bắt đầu tin vào điều đó.

Vì vậy, tất cả những điều này đều liên quan đến thế giới của việc hình thành quan điểm, và các cơ chế về cách các nhóm đạt được sự đồng thuận. Có một nhánh con của vật lý, đó là vật lý tính toán, đã nghiên cứu điều này, và bạn có thể đi vào tài liệu và hiểu các mô hình về cách quan điểm được hình thành, lan truyền và được áp dụng.

Bạn có thể thiết kế các hệ thống này nếu bạn muốn, và điều này là những gì mọi người đang bắt đầu làm. Tôi không nghĩ họ đã rất tinh vi. Nhưng hãy nhìn, Trung Quốc là một siêu cường AI. Họ biết rằng người chiến thắng trong cuộc đua này sẽ có một lợi thế quân sự vượt trội so với người về nhì. Vì vậy, Trung Quốc sẽ theo đuổi các thành phần của trí tuệ nhân tạo rất tích cực. Phần thứ hai của điều đó là sự nổi bật của sản xuất chip và GPU tiên tiến mà Đài Loan có. Và tôi nghĩ nếu Trung Quốc đang xem xét điều đó, và họ có thể có các phòng thí nghiệm, cơ sở và xưởng đúc của Đài Loan, họ sẽ ở trong một vị trí rất, rất mạnh trong cuộc đua AI.

Giờ đây, nếu Trung Quốc chiếm được điều đó bằng vũ lực, có khả năng họ sẽ phá hủy các khả năng đó, hoặc chúng sẽ bị phá hủy bởi Đài Loan và không ai có chúng. Điều đó sẽ ổn trong một mức độ nào đó cho Trung Quốc. Sẽ có sự gián đoạn lớn trên toàn cầu, nhưng nó không nhất thiết sẽ tạo ra vấn đề lớn cho Trung Quốc nếu điều đó xảy ra.

Tuy nhiên, nếu họ có thể chiếm được toàn bộ, thì đó sẽ là một lợi thế lớn cho họ. Và cách bạn làm điều đó là như chúng ta đã thấy ở Hồng Kông, là cách, bạn biết, “Bạn thực sự là một phần của chúng tôi.” Và bạn thuyết phục phần còn lại của thế giới rằng họ thực sự là một phần của chúng tôi. Và nếu bạn cố gắng không đồng ý với niềm tin hoặc quan điểm đó, thì sẽ có vấn đề kinh tế hoặc các vấn đề khác. Vì vậy, những gì Trung Quốc đang tham gia là một hoạt động ảnh hưởng toàn cầu để thuyết phục thế giới rằng Đài Loan là một phần của Trung Quốc, để thuyết phục người Đài Loan rằng họ là một phần của Trung Quốc. Và nếu họ có thể làm điều đó, thì đột nhiên Trung Quốc có bánh và có thể ăn nó.

Vì vậy, nơi chúng tôi sẽ thấy điều đó là Trung Quốc sẽ chiếu các hoạt động thông tin để thuyết phục thế giới rằng Đài Loan là một phần của Trung Quốc. Và điều này đang được công nhận bởi Ủy ban Tình báo Hạ viện. Khi họ đã đưa ra Đạo luật Ủy quyền Tình báo, họ đã chỉ ra cụ thể các phương pháp để phát hiện các hoạt động ảnh hưởng của Trung Quốc ở Caribe, Nam Mỹ, Trung Mỹ.

Đó là một cuộc gọi cụ thể cho cộng đồng tình báo để làm việc về điều này. Đạo luật Ủy quyền Tình báo cũng chỉ ra khả năng áp dụng trí tuệ nhân tạo, khả năng sử dụng công nghệ thương mại và khả năng triển khai môi trường không mã vào các tổ chức này. Có một số điều rất thú vị đến từ Quốc hội. Một số phần đã được công bố và có thể đọc, đã rất thú vị về việc chống lại các chiến dịch thông tin sai lệch của Trung Quốc, đặc biệt là ở các quốc gia ở Nam Mỹ, Trung Mỹ và Caribe.

Bạn nghĩ các công cụ như YouTube, Facebook (META ), Twitter và TikTok có vai trò như thế nào trong việc khuếch đại câu chuyện sai lệch này?

Một điều chúng tôi biết về Trung Quốc là họ đã ngăn chặn Facebook vào nước này. Facebook đã vào Trung Quốc. Vào năm 2012, Mark Zuckerberg như: “Tôi sẽ học tiếng Trung. Tất cả đều về Trung Quốc.” Trung Quốc như: “Chúng tôi sẽ để bạn vào và giờ thì tạm biệt.”

Bởi vì Trung Quốc như: “Chúng tôi sẽ không để một công ty Mỹ kiểm soát các nguồn cấp thông tin của dân chúng chúng tôi. Chúng tôi đã làm việc rất chăm chỉ, cảm ơn bạn, để kiểm soát thông tin mà dân chúng của chúng tôi nhận được. Đây là những gì chúng tôi làm. Chúng tôi rất giỏi về điều đó. Chúng tôi sẽ để bạn vào, chúng tôi sẽ học hỏi từ bạn. Nhưng sau đó, bạn đã ra đi.” Vì vậy, Facebook không còn ở đó nữa.

Vậy Đảng Cộng sản Trung Quốc đã đưa ra một quyết định rất rõ ràng về việc họ muốn kiểm soát thông tin như thế nào. Giờ đây, như một chế độ độc tài, bạn có quyền kiểm soát đó. “Bạn sẽ không nghĩ những ý tưởng này. Bạn sẽ không nói những điều này. Bạn sẽ không làm điều đó.” Như một nền dân chủ tự do, chúng tôi phải tham gia vào khả năng tranh luận và trao đổi ý tưởng trong một không gian tương đối tự do và mở. Có một số hạn chế, nhưng chúng nằm ở rìa. Vì vậy, Trung Quốc, tôi nghĩ, đã kiểm soát được thông tin. Hoa Kỳ không thể làm điều đó ở mức độ tương tự, có một nền dân chủ. Chúng tôi phải để cho sự hỗn loạn của thông tin tự giải quyết. Đó là lý do tại sao chúng tôi đã trở nên dễ bị tổn thương trước các cuộc tấn công thông tin này.

Tôi nghĩ rằng chúng tôi đang vật lộn với điều này. Và điều đầu tiên là nhanh chóng xác định xem một hoạt động thông tin có đang được chạy trên nền tảng hay không, cảnh báo điều đó cho các hệ thống, ít nhất là để hạn chế sự khuếch đại của thông tin đó, nhưng cũng, nếu có các mạng không phải là bot, hãy nhanh chóng loại bỏ chúng. Phần khuyến nghị của điều này… Điều này chưa, tôi sẽ nói, được sử dụng một cách độc ác bởi các công ty Hoa Kỳ. Tôi không nghĩ rằng đó là nơi nó đang đi. Liệu nó có thể được sử dụng một cách độc ác bởi một công ty bên ngoài? Có, có khả năng. Nếu bạn đang chiến tranh với ai đó, và họ có quyền kiểm soát một mạng thông tin đang cung cấp các câu chuyện cho dân chúng của bạn, bạn có tin rằng họ sẽ công bằng và không thiên vị?

Chúng tôi đã biết rõ ràng điều gì đã xảy ra với VK và Nga, đó là mạng xã hội. Họ nói: “Chúng tôi sẽ không để bất kỳ hình ảnh nào về người chết mà chúng tôi đã giết ở Ukraine. Điều đó chỉ bị cấm. Và chúng tôi sẽ tạo một bức tường thông tin để ngăn chặn sự khuếch đại của thông tin từ các mạng phương Tây vào mạng của chúng tôi.” Vì vậy, điều gì xảy ra khi một cuộc xung đột bắt đầu, là mọi người tạo ra các rào cản nói rằng: “Bạn sẽ không có quyền kiểm soát thông tin của dân chúng chúng tôi.”

Tôi nghĩ rằng điều cơ bản là nó mất có thể ba hoặc bốn tuần để VK làm điều đó. Có một cửa sổ mà tôi nghĩ là tương đối mở, nhưng sau đó họ đã đóng nó lại, vì họ nhận ra rằng nếu bạn không kiểm soát được câu chuyện trong dân chúng của mình, và nếu bạn để họ thấy thiệt hại mà các tên lửa và cuộc tấn công đang gây ra cho dân chúng Ukraine, có thể họ sẽ không muốn chiến đấu nữa.

Tôi nghĩ rằng một trong những điều chúng tôi đều ngạc nhiên về Ukraine là cách họ đã trở lại và chiến đấu. Và tôi không nghĩ rằng chúng tôi đã sai khi nghĩ rằng nó có thể là một cuộc chiến rất nhanh, nếu người dân Ukraine đã đặt súng xuống. Nhưng điều gì đã xảy ra là ngược lại. Họ đã trở lại vào đất nước, nhặt súng và bắt đầu chiến đấu. Và điều đó là vì câu chuyện đã lật đổ, và nó lật đổ trên một số điều quan trọng. Ma quỷ của Kiev, Đảo Rắn, người phụ nữ với hạt hướng dương trong túi của người lính và nói: “Khi bạn chết, hướng dương sẽ mọc.” Những khoảnh khắc này, các meme, đã vang vọng trong dân chúng đó.

Giờ đây, nhiều trong số chúng không thực sự đúng. Hoặc chúng được sản xuất. Ma quỷ của Kiev và Đảo Rắn đã được khuếch đại. Họ đã sống sót, nhưng họ đã được miêu tả là những người tử vì đạo đã nói: “F*** bạn,” và bị giết. Đây là một cuộc chiến thông tin tuyệt vời đã tạo ra một tinh thần chiến đấu, không chỉ ở Ukraine, mà còn ở các quốc gia thành viên NATO và Hoa Kỳ để có lá cờ Ukraine bay khắp nơi và nói: “Chúng tôi cần quan tâm đến điều này.” Điều đó không cần phải xảy ra. Cuộc chiến dễ thắng nhất là cuộc chiến mà phe đối lập không muốn chiến đấu. Và đó là cuộc đặt cược và canh bạc mà Nga đã thực hiện, và Putin đã thực hiện, và ông đã sai. Và ông đã sai vì chúng tôi chưa bao giờ thấy một hoạt động ảnh hưởng đã quay trở lại để giành chiến thắng trong một cuộc chiến thông tin như chúng tôi đã thấy với Ukraine trước đây. Và nó là tuyệt vời.

Tôi nghĩ rằng chúng tôi đang đánh giá thấp sức mạnh của các hoạt động thông tin. Tôi nghĩ rằng Trung Quốc đã rất chú ý và tôi nghĩ rằng chúng tôi sẽ thấy điều đó được thể hiện. Và chúng tôi đang thấy điều đó được thể hiện, liên quan đến Đài Loan, và những gì phần còn lại của thế giới nghĩ về điều đó. Và Hoa Kỳ, tôi nghĩ rằng nếu họ muốn tham gia, họ cần phải có cùng một tập hợp kỹ năng để chống lại các hoạt động thông tin.

Có bất kỳ lời cuối cùng nào bạn muốn chia sẻ về Primer?

Chúng tôi đang tham gia vào sứ mệnh này để giúp hỗ trợ Hoa Kỳ và các đồng minh của họ mang lại công nghệ tốt nhất để đặt vào tay của những người chiến đấu, và tôi nghĩ rằng chúng tôi muốn nhiều công ty công nghệ hơn đến và tham gia vào cuộc chiến này.

Cảm ơn bạn vì cuộc phỏng vấn đầy sáng suốt này, những người đọc muốn tìm hiểu thêm được khuyến khích truy cập Primer.