Sean Gourley, Giám đốc điều hành & Người sáng lập Primer – Loạt bài phỏng vấn

Sean Gourley là Giám đốc điều hành & Người sáng lập của Primer, một doanh nghiệp cung cấp các ứng dụng Xử lý ngôn ngữ tự nhiên (NLP) cấp công nghiệp cho các cơ quan chính phủ, tổ chức tài chính, công ty Fortune 50 và nhiều tổ chức khác.

Một trong những trường hợp sử dụng chính của Primer là giúp mọi người phát hiện, hiểu và phản hồi các chiến dịch cung cấp thông tin sai lệch. Trong nỗ lực nâng cao các dịch vụ này Primer gần đây đã mua được Yonder để tăng cường khả năng chống lại các cuộc tấn công thông tin sai lệch.

Chúng tôi đã ngồi xuống với Sean để thảo luận về thông tin sai lệch gần đây hội nghị ai4 được tổ chức tại Las Vegas. Sean là một kho tàng thông tin liên quan đến các chiến dịch thông tin sai lệch và tuyên truyền của chính phủ. Dưới đây là cuộc phỏng vấn của chúng tôi.

Điều gì ban đầu đã thu hút bạn đến việc học và hiểu toàn bộ hệ sinh thái thông tin sai lệch?

Vì vậy, tôi đã nói một chút về giao dịch tần số cao, và điều đó thật thú vị. Tôi đã nhìn qua đó. Có toàn bộ loại không gian thuật toán này, cố gắng hiểu xem có điều gì đó đã xảy ra trên thế giới hay không và sau đó giao dịch trên đó. Và nó là nguyên thủy. Điều này đã trở lại vào năm 2012 và chúng tôi đã thu được tiếng ồn.

Họ đã hiểu sai khi đọc nó hoặc hiểu sai các tín hiệu. Và sau đó, có một dòng tweet được đưa ra với nội dung thông báo rằng AP đã bị tấn công. Và tài khoản Twitter của họ cho biết, "Breaking: Vụ nổ Nhà Trắng, Barack Obama bị thương." Và sau đó thị trường lấy thông tin đó và giảm xuống, mất khoảng 130 tỷ đô la từ dòng tweet đó. Bây giờ tôi không biết liệu nó có ý định thúc đẩy thị trường hay không, liệu nó có ý định tạo ra sự tàn phá hay có ý định làm điều gì đó, nhưng đó chỉ là sự kết nối vào thời điểm đó, tôi đã nói, “Chà.” Nó giống như con bướm này vỗ cánh và tạo ra loại tác động này, bởi vì nó tận dụng một tập hợp các tác nhân thuật toán mà họ thực sự không thông minh lắm.

Vì vậy, tôi đã thấy điều đó, và điều đó khiến tôi đào sâu vào và sau đó tôi bắt đầu tìm kiếm… Và tôi thấy có cả đống bot Mexico, các tài khoản Mexico tuyên bố rằng các nhà báo không bị giết bởi các băng đảng ma túy. Và đây là, giống như năm 2013. Và tôi đã nói, “Ôi Chúa ơi, bạn có những diễn viên phi nhà nước, các băng đảng ma túy, tham gia vào việc này để tạo ra một trận chiến tường thuật. Và có vẻ như họ đang chiến thắng.” Và tôi giống như, "Đây thậm chí không phải là diễn viên nhà nước." Và tại thời điểm đó, người ta nói, “Chà, nếu một diễn viên nhà nước nhúng tay vào việc này thì sao? Nó sẽ trông như thế nào và nó sẽ làm gì?” Và sau đó tôi đã xuất bản một bài trên Wired vào năm 2015. Nó thực sự được viết vào cuối năm 2014, nhưng đó là về những dự đoán cho năm 2015. Và tôi đã nói, “Đây sẽ là năm mà các bot sẽ tiếp quản và kiểm soát các cuộc bầu cử .”

Và nó đã trở nên vô cùng tiên tri khi tác phẩm đó xuất hiện, có lẽ còn hơn cả những gì tôi nghĩ ban đầu. Nhưng đó chỉ là nhìn thấy loại vòng cung công nghệ này. Mặt khác, chúng tôi cũng đã thấy rất nhiều công nghệ này thô sơ đến mức nào. Nó khá nguyên thủy. Vì vậy, tất cả những thứ đó bắt đầu kết hợp lại với nhau, và sau đó chúng tôi có loại không gian mà chúng tôi đã kết thúc, thật tuyệt vời, bạn có thể kiểm soát các câu chuyện chỉ bằng cách tiếp xúc nhiều lần với thông tin từ các nguồn cấp dữ liệu mà bạn đang sử dụng.

Bạn có tin rằng đã có một cuộc bầu cử bị ảnh hưởng hoặc một cuộc bầu cử trong tương lai có thể bị ảnh hưởng bởi loại thông tin sai lệch này không?

Đóng khung điều này trở lại theo một nghĩa nào đó ở đây. Đầu tiên là chúng tôi đã đánh giá rất hẹp về vấn đề này, đó là thông tin sai lệch không có thật. Và tôi nghĩ điều đó quá hẹp. Chúng ta cần mở rộng nó đến những người đang kiểm soát các câu chuyện. Ngay bây giờ, tường thuật rất có thể là có thật, nhưng nó có thể không quan trọng đến thế.

Chúng tôi có thể lấy một câu chuyện nếu bạn lo lắng về tội phạm và chúng tôi có thể phát sóng ồ ạt tất cả tội ác trên tất cả các kênh, và bạn sẽ quay lại điều này và nghĩ rằng thành phố của bạn vừa trải qua làn sóng tội phạm khủng khiếp nhất mà nó từng thấy. Và tất cả những gì bạn đã làm chỉ là lấy từng tội phạm đã từng được báo cáo, mà trước đây không có trên radar của bạn, và đưa nó vào hệ thống của bạn.

Bây giờ bạn sẽ bắt đầu tin rằng tội phạm cao hơn nhiều so với thực tế. Nó không thay đổi, nhưng bạn tiếp xúc với nó nhiều hơn. Vì vậy, vấn đề không phải là tội ác đó có xảy ra hay không, mà là nó có tranh giành sự chú ý của bạn hay không. Vì vậy, đây là một mảnh. Chúng tôi bị cuốn vào điều này có xảy ra hay không? Như thể đó là trận chiến. Nhưng trận chiến thực sự là vì thế giới quan của mọi người. Vì vậy, đó là một mặt của nó.

Phần thứ hai của nó ở đây là, bạn có thể ảnh hưởng đến thứ này đến mức nào? Chà, nếu bạn không biết liệu vắc xin có khiến bạn giảm 37 điểm IQ hay không, hoặc nếu trước đây bạn không tin rằng vắc xin và trí thông minh có mối liên hệ với nhau. Nếu tôi nói với bạn rằng đúng như vậy, vắc-xin làm tăng chỉ số IQ của bạn, thì bây giờ bạn sẽ có khả năng tin vào điều đó cao gấp ba lần so với việc ai đó quay lại và nói với bạn rằng vắc-xin khiến chỉ số IQ của bạn giảm xuống. Vì vậy, bất cứ ai đến với tin nhắn đầu tiên có cơ hội tốt nhất để bạn giữ niềm tin đó, nếu trước đó bạn không có ý kiến ​​gì về điều gì đó.

Vì vậy, có phải sự thiên vị trong bộ não con người dễ bị tổn thương này?

Đó là sự thiên vị trong bộ não con người. Điều thứ hai, ngay cả khi bạn biết thông tin là sai, nhưng nếu bạn tiếp xúc với thông tin đó, bạn sẽ có nhiều khả năng tin vào thông tin đó hơn, ngay cả khi bạn biết thông tin đó là sai. Vì vậy, có sự lặp lại thông tin này. Có phần thông tin đầu tiên mà trước đây bạn không có ý kiến ​​gì về nó. Và sau đó, một phần khác mà chúng tôi biết, là nếu bạn có nó từ các nguồn độc lập, bạn sẽ tin tưởng nó hơn. Và nếu bạn có nó từ những người trong mạng lưới bạn bè của mình, bạn sẽ tin tưởng nó hơn, nó sẽ trở thành một phương pháp liên kết. Và chúng tôi biết rằng khoảng 25% là một điểm bùng phát, nếu 25% mọi người bắt đầu tin vào điều gì đó, nó sẽ tạo ra một điểm bùng phát lớn, theo đó rất có thể 75% hoặc 80% mọi người sẽ bắt đầu tin vào điều đó.

Vì vậy, tất cả những điều này bắt nguồn từ loại thế giới hình thành quan điểm và cơ chế về cách các nhóm đạt được sự đồng thuận. Có một nhánh phụ của vật lý, đó là vật lý tính toán, đang nghiên cứu về vấn đề này, và bạn có thể tìm hiểu tài liệu, và hiểu những mô hình này về cách ý kiến ​​hình thành, lan truyền và được chấp nhận.

Bạn có thể thiết kế các hệ thống này nếu bạn chọn, và đây là những gì mọi người đang bắt đầu làm. Tôi không nghĩ rằng họ đã rất tinh vi. Nhưng hãy nhìn xem, Trung Quốc là một siêu cường AI. Họ biết rằng chiến thắng trong cuộc chiến thông tin xung quanh sự năng động của Đài Loan trở nên vô cùng quan trọng. Chúng ta nên kỳ vọng họ thực hiện từng bước mà công nghệ cho phép, tham gia và giành chiến thắng trong cuộc xung đột đó.

Chúng tôi biết làm thế nào con người trở thành nạn nhân của điều này, nhưng làm thế nào để AI phát hiện ra sự thật gốc rễ?

Chúng ta cần tránh xa điều này về những gì là sự thật, và điều tôi muốn nói là đây không phải là đưa những người kiểm tra thực tế vào mọi thứ. Bởi vì chúng tôi đã nói, ở đây, hãy nhìn xem, AI có thể xác định rằng, vâng, tội ác này đã xảy ra, nhưng điều đó không quan trọng. Đó không phải là điều. Bây giờ bạn tin rằng có một làn sóng tội phạm lớn trong thành phố của bạn và cần phải làm gì đó để giải quyết vấn đề đó. Phải? Và đâu là sự thật căn bản về việc Đài Loan có thuộc về Trung Quốc hay không? Ý tôi là, bạn có thể quay lại lịch sử. Chúng ta có thể tranh luận về điều đó, nhưng AI có biết không? Chúng ta có biết chính xác đó là đâu không?

Bây giờ chúng tôi biết đó là một vấn đề tương đối gây chia rẽ. Và Hoa Kỳ và Đài Loan có cấu trúc niềm tin. Trung Quốc có một cấu trúc niềm tin khác. Công việc của AI không phải là tìm ra ai đúng về điều đó. Công việc của AI là xác định xem ai đó có cố gắng tích cực tác động để bạn tin vào bên này hay bên kia hay không.

Và đó là phần thứ hai, đó là mọi người sẽ sử dụng trí thông minh nhân tạo để cố gắng thuyết phục bạn, tin vào bên này hay bên kia, sử dụng các phương pháp để có được niềm tin đầu tiên, tiếp tục lặp lại việc tiếp xúc với điều này, thu được những tiếng nói dường như độc lập, kiểm soát và chọn 25% mạng lưới ảnh hưởng của bạn để hy vọng khiến bạn lật tẩy để tin vào phía bên kia. Đây là tất cả các kỹ thuật mà AI có thể tăng cường và AI cũng có thể chống lại. Nhưng chúng ta cần tránh xa vấn đề liệu AI có thể xác định sự thật hay không, bởi vì đôi khi, sự thật có lẽ ít quan trọng hơn cuộc chiến giành câu chuyện.

Và Primer hỗ trợ như thế nào trong việc này?

Vì vậy, chủ yếu là theo dõi và phát hiện. Một trong những điều nổi lên, là chúng ta đang ở nơi mà lần đầu tiên chúng ta thường nghe về các chiến dịch thông tin sai lệch là sáu tháng sau khi chúng xảy ra.

Có nghĩa là chúng ta không bao giờ có thể nắm bắt được đây là thời gian thực?

Chà, nó thậm chí không phải là thời gian thực. Đó là nếu bạn đặt chúng tôi vào tình huống động học, tên lửa đã di chuyển đến biên giới Hoa Kỳ và sáu tháng sau, chúng tôi nhận ra rằng chúng đã bắn vào chúng tôi. Đó là nơi chúng ta đang ở. Chúng tôi có một khoảng trống lớn để lấp đầy việc giám sát và trinh sát xung quanh thông tin sai lệch, hoặc các hoạt động thông tin mà chúng tôi gọi. Nếu có một hoạt động thông tin đã được tiến hành, chúng ta cần có được sự hiểu biết theo thời gian thực hoặc gần như theo thời gian thực về hoạt động đó trông như thế nào, động cơ là gì, các thao tác là gì và đặt điều đó vào vị trí mà chúng ta có thể bắt đầu hành động để tắt các mạng bot đó hoặc chúng tôi có thể xem xét để bắt đầu hạn chế sự lan truyền của thông tin đó.

Và quan điểm của bạn về mối đe dọa cuối cùng mà Trung Quốc gây ra trên thế giới là gì?

Đó là một câu hỏi lớn cho thế giới. Những gì chúng ta biết là chúng ta đang trong cuộc chạy đua vũ trang AI với Trung Quốc, bởi vì kẻ chiến thắng trong cuộc chạy đua đó sẽ có lợi thế quân sự vượt trội so với kẻ đứng thứ hai trong cuộc đua đó. Vì vậy, Trung Quốc sẽ theo đuổi rất tích cực các thành phần của trí tuệ nhân tạo. Phần thứ hai là sự nổi bật của sản xuất chip và GPU tiên tiến mà Đài Loan có. Và tôi nghĩ nếu Trung Quốc đang xem xét điều đó, và họ có thể có các phòng thí nghiệm chế tạo, cơ sở vật chất và xưởng đúc của Đài Loan, thì họ sẽ ở một vị trí rất, rất thống trị trong cuộc chạy đua vũ trang AI.

Bây giờ, nếu Trung Quốc giành lấy điều đó bằng vũ lực, rất có thể họ sẽ phá hủy những khả năng đó, hoặc chúng bị Đài Loan phá hủy và không ai có chúng. Điều đó sẽ ổn ở một mức độ nào đó đối với Trung Quốc. Sẽ có sự gián đoạn lớn trên toàn cầu, nhưng nó sẽ không nhất thiết tạo ra nhiều vấn đề cho Trung Quốc nếu điều đó xảy ra.

Tuy nhiên, nếu họ có thể lấy toàn bộ, thì đó là một lợi thế lớn cho họ. Và cách bạn làm điều đó giống như chúng ta đã thấy ở Hồng Kông, đó là cách bạn biết đấy, “Bạn thực sự là một phần của chúng tôi.” Và bạn thuyết phục phần còn lại của thế giới rằng họ thực sự là một phần của chúng ta. Và nếu bạn cố gắng và bất đồng với niềm tin hoặc quan điểm đó, thì sẽ có vấn đề kinh tế hoặc các vấn đề khác. Vì vậy, những gì Trung Quốc đang tham gia sẽ là một hoạt động gây ảnh hưởng toàn cầu để thuyết phục thế giới rằng Đài Loan là một phần của Trung Quốc, để thuyết phục người dân Đài Loan rằng họ là một phần của Trung Quốc. Và nếu họ có thể làm được điều đó, thì đột nhiên Trung Quốc có cái bánh và cũng có thể ăn nó.

Vì vậy, chúng ta sẽ thấy điều đó ở đâu, liệu Trung Quốc sẽ triển khai các hoạt động thông tin tường thuật để thuyết phục thế giới rằng Đài Loan là một phần của Trung Quốc. Và điều này đang được Ủy ban Tình báo Hạ viện công nhận. Khi họ soạn thảo Đạo luật Ủy quyền Tình báo, họ đã nêu cụ thể các phương pháp phát hiện các hoạt động gây ảnh hưởng của Trung Quốc ở Caribe, Nam Mỹ, Trung Mỹ.

Đó là một lời kêu gọi cụ thể để cộng đồng tình báo làm việc về vấn đề này. Đạo luật ủy quyền tình báo cũng đề cập đến khả năng áp dụng trí tuệ nhân tạo, khả năng sử dụng các công nghệ thương mại sẵn có và khả năng triển khai không có môi trường mã vào các tổ chức này. Đã có một số thứ thực sự mang tính xây dựng đến từ Hill. Một số phần mở và có sẵn để đọc, rất thú vị về việc chống lại các chiến dịch thông tin sai lệch của Trung Quốc, đặc biệt là ở các quốc gia ở Nam Mỹ, Trung Mỹ và Ca-ri-bê.

Bạn nghĩ các công cụ giới thiệu như YouTube, Facebook, Twitter và TikTok đóng vai trò như thế nào trong việc khuếch đại câu chuyện sai sự thật này?

Một điều chúng ta biết về Trung Quốc là họ đã ngăn Facebook xâm nhập. Facebook đã thâm nhập vào Trung Quốc. Vào năm 2012, Mark Zuckerberg đã nói: “Tôi sẽ học tiếng Quan Thoại. Tất cả là về Trung Quốc.” Trung Quốc giống như, "Chúng tôi sẽ cho bạn vào và bây giờ tạm biệt."

Bởi vì Trung Quốc giống như, “Chà, chết tiệt mà chúng ta sẽ để một công ty Mỹ kiểm soát nguồn cấp thông tin của người dân chúng ta. Chúng tôi đã làm việc rất chăm chỉ, cảm ơn bạn rất nhiều, để kiểm soát thông tin mà người dân của chúng tôi nhận được. Đây là những gì chúng ta làm. Chúng tôi rất giỏi việc đó. Chúng tôi sẽ cho bạn vào, chúng tôi sẽ học hỏi từ bạn. Nhưng sau đó, bạn đã biến mất. Vì vậy, bây giờ Facebook không có ở đó.

Vì vậy, ĐCSTQ (Đảng Cộng sản Trung Quốc) đã đưa ra một quyết định rất rõ ràng về cách họ muốn kiểm soát thông tin. Bây giờ, với tư cách là một chế độ độc tài, bạn có quyền kiểm soát đó. “Bạn sẽ không nghĩ đến những ý tưởng này. Bạn sẽ không nói những điều này. Bạn sẽ không làm điều đó. Là một nền dân chủ tự do, chúng ta phải tham gia vào khả năng tranh luận và trao đổi ý kiến, trong một không gian tương đối tự do và cởi mở. Có những giới hạn nhất định, nhưng chúng nằm ở rìa. Vì vậy, tôi nghĩ rằng Trung Quốc đã có thể kiểm soát thông tin. Hoa Kỳ không thể ở mức độ tương tự, có một nền dân chủ. Chúng ta phải để sự lộn xộn của thông tin tự giải quyết. Đó là lý do tại sao chúng ta trở nên nhạy cảm với những kiểu tấn công thông tin này. Có một sự bất đối xứng lớn trong hệ thống. “Bạn muốn cho phép tự do thảo luận? Chà, chúng ta sẽ làm hỏng điều đó. Bạn không thể làm điều đó với chúng tôi vì chúng tôi đã khóa hệ thống thông tin của mình rất tốt.”

Tôi nghĩ đó là điều mà chúng ta sẽ phải vật lộn với điều này. Và loại giao thức đầu tiên của nó, và điều đó nhanh chóng xác định xem hoạt động thông tin của họ có đang được chạy trên nền tảng hay không, cảnh báo rằng đối với các hệ thống, điều tối thiểu là hạn chế loại phổ biến thông tin đó, ngoài ra, nếu không có mạng -bot, hạ gục chúng nhanh chóng. Mặt khuyến nghị của điều này… Tôi muốn nói rằng điều này đã không được các công ty Hoa Kỳ sử dụng một cách ác ý. Tôi không nghĩ đó là nơi đó. Nó có thể được sử dụng độc hại bởi một công ty bên ngoài? Vâng, có khả năng. Nếu bạn đang có chiến tranh với ai đó, và họ nắm quyền kiểm soát một mạng lưới thông tin cung cấp các câu chuyện cho người dân của bạn, liệu bạn có tin họ công bằng và không thiên vị không?

Chà, chúng tôi đã biết chuyện gì đã xảy ra với VK và Nga, đó là mạng xã hội. Họ nói, “Chà, bạn sẽ không đưa bất kỳ hình ảnh nào của những người chết mà chúng tôi đã giết ở Ukraine. Cái đó mới bị cấm. Và chúng tôi sẽ dựng lên một bức tường thông tin để ngăn chặn sự lan truyền thông tin từ các mạng phương Tây vào các mạng của chúng tôi.” Vì vậy, điều gì sẽ xảy ra khi một cuộc xung đột bắt đầu, là mọi người dựng lên những rào cản nói rằng, "Bạn sẽ không có ảnh hưởng kiểm soát dân số của chúng tôi."

Vì vậy, tôi nghĩ rằng điều đó trong sách giáo khoa, có thể mất ba hoặc bốn tuần để VK làm được điều đó. Có một cửa sổ mà tôi nghĩ nó tương đối mở, nhưng sau đó họ đóng nó lại, vì họ nhận ra rằng nếu bạn không kiểm soát câu chuyện trong dân số của mình và nếu bạn để họ thấy thiệt hại mà tên lửa và các cuộc tấn công đang gây ra về dân thường ở Ukraine, có lẽ họ không muốn chiến đấu nữa.

Tôi nghĩ một trong những điều mà tất cả chúng ta đều ngạc nhiên về Ukraine là họ đã tiến và lùi mạnh mẽ như thế nào. Và tôi không nghĩ rằng chúng ta đã sai khi nghĩ rằng đó có thể là một cuộc chiến tranh rất nhanh nếu những người Ukraine bỏ súng xuống. Nhưng những gì đã xảy ra là ngược lại. Họ trở về nước, nhặt khẩu Kalashnikov và bắt đầu chiến đấu. Và đó là bởi vì câu chuyện bị đảo lộn, và nó lật tẩy một số điều quan trọng. Bóng ma Kiev, Đảo Rắn, người phụ nữ với hạt hướng dương trong túi của người lính và nói: “Khi bạn chết, hoa hướng dương sẽ đến.” Những khoảnh khắc này, những meme, chúng đã gây được tiếng vang trong cộng đồng đó.

Bây giờ rất nhiều trong số họ không thực sự đúng. Hoặc chúng được sản xuất. Bóng ma Kiev và Đảo Rắn được khuếch đại. Họ sống sót, nhưng họ bị coi là những kẻ tử vì đạo đã nói: “Mẹ kiếp mày,” và bị giết. Đây là một cuộc chiến tranh thông tin xuất sắc đã tạo ra tinh thần chiến đấu, không chỉ ở Ukraine, mà còn ở các nước thành viên NATO, và Hoa Kỳ để cờ Ukraine bay khắp nơi và nói: “Chúng ta cần quan tâm đến điều này”. Đó không phải là trường hợp. Cuộc chiến dễ thắng nhất là cuộc chiến mà phe đối lập không muốn tham chiến. Và đó là vụ cá cược và canh bạc mà người Nga đã thực hiện, và Putin đã thực hiện, và ông ấy đã sai. Và ông ấy đã sai vì chúng ta chưa từng chứng kiến ​​một chiến dịch gây ảnh hưởng nào quay trở lại để giành chiến thắng trong một cuộc chiến tường thuật như chúng ta từng thấy với Ukraine trước đây. Và nó thật xuất sắc.

Tôi nghĩ chúng ta đánh giá thấp sức mạnh của hoạt động thông tin. Tôi nghĩ rằng Trung Quốc đã rất chú ý và tôi nghĩ chúng ta sẽ chứng kiến ​​điều đó diễn ra. Và chúng ta đang chứng kiến ​​điều đó diễn ra, với Đài Loan, và phần còn lại của thế giới nghĩ gì về điều đó. Còn Mỹ, tôi nghĩ nếu muốn tham gia, họ cần phải có những kỹ năng tương tự, để chống lại các hoạt động thông tin.

Có lời cuối nào mà bạn muốn chia sẻ về Primer không?

Chúng tôi tham gia vào sứ mệnh này để giúp hỗ trợ Hoa Kỳ và các đồng minh mang công nghệ tốt nhất đến tay các chiến binh trong chiến tranh và tôi nghĩ chúng tôi muốn có thêm nhiều công ty công nghệ đến và tham gia cuộc chiến này.

Cảm ơn bạn vì cuộc phỏng vấn khai sáng này, những độc giả muốn tìm hiểu thêm vui lòng truy cập Primer.