ซ恩 กอร์ลีย์ ซีอีโอและผู้ก่อตั้ง Primer – ซีรีส์สัมภาษณ์

ซ恩 กอร์ลีย์ เป็น CEO และผู้ก่อตั้ง Primer ซึ่งเป็นธุรกิจที่ให้บริการแอปพลิเคชัน Natural Language Processing (NLP) ระดับอุตสาหกรรมสำหรับหน่วยงานรัฐบาล สถาบันการเงิน บริษัท Fortune 50 และองค์กรอื่นๆ

หนึ่งในกรณีการใช้งานหลักของ Primer คือช่วยให้ผู้คนตรวจจับ เข้าใจ และตอบสนองต่อการรณรงค์ข้อมูลที่ไม่ถูกต้อง ในการเพิ่มความสามารถในการต่อต้านการโจมตีด้วยข้อมูลที่ไม่ถูกต้อง Primer ได้เข้าซื้อกิจการ Yonder เมื่อเร็วๆ นี้

เรานั่งสัมภาษณ์กับซ恩เพื่อหารือเกี่ยวกับข้อมูลที่ไม่ถูกต้องที่การประชุม Ai4 ที่จัดขึ้นที่ลาสเวกัส ซ恩เป็นคลังความรู้เกี่ยวกับการรณรงค์ข้อมูลที่ไม่ถูกต้อง และการโฆษณาชวนเชื่อของรัฐบาล

สิ่งใดที่ดึงดูดคุณให้เรียนรู้และเข้าใจระบบนิเวศของข้อมูลที่ไม่ถูกต้อง?

ฉันพูดถึงการซื้อขายสัญญาซื้อขายล่วงหน้า และมันสนุกมาก ฉันกำลังดูสิ่งนั้น และมีพื้นที่ของอัลกอริทึมที่พยายามเข้าใจว่าสิ่งใดเกิดขึ้นในโลก และแล้วซื้อขายตามนั้น และมันเริ่มต้นขึ้นในปี 2012 และเรากำลังรับเสียงรบกวน

พวกเขาได้เข้าใจผิดหรือตีความสัญญาณผิด และจากนั้น มีツイッターที่ออกมา ซึ่ง AP ถูกแฮก และบัญชี Twitter ของพวกเขาบอกว่า “Breaking: ระเบิดที่ทำเนียบขาว บารัค โอบามาได้รับบาดเจ็บ” และจากนั้น ตลาดได้ล่มลงและเสียเงินไปประมาณ 130 พันล้านดอลลาร์จากツイッターนั้น

ตอนนี้ฉันไม่รู้ว่ามันถูกตั้งใจเพื่อขับเคลื่อนตลาดหรือไม่ หรือมันถูกตั้งใจเพื่อสร้างความวุ่นวายหรือไม่ แต่มันคือการเชื่อมต่อในขณะนั้น ฉันคิดว่า “ว้าว” มันเหมือนปีกผีเสื้อที่กระพือและสร้างผลกระทบเพราะมันใช้เซตของตัวแสดงอัลกอริทึมที่ไม่ฉลาดจริงๆ

ฉันเห็นสิ่งนั้น และมันทำให้ฉันเริ่มสืบค้น และจากนั้นฉันเห็นว่ามีบอทเม็กซิกัน บัญชีเม็กซิกันที่อ้างว่านักข่าวไม่ได้ถูกฆ่าโดยแก๊ง мафия และสิ่งนี้เกิดขึ้นในปี 2013 และฉันคิดว่า “โอ้พระเจ้า คุณมีหน่วยงานที่ไม่ใช่รัฐ เช่น แก๊ง мафия ที่มีส่วนร่วมในการสร้างการรบทางนาราเทィว์ และดูเหมือนว่าพวกเขาจะชนะ” และฉันคิดว่า “สิ่งเหล่านี้ไม่ใช่หน่วยงานของรัฐ” และในขณะนั้น ฉันบอกว่า “สิ่งใดจะเกิดขึ้นหากหน่วยงานของรัฐได้รับมัน” และจากนั้นฉันเขียนบทความใน Wired ในปี 2015 ซึ่งเขียนที่สิ้นปี 2014 แต่มันเกี่ยวกับการทำนายสำหรับปี 2015 และฉันบอกว่า “นี่จะเป็นปีที่บอทจะเข้ามาและควบคุมการเลือกตั้ง”

และจากนั้นมันกลายเป็นจริงมากขึ้นกว่าที่ฉันคิด และมันคือการคาดการณ์ที่แม่นยำมากเกินไป และมันคือการเห็นแนวคิดของเทคโนโลยี ในด้านเดียวกัน เรากำลังเห็นว่าเทคโนโลยีเหล่านี้ยังเป็นเรื่องง่ายๆ มาก

คุณคิดว่ามีการเลือกตั้งที่ถูกชี้นำหรือมีการเลือกตั้งที่อาจถูกชี้นำโดยการข้อมูลที่ไม่ถูกต้องประเภทนี้?

การสร้างกรอบนี้คือ เราได้ใช้การวัดที่แคบมาก ซึ่งก็คือ ข้อมูลที่ไม่ถูกต้องไม่มีอยู่จริง และฉันคิดว่ามันแคบเกินไป เราต้องขยายมันเพื่อดูว่าใครควบคุมเรื่องราว

เราสามารถนำเรื่องราวมาถ้าคุณกังวลเกี่ยวกับอาชญากรรม และเราสามารถส่งทุกเรื่องราวอาชญากรรมไปยังทุกช่องทาง และคุณจะกลับมาด้วยความคิดว่าเมืองของคุณได้รับผลกระทบจากคลื่นอาชญากรรมที่เลวร้ายที่สุด และทุกสิ่งที่คุณทำคือการนำทุกเรื่องราวอาชญากรรมที่เคยเกิดขึ้นมาใส่เข้าไปในระบบของคุณ

ตอนนี้คุณจะเริ่มเชื่อว่าอาชญากรรมสูงกว่าที่เป็นจริง และมันไม่ได้เปลี่ยนแปลง แต่คุณได้รับผลกระทบจากมันมากขึ้น

สิ่งนี้ไม่ใช่เรื่องของการตรวจสอบข้อเท็จจริง แต่เป็นเรื่องของการควบคุมเรื่องราว และเรื่องราวไม่ใช่เรื่องของการตรวจสอบข้อเท็จจริง แต่เป็นเรื่องของการสร้างความเชื่อ

คุณคิดว่ามันคือความลำเอียงในสมองของมนุษย์ที่อ่อนแอต่อการโจมตีนี้?

มันคือความลำเอียงในสมองของมนุษย์ และสิ่งที่สองคือ แม้ว่าคุณจะรู้ว่าข้อมูลเป็นเท็จ แต่ถ้าคุณได้รับผลกระทบจากมัน คุณก็มีแนวโน้มที่จะเชื่อมันมากขึ้น

มีการศึกษาที่แสดงให้เห็นว่าถ้าคุณได้รับข้อมูลจากแหล่งที่ไม่ขึ้นกัน คุณจะเชื่อมันมากขึ้น และถ้าคุณได้รับข้อมูลจากคนในเครือข่ายของคุณ คุณจะเชื่อมันมากขึ้น

และเรารู้ว่าประมาณ 25% เป็นจุดเปลี่ยน หาก 25% ของคนเริ่มเชื่อมัน มันจะสร้างผลกระทบอย่างมากที่จะทำให้ 75% หรือ 80% ของคนเชื่อมัน

ทุกสิ่งนี้มาจากโลกของการก่อตัวของความคิดเห็น และกลไกของการสร้างความเห็นพ้อง

คุณสามารถสร้างระบบเหล่านี้ได้หากคุณต้องการ และนี่คือสิ่งที่คนเริ่มทำแล้ว

เรารู้ว่ามนุษย์ถูกโจมตี แต่ AI จะตรวจจับเรื่องราวที่แท้จริงได้อย่างไร?

เราต้องออกจากสิ่งนี้ที่เรียกว่า “สิ่งที่เป็นจริง” และสิ่งที่ฉันหมายถึงคือ สิ่งนี้ไม่ใช่เรื่องของการนำผู้ตรวจสอบข้อเท็จจริงมาให้ทุกสิ่ง

AI ไม่ได้ทำงานเพื่อตรวจสอบข้อเท็จจริง แต่เพื่อตรวจสอบว่ามีใครพยายามที่จะควบคุมเรื่องราวหรือไม่

และนี่คือสิ่งที่ Primer ช่วยเหลือ

Primer ช่วยเหลือในด้านการตรวจสอบและตรวจจับ

สิ่งหนึ่งที่เกิดขึ้นคือ เราได้รับข้อมูลเกี่ยวกับการรณรงค์ข้อมูลที่ไม่ถูกต้องหกเดือนหลังจากที่มันเกิดขึ้น

หมายความว่าเราจะไม่เคยจับได้ว่ามันเกิดขึ้นในเวลาจริง?

ไม่ใช่ในเวลาจริง แต่ถ้าคุณนำเรามาในเรื่องของการเคลื่อนไหว มีจรวดที่เคลื่อนไปที่ชายแดนของสหรัฐฯ และหกเดือนหลังจากที่เรารู้ว่ามันถูกยิงแล้ว

เรามีช่องว่างที่ต้องเติมในด้านการตรวจสอบและสำรวจข้อมูลที่ไม่ถูกต้องหรือการดำเนินการข้อมูล

เราต้องได้รับข้อมูลในเวลาจริงหรือใกล้เคียงกับเวลาจริงเกี่ยวกับว่ามันคืออะไร มีอะไรเป็นแรงจูงใจ มีอะไรเป็นการควบคุม และนำมันไปไว้ในที่ที่เราสามารถเริ่มปิดเครือข่ายบอทหรือจำกัดการแพร่กระจายของข้อมูลนั้น

คุณมีความคิดเห็นอย่างไรเกี่ยวกับภัยคุกคามที่จีนมีต่อโลก?

มันเป็นคำถามใหญ่สำหรับโลก เรารู้ว่าเรากำลังอยู่ในการแข่งขัน AI กับจีน และผู้ชนะจะได้ข้อได้เปรียบทางทหารที่โดดเด่น

จีนจะตามหาส่วนประกอบของ AI อย่างมาก และสิ่งที่สองคือความสำคัญของการผลิตชิปและ GPU ที่ทันสมัย ซึ่งไต้หวันมี

และฉันคิดว่าถ้าจีนสามารถควบคุมไต้หวันได้ จีนจะมีตำแหน่งที่โดดเด่นใน การแข่งขัน AI

หากจีนยึดไต้หวันด้วยกำลัง มีโอกาสที่พวกเขาจะทำลายความสามารถหรือความสามารถจะถูกทำลายโดยไต้หวันและไม่มีใครมีมัน

แต่ถ้าจีนสามารถยึดไต้หวันได้โดยไม่ต้องทำลาย มันจะเป็นข้อได้เปรียบอย่างมากสำหรับจีน

และวิธีที่พวกเขาทำคือการสร้างการดำเนินการอิทธิพลระดับโลกเพื่อทำให้โลกเชื่อว่าไต้หวันเป็นส่วนหนึ่งของจีน

และนี่คือสิ่งที่เราจะเห็นในอนาคต และเรากำลังเห็นมันในเรื่องของไต้หวันและความคิดของโลกเกี่ยวกับเรื่องนั้น

คุณมีคำพูดสุดท้ายที่ต้องการแบ่งปันเกี่ยวกับ Primer?

เรากำลังทำงานในภารกิจนี้เพื่อช่วยสนับสนุนสหรัฐฯ และพันธมิตรในการนำเทคโนโลยีที่ดีที่สุดมาให้กับ戦鬪員 และฉันคิดว่าเราต้องการให้บริษัทเทคโนโลยีอื่นๆ มาร่วมต่อสู้นี้

ขอขอบคุณสำหรับการสัมภาษณ์ที่ให้ข้อมูลนี้ ผู้อ่านสามารถเรียนรู้เพิ่มเติมได้ที่ Primer