อาร์จุน นารายาน์ หัวหน้าฝ่ายความไว้วางใจและความปลอดภัยระดับโลกของ SmartNews – ซีรีส์สัมภาษณ์

อาร์จุน นารายาน์ เป็นหัวหน้าฝ่ายความไว้วางใจและความปลอดภัยระดับโลกของ SmartNews ซึ่งเป็นแอปพลิเคชันรวบรวมข่าวสาร เขายังเป็นนักวิชาการด้านจริยธรรม AI และนโยบายเทคโนโลยี

คุณมีบทบาทสำคัญในการช่วยตั้งสำนักงาน Trust & Safety ของ Google ในเอเชียแปซิฟิกที่สิงคโปร์ คุณได้เรียนรู้บทเรียนสำคัญอะไรจากประสบการณ์นี้

เมื่อสร้างทีม Trust and Safety ความเชี่ยวชาญระดับประเทศมีความสำคัญอย่างมาก เนื่องจากการละเมิดมีความแตกต่างกันไปตามประเทศที่คุณกำกับดูแล ตัวอย่างเช่น วิธีการที่ผลิตภัณฑ์ของ Google (GOOGL ) ถูกละเมิดในญี่ปุ่นแตกต่างจากการละเมิดในเอเชียตะวันออกเฉียงใต้และอินเดีย ซึ่งหมายความว่าเวกเตอร์การละเมิดแตกต่างกันไปตามผู้ที่กำลังละเมิดและประเทศที่คุณอยู่ ดังนั้นจึงไม่มีความเป็นเนื้อเดียวกัน

นอกจากนี้ ฉันยังได้เรียนรู้ว่าความหลากหลายทางวัฒนธรรมมีความสำคัญอย่างมากในการสร้างทีม Trust and Safety ในต่างประเทศ ที่ Google เราได้รับประกันว่ามีความหลากหลายทางวัฒนธรรมและความเข้าใจภายในบุคคลที่เราได้รับการว่าจ้าง เรากำลังมองหาคนที่มีความเชี่ยวชาญเฉพาะด้าน แต่ยังมีความเชี่ยวชาญด้านภาษาและตลาดด้วย

ฉันยังพบว่าการยึดวัฒนธรรมมีความสำคัญอย่างมาก เมื่อเรากำลังสร้างทีม Trust and Safety ข้ามพรมแดน เราต้องแน่ใจว่าทีมวิศวกรรมและธุรกิจของเราสามารถยึดวัฒนธรรมได้ ซึ่งช่วยให้ทุกคนเข้าใกล้ปัญหาที่เรากำลังพยายามจัดการได้มากขึ้น เพื่อทำเช่นนี้ เราได้ทำการฝึกอบรมการยึดวัฒนธรรมทุกๆ ไตรมาสกับบุคลากรหลัก และช่วยเพิ่มความเข้าใจวัฒนธรรมของทุกคน

สุดท้าย ความเข้าใจระหว่างวัฒนธรรมมีความสำคัญอย่างมาก ฉันจัดการทีมในญี่ปุ่น ออสเตรเลีย อินเดีย และเอเชียตะวันออกเฉียงใต้ และวิธีการที่พวกเขาสื่อสารกันแตกต่างกันอย่างมาก ในฐานะผู้นำ คุณต้องการให้ทุกคนสามารถหาความรู้สึกเป็นของตัวเองได้ สุดท้าย สิ่งนี้ทั้งหมดได้รับการออกแบบมาเพื่อสร้างทีมที่มีประสิทธิภาพสูงซึ่งสามารถดำเนินงานที่ละเอียดอ่อน เช่น Trust and Safety

ก่อนหน้านี้ คุณยังเป็นส่วนหนึ่งของทีม Trust & Safety ของ ByteDance สำหรับแอปพลิเคชัน TikTok วิดีโอที่มีความยาวน้อยกว่าหนึ่งนาทีจะถูกตรวจสอบอย่างมีประสิทธิภาพเพื่อความปลอดภัยได้อย่างไร

ฉันต้องการที่จะเปลี่ยนคำถามนี้เล็กน้อย เนื่องจากไม่สำคัญว่าวิดีโอจะสั้นหรือยาว การประเมินความปลอดภัยของวิดีโอไม่ได้ขึ้นอยู่กับความยาว

เมื่อฉันคิดถึงการละเมิด ฉันคิดถึง “ปัญหา” ปัญหาเหล่านี้คืออะไรที่ผู้ใช้เสี่ยงต่อการถูกโจมตี? ข้อมูลที่ไม่ถูกต้องหรือข้อมูลที่ไม่ถูกต้อง? ไม่ว่าวิดีโอนั้นจะยาว 1 นาทีหรือ 1 ชั่วโมง ก็ยังมีข้อมูลที่ไม่ถูกต้องที่ถูกแบ่งปัน และระดับการละเมิดยังคงเท่ากัน

ขึ้นอยู่กับประเภทปัญหา เราจะเริ่มคิดถึงการบังคับใช้นโยบายและการป้องกันความปลอดภัย และวิธีการที่เราสามารถปกป้องผู้ใช้ที่อ่อนแอได้ ตัวอย่างเช่น สมมติว่ามีวิดีโอของบุคคลที่ทำร้ายตัวเอง เมื่อเรารับแจ้งว่าวิดีโอนี้มีอยู่ เราต้องดำเนินการด้วยความเร่งด่วน เนื่องจากอาจมีใครบางคนเสียชีวิตได้ เราใช้การเรียนรู้ของเครื่องจักรมากในการตรวจจับประเภทนี้

ในทำนองเดียวกัน หากเป็นคำพูดที่เกลียดชัง จะมีวิธีการที่แตกต่างกันในการแก้ไขปัญหา หรือในกรณีของการกลั่นแกล้งและการคุกคาม จะขึ้นอยู่กับประเภทปัญหา และขึ้นอยู่กับสิ่งนั้น เราจะปรับเปลี่ยนตัวเลือกการบังคับใช้และการป้องกันความปลอดภัยของเรา อีกตัวอย่างหนึ่งของการป้องกันความปลอดภัยที่ดีคือการนำการเรียนรู้ของเครื่องจักรมาใช้เพื่อตรวจจับเมื่อบุคคลเขียนบางสิ่งที่ไม่เหมาะสมในความคิดเห็น และให้คำเตือนให้พวกเขาคิดสองครั้งก่อนที่จะโพสต์ความคิดเห็นนั้น

สิ่งนี้ต้องอาศัยการผสมผสานระหว่างการเรียนรู้ของเครื่องจักรและกฎเกณฑ์คำค้นหา แต่เมื่อพูดถึงการถ่ายทอดสด เรายังมีคนดูการถ่ายทอดสดที่ถูกตั้งค่าโดย AI เพื่อที่พวกเขาจะสามารถรายงานทันทีและใช้โปรโตคอลได้ เนื่องจากสิ่งเหล่านี้เกิดขึ้นในเวลาจริง จึงไม่เพียงพอที่จะพึ่งพาผู้ใช้ในการรายงาน ดังนั้นเราจึงต้องมีมนุษย์ในการตรวจสอบในเวลาจริง

ตั้งแต่ปี 2021 คุณได้รับตำแหน่งเป็นหัวหน้าฝ่ายความไว้วางใจ ความปลอดภัย และประสบการณ์ลูกค้าของ SmartNews ซึ่งเป็นแอปพลิเคชันรวบรวมข่าวสาร คุณสามารถอธิบายได้อย่างไรว่า SmartNews ใช้การเรียนรู้ของเครื่องจักรและประมวลผลภาษาธรรมชาติเพื่อระบุและจัดลำดับความสำคัญของเนื้อหาข่าวที่มีคุณภาพสูง

แนวคิดหลักคือเรามี “กฎ” หรือเทคโนโลยีการเรียนรู้ของเครื่องจักรที่สามารถวิเคราะห์บทความหรือโฆษณาและเข้าใจว่าสิ่งนั้นเกี่ยวกับอะไร

เมื่อมีสิ่งที่ละเมิด “กฎ” ของเรา เช่น สิ่งที่ไม่ถูกต้องหรือทำให้เข้าใจผิด เรามีการเรียนรู้ของเครื่องจักรที่สามารถระบุเนื้อหานั้นให้กับผู้ตรวจสอบของทีมบรรณาธิการของเรา ในขั้นตอนนั้น พวกเขาจะเข้าใจค่านิยมในการบรรณาธิการของเราและสามารถตัดสินใจได้อย่างรวดเร็วเกี่ยวกับคุณภาพหรือความเหมาะสมของบทความ จากนั้นจะดำเนินการเพื่อแก้ไขปัญหา

SmartNews ใช้ AI เพื่อให้แน่ใจว่าแพลตฟอร์มมีความปลอดภัย เป็นกลาง และครอบคลุมอย่างไร

SmartNews ก่อตั้งขึ้นบนพื้นฐานที่ว่าการทำให้เป็นส่วนตัวสูงเป็นสิ่งที่ดีสำหรับอีโก้ แต่ก็ทำให้เราทุกคนถูกขั้วการเมืองโดยการเสริมสร้างอคติและทำให้คนอยู่ในฟองสบู่

วิธีการที่ SmartNews ใช้ AI นั้นแตกต่างเล็กน้อย เนื่องจากเราไม่ได้เพิ่มประสิทธิภาพการมีส่วนร่วมอย่างเดียว อัลกอริทึมของเราต้องการที่จะเข้าใจคุณ แต่ไม่ได้ทำให้เป็นส่วนตัวเฉพาะความชอบของคุณเท่านั้น นั่นเป็นเพราะเราเชื่อมั่นในการขยายมุมมองของเรา อัลกอริทึมของเราจะแนะนำคุณให้รู้จักกับแนวคิดและบทความที่อยู่นอกแนวคิดที่อยู่ติดกัน

แนวคิดคือมีสิ่งที่คนต้องรู้ในความสนใจของสาธารณะ และมีสิ่งที่คนต้องรู้เพื่อขยายขอบเขตของพวกเขา ความสมดุลที่เราพยายามสร้างคือการให้การวิเคราะห์เชิงบริบทเหล่านี้โดยไม่เป็นเหมือนพี่น้องใหญ่ บางครั้งคนอาจไม่ชอบสิ่งที่อัลกอริทึมของเราใส่ในฟีดของพวกเขา เมื่อเกิดเหตุการณ์นั้น คนสามารถเลือกที่จะไม่อ่านบทความนั้นได้ อย่างไรก็ตาม เรารู้สึกภูมิใจในความสามารถของเครื่องยนต์ AI ในการส่งเสริมความบังเอิญ ความอยากรู้อยากเห็น หรือสิ่งที่คุณต้องการเรียกมัน

ในด้านความปลอดภัย SmartNews มี “คะแนนผู้จัดพิมพ์” ซึ่งเป็นอัลกอริทึมที่ออกแบบมาเพื่อประเมินว่าผู้จัดพิมพ์เป็นคนดีหรือไม่ สุดท้ายเราต้องการที่จะสร้างความมั่นใจว่าผู้จัดพิมพ์มีเสียงที่มีอำนาจ อีกตัวอย่างหนึ่งคือ เราสามารถตกลงกันได้ทุกคนว่า ESPN เป็นผู้มีอำนาจในเรื่องกีฬา แต่ถ้าคุณเป็นบล็อกส่วนตัวที่คัดลอกเนื้อหาของ ESPN เราต้องแน่ใจว่า ESPN มีอันดับสูงกว่าบล็อกส่วนตัวนั้น คะแนนผู้จัดพิมพ์ยังพิจารณาปัจจัยอื่นๆ เช่น ความเป็นเอกลักษณ์ เมื่อใดที่บทความถูกโพสต์ และรีวิวของผู้ใช้ดูเหมือนอย่างไร เป็นเพียงสเปกตรัมของปัจจัยที่เราพิจารณา

สิ่งหนึ่งที่สำคัญที่สุดคือ “ผู้ใช้ต้องการอ่านอะไร?” หากผู้ใช้ต้องการดูบทความคลิกเบต เราจะไม่หยุดพวกเขาเว้นแต่จะผิดกฎหมายหรือละเมิดแนวทางของเรา เราไม่บังคับให้ผู้ใช้ แต่ถ้าสิ่งใดไม่ปลอดภัยหรือไม่เหมาะสม เรามีหน้าที่ตรวจสอบก่อนที่สิ่งนั้นจะเข้าสู่ฟีด

คุณมีความคิดเห็นอย่างไรเกี่ยวกับนักข่าวที่ใช้ AI ที่สร้างขึ้นเพื่อช่วยในการผลิตเนื้อหา

ฉันเชื่อว่านี่เป็นคำถามทางจริยธรรม และเป็นสิ่งที่เรากำลังถกเถียงกันอยู่ที่ SmartNews ว่าควรจะมองเห็นผู้จัดพิมพ์ที่ส่งเนื้อหาที่สร้างโดย AI แทนนักข่าวที่เขียนมันขึ้นมา

ฉันเชื่อว่ารถไฟนั้นได้ออกตัวแล้ว วันนี้ นักข่าวกำลังใช้ AI เพื่อเพิ่มประสิทธิภาพการเขียนของพวกเขา มันเป็นเรื่องของขนาด เราไม่มีเวลาที่จะผลิตบทความในอัตราที่มีศักยภาพทางการค้า โดยเฉพาะอย่างยิ่งเมื่อองค์กรข่าวต่างๆ ตัดทีมงานของพวกเขา

ในจุดนี้ AI ที่สร้างขึ้นไม่สามารถเขียนบทความเกี่ยวกับเหตุการณ์ข่าวที่เกิดขึ้นใหม่ได้ เนื่องจากไม่มีข้อมูลฝึกอบรมสำหรับมัน อย่างไรก็ตาม มันสามารถให้เทมเพลตทั่วไปที่ดีให้กับนักข่าวได้ ตัวอย่างเช่น การยิงในโรงเรียนเป็นเรื่องที่พบบ่อย เราสามารถให้ AI ที่สร้างขึ้นให้คำแนะนำเกี่ยวกับการยิงในโรงเรียนและนักข่าวสามารถใส่ชื่อโรงเรียนที่ได้รับผลกระทบเพื่อให้ได้เทมเพลตที่สมบูรณ์

จากมุมมองของฉันในการทำงานกับ SmartNews มีหลักการสองประการที่ควรพิจารณา ประการแรก เราต้องการให้ผู้จัดพิมพ์เปิดเผยต่อเราเมื่อเนื้อหาถูกสร้างขึ้นโดย AI และเราต้องการให้ระบุไว้ด้วยว่าเนื้อหานั้นถูกสร้างขึ้นโดย AI เพื่อที่เมื่อคนกำลังอ่านบทความนั้น พวกเขาจะไม่ถูกหลอกลวงเกี่ยวกับใครเป็นผู้เขียนบทความนั้น นี่คือความโปร่งใสในระดับสูงสุด

ประการที่สอง เราต้องการให้บทความนั้นถูกต้องตามข้อเท็จจริง เรารู้ว่า AI ที่สร้างขึ้นมักจะสร้างสิ่งขึ้นมาเองเมื่อมันอยาก และบทความใดๆ ที่เขียนโดย AI ที่สร้างขึ้นต้องได้รับการตรวจสอบโดยนักข่าวหรือทีมบรรณาธิการ

คุณได้โต้แย้งก่อนหน้านี้ว่าแพลตฟอร์มเทคโนโลยีควรรวมตัวกันและสร้างมาตรฐานร่วมกันเพื่อต่อสู้กับความเป็นพิษดิจิทัล ปัญหานี้มีความสำคัญเพียงใด

ฉันเชื่อว่าปัญหานี้มีความสำคัญอย่างมาก ไม่เพียงแต่สำหรับบริษัทที่จะดำเนินการอย่างมีจริยธรรมเท่านั้น แต่ยังเพื่อรักษาระดับความมีศักดิ์ศรีและความสุภาพอ่อนในระดับมนุษย์อีกด้วย ในความคิดของฉัน แพลตฟอร์มควรมารวมตัวกันและพัฒนามาตรฐานบางอย่างเพื่อรักษาความเป็นมนุษย์นี้

ตัวอย่างเช่น ไม่ควรส่งเสริมให้ใครบางคนตัดสินใจที่จะทำร้ายชีวิตของตนเอง แต่ในบางกรณี เราพบการละเมิดประเภทนี้บนแพลตฟอร์ม และฉันเชื่อว่านี่คือสิ่งที่บริษัทควรมารวมตัวกันเพื่อป้องกัน

สุดท้าย เมื่อพูดถึงปัญหาของมนุษยชาติ ไม่ควรจะมีการแข่งขัน ไม่ควรจะมีการแข่งขันในเรื่องของ谁เป็นชุมชนสะอาดที่สุดหรือปลอดภัยที่สุด – เราทุกคนควรพยายามทำให้ผู้ใช้รู้สึกปลอดภัยและเข้าใจได้ มาแข่งขันกันในเรื่องของฟีเจอร์ ไม่ใช่การแสวงหาผลประโยชน์

มีทางใดบ้างที่บริษัทดิจิทัลสามารถทำงานร่วมกัน

บริษัทควรมารวมตัวกันเมื่อมีค่านิยมร่วมกันและโอกาสในการร่วมมือ มักจะมีพื้นที่ที่มีการตัดกันระหว่างบริษัทและอุตสาหกรรม โดยเฉพาะอย่างยิ่งเมื่อพูดถึงการต่อสู้กับการละเมิด การรับรองความสุภาพในแพลตฟอร์ม หรือการลดการแบ่งแยก

มีมุมมองเชิงพาณิชย์ที่มีการแข่งขัน และโดยทั่วไปแล้วการแข่งขันเป็นสิ่งที่ดี ช่วยให้มีความแข็งแกร่งและความแตกต่างระหว่างบริษัท และให้คำตอบที่มีประสิทธิภาพมากกว่าที่การผูกขาดไม่สามารถให้ได้

แต่เมื่อพูดถึงการปกป้องผู้ใช้ หรือส่งเสริมความสุภาพ หรือลดการละเมิด แพลตฟอร์มเหล่านี้เป็นหัวข้อที่สำคัญที่สุดต่อเราในการรักษาความเป็นโลกเสรี สิ่งเหล่านี้คือสิ่งที่เราต้องทำเพื่อให้แน่ใจว่าเราปกป้องสิ่งที่เป็นศักดิ์ศรีและความเป็นมนุษย์ของเรา ในความคิดของฉัน แพลตฟอร์มทั้งหมดมีหน้าที่รับผิดชอบในการร่วมมือกันเพื่อปกป้องคุณค่าของมนุษย์และคุณค่าที่ทำให้เรามีโลกเสรี

คุณมีมุมมองปัจจุบันอย่างไรเกี่ยวกับ AI ที่มีความรับผิดชอบ

เรากำลังอยู่ในช่วงเริ่มต้นของสิ่งที่จะแพร่หลายในชีวิตของเรา ในช่วงต่อไปนี้ของ AI ที่สร้างขึ้นนั้นเป็นปัญหาที่เราไม่เข้าใจอย่างสมบูรณ์ หรือเข้าใจได้เพียงบางส่วนเท่านั้น

เมื่อพูดถึง AI ที่มีความรับผิดชอบ มันสำคัญอย่างมากที่เราจะพัฒนากฎเกณฑ์ที่เข้มงวด หรือเราอาจจะสิ้นเปลือง AI ที่สร้างขึ้นให้กลายเป็นフランเกนสไตน์ของเทคโนโลยี AI ที่สร้างขึ้น เราต้องใช้เวลาในการคิดถึงทุกสิ่งที่อาจผิดพลาดได้ ไม่ว่าจะเป็นการลำเอียงที่เข้ามาในอัลกอริทึม หรือโมเดลภาษาขนาดใหญ่ที่ถูกใช้โดยคนไม่ดีเพื่อทำสิ่งที่ไม่ดี

เทคโนโลยีนี้ไม่ใช่สิ่งที่ดีหรือไม่ดี แต่สามารถถูกใช้โดยคนไม่ดีเพื่อทำสิ่งที่ไม่ดี นี่คือเหตุผลที่การลงทุนเวลาและทรัพยากรในการทดสอบเชิงกลยุทธ์เพื่อทำความเข้าใจข้อผิดพลาดในการออกแบบมีความสำคัญอย่างมาก จะช่วยให้เราเข้าใจวิธีการป้องกันการละเมิด และฉันคิดว่านี่คือสิ่งที่สำคัญที่สุดเกี่ยวกับ AI ที่มีความรับผิดชอบ

เนื่องจาก AI ยังไม่สามารถคิดเองได้ เราจึงต้องการคนฉลาดที่สามารถสร้างค่าเริ่มต้นเมื่อ AI ถูกตั้งโปรแกรม สิ่งสำคัญที่ต้องพิจารณาในขณะนี้คือเวลา – เราต้องการให้ผู้กระทำที่ดีเหล่านี้ทำสิ่งเหล่านี้ตอนนี้ ก่อนที่จะสายเกินไป

ไม่เหมือนกับระบบอื่นๆ ที่เราได้ออกแบบและสร้างมาในอดีต AI นั้นแตกต่างเพราะสามารถเรียนรู้และพัฒนาได้ด้วยตัวเอง ดังนั้นหากคุณไม่ได้ตั้งค่ากฎเกณฑ์ที่เข้มงวดเกี่ยวกับสิ่งที่และวิธีการที่ AI เรียนรู้ คุณไม่สามารถควบคุมสิ่งที่มันอาจกลายเป็นได้

ขณะนี้ เรากำลังเห็นบริษัทขนาดใหญ่บางแห่งที่เลิกทีมจริยธรรม AI และทีม AI ที่มีความรับผิดชอบเป็นส่วนหนึ่งของการปลดพนักงานครั้งใหญ่ ยังคงไม่แน่ชัดว่าบริษัทเทคโนโลยีเหล่านี้ให้ความสำคัญกับเทคโนโลยีและพิจารณาถึงผลเสียที่อาจเกิดขึ้นจาก AI ในกระบวนการตัดสินใจของพวกเขา

คุณมีอะไรที่ต้องการแบ่งปันเกี่ยวกับการทำงานของคุณกับ SmartNews อีกหรือไม่

ฉันเข้าร่วม SmartNews เพราะฉันเชื่อมั่นในภารกิจของบริษัท ภารกิจนี้มีความบริสุทธิ์ในตัวเอง ฉันเชื่อมั่นว่าโลกกำลังแบ่งแยกมากขึ้น และไม่มีการรู้หนังสือสื่อเพียงพอในวันนี้เพื่อช่วยต่อสู้กับแนวโน้มนี้

ไม่幸ด้วย มีคนจำนวนมากที่รับข้อความ WhatsApp เป็นข้อเท็จจริงและเชื่อมั่นในมัน ซึ่งอาจนำไปสู่ผลกระทบที่รุนแรง รวมถึงความรุนแรงด้วย สิ่งนี้ล้วนเกิดจากการที่คนไม่เข้าใจว่าพวกเขาสามารถและไม่สามารถเชื่อใจสิ่งที่พวกเขากำลังบริโภคได้

หากเราไม่ให้ความรู้แก่ผู้คนหรือให้ความรู้แก่พวกเขาเกี่ยวกับวิธีการตัดสินใจเกี่ยวกับความน่าเชื่อถือของสิ่งที่พวกเขากำลังบริโภค หากเราไม่ได้นำเสนอระดับการรู้หนังสือสื่อเพื่อแยกแยะระหว่างข่าวและข้อมูลเท็จ เราจะยังคงสนับสนุนปัญหาและเพิ่มปัญหาในอดีตที่เราได้เรียนรู้ไม่ให้ทำ

สิ่งสำคัญที่สุดในการทำงานของฉันที่ SmartNews คือการช่วยลดการแบ่งแยกในโลก ฉันต้องการที่จะ fulfill the founder’s mission to improve media literacy where they can understand what they’re consuming and make informed opinions about the world and the many diverse perspectives. Thank you for the great interview, readers who wish to learn more or want to try out a different type of news app should visit SmartNews.