Arjun Narayan, Người đứng đầu An toàn và Tin cậy Toàn cầu của SmartNews – Loạt phỏng vấn

Arjun Narayan, là Người đứng đầu An toàn và Tin cậy Toàn cầu của SmartNews một ứng dụng tổng hợp tin tức, anh cũng là một chuyên gia về đạo đức AI và chính sách công nghệ. SmartNews sử dụng AI và đội ngũ biên tập con người để tổng hợp tin tức cho người đọc.

Bạn đã giúp thành lập trung tâm An toàn và Tin cậy châu Á – Thái Bình Dương của Google tại Singapore, những bài học quan trọng nào bạn đã rút ra từ kinh nghiệm này?

Khi xây dựng đội ngũ An toàn và Tin cậy, chuyên môn cấp quốc gia là rất quan trọng vì lạm dụng rất khác nhau dựa trên quốc gia bạn đang điều chỉnh. Ví dụ, cách các sản phẩm của Google (GOOGL ) bị lạm dụng ở Nhật Bản khác với cách chúng bị lạm dụng ở Đông Nam Á và Ấn Độ. Điều này có nghĩa là các vector lạm dụng rất khác nhau tùy thuộc vào người lạm dụng và quốc gia bạn đang dựa vào; vì vậy không có sự đồng nhất. Đây là điều chúng tôi đã học được sớm.

Tôi cũng học được rằng sự đa dạng văn hóa rất quan trọng khi xây dựng đội ngũ An toàn và Tin cậy ở nước ngoài. Tại Google, chúng tôi đảm bảo có đủ sự đa dạng văn hóa và hiểu biết trong số những người chúng tôi tuyển dụng. Chúng tôi đang tìm kiếm những người có chuyên môn cụ thể, nhưng cũng có chuyên môn về ngôn ngữ và thị trường.

Tôi cũng thấy rằng việc hòa nhập văn hóa rất quan trọng. Khi chúng tôi xây dựng đội ngũ An toàn và Tin cậy vượt biên giới, chúng tôi cần đảm bảo các đội ngũ kỹ thuật và kinh doanh của chúng tôi có thể hòa nhập. Điều này giúp đảm bảo mọi người đều gần gũi hơn với các vấn đề chúng tôi đang cố gắng quản lý. Để làm điều này, chúng tôi đã tổ chức các phiên họp hòa nhập hàng quý với các nhân viên chủ chốt, và điều đó đã giúp nâng cao chỉ số IQ văn hóa của mọi người.

Cuối cùng, sự hiểu biết xuyên văn hóa rất quan trọng. Tôi đã quản lý một đội ở Nhật Bản, Úc, Ấn Độ và Đông Nam Á, và cách họ tương tác rất khác nhau. Là một nhà lãnh đạo, bạn muốn đảm bảo mọi người có thể tìm thấy tiếng nói của mình. Cuối cùng, tất cả đều được thiết kế để xây dựng một đội ngũ hiệu suất cao có thể thực hiện các nhiệm vụ nhạy cảm như An toàn và Tin cậy.

Trước đây, bạn cũng từng là thành viên của đội An toàn và Tin cậy với ByteDance cho ứng dụng TikTok, làm thế nào để theo dõi hiệu quả các video thường ngắn hơn một phút về mặt an toàn?

Tôi muốn định hình lại câu hỏi này một chút, vì điều đó không thực sự quan trọng liệu một video có ngắn hay dài. Đó không phải là một yếu tố khi chúng tôi đánh giá an toàn video, và độ dài không có trọng lượng thực sự trong việc quyết định liệu một video có thể lan truyền lạm dụng hay không.

Khi tôi nghĩ về lạm dụng, tôi nghĩ về lạm dụng như “vấn đề”. Những vấn đề gì mà người dùng dễ bị tổn thương? Thông tin sai lệch? Thông tin giả mạo? Dù video có dài một phút hay một giờ, vẫn có thông tin sai lệch được chia sẻ và mức độ lạm dụng vẫn tương đương.

Tùy thuộc vào loại vấn đề, bạn bắt đầu suy nghĩ về việc thực thi chính sách và rào cản an toàn và cách bạn có thể bảo vệ người dùng dễ bị tổn thương. Ví dụ, giả sử có một video về một người tự gây hại cho bản thân. Khi chúng tôi nhận được thông báo rằng video này tồn tại, chúng tôi phải hành động với sự khẩn cấp, vì ai đó có thể mất mạng. Chúng tôi phụ thuộc rất nhiều vào học máy để thực hiện loại phát hiện này. Động thái đầu tiên luôn là liên hệ với các cơ quan chức năng để cố gắng cứu sống người đó, không có gì quan trọng hơn. Từ đó, chúng tôi nhằm mục đích đình chỉ video, phát trực tiếp hoặc bất kỳ định dạng nào mà nó đang được chia sẻ. Chúng tôi cần đảm bảo rằng chúng tôi đang giảm thiểu tối đa việc tiếp xúc với loại nội dung có hại đó.

Tương tự, nếu đó là ngôn từ căm thù, có những cách khác nhau để giải quyết vấn đề. Hoặc trong trường hợp bắt nạt và quấy rối, điều đó thực sự phụ thuộc vào loại vấn đề, và tùy thuộc vào đó, chúng tôi sẽ điều chỉnh các tùy chọn thực thi và rào cản an toàn. Một ví dụ khác về rào cản an toàn tốt là chúng tôi đã triển khai học máy có thể phát hiện khi ai đó viết điều gì đó không phù hợp trong phần bình luận và cung cấp lời nhắc để họ suy nghĩ hai lần trước khi đăng bình luận đó. Chúng tôi sẽ không ngăn họ nhất thiết, nhưng hy vọng của chúng tôi là mọi người sẽ suy nghĩ hai lần trước khi chia sẻ điều gì đó ác ý.

Điều đó phụ thuộc vào sự kết hợp của học máy và quy tắc từ khóa. Nhưng khi nói đến phát trực tiếp, chúng tôi cũng có các biên tập viên con người xem xét các luồng được đánh dấu bởi AI để họ có thể báo cáo ngay lập tức và thực hiện các giao thức. Bởi vì chúng đang xảy ra trong thời gian thực, không đủ để dựa vào người dùng báo cáo, vì vậy chúng tôi cần có con người giám sát trong thời gian thực.

Kể từ năm 2021, bạn đã là Người đứng đầu An toàn, Tin cậy và Trải nghiệm Khách hàng tại SmartNews, một ứng dụng tổng hợp tin tức. Bạn có thể thảo luận về cách SmartNews tận dụng học máy và xử lý ngôn ngữ tự nhiên để xác định và ưu tiên nội dung tin tức chất lượng cao?

Khái niệm trung tâm là chúng tôi có một số “quy tắc” hoặc công nghệ học máy có thể phân tích một bài viết hoặc quảng cáo và hiểu nội dung của bài viết đó.

Bất cứ khi nào có điều gì đó vi phạm “quy tắc” của chúng tôi, chẳng hạn như điều gì đó không chính xác về mặt事 thực hoặc gây hiểu lầm, chúng tôi có học máy đánh dấu nội dung đó cho một biên tập viên con người trong đội ngũ biên tập của chúng tôi. Tại giai đoạn đó, họ hiểu các giá trị biên tập của chúng tôi và có thể nhanh chóng xem xét bài viết và đưa ra phán quyết về tính phù hợp hoặc chất lượng của nó. Từ đó, các hành động được thực hiện để giải quyết vấn đề.

SmartNews sử dụng AI như thế nào để đảm bảo nền tảng an toàn, bao gồm và khách quan?

SmartNews được thành lập trên cơ sở rằng sự cá nhân hóa quá mức là tốt cho bản ngã nhưng cũng phân cực chúng ta bằng cách củng cố các thành kiến và đặt mọi người vào một bong bóng lọc.

Cách SmartNews sử dụng AI khác một chút vì chúng tôi không tối ưu hóa độc quyền cho sự tương tác. Công cụ AI của chúng tôi muốn hiểu bạn, nhưng nó không nhất thiết phải cá nhân hóa theo sở thích của bạn. Điều đó là vì chúng tôi tin vào việc mở rộng quan điểm. Công cụ AI của chúng tôi sẽ giới thiệu cho bạn các khái niệm và bài viết ngoài các khái niệm liền kề.

Ý tưởng là có những điều mọi người cần biết trong lợi ích công cộng, và có những điều mọi người cần biết để mở rộng tầm nhìn của họ. Sự cân bằng chúng tôi cố gắng đạt được là cung cấp các phân tích ngữ cảnh mà không bị “bố mẹ hóa”. Đôi khi mọi người sẽ không thích những điều mà công cụ AI của chúng tôi đưa vào nguồn cấp dữ liệu của họ. Khi điều đó xảy ra, mọi người có thể chọn không đọc bài viết đó. Tuy nhiên, chúng tôi tự hào về khả năng của công cụ AI trong việc thúc đẩy sự tình cờ, tò mò, bất cứ điều gì bạn muốn gọi nó.

Về mặt an toàn, SmartNews có một thứ gọi là “Điểm xuất bản”, đây là một thuật toán được thiết kế để liên tục đánh giá xem một nhà xuất bản có an toàn hay không. Cuối cùng, chúng tôi muốn thiết lập xem một nhà xuất bản có tiếng nói có thẩm quyền hay không. Ví dụ, chúng ta đều có thể đồng ý rằng ESPN là một thẩm quyền về thể thao. Nhưng nếu bạn là một blog ngẫu nhiên sao chép nội dung của ESPN, chúng tôi cần đảm bảo rằng ESPN được xếp hạng cao hơn blog ngẫu nhiên đó. Điểm xuất bản cũng xem xét các yếu tố như tính nguyên bản, khi nào các bài viết được đăng, những gì người dùng đánh giá trông như thế nào, v.v. Đó cuối cùng là một phổ của nhiều yếu tố chúng tôi xem xét.

Một điều quan trọng hơn hết là “Người dùng muốn đọc gì?” Nếu người dùng muốn xem các bài viết clickbait, chúng tôi sẽ không ngăn họ nếu đó không bất hợp pháp hoặc vi phạm hướng dẫn của chúng tôi. Chúng tôi không áp đặt lên người dùng, nhưng nếu điều gì đó không an toàn hoặc không phù hợp, chúng tôi có nghĩa vụ trước khi điều gì đó vào nguồn cấp dữ liệu.

Quan điểm của bạn về việc các nhà báo sử dụng AI tạo sinh để hỗ trợ sản xuất nội dung là gì?

Tôi tin rằng đây là một câu hỏi đạo đức, và điều mà chúng tôi đang tranh luận hiện tại tại SmartNews. Làm thế nào SmartNews nên xem xét các nhà xuất bản gửi nội dung được tạo bởi AI thay vì các nhà báo viết nó?

Tôi tin rằng chuyến tàu đó đã chính thức rời ga. Ngày nay, các nhà báo đang sử dụng AI để tăng cường việc viết của họ. Đó là một chức năng của quy mô, chúng tôi không có thời gian trên thế giới để sản xuất các bài viết với tốc độ có thể kinh doanh, đặc biệt là khi các tổ chức tin tức tiếp tục cắt giảm nhân viên. Câu hỏi trở thành, bao nhiêu sáng tạo đi vào điều này? Bài viết có được chỉnh sửa bởi nhà báo hay không? Hay nhà báo hoàn toàn phụ thuộc?

Ở giai đoạn này, AI tạo sinh không thể viết các bài viết về các sự kiện tin tức nóng vì không có dữ liệu đào tạo cho nó. Tuy nhiên, nó vẫn có thể cung cấp cho bạn một mẫu chung khá tốt để làm như vậy. Ví dụ, các vụ nổ súng ở trường học rất phổ biến, chúng tôi có thể giả định rằng AI tạo sinh có thể cung cấp cho một nhà báo một mẫu về các vụ nổ súng ở trường học và một nhà báo có thể chèn trường học bị ảnh hưởng để nhận được một mẫu hoàn chỉnh.

Từ quan điểm của tôi khi làm việc với SmartNews, có hai nguyên tắc tôi nghĩ là đáng xem xét. Đầu tiên, chúng tôi muốn các nhà xuất bản phải minh bạch khi cho chúng tôi biết khi nào nội dung được tạo bởi AI, và chúng tôi muốn gắn nhãn cho nó như vậy. Điều này sẽ giúp khi mọi người đọc bài viết, họ không bị hiểu lầm về ai đã viết bài viết. Đây là sự minh bạch ở mức cao nhất.

Thứ hai, chúng tôi muốn bài viết đó phải chính xác về mặt事 thực. Chúng tôi biết rằng AI tạo sinh có xu hướng làm những điều khi nó muốn, và bất kỳ bài viết nào được viết bởi AI tạo sinh cần được biên tập bởi một nhà báo hoặc nhân viên biên tập.

Trước đây, bạn đã từng lập luận rằng các nền tảng công nghệ nên đoàn kết và tạo ra các tiêu chuẩn chung để chống lại độc tính kỹ thuật số, vấn đề này quan trọng đến mức nào?

Tôi tin rằng vấn đề này rất quan trọng, không chỉ cho các công ty hoạt động một cách đạo đức, mà còn để duy trì một mức độ nhân phẩm và sự văn minh. Theo quan điểm của tôi, các nền tảng nên đoàn kết và phát triển các tiêu chuẩn nhất định để duy trì nhân phẩm này. Ví dụ, không ai nên từng được khuyến khích tự tử, nhưng trong một số tình huống, chúng tôi tìm thấy loại lạm dụng này trên các nền tảng, và tôi tin rằng đó là điều mà các công ty nên đoàn kết để bảo vệ.

Cuối cùng, khi nói đến các vấn đề của nhân loại, không nên có sự cạnh tranh. Không nên cạnh tranh về ai là cộng đồng sạch nhất hoặc an toàn nhất – chúng tôi nên cạnh tranh về các tính năng, không phải về bóc lột.

Các công ty kỹ thuật số có thể làm việc cùng nhau như thế nào?

Các công ty nên đoàn kết khi có các giá trị chung và khả năng hợp tác. Luôn có không gian mà có sự giao nhau giữa các công ty và ngành công nghiệp, đặc biệt là khi nói đến việc chống lại lạm dụng, đảm bảo sự văn minh trên các nền tảng hoặc giảm phân cực. Đây là những khoảnh khắc mà các công ty nên làm việc cùng nhau.

Có một góc độ thương mại với sự cạnh tranh, và thường thì sự cạnh tranh là tốt. Nó giúp đảm bảo sức mạnh và sự khác biệt giữa các công ty và cung cấp các giải pháp có hiệu quả mà các tập đoàn không thể đảm bảo.

Tuy nhiên, khi nói đến việc bảo vệ người dùng, hoặc thúc đẩy sự văn minh, hoặc giảm các vector lạm dụng, đây là những chủ đề mà cốt lõi đối với chúng tôi để bảo tồn thế giới tự do. Đây là những điều chúng tôi cần làm để đảm bảo rằng chúng tôi bảo vệ những gì thiêng liêng với chúng tôi, và nhân phẩm của chúng tôi. Theo quan điểm của tôi, tất cả các nền tảng đều có trách nhiệm hợp tác trong việc bảo vệ các giá trị của con người và các giá trị làm cho chúng tôi trở thành một thế giới tự do.

Quan điểm hiện tại của bạn về AI có trách nhiệm là gì?

Chúng tôi đang ở giai đoạn đầu của điều gì đó rất phổ biến trong cuộc sống của chúng tôi. Giai đoạn tiếp theo của AI tạo sinh là một vấn đề mà chúng tôi không hiểu đầy đủ, hoặc chỉ có thể hiểu một phần tại thời điểm này.

Khi nói đến AI có trách nhiệm, điều đó vô cùng quan trọng là chúng tôi phải phát triển các rào cản mạnh mẽ, hoặc chúng tôi có thể kết thúc với một con quái vật Frankenstein của công nghệ AI tạo sinh. Chúng tôi cần dành thời gian để suy nghĩ về mọi thứ có thể sai. Cho dù đó là sự thiên vị xâm nhập vào các thuật toán, hoặc các mô hình ngôn ngữ lớn bản thân được sử dụng bởi những người sai để thực hiện các hành động ác ý.

Công nghệ bản thân không phải là tốt hay xấu, nhưng nó có thể được sử dụng bởi những người xấu để làm những việc xấu. Đây là lý do tại sao đầu tư thời gian và tài nguyên vào các nhà đạo đức học AI để thực hiện các thử nghiệm đối thủ là rất quan trọng. Điều này sẽ giúp chúng tôi hiểu cách ngăn chặn lạm dụng, và tôi nghĩ rằng đó có lẽ là khía cạnh quan trọng nhất của AI có trách nhiệm.

Vì AI vẫn chưa thể suy nghĩ cho chính mình, chúng tôi cần những người thông minh có thể xây dựng các mặc định khi AI được lập trình. Khía cạnh quan trọng cần xem xét ngay bây giờ là thời gian – chúng tôi cần những người hành động tích cực này ngay bây giờ trước khi quá muộn.

Không giống như các hệ thống khác mà chúng tôi đã thiết kế và xây dựng trong quá khứ, AI khác vì nó có thể tự lặp lại và học hỏi, vì vậy nếu bạn không thiết lập các rào cản mạnh mẽ về những gì và cách nó học hỏi, chúng tôi không thể kiểm soát được nó sẽ trở thành gì.

Hiện tại, chúng tôi đang chứng kiến một số công ty lớn sa thải các hội đồng đạo đức và các đội AI có trách nhiệm như một phần của các đợt sa thải lớn. Điều còn phải xem là các công ty công nghệ lớn này đang xem xét công nghệ và xem xét các kết quả tiêu cực của AI trong quá trình ra quyết định của họ một cách nghiêm túc như thế nào.

Có điều gì khác bạn muốn chia sẻ về công việc của mình với SmartNews?

Tôi đã gia nhập SmartNews vì tôi tin vào sứ mệnh của nó, sứ mệnh có một sự thuần khiết nhất định. Tôi tin mạnh mẽ rằng thế giới đang trở nên phân cực hơn, và không có đủ năng lực đọc hiểu truyền thông ngày nay để chống lại xu hướng đó.

Thật không may, có quá nhiều người lấy tin nhắn WhatsApp làm phúc âm và tin vào giá trị mặt của chúng. Điều đó có thể dẫn đến những hậu quả khủng khiếp, bao gồm – và đặc biệt – bạo lực. Tất cả đều phụ thuộc vào việc mọi người không hiểu những gì họ có thể và không thể tin vào những gì họ tiêu thụ. Nếu chúng tôi không giáo dục mọi người, hoặc thông báo cho họ về cách đưa ra quyết định về tính tin cậy của những gì họ đang tiêu thụ. Nếu chúng tôi không giới thiệu các cấp độ đọc hiểu truyền thông để phân biệt giữa tin tức và tin giả, chúng tôi sẽ tiếp tục vận động cho vấn đề và tăng các vấn đề mà lịch sử đã dạy chúng tôi không nên làm.

Một trong những thành phần quan trọng nhất của công việc của tôi tại SmartNews là giúp giảm phân cực trên thế giới. Tôi muốn

fulfill the founder’s mission to improve media literacy where they can understand what they’re consuming and make informed opinions about the world and the many diverse perspectives. Thank you for the great interview, readers who wish to learn more or want to try out a different type of news app should visit SmartNews.