Arjun Narayan, Người đứng đầu An toàn và Tin cậy Toàn cầu của SmartNews – Loạt phỏng vấn

Arjun Narayan, là Người đứng đầu An toàn và Tin cậy Toàn cầu của SmartNews một ứng dụng tổng hợp tin tức, ông cũng là một chuyên gia về đạo đức AI và chính sách công nghệ. SmartNews sử dụng AI và một đội biên tập con người khi tổng hợp tin tức cho người đọc.

Bạn đã đóng vai trò quan trọng trong việc giúp thành lập Trung tâm An toàn và Tin cậy châu Á – Thái Bình Dương của Google tại Singapore, những bài học chính nào bạn đã rút ra từ kinh nghiệm này?

Khi xây dựng các đội An toàn và Tin cậy, chuyên môn cấp quốc gia là rất quan trọng vì lạm dụng rất khác nhau dựa trên quốc gia bạn đang điều chỉnh. Ví dụ, cách các sản phẩm của Google bị lạm dụng ở Nhật Bản khác với cách chúng bị lạm dụng ở Đông Nam Á và Ấn Độ. Điều này có nghĩa là các vector lạm dụng rất khác nhau tùy thuộc vào người lạm dụng và quốc gia bạn đang dựa vào; vì vậy không có sự đồng nhất. Đây là điều chúng tôi đã học được sớm.
Tôi cũng đã học được rằng sự đa dạng văn hóa là vô cùng quan trọng khi xây dựng các đội An toàn và Tin cậy ở nước ngoài. Tại Google, chúng tôi đã đảm bảo có đủ sự đa dạng văn hóa và hiểu biết trong số những người chúng tôi tuyển dụng. Chúng tôi đang tìm kiếm những người có chuyên môn về lĩnh vực cụ thể, nhưng cũng về ngôn ngữ và thị trường.
Tôi cũng thấy rằng việc hòa nhập văn hóa là vô cùng quan trọng. Khi chúng tôi xây dựng các đội An toàn và Tin cậy xuyên biên giới, chúng tôi cần đảm bảo rằng các đội kỹ sư và kinh doanh của chúng tôi có thể hòa nhập. Điều này giúp đảm bảo mọi người đều gần gũi với các vấn đề chúng tôi đang cố gắng quản lý. Để làm điều này, chúng tôi đã tổ chức các phiên hòa nhập hàng quý với nhân viên chủ chốt, và điều đó đã giúp nâng cao chỉ số IQ văn hóa của mọi người.
Cuối cùng, sự hiểu biết xuyên văn hóa là rất quan trọng. Tôi đã quản lý một đội ở Nhật Bản, Úc, Ấn Độ và Đông Nam Á, và cách họ tương tác là rất khác nhau. Là một nhà lãnh đạo, bạn muốn đảm bảo mọi người có thể tìm thấy tiếng nói của mình. Về cơ bản, tất cả đều được thiết kế để xây dựng một đội có hiệu suất cao có thể thực hiện các nhiệm vụ nhạy cảm như An toàn và Tin cậy.

Trước đây, bạn cũng từng là thành viên của đội An toàn và Tin cậy với ByteDance cho ứng dụng TikTok, làm thế nào để các video thường ngắn hơn một phút được giám sát hiệu quả về an toàn?

Tôi muốn định hình lại câu hỏi này một chút, vì nó không thực sự quan trọng liệu một video có ngắn hay dài. Điều đó không phải là một yếu tố khi chúng tôi đánh giá an toàn video, và độ dài không có trọng lượng thực sự trong việc quyết định liệu một video có thể lan truyền lạm dụng hay không.
Khi tôi nghĩ về lạm dụng, tôi nghĩ về lạm dụng như “vấn đề”. Những vấn đề gì mà người dùng dễ bị tổn thương? Thông tin sai lệch? Thông tin giả mạo? Dù video có 1 phút hay 1 giờ, vẫn có thông tin sai lệch được chia sẻ và mức độ lạm dụng vẫn tương đương.
Tùy thuộc vào loại vấn đề, bạn bắt đầu suy nghĩ về việc thực thi chính sách và rào cản an toàn và cách bạn có thể bảo vệ người dùng dễ bị tổn thương. Ví dụ, giả sử có một video về một người tự gây hại cho bản thân. Khi chúng tôi nhận được thông báo rằng video này tồn tại, chúng tôi phải hành động với sự khẩn cấp, vì ai đó có thể mất mạng. Chúng tôi phụ thuộc rất nhiều vào học máy để thực hiện việc phát hiện này. Hành động đầu tiên luôn là liên hệ với cơ quan chức năng để cố gắng cứu sống đó, không có gì quan trọng hơn. Từ đó, chúng tôi nhằm mục đích đình chỉ video, phát trực tuyến, hoặc bất kỳ định dạng nào mà nó đang được chia sẻ. Chúng tôi cần đảm bảo rằng chúng tôi đang giảm thiểu việc tiếp xúc với loại nội dung có hại đó càng sớm càng tốt.
Tương tự, nếu đó là ngôn từ căm thù, có những cách khác nhau để giải quyết vấn đề. Hoặc trong trường hợp bắt nạt và quấy rối, điều đó thực sự phụ thuộc vào loại vấn đề, và tùy thuộc vào đó, chúng tôi sẽ điều chỉnh các lựa chọn thực thi và rào cản an toàn. Một ví dụ khác về rào cản an toàn tốt là chúng tôi đã triển khai học máy có thể phát hiện khi ai đó viết điều gì đó không phù hợp trong phần bình luận và cung cấp một lời nhắc để họ nghĩ lại trước khi đăng bình luận đó. Chúng tôi sẽ không ngăn họ nhất thiết, nhưng hy vọng của chúng tôi là mọi người sẽ nghĩ lại trước khi chia sẻ điều gì đó ác ý.
Điều đó phụ thuộc vào sự kết hợp giữa học máy và quy tắc từ khóa. Nhưng, khi nói đến phát trực tuyến, chúng tôi cũng có các biên tập viên con người xem xét các luồng được đánh dấu bởi AI để họ có thể báo cáo ngay lập tức và thực hiện các giao thức. Bởi vì chúng đang xảy ra trong thời gian thực, không đủ để dựa vào người dùng báo cáo, vì vậy chúng tôi cần có con người giám sát trong thời gian thực.

Kể từ năm 2021, bạn đã là Người đứng đầu An toàn, Tin cậy và Trải nghiệm Khách hàng tại SmartNews, một ứng dụng tổng hợp tin tức. Bạn có thể thảo luận về cách SmartNews tận dụng học máy và xử lý ngôn ngữ tự nhiên để xác định và ưu tiên nội dung tin tức chất lượng cao?

Khái niệm trung tâm là chúng tôi có một số “quy tắc” hoặc công nghệ học máy có thể phân tích một bài viết hoặc quảng cáo và hiểu nội dung của bài viết đó.
Bất cứ khi nào có điều gì đó vi phạm “quy tắc” của chúng tôi, chẳng hạn như điều gì đó không chính xác về mặt事 thực hoặc gây hiểu lầm, chúng tôi có học máy đánh dấu nội dung đó cho một người xem xét của đội biên tập của chúng tôi. Tại giai đoạn đó, họ hiểu các giá trị biên tập của chúng tôi và có thể nhanh chóng xem xét bài viết và đưa ra phán quyết về tính phù hợp hoặc chất lượng của nó. Từ đó, các hành động được thực hiện để giải quyết vấn đề.

Làm thế nào SmartNews sử dụng AI để đảm bảo nền tảng an toàn, bao gồm và khách quan?

SmartNews được thành lập trên cơ sở rằng sự cá nhân hóa cao là tốt cho cái tôi nhưng cũng làm cho chúng ta phân cực bằng cách củng cố các thành kiến và đặt mọi người vào một bong bóng lọc.
Cách SmartNews sử dụng AI khác một chút vì chúng tôi không tối ưu hóa độc quyền cho sự tương tác. Công cụ AI của chúng tôi muốn hiểu bạn, nhưng nó không nhất thiết phải cá nhân hóa theo sở thích của bạn. Đó là vì chúng tôi tin vào việc mở rộng quan điểm. Công cụ AI của chúng tôi sẽ giới thiệu cho bạn các khái niệm và bài viết ngoài các khái niệm liền kề.
Ý tưởng là có những điều mà mọi người cần biết trong lợi ích công cộng, và có những điều mà mọi người cần biết để mở rộng tầm nhìn của họ. Sự cân bằng chúng tôi cố gắng duy trì là cung cấp các phân tích ngữ cảnh mà không có tính cách “anh lớn”.
Đôi khi mọi người sẽ không thích những điều mà công cụ AI của chúng tôi đặt trong nguồn cấp dữ liệu của họ. Khi điều đó xảy ra, mọi người có thể chọn không đọc bài viết đó. Tuy nhiên, chúng tôi tự hào về khả năng của công cụ AI trong việc thúc đẩy sự tình cờ, tò mò, bất cứ điều gì bạn muốn gọi nó.
Về mặt an toàn, SmartNews có một thứ gọi là “Điểm xuất bản”, đây là một thuật toán được thiết kế để liên tục đánh giá liệu một nhà xuất bản có an toàn hay không. Về cơ bản, chúng tôi muốn thiết lập liệu một nhà xuất bản có giọng nói có thẩm quyền hay không. Ví dụ, chúng ta có thể đồng ý rằng ESPN là một thẩm quyền về thể thao. Nhưng, nếu bạn là một blog ngẫu nhiên sao chép nội dung của ESPN, chúng tôi cần đảm bảo rằng ESPN được xếp hạng cao hơn blog ngẫu nhiên đó. Điểm xuất bản cũng xem xét các yếu tố như tính nguyên bản, khi nào các bài viết được đăng, những gì người dùng đánh giá trông như thế nào, v.v. Đó là cơ bản một phổ của nhiều yếu tố chúng tôi xem xét.
Một điều gì đó vượt qua mọi thứ là “Người dùng muốn đọc gì?” Nếu người dùng muốn xem các bài viết clickbait, chúng tôi sẽ không ngăn họ nếu nó không bất hợp pháp hoặc vi phạm hướng dẫn của chúng tôi. Chúng tôi không áp đặt cho người dùng, nhưng nếu có điều gì đó không an toàn hoặc không phù hợp, chúng tôi có nghĩa vụ trước khi điều gì đó vào nguồn cấp dữ liệu.

Bạn nghĩ gì về việc các nhà báo sử dụng AI tạo sinh để hỗ trợ họ trong việc sản xuất nội dung?

Tôi tin rằng đây là một câu hỏi về đạo đức, và điều mà chúng tôi đang tranh luận hiện tại tại SmartNews. Làm thế nào SmartNews nên xem xét các nhà xuất bản gửi nội dung được tạo ra bởi AI thay vì nhà báo viết nó?
Tôi tin rằng chiếc tàu đã chính thức rời bến. Ngày nay, các nhà báo đang sử dụng AI để tăng cường việc viết của họ. Đó là một chức năng của quy mô, chúng tôi không có thời gian trên thế giới để sản xuất các bài viết với tốc độ có thể thương mại hóa, đặc biệt là khi các tổ chức tin tức tiếp tục cắt giảm nhân viên. Câu hỏi trở thành, bao nhiêu sự sáng tạo đi vào điều này? Bài viết có được đánh bóng bởi nhà báo hay không? Hay nhà báo hoàn toàn phụ thuộc?
Tại thời điểm này, AI tạo sinh không thể viết các bài viết về các sự kiện tin tức nóng vì không có dữ liệu đào tạo cho nó. Tuy nhiên, nó vẫn có thể đưa cho bạn một mẫu chung khá tốt để làm như vậy. Ví dụ, các vụ nổ súng ở trường học rất phổ biến, chúng tôi có thể giả định rằng AI tạo sinh có thể đưa cho nhà báo một mẫu về các vụ nổ súng ở trường học và nhà báo có thể chèn trường bị ảnh hưởng để nhận được một mẫu hoàn chỉnh.
Từ quan điểm của tôi khi làm việc với SmartNews, có hai nguyên tắc tôi nghĩ là đáng xem xét. Đầu tiên, chúng tôi muốn các nhà xuất bản phải minh bạch khi cho chúng tôi biết khi nào nội dung được tạo ra bởi AI, và chúng tôi muốn dán nhãn cho nó như vậy. Điều này giúp khi mọi người đọc bài viết, họ không bị hiểu lầm về ai đã viết bài viết. Đây là sự minh bạch ở mức cao nhất.
Thứ hai, chúng tôi muốn bài viết đó phải chính xác về mặt事 thực. Chúng tôi biết rằng AI tạo sinh có xu hướng làm cho mọi thứ trở nên hấp dẫn hơn khi nó muốn, và bất kỳ bài viết nào được viết bởi AI tạo sinh cần được biên tập bởi một nhà báo hoặc nhân viên biên tập.

Bạn đã từng lập luận rằng các nền tảng công nghệ nên hợp nhất và tạo ra các tiêu chuẩn chung để chống lại độc tính kỹ thuật số, vấn đề này quan trọng đến mức nào?

Tôi tin rằng vấn đề này có tầm quan trọng quan trọng, không chỉ cho các công ty hoạt động một cách đạo đức, mà còn để duy trì một mức độ nhân phẩm và văn minh. Theo quan điểm của tôi, các nền tảng nên hợp nhất và phát triển các tiêu chuẩn nhất định để duy trì nhân phẩm này. Ví dụ, không ai nên được khuyến khích tự tử, nhưng trong một số tình huống, chúng tôi tìm thấy loại lạm dụng này trên các nền tảng, và tôi tin rằng đó là điều mà các công ty nên hợp nhất để bảo vệ.
Cuối cùng, khi nói đến các vấn đề về nhân loại, không nên có sự cạnh tranh. Không nên có sự cạnh tranh về ai là cộng đồng sạch nhất hoặc an toàn nhất – chúng tôi nên tất cả nhằm đảm bảo rằng người dùng của chúng tôi cảm thấy an toàn và được hiểu. Hãy cạnh tranh về các tính năng, không phải về bóc lột.

Các công ty kỹ thuật số có thể hợp tác với nhau như thế nào?

Các công ty nên hợp nhất khi có các giá trị được chia sẻ và khả năng hợp tác. Luôn có những không gian mà có sự giao thoa giữa các công ty và ngành công nghiệp, đặc biệt là khi nói đến việc chống lại lạm dụng, đảm bảo sự văn minh trên các nền tảng, hoặc giảm phân cực. Đây là những khoảnh khắc khi các công ty nên hợp tác với nhau.
Có một góc độ thương mại với sự cạnh tranh, và thông thường sự cạnh tranh là tốt. Nó giúp đảm bảo sức mạnh và sự khác biệt giữa các công ty và cung cấp các giải pháp với một mức độ hiệu quả mà các tập đoàn không thể đảm bảo.
Nhưng, khi nói đến việc bảo vệ người dùng, hoặc thúc đẩy sự văn minh, hoặc giảm các vector lạm dụng, đây là những chủ đề mà các công ty nên hợp tác với nhau. Đây là những điều mà chúng tôi cần làm để đảm bảo rằng chúng tôi bảo vệ những gì là thiêng liêng đối với chúng tôi, và những giá trị làm cho chúng tôi trở thành một thế giới tự do. Theo quan điểm của tôi, tất cả các nền tảng có trách nhiệm hợp tác trong việc bảo vệ các giá trị của con người và các giá trị làm cho chúng tôi trở thành một thế giới tự do.

Quan điểm hiện tại của bạn về AI có trách nhiệm là gì?

Chúng tôi đang ở giai đoạn đầu của một điều gì đó rất phổ biến trong cuộc sống của chúng tôi. Giai đoạn AI tạo sinh tiếp theo này là một vấn đề mà chúng tôi không hiểu đầy đủ, hoặc chỉ có thể hiểu một phần tại thời điểm này.
Khi nói đến AI có trách nhiệm, điều quan trọng là chúng tôi phải phát triển các rào cản mạnh mẽ, hoặc chúng tôi có thể kết thúc với một con quái vật Frankenstein của công nghệ AI tạo sinh. Chúng tôi cần dành thời gian để suy nghĩ về mọi thứ có thể sai. Cho dù đó là sự thiên vị len vào các thuật toán, hoặc các mô hình ngôn ngữ lớn bản thân được sử dụng bởi những người sai để làm những việc độc ác.
Công nghệ bản thân không tốt hay xấu, nhưng nó có thể được sử dụng bởi những người xấu để làm những việc xấu. Đây là lý do tại sao đầu tư thời gian và tài nguyên vào các nhà đạo đức AI để thực hiện các thử nghiệm đối thủ để hiểu các khiếm khuyết trong thiết kế là rất quan trọng. Điều này sẽ giúp chúng tôi hiểu cách ngăn chặn lạm dụng, và tôi nghĩ rằng đó là khía cạnh quan trọng nhất của AI có trách nhiệm.
Bởi vì AI vẫn chưa thể suy nghĩ cho chính mình, chúng tôi cần những người thông minh có thể xây dựng các mặc định khi AI được lập trình. Khía cạnh quan trọng cần xem xét ngay bây giờ là thời gian – chúng tôi cần những hành động tích cực làm những việc này NGAY BÂY GIỜ trước khi quá muộn.
Không giống như các hệ thống khác mà chúng tôi đã thiết kế và xây dựng trong quá khứ, AI khác vì nó có thể lặp lại và học hỏi theo cách của riêng nó, vì vậy nếu bạn không thiết lập các rào cản mạnh mẽ về những gì và cách nó học hỏi, chúng tôi không thể kiểm soát được nó có thể trở thành gì.
Hiện tại, chúng tôi đang thấy một số công ty lớn sa thải các hội đồng đạo đức và các đội AI có trách nhiệm như một phần của các đợt sa thải lớn. Điều còn phải xem là những công ty công nghệ lớn này đang coi trọng công nghệ và xem xét các kết quả tiêu cực của AI trong việc ra quyết định của họ như thế nào.

Có điều gì khác mà bạn muốn chia sẻ về công việc của mình với SmartNews?

Tôi đã gia nhập SmartNews vì tôi tin vào sứ mệnh của nó, sứ mệnh có một sự thuần khiết nhất định. Tôi tin mạnh mẽ rằng thế giới đang trở nên phân cực hơn, và không có đủ năng lực đọc hiểu truyền thông ngày nay để giúp chống lại xu hướng đó.
Thật không may, có quá nhiều người lấy các tin nhắn WhatsApp làm phúc âm và tin vào chúng với giá trị mặt bằng. Điều đó có thể dẫn đến những hậu quả khủng khiếp, bao gồm – và đặc biệt – bạo lực. Tất cả đều phụ thuộc vào việc mọi người không hiểu những gì họ có thể và không thể tin vào.
Nếu chúng tôi không giáo dục mọi người, hoặc thông báo cho họ về cách đưa ra quyết định về tính tin cậy của những gì họ đang tiêu thụ. Nếu chúng tôi không giới thiệu các cấp độ đọc hiểu truyền thông để phân biệt giữa tin tức và tin giả, chúng tôi sẽ tiếp tục vận động cho vấn đề và tăng các vấn đề mà lịch sử đã dạy chúng tôi không nên làm.
Một trong những thành phần quan trọng nhất của công việc của tôi tại SmartNews là giúp giảm phân cực trên thế giới. Tôi muốn thực hiện sứ mệnh của người sáng lập để cải thiện năng lực đọc hiểu truyền thông nơi họ có thể hiểu những gì họ đang tiêu thụ và đưa ra ý kiến ​​được thông tin về thế giới và nhiều quan điểm đa dạng.
Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm hoặc muốn thử một loại ứng dụng tin tức khác nên truy cập SmartNews.