Alex Fink, Giám đốc điều hành công nghệ, Người sáng lập & CEO của Otherweb – Loạt phỏng vấn

Alex Fink là một Giám đốc điều hành công nghệ và Người sáng lập & CEO của Otherweb, một Công ty Lợi ích Công cộng sử dụng Trí tuệ nhân tạo để giúp mọi người đọc tin tức và bình luận, nghe podcast và tìm kiếm trên web mà không có tường lửa, clickbait, quảng cáo, video tự động phát hoặc bất kỳ nội dung “rác” nào khác. Otherweb có sẵn dưới dạng ứng dụng (iOS và Android), trang web, bản tin hoặc tiện ích mở rộng trình duyệt độc lập. Trước khi thành lập Otherweb, Alex là Người sáng lập và CEO của Panopteo và Đồng sáng lập và Chủ tịch của Swarmer.

Bạn có thể cung cấp cái nhìn tổng quan về Otherweb và sứ mệnh tạo ra không gian tin tức miễn phí?

Otherweb là một công ty lợi ích công cộng, được tạo ra để giúp cải thiện chất lượng thông tin mà mọi người tiêu thụ.

Sản phẩm chính của chúng tôi là một ứng dụng tin tức sử dụng Trí tuệ nhân tạo để lọc ra nội dung không cần thiết và cho phép người dùng tùy chỉnh không giới hạn – kiểm soát mọi ngưỡng chất lượng và cơ chế sắp xếp mà ứng dụng sử dụng.

Nghĩa là, trong khi phần còn lại của thế giới tạo ra các thuật toán hộp đen để tối đa hóa sự tương tác của người dùng, chúng tôi muốn mang lại cho người dùng càng nhiều giá trị càng tốt trong thời gian ngắn nhất có thể, và chúng tôi làm cho mọi thứ có thể tùy chỉnh. Chúng tôi thậm chí còn làm cho các mô hình và tập dữ liệu Trí tuệ nhân tạo của chúng tôi trở nên nguồn mở để mọi người có thể thấy chính xác những gì chúng tôi đang làm và cách chúng tôi đánh giá nội dung.

Điều gì đã truyền cảm hứng cho bạn tập trung vào việc chống lại thông tin sai lệch và tin giả bằng Trí tuệ nhân tạo?

Tôi sinh ra ở Liên Xô và thấy điều gì xảy ra với một xã hội khi mọi người tiêu thụ tuyên truyền, và không ai biết điều gì đang xảy ra trên thế giới. Tôi có những ký ức sống động về việc cha mẹ tôi thức dậy vào lúc 4 giờ sáng, khóa mình trong tủ quần áo và bật radio để nghe Voice of America. Đó là bất hợp pháp, vì vậy họ làm điều đó vào ban đêm và đảm bảo rằng hàng xóm không thể nghe thấy – nhưng nó mang lại cho chúng tôi quyền truy cập vào thông tin thực sự.

Tôi thực sự nhớ lại việc nhìn thấy ảnh xe tăng trên đường phố tôi lớn lên và nghĩ “đây là giá trị của thông tin thực sự”.

Tôi muốn nhiều người hơn có thể tiếp cận thông tin chất lượng cao và thực sự.

Threat của deepfake, đặc biệt là trong bối cảnh ảnh hưởng đến bầu cử, có ý nghĩa như thế nào? Bạn có thể chia sẻ ví dụ cụ thể về cách deepfake đã được sử dụng để lan truyền thông tin sai lệch và tác động của nó?

Về ngắn hạn, đó là một mối đe dọa rất nghiêm trọng.

Cử tri không nhận ra rằng video và âm thanh có thể không còn đáng tin cậy. Họ nghĩ video là bằng chứng rằng điều gì đó đã xảy ra, và 2 năm trước đây điều này vẫn đúng, nhưng bây giờ rõ ràng không còn đúng nữa.

Năm nay, ở Pakistan, cử tri của Imran Khan nhận được cuộc gọi từ Imran Khan himself, yêu cầu họ tẩy chay bầu cử. Đó là giả,当然, nhưng nhiều người tin vào nó.

Cử tri ở Ý nhìn thấy một trong những nữ chính trị gia của họ xuất hiện trong một video khiêu dâm. Đó là giả,当然, nhưng khi sự giả mạo được phát hiện – thiệt hại đã được thực hiện.

Thậm chí ở đây, tại Arizona, chúng tôi nhìn thấy một bản tin quảng cáo bản thân bằng cách hiển thị một video giới thiệu của Kari Lake. Cô không bao giờ giới thiệu nó,当然, nhưng bản tin vẫn nhận được hàng nghìn người đăng ký.

Vì vậy, vào tháng 11, tôi nghĩ rằng điều đó gần như không thể tránh khỏi khi chúng ta sẽ thấy ít nhất một vụ nổ súng giả. Và rất có thể nó sẽ rơi vào đúng trước bầu cử và được phát hiện là giả ngay sau bầu cử – khi thiệt hại đã được thực hiện.

Làm thế nào để các công cụ Trí tuệ nhân tạo hiện tại có hiệu quả trong việc xác định deepfake, và những cải tiến nào bạn dự đoán trong tương lai?

Trong quá khứ, cách tốt nhất để xác định hình ảnh giả là phóng to và tìm kiếm những sai sót đặc trưng (aka “tác phẩm”) mà người tạo hình ảnh thường mắc phải. Ánh sáng không chính xác, bóng thiếu, cạnh không đều trên một số đối tượng, nén quá mức xung quanh các đối tượng, v.v.

Vấn đề với việc chỉnh sửa dựa trên GAN (aka “deepfake”) là không có bất kỳ tác phẩm nào trong số này hiện diện. Cách quá trình này hoạt động là một mô hình Trí tuệ nhân tạo chỉnh sửa hình ảnh, và một mô hình Trí tuệ nhân tạo khác tìm kiếm tác phẩm và chỉ ra chúng – và chu kỳ này được lặp lại nhiều lần cho đến khi không còn tác phẩm nào.

Kết quả là, về cơ bản không có cách nào để xác định một deepfake video được làm tốt bằng cách nhìn vào nội dung chính nó.

Chúng ta phải thay đổi tâm trạng của mình, và bắt đầu giả định rằng nội dung chỉ thực sự nếu chúng ta có thể theo dõi chuỗi lưu giữ của nó trở lại nguồn gốc. Hãy nghĩ về nó như dấu vân tay. Nhìn thấy dấu vân tay trên vũ khí giết người không đủ. Bạn cần biết ai đã tìm thấy vũ khí, ai đã mang nó trở lại phòng lưu trữ, v.v – bạn cần có thể theo dõi mọi lần nó thay đổi tay và đảm bảo nó không bị can thiệp.

Các biện pháp nào mà chính phủ và công ty công nghệ có thể thực hiện để ngăn chặn sự lan truyền của thông tin sai lệch trong thời gian quan trọng như bầu cử?

Biện pháp tốt nhất để chống lại thông tin sai lệch là thời gian. Nếu bạn nhìn thấy điều gì đó thay đổi mọi thứ, đừng vội đăng tải – hãy dành một hoặc hai ngày để xác minh rằng nó thực sự đúng.

Thật không may, cách tiếp cận này va chạm với mô hình kinh doanh của truyền thông, mà thưởng cho các cú nhấp chuột ngay cả khi nội dung cuối cùng được chứng minh là sai.

Otherweb sử dụng Trí tuệ nhân tạo như thế nào để đảm bảo tính xác thực và chính xác của tin tức mà nó tổng hợp?

Chúng tôi đã tìm thấy sự tương quan mạnh mẽ giữa độ chính xác và hình thức. Những người muốn nói sự thật có xu hướng sử dụng một số ngôn ngữ nhất định nhấn mạnh sự kiềm chế và khiêm tốn, trong khi những người không coi trọng sự thật cố gắng thu hút sự chú ý.

Otherweb tập trung lớn nhất không phải là kiểm tra事实. Đó là kiểm tra hình thức. Chúng tôi chọn các bài viết tránh ngôn ngữ thu hút sự chú ý, cung cấp tài liệu tham khảo bên ngoài cho mọi tuyên bố, tuyên bố mọi thứ như chúng là, và không sử dụng kỹ thuật thuyết phục.

Phương pháp này không hoàn hảo,当然, và về lý thuyết, một tác nhân xấu có thể viết một lời nói dối trong phong cách chính xác mà các mô hình của chúng tôi thưởng. Nhưng trên thực tế, điều này đơn giản là không xảy ra. Những người muốn nói dối cũng muốn thu hút sự chú ý – điều này là thứ chúng tôi đã dạy cho các mô hình của mình để phát hiện và lọc ra.

Otherweb có thể giúp khôi phục niềm tin của người dùng vào nội dung kỹ thuật số như thế nào, đặc biệt là khi việc phân biệt nội dung thực và giả ngày càng khó khăn?

Cách tốt nhất để giúp mọi người tiêu thụ nội dung tốt hơn là lấy mẫu từ tất cả các bên, chọn cái tốt nhất của mỗi bên và thực hiện rất nhiều kiềm chế. Hầu hết các phương tiện truyền thông đang vội vàng đăng tải thông tin không được xác minh những ngày này. Khả năng của chúng tôi trong việc tham chiếu chéo thông tin từ hàng trăm nguồn và tập trung vào các mục tốt nhất cho phép chúng tôi bảo vệ người dùng khỏi hầu hết các hình thức thông tin sai lệch.

Vai trò của siêu dữ liệu, như tiêu chuẩn C2PA, trong việc xác minh tính xác thực của hình ảnh và video là gì?

Đó là giải pháp khả thi duy nhất. C2PA có thể hoặc không phải là tiêu chuẩn đúng, nhưng rõ ràng rằng cách duy nhất để xác thực liệu video bạn đang xem phản ánh điều gì đó thực sự xảy ra trong thực tế là để đảm bảo rằng máy ảnh được sử dụng để chụp video chỉ đang chụp và không chỉnh sửa, và đảm bảo rằng không ai chỉnh sửa video sau khi nó rời khỏi máy ảnh. Cách tốt nhất để làm điều đó là tập trung vào siêu dữ liệu.

Các phát triển tương lai nào bạn dự đoán trong cuộc chiến chống lại thông tin sai lệch và deepfake?

Tôi nghĩ rằng, trong vòng 2-3 năm, mọi người sẽ thích nghi với thực tế mới và thay đổi tâm trạng của mình. Trước thế kỷ 19, hình thức chứng minh tốt nhất là lời chứng của nhân chứng. Deepfake có thể khiến chúng ta quay trở lại những tiêu chuẩn đã được thử nghiệm và đúng.

Về thông tin sai lệch rộng rãi hơn, tôi tin rằng cần phải có một cái nhìn tinh tế hơn và tách thông tin sai lệch (tức là thông tin sai được tạo ra một cách cố ý để đánh lừa) khỏi “rác” (tức là thông tin được tạo ra để được tiền hóa, bất kể tính đúng đắn của nó).

Biện pháp chống lại “rác” là một cơ chế lọc làm cho “rác” ít có khả năng lan truyền. Nó sẽ thay đổi cấu trúc khuyến khích khiến “rác” lan như lửa. Thông tin sai lệch vẫn sẽ tồn tại, cũng như nó đã luôn tồn tại. Chúng tôi đã có thể đối phó với nó trong suốt thế kỷ 20, và chúng tôi sẽ có thể đối phó với nó trong thế kỷ 21.

Nó là lũ lụt của “rác” mà chúng ta phải lo lắng, vì đó là phần chúng ta không được trang bị để xử lý ngay bây giờ. Đó là vấn đề chính mà nhân loại cần giải quyết.

Khi chúng ta thay đổi các khuyến khích, tỷ lệ tín hiệu trên nhiễu của internet sẽ cải thiện cho mọi người.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm có thể truy cập trang web Otherweb, hoặc theo dõi họ trên X hoặc LinkedIn.