Michael Schrage, Tác giả của Recommendation Engines (The MIT Press) – Loạt Phỏng vấn

Michael Schrage là một Nghiên cứu viên tại Trường Quản lý MIT Sloan của Sáng kiến về Nền kinh tế Kỹ thuật số. Là một chuyên gia được săn đón về đổi mới, chỉ số và hiệu ứng mạng, ông là tác giả của Người mà Bạn Muốn Khách hàng của Bạn Trở thành?, Giả thuyết của Nhà Đổi mới: Làm thế nào các Thí nghiệm Rẻ có Giá trị hơn những Ý tưởng Tốt (MIT Press), và các cuốn sách khác.

Trong cuộc phỏng vấn này, chúng tôi thảo luận về cuốn sách của ông “Recommendation Engines” khám phá lịch sử, công nghệ, kinh doanh và tác động xã hội của các động cơ khuyến nghị trực tuyến.

Điều gì đã truyền cảm hứng cho bạn viết một cuốn sách về một chủ đề hẹp như “Recommendation Engines”?

Khung của câu hỏi cho thấy trò chơi đã được tiết lộ….. Khi tôi xem xét nghiêm túc các công nghệ kỹ thuật số và điểm chạm thực sự ảnh hưởng đến cuộc sống của mọi người trên toàn thế giới, tôi gần như luôn tìm thấy một ‘động cơ khuyến nghị’ thúc đẩy quyết định. Spotify’s recommenders xác định âm nhạc và bài hát mọi người nghe; TikTok’s recommendation engines định nghĩa ‘video lan truyền’ mọi người tạo và chia sẻ; Netflix’s recommenders đã được thiết kế để tạo điều kiện cho ‘xem liên tục’ và ‘người xem liên tục;’ Google Maps và Waze khuyến nghị cách tốt nhất và / hoặc nhanh nhất và / hoặc đơn giản nhất để đến đó; Tinder và Match.com khuyến nghị những người bạn có thể thích được với hoặc, bạn biết, ‘được’ với; Stitch Fix khuyến nghị những gì bạn có thể muốn mặc làm cho bạn ‘bạn;’ Amazon sẽ khuyến nghị những gì bạn thực sự nên mua; Academia và ResearchGate sẽ khuyến nghị nghiên cứu phù hợp nhất bạn nên cập nhật…. Tôi có thể tiếp tục – và làm, trong cuốn sách – nhưng cả về mặt kỹ thuật và khái niệm, ‘Recommendation Engines’ là ngược lại với ‘hẹp.’ Điểm và mục đích của chúng bao phủ toàn bộ phạm vi mong muốn và quyết định của con người.

Một câu trích dẫn trong cuốn sách của bạn như sau: “Recommenders không chỉ về những gì chúng ta có thể mua, mà về những người chúng ta có thể muốn trở thành”. Làm thế nào điều này có thể bị lạm dụng bởi các doanh nghiệp hoặc những kẻ xấu?

Không có câu hỏi hoặc nghi ngờ rằng khuyến nghị có thể bị lạm dụng. Câu hỏi ‘cổ điển’ – Cui bono? – ‘Ai được lợi?’ – áp dụng. Liệu các khuyến nghị thực sự nhằm mục đích mang lại lợi ích cho người nhận hay cho thực thể / doanh nghiệp đưa ra khuyến nghị? Giống như nó dễ dàng cho một đồng nghiệp, người quen hoặc ‘bạn bè’ biết bạn để đưa ra lời khuyên thực sự không nằm trong lợi ích tốt nhất của bạn, nó là một cái búng kỹ thuật số cho ‘khuyến nghị dựa trên dữ liệu’ để đề xuất bạn mua một thứ gì đó tăng ‘lợi nhuận’ của họ tại chi phí của ‘tiện ích’ hoặc ‘sự hài lòng’ của bạn. Ở một mức độ, tôi rất lo lắng về khả năng – và thực tế – lạm dụng. Ở mức độ khác, tôi nghĩ rằng hầu hết mọi người bắt kịp khá nhanh khi họ bị bóc lột hoặc thao túng bởi con người hoặc công nghệ. Đùa tôi một lần, xấu hổ cho bạn; đùa tôi hai hoặc ba lần, xấu hổ cho tôi. Khuyến nghị là một trong những lĩnh vực đặc biệt nơi thông minh để được đạo đức và đạo đức để thông minh.

Liệu các phòng vọng (echo chambers) nơi người dùng chỉ được cung cấp những gì họ muốn xem bất kể độ chính xác có phải là một vấn đề xã hội?

Eli Pariser đã tạo ra cụm từ ‘bong bóng lọc’ (filter bubble) để mô tả hiện tượng và bệnh lý này. Tôi phần lớn đồng ý với quan điểm của ông. Thật ra, tôi nghĩ rằng bây giờ có thể nói rằng ‘sự thiên vị xác nhận’ – không phải là tình dục – là những gì thực sự thúc đẩy hầu hết hành vi của con người. Hầu hết mọi người đang tìm kiếm sự đồng ý hầu hết thời gian. Recommenders phải điều hướng một khóa học cẩn thận giữa tính mới, đa dạng, liên quan và may mắn vì – trong khi quá nhiều xác nhận là nhàm chán và dư thừa – quá nhiều tính mới và thách thức có thể làm phiền và xúc phạm. Vì vậy, có, cuộc tìm kiếm xác nhận là cả một vấn đề cá nhân và xã hội. Tuy nhiên, recommenders cung cấp một cách tương đối không khó chịu để đưa ra các quan điểm và lựa chọn thay thế đến sự chú ý của mọi người., Tuy nhiên, tôi thực sự tự hỏi liệu quy định và xem xét pháp lý sẽ ngày càng định hình tương lai của khuyến nghị.

Hiện tại, các phòng vọng (filter bubbles) đang hạn chế việc tiếp xúc với các quan điểm mâu thuẫn, trái ngược và thách thức. Liệu có nên có một số loại quy định để ngăn chặn loại lọc quá mức này?

Tôi thích sự giám sát quy định nhẹ nhàng hơn là nặng tay. Hầu hết các nền tảng tôi thấy làm việc khá kém trong việc gắn nhãn ‘tin tức giả’ hoặc thiết lập kiểm soát chất lượng. Tôi muốn xem nhiều cơ chế sáng tạo hơn được khám phá: vuốt sang trái cho một quan điểm trái ngược; nhúng liên kết làm rõ các câu chuyện hoặc video theo cách sâu sắc hóa sự hiểu biết hoặc làm mất ngữ cảnh ‘sự thiên vị’ được xác nhận. Nhưng hãy rõ ràng: các kiến trúc lựa chọn tạo ra ‘sự khó chịu’ hoặc ‘tạo ra ma sát’ đòi hỏi phải có dữ liệu và thiết kế khác biệt so với những gì ‘cấm’ hoặc ‘kiểm duyệt’ hoặc ‘ngăn chặn.’ Tôi nghĩ đây là một vấn đề rất khó đối với cả con người và máy. Điều làm cho nó đặc biệt khó khăn là con người – trên thực tế – ít có thể dự đoán hơn so với nhiều nhà tâm lý học và nhà khoa học xã hội tin tưởng. Có rất nhiều ‘lý thuyết về tâm trí’ và ‘cơ quan’ cạnh tranh những ngày này. Khi các khuyến nghị và recommenders trở nên cá nhân hóa hơn, các phương pháp ‘một kích cỡ phù hợp với tất cả’ trở nên khó khăn và lỗi thời hơn. Đó là một trong những lý do tại sao lĩnh vực này thu hút tôi.

Liệu người dùng cuối và xã hội có nên yêu cầu khả năng giải thích tại sao các khuyến nghị cụ thể được thực hiện?

Có, có và có. Không chỉ ‘giải thích’ mà ‘tính hiển thị’, ‘tính minh bạch’ và ‘tính giải thích’ cũng vậy. Mọi người nên có quyền xem và hiểu các công nghệ được sử dụng để ảnh hưởng đến họ. Họ nên có thể đánh giá cao các thuật toán được sử dụng để thúc đẩy và thuyết phục họ. Hãy nghĩ về điều này như là đối tác thuật toán của ‘sự đồng ý thông tin’ trong y học. Bệnh nhân có quyền nhận – và bác sĩ có nghĩa vụ cung cấp – lý do và lý lẽ cho việc chọn ‘khóa học này’ thay cho ‘khóa học kia’. Thật ra, tôi lập luận rằng ‘sự đồng ý thông tin’ – và tương lai của nó – trong y học và chăm sóc sức khỏe cung cấp một khuôn mẫu tốt cho tương lai của ‘sự đồng ý thông tin’ cho các động cơ khuyến nghị.

Liệu bạn có tin rằng có thể “hack” não bộ con người bằng cách sử dụng Recommendation Engines?

Não bộ hay tâm trí? Không đùa. Chúng ta có đang hack vật lý – điện và hóa học – các nơ-ron và thùy não? Hay chúng ta đang sử dụng các kích thích cảm giác ít xâm lấn hơn để kích thích các hành vi có thể dự đoán? Thẳng thắn, tôi tin rằng một số não bộ – và một số tâm trí – có thể bị hack một số thời điểm. Nhưng tôi có tin rằng mọi người sẽ trở thành ‘búp bê thịt’ nhảy theo nhịp của khuyến nghị? Tôi không. Hãy nhìn, một số người trở thành người nghiện. Một số người mất tự chủ và kiểm soát bản thân. Và, có, một số người muốn khai thác người khác. Nhưng bằng chứng không làm tôi lo lắng về ‘việc vũ khí hóa khuyến nghị.’ Tôi lo lắng hơn về việc lạm dụng niềm tin.

Một trích dẫn trong một bài nghiên cứu của Jason L. Harman và Jason L. Harman nêu như sau: “Sự tin cậy mà con người đặt vào các khuyến nghị là chìa khóa cho sự thành công của các hệ thống khuyến nghị”. Liệu bạn có tin rằng các phương tiện truyền thông xã hội đã phản bội sự tin cậy này?

Tôi tin vào trích dẫn đó. Tôi tin rằng sự tin cậy là, thực sự, chìa khóa. Tôi tin rằng những người thông minh và đạo đức thực sự hiểu và đánh giá cao tầm quan trọng của sự tin cậy. Với lời xin lỗi về nhận xét của Churchill về lòng can đảm, sự tin cậy là đức tính cho phép kết nối và phát triển lành mạnh của con người. Đó nói, tôi thoải mái khi lập luận rằng hầu hết các nền tảng truyền thông xã hội – có, Twitter và Facebook, tôi đang nhìn vào bạn! – không được xây dựng xung quanh hoặc dựa trên sự tin cậy. Chúng được xây dựng để tạo điều kiện và mở rộng việc thể hiện bản thân. Khả năng thể hiện bản thân ở quy mô đã không liên quan gì đến việc tạo ra hoặc xây dựng sự tin cậy. Không có gì để phản bội. Với khuyến nghị, có.

Bạn tuyên bố niềm tin của bạn rằng tương lai của Recommendation Engines sẽ bao gồm các khuyến nghị tốt nhất để nâng cao tâm trí. Theo quan điểm của bạn, liệu có bất kỳ Recommendation Engines nào hiện đang làm việc trên một hệ thống như vậy?

Chưa. Tôi xem đó là thị trường trị giá một nghìn tỷ đô la tiếp theo. Tôi nghĩ Amazon và Google và Alibaba và Tencent muốn đến đó. Nhưng, ai biết, có thể có một nhà đổi mới doanh nghiệp nào đó sẽ làm chúng tôi ngạc nhiên: có thể Spotify kết hợp với sự tỉnh táo và lời khuyên ‘đúng lúc’ có thể là bước đột phá nâng cao tâm trí.

Làm thế nào bạn sẽ tóm tắt cách Recommendation Engines cho phép người dùng hiểu rõ hơn về bản thân?

Khuyến nghị là về những lựa chọn tốt…. đôi khi, thậm chí là những lựa chọn tuyệt vời. Những lựa chọn nào bạn chấp nhận? Những lựa chọn nào bạn bỏ qua? Những lựa chọn nào bạn từ chối? Việc có can đảm hỏi – và trả lời – những câu hỏi đó mang lại cho bạn sự hiểu biết đáng kể về ai bạn là và ai bạn có thể muốn trở thành. Chúng ta là những lựa chọn chúng ta làm; bất cứ điều gì ảnh hưởng đến những lựa chọn đó có tác động đáng kể và ảnh hưởng đến chúng ta.

Có gì khác mà bạn muốn chia sẻ về cuốn sách của mình?

Có – trong phân tích đầu tiên và cuối cùng, cuốn sách của tôi là về tương lai của lời khuyên và tương lai của người bạn ‘thực sự’ muốn trở thành. Đó là về tương lai của bản thân – ‘bản thân’ của bạn. Tôi nghĩ rằng đó là một chủ đề thú vị và quan trọng, bạn không nghĩ vậy?

Cảm ơn bạn đã dành thời gian để chia sẻ quan điểm của mình.

Đối với người đọc của chúng tôi, tôi khuyên bạn nên đọc cuốn sách này, hiện đang có sẵn trên Amazon ở định dạng Kindle hoặc sách giấy. Bạn cũng có thể xem thêm các tùy chọn đặt hàng trên trang MIT Press.