Michael Schrage, Tác giả của Recommendation Engines (The MIT Press) – Loạt Phỏng vấn

Michael Schrage là một Nghiên cứu viên tại Sáng kiến về Nền kinh tế Kỹ thuật số của Trường Quản lý MIT Sloan. Là một chuyên gia được săn đón về đổi mới, đo lường và hiệu ứng mạng, ông là tác giả của Người mà bạn muốn khách hàng của mình trở thành?, Giả thuyết của Nhà đổi mới: Làm thế nào các thí nghiệm rẻ tiền lại có giá trị hơn những ý tưởng tốt (MIT Press), và các cuốn sách khác.

Trong cuộc phỏng vấn này, chúng tôi thảo luận về cuốn sách của ông “Recommendation Engines” khám phá lịch sử, công nghệ, kinh doanh và tác động xã hội của các động cơ đề xuất trực tuyến.

Điều gì đã truyền cảm hứng cho bạn viết một cuốn sách về một chủ đề hẹp như “Recommendation Engines”?

Khung của câu hỏi của bạn đã tiết lộ… Khi tôi xem xét nghiêm túc các công nghệ và điểm chạm kỹ thuật số thực sự ảnh hưởng đến cuộc sống của mọi người trên toàn thế giới, tôi gần như luôn tìm thấy một ‘động cơ đề xuất’ thúc đẩy quyết định. Đề xuất của Spotify xác định âm nhạc và bài hát mà mọi người nghe; động cơ đề xuất của TikTok định nghĩa ‘video viral’ mà mọi người tạo và chia sẻ; đề xuất của Netflix (NFLX ) được thiết kế để tạo điều kiện cho ‘xem liên tục’ và ‘người xem liên tục’; Google Maps và Waze đề xuất cách tốt nhất và / hoặc nhanh nhất và / hoặc đơn giản nhất để đến đó; Tinder và Match.com đề xuất những người bạn có thể thích được với hoặc, bạn biết, ‘được’ với; Stitch Fix (SFIX ) đề xuất những gì bạn có thể muốn mặc để làm cho bạn ‘bạn’; Amazon (AMZN ) sẽ đề xuất những gì bạn thực sự nên mua; Academia và ResearchGate sẽ đề xuất nghiên cứu phù hợp nhất mà bạn nên cập nhật…. Tôi có thể tiếp tục – và làm như vậy trong cuốn sách – nhưng cả về mặt kỹ thuật và khái niệm, ‘Động cơ đề xuất’ là ngược lại của ‘hẹp.’ Điểm và mục đích của chúng bao gồm toàn bộ phạm vi mong muốn và quyết định của con người.

Một câu trích dẫn trong cuốn sách của bạn như sau: “Đề xuất không chỉ là về những gì chúng ta có thể mua, mà còn về những người chúng ta có thể muốn trở thành”. Làm thế nào điều này có thể bị lạm dụng bởi các doanh nghiệp hoặc những người có hành vi xấu?

Không có câu hỏi hay nghi ngờ nào rằng đề xuất có thể bị lạm dụng. Câu hỏi ‘cổ điển’ – Cui bono? – ‘Ai được lợi?’ – áp dụng. Liệu các đề xuất thực sự nhằm mang lại lợi ích cho người nhận hay cho thực thể / doanh nghiệp đưa ra đề xuất? Giống như việc dễ dàng cho một đồng nghiệp, người quen hoặc ‘bạn bè’ biết bạn đưa ra lời khuyên mà thực sự không nằm trong lợi ích tốt nhất của bạn, nó là một ‘snap’ kỹ thuật số cho ‘đề xuất dựa trên dữ liệu’ để gợi ý bạn mua một thứ gì đó tăng ‘lợi nhuận’ của họ tại chi phí của ‘tiện ích’ hoặc ‘sự hài lòng’ của bạn. Ở một mức độ, tôi rất lo lắng về khả năng – và thực tế – lạm dụng. Ở mức độ khác, tôi nghĩ rằng hầu hết mọi người đều nhận ra khá nhanh khi họ bị lợi dụng hoặc thao túng bởi con người hoặc công nghệ. Đùa tôi một lần, xấu hổ cho bạn; đùa tôi hai hoặc ba lần, xấu hổ cho tôi. Đề xuất là một trong những lĩnh vực đặc biệt nơi nó thông minh khi phải đạo đức và đạo đức khi thông minh.

Liệu các phòng gương nơi người dùng chỉ được cho xem những gì họ muốn xem, bất kể độ chính xác, có phải là một vấn đề xã hội?

Eli Pariser đã tạo ra cụm từ ‘bong bóng lọc’ để mô tả hiện tượng và bệnh lý này. Tôi phần lớn đồng ý với quan điểm của ông. Thật ra, tôi nghĩ rằng bây giờ có thể nói rằng ‘sự thiên vị xác nhận’ – không phải là tình dục – là điều thực sự thúc đẩy hầu hết hành vi của con người trưởng thành. Hầu hết mọi người đều tìm kiếm sự đồng ý hầu hết thời gian. Đề xuất phải điều hướng một khóa học cẩn thận giữa tính mới, đa dạng, liên quan và may mắn vì – trong khi quá nhiều xác nhận là nhàm chán và thừa – quá nhiều tính mới và thách thức có thể gây khó chịu và xúc phạm. Vì vậy, có, việc tìm kiếm sự xác nhận là cả vấn đề cá nhân và xã hội. Tuy nhiên, tôi thực sự tự hỏi liệu quy định và xem xét pháp lý sẽ ngày càng định hình tương lai của đề xuất.

Liệu có nên có một số loại quy định nào đó để ngăn chặn loại lọc quá mức này?

Tôi thích sự giám sát nhẹ nhàng hơn là sự giám sát nặng tay. Hầu hết các nền tảng tôi thấy làm rất tệ trong việc gắn nhãn ‘tin giả’ hoặc thiết lập kiểm soát chất lượng. Tôi muốn thấy nhiều cơ chế sáng tạo hơn được khám phá: vuốt sang trái cho một quan điểm trái ngược; nhúng các liên kết làm rõ câu chuyện hoặc video theo cách làm sâu sắc hơn sự hiểu biết hoặc làm mất ngữ cảnh ‘sự thiên vị’ được xác nhận. Nhưng hãy rõ ràng: các kiến trúc lựa chọn mà ‘khuyến khích’ hoặc tạo ‘ma sát’ đòi hỏi dữ liệu và thiết kế khác với những gì ‘cấm’ hoặc ‘kiểm duyệt’ hoặc ‘ngăn chặn.’ Tôi nghĩ đây là một vấn đề rất khó cho cả con người và máy móc. Điều làm cho nó đặc biệt khó là con người – thực sự – ít có thể đoán trước hơn so với nhiều nhà tâm lý học và nhà khoa học xã hội tin tưởng. Có rất nhiều ‘lý thuyết về tâm trí’ và ‘cơ quan’ cạnh tranh ngày nay. Khi đề xuất và đề xuất trở nên cá nhân hóa hơn, các cách tiếp cận ‘một kích cỡ phù hợp với tất cả’ trở nên đầy thách thức và lỗi thời. Đây là một trong nhiều lý do tại sao lĩnh vực này thu hút tôi.

Liệu người dùng và xã hội có nên yêu cầu sự giải thích về lý do tại sao các đề xuất cụ thể được thực hiện?

Có, có và có. Không chỉ ‘giải thích’, mà còn ‘tính minh bạch’, ‘tính rõ ràng’ và ‘tính giải thích’. Người dùng nên có quyền xem và hiểu các công nghệ được sử dụng để ảnh hưởng đến họ. Họ nên có thể đánh giá các thuật toán được sử dụng để thúc đẩy và thuyết phục họ. Hãy nghĩ về điều này như một đối tác thuật toán của ‘sự đồng ý thông tin’ trong y học. Bệnh nhân có quyền nhận – và bác sĩ có nghĩa vụ cung cấp – lý do và lý do tại sao chọn ‘khóa học hành động’ này so với khóa học khác. Thật ra, tôi lập luận rằng ‘sự đồng ý thông tin’ – và tương lai của nó – trong y học và chăm sóc sức khỏe cung cấp một khuôn khổ tốt cho tương lai của ‘sự đồng ý thông tin’ đối với động cơ đề xuất.

Liệu bạn có tin rằng có thể “hacking” não bộ con người bằng cách sử dụng động cơ đề xuất?

Não bộ hay tâm trí? Không đùa. Chúng ta có đang hack các nơ-ron và thùy một cách vật lý – điện và hóa học – không? Hay chúng ta đang sử dụng các kích thích cảm官 ít xâm lấn hơn để kích thích các hành vi có thể dự đoán? Thẳng thắn, tôi tin rằng một số não bộ – và một số tâm trí – có thể bị hack một số thời gian. Nhưng tôi có tin rằng con người sẽ trở thành ‘bùn’ khi nhảy múa theo giai điệu của đề xuất? Tôi không. Hãy nhìn, một số người trở thành người nghiện. Một số người mất tự chủ và kiểm soát bản thân. Và, có, một số người muốn khai thác người khác. Nhưng bằng chứng cho thấy tôi không lo lắng về ‘vũ khí hóa đề xuất.’ Tôi lo lắng hơn về việc lạm dụng niềm tin.

Một trích dẫn trong một bài nghiên cứu của Jason L. Harman và Jason L. Harman tuyên bố như sau: “Niềm tin mà con người đặt vào các đề xuất là chìa khóa cho sự thành công của hệ thống đề xuất”. Bạn có tin rằng truyền thông xã hội đã phản bội niềm tin đó?

Tôi tin vào câu trích dẫn đó. Tôi tin rằng niềm tin thực sự là chìa khóa. Tôi tin rằng những người thông minh và đạo đức thực sự hiểu và đánh giá cao tầm quan trọng của niềm tin. Với lời xin lỗi đến nhận xét của Churchill về sự can đảm, niềm tin là đức tính cho phép kết nối và phát triển lành mạnh của con người. Đó nói, tôi thoải mái khi lập luận rằng hầu hết các nền tảng truyền thông xã hội – vâng, Twitter và Facebook (META ), tôi đang nhìn vào bạn! – không được xây dựng xung quanh hoặc dựa trên niềm tin. Họ được xây dựng để tạo điều kiện và mở rộng tự biểu hiện. Khả năng thể hiện bản thân ở quy mô không liên quan gì đến việc tạo ra hoặc xây dựng niềm tin. Không có gì để phản bội. Với đề xuất, có.

Bạn tuyên bố rằng bạn tin rằng tương lai của động cơ đề xuất sẽ có những đề xuất tốt nhất để nâng cao tâm trí của con người. Theo bạn, liệu có động cơ đề xuất nào hiện đang làm việc trên một hệ thống như vậy?

Chưa. Tôi xem đó là thị trường trị giá một nghìn tỷ đô la tiếp theo. Tôi nghĩ Amazon và Google và Alibaba và Tencent muốn đến đó. Nhưng, ai biết, có thể có một nhà đổi mới doanh nghiệp nào đó sẽ làm chúng tôi ngạc nhiên: có thể Spotify kết hợp với sự tỉnh táo và ‘tư vấn’ kịp thời có thể là bước đột phá nâng cao tâm trí.

Làm thế nào bạn sẽ tóm tắt cách động cơ đề xuất cho phép người dùng hiểu rõ hơn về bản thân?

Đề xuất là về những lựa chọn tốt…. đôi khi, thậm chí là những lựa chọn tuyệt vời. Những lựa chọn bạn chấp nhận? Những lựa chọn bạn bỏ qua? Những lựa chọn bạn từ chối? Việc có can đảm để hỏi – và trả lời – những câu hỏi đó mang lại cho bạn sự hiểu biết đáng kể về ai bạn là và ai bạn có thể muốn trở thành. Chúng ta là những lựa chọn chúng ta làm; bất cứ điều gì ảnh hưởng đến những lựa chọn đó đều có tác động và ảnh hưởng đáng kể đến chúng ta.

Có điều gì khác mà bạn muốn chia sẻ về cuốn sách của mình?

Có – trong phân tích đầu tiên và cuối cùng, cuốn sách của tôi là về tương lai của lời khuyên và tương lai của những người bạn ‘thực sự’ muốn trở thành. Đó là về tương lai của bản thân – ‘bản thân’ của bạn. Tôi nghĩ đó là một chủ đề thú vị và quan trọng, bạn không nghĩ vậy?

Cảm ơn bạn đã dành thời gian để chia sẻ quan điểm của mình.

Đối với độc giả của chúng tôi, chúng tôi highly khuyên bạn nên đọc cuốn sách này, hiện có sẵn trên Amazon dưới dạng Kindle hoặc sách giấy. Bạn cũng có thể xem thêm tùy chọn đặt hàng trên trang MIT Press.