Nền tảng AI
Kỹ thuật Tác động: Cá nhân hoá, Thuyết phục và Đạo đức AI
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Kỹ thuật tác động là một thuật ngữ bao trùm hữu ích cho việc thiết kế các hệ thống kỹ thuật số có mục đích định hình ý thức, lựa chọn hoặc hành vi của người dùng. Đề xuất, cá nhân hoá, thí nghiệm, thiết kế giao diện thuyết phục và các tín hiệu liên quan đến cảm xúc đều có thể là các thành phần, nhưng thuật ngữ này không phải là một ngành kỹ thuật đã được thống nhất với một định nghĩa tiêu chuẩn duy nhất.
Câu hỏi trung tâm là liệu một hệ thống có hỗ trợ mục tiêu của người dùng hay điều khiển họ thông qua các cơ chế ẩn, lừa dối hoặc khai thác. Sức mạnh dự đoán càng cao thì nhu cầu về sự đồng ý, minh bạch, giới hạn suy luận nhạy cảm, đánh giá độc lập và đo lường phúc lợi người dùng càng tăng.
Những điểm chính
- Phân biệt hướng dẫn có lợi với thao túng bằng cách xem xét mục đích, phương pháp, công khai và kiểm soát của người dùng.
- Cảm xúc suy đoán là kết quả của mô hình xác suất, không phải truy cập trực tiếp vào trạng thái nội tâm của người.
- Tối ưu hoá cho kết quả người dùng và phúc lợi lâu dài, không chỉ dựa vào mức độ tương tác.
- Cung cấp lựa chọn có ý nghĩa, giảm thiểu dữ liệu, khả năng tranh cãi và giám sát để tránh tác động không đồng đều.
Cách hoạt động của tác động kỹ thuật số
Một hệ thống quan sát hành vi, xây dựng mô hình người dùng hoặc ngữ cảnh, chọn một can thiệp, đo lường phản hồi và cập nhật chính sách. Các can thiệp có thể bao gồm xếp hạng, thời gian, mặc định, dấu hiệu xã hội, cách diễn đạt, thông báo, giá cả hoặc phản hồi đối thoại.
Vòng phản hồi này giống với học tăng cường, nhưng phần thưởng mã hoá một phán đoán giá trị. Số lần nhấp và độ dài phiên làm việc dễ đo lường; lựa chọn có thông tin, niềm tin và lợi ích lâu dài khó đo hơn nhưng thường quan trọng hơn.
Nơi AI cảm xúc can thiệp
AI cảm xúc có thể ước tính các mẫu từ chuyển động khuôn mặt, giọng nói, ngôn ngữ, sinh lý hoặc tương tác. Những tín hiệu này phụ thuộc vào ngữ cảnh và có sự biến đổi văn hoá. Một mô hình có thể dự đoán một danh mục được gắn nhãn mà không xác định được người thực sự cảm thấy gì.
Sử dụng các dự đoán này để thay đổi thông điệp, giá cả hoặc cơ hội có thể tạo ra một vòng phản hồi nhạy cảm. Hiệu suất nên được đánh giá theo nhóm phụ và ngữ cảnh, và hệ thống không nên suy đoán nhiều hơn những gì dịch vụ thực sự cần.
Thuyết phục, hỗ trợ và thao túng
Một lời nhắc điều hướng giúp người dùng theo một kế hoạch đã chọn khác với một quảng cáo ngụy trang hoặc một rào cản khiến việc hủy bỏ trở nên khó khăn. Đánh giá xem mục đích có được công khai, các lựa chọn thay thế có còn sẵn có, và một người hợp lý có thể hiểu và đảo ngược quyết định hay không.
Những mẫu tối lợi dụng bất đối xứng về thông tin hoặc công sức. Các giao diện sinh tạo có thể mở rộng các chiến thuật này bằng cách liên tục điều chỉnh ngôn ngữ, vì vậy các biện pháp bảo vệ phải bao phủ cả mục tiêu và hệ thống thí nghiệm—not chỉ màn hình hiển thị.
Quản trị và đánh giá
Ghi lại lợi ích dự định, các nhóm bị ảnh hưởng, các chiến thuật bị cấm, nguồn dữ liệu, thời gian lưu trữ, mục tiêu tối ưu hoá và người chịu trách nhiệm xem xét. Các thử nghiệm trước khi triển khai nên bao gồm người dùng dễ bị tổn thương, các kịch bản đối kháng và các kết quả vượt ra ngoài chuyển đổi ngay lập tức.
Theo dõi khiếu nại, đảo ngược, hối tiếc, tần suất phơi bày, kết quả nhóm phụ và hành vi bất ngờ. Áp dụng các kiểm soát AI có trách nhiệm và đánh giá pháp lý khi các quy định về sinh trắc học, bảo vệ người tiêu dùng, việc làm, giáo dục hoặc y tế có thể áp dụng.
Hệ thống tối ưu hoá đằng sau tác động
Các hệ thống tác động thường là các pipeline hơn là một mô hình duy nhất. Một bộ tạo ứng cử viên chọn các thông điệp hoặc mục có thể, một mô hình xếp hạng chấm điểm chúng, một khuôn khổ thí nghiệm gán các biện pháp, và một dịch vụ phản hồi ghi lại hành vi. Việc giải quyết danh tính và hồ sơ người dùng kết nối các quan sát qua các phiên, điều này khiến quyền riêng tư và giới hạn mục đích trở thành các lựa chọn kiến trúc trung tâm.
Mục tiêu tối ưu hoá có thể là ngay lập tức, như một lần nhấp, hoặc trì hoãn, như một khóa học hoàn thành hoặc hành vi sức khỏe bền vững. Các chỉ số thay thế mời gọi “gaming”: một chính sách thông báo có thể tăng lượt mở bằng cách tạo lo lắng, và một hệ thống đề xuất có thể tăng thời gian xem đồng thời giảm sự hài lòng. Các nhóm nên xác định các chỉ số rào cản và kết quả dài hạn trước khi tối ưu hoá.
Phương pháp bandit và học tăng cường thêm khám phá, nhưng khám phá lại đưa người thật vào các can thiệp không chắc chắn. Hạn chế tập hành động, loại trừ ngữ cảnh nhạy cảm, giới hạn tần suất và sử dụng các chính sách thận trọng. Mô phỏng ngoại tuyến không thể dự đoán đầy đủ phản ứng xã hội, vì vậy các thí nghiệm giai đoạn và tiêu chí dừng vẫn cần thiết.
Đo lường, nhân quả và người dùng dễ bị tổn thương
Kiểm tra A/B ước tính hiệu ứng nhân quả trung bình dựa trên các giả định về phân công và đo lường. Chúng có thể bỏ sót những tổn hại tập trung vào các nhóm nhỏ, tương tác giữa các thí nghiệm đồng thời, hiệu ứng trì hoãn và những người rời sản phẩm. Báo cáo kết quả phân phối, không chỉ tăng chuyển đổi tiêu đề.
Cá nhân hoá làm phức tạp việc giải thích vì các người dùng khác nhau thấy các can thiệp khác nhau. Bảo tồn phiên bản chính sách, tiêu chuẩn đủ điều kiện, ngữ cảnh và lý do lựa chọn. Kiểm toán xem các đặc tính được bảo vệ hoặc nhạy cảm có được sử dụng trực tiếp, suy đoán gián tiếp, hay tương quan với các tính năng như vị trí, thiết bị, ngôn ngữ hoặc mẫu duyệt web.
Trẻ em, người trong tình trạng căng thẳng, người dùng có hạn chế tài chính và những người đang đối mặt với quyết định sức khỏe hoặc việc làm có thể đặc biệt dễ bị ảnh hưởng bởi áp lực được cá nhân hoá. Tránh tạo tính khẩn cấp, bằng chứng xã hội, phần thưởng biến đổi hoặc mục tiêu cảm xúc lợi dụng những điều kiện này. Đánh giá độc lập nên có thẩm quyền cấm một tối ưu hoá ngay cả khi nó tăng doanh thu.
Yêu cầu thiết kế cho tác động hợp pháp
Một hệ thống hợp pháp phải nêu rõ mục đích, hiển thị tài trợ, tách biệt đề xuất khỏi thực tế, và cho phép người dùng thay đổi hoặc tắt cá nhân hoá. Các mặc định nên phản ánh kỳ vọng hợp lý. Sự đồng ý phải đủ cụ thể để mô tả dữ liệu và cơ chế tác động thay vì giấu chúng trong các thuật ngữ rộng.
Cung cấp các công cụ kiểm soát phơi bày, thời gian yên lặng, đặt lại, kiểm tra hồ sơ và giải thích các yếu tố chính phía sau một đề xuất. Không sử dụng ma sát một cách bất đối xứng—một cú nhấp để đăng ký nhưng nhiều màn hình gây nhầm lẫn để rời bỏ. Người dùng nên có khả năng đảo ngược quyết định mà không bị phạt không liên quan đến dịch vụ.
Quản trị nên xem xét mục tiêu, nguồn tính năng, thiết kế thí nghiệm, chủ đề khiếu nại và kết quả hạ lưu. Duy trì một sổ đăng ký các hệ thống tác động và các thí nghiệm có rủi ro cao. Khi một mẫu gây hại xuất hiện, tắt chính sách, bảo tồn bằng chứng, thông báo cho người dùng bị ảnh hưởng khi phù hợp, và thay đổi động cơ đã tạo ra nó.
Đánh giá rủi ro tác động thực tiễn
Đánh giá một hệ thống tác động bằng cách lập bản đồ các yếu tố: tác nhân, mục tiêu, khán giả, dữ liệu, mô hình, thông điệp, kênh, vòng phản hồi và hậu quả. Phân biệt hỗ trợ với thuyết phục và thuyết phục với thao túng. Một lời nhắc được người dùng chọn khác với tối ưu hoá ẩn cho sự gắn kết cưỡng bức. Rủi ro tăng lên khi hệ thống nhắm vào các điểm yếu, giấu tài trợ, lợi dụng trạng thái cảm xúc, tạo ra tính khẩn cấp giả và làm cho việc tiếp cận các dịch vụ thiết yếu phụ thuộc vào phản ứng hành vi.
Trước khi triển khai, kiểm tra xem cá nhân hoá có thay đổi sự hiểu biết, tự chủ và kết quả giữa các nhóm không. Sử dụng các thí nghiệm kiểm soát có đánh giá thông tin, nhưng không chỉ tối ưu hoá các lần nhấp hoặc chuyển đổi. Đo lường hối tiếc, khiếu nại, từ chối, tổn hại hạ lưu và liệu người dùng có thể nhận diện lý do họ nhận được thông điệp. Cấm các suy đoán nhạy cảm không cần thiết, giới hạn các mục tiêu cho phép, và tách quyết định đủ điều kiện hoặc giá cả khỏi tối ưu hoá phản ứng cảm xúc.
Giao diện nên dán nhãn các tác nhân tổng hợp và truyền thông tài trợ, giải thích cá nhân hoá quan trọng và cung cấp các công cụ kiểm soát có ý nghĩa. Giữ một hồ sơ có thể kiểm toán được của các chiến dịch, quy tắc mục tiêu, phiên bản mô hình, biến thể sáng tạo và phê duyệt mà không lưu trữ dữ liệu cảm xúc không cần thiết. Đánh giá độc lập phù hợp cho các trường hợp chính trị, tài chính, sức khỏe, việc làm, giáo dục và hướng tới trẻ em. Câu hỏi trung tâm không phải là liệu có xảy ra tác động hay không, mà là liệu mục đích, bằng chứng, phương pháp và mối quan hệ quyền lực có tôn trọng quyền tự quyết có thông tin của con người hay không.
Danh sách kiểm tra triển khai thực tiễn
Biến khái niệm thành một quy trình có giới hạn, có thể kiểm thử: quan sát → suy đoán → chọn → can thiệp → đo lường → quản trị. Đặt tên cho người chịu trách nhiệm, ghi lại dữ liệu và các phụ thuộc, thiết lập một chuẩn cơ bản đơn giản, đặt tiêu chí chấp nhận và dừng, thử nghiệm các lỗi đại diện, và xác định giám sát, quay lại và đánh giá trước khi mở rộng phạm vi. Ghi lại các phiên bản và giả định để đội khác có thể tái tạo kết quả và hiểu những gì đã thay đổi.
Trước khi ra mắt, thực hiện một đánh giá sẵn sàng được ghi lại với những người xây dựng, vận hành, bảo mật và bị ảnh hưởng bởi hệ thống. Thử nghiệm các trường hợp bình thường, điều kiện biên, lỗi phụ thuộc và lạm dụng; bảo tồn bằng chứng và các rủi ro chưa giải quyết. Xác định ai có thể phê duyệt phát hành, thay đổi ngưỡng, ghi đè đầu ra hoặc dừng hoạt động. Xem lại quyết định sau khi dữ liệu thực tế xuất hiện, vì một dự án thí nghiệm thành công về mặt kỹ thuật không đảm bảo hiệu suất đáng tin cậy ở quy mô rộng hơn.
- CƠ QUAN: lựa chọn rõ ràng và dễ đảo ngược.
- BẰNG CHỨNG: sự không chắc chắn và kiểm tra nhóm phụ.
- GIỚI HẠN: các chiến thuật bị cấm và việc sử dụng nhạy cảm.
Câu hỏi thường gặp
Liệu mọi cá nhân hoá đều là thao túng?
Không. Cá nhân hoá có thể giảm công sức và nâng cao tính liên quan. Rủi ro tăng lên khi mục tiêu bị giấu, lựa chọn bị hạn chế, đặc tính nhạy cảm được suy đoán, hoặc hệ thống lợi dụng sự mong manh.
Hệ thống AI có thể biết một người cảm thấy như thế nào không?
Nó có thể ước tính các nhãn dựa trên các tín hiệu có thể quan sát được dưới một mô hình và bộ dữ liệu. Ước tính đó không chắc chắn, phụ thuộc vào ngữ cảnh và không nên được trình bày như là kiến thức trực tiếp về trạng thái nội tâm.
Tài liệu tham khảo chính
