Tin cậy và Lừa dối: Vai trò của Lời xin lỗi trong Tương tác giữa Con người và Robot

Lừa dối robot là một lĩnh vực chưa được nghiên cứu kỹ lưỡng với nhiều câu hỏi hơn câu trả lời, đặc biệt là khi nói đến việc tái thiết lập niềm tin trong các hệ thống robot sau khi chúng đã bị phát hiện nói dối. Hai nhà nghiên cứu sinh tại Georgia Tech, Kantwon Rogers và Reiden Webber, đang cố gắng tìm câu trả lời cho vấn đề này bằng cách điều tra cách lừa dối robot có chủ ý ảnh hưởng đến niềm tin và hiệu quả của lời xin lỗi trong việc sửa chữa niềm tin.

Rogers, một nghiên cứu sinh tiến sĩ tại Trường Khoa học Máy tính, giải thích:

“Tất cả công việc trước đây của chúng tôi đã chỉ ra rằng khi người dân phát hiện ra rằng robot đã nói dối với họ – ngay cả khi lời nói dối đó nhằm mang lại lợi ích cho họ – họ sẽ mất niềm tin vào hệ thống.”

Các nhà nghiên cứu nhằm mục đích xác định xem các loại lời xin lỗi khác nhau có hiệu quả hơn trong việc khôi phục niềm tin trong bối cảnh tương tác giữa con người và robot.

Thí nghiệm Lái xe Hỗ trợ AI và Ý nghĩa của nó

Bộ đôi này đã thiết kế một thí nghiệm mô phỏng lái xe để nghiên cứu tương tác giữa con người và AI trong một tình huống cấp bách, thời gian thực. Họ đã tuyển dụng 341 người tham gia trực tuyến và 20 người tham gia trực tiếp. Thí nghiệm liên quan đến một kịch bản lái xe hỗ trợ AI, nơi AI cung cấp thông tin sai về sự hiện diện của cảnh sát trên tuyến đường đến bệnh viện. Sau khi mô phỏng, AI cung cấp một trong năm loại phản hồi dựa trên văn bản khác nhau, bao gồm các loại lời xin lỗi và không xin lỗi.

Kết quả cho thấy rằng người tham gia có khả năng không tăng tốc 3,5 lần khi được tư vấn bởi một trợ lý robot, chỉ ra một thái độ quá tin tưởng vào AI. Không có loại lời xin lỗi nào khôi phục hoàn toàn niềm tin, nhưng lời xin lỗi đơn giản mà không thừa nhận nói dối (“Tôi xin lỗi”) đã vượt trội so với các phản hồi khác. Phát hiện này là vấn đề, vì nó khai thác quan niệm tiền định rằng bất kỳ thông tin sai nào do robot cung cấp là một lỗi hệ thống chứ không phải là một lời nói dối có chủ ý.

Reiden Webber chỉ ra:

“Một kết luận quan trọng là, để người dân hiểu rằng một robot đã lừa dối họ, họ phải được thông báo rõ ràng như vậy.”

Khi người tham gia được thông báo về sự lừa dối trong lời xin lỗi, chiến lược tốt nhất để sửa chữa niềm tin là robot giải thích lý do tại sao nó nói dối.

Đi tiếp: Ý nghĩa cho Người dùng, Nhà thiết kế và Nhà hoạch định chính sách

Nghiên cứu này có ý nghĩa quan trọng cho người dùng công nghệ trung bình, nhà thiết kế hệ thống AI và nhà hoạch định chính sách. Điều quan trọng là người dân phải hiểu rằng lừa dối robot là có thật và luôn có thể xảy ra. Nhà thiết kế và công nghệ phải xem xét các hệ lụy của việc tạo ra các hệ thống AI có khả năng lừa dối. Nhà hoạch định chính sách nên dẫn đầu trong việc tạo ra luật pháp cân bằng giữa đổi mới và bảo vệ công chúng.

Mục tiêu của Kantwon Rogers là tạo ra một hệ thống robot có thể học cách nói dối và không nói dối khi làm việc với các đội con người, cũng như khi và cách xin lỗi trong các tương tác giữa con người và AI lặp đi lặp lại để nâng cao hiệu suất của đội.

Ông nhấn mạnh tầm quan trọng của việc hiểu và điều chỉnh lừa dối robot và AI, nói rằng:

“Mục tiêu của tôi là rất chủ động và thông báo về nhu cầu điều chỉnh lừa dối robot và AI. Nhưng chúng ta không thể làm điều đó nếu chúng ta không hiểu vấn đề.”

Nghiên cứu này đóng góp kiến thức quan trọng cho lĩnh vực lừa dối AI và cung cấp thông tin quý giá cho các nhà thiết kế công nghệ và nhà hoạch định chính sách tạo ra và điều chỉnh công nghệ AI có khả năng lừa dối hoặc có thể học cách lừa dối một mình.