Nghiên cứu mới làm sáng tỏ niềm tin của con người vào rô-bốt

Nghiên cứu mới, do Phòng thí nghiệm Nghiên cứu Quân đội Hoa Kỳ và Viện Huấn luyện và Simulate của Đại học Trung tâm Florida dẫn đầu, đang làm sáng tỏ mức độ tin cậy của con người vào rô-bốt. Dự án mới này tập trung vào mối quan hệ giữa con người và rô-bốt, và liệu con người có đánh giá cao lý do hay sai lầm của rô-bốt hơn.

Nghiên cứu mới này đã xem xét sự hợp tác giữa con người và đại lý, hoặc HAT, và cách niềm tin, công việc và nhận thức của con người về đại lý bị ảnh hưởng bởi tính minh bạch của các đại lý như rô-bốt, phương tiện không người lái và đại lý phần mềm. Tính minh bạch của đại lý là khi con người có thể xác định được ý định, quá trình lý luận và kế hoạch tương lai của các đại lý.

Nghiên cứu mới cho thấy sự tự tin của con người vào rô-bốt giảm xuống mỗi khi rô-bốt mắc lỗi. Điều này không phụ thuộc vào việc rô-bốt có minh bạch về quá trình lý luận của mình hay không.

Nghiên cứu mới này đã được công bố trên tạp chí IEEE-Transactions on Human-Machine Systems vào tháng 8. Bài viết có tiêu đề “Tính minh bạch và độ tin cậy của đại lý trong tương tác con người-rô-bốt: Ảnh hưởng đến sự tự tin và độ tin cậy của người dùng.”

Nghiên cứu truyền thống về sự hợp tác giữa con người và đại lý sử dụng các đại lý thông minh hoàn toàn đáng tin cậy không mắc lỗi. Tuy nhiên, nghiên cứu này là một trong số ít nghiên cứu về cách tính minh bạch của đại lý tương tác với độ tin cậy của đại lý. Nghiên cứu này liên quan đến một rô-bốt mắc lỗi trong khi con người quan sát, và con người sau đó được hỏi liệu họ xem rô-bốt là ít đáng tin cậy hơn. Trong suốt quá trình, con người được cung cấp thông tin về quá trình lý luận của rô-bốt.

Tiến sĩ Julia Wright là nhà điều tra chính của dự án, và cô là một nhà nghiên cứu tại Phòng thí nghiệm Nghiên cứu Quân đội Bộ Chỉ huy Phát triển Khả năng Chiến đấu của Quân đội Hoa Kỳ, hoặc ARL.

“Hiểu được cách hành vi của rô-bốt ảnh hưởng đến đồng đội của con người là rất quan trọng để phát triển các đội con người-rô-bốt hiệu quả, cũng như thiết kế các giao diện và phương pháp giao tiếp giữa các thành viên trong đội,” cô nói. “Nghiên cứu này đóng góp vào nỗ lực của Quân đội trong các hoạt động đa lĩnh vực để đảm bảo sự vượt trội trong các khả năng được hỗ trợ bởi trí tuệ nhân tạo. Nhưng nó cũng là một lĩnh vực liên ngành, vì những phát hiện của nó sẽ thông báo cho công việc của các nhà tâm lý học, nhà rô-bốt, kỹ sư và nhà thiết kế hệ thống đang làm việc để tạo điều kiện cho sự hiểu biết tốt hơn giữa con người và các đại lý tự động trong nỗ lực tạo ra các thành viên đội tự động chứ không chỉ là công cụ.”

Dự án này là một phần của dự án lớn hơn được gọi là Dự án Thành viên Đội Tự động (ASM) được tài trợ bởi Sáng kiến Nghiên cứu Tự động hóa của Văn phòng Bộ trưởng Quốc phòng. ASM là một rô-bốt mặt đất nhỏ thực sự được sử dụng trong một đội bộ binh. Nó có thể giao tiếp và tương tác với đội.

Nghiên cứu này liên quan đến việc tham gia của những người quan sát các đội lính và rô-bốt trong một môi trường được mô phỏng. ASM là một phần của đội, và nó di chuyển qua một khóa đào tạo. Nhiệm vụ của những người quan sát là theo dõi đội và đánh giá rô-bốt. Trong suốt khóa đào tạo, đội được trình bày với các sự kiện và chướng ngại vật khác nhau. Các binh sĩ có thể điều hướng mỗi chướng ngại vật một cách chính xác, nhưng có những lúc rô-bốt không thể hiểu chướng ngại vật và mắc lỗi. Rô-bốt sau đó đôi khi chia sẻ lý do và kết quả dự kiến của nó.

Nghiên cứu này đã phát hiện ra rằng những người tham gia quan tâm hơn đến lỗi của rô-bốt so với logic và lý do cơ bản của chúng. Độ tin cậy của rô-bốt đóng vai trò quan trọng trong sự tin cậy và nhận thức của người tham gia. Mỗi khi rô-bốt mắc lỗi, những người quan sát đánh giá độ tin cậy của nó thấp hơn.

Độ tin cậy và sự tin cậy tăng lên khi tính minh bạch của đại lý tăng lên, hoặc khi rô-bốt chia sẻ chi tiết và lý do đằng sau quyết định của nó. Tuy nhiên, độ tin cậy và sự tin cậy vẫn thấp hơn so với rô-bốt không bao giờ gặp lỗi. Điều này cho thấy rằng việc chia sẻ lý do và logic cơ bản có thể giúp giải quyết một số vấn đề về sự tin cậy và độ tin cậy xung quanh rô-bốt.

“Các nghiên cứu trước đây cho thấy rằng bối cảnh quan trọng trong việc xác định tính hữu ích của thông tin minh bạch,” Wright nói. “Chúng tôi cần hiểu rõ hơn về những nhiệm vụ nào yêu cầu sự hiểu biết sâu sắc hơn về quá trình lý luận của đại lý, và làm thế nào để phân biệt điều đó. Nghiên cứu trong tương lai nên khám phá các cách để cung cấp thông tin minh bạch dựa trên yêu cầu nhiệm vụ.”

Nghiên cứu mới này sẽ đóng vai trò quan trọng trong lĩnh vực này vì sự tương tác ngày càng tăng giữa con người và rô-bốt. Một trong những lĩnh vực quan trọng nhất sẽ là quân sự. Như đã thấy trong các bài tập này, rô-bốt và binh sĩ sẽ đứng cạnh nhau. Just như một binh sĩ phải tin tưởng vào một binh sĩ khác, điều tương tự sẽ áp dụng cho rô-bốt. Nếu điều đó có thể được đạt được và rô-bốt trở nên phổ biến trong các đội bộ binh, nó sẽ là một ví dụ khác về trí tuệ nhân tạo thâm nhập vào ngành công nghiệp quốc phòng.