Yeni Araştırma İnsanların Robotlara Güvenini Aydınlatıyor

Amerika Birleşik Devletleri Ordusu Araştırma Laboratuvarı ve Central Florida Üniversitesi Simülasyon ve Eğitim Enstitüsü tarafından yürütülen yeni bir araştırma, insanların robotlara olan güven seviyesini aydınlatıyor. Yeni proje, insanların robotlara verdiği değerle robotların mantığını veya hatalarını karşılaştırdı.

Yeni araştırma, insan-acente takım çalışması veya HAT üzerine odaklandı ve insan güveninin, iş yükünün ve acentelerin (robotlar, insansız araçlar ve yazılım acenteleri gibi) şeffaflığının nasıl etkilendiğini inceledi. Acente şeffaflığı, bir insanın acentelerin niyetini, mantık sürecini ve gelecek planlarını belirleyebilmesi anlamına geliyor.

Yeni araştırma, insanların robotlara olan güveninin her zaman robotun bir hata yaptığında azaldığını gösteriyor. Bu, robotun mantık sürecini şeffaf bir şekilde paylaştığı durumlarda bile böyle oluyor.

Yeni araştırma, Ağustos ayında yayınlanan IEEE-Transactions on Human-Machine Systems dergisinde yer aldı. Makale, “İnsan-Robot Etkileşiminde Acente Şeffaflığı ve Güvenilirliği: Kullanıcı Güvenine ve Algılanan Güvenilirliğe Etkisi” başlığını taşıyor.

Geleneksel olarak insan-acente takım çalışması araştırmaları, tamamen güvenilir ve hata yapmayan zeki acenteleri kullanıyor. Ancak bu yeni çalışma, acente şeffaflığının acente güvenilirliğiyle nasıl etkileşime girdiğini inceleyen az sayıda çalışmadan biri oldu. Çalışma, insanların bir robota bakarken robotun hatalar yapmasını ve insanların sonra robota olan güvenlerini değerlendirmelerini içeriyordu. Tüm süreç boyunca, insanlara robota olan mantık süreci hakkında bilgi verildi.

Dr. Julia Wright, projenin baş araştırmacısı ve Amerika Birleşik Devletleri Ordusu Savaş Yetenekleri Geliştirme Komutanlığı’nın Araştırma Laboratuvarı’nda (ARL) bir araştırmacı.

“İnsan-robot takımlarının geliştirilmesinde ve arayüzlerin tasarlanmasında, robotların davranışlarının insan takım arkadaşlarını nasıl etkilediğini anlamak çok önemli” dedi. “Bu araştırma, ordunun çok alanlı operasyonlar için yapay zeka destekli yeteneklerde üstünlük sağlamak amacıyla yaptığı çalışmalara katkıda bulunacak. Ancak bu aynı zamanda disiplinler arası bir çalışma, çünkü bulguları psikologlar, robot mühendisleri, mühendisler ve sistem tasarımcıları gibi insanların ve otonom acentelerin arasındaki anlaşmayı geliştirmeye çalışanların çalışmalarına ışık tutacak.”

Bu yeni proje, Savunma Bakanlığı’nın Otonomi Araştırma Pilot Girişimi tarafından desteklenen Otonom Takım Üyesi (ASM) projesinin bir parçasıydı. ASM, bir piyade birliğinde kullanılan küçük bir zemin robottur ve takım ile iletişim kurabiliyor.

Çalışma, katılımcıların bir simüle edilmiş ortamda insan-acente asker takımlarını izlemelerini içeriyordu. ASM takımda yer aldı ve bir eğitim kursunda ilerledi. Gözlemcilerin görevi, takımı izlemek ve robota değerlendirmekti. Eğitim kursunda, takıma çeşitli olaylar ve engeller sunuldu. Askerler her birini doğru bir şekilde navigasyon yapabildiler, ancaksometimes robot belirli engelleri anlayamadı ve hatalar yaptı. Robot bazen belirli eylemlerinin arkasındaki mantığı ve beklenen sonucu paylaştı.

Çalışma, katılımcıların robota olan güveninin, robota olan mantık ve nedenlerden daha çok robota olan hatalarla ilgili olduğunu gösterdi. Robotun güvenilirliği, katılımcıların güvenini ve algılarını önemli ölçüde etkiledi. Her zaman robot bir hata yaptığında, gözlemciler robota olan güvenilirliği daha düşük olarak değerlendirdi.

Güvenilirlik ve güven, acente şeffaflığının artması veya robotun kararlarının arkasındaki nedenleri paylaştığı zaman arttı. Ancak güvenilirlik ve güven, hala hiçbir zaman hata yapmayan robotlardan daha düşük kaldı. Bu, robota olan güven ve güvenilirlik sorunlarının bazılarını çözmek için robota olan mantık ve nedenlerin paylaşılabileceğini gösterdi.

“Daha önceki çalışmalar, bağlamın şeffaflık bilgisinin yararlılığını belirlemede önemli olduğunu gösteriyor” dedi Wright. “Hangi görevlerin daha derin bir acente mantığını gerektirdiğini ve bu derinliğin ne anlama geldiğini daha iyi anlamamız gerekiyor. Gelecek araştırmalar, görev gereksinimlerine göre şeffaflık bilgisini nasıl sunabileceğimizi keşfetmelidir.”

Bu yeni araştırma, insanların ve robotların artan etkileşimi nedeniyle alanda önemli bir rol oynayacak. En önemli alanlardan biri askeri alan olacak. Bu çalışmalarda görüldüğü gibi, robotlar ve askerler sonunda yan yana olacaklar. Bir askerin başka bir askere güveni gibi, aynı şey robotlar için de geçerli olacak. Eğer bu güven sağlanabilirse ve robotlar piyade takımlarında yaygınlaşırsa, bu yapay zeka’nın savunma endüstrisine nüfuz etmesinin başka bir örneği olacak.