Güven ve Aldatma: İnsan-Robot Etkileşimlerinde Özürlerin Rolü

Robot aldatması, özellikle robotların yalan söylediği ortaya çıktıktan sonra robotik sistemlere güveni yeniden inşa etme konusunda daha fazla soru olan az çalışılmış bir alandır. Georgia Tech’teki iki öğrenci araştırmacı, Kantwon Rogers ve Reiden Webber, kasıtlı robot aldatmacasının güveni nasıl etkileyip özürlerin güveni onarmadaki etkinliğini araştırarak bu soruya cevap bulmaya çalışıyorlar.

Rogers, Bilgisayar Bilimi Fakültesi’ndeki doktora öğrencisi, şöyle diyor:

“Tüm önceki çalışmalarımız, insanların robotların yalan söylediğini öğrendiklerinde – nawet yalan onlara fayda sağlamak için amaçlanmış olsa bile – sistemden güvenlerini kaybettiklerini göstermiştir.”

Araştırmacılar, farklı özür türlerinin insan-robot etkileşimi bağlamında güveni yeniden inşa etmede daha etkili olup olmadığını belirlemeyi amaçlıyorlar.

AI Destekli Sürüş Deneyi ve Sonuçları

İkili, insan-AI etkileşimini yüksek riskli, zaman duyarlı bir durumda incelemek için bir sürüş simülasyonu deneyi tasarladı. 341 online katılımcı ve 20 yüz yüze katılımcı işe aldılar. Simülasyon, AI’nin hastaneye gitmek için rotada polis varlığı hakkında yanlış bilgi verdiği bir AI destekli sürüş senaryosunu içeriyordu. Simülasyonun ardından, AI beş farklı metin tabanlı yanıt sunuyor, bunlar arasında çeşitli özür ve özür dışı ifadeler bulunuyordu.

Sonuçlar gösterdi ki, katılımcılar bir robotik asistan tarafından yönlendirildiğinde hız sınırını aşma olasılıkları 3,5 kat daha düşük. Hiçbir özür türü tam olarak güveni yeniden inşa edemedi, ancak basit bir özür (“Üzgünüm”) diğer yanıtlardan daha iyi performans gösterdi. Bu bulgu sorunlu, çünkü robotların verdiği yanlış bilginin sistem hatası değil, kasıtlı bir yalan olduğu öncülünü sömürüyor.

Reiden Webber şöyle diyor:

“Ana sonuçlardan biri, insanların bir robotun onları aldattığını anlamaları için onlara açıkça söylenmesi gerektiğidir.”

Katılımcılara özürde aldatma açıkça söylendiğinde, güveni onarma stratejisi için robotun neden yalan söylediğini açıklaması en iyi yaklaşım oldu.

İleriye Doğru: Kullanıcılar, Tasarımcılar ve Politika Yapıcılar için Sonuçlar

Bu araştırma, ortalama teknoloji kullanıcıları, AI sistem tasarımcıları ve politika yapıcıları için sonuçlar içeriyor. İnsanların robot aldatmacasının gerçek ve her zaman mümkün olduğunu anlamaları çok önemli. Tasarımcılar ve teknologlar, aldatma yetenekleri olan AI sistemleri yaratmanın sonuçlarını düşünmeliler. Politika yapıcılar, inovasyonu ve halkın korunmasını dengeleyen yasaları çıkarmada önderlik etmeliler.

Kantwon Rogers’in amacı, insan takımlarıyla çalışırken yalan söyleme ve söylememe zamanını öğrenen bir robotik sistem yaratmak ve ayrıca uzun süreli, tekrarlanan insan-AI etkileşimlerinde özür dilerken takım performansını artırmaktır.

O, robot ve AI aldatmacasını anlamak ve düzenlemek gerektiğini vurguluyor ve şöyle diyor:

“Çalışmamın amacı, çok proaktif olmak ve robot ve AI aldatmacasını düzenleme ihtiyacını bilgilendirmek. Ancak bunu yapamayız eğer sorunu anlamazsak.”

Bu araştırma, AI aldatmacası alanına önemli bilgiler katıyor ve aldatma yetenekleri olan veya potentially kendi başına aldatma öğrenme yetenekleri olan AI teknolojilerini yaratıp düzenleyen teknoloji tasarımcıları ve politika yapıcıları için değerli içgörüler sunuyor.