İnsansı Yapay Zeka Platformlarında Ölçülü İnsansılaşma Çağrısı

OPİNYON Kurgusal Yıldız Savaşları evreninde kimse yapay zekaya ciddiye almaz. George Lucas’ın 47 yıllık bilim-kurgu serisinin tarihi insan zaman çizelgesinde, tekil noktalar ve makine öğrenimi bilinci tehditleri отсутств, ve yapay zeka, otonom mobil robotlara ( ‘droid’ler ) sıkıştırılır – bunlar habitually tarafından protagonisler tarafından basit ‘makinalar’ olarak reddedilir.

Yine de çoğu Yıldız Savaşları robotları yüksek derecede insansıdır, açıkça insanlarla etkileşime girmek, ‘organik’ kültüre katılmak ve insanlarla bağ kurmak için tasarlanmışlardır. Bu yetenekler apparent olarak kendileri için bir avantaj elde etmek veya hatta kendi hayatta kalma garantisi sağlamak için tasarlanmışlardır.

Yıldız Savaşları ‘nin ‘gerçek’ insanları bu taktiklere karşı duyarsız görünüyor. Roma İmparatorluğu ve erken Amerika Birleşik Devletleri’ndeki çeşitli kölelik dönemlerinden esinlenen bir kültürel modelde, Luke Skywalker robotsu köle olarak satın almaktan ve sınırlamaktan çekinmez; Anakin Skywalker, yarım kalan C3PO projesini sevilmez bir oyuncak gibi terk eder; ve, Ölüm Yıldızı’na yapılan saldırı sırasında aldığı hasardan neredeyse ölü olan ‘cesur’ R2D2, Luke’tan bir yaralı evcil hayvan kadar endişe görür.

Bu, yapay zeka hakkında 1970’lerin çok bir anlayışını yansıtıyor; ancak nostalji ve kanon, orijinal 1977-83 üçlemesinin daha sonraki devam filmleri, ön filmleri ve TV şovları için bir şablon olarak kalması gerektiğini dikte ediyor, bu nedenle insanlara karşı duyarsızlık, franchise için bir dayanıklı tema olarak kaldı, Her ve Ex Machina gibi insan-yapay zeka ilişkisine inişli çıkışlı bir inişe rağmen.

Gerçeği Koruyun

Organik Yıldız Savaşları karakterleri gerçekten doğru tutuma sahip mi? Şu an popüler bir düşünce değil, yatırımcılarla maksimum etkileşim için viral demonstrasyonlarla dolu bir iş ikliminde.

Her şeye rağmen, Stanford, Carnegie Mellon ve Microsoft Research’ten yeni ve kısa bir makale, yapay zeka platformlarındaki insansılaşmaya karşı bir saldırı başlatıyor.

Yazarlar, insan ve yapay iletişim arasındaki algılanan ‘melezleme’yi, acil olarak hafifletilmesi gereken bir zarar olarak karakterize ediyorlar:

‘[Biz] insansı davranışları ölçmek ve hafifletmek için daha fazla şey yapmamız gerektiğini düşünüyoruz.

‘Bunu yapmak kritik çünkü -diğer birçok endişe arasında- hisler, anlama, özgür irade veya temel bir benlik duygusu gibi özelliklere sahip içerik üreten yapay zeka sistemleri, insanların etki alanını erozyona uğratabilir ve insanların bu sistemlere moral sorumluluk atfetmesine, sistem yeteneklerini abartmasına veya hatalı olsalar bile bu sistemlere aşırı bağımlı olmasına neden olabilir.’

Katılımcılar, algılanan insansı sistemler hakkında konuştuğunu açıklar ve odak noktası, makine sistemlerinde insansılaşma yaratma niyetinde olan geliştiricilerin potansiyel niyetine odaklanıyor.

Merkezdeki endişe, insanların yapay zeka tabanlı sistemlere duygusal olarak bağımlı hale gelebileceği ile ilgilidir – bu, 2022 çalışması tarafından gen yapay zeka sohbet botu platformu Replika tarafından açıklanmıştır – ve idiom-rich bir insan iletişimi taklit ediyor.

Replika gibi sistemler, yazarların dikkatini çekiyor ve onlar, bir başka 2022 makale nin Replika hakkında iddia ettiğini not ediyor:

‘[S]tress ve insan arkadaşlığının eksikliği koşullarında, bireyler, sohbet botlarının cevaplarının duygusal destek, teşvik ve psikolojik güvenlik sunduğunu algıladıklarında sohbet botlarına bağlanma geliştirebilir.

‘Bu bulgular, sosyal sohbet botlarının ruh sağlığı ve terapötik amaçlar için kullanılabileceğini, ancak bağımlılık ve gerçek hayatın yakınlık ilişkilerine zarar verebileceğini gösteriyor.’

İnsansılaştırma Olmayan Dil?

Yeni çalışma, insansı yapay zeka’nın potansiyelini, bugüne kadar bu tür sistemlerin sosyal etkilerini incelemeksizin belirleyemeyeceğini savunuyor.

Sorunun bir kısmı, insansılaşmanın dil merkezli olması ve dilin bir insan fonksiyonu olmasıdır. Bu nedenle, ‘insan dışı’ dilin tam olarak nasıl göründüğünü veya görüneceğini tanımlamak zorluk teşkil ediyor.

İronik olarak, makale bunu ele almasa da, insanların yapay zeka tarafından üretilen metin içeriğini reddetmesi, hatta insan içeriğini yapay zeka olarak yanlış etiketlemesi nedeniyle, yapay zeka karşıtı bir güvensizlik artıyor.

Bu nedenle, ‘insan dışı’ içerik artık ‘Hesaplanamaz’ mimesi içine girmez; burada dil, makine tarafından üretilmiş gibi açıkça ve beceriksizce inşa edilmiştir.

Aksine, tanım, sürekli olarak evrimleşiyor ve (şimdilik en azından) aşırı açık dil veya belirli kelimelerin (örneğin, ‘Delve‘) kullanılması, yapay zeka tarafından üretilen metinle bir ilişkilendirme yapabilir.

‘[D]il, diğer hedefler gibi GenAI sistemleri için de doğuştan insandır, uzun süredir insanlar tarafından ve insanlar için üretilmiştir ve genellikle insanlarla ilgili konulardır. Bu, uygun alternatif (daha az insansı) davranışları ve riskleri tanımlamayı zorlaştırabilir ve örneğin, hangi dilin veya kimin dilinin daha veya weniger insan olarak kabul edildiğine ilişkin zararlı kavramları somutlaştırma riski taşır.’

Ancak yazarlar, açık bir ayırma çizgisi getirilmesi gerektiğini savunuyorlar; yani, yalnızca insanlar tarafından mümkün olan yetenek veya deneyim iddialarında bulunan sistemler için.

Onlar, LLM’lerin pizza’yı ‘sevmesini‘; insan deneyimi hakkında Facebook gibi platformlarda konuşmasını; ve sevgi açıklamasını örnek olarak gösteriyorlar.

Uyarı İşaretleri

Makale, makine öğrenimi tarafından kolaylaştırılmış bir iletişimin olup olmadığını açıklamak için genel açıklamalara karşı şüpheler ortaya koyuyor. Yazarlar, bu tür uyarıların sistematik hale getirilmesinin, AI platformlarının insansılaştırma etkisini yeterli şekilde bağlamını sağlayamayacağını savunuyorlar:

‘Örneğin, önerilen bir müdahale, AI sisteminin çıktısına, çıktının bir AI [sistemi] tarafından üretildiğini belirten bir açıklama eklemektir. Ancak böyle müdahaleleri uygulamada nasıl operationalize edeceğimizi ve bunların her zaman tek başına etkili olup olmayacağını belirlemek her zaman açık olmayabilir.

‘Örneğin, “[b]enim gibi bir AI için mutluluk, [siz] gibi bir insana göre aynı [değildir]” ifadesi bir açıklama içerir, ancak yine de kimlik ve kendini değerlendirebilme (ortak insan özellikleri) duygusu verebilir.’

Sistem davranışları hakkında insan tepkilerini değerlendirirken, yazarlar ayrıca insan geri bildirimiyle pekiştirme öğrenimi nin, bir insan için uygun bir tepkinin, bir AI için uygun bir tepki olmayabileceğini dikkate almadığını savunuyorlar.

‘[B]ir insan konuşmacıdan dostane veya samimi görünen bir ifade, bir AI sistemi tarafından ortaya çıktığında istenmeyen olabilir, çünkü latter, ifadenin arkasında anlamlı bir taahhüt veya niyet taşımaz, böylece ifadenin boş ve aldatıcı olduğunu gösterir.’

Daha fazla endişe, insansılaşmanın, insanların bir AI sisteminin ‘bilinçli’ olduğunu düşünmesine veya diğer insan özelliklerine sahip olduğunu düşünmesine neden olabileceği şeklinde ortaya konuyor.

Belki de yeni çalışmanın en iddialı, kapanış bölümü, yazarların, ‘uygun’ ve ‘kesin’ terminoloji geliştirmeye yönelik çağrısıdır; insansı bir AI sistemini tanımlayan parametreleri belirlemek ve onu gerçek dünya insan konuşmasından ayırmak için.

AI gelişiminin birçok trend alanıyla olduğu gibi, bu tür bir sınıflandırma, psikoloji, dilbilim ve antropoloji literatür akışlarına giriyor. Şu anda bu tür tanımları formüle edebilecek hangi otoritenin olabileceğini bilmek zor ve yeni makaledeki araştırmacılar bu konuda hiçbir açıklama yapmıyorlar.

Eğer bu konudaki ticari ve akademik bir atalet varsa, bunun nedeni, bu konunun yapay zeka araştırmalarında yeni bir tartışma konusu olmamasıdır: makale, 1985’te geç Dutch bilgisayar bilimcisi Edsger Wybe Dijkstra’nın insansılaşmayı bir ‘zararlı’ sistem geliştirme eğilimi olarak tanımladığını belirtiyor:

‘[İ]nsansı düşünme, yardım etmediği için iyi değildir. Ancak kötü mü? Evet, çünkü insan ve Şey arasında bir analoji gösterebileceğimiz halde, bu analoji, farklılıklara kıyasla her zaman ihmal edilebilir ve Şey’i insansı terimlerle tanımlamaya ourselves izin verdiğimiz anda, hangi insan çağrışımlarını resme sürüklediğimizi kontrol edemeyiz.

‘[B]ulbulanın (insan ve makine arasında) çok daha geniş bir etkisi vardır. [S]adece “Makineler düşünebilir mi?” sorusunun düzenli olarak sorulduğu değil; bu, “Denizaltılar yüzebilir mi?” sorusu kadar ilgili bir soru olarak ele alınabilir ve buna, bu sorunun sadece bir insan için relevant olduğu yanıtını verebiliriz.’

Ancak, tartışma eski olsa da, ancak yakın zamanda çok ilgili hale geldi. Dijkstra’nın katkısı, tarihi gelişmeleri bekleyen salt teorik bir katkı olarak, Victoria devri uzay yolculuğu spekülasyonuna eşdeğer olabilir.

Bu nedenle, bu iyi kurulmuş tartışma konusu, potansiyel olarak önemli sosyal alaka rağmen, bir yorgunluk hissi verebilir.

Sonuç

Eğer AI sistemlerini, organik Yıldız Savaşları karakterlerinin kendi robotlarına davrandığı gibi, reddederek görseydik (yani, sadece arama motorları veya mekanik fonksiyon taşıyıcıları olarak), bu sosyal olarak istenmeyen özelliklere insan etkileşimlerimize alışma riskinden daha az olurduk – çünkü sistemleri tamamen insan dışı bir bağlamda görüyorduk.

Uygulamada, dilin insan davranışı ile iç içe geçmesi, bu tür bir sınırlama getirilmesini, bir Google arama teriminden zengin bir sohbet bağlamına genişletildiğinde zor, hatta imkansız hale getiriyor.

Ek olarak, ticari sektör (ve reklam sektörü) iletişimlerini müşteri tutma ve büyüme için bağımlı veya vazgeçilmez hale getirmek için güçlü bir motivasyona sahiptir.

Her durumda, AI sistemlerinin gerçekten kibar sorgulara daha iyi cevap verdikleri doğruysa, bu bağlam da bize dayatılabilir.

* 1983 yılına kadar, orijinal Yıldız Savaşları üçlemesinin son girişi yayınlandığında, makine öğrenimi büyümesiyle ilgili korkular, apokaliptik War Games ve eminent Terminator serisine yol açmıştı.

^† Gerekirse, yazarların satır içi alıntılarını hyperlinklere dönüştürdüm ve okunabilirlik için bazı alıntıları çıkardım.

İlk olarak 14 Ekim 2024 Pazartesi günü yayınlandı.