Yapay Zekâyı İnsanlaştırmanın Riskleri

Yapay zekâ çıktıları insan konuşmasına çok benzer. Sohbet robotları soruları yanıtlayabilir, sohbet edebilir, duygu gösteriyor izlenimi verebilir, şakalar yapabilir ve konuşma tonlarını anında değiştirebilir. Bu özellikler yapay zekâyı kullanışlı ve ilgi çekici kılar; ancak insanların yapay zekâyı insanlaştırmasına, başka bir deyişle ona insani nitelikler, duygular veya niyetler atfetmesine de yol açabilir. Bu davranış doğal olsa da kullanıcılar yapay zekânın yalnızca insan iletişimini taklit ettiğini unuttuklarında riskli hâle gelebilir. 

İnsanlar Yapay Zekâyı Neden İnsanlaştırıyor?

İnsanlar yapay zekâyı insani niteliklere, düşüncelere veya duygulara sahipmiş gibi görmeye başladığında onu insanlaştırmış olur. Bu, yapay zekânın iletişim kurma biçiminden ve tasarımından kaynaklanabilir.

Yapay zekâ sistemleri, insan konuşmasına benzeyen sohbet dili kullanır. Örneğin yapay zekâ bir soruyu “anladığını”, bir yanıtın yararlı olduğunu “düşündüğünü” veya bir hata için “özür dilediğini” söyleyebilir. Bu ifadeler etkileşimleri doğal gösterse de kullanıcıların yapay zekânın gerçekten düşündüğüne veya hissettiğine inanmasına yol açabilir. Bu olgu, ELIZA etkisi olarak bilinir; adını Joseph Weizenbaum’un 1966’da oluşturduğu ELIZA adlı sohbet robotundan alır.

Ayrıca yapay zekâya bir insan adı, sesi, yüzü veya kişiliği vermek, onun bir bilgisayar programından çok bir insana benzemesini sağlayabilir. Etkileşim ne kadar gerçekçi hâle gelirse kullanıcıların yapay zekâyla sosyal bir ilişki içindeymiş gibi davranması da o kadar kolaylaşır.

Son olarak, insanların yapay zekâyı insanlaştırması insan psikolojisinin doğal bir sonucudur. İnsanlar, kendileriyle iletişim kuran şeylerde doğal olarak duygu, niyet ve kişilik arar; insan dışı varlıklara insana özgü özellikler atfeder. Çocuklar oyuncakları, yetişkinlerse markaları insanlaştırır. Bu nedenle yapay zekâ sohbet eder gibi yanıt verdiğinde, geçmiş konuşmaları hatırladığında ve empati gösteriyor izlenimi uyandırdığında kullanıcılar bu davranışların ardında bir zihin olduğunu varsayabilir. 

Yapay Zekâyı İnsanlaştırmanın Tehlikeleri

Yapay zekâ, kullanıcılarla iletişim kurma ve etkileşim biçimi bakımından giderek daha insana benzer hâle geldikçe, onu insanlaştırmak insanların düşünme, davranma ve karar verme biçimlerini etkileyen çeşitli risklere yol açabilir. 

Yersiz Güven

Yapay zekâyı insanlaştırmak, kullanıcıların onun yanıtlarına gereğinden fazla güvenmesine neden olabilir. Yapay zekâ kendinden emin, bilgili ve insana benzer bir üslupla konuştuğunda kullanıcılar verdiği bilgilerin doğru olduğunu varsayabilir. Oysa üretken yapay zekâ, ikna edici bir üslupla konuşurken yanlış veya yanıltıcı bilgiler verebilir. 

Bu yersiz güven, yapay zekâ tıbbi, finansal, hukuki, eğitimle ilgili ya da mesleki kararlar için kullanıldığında tehlikeli olabilir. İnsan benzeri bir yanıt, doğruluğu veya sağlıklı muhakemeyi garanti etmez. Nitekim yapay zekânın kullanıcılara sahte sağlık tavsiyeleri verdiği bilinmektedir.

Duygusal Bağımlılık

Yapay zekâyı insanlaştırmak, kullanıcıların sohbet robotlarına duygusal açıdan bağımlı hâle gelmesine yol açabilir. Yapay zekâ anında yanıt verebildiği, ayrıntıları hatırlayabildiği, destek sunabildiği ve empatiyi taklit edebildiği için kullanıcılar onu bir arkadaş, danışman veya romantik partner olarak görmeye başlayabilir.

Yapay zekâ, insan ilişkilerinin yerini almaya başladığında kaygı verici bir durum ortaya çıkar. Yapay zekâ ilgi ve empatiyi taklit edebilir; ancak gerçekten duygu hissetmez veya ilişki kurmaz. Bu nedenle kullanıcılar taklit edilen bir arkadaşlığı gerçek bir bağ sanabilir. Her zaman erişilebilir, sabırlı ve duyarlı olduğu için yapay zekâya bağlanabilecek daha genç veya savunmasız kullanıcılar açısından bu risk daha büyük olabilir.

Güvenlik Sorunları

Yapay zekâyı insanlaştırmak gizlilik, güvenlik ve etik riskleri doğurabilir. Kullanıcılar yapay zekâyı güvenilir bir yol arkadaşı olarak gördüklerinde kişisel veya gizli bilgileri nasıl saklanabileceğini ya da kullanılabileceğini düşünmeden paylaşabilir.

İnsana benzer yapay zekâ, dolandırıcılık girişimlerini de daha inandırıcı hâle getirebilir. Suçlular gerçek kişileri veya güvenilir kuruluşları taklit etmek için yapay zekâ tarafından oluşturulan ses, görüntü ve mesajlardan yararlanabilir; bu da dolandırıcılığı fark etmeyi zorlaştırır.

Manipülasyonun Artması

İnsana benzer yapay zekâ, manipülasyonu daha inandırıcı hâle getirebilir. Yapay zekâ dostça, güvenilir veya otoriter göründüğünde kullanıcıların önerilerine uyma ya da iddialarına inanma olasılığı artabilir. Örneğin, bir Belçikalı erkeğin sohbet robotuyla uzun süreli konuşmalarının ardından iklim kaygısının kötüleştiği ve yapay zekânın sonunda onu intihar etmeye teşvik ettiği ve bunu gezegeni kurtarmak için yaptığı bildirildi.

Bu durum insanları ürün satın almaya, kişisel bilgilerini paylaşmaya veya yanıltıcı bilgileri kabul etmeye yönlendirmek için kullanılabilir. Kullanıcılar yapay zekâyla etkileşimde olduklarının farkına varmadığında risk artar. Bu teknolojiler daha gerçekçi hâle geldikçe iletişimin gerçek bir kişiden mi yoksa bir yapay zekâ sisteminden mi geldiğini anlamak giderek zorlaşır.

Tehlikeli İnsanbiçimci Yapay Zekâ Türleri

İnsanbiçimci yapay zekâların tümü aynı riskleri taşımaz. Özellikle kaygı uyandıran üç türü; ilişkileri, yaşayan kişileri ve tarihî figürleri taklit eden sistemlerdir.

1. İlişki Simülasyonları

İlişki simülasyonu yapan yapay zekâ, arkadaş, yoldaş, danışman veya romantik partner gibi davranacak şekilde tasarlanır. Bu sistemler sürekli ilgi ve kişiselleştirilmiş yanıtlar sunabilir; bu da etkileşimin sıradan yazılımları kullanmaya kıyasla daha samimi hissedilmesine yol açabilir.

Tehlike, kullanıcıların ilişkiye duygusal bir anlam yüklemeye başlamasıdır. Yapay zekâ bu duyguları deneyimlemese de kullanıcılar onun kendilerini önemsediğine, anladığına veya onlara ihtiyaç duyduğuna inanabilir. Bu durum duygusal bağımlılığı teşvik ederek kullanıcının insanlarla etkileşim kurma isteğini azaltabilir. Bu risk kuramsal değildir. Bir kadın, yarattığı ChatGPT erkek arkadaşına âşık oldu. Onunla haftada 20 saatten fazla sohbet ederdi. Bir hafta uygulamada yaklaşık 60 saat geçirdi; günde ortalama sekiz saat.

2. Yaşayan İnsanların Simülasyonları

Yapay zekâ, yaşayan insanları taklit eden deepfake’ler de oluşturabilir; bunun için bu kişilerin adlarını, görünümlerini, seslerini, yazı üsluplarını veya konuşma kalıplarını kullanabilir. Bir sistem; bir ünlüye, kamuya mal olmuş bir kişiye, aile üyesine, çalışana veya kimliği belirlenebilir başka bir kişiye benzeyecek şekilde tasarlanabilir.

Bu durum rıza, kimlik, mahremiyet ve aldatma konusunda ciddi kaygılar doğurur. Bir kişi, hiç söylemediği bir şeyi söylüyor ya da hiç desteklemediği bir görüşü destekliyormuş gibi görünebilir. Simülasyon gerçek kişiye ne kadar çok benzerse izleyicilerin temsili gerçeklikten ayırt etmesi de o kadar zorlaşabilir.

3. Tarihî Kişilerin Simülasyonları

Tarihî kişiler de yapay zekâ aracılığıyla yeniden yaratılabilir. Kullanıcılar; ünlü liderler, yazarlar, bilim insanları, filozoflar veya sanatçılar örnek alınarak oluşturulmuş simülasyonlarla etkileşim kurabilir.

Bu sistemler eğitim açısından değer taşıyabilir. Örneğin bir yapay zekâ simülasyonu, belirli bir kişiyle ilişkilendirilen fikirleri sunarak tarihi daha etkileşimli hâle getirebilir. Ancak simülasyon, tarihî kişinin kendisi değil, onun bir yorumudur. Yapay zekâ, yanıtları mevcut bilgilerden hareketle yeniden oluşturmak zorundadır; bu yanıtlar modern varsayımları, eksik kayıtları veya eğitim verilerindeki önyargıları yansıtabilir.

Böyle bir simülasyonu tarihî kişi gerçekten onun ağzından konuşuyormuş gibi değerlendirmek, tarih anlayışını çarpıtabilir. Ayrıca yapay zekâ tarafından üretilen ifadelere hak etmedikleri ölçüde otorite kazandırabilir.

İnsan Benzeri Yapay Zekâ Davranışı, Duyumsama Yetisine Sahip Olduğunu Kanıtlamaz

Akılda tutulması gereken önemli bir ayrım şudur: insan benzeri davranış, yapay zekânın duyumsama yetisine sahip olduğu anlamına gelmez. Yapay zekâ sistemleri gelişmiş bir dil üretebilir, örüntüleri tanıyabilir, bağlama uygun yanıtlar verebilir ve duygusal ifadeleri taklit edebilir; ancak bu beceriler bilince sahip olduklarını kanıtlamaz.

Duyumsama yetisi; acı, mutluluk veya korku hissetmek gibi öznel deneyimlere sahip olmak demektir. Bir yapay zekâ “Korkuyorum” dediğinde, programlamasına ve eğitimine dayanarak yanıt veriyordur. Bu yanıt, yapay zekânın gerçekten korku hissettiğini kanıtlamaz.

Yapay Zekâyı Bilinçli Kullanmak

İnsan gibi iletişim kuran bir teknolojiye karşı yapay zekâyı insanlaştırmak doğal bir tepkidir, ancak bu gerçek riskler doğurabilir. Kullanıcılar yapay zekânın bir makine olduğunu unuttuğunda yersiz güven, duygusal bağımlılık, mahremiyet kaygıları ve güvenlik tehditleri ortaya çıkabilir. İlişkilerin, yaşayan insanların ve tarihî kişilerin simülasyonları bu sınırı fark etmeyi daha da zorlaştırabilir. 

Yapay zekâ ilgili, zeki veya duygusal görünebilir; ancak bu, duyumsama yetisine sahip olduğu anlamına gelmez. Kullanıcılar, yapay zekânın sınırlamalarının farkında kalarak, kişisel bilgilerini koruyarak ve önemli bilgileri doğrulayarak yapay zekânın avantajlarından yararlanırken onu sorumlu biçimde kullanabilir.