Çalışanınız Yapay Zeka Gibi Davransaydı, Şimdiye Kadar Onu Kovmuştunuz

Hayal edin ki yeni birini işe aldınız ve çoğu gün verimli, bilgili, konuşkan ve kendinden emin. Umarım olmasını istediğiniz her şeyi sergiliyor, harika bir çalışanın birçok özelliğini gösteriyor.

Şimdi hayal edin ki ara sıra, bir sorunun cevabını bilmediğinde bir şey uyduruyor. Akıcı ve ikna edici, bu yüzden ilk başta sözüna alıyorsunuz. Ancak bu durum iş için sonuç doğurduğunda, o çalışanla yüzleşiyor, ona soruyu soruyorsunuz – ve düşünce sürecini açıklayamıyor ya da nasıl düşündüğünü paylaşamıyor. Ona yanıldığını söyleyebilir ve karşısında ısrarla aksi bir görüşle daha fazla uydurma ile savunma görebilirsiniz. Bu ikinci ya da üçüncü kez gerçekleştiğinde, çoğu işveren muhtemelen onları işten çıkarır ya da en azından bir uyarı verir. Çoğu işveren için cevap neredeyse kesinlikle evet olur.

İşletmelerin kritik iş akışlarını ve karar verme süreçlerini, bu davranışı sergilediği bilinen bir çalışana, yani bir kişiye değil bir yazılıma devretmesi beni şaşkına çeviriyor. Bunun denetlenmemesinin tek nedeni bu ‘çalışanın’ bir insan değil bir yazılım olmasıdır.

Yapay Zekâ Neden İnsanlar Gibi Başarısız Olmaz

Yapay zekâ kullanan işletmeler arasında yaygın, yanlış bir varsayım vardır: teknoloji bir hata oranına sahipse, bu insan hatasıyla aynı sorundur ve aynı şekilde yönetilebilir. Ancak denetimler, incelemeler ve yükseltmeler büyük dil modelleri (LLM’ler) için her zaman işe yaramaz. İnsan gibi seslenmeleri için tasarlanmışlardır, ancak motorun altına bakarsanız, bizim gibi çalışmadıklarını görürsünüz.

Yıldız bir çalışan bir hata yaptığında, hatanın iyi niyetli olduğunu varsayarız – ellerinden geleni yapıyorlar ve bir kayma yaşanıyor. Bu olur. Eğer bilinçli olarak bir cevabı uydurup bir şeyi bilmediğini gizlemeye çalışıyor ve bunu tekrarlıyorsa, bunu suistimal olarak görürüz. Yöneticiler, zorluk ve hata marjlarının çakıştığı yerleri bilir, bu yüzden denetimlerini oraya odaklarlar. Çalışandan gerekçesini açıklamasını ve bunun üzerine soru sormasını isteyebilirler. Çalışan genellikle sınırlarının dışına çıktığını bilir ve bunu söyler. Ve bir hatadan sonra öğrenir, böylece aynı hata sürekli bir döngüde tekrarlanmaz.

Yapay zekâ sistemleri bu varsayımların her birini tersine çevirir. Başarısızlığa karşı varsayılan tepkileri akıcı, kendinden emin bir uydurmadır. Gerçek olmayan, ancak makul görünen bir cevap üretirler; bu, bir insan kariyerinin son bulmasına yol açacak davranıştır. LLM’ler, bir metnin en istatistiksel olarak olası devamını üretmek üzere tasarlanmıştır ve cevaplarını bilmediklerinde, doğru olabilecek bir şey gibi seslenen bir şey üretirler. OpenAI araştırmacıları, bu modellerin çalışma şeklinin istatistiksel bir kaçınılmazlığı olarak belirli bir düzeyde gerçek hatanın ortaya çıktığını ve eğitim, belirsizliğin dürüst bir kabulünden ziyade kendinden emin bir tahmini ödüllendirir olduğunu kabul etmişlerdir.

Nörosembolik Yaklaşımların Gelişi

Tam da nörosembolik yaklaşımlar bu sorunu çözmek için tasarlanmıştır. Karmaşık, gerçek dünya dili ve verilerini anlamada harika olan sinir ağlarını, belirleyici, kural tabanlı akıl yürütme ile birleştirirler. Bu, bir sistemin sonuçlarının, kimsenin içinde göremediği bir süreçten ortaya çıkmak yerine, incelenebilen açık bir mantıktan türediği anlamına gelir.

Nörosembolik teknolojinin sağladığı bu ek mantık katmanı olmadan, yapay zekânın hataları, bir insanın hataları gibi işin zorluğuyla korelasyon göstermez – öngörülemezdir. Basit görevlerde ortaya çıkabilirken zor görevler sorunsuz geçebilir ve bu da insan denetiminin nerede odaklanması gerektiğini belirlemeyi zorlaştırır. Açıklamaları, bir sonuca nasıl ulaştıklarının gerçek bir hesabını sunmak yerine, sonradan üretilir. Bu aynı hata, sistem içinde öğrenebilecek ya da sorumlu tutulabilecek bir varlık olmadığı için süresiz olarak tekrarlanabilir.

Trust Without Understanding

Araştırmacılar, insanların bir sisteme yeni başladıklarında tek bir görülebilir hatadan sonra sistemi terk etme eğiliminde olduklarını, ancak tanıdık bir sistem olduğunda tam tersine çıktılarını kabul ettiklerini belgeledi; bu, çıktılar daha güvenilir olduğu için değil, sadece onlara alıştıkları için olur. Nadiren görülen doğru güven seviyesi, insanların bir yapay zekâ sisteminin ne zaman yanlış olma ihtimalinin yüksek olduğunu anlamalarına ve bunu tanıyabilmelerine bağlıdır.

Bu, yapay zekânın önemli işlerde güvenilmemesi gerektiği anlamına gelmez. Bunun yerine, başarısız olduğunda sorumlu tutulacak belirgin bir bireyin olmaması nedeniyle, bir kişiye vermeyeceğimiz türde bir güveni ona vermeye istekli olduğumuz anlamına gelir.

Yapay zekâ, değerli bir meslektaş gibi yargı temelli işleri üstlenecekse, aynı temel standartları karşılamalıdır. Cevaplar doğrulanabilir olmalı, akıl yürütmesi görünür olmalı ve bazen en iyi şeyin “Bilmiyorum” demek olduğunu kabul etmelidir.