Çalışanınız Yapay Zeka Gibi Davransaydı, Şimdiye Kadar Onu Kovmuş Olurdunuz

Hayal edin ki yeni birini işe aldınız ve çoğu gün verimli, bilgili, kendini açık ifade eden ve kendinden emin. Olmasını umduğunuz her şeyi karşılıyor, harika bir çalışanın birçok özelliğini gösteriyor.

Şimdi hayal edin ki ara sıra, bir sorunun cevabını bilmediğinde bir şey uyduruyor. Akıcı ve ikna edici, bu yüzden ilk başta söylediğini doğru kabul ediyorsunuz. Ancak bu durum iş için sonuç doğurduğunda, o çalışanla yüzleşiyor, yanıtını sorguluyorsunuz – ve düşünce sürecini açıklayamıyor ya da nasıl düşündüğünü paylaşamıyor. Ona yanıldığını söyleyebilir ve karşısında ısrarla aksi bir görüşle daha fazla uydurma ile savunma görebilirsiniz. Bu ikinci ya da üçüncü kez gerçekleştiğinde, muhtemelen onu işten çıkarır ya da en azından bir uyarı verir miydiniz? Çoğu işveren için cevap neredeyse kesinlikle evet olur.

İşletmelerin kritik iş akışlarını ve karar verme süreçlerini, bu davranışı sergilediği bilinen bir çalışana, yani bir kişiye değil bir yazılıma devretmesi beni şaşkına çeviriyor. Bunun denetlenmemesinin tek nedeni bu ‘çalışanın’ bir insan değil bir yazılım olmasıdır.

Yapay Zekâ Neden İnsanlar Gibi Başarısız Olmaz

Yapay zekâ kullanan işletmeler arasında yaygın, yanlış bir varsayım vardır: teknoloji bir hata oranına sahipse, bu kabaca insan hatasıyla aynı sorundur ve aynı şekilde yönetilebilir. Ancak denetimler, incelemeler ve sorunların bir üst değerlendirme düzeyine taşınması büyük dil modelleri (LLM’ler) için her zaman işe yaramaz. İnsan gibi konuşmaları için tasarlanmışlardır, ancak kaputun altına bakarsanız, bizim gibi çalışmadıklarını görürsünüz.

Yıldız bir çalışan bir hata yaptığında, hatanın iyi niyetli olduğunu varsayarız – elinden geleni yapmış ama istemeden hata yapmıştır. Bu olur. Eğer bilinçli olarak bir cevabı uydurup bir şeyi bilmediğini gizlemeye çalışıyor ve bunu tekrarlıyorsa, bunu suistimal olarak görürüz. Yöneticiler, zorluk ve hata marjlarının çakıştığı yerleri bilir, bu yüzden denetimlerini oraya odaklarlar. Çalışandan gerekçesini açıklamasını isteyebilir ve bu gerekçe hakkında ona sorular sorabilirler. Çalışan genellikle sınırlarının dışına çıktığını bilir ve bunu söyler. Ve bir hatadan sonra öğrenir, böylece aynı hata sürekli bir döngüde tekrarlanmaz.

Yapay zekâ sistemleri bu varsayımların her birini tersine çevirir. Başarısızlığa karşı varsayılan tepkileri akıcı, kendinden emin bir uydurmadır. Gerçek olmayan, ancak makul görünen bir cevap üretirler; bu, bir insan kariyerinin son bulmasına yol açacak davranıştır. LLM’ler, bir metnin istatistiksel olarak en olası devamını üretmek üzere tasarlanmıştır ve cevaplarını bilmediklerinde, doğru olabilecek bir şey gibi seslenen bir şey üretirler. OpenAI araştırmacıları, bu modellerin çalışma şeklinin istatistiksel bir kaçınılmazlığı olarak belirli bir düzeyde olgusal hatanın ortaya çıktığını ve eğitimin, belirsizliğin dürüst bir kabulünden ziyade kendinden emin bir tahmini ödüllendirdiğini kabul etmişlerdir.

Nörosembolik Yaklaşımların Gelişi

Tam da nörosembolik yaklaşımlar bu sorunu çözmek için tasarlanmıştır. Karmaşık, gerçek dünya dili ve verilerini anlamada harika olan sinir ağlarını, deterministik, kural tabanlı akıl yürütme ile birleştirirler. Bu, bir sistemin sonuçlarının, iç işleyişini kimsenin göremediği bir süreçten ortaya çıkmak yerine, incelenebilen açık bir mantıktan türediği anlamına gelir.

Nörosembolik teknolojinin sağladığı bu ek mantık katmanı olmadan, yapay zekânın hataları, bir insanın hataları gibi işin zorluğuyla korelasyon göstermez – öngörülemezdir. Basit görevlerde ortaya çıkabilirken zor görevler sorunsuz geçebilir ve bu da insan denetiminin nerede odaklanması gerektiğini belirlemeyi zorlaştırır. Açıklamaları, bir sonuca nasıl ulaştıklarının gerçek bir hesabını sunmak yerine, sonradan üretilir. Bu aynı hata, sistem içinde öğrenebilecek ya da sorumlu tutulabilecek bir varlık olmadığı için süresiz olarak tekrarlanabilir.

Anlamadan Güvenmek

Araştırmacılar, insanların bir sisteme yeni başladıklarında tek bir görülebilir hatadan sonra sistemi terk etme eğiliminde olduklarını, ancak tanıdık bir sistem olduğunda tam tersine çıktılarını kabul ettiklerini belgeledi; bu, çıktılar daha güvenilir olduğu için değil, sadece onlara alıştıkları için olur. Nadiren görülen doğru güven seviyesi, insanların bir yapay zekâ sisteminin ne zaman yanlış olma ihtimalinin yüksek olduğunu anlamalarına ve bunu tanıyabilmelerine bağlıdır.

Bu, yapay zekâya önemli işlerde güvenilmemesi gerektiği anlamına gelmez. Bunun yerine, kısmen başarısız olduğunda sorumlu tutulacak belirgin bir bireyin olmaması nedeniyle, bir kişiye vermeyeceğimiz türde bir güveni ona vermeye istekli olduğumuz anlamına gelir.

Yapay zekâ, değerli bir meslektaş gibi muhakeme gerektiren işleri üstlenecekse, aynı temel standartları karşılamalıdır. Cevaplar doğrulanabilir olmalı, akıl yürütmesi görünür olmalı ve yapay zekâ bazen en iyi şeyin “Bilmiyorum” demek olduğunu kabul etmelidir.