Dil Modeli Nerede Durmalı: Bordro, Üniversiteye Kabul ve Hataları Ağır Bedellere Yol Açan Diğer Alanlar İçin Yapay Zekâ Tasarlamak

Son birkaç yıldır, yanlış bir yanıtın bedelinin olduğu ürünlere yapay zekâ entegre ediyorum: Bir hatanın birinin banka hesabına yansıdığı Avustralya pazarı için yapay zekâ destekli bir bordro uyum platformu ve kötü bir eşleşmenin öğrencinin sonraki dört yılını şekillendirebileceği bir üniversiteye kabul ürünü. Her iki üründe de mimariye yön veren soru aynıydı: Dil modelinin devreye deterministik bir sistem girmeden önce ne kadar ileri gitmesine izin verilmeli?

ABD’deki her beş bordrodan biri hata içeriyor; dava masrafları hesaba katılmadan önce bile bu hataların her biri ortalama 291 dolara mal oluyor. AB Yapay Zekâ Yasası, kabul kararlarında ve istihdam yönetiminde kullanılan yapay zekâyı yüksek riskli kategoriler arasında sınıflandırıyor.

Rakamları Kurallara Bırakın

Parasal tutar veya hukuki sonuç içeren her şeyin kontrolü deterministik kurallarda olmalı; model bu kuralların çevresini yorumlayıp açıklamalı, daha fazlasını yapmamalı.

Bordro platformunda amacımız, bordro kuralları ile yapay zekâ arasında net bir sınır oluşturmaktı. Önce bordro uzmanları ücret kurallarını yapılandırılmış bir biçimde tanımlıyor. Ardından sistem bu kuralları işleyerek bunlardan doğabilecek tüm senaryoları oluşturuyor. Bu senaryoların eksiksiz kümesi, modelin başvurduğu tek doğru kaynağa dönüşüyor. Model yeni kurallar oluşturamıyor, mevcut kuralları değiştiremiyor veya hangi kaynakları kullanacağına karar veremiyor. Yalnızca ilgili kural kümesini getirebiliyor, ücret tarifelerine bakabiliyor ve kullandığı senaryoya atıfta bulunabiliyor. Kural oluşturma, senaryo üretme ve kaynak seçimi bütünüyle yapay zekâ katmanının dışında kalıyor.

Üniversiteye kabul ürünü de aynı mantıkla çalışıyor: Konum gereklilikleri, bütçe sınırları, kurumun statüsü ve uygunluk eşikleri, model bir sıralamayı etkilemeden önce kural olarak uygulanıyor. Bir öğrenci Kaliforniya’da bir üniversiteye gitmesi gerektiğini söylüyorsa model başka bir okulu daha uygun bulsa bile eyalet dışındaki bir okul bu gerekliliği geçersiz kılamıyor. Model daha esnek tercihleri ve açıklamaları ele alıyor; yaklaşık olarak doğru olmanın kabul edilemeyeceği her durumda ise deterministik mantık güvence sağlıyor.

Bilgi Getirme Modeli Belli Bir Noktaya Kadar Temellendirir

Bilgi getirmeyle zenginleştirilmiş üretim, yanıtları modelin eğitim sırasında öğrendiği her şey yerine kuruluşun kendi politikalarına dayandırıyor. Ancak bu yaklaşımın etkisi de abartılıyor. Stanford’un RegLab’ı, RAG tabanlı ticari hukuk araştırma araçlarını test ettiğinde, bu araçlar yine de vakaların yüzde 17 ila yüzde 33’ünde halüsinasyon üretti. Bilgi getirme, modelin söyleyebileceklerini sınırlandırıyor; yine de model yanlış yanıt verebiliyor.

Bunu doğrudan deneyimledim. Bordro platformunda sistem bir vakaya uygun doğru çalışma koşulları düzenlemesini bulmuştu, ancak model fazla mesai kurallarını yine de yanlış yorumladı. Doğru kaynak getirilmişti ama yanıt yanlıştı. Bunun üzerine modelin kendi başına neler kararlaştırabileceği konusunda çok daha katı davrandık. Önemli bordro kurallarını açık iş mantığına taşıdık, her yanıtın kaynak materyalle desteklenmesini zorunlu kıldık ve başarısız olan vakayı temel alan testler ekledik. Doğru bilgilere erişmek, ancak modelin bu bilgileri nasıl kullandığını da denetlerseniz işe yarar.

Her Yanıtın İzini Sürün

Bir yanıt oluşturulmadan önce sistem, hangi kural kitabının ve sürümünün kullanıldığını, model ve diğer istek ayrıntılarıyla birlikte kaydediyor. Bir yapay zekâ yanıtının şirket politikasına dayandığını söylemek zordur; bunu doğrulamak da zordur. Yanıtın, saklanan ve diğer sürümlerle karşılaştırılabilen belirli bir sözleşmenin 7. sürümü kullanılarak oluşturulduğunu söylemek ise çok daha güçlü bir kanıttır. Ayrıca her model ve araç çağrısının da izini sürüyoruz: kullanıcının ne sorduğunu, hangi bilgilerin getirildiğini, hangi araçların çalıştırıldığını, modelin ne yanıt verdiğini ve süreç boyunca oluşan hataları. Bir destek talebi geldiğinde yanlış yanıtın tam olarak nereden kaynaklandığını görebiliyoruz. Bir mahkemenin havayolunu sohbet robotunun uydurduğu indirimi uygulamakla yükümlü tuttuğu 2024 tarihli Air Canada kararı, bunun alternatifinin neye mal olduğunu gösteriyor.

Sonuçların Önemli Olduğu Noktalarda İnsanları Sürece Katın

NIST’in Üretken Yapay Zekâ Profili, sistemin kendi başına yaptıklarıyla insan katkısı gerektirenler arasındaki sınırı bir yönetişim kararı olarak ele alıyor. Sistem emin olmadığında, bilgiler çeliştiğinde veya karar kullanıcıyı kayda değer ölçüde etkileyebileceğinde vakayı bir insana yönlendiriyoruz. Üniversiteye kabul sürecinde olağandışı bir öğrenci profili veya öğrencinin kesin gerekliliklerini açıkça karşılamayan bir öneri, danışman incelemesi için işaretleniyor. Bu adım, ilk bakışta makul görünen ancak öğrencinin profilindeki bir kısıtı gözden kaçıran önerileri yakaladı; bunların her biri de sisteme geri bildirim sağladı. İki ürün de hiçbir şeyi kendi başına kesinleştirmiyor. Bir öneriye dayanılmadan önce danışmanın görüşü alınmalı; bordro sisteminin oluşturduğu her maaş bordrosu da gönderilmeden önce onay için işaretleniyor. İnsan incelemesi her istek için gerekli değil. Amaç, rutin vakaları güvenle otomatikleştirmek ve sistemin emin olmamak için geçerli bir nedeni olduğunda sürece bir insanı dahil etmek.

Modelin Bugün Neleri Üstlenebileceğine Karar Vermek

Her iş akışına uyguladığım pratik bir test var. Yanlış bir çıktı kişiye ulaşmadan önce fark edilip geri alınabiliyorsa model o adımı üstlenebilir. Yanıt bir kurala göre denetlenebiliyorsa adımın kontrolü kuralda olmalı, model de kuralı açıklamalı. Yanlış bir çıktı kimse görmeden önce bir maaş bordrosuna ya da başvuru kararına yansıyacaksa o adım henüz kullanıma hazır değildir.

Dil modelleri, şimdiye kadar kural kitaplarını yorumlama konusunda kullandığımız en iyi araçlardır. Hataların ağır bedel ödettiği alanlarda, durmaları gereken nokta yorumlamadır.