Bordroda En Tehlikeli Yapay Zekâ Hataları Doğru Görünür

Bordro, her hatanın bir adı, tutarı ve tarihi olduğu az sayıdaki iş sürecinden biridir. Bu nedenle bordroda yapay zekâ kullanımı üzerine daha dikkatli konuşmak gerekir; çünkü tartışmaların çoğu, yapay zekânın neleri yakaladığına odaklanıyor. Asıl zor soru, kimse bakmıyorken yapay zekânın neleri değiştirdiğidir.

Önce CFO, ardından sınır ötesi bordro altyapısı kuran biri olarak finansta on yedi yıl geçirdim. Bu süre boyunca otomasyonu bir alışveriş gibi görmeyi öğrendim: görünür manuel işlerden vazgeçiyor, karşılığında sistemin görünmeyen davranışlarını üstleniyorsunuz.

Düzenleme Aslında Ne İstiyor?

AB Yapay Zekâ Yasası‘na göre işyerinde kullanılan yapay zekâ, bir kişi hakkında karar verilmesine yardımcı olduğunda yüksek riskli kabul edilir: kimin işe alınacağına, terfi ettirileceğine veya işten çıkarılacağına; işinin nasıl dağıtılacağına; performansının nasıl değerlendirileceğine ya da çalışma koşullarının nasıl değiştirileceğine karar verilmesi gibi. Bu kararlar kişinin işini ve gelirini şekillendirdiği için aracı kullanan şirket, denetimi bir insanın elinde tutmalı ve her kararın nasıl verildiğini kayıt altına almalıdır. Üzerinde anlaşılmış ücretleri onaylanan çalışma saatlerine uygulamak aritmetik işlem olduğundan, bordro hesaplaması varsayılan olarak bu listede yer almaz. Ancak bordro verileri kişiler hakkındaki kararları etkilemeye başladığında veya “bordro” diye satılan bir araç fark ettirmeden bu kararları vermeye koyulduğunda, yüksek riskli hâle gelir.

ABD’de teknik ve güvenlik standartları belirlemesiyle tanınan federal bir kurum olan Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), kuruluşların kendi koşullarına kolayca uyarlayabileceği özel bir Yapay Zekâ Risk Yönetimi Çerçevesi‘ni 2023’te yayımladı. Şirketlere, aşağıda yeniden ele alacağım, dört adımdan oluşan pratik bir döngü sunuyor.

Yapay Zekâ Bugün Bordroda Güvenle Ne Kadar İleri Gidebilir?

İlk bakışta, bordroda yapay zekâ daha hızlı çalışan bir çift el gibi görünüyor. Ancak yapay zekânın süper gücü ve aynı zamanda laneti; kusursuz, kesintisiz ve bağımlılık yaratan otomasyondur. Sistem çalışmaya başladıktan sonra, işyerindeki insanlar olan nihai faydalanıcıları nasıl etkilediğini görmek ve bu etkilerin tümünü düzeltmek zorlaşır. İK’da yapay zekânın yüksek riskli sayılmasının nedeni de budur: insanların geçim kaynaklarını, işyerindeki başarısını ve gelecekteki kariyer olanaklarını doğrudan etkiler.

Bordro araçlarının çoğu kısa bir yol izler. Önce kontrol eder ve hazırlık yaparlar; karşılaştırır, işaretler ve taslak oluştururlar. Ardından önerilerde bulunmaya başlar, kişi kararı verirken bir ödemenin bekletilmesini veya bir faturanın sorgulanmasını önerirler. Aracın kişinin işini, statüsünü veya gelirini etkileyen bir konuda harekete geçtiği üçüncü aşamada durmalı ve kararı yeniden insana bırakmalıdır. Zorluk, bu aşamaların birbirine karışmasıdır. Olağan dışı çalışma saatlerine ilişkin bir uyarı, ilk aşamada zararsız bir mutabakat kontrolüyken üçüncü aşamada performans değerlendirmesine dönüşebilir. Model değişmez; değişen, insanın model çıktısını nasıl kullandığıdır.

Yapay Zekânın Gerçekten İşe Yaradığı Alanlar

Otomatik bordronun olumlu sonuçlarından biri, hataları çarpıcı ölçüde azaltmasıdır: Ignite HCM adlı bordro danışmanlık hizmetinden Blair McQuillen‘a göre bu azalma %78’e kadar çıkabilir. Bordro hatalarını azaltmaya yönelik yapay zekâ destekli bir araç, bordro sistemlerini tarayıp düzeltmek için temelde şu işlemleri gerçekleştirir:

• Anormallik tespiti, makine öğrenmesi algoritmalarının ödemelerdeki ani artışları, yinelenen kayıtları ve olağan dışı kesintileri belirlemek için bordroyu geçmiş kayıtlarla karşılaştırmasıdır.
• Gerçek zamanlı veri doğrulama, yapay zekânın hem güncel çalışan verilerini (ör. otomatik kaydedilen devam bilgilerini) hem de kaynak sistemleri (ör. zaman çizelgelerini) inceleyerek elle kopyalayıp yapıştırma sırasında oluşan hataları belirlemesi anlamına gelir.
• Öngörüye dayalı hata önleme, bordro kesinleştirilmeden önce hataları öngörmeye çalışır.
• Uyum süreçleri de yapay zekâ ajanları tarafından bir ölçüde otomatikleştirilebilir. Bu ajanlar personeli ve bordro hesaplamalarını izler, üç aylık denetim gelmeden bile İK’yı hemen uyarır. Yapay zekânın uyum süreçlerinde ihbarcı olarak kullanılabilmesi için yeteneklerinin sınırları açıkça belirlenmeli ve karar alma sürecinde gerçek kişilerin yer alması güvence altına alınmalıdır.
• Yapay zekâ destekli tahmin, kurumsal değişikliklerin veya piyasa dalgalanmalarının bordro maliyetlerini ve bütçeleri nasıl etkileyeceğini öngörür.

Gömülü bir muhasebe API’si olan OpenLadger raporuna göre şirketler, finansal kapanış süreçlerini %19 hızlandırdı ve bütçeye uyumlarını %34 artırdı.

Başlangıç Noktası Hatalarınızdan Öğrenmeye Başladığında

Bordro yapay zekâsı ürünlerinin çoğu, sürekli öğrenme vaadiyle satılır. Sistem zamanla kuruluşunuzda normal bordronun nasıl göründüğünü öğrenir ve her bordro çalışmasını buna göre değerlendirir. Bu gerçekten faydalıdır; sessizce başlayan aksaklık da tam bu noktada ortaya çıkar.

Geçmiş verilerden “normal”i öğrenen bir sistem, o geçmişteki hataları da öğrenir. Diyelim ki bir kesinti altı ay boyunca yanlış uygulandı. Sistem, aynı hatayı altı ay boyunca gördüğü için artık bunu olağan dışı bulmaz ve işaretlemeyi bırakır.

Sınır ötesi çalışmalar bu sorunu daha da belirginleştirir. Birçok ülkede, farklı para birimleri ve ödeme yöntemleriyle yüklenicilere ödeme yaptığınızda, “olağan dışı” görünen bir durum çoğu zaman meşrudur: proje kilometre taşına ulaşılması, ödeme kanalının değiştirilmesi, tek seferlik bir iş ilişkisi veya yeni bir ödeme koridorunun açılması. Yanlış pozitifleri azaltacak şekilde ayarlanan bir model, yeterince zaman geçtiğinde gerçek pozitifleri de bastırmaya başlar.

Bir ödeme bekletildiğinde, işaretlendiğinde veya tutarı değiştirildiğinde bunun nedenini birilerinin açıklaması gerekir: parasını bekleyen yükleniciye, aylar sonra denetçiye ve eninde sonunda düzenleyici kuruma.

Bordro Otomasyonunu Denetlenebilir Tutmanın Üç Yolu

1. İşleri birbirinden ayırın. Verileri alan, çalışanları sınıflandıran, ücretleri hesaplayan, mevzuata uyumu kontrol eden ve bordroları gönderen tek bir asistanı satın almak kolay, denetlemekse zordur; çünkü sonuç yanlış olduğunda hatanın hangi adımdan kaynaklandığını anlayamazsınız. Bazı bordro sağlayıcıları, puantaj verilerinin alınması, çalışanların sınıflandırılması, ücret hesaplama, mevzuata uyum ve iletişim gibi işlerin ayrı bileşenlerce yürütüldüğü ve her bileşenin ortak bir denetim kaydına yazdığı çoklu ajan tasarımlarına şimdiden geçiyor. Böyle bir yapıyı kurmak daha maliyetlidir; ancak bir düzenleyici kurum bir kararın nasıl alındığını ilk kez sorduğunda bu maliyet kendini amorti eder. Sürecin her adımını tek tek izleyebilirsiniz.
2. İşlemleri geri alınabilirliklerine göre kademelendirin. İK teknolojilerinde artık yaygın olan, insan denetimini sürece dahil eden bir model; otomatik işlemleri üç düzeyde sınıflandırır: otomatik yürütme, üst kademeye aktarma ve engelleme. Bu düzeyleri tek bir ölçüte göre belirlerdim: yanlış yapmanın bedeli. Hatırlatmalar, belge talepleri ve biçimlendirme kontrolleri gibi düşük riskli, geri alınabilir işlemler otomatik olarak yürütülebilir. Bir ödemenin açıklama alınana kadar bekletilmesi veya bir faturayla ilgili soru sorulması gibi orta riskli işlemlerde, yapay zekâ kanıtları hazırlamalı, kararı ise bir kişi vermelidir. Geri alınamaz işlemler ve birinin geçim kaynağını etkileyen her şey makinenin erişiminin dışında kalmalıdır: iş ilişkisini sona erdirmek, bir çalışanın statüsünü değiştirmek, mevzuata uyum gerekçesiyle ücret ödemesini durdurmak. Kullandığım ölçüt tek bir sorudan ibaret: Bu işlemin yanlış olduğu ortaya çıkarsa, karşı taraf fark etmeden önce geri alabilir miyiz? Yanıt hayırsa, işlemi bir insan onaylar.
3. Ölçeği büyütmeden önce yönetişimi kurun. Daha önce sözünü ettiğim NIST Yapay Zekâ Risk Yönetimi Çerçevesi dört işlev üzerine kuruludur: yönetişim, haritalama, ölçüm ve yönetim. Bordro açısından bunlar dört soruya dönüşür. Sonuçtan kim sorumlu: bordro, finans, mevzuata uyum ekibi mi, yoksa tedarikçi mi? AI Act kapsamında, sistemi devreye alan kuruluşun yükümlülükleri sistemi işleten kuruluşa aittir; dolayısıyla artık pek çok ürünün üzerinde “AB AI Act’e hazır” rozeti bulunsa da “tedarikçi” yanıtı geçerli değildir. Kural tabanlı olarak satın alınan yazılımların içine bu kadar çok makine öğrenmesi özelliği eklenmişken, araçlarınızdan hangileri gerçekten yapay zekâ kullanıyor? İnsanlar yapay zekânın kararlarını ne sıklıkla geçersiz kılıyor? En yakından izleyeceğim ölçüt bu; çünkü müdahale oranının sıfıra yaklaşması modelin kusursuz olduğu anlamına nadiren gelir ve çoğu zaman insanların artık okumayı bıraktığını gösterir. Model kapanış dönemi boyunca kullanılamaz hâle gelirse ya da çıktısına artık güvenilemezse yedek plan nedir; ekipte bordroyu hâlâ elle yürütebilen biri var mı? Yapay zekâyı geniş ölçekte kullanmayı planlayan İK ve bordro yöneticileri için bu yapıyı erkenden kurmak yerinde olur.

Yapay zekâ dönemi, şirketlere gösterişsiz ama gerekli işleri yapmaları için bir fırsat sunuyor: yapay zekâ özellikli araçların envanterini çıkarmak, yalnızca sonuçları değil gerekçeleri de kaydeden günlükler tutmak, her otomatik karar için sorumlu kişiler belirlemek ve müdahale ölçümlerini düzenli olarak gözden geçirmek.

Yüksek riskli yükümlülükler yürürlüğe girdiğinde denetçilerin sorusu “Yapay zekâ kullanıyor musunuz?” olmayacak. “Bu ödemenin neden yapıldığını, bekletildiğini veya değiştirildiğini gösterin,” diyecekler. Bu soruyu dakikalar içinde yanıtlayabilen şirketler otomasyonlarını başarıyla ölçeklendirecek.