Dalam Penggajian, Kesalahan AI Paling Berbahaya Tampak Benar

Penggajian adalah salah satu dari sedikit proses bisnis yang setiap kesalahannya mencantumkan nama, jumlah, dan tanggal. Karena itu, penerapan AI dalam penggajian perlu dibahas dengan lebih cermat, sebab sebagian besar pembahasan berfokus pada hal-hal yang dapat dideteksi AI. Pertanyaan yang lebih sulit adalah apa yang diubah AI saat tak seorang pun mengawasi.

Saya telah bekerja di bidang keuangan selama tujuh belas tahun, pertama sebagai CFO, lalu membangun infrastruktur penggajian lintas negara. Selama itu, saya belajar memandang otomatisasi sebagai sebuah pertukaran: kita mengurangi pekerjaan manual yang terlihat, lalu sebagai gantinya menerima perilaku sistem yang tak terlihat.

Apa yang Sebenarnya Diatur dalam Regulasi

Menurut Undang-Undang AI Uni Eropa, AI di tempat kerja berisiko tinggi jika membantu mengambil keputusan tentang seseorang: siapa yang direkrut, dipromosikan, atau diberhentikan; bagaimana pekerjaannya dibagikan; bagaimana kinerjanya dinilai; atau bagaimana ketentuan kerjanya berubah. Keputusan ini memengaruhi pekerjaan dan penghasilan seseorang, sehingga perusahaan yang menggunakan alat tersebut harus memastikan manusia tetap memegang kendali dan menyimpan catatan tentang cara setiap keputusan dibuat. Penghitungan penggajian tidak termasuk dalam daftar itu secara otomatis, karena menerapkan tarif yang telah disepakati pada jam kerja yang telah disetujui merupakan perhitungan aritmetika. Penghitungan itu menjadi berisiko tinggi ketika data penggajian mulai digunakan untuk mengambil keputusan tentang orang, atau ketika alat yang dipasarkan sebagai “penggajian” diam-diam mulai mengambil keputusan tersebut.

Di AS, National Institute of Standards and Technology (NIST), sebuah badan federal yang dikenal menetapkan standar teknis dan keamanan, menerbitkan Kerangka Kerja Manajemen Risiko AI khusus pada 2023 yang dapat dengan mudah disesuaikan oleh organisasi dengan keadaan mereka sendiri. Kerangka ini memberi perusahaan siklus praktis empat langkah, yang akan saya bahas kembali di bawah.

Sejauh Mana AI Aman Digunakan dalam Penggajian Saat Ini

Sekilas, AI dalam penggajian tampak seperti sepasang tangan yang bekerja lebih cepat. Namun, keunggulan sekaligus kutukan AI adalah otomatisasinya yang sempurna, mulus, dan membuat ketagihan. Setelah sistem berjalan, sulit untuk melihat dan memperbaiki semua cara sistem itu memengaruhi pihak yang pada akhirnya merasakan dampaknya—orang-orang di tempat kerja. Inilah sebabnya AI di bidang SDM dianggap berisiko tinggi: AI berdampak langsung pada mata pencaharian, keberhasilan di tempat kerja, dan prospek karier seseorang di masa depan.

Sebagian besar alat penggajian menempuh alur yang singkat. Pertama, alat memeriksa dan menyiapkan data dengan membandingkan, menandai, dan menyusun draf. Kemudian, alat mulai memberi rekomendasi, misalnya menyarankan agar pembayaran ditahan atau faktur dipertanyakan, sementara seseorang mengambil keputusan. Pada tahap ketiga, ketika alat bertindak atas sesuatu yang memengaruhi pekerjaan, status, atau penghasilan seseorang, alat seharusnya berhenti dan menyerahkan kembali keputusan itu kepada manusia. Masalahnya, batas antara tahap-tahap ini kabur. Penanda untuk jam kerja yang tidak biasa merupakan pemeriksaan rekonsiliasi yang tidak berbahaya pada tahap pertama, tetapi menjadi penilaian kinerja pada tahap ketiga. Modelnya tidak berubah; yang berubah adalah cara manusia menggunakan keluarannya.

Manfaat Nyata AI

Salah satu hasil positif dari otomatisasi penggajian adalah penurunan kesalahan yang signifikan—hingga 78%, menurut Blair McQuillen dari Ignite HCM, sebuah layanan konsultasi penggajian. Alat berbasis AI untuk mengurangi kesalahan penggajian pada dasarnya menjalankan operasi berikut untuk memindai dan memperbaiki sistem penggajian:

• Deteksi anomali adalah saat algoritme pembelajaran mesin membandingkan data penggajian dengan catatan historis untuk menunjukkan lonjakan pembayaran, entri ganda, dan potongan yang tidak biasa.
• Validasi data waktu nyata berarti AI memeriksa data karyawan terkini (misalnya, kehadiran yang tercatat otomatis) serta sistem sumber (misalnya, lembar waktu kerja), lalu menunjukkan kesalahan salin-tempel manual.
• Pencegahan kesalahan prediktif berupaya memperkirakan kesalahan sebelum penggajian difinalisasi.
• Kepatuhan juga dapat diotomatisasi sampai batas tertentu dengan agen AI. Agen ini memantau perhitungan terkait staf dan penggajian, lalu segera memberi tahu HR, bahkan sebelum audit triwulanan berlangsung. Melibatkan AI dalam kepatuhan sebagai pelapor pelanggaran berarti memperjelas kemampuannya tanpa ambiguitas dan memastikan manusia tetap terlibat dalam pengambilan keputusan.
• Peramalan berbasis AI memprediksi dampak perubahan organisasi atau fluktuasi pasar terhadap biaya dan anggaran penggajian.

Menurut Laporan OpenLadger, sebuah API akuntansi terintegrasi berbasis AI, perusahaan berhasil mempercepat proses penutupan keuangan sebesar 19% dan meningkatkan kepatuhan terhadap anggaran sebesar 34%.

Ketika Tolok Ukur Mempelajari Kesalahan Anda

Sebagian besar AI untuk penggajian dipasarkan dengan kemampuan belajar berkelanjutan. Seiring waktu, sistem mempelajari seperti apa penggajian yang normal bagi organisasi Anda, lalu membandingkan setiap proses penggajian dengan tolok ukur tersebut. Kemampuan ini memang sangat berguna, tetapi di sinilah kegagalan diam-diam mulai terjadi.

Sistem yang mempelajari apa yang “normal” dari riwayat juga mempelajari kesalahan dalam riwayat tersebut. Misalnya, suatu potongan diterapkan secara keliru selama enam bulan. Sistem deteksi berhenti menandainya karena, jika dibandingkan dengan kesalahan yang sama selama enam bulan, potongan itu tidak lagi tampak aneh.

Pekerjaan lintas negara memperjelas masalah ini. Ketika Anda membayar kontraktor di banyak negara, dengan berbagai mata uang dan metode pembayaran, hal yang “tidak biasa” sering kali sah: pencapaian tahap proyek, pergantian jalur pembayaran, pekerjaan satu kali, atau dibukanya koridor pembayaran baru. Model yang disetel untuk mengurangi positif palsu pada akhirnya akan mulai menekan temuan yang benar juga, jika diberi cukup waktu.

Ketika pembayaran ditahan, ditandai, atau disesuaikan, seseorang harus menjelaskan alasannya: kepada kontraktor yang menunggu uangnya, kepada auditor beberapa bulan kemudian, dan pada akhirnya kepada regulator.

Tiga Cara Menjaga Otomatisasi Penggajian Tetap Dapat Diaudit

1. Pisahkan tugas-tugasnya. Satu asisten yang menerima data, mengklasifikasikan pekerja, menghitung upah, memeriksa kepatuhan, dan mengirim slip gaji mudah dibeli, tetapi sulit diaudit. Pasalnya, ketika hasilnya salah, Anda tidak dapat mengetahui langkah mana yang menyebabkan kesalahan. Beberapa vendor penggajian sudah beralih ke arsitektur multiagen, dengan komponen terpisah yang menangani penerimaan data lembar waktu, klasifikasi pekerja, perhitungan upah, kepatuhan, dan komunikasi. Setiap komponen menulis ke jejak audit bersama. Penyiapan itu lebih mahal, tetapi biayanya akan terbayar saat pertama kali regulator menanyakan bagaimana suatu keputusan diambil. Anda dapat menelusuri rangkaian proses itu selangkah demi selangkah.
2. Kelompokkan tindakan berdasarkan apakah tindakan itu dapat dibatalkan. Model dengan keterlibatan manusia yang kini umum dalam teknologi SDM mengelompokkan tindakan otomatis ke dalam tiga tingkatan: jalankan otomatis, eskalasikan, dan blokir. Saya akan menentukan tingkatannya berdasarkan satu kriteria: dampak jika terjadi kesalahan. Tindakan berisiko rendah yang dapat dibatalkan, seperti pengingat, permintaan dokumen, dan pemeriksaan format, dapat dijalankan sendiri. Untuk tindakan berisiko menengah, seperti menahan pembayaran sambil menunggu klarifikasi atau meminta penjelasan atas faktur, AI sebaiknya menyiapkan bukti, lalu seseorang mengambil keputusan. Tindakan yang tidak dapat dibatalkan, serta apa pun yang menyangkut mata pencaharian seseorang, tidak boleh dilakukan oleh mesin: mengakhiri hubungan kerja, mengubah status pekerja, atau menahan upah atas dasar kepatuhan. Saya menggunakan satu pertanyaan sebagai tolok ukur. Jika ternyata tindakan ini salah, bisakah kita membatalkannya sebelum orang yang terdampak menyadarinya? Jika jawabannya tidak, manusia harus memberikan persetujuan akhir.
3. Tata kelola sebelum memperluas skala. NIST AI Risk Management Framework yang saya sebutkan sebelumnya dibangun berdasarkan empat fungsi: Tata Kelola, Pemetaan, Pengukuran, dan Pengelolaan. Dalam konteks penggajian, keempatnya menjadi empat pertanyaan. Siapa yang bertanggung jawab atas hasilnya: bagian penggajian, keuangan, kepatuhan, atau vendor? Berdasarkan AI Act, kewajiban pihak yang menerapkan sistem berada pada organisasi yang menjalankannya. Jadi, «vendor» bukan jawaban yang bisa dipilih, sekalipun kini banyak produk menyandang label «siap untuk EU AI Act». Perangkat mana saja yang benar-benar menggunakan AI, mengingat begitu banyak perangkat lunak yang dibeli sebagai sistem berbasis aturan kini sudah dilengkapi pembelajaran mesin? Seberapa sering orang mengesampingkan keputusan AI—angka yang paling saya perhatikan—karena tingkat pengesampingan yang nyaris nol jarang berarti modelnya sempurna dan sering kali berarti manusia sudah berhenti membaca? Lalu, apa yang akan dilakukan jika model tidak tersedia saat proses tutup buku, atau hasilnya tak lagi dapat dipercaya? Apakah masih ada anggota tim yang tahu cara menjalankan penggajian secara manual? Bagi pemimpin SDM dan penggajian yang berencana menggunakan AI dalam skala besar, kerangka kerja ini layak disusun sejak dini.

Era AI memberi perusahaan kesempatan untuk melakukan pekerjaan yang kurang menarik: mendata perangkat yang dilengkapi AI, membuat log yang mencatat alasan di balik keputusan dan bukan hanya hasilnya, menunjuk penanggung jawab untuk setiap keputusan otomatis, serta meninjau metrik pengesampingan secara berkala.

Saat kewajiban berisiko tinggi mulai berlaku, auditor tidak akan bertanya, «Apakah Anda menggunakan AI?» Mereka akan bertanya, «Tunjukkan alasan pembayaran ini dilakukan, ditahan, atau diubah.» Perusahaan yang mampu menjawab dalam hitungan menit akan berhasil memperluas otomatisasi mereka.