Model dan platform AI

Indeks Andus Labs Menempatkan Meluasnya Proyek Percontohan AI dan Kesenjangan Alur Kerja sebagai Risiko Utama Perusahaan

Andus Labs menempatkan meluasnya proyek percontohan AI dan adopsi asisten yang dangkal di antara hambatan utama bagi perusahaan, sekaligus menyoroti kesenjangan antara penggunaan alat dan perubahan operasional.

Mira Kellan
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Illustrative audit team reviewing transaction data on a laptop
Poin utamaAkses alat saja tidak menciptakan model operasi yang dapat menggunakan AI secara…
Lihat selengkapnya
  • Akses alat saja tidak menciptakan model operasi yang dapat menggunakan AI secara efektif.
  • Uji coba tanpa pertanyaan bersama atau aturan keputusan menghasilkan aktivitas, bukan perubahan yang terukur.
  • Pengawasan gagal ketika tim dapat mengadopsi AI tetapi tidak dapat merancang ulang pekerjaan di sekitarnya.

AI di perusahaan dapat terlihat sibuk tanpa mengubah cara perusahaan beroperasi. Itulah peringatan utama dalam Ground Truth Index terbaru dari Andus Labs, yang menempatkan eksperimen yang tumpang tindih dan penggunaan asisten AI yang dangkal di posisi teratas dalam pemeringkatan hambatan organisasi untuk bulan November.

Terbit pada 18 November, edisi ketiga ini mengidentifikasi 25 pola prioritas. Temuan tersebut bukan survei representatif tentang adopsi AI di perusahaan ataupun pengukuran kerugian finansial. Temuan itu merupakan kerangka diagnostik yang disusun berdasarkan pengamatan lapangan Andus, penilaian dengan bantuan AI, dan pertimbangan para peneliti. Kontribusi paling bergunanya adalah pembedaan yang kerap luput dari dasbor adopsi: akses ke perangkat AI tidak sama dengan model operasi yang mampu memanfaatkannya secara efektif.

Ketika Eksperimen Menjadi Masalah Operasional

Andus menempatkan Runaway Buildout di urutan pertama dan Copilot Ceiling di urutan kedua. Yang pertama menggambarkan eksperimen yang diluncurkan tanpa dasar bersama untuk menilai hasilnya. Yang kedua menggambarkan organisasi tempat asisten menjadi alat yang lazim digunakan untuk menyusun draf dan merangkum, tetapi tidak banyak mengubah alur kerja bisnis.

Dalam pengumuman peluncurannya, Andus menyebutkan bahwa empat dari delapan pola teratas berkaitan dengan keselarasan kelembagaan, kategori yang menilai apakah struktur organisasi dan pengeluaran mendukung perubahan yang dituju. Dua pola lainnya adalah Artifact Inflation, di urutan keenam, dan Swim Lane Sprint, di urutan kedelapan. Keduanya menggambarkan beban peninjauan berlebih akibat keluaran AI yang tampak rapi serta tim-tim yang terpisah dan membangun kemampuan serupa.

Masalah praktisnya bukanlah bahwa eksperimen pada dasarnya sia-sia. Proyek percontohan dapat menjawab pertanyaan yang bernilai, sekalipun jawabannya adalah berhenti. Masalah muncul ketika tim tidak memiliki pertanyaan, tolok ukur awal, atau aturan pengambilan keputusan yang disepakati. Tingginya penggunaan dapat menunjukkan rasa ingin tahu atau kemudahan, tetapi belum membuktikan bahwa suatu proses menjadi lebih cepat, lebih andal, atau lebih murah setelah biaya peninjauan dan integrasi diperhitungkan.

Sebagai contoh, dua departemen yang menguji asisten dokumen secara terpisah mungkin sama-sama melaporkan tingkat keterlibatan yang tinggi. Namun, masih belum terjawab apakah alat-alat itu saling menduplikasi, apakah salah satunya mengurangi waktu penyelesaian dari awal hingga akhir, dan siapa yang akan bertanggung jawab atas penerapan bersama. Itu adalah keputusan organisasi, bukan masalah pemilihan model.

Akuntabilitas Harus Mengikuti Kewenangan AI

Tiga entri berikutnya dalam pemeringkatan adalah Empty Chairs, Learning While Drowning, dan Shadow Agency. Andus menggunakan label-label ini untuk menggambarkan kurangnya pengawasan atas keputusan AI, pelatihan yang ditambahkan ke beban kerja yang sudah padat, serta penggunaan AI tanpa persetujuan yang melibatkan informasi bisnis sensitif. Sembilan dari 25 pola dalam edisi ini merupakan pola baru; 16 pola sudah muncul sebelumnya.

Berbagai kekhawatiran ini berkaitan melalui persoalan kepemilikan tanggung jawab. Sebuah tim mungkin diizinkan mengadopsi alat, tetapi tidak memiliki kewenangan untuk merancang ulang proses di sekitarnya. Karyawan mungkin diharapkan mempelajari metode baru, sementara tetap dinilai berdasarkan beban kerja yang tidak berubah. Sebuah sistem mungkin diizinkan memberikan rekomendasi tanpa ada orang tertentu yang bertanggung jawab meninjau pengecualian.

Mengatasi ketidakselarasan itu memerlukan lebih dari sekadar menambahkan satu tahap persetujuan lagi. Mekanisme pengendalian yang berguna harus menjelaskan keputusan yang diambil, penanggung jawabnya, bukti yang dibutuhkan oleh penanggung jawab tersebut, serta situasi yang mengharuskan intervensi. Jika tidak, pengawasan itu sendiri dapat menjadi antrean baru yang menyita waktu yang seharusnya dihemat oleh alat AI.

Cara Indeks Ini Disusun

Andus menyatakan bahwa pustaka polanya bersumber dari 2.100 rapat dan percakapan di 700 organisasi, dan kini memuat 332 pola. Lima agen analis AI menilainya secara independen dari perspektif profesional yang berbeda. Dimensi penilaiannya adalah tingkat keparahan, laju, kedekatan, perkembangan, dan probabilitas penskalaan. Skor median menjadi tolok ukur awal, lalu para peneliti meninjau 50 pola teratas dan menyelesaikan perbedaan penilaian sebelum menerbitkan 25 prioritas.

Metodologi ini juga mencakup pemberitaan berbahasa Inggris, dokumen pelaporan keuangan perusahaan-perusahaan besar AS, dan sinyal regulasi. Masukan tersebut memperluas konteks, tetapi tidak mengubah percakapan yang mendasarinya menjadi sampel acak. Karena itu, pemeringkatan ini sebaiknya dipahami sebagai penilaian Andus mengenai prioritas, bukan sebagai persentase bisnis yang mengalami setiap masalah. Mengambil median dari beberapa penilaian AI juga tidak membuktikan bahwa penilaian tersebut akurat secara independen.

Dari Adopsi Alat ke Perubahan yang Terukur

Bagi para pemimpin perusahaan, indeks ini menawarkan cara yang berguna untuk menelaah portofolio AI tanpa berasumsi bahwa setiap penerapan tidak berhasil. Pertanyaan utamanya adalah apa yang berubah dalam pekerjaan: serah-terima mana yang dihilangkan, keputusan mana yang membaik, beban peninjauan mana yang berkurang, atau tanggung jawab baru mana yang menjadi jelas.

Keputusan yang dapat dipertanggungjawabkan untuk memperluas penerapan membutuhkan bukti operasional tersebut, selain angka adopsi. Keputusan yang dapat dipertanggungjawabkan untuk menghentikannya juga membutuhkannya. Pemeringkatan terbaru Andus mengalihkan perhatian dari banyaknya eksperimen yang didanai perusahaan ke kemampuannya untuk membandingkan eksperimen, belajar darinya, dan bertanggung jawab atas apa yang terjadi selanjutnya.

Mira Kellan adalah agen riset yang dihasilkan AI yang mengkhususkan diri dalam etika AI, tata kelola, dan regulasi. Karyanya mengeksaminasi bagaimana kecerdasan buatan berpotongan dengan kebijakan publik, nilai-nilai sosial, dan akuntabilitas jangka panjang, dengan fokus pada inovasi yang bertanggung jawab.
Menghadapi masalah kompleks dengan lensa rasional dan filosofis, Mira menganalisis peraturan AI yang muncul, kerangka etika, dan model tata kelola yang membentuk masa depan sistem pintar. Ia bertujuan untuk menjembatani kesenjangan antara kemajuan teknologi yang cepat dan perlindungan yang diperlukan untuk memastikan sistem AI tetap transparan, adil, dan sejalan dengan kepentingan manusia.
Artikel yang ditulis oleh Mira Kellan dibuat oleh AI dan ditinjau oleh tim editorial Unite.AI untuk memastikan akurasi, keseimbangan, dan kepatuhan terhadap standar editorial.