ActionAI Menerima $10M untuk Membawa Akuntabilitas dan Keandalan ke AI Perusahaan

Adopsi kecerdasan buatan di perusahaan telah dipercepat dengan cepat, tetapi mengembangkannya di luar proyek pilot tetap menjadi tantangan yang berkelanjutan. Alasan utama adalah kepercayaan. Sementara karyawan semakin banyak menggunakan alat kecerdasan buatan dalam pekerjaan sehari-hari, organisasi masih ragu untuk mengandalkannya untuk operasi inti di mana akurasi dan akuntabilitas sangat penting.

Celah itu adalah apa yang ActionAI coba tutupi. Perusahaan ini telah mengumumkan putaran benih sebesar $10 juta untuk membangun infrastruktur yang membuat sistem kecerdasan buatan cukup andal untuk penggunaan perusahaan yang kritis.

Mengapa Adopsi AI Tertunda

Meskipun ada eksperimen yang luas, sebagian besar inisiatif kecerdasan buatan perusahaan gagal mencapai produksi. Data internal sering tidak diperiksa, output dapat tidak konsisten, dan kesalahan—terutama halusinasi—mengenalkan risiko operasional yang nyata.

Studi menunjukkan bahwa sementara sebagian besar karyawan sekarang menggunakan alat kecerdasan buatan di tempat kerja, banyak yang melakukannya tanpa memverifikasi akurasi. Pada saat yang sama, sebagian besar kasus penggunaan kecerdasan buatan perusahaan tetap terjebak dalam mode pilot. Masalahnya bukan lagi apakah kecerdasan buatan mampu, tetapi apakah dapat dipercaya.

Ini sangat bermasalah di industri seperti keuangan, asuransi, kesehatan, dan logistik, di mana kesalahan dapat memiliki konsekuensi regulasi, keuangan, atau hukum.

Membangun Lapisan Keandalan untuk AI

Pendekatan ActionAI adalah untuk memperlakukan keandalan sebagai lapisan dasar daripada sebagai sesuatu yang ditambahkan kemudian. Platform ini dirancang untuk memantau dan mengevaluasi sistem kecerdasan buatan di seluruh siklus hidup—dari data pelatihan hingga output akhir.

Alih-alih hanya fokus pada kinerja model, sistem ini memetakan bagaimana data mengalir melalui setiap tahap tumpukan kecerdasan buatan. Ini memungkinkan tim untuk mengidentifikasi secara tepat di mana kegagalan terjadi, apakah pada tingkat input, selama pemrosesan, atau pada tahap output.

Komponen kunci dari platform ini adalah kemampuan untuk memecahkan masalah secara real-time. Ketika sesuatu salah, tim dapat mengisolasi penyebab akar dengan cepat dan mengatasi kasus tepi sebelum mereka berkembang menjadi masalah yang lebih besar.

Mengenalkan Pengecualian yang Dapat Dijelaskan

Salah satu elemen yang paling khas dari platform ini adalah sistem yang disebut Pengecualian yang Dapat Dijelaskan (ExEx). Alih-alih memaksa sistem kecerdasan buatan untuk bertindak dengan output yang tidak pasti, ExEx mendeteksi ketika model kekurangan kepercayaan dan mengarahkan tugas ke manusia.

Apa yang membuat pendekatan ini terkenal adalah bahwa itu tidak hanya mengidentifikasi masalah—itu menyediakan alasan. Peninjau manusia menerima konteks yang menjelaskan mengapa kecerdasan buatan tidak yakin, memungkinkan mereka untuk membuat keputusan yang lebih cepat dan lebih terinformasi.

Ini menciptakan alur kerja manusia-dalam-litar yang terstruktur yang tidak melambatkan operasi tetapi malah bertindak sebagai pengaman. Ini memastikan bahwa output yang tidak pasti atau berisiko tinggi tidak pernah melewati sistem tanpa terdeteksi.

Dari Pemantauan ke Kontrol Terus-Menerus

Di luar penerapan, platform ini terus memantau kinerja kecerdasan buatan di produksi. Ini melacak bagaimana sistem merespons data baru, kondisi yang berubah, atau instruksi yang diperbarui.

Ketika kinerja menurun atau anomali muncul, sistem secara otomatis mengidentifikasinya, membantu organisasi mempertahankan konsistensi seiring waktu. Ini sangat penting karena model kecerdasan buatan dapat memburuk atau berperilaku tidak terduga ketika terkena input baru.

Tujuan adalah untuk beralih dari penerapan kecerdasan buatan statis ke sistem yang dikelola terus-menerus yang beradaptasi tanpa mengorbankan keandalan.

ActionAI berfokus pada sektor di mana presisi tidak dapat dinegosiasikan. Ini termasuk layanan keuangan, manufaktur, ritel, asuransi, rantai pasokan, dan sistem hukum.

Di lingkungan ini, bahkan kesalahan kecil dapat menciptakan masalah yang berantai. Dengan memperkenalkan pengawasan, kemampuan pelacakan, dan penanganan pengecualian yang terstruktur, platform ini dirancang untuk membuat kecerdasan buatan layak di konteks di mana sebelumnya dianggap terlalu berisiko.

Perubahan Menuju AI yang Bertanggung Jawab

Bagi pendiri Miriam Haart, masalah inti bukan hanya meningkatkan kinerja kecerdasan buatan, tetapi membuat sistem yang bertanggung jawab dari awal.

Arsitektur perusahaan ini berfokus pada memvalidasi data sebelum memasuki sistem, memantau perilaku selama eksekusi, dan memastikan output dapat dijelaskan dan diaudit setelahnya. Visibilitas ujung-ke-ujung ini memungkinkan organisasi untuk melampaui eksperimen dan memasuki penerapan skala penuh.

Implikasi yang lebih luas dari putaran pendanaan ini adalah perubahan dalam cara perusahaan memikirkan kecerdasan buatan. Alih-alih memperlakukannya sebagai alat yang ditumpangkan pada sistem yang ada, perusahaan mulai memandangnya sebagai infrastruktur inti—sesuatu yang harus memenuhi standar yang sama dengan sistem kritis lainnya.

ActionAI memposisikan diri di persimpangan itu, di mana kinerja saja tidak lagi cukup. Keandalan, transparansi, dan kontrol menjadi persyaratan yang mendefinisikan untuk adopsi kecerdasan buatan perusahaan.

Jika elemen-elemen tersebut dapat distandarisasi, kecerdasan buatan mungkin akhirnya berpindah dari pilot yang terisolasi ke operasi yang terintegrasi sepenuhnya di seluruh perusahaan.