Perubahan dari Kemampuan AI ke Kontrol AI

Serangkaian insiden besar yang melibatkan penyedia AI terdepan telah membuat bisnis bertanya-tanya tentang sesuatu yang, sampai baru-baru ini, banyak yang tidak mempertimbangkannya secara serius. Apa yang terjadi ketika teknologi yang Anda bangun untuk operasi Anda tidak lagi sepenuhnya berada di bawah kendali Anda?

Pertama kali, Anthropic mengalami penutupan, yang diperintahkan oleh Pemerintah AS dengan hanya 90 menit pemberitahuan. Kemudian, Grok Build mengalami skandal privasi. Baru-baru ini, OpenAI mengakui bahwa agen mereka melanggar Hugging Face secara otonom, menimbulkan pertanyaan baru tentang tata kelola ketika sistem AI menjadi lebih mampu.

Secara individual, setiap insiden tersebut signifikan. Diambil bersama, mereka menunjukkan sesuatu yang lebih besar. Mereka mengingatkan kita bahwa AI berada dalam sistem politik, hubungan komersial, dan lingkungan regulasi yang organisasi sering memiliki pengaruh yang sangat kecil.

Mengerti Apa yang Dimaksud dengan Kedaulatan — dan Apa yang Tidak

Saya telah memperhatikan perubahan dalam percakapan tentang kedaulatan selama setahun terakhir. Pelanggan biasanya bertanya di mana data mereka akan disimpan. Sekarang, mereka lebih mungkin bertanya siapa yang sebenarnya mengendalikan sistem AI mereka, dan apa yang terjadi jika mereka tiba-tiba kehilangan akses ke sana. Itu adalah pertanyaan yang lebih sulit untuk dijawab, karena kedaulatan meluas jauh melampaui geografi.

Intinya, AI yang berdaulat adalah tentang kepemilikan: dapat mengirimkan AI tanpa memperkenalkan ketergantungan yang dapat mengancam ketahanan, kelanjutan, atau fleksibilitas jangka panjang, terlepas dari di mana model awalnya dikembangkan. Salah satu cara saya menjelaskannya adalah dengan membandingkan agen AI dengan karyawan. Mereka semakin menjadi anggota digital dari tenaga kerja, mengambil tanggung jawab untuk tugas yang sebelumnya dilakukan oleh orang. Jika suatu organisasi menyewa tenaga kerja dari satu penyedia AI, maka mereka juga mengalihkan bagian kritis dari kemampuan operasional mereka.

Itu tidak berarti setiap organisasi perlu memiliki setiap bagian dari tumpukan AI. Daya dan infrastruktur fisik berada di bagian bawah, diikuti oleh komputasi, kemudian model itu sendiri dan akhirnya aplikasi yang berjalan di atasnya. Setiap lapisan dapat dimiliki oleh organisasi yang berbeda. Pada satu ujung spektrum, data tetap di dalam negeri sementara semua yang lain dikendalikan di tempat lain. Lebih jauh, model berjalan secara lokal, tetapi pada infrastruktur yang dioperasikan oleh orang lain. Lebih jauh lagi, organisasi menjalankan model mereka sendiri. Pada ujung yang paling dalam, mereka mengendalikan infrastruktur juga. Di mana suatu organisasi memilih untuk berada pada spektrum tersebut tergantung pada apa yang tidak dapat mereka hilangkan.

Kedaulatan Harus Diverifikasi

Semakin banyak organisasi yang berbicara tentang AI yang berdaulat, semakin penting untuk membedakan antara kedaulatan yang sebenarnya dan pemasaran yang cerdas. Tidak semua penyedia transparan tentang lapisan mana dari tumpukan yang mereka kendalikan, dan jika cukup banyak vendor mulai menggambarkan produk mereka sebagai berdaulat, kata itu bisa dengan cepat kehilangan nilainya dengan cara yang sama seperti klaim keberlanjutan di industri lain.

Itulah di mana konsep “pencucian kedaulatan” masuk. Suatu solusi dipasarkan sebagai kontrol lokal karena kontraknya domestik, tim dukungan berbasis di dalam negeri, dan data tidak pernah meninggalkan perbatasan nasional, sementara infrastruktur di bawahnya masih dioperasikan oleh penyedia asing. Suatu organisasi di Inggris bisa membeli layanan AI berdaulat dari penyedia Inggris dan masih menemukan bahwa sistem yang mereka andalkan pada akhirnya berada di infrastruktur AS.

Itu tidak secara otomatis membuatnya pilihan yang salah. Bagi banyak organisasi, itu mungkin keseimbangan yang tepat antara biaya, kemampuan, dan kontrol. Tetapi itu harus menjadi keputusan yang disadari.

Tantangan Sewa vs Manfaat Kepemilikan

Mudah untuk melihat mengapa penyedia AI terdepan AS menjadi default. Mereka menawarkan model yang paling mampu, berinvestasi berat dalam infrastruktur, dan konsisten bergerak lebih cepat dari sisa pasar. Dikombinasikan dengan kekhawatiran geopolitik yang tumbuh tentang AI Cina, mereka menjadi pilihan alami bagi organisasi yang ingin mengirimkan AI pada skala besar.

Itu momentum telah menyebar jauh melampaui pengadopsi awal. Bahkan di industri yang sangat diatur, di mana teknologi baru biasanya diperiksa lebih dekat, adopsi telah dipercepat. 75% dari perusahaan jasa keuangan secara aktif menggunakan AI. Begitu juga 79% dari profesional hukum, sementara 65% dari klinisi mengatakan bahwa penggunaan mereka terhadap alat AI yang disediakan organisasi telah meningkat selama setahun terakhir. Bagi banyak organisasi tersebut, memilih penyedia AS hanya membuat keputusan komersial.

Percakapan tersebut menjadi lebih nuansa ketika AI masuk lebih dalam ke operasi sehari-hari. Biaya adalah bagian dari gambaran. Harga token terus menurun, tetapi pengeluaran AI perusahaan terus meningkat karena penggunaan melampaui pengurangan harga, dengan 93% dari organisasi sudah melampaui anggaran AI mereka. Ketahanan adalah yang lain. Jika penyedia eksternal mengalami gangguan, mengubah syarat komersial, atau menghadapi intervensi pemerintah, organisasi yang menjalankan beban kerja kritis memiliki sedikit kontrol atas hasilnya.

Mengapa Strategi Keluar yang Baik Memerlukan Kemitraan Penyedia yang Tepat

Kedaulatan bukanlah sesuatu yang organisasi dapat nyalakan semalam. Bagi bisnis yang diatur, memindahkan beban kerja AI biasanya membutuhkan tiga hingga empat tahun, dan sangat sedikit dari waktu itu dihabiskan untuk memindahkan teknologi. Sebagian besar waktu itu digunakan untuk tata kelola, pengadaan, dan pekerjaan operasional yang diperlukan untuk memindahkan proses kritis tanpa mengganggu organisasi.

Itulah mengapa perencanaan harus terjadi jauh sebelum siapa pun perlu meninggalkan penyedia. Sementara 72% bisnis mempertimbangkan AI yang berdaulat dalam rencana jalan 2026 mereka, hanya sekitar tiga dari sepuluh yang memiliki strategi rinci, anggaran, atau rencana migrasi yang siap. Jelas ada keinginan untuk mengurangi ketergantungan, tetapi jauh lebih sedikit organisasi yang telah memahami apa yang sebenarnya terlibat jika mereka harus membuat perubahan.

Itu dimulai dengan memahami beban kerja mana yang paling penting, apa yang sebenarnya akan dikeluarkan untuk keluar, dan apakah rencana migrasi telah diuji sebelum mereka pernah dibutuhkan. Proses itu juga mengubah cara mereka mengevaluasi vendor. Tiga pertanyaan biasanya memberi tahu Anda sebagian besar apa yang perlu Anda ketahui. Apakah klaim kedaulatan dapat diverifikasi secara independen, kapan pun pelanggan memilih? Apakah verifikasi itu meluas ke setiap lapisan tumpukan, atau hanya lapisan yang disebutkan dalam kontrak? Dan jika penyedia memutuskan untuk, apakah mereka dapat mengakses data pelanggan? Jika jawaban dari pertanyaan terakhir itu ya, maka apa yang ditawarkan adalah kebijakan bukan jaminan. Secara independen, kapan pun pelanggan memilih? Apakah verifikasi itu meluas ke setiap lapisan tumpukan, atau hanya lapisan yang disebutkan dalam kontrak? Dan jika penyedia memutuskan untuk, apakah mereka dapat mengakses data pelanggan? Jika jawaban dari pertanyaan terakhir itu ya, maka apa yang ditawarkan adalah kebijakan bukan jaminan, secara independen, kapan pun pelanggan memilih? Apakah verifikasi itu meluas ke setiap lapisan tumpukan, atau hanya lapisan yang disebutkan dalam kontrak? Dan jika penyedia memutuskan untuk, apakah mereka dapat mengakses data pelanggan? Jika jawaban dari pertanyaan terakhir itu ya, maka apa yang ditawarkan adalah kebijakan bukan jaminan, secara independen, kapan pun pelanggan memilih? Apakah verifikasi itu meluas ke setiap lapisan tumpukan, atau hanya lapisan yang disebutkan dalam kontrak? Dan jika penyedia memutuskan untuk, apakah mereka dapat mengakses data pelanggan? Jika jawaban dari pertanyaan terakhir itu ya, maka apa yang ditawarkan adalah kebijakan bukan jaminan.