Opini

AI Mulai Hadir di PC Kita—Tetapi Siapa yang Mengendalikan Apa yang Bisa Dilihatnya?

Adlin Pertishya
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaPemrosesan AI lokal tidak secara otomatis menjamin privasi atau keamanan bagi agen di…
Lihat selengkapnya
  • Pemrosesan AI lokal tidak secara otomatis menjamin privasi atau keamanan bagi agen di perangkat.
  • Agen harus beroperasi dengan akses hak istimewa minimum yang dibatasi pada apa yang dibutuhkan setiap alur kerja tertentu.
  • Pengguna memerlukan kontrol yang transparan dan dapat dicabut atas apa yang dapat dilihat dan dilakukan agen.

Agen AI mulai beranjak dari jendela obrolan dan masuk ke sistem operasi, aplikasi, serta berkas yang digunakan orang setiap hari.

PC Windows baru dan perangkat lunak yang dirilis dalam beberapa bulan terakhir membuka era baru alur kerja AI otonom bertahap bagi pengguna umum dan lingkungan perusahaan. Peralihan ini bukan lagi sekadar prediksi teknologi.

PC Windows NVIDIA bertenaga RTX mendukung penggunaan agen AI secara lokal, sementara Perplexity telah memperluas kemampuan agennya ke komputer Windows yang kompatibel sehingga memungkinkan alur kerja yang melibatkan berkas lokal dan aplikasi terhubung. Sementara itu, Microsoft sedang mengembangkan perlindungan untuk mengendalikan cara agen mengakses sumber daya dan bertindak.

Namun, otonomi yang lebih besar membawa risiko keamanan yang lebih besar. Pada 19 Oktober, Wakil Presiden Eksekutif Bidang Keamanan Microsoft, Hayete Gallot, memperingatkan bahwa organisasi harus berbuat lebih banyak untuk mengamankan “agen internal otonom”. Ia mencatat bahwa agen AI sering kali memiliki hak akses berlebihan dan dapat mengakses data sensitif, perangkat, serta sistem saat mengambil keputusan dalam proses penting.

Strategi keamanan Windows Microsoft bertumpu pada pembatasan, izin yang terbatas, pengawasan yang terbatas, serta kekhawatiran yang kian besar bahwa kesalahan agen dapat berdampak lebih luas daripada sekadar jawaban yang keliru. Agen dapat membocorkan informasi sensitif, mengubah berkas penting, atau memicu aktivitas yang tidak diinginkan dalam aplikasi bisnis.

AI Lokal Tidak Otomatis Berarti AI Privat

Penggunaan agen AI di PC dapat membantu mengurangi jumlah data sensitif yang dikirim ke layanan berbasis cloud, tetapi pemrosesan lokal bukan jaminan keamanan menyeluruh.

Model yang berjalan di perangkat pun masih dapat mengakses terlalu banyak berkas, memiliki keamanan yang buruk, atau terhubung secara tidak aman ke aplikasi lain.

“Masalahnya tidak selalu terletak pada model AI; sering kali masalahnya adalah tata kelola organisasi,” kata Bayron Quintero, CEO sekaligus salah satu pendiri iData Global, perusahaan yang mengkhususkan diri dalam solusi AI di seluruh kawasan Amerika.

Perusahaan dapat memberikan akses yang terlalu luas atau terlalu terbatas ke data, aplikasi, dan proses bisnis, ujarnya kepada Unite.AI. Agen mungkin diberi hak akses yang tidak sesuai dengan tugas yang diharapkan darinya.

“Tantangannya adalah memastikan agen bekerja berdasarkan prinsip hak akses minimum, dengan akses hanya ke data, sistem, dan tindakan yang diperlukan untuk alur kerja tertentu,” kata Quintero. Artinya, akses hanya diberikan ke data, sistem, dan tindakan yang diperlukan untuk alur kerja tertentu.

Ia menyebut kepemilikan data yang jelas, kontrol akses berbasis peran, serta pemantauan berkelanjutan atas interaksi dengan sistem internal dan pihak ketiga sebagai perlindungan yang penting.

Quintero menegaskan bahwa AI lokal yang aman itu tidak ada.

Izin yang berlebihan, enkripsi yang lemah, pemantauan yang tidak memadai, dan integrasi yang tidak aman dapat membuat agen yang berjalan di perangkat sama berisikonya dengan agen berbasis cloud—atau bahkan lebih berisiko.

Keamanan bukan hanya soal di mana model suatu sistem dijalankan, tetapi juga tentang cara sistem itu dikonfigurasi dan dikelola.

Batas Baru Adalah Izin Akses

Bagi pengguna umum, pertanyaannya adalah apakah akses yang dimiliki agen AI sesuai dengan tugasnya.

Agen tidak perlu memindai seluruh drive jika hanya diminta merangkum satu dokumen. Alat untuk mengatur foto tidak semestinya otomatis membaca data keuangan atau dapat mengirim pesan. Izin akses harus dibatasi secara ketat, transparan, dan dapat dicabut.

Model akun agen dan ruang kerja di Microsoft merupakan langkah menuju pemisahan aktivitas agen dari sesi pengguna. Namun, perlindungannya harus efektif, bukan hanya saat demonstrasi.

Panduan keamanan agen Windows dari Microsoft menyerukan otorisasi pengguna, pencatatan aktivitas, serta mekanisme penerapan pendekatan yang membatasi agen hanya pada akses yang mereka perlukan. Perusahaan dan pengembang perlu memantau respons agen terhadap instruksi menyesatkan dalam dokumen, situs web, atau pesan.

Saat menjalankan tugas yang telah diotorisasi, agen dapat menemukan konten yang tidak tepercaya. Jika agen menganggap teks berbahaya sebagai perintah, hal itu dapat menimbulkan masalah keamanan besar karena informasi tersebut mudah diakses.

Persetujuan manusia dan akses dengan hak minimum harus berjalan beriringan dengan pembatasan untuk tindakan sensitif.

Kemudahan Penggunaan Membutuhkan Batas yang Jelas

PC AI tidak hanya akan dinilai dari banyaknya pekerjaan yang dapat diotomatisasi oleh agen, tetapi juga dari tingkat kepercayaan pengguna dalam membagikan data pribadi dan profesional.

Dengan pemrosesan lokal, AI agen dapat meningkatkan kecepatan dan mengurangi paparan data tertentu, tetapi hal itu tidak menghilangkan kebutuhan akan izin dan pengawasan.

Prinsipnya harus sederhana: agen hanya boleh mengakses hal-hal yang diperlukan untuk tugasnya, dan pengguna harus dapat memahami, melacak, serta memblokir tindakan agen.

Kendali tidak boleh menjadi pertimbangan belakangan seiring komputer semakin mampu bertindak untuk kita. Kendali harus menjadi bagian dari rancangan sejak awal.

Adlin Pertishya adalah reporter teknologi dan bisnis yang telah bekerja untuk Finance Outlook India, Silicon India, StartupBeat, dan lainnya.