Peran Jaringan yang Kerap Terabaikan dalam Infrastruktur AI

Organisasi menggelontorkan banyak dana untuk GPU, server, model, dan kapasitas komputasi yang dibutuhkan untuk menerapkan AI di lingkungan produksi. Namun, AI agentik menuntut hal yang berbeda dari jaringan.

Biasanya, chatbot menunggu seseorang mengajukan pertanyaan. Sementara itu, agen dapat diberi tugas, berinteraksi dengan berbagai sistem dan aplikasi, mengambil keputusan, serta bertindak. Seiring agen menangani lebih banyak pekerjaan di seluruh perusahaan, sebagian besar aktivitas itu akan berlangsung tanpa seseorang di depan papan ketik.

Menurut laporan Keadaan Infrastruktur di Era AI Agentik dari Google Cloud, 83% organisasi menyatakan bahwa mereka perlu meningkatkan infrastruktur untuk mendukung sistem otonom yang siap digunakan di lingkungan produksi. Meskipun daya komputasi merupakan salah satu bagian dari kebutuhan tersebut, organisasi juga perlu memprioritaskan jaringan mereka karena jaringan harus mendukung aktivitas yang tidak mengikuti pola kerja karyawan pada umumnya.

Berakhirnya Jaringan 9-ke-5

Selama puluhan tahun, jaringan perusahaan pada umumnya dirancang berdasarkan cara orang bekerja. Karyawan terhubung ke aplikasi, mengakses data, dan menggunakan layanan cloud sepanjang hari kerja. Aktivitas ini menghasilkan pola lalu lintas yang relatif mudah diprediksi dan menjadi dasar perancangan arsitektur serta pengoperasian jaringan.

AI dan sistem agentik mengubah keadaan tersebut. Agen dapat menjalankan tugas dan berinteraksi dengan aplikasi, API, sumber data, serta agen lain kapan saja, sehingga lalu lintas di jaringan kampus, pusat data, lingkungan cloud, dan WAN menjadi lebih berkelanjutan dan dinamis. Seiring penerapan meluas, jaringan harus mendukung ketergantungan yang semakin kompleks. Karena itu, kinerja, latensi, ketahanan, dan keamanan menjadi faktor penting agar sistem dapat beroperasi dengan andal.

Tuntutan ini juga menyingkap keterbatasan model NetOps tradisional, yang mengandalkan alat pemantauan untuk mendeteksi masalah dan operator manusia untuk menyelidiki serta mengatasinya. NetOps generasi berikutnya harus melampaui pengelolaan perangkat dan peristiwa satu per satu, lalu memahami keterkaitan aplikasi dan agen secara menyeluruh dari awal hingga akhir. Untuk itu, diperlukan visibilitas yang lebih mendalam, korelasi berbasis AI dan analisis akar masalah, serta otomatisasi cerdas untuk mengoptimalkan sistem secara proaktif dan memperbaiki masalah.

Peluangnya adalah beralih dari jaringan yang dikelola dengan bantuan AI ke jaringan yang dioperasikan menggunakan kecerdasan berbasis AI dan otonomi yang terkendali. Tim jaringan dapat mengurangi waktu untuk memecahkan masalah berulang dan mencurahkan lebih banyak waktu untuk menetapkan kebijakan, menyusun batasan, serta mengoptimalkan arsitektur. Berakhirnya jaringan 9-ke-5 bukan sekadar soal jaringan yang beroperasi 24/7, melainkan perubahan mendasar pada faktor yang mendorong kebutuhan jaringan dan cara jaringan harus dirancang, diamankan, serta dioperasikan untuk mendukung ekosistem sistem cerdas dan otonom yang selalu aktif.

Dari Segelintir Alat AI ke Kumpulan Agen

Sebagian besar organisasi masih berada pada tahap ketika AI mudah dikelola, dengan kopilot, asisten, dan aplikasi AI yang digunakan di berbagai bagian bisnis.

Namun, IBM menemukan bahwa hanya 11% pemimpin yang disurvei menyatakan organisasinya sepenuhnya siap menghadapi skala penerapan agen AI yang diperkirakan terjadi dalam 12 bulan ke depan. Seiring meningkatnya penerapan, tim jaringan akan menghadapi lebih banyak aktivitas yang perlu dipahami dan lebih banyak masalah yang harus diselidiki, sering kali tanpa tambahan personel untuk menangani pekerjaan tersebut.

Karena itu, penting untuk mengurangi waktu yang dihabiskan teknisi untuk menelusuri dasbor, mengumpulkan informasi, dan meneruskan pertanyaan rutin ke pihak lain. Memberikan informasi operasional yang relevan dan panduan pemecahan masalah kepada tim saat mereka membutuhkannya juga dapat memudahkan berbagi keahlian antartim, alih-alih mengandalkan segelintir spesialis berpengalaman untuk menjawab setiap pertanyaan. Keahlian staf lebih baik digunakan untuk mengambil keputusan yang memerlukan pertimbangan, seperti menetapkan kebijakan, menentukan batasan, dan mengevaluasi risiko.

Jaringan Perlu Dilibatkan dalam Perumusan Strategi AI

Perencanaan AI sering kali dimulai dengan model, aplikasi, data, dan sumber daya komputasi. Namun, jaringan seharusnya dilibatkan dalam pembahasan tersebut sejak awal. Agen membutuhkan konteks yang tepat untuk menghasilkan rekomendasi yang bermanfaat. Dalam operasi jaringan, ini berarti memahami keterkaitan informasi tentang pengguna, perangkat, dan aplikasi, bukan hanya melihat peringatan atau metrik secara terpisah.

Konteks tersebut membantu tim menemukan sumber masalah dengan lebih cepat dan menentukan langkah selanjutnya. Pengawasan manusia tetap penting, terutama saat agen semakin otonom. Hal ini mengharuskan adanya batasan yang dirumuskan dengan jelas mengenai tindakan yang dapat mereka lakukan secara mandiri, serta kontrol untuk menegakkan batasan tersebut. Sebelum memutuskan untuk menindaklanjuti rekomendasi, tim juga harus dapat melihat alasan rekomendasi itu diberikan dan informasi yang menjadi dasarnya.

Gartner memperkirakan bahwa pada 2029, setidaknya 70% organisasi yang menjalankan agen AI dalam operasi TI mereka akan mengalami masalah serius yang berdampak signifikan pada layanan, keamanan, atau biaya dan setidaknya sebagian disebabkan oleh lemahnya kontrol. Karena itu, visibilitas, otomatisasi, keandalan, dan kontrol perlu menjadi bagian dari perencanaan infrastruktur AI sejak awal.

Membangun Infrastruktur untuk Perusahaan AI yang Selalu Aktif

AI agentik mengubah cara jaringan perusahaan digunakan. Aktivitas tidak lagi terlalu bergantung pada waktu karyawan sedang daring, dan tim jaringan perlu mengelola perubahan ini tanpa membiarkan beban kerja untuk mengoperasikan jaringan meningkat dengan laju yang sama.

Perusahaan tidak perlu merombak seluruh jaringan mereka, tetapi seiring meningkatnya penggunaan AI, mereka perlu mengidentifikasi potensi kelemahan dalam infrastruktur yang ada, terutama ketika tim tidak memiliki visibilitas yang memadai untuk segera menemukan masalah, waktu respons mulai memburuk, atau pemecahan masalah rutin masih membutuhkan banyak pekerjaan manual.

Jaringan yang dirancang untuk hari kerja pukul sembilan hingga lima perlu digantikan oleh jaringan yang mendukung orang, aplikasi, dan agen bekerja berdampingan, sering kali dengan jadwal dan kecepatan yang sangat berbeda. Pada akhirnya, keberhasilan membangun infrastruktur yang tepat akan terlihat dari metrik yang selama ini menjadi perhatian bisnis: lebih sedikit gangguan, penyelesaian masalah yang lebih cepat saat terjadi kendala, pengalaman pengguna yang lebih baik, dan lebih sedikit waktu yang dihabiskan untuk melacak masalah.