Kendala Daya AI Berikutnya Akan Terletak di Dalam Kota

Selama beberapa tahun terakhir, dan terus berlanjut, pasar infrastruktur AI telah menghabiskan banyak waktu dan uang (dekat $7 triliun investasi pusat data pada 2030, menurut perkiraan McKinsey) untuk belajar cara membangun pusat data besar di mana saja listrik tersedia. “Dimana saja” menjadi kata kunci karena lokasi tidak terlalu penting. Sekelompok pelatihan hanya membutuhkan akses ke daya yang cukup. Namun lokasi mulai menjadi semakin relevan sekarang karena penggunaan AI berkembang melampaui antarmuka obrolan ke mesin, sistem suara, video, dan aplikasi yang berinteraksi dengan dunia fisik. Operasi semacam itu memerlukan daya komputasi yang lebih dekat ke pusat kota tempat interaksi tersebut terjadi untuk menjaga latensi tetap rendah. Sementara alat seperti chatbot dapat mentolerir penundaan setengah detik, aplikasi layanan otomatis seperti robot pengantar yang diawasi dari jarak jauh, asisten suara langsung, atau sistem pemenuhan otomatis mungkin harus bereaksi dalam hitungan milidetik.

Inilah tantangan baru bagi perusahaan AI. Bagaimana menemukan blok‑blok kecil daya yang dapat diandalkan di dalam dan sekitar area metropolitan besar? Dan bahkan setelah lokasi dipetakan, bagaimana mengatasi reaksi balik yang bahkan pusat data jarak jauh hadapi?

Permintaan AI di Pusat Kota Semakin Meningkat

Ada peningkatan permintaan dalam lingkup perkotaan untuk AI yang melampaui penggunaan pribadi chatbot atau ketertarikan berlebihan pada robot. Sebuah makalah kerja IMF memperkirakan bahwa konsumsi listrik dari pusat data dan AI telah mencapai 400–500 TWh secara global pada 2023, dan konsumsi yang dipicu AI berpotensi mencapai 1.500 TWh pada 2030. Otomatisasi yang diperlukan untuk membuat operasi sederhana lebih efisien — baik dalam memproses dokumen maupun mengarsipkan video — memerlukan banyak daya dalam skala besar.

Kota‑kota berada di garis depan hal ini, seperti yang terlihat dalam tinjauan OECD terhadap 250 kota di 78 negara. Tinjauan tersebut menemukan bahwa 56% sudah secara aktif menggunakan AI, sementara 35% lainnya sedang melakukan pilot atau merencanakan penerapan. Untuk menggambarkan satu kasus penggunaan sederhana, mari pertimbangkan kamera pengawas di kota. IHS Markit memperkirakan beberapa tahun lalu bahwa jumlah kamera pengawas di seluruh dunia akan melampaui satu miliar. Meskipun mereka terutama digunakan untuk tujuan perekaman, kini mereka juga dipakai untuk pekerjaan yang lebih menuntut komputasi, misalnya melacak objek melalui jaringan, atau mencari arsip video besar menggunakan bahasa alami. Proses semacam itu tidak dapat dilakukan di setiap kamera dengan pemrosesan AI yang ada saat ini. Apakah mereka harus dikirim keluar kota ke pusat data yang jauh untuk diproses? Hal itu tidak praktis karena regulasi data serta biaya pemindahan volume trafik yang besar.

Survei Gallup terbaru menunjukkan bahwa sekitar 30% karyawan sektor swasta dan publik menggunakan AI dalam peran mereka dan angka tersebut terus naik. Sektor‑sektor ini — baik perbankan, rumah sakit, atau organisasi sektor publik — menghadapi masalah yang sama. Mereka menginginkan infrastruktur AI dalam yurisdiksi mereka sendiri dan secara fisik cukup dekat untuk dikendalikan. Sistem suara interaktif dan aplikasi video mereka menurun kualitasnya ketika latensi jaringan meningkat. Bahkan jika masalah tersebut awalnya dapat diatasi dengan mempertahankan operator manusia untuk generasi pertama sistem otonom, pengawasan itu sendiri tidak terlalu toleran terhadap latensi. Misalnya, robot pengantar dan robot rumah yang diawasi melalui koneksi video memerlukan siklus komunikasi penuh yang harus tetap di bawah sekitar 80 milidetik sebagaimana diukur dalam studi teleoperasi robotik jarak jauh. Mobil otonom, secara kontradiktif, menjadi pengecualian: mengemudi tetap berada di dalam kendaraan demi alasan keselamatan, dan operator remote Waymo bekerja dengan latensi seperempat detik, beberapa di antaranya dari benua lain. Apa yang diwarisi kota dari armada otonom adalah data mereka, bukan setirnya.

Bank Dunia menerbitkan sebuah makalah yang menunjukkan bagaimana pemerintah kota di negara‑negara seperti Argentina, India, dan Ethiopia, serta lainnya, telah mengadopsi AI dalam bidang keadilan, anti‑korupsi, bea cukai, administrasi publik, dan peningkatan layanan. Ini bukan kejadian lokal. Ini adalah transformasi global. Di Teravolt, perkiraan kami adalah bahwa area metropolitan dengan 10 hingga 15 juta penduduk dapat mendukung beban AI sensitif latensi sekitar 6 hingga 13 MW secara kontinu pada 2030, sebelum robot serbaguna massal dikerahkan. Mungkin angka ini tidak besar menurut standar hyperscale, tetapi menemukan lokasi yang tepat jauh lebih sulit daripada yang terlihat. Pada 2036, area metropolitan yang sama beralih ke 22 hingga 50 MW beban sensitif latensi — dan menjadi 60 hingga 100 MW jika industri mobil mulai memproduksi robot pada skala otomotif. Ekonomi permintaan tidak memaafkan dalam arti terbaik: beberapa ratus dolar per tahun biaya server pada mesin yang menggantikan $30.000 hingga $60.000 tenaga kerja adalah permintaan yang tidak tawar menawar harga.

Menambahkan Tingkat Keempat pada Komputasi

Saat ini, daya komputasi untuk AI ada dalam tiga tingkatan. Lapisan teratas terdiri dari gigafactory yang digunakan untuk melatih model. Lokasinya penting bagi pengembang hanya sejauh memastikan sejumlah besar daya dengan harga yang dapat diterima. Selanjutnya adalah fasilitas AI regional, biasanya sekitar 20 hingga 200 MW, di mana banyak permintaan inferensi berulang dalam operasi cloud utama dan perusahaan terjadi. Terakhir, kami memiliki daya komputasi yang tertanam langsung dalam perangkat atau robot.

Tampaknya ada kesenjangan antara dua lapisan terakhir yang saya sebut sebagai lapisan perkotaan—kesenjangan yang menjadi penyebab masalah latensi. Ini harus ditempatkan di dalam atau sangat dekat dengan kota besar. Kapasitasnya harus diukur dalam megawatt satu digit atau dua digit rendah sambil ditempatkan di dalam wilayah metropolitan dan terhubung ke serat optik berkualitas tinggi. Titik awalnya bisa sekitar 2 MW jika situs memiliki pasokan listrik yang terjamin. Untuk menggambarkan kepraktisannya, pertimbangkan sebuah robot pengantar. Ia menangani berbagai permintaan dan tidak semua dapat diproses di perangkat itu sendiri. Meskipun dilatih di gigafactory, bantuan real‑time yang lebih canggih perlu diproses oleh fasilitas perkotaan terdekat alih-alih mengirimkannya ke fasilitas regional setiap kali.

Masalah Lalu Lintas Dua Arah

Pusat data perkotaan tidak hanya akan menjadi titik perantara untuk menerima data dari pusat pelatihan, tetapi juga akan menghasilkan sejumlah besar data yang harus dikirim kembali ke atas alur.

Setiap mesin otonom dan sistem yang kaya sensor akan mengumpulkan informasi yang perlu diproses dan dikirim kembali untuk diintegrasikan ke dalam pelatihan. Armada robot yang kembali ke titik pengisian setelah selesai bertugas akan mengirimkan informasi berguna yang sangat besar tentang kasus tepi dan operasi harian yang dibutuhkan pusat data untuk meningkatkan fungsi. Bayangkan semua lalu lintas ini dikirim sekaligus dalam arah yang sama. Hal itu akan menimbulkan kemacetan. Di sinilah pusat data perkotaan berguna karena dapat memproses sebagian beban sebelum membebani fasilitas komputasi regional. Ia dapat mengidentifikasi dan membuang data yang salah sambil mengompresi dan meneruskan bagian yang berguna.

Pada dasarnya, pusat data perkotaan menyediakan lapisan penyaringan tambahan di atas dua lapisan sebelumnya sehingga aliran data menjadi lebih teratur.

Apakah Masa Depan Akan Menjadi Server di Setiap Blok?

Meskipun saya memperkenalkan server perkotaan sebagai solusi, hal itu tetap terlalu mahal untuk menyelesaikan masalah latensi dengan proliferasi yang tidak terkendali. Apa pun ukurannya, pusat data tetap memerlukan sambungan jaringan listrik, trafo, pendinginan, keamanan, jaringan, dan staf. Biaya ini tidak berkurang secara proporsional dengan beban TI. Untuk memberi perspektif, fasilitas 0.5 MW masih menanggung banyak biaya tetap yang sama seperti situs yang jauh lebih besar.

Dalam proyek kami, kami telah melihat bahwa pusat data perkotaan mandiri menjadi layak secara ekonomi pada kisaran sekitar 5 hingga 8 MW. Bahkan dengan asumsi beberapa situs dapat berbagi pusat operasi jaringan, ambang batasnya hanya turun menjadi 1.5 hingga 3 MW. Oleh karena itu, intinya tetap sama. Membagi 20 MW ke dua puluh lokasi alih-alih dua atau tiga lokasi hampir tidak mengurangi latensi di dalam wilayah metropolitan — cincin serat kota hanya beberapa milidetik — sambil menggandakan biaya modal dan biaya operasional.

Itulah mengapa saya percaya industri harus mengecilkan ukuran dan membangun apa yang saya sebut “substation untuk kecerdasan”. Saat ini, para pengembang sedang belajar membangun fasilitas regional dalam kisaran 20 hingga 100 MW. Tujuan masa depan adalah menerapkannya ke situs perkotaan yang lebih kecil lagi untuk mencapai level 2 MW yang cocok bagi kota besar.

Hambatan Politik

Melewati kelayakan ekonomi, tantangan politik tetap ada. Pusat data telah menjadi semakin dicaci maki dalam media karena dampak negatifnya terhadap lingkungan. Menurut survei Pew, lebih dari setengah warga Amerika percaya bahwa pusat data berbahaya bagi lingkungan dan memiliki pandangan negatif terhadapnya. Argumen penciptaan lapangan kerja menjadi kurang penting dibandingkan dengan jumlah air, lahan, dan listrik yang dikonsumsi; serta kebisingan dan emisi yang dihasilkan. Mendapatkan persetujuan bahkan untuk fasilitas perkotaan yang lebih kecil akan terbukti sulit.

Kami sudah melihat contoh konflik antara pengembang pusat data dan otoritas kota. Di AS, penggunaan turbin gas oleh xAI untuk mempercepat pembangunan di Memphis telah menimbulkan sengketa perizinan, penolakan masyarakat, dan litigasi. Eropa melangkah lebih jauh: Amsterdam memberlakukan moratorium pada fasilitas di atas 70 MW, Dublin kini hanya mengizinkan pusat data baru jika mereka membawa pembangkit atau penyimpanan sendiri, dan substation utama koridor West London tidak akan diperkuat sebelum awal 2030-an. Bahkan di luar kasus profil tinggi tersebut, dengan area ini menjadi sumber perselisihan baru, banyak otoritas kota belum memiliki proses persetujuan yang jelas untuk menyetujui tambahan 10 MW infrastruktur AI di dalam area perkotaan. Seperti yang dicatat dalam sebuah laporan National League of Cities, salah satu tantangan paling umum bagi kota adalah bahwa kode zonasi lokal yang lebih tua tidak secara eksplisit mengatur pusat data sehingga harus ditinjau kasus per kasus. Ketidakpastian hukum semacam itu dapat menunda bahkan proyek yang secara teknis layak.

Keputusan Infrastruktur Hari Ini Membentuk Kapasitas Kita di Masa Depan

Semua ini berarti kita perlu merencanakan dan membangun infrastruktur yang diperlukan untuk kemajuan AI di masa depan secara proaktif. Karena meskipun model berkembang cepat, daya yang dibutuhkan untuk menjalankannya bergantung pada jenis infrastruktur yang memerlukan waktu untuk dibangun. Koneksi jaringan dapat memakan tahun, dan di beberapa pasar pusat data utama antrean kini memanjang hingga tujuh hingga sepuluh tahun. Jadi jika kota-kota meningkatkan daya komputasi AI pada tahun 2030, infrastruktur listrik tersebut harus dibangun sekarang. Di Teravolt, model kerja kami memperkirakan permintaan AI perkotaan global sebesar 9 hingga 18 GW pada tahun 2036. Hal itu berarti sekitar 1.000 hingga 1.500 situs perkotaan dan metropolitan signifikan di seluruh dunia, tergantung pada ukuran rata-rata fasilitas, dan secara keseluruhan, dapat mewakili pasar senilai kira-kira $500 miliar hingga $1 triliun.

Jika perencanaan yang diperlukan tidak dilakukan, kita akan terjebak dengan kapasitas AI canggih yang tidak dapat kita manfaatkan. Era seluler memerlukan infrastruktur menara untuk cakupan radio agar dapat mengikuti pergerakan orang, jika tidak, telepon seluler tidak akan berguna. Demikian pula, kita harus menyadari ketidaksesuaian antara evolusi AI dengan pemasangan infrastruktur listrik. Di era seluler, cakupan diukur dalam batang sinyal, sementara era AI akan mengukurnya dalam milidetik dan watt per penduduk — dan tidak akan membutuhkan jutaan menara, melainkan kira-kira seribu fasilitas seukuran gardu listrik. Serat optik, milidetik, dan megawatt adalah mata uang dalam bidang ini, dan mereka yang menyadari kelangkaan ini lebih awal akan lebih siap membentuk masa depan.