Mengukur dan Mengurangi Jejak Karbon AI dengan CodeCarbon

Beban kerja AI mengonsumsi listrik, dan emisi gas rumah kaca yang terkait dengan listrik tersebut tergantung pada lokasi dan waktu komputasi dijalankan. CodeCarbon adalah alat sumber terbuka yang memperkirakan emisi operasional dengan menggabungkan perkiraan energi beban kerja dengan intensitas karbon listrik.

Perkiraan berguna bila batasannya dan ketidakpastiannya dinyatakan secara eksplisit. Ia tidak secara otomatis mencakup produksi perangkat keras, pembangunan pusat data, jaringan, penyimpanan, atau efek hilir dari penyebaran model.

Intisari utama

• Penggunaan energi dan emisi karbon saling terkait tetapi tidak identik; intensitas karbon jaringan bervariasi menurut wilayah dan waktu.
• CodeCarbon memperkirakan energi CPU, GPU, dan memori, kemudian menerapkan faktor emisi yang bergantung pada lokasi.
• Utilisasi perangkat keras, durasi menjalankan, overhead pusat data, dan sumber pengukuran memengaruhi akurasi.
• Tujuan praktisnya adalah pelaporan dan pengurangan yang dapat dibandingkan, bukan presisi palsu.

Energi, daya, dan intensitas karbon

Daya adalah laju penggunaan energi, biasanya diukur dalam watt. Energi terakumulasi seiring waktu, biasanya dalam kilowatt-jam. Karbon dioksida ekuivalen operasional diperkirakan dengan mengalikan energi dengan faktor emisi seperti gram CO₂e per kilowatt‑jam.

Pekerjaan yang sama dapat menghasilkan emisi yang berbeda bila dijalankan pada jaringan yang lebih bersih atau pada waktu dengan karbon lebih rendah. Akselerator yang lebih cepat mungkin menggunakan daya sesaat lebih tinggi namun energi total lebih sedikit bila selesai jauh lebih cepat.

Apa yang diukur CodeCarbon

CodeCarbon mengamati atau memperkirakan energi untuk komponen komputasi dan mencatat metadata seperti durasi dan lokasi. Bila perangkat keras menyediakan telemetri daya langsung, perkiraan dapat lebih spesifik; bila tidak, alat ini menggunakan model perangkat keras dan asumsi utilisasi.

Mode daring dapat menggunakan intensitas karbon yang sadar lokasi, sementara pengaturan luring mengandalkan faktor yang telah dikonfigurasi. Outputnya adalah perkiraan yang metodologi, versi perangkat lunak, dan konfigurasi‑nya harus disertakan bersama eksperimen.

Pilih batas pelaporan

Batas tingkat run dapat mencakup satu pekerjaan pelatihan. Batas proyek dapat meliputi pencarian hyperparameter, run yang gagal, pra‑pemrosesan, dan inferensi. Batas layanan dapat mencakup jaringan, penyimpanan, dan penyebaran berkelanjutan.

Efisiensi penggunaan daya pusat data memperhitungkan overhead fasilitas di luar peralatan TI. Emisi yang terkandung dari produksi dan konstruksi memerlukan data siklus hidup yang biasanya tidak disediakan oleh pelacak runtime. Laporan harus menyatakan pengecualian alih‑alih mencampur total yang tidak dapat dibandingkan.

Kurangi sebelum mengimbangi

Mulailah dengan nilai beban kerja: hilangkan eksperimen berulang, gunakan early stopping, pakai kembali checkpoint, dan pilih baseline yang efisien. Tingkatkan utilisasi, batch secara tepat, dan sesuaikan ukuran model dengan tugas. Transfer learning dapat menghindari pelatihan dari nol.

Jadwalkan pekerjaan fleksibel di wilayah atau waktu dengan karbon lebih rendah bila secara hukum dan operasional memungkinkan. Kompres model dan pilih perangkat keras layanan yang efisien; edge AI dapat mengurangi transfer data tetapi juga dapat menyalin perangkat keras yang tidak terpakai, jadi ukur seluruh sistem.

Lapor ketidakpastian dan bandingkan secara adil

Publikasikan perangkat keras, lokasi, runtime, energi, faktor emisi, jumlah run, dan apakah nilai tersebut diukur atau diperkirakan. Pisahkan komputasi eksploratori dari run pelatihan akhir. Hindari melaporkan banyak angka desimal ketika asumsi mendominasi presisi.

Bandingkan sistem pada kualitas tugas dan batas yang sama. Model berenergi rendah yang gagal menyelesaikan tugas tidak efisien, sementara peningkatan akurasi kecil mungkin tidak membenarkan peningkatan sumber daya yang besar. Karbon adalah satu dampak di samping biaya, air, siklus hidup perangkat keras, dan manfaat sosial.

Apa yang diperkirakan CodeCarbon

CodeCarbon memperkirakan penggunaan energi dan emisi karbon yang terkait dengan suatu komputasi. Bergantung pada lingkungan dan telemetri yang tersedia, ia dapat membaca CPU, GPU, RAM, atau daya sistem, mengintegrasikan energi sepanjang waktu, dan mengalikan dengan perkiraan intensitas karbon untuk wilayah listrik. Hasilnya adalah perkiraan yang dipengaruhi oleh cakupan perangkat keras, interval sampling, atribusi proses, model daya, lokasi, dan data jaringan. Perkiraan tersebut harus menyertakan satuan, versi, metodologi, dan ketidakpastian, bukan dilaporkan sebagai pengukuran fisik yang tepat.

Emisi operasional berasal dari listrik selama pelatihan dan inferensi; emisi yang terkandung berasal dari produksi, transportasi, dan pembuangan perangkat keras serta biasanya berada di luar pelacak runtime. Server bersama mempersulit alokasi, sementara instance cloud mungkin hanya menyediakan telemetri terbatas. Intensitas jaringan rata‑rata berbeda dari intensitas marginal dan berubah menurut waktu. Kontrak energi terbarukan dan offset adalah instrumen akuntansi, bukan bukti bahwa beban kerja menghasilkan nol emisi. Nyatakan batas dengan jelas sebelum membandingkan run atau penyedia.

Merancang eksperimen pengukuran yang bermakna

Lacak tugas, model, data, perangkat keras, wilayah, durasi, utilisasi, energi, perkiraan karbon, kualitas, dan jumlah output yang berhasil. Efek pemanasan awal dan cache dapat mengganggu run pendek, jadi ulangi pengukuran di bawah beban terkendali. Bandingkan model pada kualitas dan tujuan layanan yang setara, bukan hanya satu epoch pelatihan atau jumlah token. Sertakan persiapan data, pencarian hyperparameter, eksperimen yang gagal, sumber daya menganggur, dan inferensi berulang bila material. Jejak pelatihan yang lebih kecil dapat terlampaui oleh layanan dengan volume tinggi.

Gunakan alat untuk menemukan tuas rekayasa: kurangi run yang tidak perlu, gunakan early stopping, sesuaikan ukuran akselerator, tingkatkan utilisasi dan batching, pilih model efisien, kuantisasi atau distilasi, cache hasil, jadwalkan pekerjaan fleksibel pada periode atau wilayah dengan karbon lebih rendah, dan pensiun sumber daya menganggur. Setiap optimasi harus mempertahankan akurasi, latensi, keamanan, dan keandalan yang dibutuhkan. Memindahkan komputasi tanpa mempertimbangkan transfer data atau batasan regional dapat mengalihkan dampak alih‑alih menguranginya.

Pelaporan dan tata kelola

Publikasikan metodologi, versi perangkat lunak, perangkat keras, asumsi geografis, metrik kualitas, dan ketidakpastian bersama perkiraan. Hindari membandingkan organisasi yang menggunakan batas berbeda. Tetapkan anggaran dan tinjau eksperimen besar sebelum dijalankan, tetapi jangan memberi insentif kepada tim untuk menyembunyikan komputasi di luar lingkungan yang diukur. Amankan metadata eksperimen dan hindari mencatat prompt atau data pribadi. CodeCarbon membuat biaya lingkungan terlihat dan dapat dibandingkan dalam kerangka metodik yang disiplin; ia tidak dapat memberikan penilaian siklus hidup lengkap atau menggantikan akuntansi energi dan karbon yang diverifikasi secara independen.

Contoh kerja: membandingkan dua run pelatihan model

Sebuah tim melatih model gambar yang sama pada dua jenis akselerator dan menggunakan CodeCarbon dengan data, target kualitas, logika batch, dan aturan penghentian yang identik. Mereka mencatat versi alat, perangkat keras, wilayah, sampling, utilisasi, durasi, energi, sumber intensitas karbon, dan ketidakpastian. Perbandingan mencakup percobaan yang gagal dan pra‑pemrosesan, sementara emisi perangkat keras yang terkandung secara eksplisit berada di luar perkiraan runtime. Hasil dinormalisasi per run pelatihan yang memenuhi kualitas.

Konfigurasi yang lebih efisien kemudian diuji untuk latensi inferensi, keandalan, dan akurasi hilir. Insinyur mengurangi waktu menganggur dan run hyperparameter, meningkatkan batching, serta menjadwalkan pekerjaan fleksibel di mana intensitas jaringan lebih rendah tanpa memindahkan data yang diatur. Laporan mempublikasikan asumsi dan menghindari klaim dampak nol dari kontrak energi terbarukan. Perkiraan menjadi sinyal anggaran dan desain, bukan lencana pemasaran. Pengukuran berulang memeriksa apakah optimasi mengurangi beban kerja siklus hidup total alih‑alih satu run yang terlihat.

Bukti implementasi dan kesiapan operasional

Keputusan produksi memerlukan lebih dari demonstrasi yang berhasil. Tentukan pengguna yang dimaksud, lingkungan operasi, masukan, keluaran, ketergantungan, pemilik, serta konsekuensi tiap kegagalan penting. Bangun baseline yang dapat direproduksi dan set evaluasi berversi sebelum melakukan tuning. Uji kasus biasa, kondisi batas, masukan yang rusak atau hilang, pergeseran distribusi, gangguan ketergantungan, penyalahgunaan, serta kelompok atau lingkungan yang paling berisiko kurang terlayani. Ukur kualitas tugas bersama kalibrasi atau ketidakpastian, latensi, throughput, biaya sumber daya, aksesibilitas, privasi, dan keamanan. Catat setiap transformasi dan ambang batas sehingga peninjau independen dapat mereproduksi hasil dan membedakan bukti dari prototipe yang menarik.

Sebelum peluncuran, tugaskan otoritas untuk rilis, pengecualian, perubahan, rollback, dan pensiun. Gunakan peluncuran bertahap, pertahankan fallback yang aman, dan verifikasi pemantauan dengan kegagalan yang disuntikkan secara sengaja. Telemetri operasional harus mengungkap kualitas masukan, perilaku keluaran, versi model atau aturan, kesehatan ketergantungan, intervensi manusia, dan hasil yang terkonfirmasi tanpa mengumpulkan data sensitif yang tidak diperlukan. Tentukan ambang batas peringatan dan penanggung jawab respons, lalu tinjau bukti dunia nyata setelah penyebaran alih‑alih mengasumsikan kinerja luring akan bertahan. Evaluasi kembali setiap kali sumber data, pengguna, model, vendor, kebijakan, perangkat keras, atau tujuan berubah. Sistem yang dipelihara juga memerlukan prosedur pemulihan, pembelajaran insiden, penghapusan dan retensi, serta titik yang jelas kapan harus dinonaktifkan atau diganti.

Frequently asked questions

Does CodeCarbon directly measure CO₂ coming from a computer?

No. It estimates emissions from energy use and electricity carbon intensity; computers do not directly emit the grid’s greenhouse gases.

Is cloud computing always lower carbon?

No. Results depend on hardware efficiency, utilization, data-center overhead, grid mix, region, time and data movement.

Primary references

• CodeCarbon official documentation
• Henderson et al.: Systematic reporting of ML energy and carbon
• Lacoste et al.: Quantifying carbon emissions of machine learning
• Patterson et al.: Carbon emissions and large neural-network training