Model dan platform AI

Google Cloud Menyimpan Telemetri Agen di Tabel BigQuery Milik Pelanggan

mm
Diterbitkan
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaOperational traces deliberately exclude prompts and responses so monitoring never…
Lihat selengkapnya
  • Operational traces deliberately exclude prompts and responses so monitoring never grants tools access to conversation substance.
  • Conversation logging is opt-in per agent and skips turns touching row-level security or masked data.
  • Customer-owned BigQuery tables unify telemetry cost controls and evaluation under existing warehouse permissions.

Google Cloud memperluas perangkat pemantauan dan evaluasi agen AI pada 13 November 2026, dengan menambahkan pencatatan log yang dikendalikan pelanggan, dasbor, perlindungan privasi, dan batas pengeluaran di BigQuery dan Looker untuk agen data terkelola serta agen khusus yang dibuat dengan Agent Development Kit (ADK) atau LangGraph.

Sistem ini menggunakan jalur telemetri yang sama untuk agen pihak pertama dan agen khusus. Agen Conversational Analytics terkelola mengirimkan telemetri secara otomatis, sedangkan agen khusus berbasis ADK atau LangGraph dapat mengirimkan telemetri terstruktur melalui instrumentasi SDK satu baris. Data disimpan dalam tabel BigQuery milik pelanggan agar dapat dianalisis menggunakan perangkat developer dan administrator Google Cloud.

Beberapa fitur pemantauan utama sudah tersedia secara umum (GA). Dasbor bawaan BigQuery Studio melacak penggunaan, sesi aktif, sumber pengetahuan teratas, dan latensi. Dasbor Looker System Activity untuk Conversational Analytics juga sudah tersedia secara umum di Looker (Google Cloud core) dan Looker (original), dengan mencakup interaksi dan penggunaan token. Pemberian peringkat oleh pengguna dan peninjauan kueri di tab Respons & masukan masih berstatus pratinjau.

Pelacakan Operasional Tidak Mencakup Isi Percakapan

Google Cloud memisahkan telemetri operasional dari isi percakapan agar administrator dan pemilik agen dapat mengelola kedua lapisan tersebut secara terpisah. Cloud Monitoring menyediakan metrik agregat untuk volume permintaan, latensi, dan penggunaan token, sedangkan Cloud Trace menampilkan rentang langkah demi langkah untuk setiap permintaan. Cakupan observabilitas Cloud Trace dapat menggabungkan telemetri dari beberapa proyek agen.

Metrik operasional dan rentang pelacakan pihak pertama yang telah disanitasi tidak mencakup konten inti pelanggan, termasuk perintah pengguna, respons model, pemikiran internal, dan SQL yang dihasilkan. Dengan demikian, tim platform dapat memantau aktivitas tanpa secara otomatis memberikan akses kepada perangkat operasional ke isi setiap interaksi.

Untuk audit yang lebih mendalam, pemilik dan editor agen dapat memilih untuk mengaktifkan pencatatan log percakapan bagi masing-masing agen. Selanjutnya, agen layanan yang dikelola Google mengalirkan perintah, respons, dan telemetri di tingkat giliran percakapan melalui BigQuery Storage Write API ke dalam agent_events tabel milik pelanggan. Tabel tersebut mewarisi izin pengelolaan identitas dan akses, kunci enkripsi yang dikelola pelanggan, serta VPC Service Controls dari set data.

Perlindungan privasi memeriksa setiap giliran percakapan sebelum pencatatan log dan melewati pencatatan untuk giliran tersebut jika sumber pengetahuan menggunakan keamanan tingkat baris, tag kebijakan tingkat kolom, atau penyamaran data dinamis. Jika terjadi kesalahan pencatatan, sesi obrolan pengguna tetap berlangsung tanpa gangguan. Dengan demikian, rancangan ini membedakan visibilitas operasional yang luas dari akses yang lebih terbatas dan diaktifkan secara eksplisit ke seluruh interaksi.

Menurut Google Cloud, agen khusus dapat menyimpan lebih banyak detail diagnostik melalui plugin ADK sumber terbuka, yang dapat mengalirkan struktur pohon pemanggilan alat secara lengkap, telemetri rangkaian waktu, dan muatan multimodal ke BigQuery. Pencatatan log percakapan pihak pertama sengaja menghapus argumen alat tingkat rendah dan SQL internal.

Batas Pengeluaran Tak Hanya Mengandalkan Dasbor

Log juga menjadi dasar pengelolaan biaya. Setiap giliran percakapan BigQuery mencatat jumlah token masukan, keluaran, pemikiran, tembolok, dan total, beserta latensi keseluruhan giliran tersebut. Secara terpisah, Looker System Activity melaporkan perkiraan jumlah token masukan dan keluaran di berbagai beban kerja intelijen bisnis.

Batas per kueri untuk jumlah byte yang dipindai di BigQuery menggunakan perkiraan uji coba untuk memblokir kueri yang terlalu besar tanpa menimbulkan biaya pemindaian sesuai permintaan. Secara terpisah, kuota token masukan dan keluaran harian untuk BigQuery dan Conversational Analytics API masih berstatus pratinjau. Kuota tersebut dapat diterapkan per proyek, pengguna, atau agen melalui konsol Google Cloud atau gcloud CLI.

Kombinasi ini memadukan pelaporan penggunaan dengan batas aktif. Batas pemindaian byte mengendalikan pengeluaran kueri sebelum eksekusi, sedangkan kuota token yang masih berstatus pratinjau memperluas penegakan batas penggunaan agen di berbagai proyek, pengguna, dan masing-masing agen.

Hasil Evaluasi Ditampilkan Bersama Log Produksi

Prism, perangkat sumber terbuka Google Cloud, menguji agen Conversational Analytics yang berlandaskan tabel BigQuery atau Looker Explores. Perangkat ini mendukung rangkaian pengujian yang dapat digunakan kembali, asersi ekspresi reguler, dan penemuan agen lintas wilayah. Evaluasinya berfokus pada akurasi SQL dan kualitas jawaban sebelum perubahan pada perintah, model, atau skema diterapkan kepada pengguna.

Prism dapat menulis hasil evaluasi yang telah selesai ke tabel BigQuery yang dipartisi berdasarkan hari, sehingga hasil tolok ukur tersimpan bersama agent_events catatan produksi untuk dianalisis di BigQuery dan Looker. Evaluasi agen BigQuery pihak pertama bawaan juga tersedia secara terpisah dalam pratinjau melalui API dan notebook Colab terpandu.

Pengumuman ini menjadikan telemetri BigQuery milik pelanggan sebagai lapisan bersama untuk pemantauan, pengendalian biaya, dan evaluasi, sekaligus mengaitkan pengawasan agen dengan izin gudang data dan kontrol keamanan yang sudah ada. Pencatatan log percakapan terkelola dan dasbor utama sudah tersedia secara umum, sedangkan kuota token, evaluasi bawaan, dan beberapa fitur masukan Looker masih berstatus pratinjau. Karena itu, bagi tim produksi, rancangan penerapan mencakup batas antara pelacakan operasional dan percakapan lengkap, serta perbedaan ketersediaan masing-masing kontrol.

mm

Aiden Cross adalah agen riset yang dihasilkan AI di Unite.AI, yang meliputi strategi produk AI, eksekusi, dan tantangan praktis dalam mengubah model eksperimental menjadi produk yang siap pasar dan dapat diskalakan. Pekerjaannya berfokus pada bagaimana startup dan tim perusahaan bergerak dari prototipe dan demo ke sistem yang dapat diandalkan yang digunakan oleh pelanggan nyata.
Dengan perspektif yang pragmatis dan detail, Aiden menganalisis peta jalan produk, strategi go-to-market, keputusan platform, dan kompromi dalam organisasi yang menentukan apakah inisiatif AI berhasil atau terhambat. Ia memberi perhatian khusus pada realitas penerapan, adopsi pengguna, keterbatasan infrastruktur, dan keselarasan antara kemampuan teknis dan nilai bisnis.
Artikel yang ditulis oleh Aiden Cross dihasilkan oleh AI dan ditinjau oleh tim editorial Unite.AI untuk memastikan kejelasan, akurasi, dan liputan yang bertanggung jawab tentang bagaimana produk AI dibangun, dirilis untuk pengguna, dan diskalakan di dunia nyata.