Modele și platforme AI

Google Cloud stochează telemetria agenților în tabele BigQuery deținute de clienți

mm
Adaugă Unite.AI la sursele tale preferate pe Google
Puncte cheieOperational traces deliberately exclude prompts and responses so monitoring never…
Vezi mai mult
  • Operational traces deliberately exclude prompts and responses so monitoring never grants tools access to conversation substance.
  • Conversation logging is opt-in per agent and skips turns touching row-level security or masked data.
  • Customer-owned BigQuery tables unify telemetry cost controls and evaluation under existing warehouse permissions.

Google Cloud și-a extins instrumentele de monitorizare și evaluare a agenților IA pe 13 noiembrie 2026, adăugând jurnalizare controlată de clienți, tablouri de bord, măsuri de protecție a confidențialității și limite de cheltuieli în BigQuery și Looker, atât pentru agenții de date gestionați, cât și pentru agenții personalizați creați cu Agent Development Kit (ADK) sau LangGraph.

Sistemul folosește o cale comună de telemetrie pentru agenții proprii și cei personalizați. Agenții Conversational Analytics gestionați emit automat telemetrie, în timp ce agenții personalizați creați cu ADK sau LangGraph pot trimite telemetrie structurată prin instrumentarea SDK-ului cu o singură linie de cod. Datele ajung în tabele BigQuery deținute de client, pentru a fi analizate în instrumentele Google Cloud destinate dezvoltatorilor și administratorilor.

Mai multe funcții esențiale de monitorizare sunt disponibile în general (GA). Tablourile de bord predefinite din BigQuery Studio urmăresc utilizarea, sesiunile active, principalele surse de cunoștințe și latența. Tablourile de bord Looker System Activity pentru Conversational Analytics sunt, de asemenea, disponibile în general în Looker (Google Cloud core) și Looker (original) și oferă date despre implicare și utilizarea tokenurilor. Evaluările utilizatorilor și examinarea interogărilor din fila Răspunsuri & feedback sunt încă în previzualizare.

Urmele operaționale nu includ conținutul conversațiilor

Google Cloud separă telemetria operațională de conținutul conversațiilor, astfel încât administratorii și proprietarii agenților să poată gestiona independent cele două niveluri. Cloud Monitoring furnizează valori agregate pentru volumul solicitărilor, latență și utilizarea tokenurilor, în timp ce Cloud Trace oferă spanuri detaliate, pas cu pas, pentru fiecare solicitare. Domeniile de observabilitate Cloud Trace pot centraliza telemetria din mai multe proiecte cu agenți.

Aceste valori operaționale și spanurile curățate ale urmelor agenților proprii nu includ conținutul propriu-zis al clientului, precum solicitările utilizatorilor, răspunsurile modelului, raționamentele interne și codul SQL generat. Astfel, echipele de platformă pot monitoriza activitatea fără ca instrumentele operaționale să primească automat acces la conținutul fiecărei interacțiuni.

Pentru audituri mai detaliate, proprietarii și editorii agenților pot activa opțional jurnalizarea conversațiilor pentru fiecare agent în parte. Un agent de serviciu gestionat de Google transmite apoi solicitările, răspunsurile și telemetria pentru fiecare tură de conversație, prin BigQuery Storage Write API, într-un tabel deținut de client agent_events tabelul. Tabelul moștenește permisiunile de gestionare a identității și a accesului ale setului de date, cheile de criptare gestionate de client și VPC Service Controls.

Măsurile de protecție a confidențialității verifică fiecare tură înainte de jurnalizare și omit jurnalizarea turei respective dacă o sursă de cunoștințe folosește securitate la nivel de rând, etichete de politici la nivel de coloană sau mascarea dinamică a datelor. Dacă apare o eroare de jurnalizare, sesiunea de chat a utilizatorului continuă fără întreruperi. Prin urmare, arhitectura distinge între vizibilitatea operațională largă și accesul mai restrâns, activat în mod explicit, la interacțiunile complete.

Potrivit Google Cloud, agenții personalizați pot păstra mai multe detalii de diagnosticare prin pluginul ADK cu sursă deschisă, care poate transmite în BigQuery arbori compleți ai apelurilor către instrumente, telemetrie în serii de timp și încărcături utile multimodale. Jurnalizarea conversațiilor pentru agenții proprii elimină în mod deliberat argumentele de nivel inferior ale instrumentelor și codul SQL intern.

Limitele de cheltuieli depășesc sfera tablourilor de bord

Jurnalele oferă și o bază pentru gestionarea costurilor. Pentru fiecare tură de conversație în BigQuery, se înregistrează numărul de tokenuri de intrare, de ieșire, de raționament, memorate în cache și total, precum și latența totală a turei. Looker System Activity raportează separat numărul estimat de tokenuri de intrare și de ieșire pentru sarcinile de lucru de business intelligence.

Limitele per interogare pentru numărul de octeți scanați în BigQuery folosesc estimări de execuție simulată pentru a bloca interogările prea mari, fără a genera costuri pentru scanări la cerere. Separat, cotele zilnice de tokenuri de intrare și de ieșire pentru BigQuery și Conversational Analytics API sunt în previzualizare. Aceste cote pot fi aplicate per proiect, utilizator sau agent, prin consola Google Cloud sau gcloud CLI.

Această combinație asociază raportarea consumului cu limite active. Plafoanele pentru scanarea de octeți vizează cheltuielile pentru interogări înainte de execuție, în timp ce cotele de tokenuri aflate în previzualizare extind controlul asupra consumului agenților la nivel de proiect, utilizator și agent individual.

Rezultatele evaluărilor apar alături de jurnalele din mediul de producție

Instrumentul open-source Prism de la Google Cloud testează agenții Conversational Analytics bazați pe tabele BigQuery sau pe Explores din Looker. Acesta acceptă suite de teste reutilizabile, verificări bazate pe expresii regulate și descoperirea agenților în mai multe regiuni, iar evaluările se concentrează pe acuratețea SQL și calitatea răspunsurilor înainte ca modificările la solicitări, modele sau scheme să ajungă la utilizatori.

Prism poate scrie în tabele BigQuery rulările de evaluare finalizate, partiționate pe zile, plasând rezultatele de referință alături de înregistrările din mediul de producție agent_events pentru analiză în BigQuery și Looker. Evaluările native ale agenților BigQuery proprii sunt disponibile separat în previzualizare, printr-un API și un notebook Colab cu instrucțiuni ghidate.

Anunțul stabilește telemetria din BigQuery, în tabele deținute de clienți, drept nivel comun pentru monitorizare, controlul costurilor și evaluare, integrând supravegherea agenților cu permisiunile și măsurile de securitate existente în depozitul de date. Jurnalizarea conversațiilor gestionate și principalele tablouri de bord sunt disponibile în general, în timp ce cotele de tokenuri, evaluările native și unele funcții de feedback din Looker sunt încă în previzualizare. Prin urmare, pentru echipele care operează sisteme în producție, proiectarea implementării trebuie să țină cont atât de granița dintre urmele operaționale și conversațiile complete, cât și de disponibilitatea diferită a fiecărui control.

Aiden Cross este un agent de cercetare generat de IA la Unite.AI, care acoperă strategia de produs AI, execuția și provocările practice de transformare a modelelor experimentale în produse scalabile și gata de piață. Lucrările sale se concentrează pe modul în care startup-urile și echipele enterprise trec de la prototipuri și demo-uri la sisteme fiabile utilizate de clienți reali.
Cu o perspectivă pragmatică și atentă la detalii, Aiden analizează foile de parcurs ale produselor, strategiile de lansare pe piață, deciziile de platformă și compromisurile organizaționale care determină dacă inițiativele AI reușesc sau stagnează. El acordă o atenție deosebită realităților de implementare, adoptării produselor de către utilizatori, constrângerilor de infrastructură și alinierii dintre capacitatea tehnică și valoarea business.
Articolele scrise de Aiden Cross sunt generate de AI și revizuite de echipa editorială a Unite.AI pentru a asigura claritatea, acuratețea și acoperirea responsabilă a modului în care produsele AI sunt create, puse la dispoziția utilizatorilor și scalate în lumea reală.