Inteligența Artificială care își amintește fără a împărtăși prea mult: Arhitectura de confidențialitate pentru următoarea generație de servicii personale

Majoritatea afacerilor nu și-au dat încă seama că asistenții personali inteligenți artificiali au atins un nivel cu totul nou. Acum nu mai răspund doar la întrebări, ci efectuează acțiuni în numele angajaților reali: fac și monitorizează rezervări, corespondență și iau decizii cu privire la finanțe, programări, călătorii și întâlniri.

Datele pe care lucrează inteligența artificială s-au schimbat și ele: de la „ce fel de muzică vă place” la „unde sunteți, cu cine sunteți, ce ați convenit și cât plătiți pentru asta”. Acesta este un nivel calitativ diferit de vulnerabilitate, și avem nevoie absolut de o arhitectură nouă. O numesc „chitanțe de confidențialitate” – chitanțe digitale care permit utilizatorilor să vadă oricând exact ce știe asistentul despre ei, de unde provine informația și de ce este folosită. Acesta este același nivel de transparență pe care îl așteptăm astăzi de la extrasele bancare: transparent, verificabil, disponibil la cerere.

De ce inteligența artificială sigură a devenit critic importantă în acest moment

Până în vremuri recente, asistenții inteligenți artificiali erau în principal informativi: căutare, rezumate de documente, sugestii de cod. Rareori puteau acționa fără implicarea unei persoane care controla procesul.

Astăzi, vedem o imagine diferită. Asistenții sunt integrați în e-mail, calendare, mesagerie, servicii bancare și de călătorie; pot trimite independent o scrisoare către un partener, plăti o rezervare sau schimba un zbor, bazându-se pe contextul despre care persoana responsabilă poate nu știe.

În același timp, cei mai devreme și mai activi utilizatori ai unor astfel de asistenți sunt oameni pentru care costul greșelilor este extrem de ridicat: manageri de vârf și CEO, clienți HNW, profesioniști din sectorul financiar și de gestionare a capitalului. Pentru ei, pierderea confidențialității este un risc serios de reputație, juridic și financiar direct.

Când vine vorba de inteligența artificială, problemele de confidențialitate nu mai pot fi tratate ca o simplă formalitate.

Date minime, valoare mai mare

Majoritatea produselor de inteligență artificială colectează mult mai multe date decât au nevoie pentru a fi cu adevărat utile. În practica noastră, constatăm că majoritatea datelor colectate de asistenții inteligenți artificiali obișnuiți nu sunt niciodată folosite pentru a oferi servicii. Dacă luăm cazul concierge-ului de afaceri, trei lucruri sunt suficiente pentru ca asistentul să ofere un serviciu personalizat de înaltă calitate. În primul rând, preferințe relevante pentru sarcină: cum călătoriți, cum preferați să comunicați, ce restricții aveți în ceea ce privește vize, buget și obligații familiale.

În al doilea rând, contextul cererii curente: unde, când, cu cine, pentru ce scopuri, termene limită și riscuri.

În sfârșit, își amintește de interacțiunile trecute în cadrul sarcinilor: astfel nu va pune aceleași întrebări, își va aminti soluțiile alese și nu va repeta greșelile.

Acesta este suficient pentru ca produsul să funcționeze la nivelul unui bun asistent personal. Nu are nevoie de un arhiv complet de corespondență, de urmărire continuă a locației sau de tranzacții financiare.

Asistenți inteligenți artificiali și limite acceptabile

Există tipuri de date care pur și simplu nu au loc într-un asistent personal. De exemplu, date comportamentale pasive: ascultare constantă, geolocație continuă fără solicitare, monitorizare a ecranului sau a intrărilor. Dacă sistemul colectează informații nu despre ceea ce ați solicitat, ci despre ceea ce faceți în general, încetează să mai fie un asistent și devine supraveghere.

De asemenea, datele despre terți care nu au interacționat niciodată cu sistemul nu sunt necesare. De exemplu, o solicitare precum „ajutați la organizarea unei întâlniri” nu ar trebui să se transforme în dreptul de a construi profiluri ale invitaților, rutelor și obiceiurilor lor.

În al treilea rând, conținutul complet al comunicărilor dvs. nu ar trebui să fie stocat în memoria pe termen lung în mod implicit. Asistentul poate procesa un anumit e-mail dacă îi solicitați în mod explicit, dar acest lucru nu înseamnă că are acum dreptul de a citi e-mailul dvs.

Utilitate înseamnă intruziune: capcana produselor de inteligență artificială

Contextul suplimentar face cu adevărat produsul mai convenabil, deoarece cu cât sistemul știe mai mult, cu atât recomandările sunt mai precise, răspunsurile mai rapide și efectul wow mai mare la utilizare.

Aici apare nevoia naturală de a conecta calendarele, e-mailul, chat-urile, CRM-ul și geodatele, astfel încât serviciul să poată anticipa nevoile utilizatorului. Fiecare conexiune a utilizatorului pare rezonabilă și justificată.

În industria concierge, conectarea calendarului clientului și a istoricului de călătorie îmbunătățește semnificativ recomandările – sistemul poate anticipa nevoile chiar înainte ca clientul să le exprime. În același timp, unele servicii nu stochează conținutul comunicărilor în afara sarcinilor active și nu construiesc profiluri comportamentale pe baza datelor pasive.

Problema este că logica optimizării UX se deplasează treptat arhitectura către o colectare mai mare de date, stocare mai lungă și acces mai larg la acestea. Și, la un moment dat, linia pur și simplu dispare.

A doua problemă se referă la accesul pentru suportul clienților. Puteți construi o criptografie puternică și apoi oferi unui operator de suport clienți acces complet la istoricul clientului pentru sake-ul, să zicem, cumpărării unui singur bilet. În realitate, incidentele apar adesea din cauza accesului intern necontrolat și a erorilor umane, mai degrabă decât a atacurilor externe.

Al treilea risc este reprezentat de arhitecturile multi-agente. Când agenții transmit contextul unul altuia, datele încep să curgă între componente în moduri care nu au fost proiectate în mod explicit. Dacă un agent are permisiuni prea largi, acest context este preluat de lanțul mai jos.

Chitanțe de confidențialitate: noul standard pentru inteligența artificială

Este o greșeală să privim confidențialitatea ca o funcție de conformitate. Confidențialitatea reală depinde de ceea ce stocăm și de modul în care îl partajăm pentru scopul său, de cât timp și în ce condiții îl prelungim, cui îi acordăm acces și în ce împrejurări, inclusiv oameni și agenți inteligenți artificiali, și de modul în care utilizatorii îl controlează.

Din nefericire, majoritatea serviciilor nu au un răspuns simplu la întrebările utilizatorilor: ce anume știe sistemul despre ei, poate fi corectat sau șters complet, poate fi interzisă utilizarea unei anumite piese de date?

Prin urmare, este important să introducem chitanțe de confidențialitate atunci când un utilizator poate întreba asistentul său inteligență artificială ce anume știe despre el, de ce știe și de unde provine informația, și să primească instantaneu un răspuns clar și verificabil. La fel cum ne așteptăm la extrasele bancare, vom aștepta în curând transparență și de la sistemele care gestionează timpul nostru, legăturile și capitalul nostru.

Fundamentul tehnic al memoriei securizate

Chitanțele de confidențialitate sunt imposibile fără o bază inginerică solidă. Cel puțin trei straturi sunt critice: în primul rând, protecția datelor la nivel de infrastructură. Criptarea ar trebui să fie un principiu de bază, nu o formalitate. Datele ar trebui stocate cu chei specifice clientului, nu cu o singură cheie maestră pentru toți, transmisia ar trebui să se facă prin protocoale moderne, iar atributele sensibile ar trebui separate logic de metadatele serviciului.

Mai mult, fiecare serviciu, agent și operator ar trebui să aibă acces doar la datele necesare pentru a îndeplini o sarcină specifică.

În sfârșit, jurnalele de acces protejate împotriva modificărilor, auditarea fiecărui acces și controlul tehnic al geografiei stocării și prelucrării sunt importante. Testarea regulată a scenariilor multi-agente ar trebui considerată o clasă separată de risc.

Doar cu această arhitectură devin posibile chitanțele de confidențialitate: astfel, sistemul știe cu adevărat ce știe și poate dovedi.

Cine va pierde și cine va deveni standardul?

Serviciile și produsele care percep memoria ca o acumulare unilaterală vor pierde: mai puțină transparență pentru utilizator, dar mai multe surse, mai mult context și stocare mai lungă.

Acest model pare avantajoos pe termen scurt, dar fără restricții și reguli clare, logica se transformă în expansiune necontrolată, deoarece datele sunt conectate mai repede decât pot fi puse în aplicare mecanismele de explicare și control.

Scandalurile care implică scurgeri de date, utilizarea necorespunzătoare a asistenților inteligenți artificiali sau divulgarea incorectă a informațiilor sensibile vor afecta toate produsele din această categorie. Utilizatorii vor cere mai multă informație despre transparență, iar doar companiile care au integrat explicația, urmărirea și controlul utilizatorului în arhitectura lor dinainte vor putea menține încrederea.

Produsele care proiectează sistemul în jurul unei imagini instantanee și verificabile a ceea ce știe inteligența artificială și de ce va deveni standardul. Confidențialitatea trebuie să fie parte a sistemului de la început – mai ales atunci când afectează viețile oamenilor.