Älykkään tekoälynhän muistaa ilman ylittämistä: Henkilökohtaisten palvelujen tietosuoja-arkkitehtuuri seuraavalle sukupolvelle

Useimmat yritykset eivät ole vielä tajunneet, että henkilökohtaiset tekoälyavustajat ovat saavuttaneet täysin uuden tason. Nyt ne eivät vain vastaa kysymyksiin, vaan suorittavat toimintoja oikeiden työntekijöiden puolesta: ne tekevät ja seuraavat varauksia, viestivät ja tekevät päätöksiä rahoituksen, aikataulujen, matkojen ja kokousten suhteen.

Tekoälyn käyttämä data on myös muuttunut: “mikä musiikki sinulle sopii” – “missä sinä olet, kuka sinä olet, mitä sinä olet sopinut, ja mitä sinä maksat siitä.” Tämä on laadullisesti eri tasoa haavoittuvuutta, ja meidän on ehdottomasti tarve uudelle arkkitehtuurille. Kutsun tätä “tietosuoja kuittauksiksi” – digitaalisiksi kuittauksiksi, jotka sallivat käyttäjien nähdä milloin tahansa, mitä avustaja tietää heistä, mistä se on peräisin ja miksi sitä käytetään. Tämä on sama odotus, joka meillä on tänään pankkitilien osalta: läpinäkyvä, verifiointi, saatavilla pyynnöstä.

Miksi turvallinen tekoäly on tullut kriittisesti tärkeäksi juuri nyt

Aiempina aikoina tekoälyavustajat olivat pääasiassa informatiivisia: hakukone, asiakirja yhteenvetot, koodin vihjeet. Ne harvoin voivat toimia ilman henkilön osallistumista, joka ohjaa prosessia.

Tänään näemme eri kuvan. Avustajat ovat integroitu sähköpostiin, kalentereihin, viestintäsovelluksiin, pankkipalveluihin ja matkailupalveluihin; ne voivat lahetta kirjeen liikekumppanille, maksaa varauksen tai muuttaa lentoa, luottaen kontekstiin, josta vastuussa oleva henkilö saattaa olla tietämätön.

Samaan aikaan näiden avustajien varhaisimmat ja aktiivisimmat käyttäjät ovat henkilöitä, joille virheiden kustannukset ovat erittäin korkeat: johtajat ja toimitusjohtajat, HNW-asiakkaat, rahoitussektorin ja pääoman hallinnan ammattilaiset. Heille tietosuojan menetys on vakava maine-, oikeudellinen ja suora taloudellinen riski.

Kun on kyse tekoälystä, tietosuojakysymykset eivät voi enää käsitellä pelkästään muodollisuuksina.

Minimi data, enemmän arvoa

Useimmat tekoälytuotteet keräävät paljon enemmän dataa kuin mitä niiden on oikeasti tarve olla todella hyödyllisiä. Käytännössämme havaitsemme, että suurin osa tekoälyavustajien keräämästä datasta ei koskaan todella käytetä palvelujen tarjoamiseen. Jos otamme concierge-liiketoiminnan, kolme asiaa on tarpeen avustajan tarjoamiseksi korkealaatuista henkilökohtaista palvelua. Ensinnäkin, tehtävään liittyvät preferenssit: miten matkustat, miten viestit, mitkä rajoitukset sinulla on viisumien, budjetin ja perhevelvoitteiden suhteen.

Toiseksi, nykyisen pyynnön konteksti: missä, milloin, kenen kanssa, mihin tarkoituksiin, määräaikoja ja riskejä.

Lopuksi, se muistaa aiemmat vuorovaikutukset tehtävien sisällä: jotta se ei kysy samoja kysymyksiä, muista valitsemansa ratkaisut ja ei toista virheitä.

Tämä on tarpeen, jotta tuote toimii hyvän henkilökohtaisen avustajan tasolla. Sille ei tarvitse koko viestintäarkistoa, jatkuvaa sijaintitiedon seurantaa tai rahoitustoimia.

Tekoälyavustajat ja hyväksyttävät rajat

On olemassa tietotyyppejä, joilla ei ole mitään sijaa henkilökohtaisessa avustajassa. Esimerkiksi passiivinen käyttäytymisdata: jatkuva kuuntelu, jatkuva sijaintitiedon seuranta ilman pyynnöstä, näytön tai syötteen seuranta. Jos järjestelmä kerää tietoa siitä, mitä teet yleensä, eikä siitä, mitä pyydät, se lakkaa olemasta avustaja ja muuttuu valvontaksi.

Lisäksi, kolmansien osapuolten tietoja, jotka eivät ole koskaan vuorovaikuttaneet järjestelmän kanssa, ei tarvita. Esimerkiksi pyyntö “auta järjestämään kokous” ei saa muuttua oikeudeksi luoda profiileja vierailijoista, heidän reiteistään ja tottumuksistaan.

Kolmanneksi, viestintäsi täydellinen sisältö ei saa olla tallennettuina pitkäaikaisesti muistiin oletusarvoisesti. Avustaja voi prosessoida tietyn sähköpostin, jos sinä pyydät siitä, mutta se ei tarkoita, että se nyt on oikeutettu lukemaan sähköpostisi.

Hyödyllinen tarkoittaa häikäisevää: tekoälytuotteiden ansa

Lisäkonteksti tekee tuotteesta todella mukavamman, koska mitä enemmän järjestelmä tietää, sitä tarkemmat suositukset, nopeammat vastaukset ja suurempi vaikutus sen käytöstä.

Tässä vaiheessa syntyy luonnollinen tarve yhdistää kalenteri, sähköposti, chat, CRM ja geodata, jotta palvelu voi ennakoida käyttäjän tarpeita. Jokainen käyttäjän yhteys näyttää järkevältä ja perustellulta.

Concierge-alalla asiakkaan kalenterin ja matkailuhistorian yhdistäminen parantaa merkittävästi suosituksia – järjestelmä voi ennakoida tarpeita, ennen kuin asiakas ilmaisee ne.

Ongelma on, että käyttöliittymän optimoinnin logiikka siirtää järjestelmän arkkitehtuuria kohti suurempaa datakeräystä, pidempää tallentamista ja laajempaa pääsyä. Ja jossain vaiheessa raja katoaa.

Toinen ongelma liittyy asiakastukeen. Voit rakentaa vahvan salauksen, ja sitten antaa asiakastukihenkilölle täyden pääsyn asiakkaan historiaan, esimerkiksi yhden lipun ostamiseksi. Todellisuudessa tapahtumia usein tapahtuu johtuen hallitsemattomasta sisäisestä pääsystä ja ihmisen virheestä, eikä ulkoisista hyökkäyksistä.

Kolmas riski on moniagenttijärjestelmät. Kun agentit siirtävät kontekstia toisilleen, data alkaa virrata komponenttien välillä tavoilla, jotka eivät ole suunniteltu. Jos yhdellä agentilla on liian laajat valtuudet, tämä konteksti otetaan vastaan ketjussa eteenpäin.

Tietosuoja kuittaukset: seuraava standardi tekoälylle

On virhe katsoa tietosuojaa yhdenmukaisuustoimintona. Todellinen tietosuoja riippuu siitä, mitä me tallennamme ja miten me jaamme sen tarkoituksenmukaisesti, miten kauan ja millä ehdoilla me laajennamme sitä, kuka saa pääsyn ja millaisissa olosuhteissa, mukaan lukien henkilöt ja tekoälyagentit, ja miten käyttäjät hallinnoivat sitä.

Valitettavasti useimmat palvelut eivät ole yksinkertaista vastausta käyttäjien kysymyksiin: mitä järjestelmä tietää heistä, voidaanko sitä korjata tai poistaa kokonaan, voidaanko tietyn tietokohteen käyttöä kielletä?

Siksi on tärkeää esitellä tietosuoja kuittaukset, kun käyttäjä voi pyytää tekoälyavustajalta, mitä se tietää heistä, miksi se tietää sen, ja mistä tämä tieto on peräisin, ja välittömästi saada selkeän, verifioidun vastauksen. Niin kuin odotamme pankkitilien osalta, odotamme pian läpinäkyvyyttä järjestelmistä, jotka hallinnoivat aikaamme, yhteyksiämme ja pääomaa.

Tietosuoja kuittausten tekninen perusta

Tietosuoja kuittaukset ovat mahdottomia ilman vankkaa insinööritieteellistä perustaa. Vähintään kolme kerrosta on kriittisiä: ensinnäkin, datan suojaus infrastruktuuritasolla. Salaus on oltava ydinperiaate, eikä muodollisuus. Data on tallennettava asiakaskohtaisilla avaimilla, eikä yhdellä pääavaimella kaikille, siirto on modernien protokollien kautta, ja herkillä ominaisuuksilla on oltava logiikassa eriytetty palvelun metatiedosta.

Lisäksi, jokaisen palvelun, agentin ja operaattorin on oltava pääsy vain siihen dataan, joka on tarpeen tietyn tehtävän suorittamiseen.

Lopuksi, vahinkoja estävät pääsylokit, jokaisen pääsyn tarkastus ja tekninen valvonta tallennuksen ja prosessoinnin maantieteellisestä sijainnista ovat tärkeitä. Moniagenttiskenaarioiden säännöllinen testaus on pidettävä erillisenä riskiluokkana.

Vain tällä arkkitehtuurilla tietosuoja kuittaukset tulevat mahdollisiksi: tällä tavoin järjestelmä todella tietää, mitä se tietää, ja voi todistaa sen.

Kuka menettää, ja kuka tulee standardiksi?

Palvelut ja tuotteet, jotka kokevat muistin yhden suuntaisen kertymänä, menettävät: vähemmän läpinäkyvyyttä käyttäjälle, mutta enemmän lähteitä, enemmän kontekstia ja pidempää tallentamista.

Tämä malli näyttää edulliselta lyhyellä aikavälillä, mutta ilman rajoituksia ja selkeitä sääntöjä, tämä logiikka muuttuu hallitsemattomaksi laajenemiseksi, koska data yhdistetään nopeammin kuin selitys- ja valvontamekanismit voidaan asettaa paikoilleen.

Skandaalit, jotka liittyvät datavuotoihin, tekoälyavustajien väärinkäyttöön tai herkkien tietojen virheelliseen paljastamiseen, vaikuttavat kaikkiin tuotteisiin tässä luokassa. Käyttäjät vaativat enemmän tietoa läpinäkyvyydestä, ja vain yritykset, jotka ovat rakentaneet selitys-, jäljitettävyys- ja käyttäjän valvonnan arkkitehtuuriinsa etukäteen, voivat ylläpitää luottamusta.

Tuotteet, jotka suunnittelevat järjestelmän ympärille välittömän ja verifioidun kuvan siitä, mitä tekoäly tietää ja miksi, tulevat standardiksi. Tietosuoja on oltava osa järjestelmää alusta alkaen – erityisesti silloin, kun se vaikuttaa ihmisten elämään.