Tekoälyagenttien luominen luotettaviksi suunnittelun kautta, ei vahingossa

Tekoälyagentit eivät saavukaan suurella hälinällä vaan hiipivät arkipäivän toimintoihin. Järjestelmät, jotka aikaisemmin odottivat inaktiivisina ihmisten käskyjä, ottavat nyt aloitteen. Tämä kehitys on jo tapahtumassa organisaatioiden sisällä, mutta tekoälyhallinnon keskustelu on jumiutunut aikaisempaan aikakauteen. Lakimme ja organisaatiorakenteemme eivät ole koskaan suunniteltu itsenäisten, ei-ihmisten toimijoiden kanssa. Yrityksille, jotka ovat GDPR:n alaisia, tämä ei ole teoreettinen huolenaihe, vaan käytännön haaste — ja se etenee nopeammin kuin useimmat noudattamisryhmät voivat mukautua.

Kun tekoälytyökalut alkavat puhua takaisin

Kun hallintoa käsitellään, fokus on yleensä noudattamisessa, riskien hallinnassa ja vahingon estämisessä. Vaikka nämä ovat erittäin tärkeitä, ne on suunniteltu maailmaan, jossa tekoäly on pääosin staattista: koulutettu, testattu, julkaistu ja valvottu ennustettavissa sykleissä.

Kun tekoälyagentit otetaan päätöksentekoprosesseihin mukaan, keskeiseksi haasteeksi tulee enemmän käyttäytyminen ja luottamus. Johtajien on kysyttävä itseltään, “miten varmistamme, että toimintakykyisiin järjestelmiin voidaan myös luottaa?” Luottamus on suunnittelupäätös, joka on tehtävä tietoisesti, ei suunniteltu vaikuttamalla. Organisaatiot, jotka noudattavat GDPR-ohjeita, ymmärtävät, että noudattaminen on kriittistä ja sisältää laillisia seuraamuksia.

Kolme tapaa, joilla tekoälyagentit rikkovat nykyisiä GDPR-oletuksia

Kun GDPR suunniteltiin, sitä ei kirjoitettu itsenäisille agenteille. Kolme GDPR:n periaatetta — tarkoituksen rajoitus, tietojen minimointi, avoimuus ja vastuu — ovat kriittisiä. Tekoälyagentit vaikuttavat jokaiseen uusilla tavoilla, ja on olemassa kolme avainaluetta, jotka on käsiteltävä.

Ensimmäinen riski on, miten tekoälyagentti “ajattelee” tehtävän. Sen sijaan, että se suorittaisi yhden kiinteän prosessin, se jakaa työn moniin pieniin askeliin, usein kutsuen ulkoisia työkaluja, etsien tietokannoista, tehdessä arvauksia ja käsitellessä henkilötietoja matkan varrella. Suurin osa tästä tapahtuu näkymättömästi. On vaikea selvittää, mitä tietoja käytettiin, missä vaiheessa ja mihin tarkoituksiin — mutta se on juuri sellaista avoimuutta ja vastuu, jonka GDPR odottaa.

Toinen riski on, miten agentit käyttävät muistia. Ne voivat pitää henkilötietoja lyhytaikaisessa muistissa tehtävän suorittamisen aikana ja pitkäaikaisessa muistissa useiden istuntojen ajan. Jos muisti ei ole huolellisesti eriytetty, yhden henkilön vuorovaikutuksesta saatavat tiedot voivat vuotaa toisen henkilön vuorovaikutukseen. Jos et aseta selviä säilytysrajoituksia, henkilötiedot voivat jäädä pitkäksi aikaa, vaikka ne olisi pitänyt poistaa. GDPR:n mukaisen tietojen poistamista koskevan oikeuden kannalta tämä muodostuu vaikeaksi, kun tiedot ovat agentin muistissa eikä tietokannassa, jonka yksityisyysryhmäsi voi helposti löytää ja kysyä.

Kolmas riski on kehotusinjektiot — periaatteessa, huijaaminen agenttia. Kun agentti lukee asiakirjoja, selaa internetiä tai käsittelee saapuvia viestejä, vihamielinen sisältö näissä lähteissä voi kaapata sen käyttäytymisen, pakottaa sen vuotamaan henkilötietoja tai aiheuttaa sen suorittamaan toimia, joita organisaatio ei ole hyväksynyt. Tämä on tunnettu hyökkäysmalli, joka on ominainen agenttipohjaisille järjestelmille. Se tarkoittaa, että voit kärsiä tietovuodosta, ei siksi että ydinjärjestelmiisi murtauduttiin, vaan siksi että tekoälyagenttisi kohtasi vihamielistä sisältöä tehdessään työtään — ja GDPR:n nojalla olet edelleen vastuussa.

Todellisen luottamuksen rakentaminen, ei vain ystävällistä käyttöliittymää

On tärkeää ymmärtää, että on ero suunnitellun luottamuksen ja ansaitun luottamuksen välillä. Suunniteltu luottamus voi auttaa vakuuttamaan käyttäjiä tärkeästä asiasta, yleensä emotionaalisella peilaamisella, antropomorfisilla vihjeillä tai suostuttavalla suunnittelulla.

Kuitenkin kestävä luottamus on järjestelmistä, jotka käyttäytyvät tavalla, jota ihmiset voivat ymmärtää, ennakoida ja arvioida. Agentin syyt, rajoitukset ja aikeet ovat legitimejä. Tämä on edellytys GDPR-yhdenmukaiselle suunnittelulle, jossa avoimuus on merkityksellistä.

Mitä luottamuspinorakenne todella tarkoittaa?

Yksi strategia organisaatioille on käyttää kerroksellista luottamuspinorakennetta. Tämä tarkoittaa, että kunkin kerroksen on tehtävä selväksi vastuu ihmisten ja koneiden välillä.

• Selkeät päättelypolut: Agentin on kyettävä selittämään, miten ja miksi se tuotti tuloksen — ei syvällisellä teknisellä yksityiskohdalla, vaan tavalla, jota voit seurata ja tarkistaa. Tämä on linjassa GDPR:n avoimuussäännösten ja oikeuden selitykseen automaattisista päätöksistä 22 artiklan mukaisesti.
• Selkeät rajoitukset valtaan: On oltava tiukat rajat siitä, mitä agentti on sallittu tehdä, päättää tai suositella. Sen toimintavapaus ei saa laajentua huomaamatta ajan myötä. GDPR-tarkoituksessa tämä tarkoittaa, että ihmiset tekevät päätökset; agentti on työkalu, ei rekisterinpitäjä.
• Avoin tavoite: Agentin tavoitteiden on oltava avoimesti ilmoitettu. Ihmisten on tiedettävä, onko se optimoimassa tarkkuutta, turvallisuutta, nopeutta vai kaupallista hyötyä — ja se tavoite on kirjoitettava ylös ja ymmärrettävä.
• Helppo haaste ja pysäytysnappi: Ihmisten on kyettävä kyseenalaistamaan, oikaisemaan tai sammuttamaan agentin päätökset ilman kitkaa. Yksinkertainen tapa valita pois on välttämätön luottamuksen kannalta — ja 22 artiklan mukaan se on myös laillinen vaatimus.
• Sisäänrakennettu hallinto: Lokit, tarkastukset, muistin valvonta ja valvonta on rakennettava järjestelmään päivästä yksi, ei lisätty myöhemmin. Yksityisyyden suunnittelu ei ole valinnainen; se on perusrakenne, joka tekee kaiken muun toimivaksi.

Luottamuspinorakenteen hyödyntäminen tekee autonomian turvalliseksi skaalattavaksi.

Kun hallinto kohtaa todellisen maailman kokemuksen

Hallinto ei ole vain sääntöjä ja prosesseja. Se on myös sitä, miten järjestelmät tuntuvat niille, jotka käyttävät niitä. Ihmisten on tunnettava, että heillä on edelleen valta. Heidän on nähtävä, kun tekoäly toimii, ymmärrettävä, miksi se tekee jotain, ja tiedettävä, miten se pysäytetään, kun se pitäisi lopettaa.

Järjestelmät, jotka merkitsevät noudattamisruudun, mutta tuntuvat mustasta laatikosta, menettävät luottamuksensa nopeasti. Se vaatii erittäin tietoista suunnittelupäätöksiä: ei ihmismäisiä signaaleja, jotka viittaavat empatiaan tai moraaliseen arviointikykyyn, jota järjestelmällä ei ole; selkeät signaalit, kun tekoäly on epävarma tai rajoitettu; ja ei säätämistä kokemusta luomaan emotionaalista riippuvuutta.

Johtajien on siirryttävä kysymyksestä “onko tekoälymme vastuullinen?” Parempi joukko kysymyksiä on: “Mitkä käyttäytymismallit tämä järjestelmä tekee normaaleiksi? Mistä se ohjaa ihmisiä huomaamatta poispäin? Miten se muokkaa arviointia ajan myötä — ja olemmeko valmiit vastaamaan siitä?”