Ajatusjohtajat

Kun tekoälydatastasi tulee todisteita

Jerry Caviston
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatTekoälyvuorovaikutukset on tallennettava hallinnoituina tietueina ennen kuin riidat…
Näytä lisää
  • Tekoälyvuorovaikutukset on tallennettava hallinnoituina tietueina ennen kuin riidat syntyvät.
  • Pelkkä tekoälyn tuottama vastaus ei voi selittää, miten johtopäätökseen päädyttiin.
  • Hallinnointi on rakennettava käyttöönoton rinnalle sen sijaan, että se lisättäisiin vasta tiedonhaun aikana.

Useimmat organisaatiot voivat tunnistaa käyttämänsä AI-työkalut. Kuitenkin vaikeampi kysymys on, pystyvätkö ne tuottamaan luotettavan dokumentaation siitä, mihin yritystietoihin kyseiset järjestelmät ovat päässeet käsiksi, millaisia ohjeita ne ovat saaneet, mitä ne ovat palauttaneet ja mitkä politiikat ohjasivat vuorovaikutusta.

Tuo aukko voi pysyä piilossa pilottivaiheessa. Se käy ilmeiseksi, kun sääntelijä esittää kysymyksiä, asiakas kyseenalaistaa päätöksen tai oikeudenkäynti tarkastelee järjestelmää. Silloin auditointijälki on joko olemassa tai ei ole.

Yhdysvalloilla ei ole yhtenäistä kattavaa liittovaltion AI-lainsäädäntöä, mutta olemassa olevat tietosuoja-, arvopaperi-, syrjinnänvastaiset, tallenteiden säilytys- ja todisteiden luovutusvaatimukset voivat silti koskea AI-dataa. Uudet AI-spesifiset lait lisäävät toisen kerroksen. Kaikkien sääntöjen viimeistelyä odottava ymmärtää riskin väärin.

Laki ei odota teknologiaa

Tuomioistuimet ovat käsitelleet tätä ongelmaa aiemmin. Sähköpostista tuli säänneltyä todistusaineistoa vakiintuneen tallenteiden säilyttämistä ja todisteiden luovuttamista koskevan lainsäädännön kautta, ei kokonaan uuden oikeudellisen kehyksen kautta. Zubulake-oikeudenkäynnissä tuomioistuin sovelsi velvollisuuksia säilyttää ja luovuttaa todistusaineistoa siihen, miten organisaatiot tallensivat ja hallitsivat sähköisiä viestejä. Nämä päätökset auttoivat määrittelemään nykyaikaiset odotukset digitaalisille tallenteille.

AI-data todennäköisesti seuraa samanlaista polkua. Kehote voi sisältää arkaluonteista tietoa. Tuloste voi vaikuttaa työllisyspäätökseen, asiakasviestintään tai sopimukseen. Agentti voi hakea tietueita useista järjestelmistä ennen toimenpiteen suositusta. Jos toiminta joutuu kiistaksi, juristit ja sääntelijät kysyvät, mihin järjestelmä pystyi pääsemään, mitä se käytti ja mitä kirjaa organisaatio säilytti.

Securities and Exchange Commission on käyttänyt olemassa olevaa arvopaperilainsäädäntöä yrityksiä vastaan, jotka ovat tehneet harhaanjohtavia väitteitä tekoälyn käytöstään. Osavaltioiden ylimmät oikeusviranomaiset (attorneys general) voivat luottaa kuluttajansuojelu- ja tietosuojaviranomaisiin, kun taas tuomioistuimet voivat soveltaa vakiintuneita tiedonhankinta- ja todisteita koskevia sääntöjä.

AI-spesifiset vaatimukset vahvistavat tätä suuntaa. EU AI Act on ottamassa käyttöön velvoitteita vaiheittain, samalla kun Colorado ja Texas ovat laatineet dokumentointi-, läpinäkyvyys- ja täytäntöönpanomääräykset. Yksityiskohdat vaihtelevat, mutta odotus on yhtenäinen: organisaatioiden on ymmärrettävä, miten AI käyttää dataa, ja osoitettava, että asianmukaiset kontrollit olivat paikallaan.

Dokumentointi alkaa ennen tulostetta

AI-tulosteen käsitteleminen koko tietueena on virhe. Tuloste ei selitä, miten johtopäätös saavutettiin. Perusteltavissa oleva tallenne edellyttää myös kehotteen tai ohjeen, lähteet, joihin oli saatu pääsy, käyttäjän tai agentin oikeudet sekä voimassa olleen politiikan.

Koulutusdata ja operatiivinen data vaativat myös erilaisia kontrolleja. Organisaation, joka kouluttaa tai hienosäätää mallia, on ymmärrettävä näiden tietoaineistojen alkuperä ja sallittu käyttö. Kun työntekijä tai agentti käyttää kolmannen osapuolen mallia, välitön kysymys on, mitä yritystietoja on lähetetty tai haettu. Organisaatiot eivät välttämättä pysty seuraamaan jokaista sanaa perusmallin koulutusdatassa, mutta niiden on pystyttävä tekemään selkoa hallinnoimistaan tiedoista ja prosesseista.

Yritystiedot harvoin sijaitsevat yhdessä puhtaassa tallennuspaikassa. Ne jakautuvat operatiivisiin alustoihin, viestintään, jaettuun sisältöön sekä vanhoihin sovelluksiin. AI lisää tämän hajautumisen seurauksia. Agentti voi hakea tietoa nopeammin kuin ihminen, mutta se perii myös epäyhtenäiset käyttöoikeudet, säilytyspolitiikat ja dataluokitukset.

AI-vuorovaikutuksia on hallittava tallenteina

Organisaatiot tallentavat jo sähköpostia, chat-viestejä ja muuta säänneltyä viestintää. Generatiivisen AI:n liiketoimintakäyttö edellyttää samaa kurinalaisuutta. Kehotteet ja tulosteet tulisi tallentaa niiden luomisen yhteydessä ja asettaa politiikan alaisiksi säilyttämisen, turvallisuuden, oikeudellisen säilytysvelvoitteen, todisteiden luovuttamisen ja perusteltavissa olevan asiakirjojen loppukäsittelyn osalta.

Tietue tarvitsee myös kontekstin: kuka tai mikä käynnisti vuorovaikutuksen, mitä mallia käytettiin, mitä hallinnan alaisia lähteitä se käytti, mikä toimenpide seurasi ja mitä politiikkoja sovellettiin. Ilman tätä kontekstia kehotteiden ja vastausten arkisto saattaa silti epäonnistua selittämään, mitä tapahtui.

Nämä kontrollit alkavat itse datasta. Luokittelu, säilytys, oikeudellinen säilytysvelvoite, käyttöoikeudet, alkuperä ja auditointiloki tulisi toteuttaa, kun tieto siirtyy hallittuun ympäristöön. AI-järjestelmien tulisi toimia politiikalla hallitun datan pohjalta sen sijaan, että ne saavat laajan pääsyn kaikkeen saatavilla olevaan.

Hallintaa ei voi lisätä vasta todisteiden luovutusmenettelyn aikana

Kun haaste, sääntelykysely tai valitus saapuu, organisaatio ei voi luoda uudelleen tarkkoja käyttöoikeuksia, dataversioita ja AI‑vuorovaikutuksia, jotka olivat olemassa kuukausia aiemmin. Oikeudelliset ja compliance-tiimit voivat kerätä pirstaleita yksittäisistä järjestelmistä, mutta pirstaleet eivät muodosta täydellistä ja perusteltavissa olevaa tallennetta.

AI-ohjelmien ei tarvitse odottaa, että kaikki hallintokysymykset on ratkaistu. Perusta on rakennettava samanaikaisesti käyttöönoton kanssa. Luokiteltua, käyttöoikeuksilla suojattua dataa voidaan käyttää luomatta hallitsemattomia kopioita. Johdonmukainen tallentaminen antaa oikeus- ja vaatimustenmukaisuustiimeille mahdollisuuden tarkastella AI-toimintaa ilman, että se täytyy rekonstruoida kuvakaappauksista, selaushistoriasta tai yksittäisistä tileistä.

Tuo perusta tukee myös liiketoimintaa. Johtajat eivät voi skaalata järjestelmiä, joita he eivät pysty selittämään tai joihin he eivät luota. Hallitut syötteet lisäävät luottamusta, tallennetut vuorovaikutukset tekevät tuloksista tarkasteltavia, ja auditointijäljet luovat vastuullisuuden päätöksille.

Oikeusjuttu ei saisi pakottaa organisaatiota inventoimaan AI-toimintansa ensimmäistä kertaa. Luo tallenne, kun arkkitehtuuri ja käytännöt ovat vielä hallinnassasi. Kun AI-data muuttuu todisteeksi, sinun tulisi jo tietää, mistä se on peräisin, kuka siihen saattoi päästä käsiksi, mitä järjestelmä on sen kanssa tehnyt ja miten sitä hallittiin.

Jerry Caviston on Archive360:n toimitusjohtaja, auttaen yrityksiä suojaamaan, hallitsemaan ja vapauttamaan datansa arvon.