Cillian Kieran, Ethyca:n perustaja ja toimitusjohtaja – Haastattelusarja

Cillian Kieran, Ethyca:n perustaja ja toimitusjohtaja, on sarjayrittäjä ja tietosuoja-insinööri, jolla on yli kaksi vuosikymmentä kokemusta tietointensiivisten teknologiayritysten rakentamisesta. Ennen Ethyca:n perustamista vuonna 2019 hän johti digitaalista agentuuria CKSK:ta kymmenen vuoden ajan ja perusti myöhemmin BrandCommercen hyödyntäen taustaaan ohjelmistosuunnittelussa, käyttökokemuksessa ja suurten yritysten tietohallintoprojekteissa. Ethyca:ssa Kieran on keskittynyt tietosuojan ja tietohallinnan muuttamiseen manuaalisesta noudattamisesta infrastruktuuriksi, joka voidaan upottaa suoraan siihen, miten organisaatiot rakentavat ja operoivat teknologiaa.

Ethyca kehittää luotettavaa tietoinfrastruktuuria, joka auttaa yrityksiä löytämään herkkää tietoa, hallitsemaan suostumusta, täyttämään tietosuojapyynnöt ja valvomaan sääntöjä, jotka määrittävät, miten tietoa käytetään perinteisissä sovelluksissa ja tekoälyjärjestelmissä. Sen alusta perustuu Fidesiin, avoimeen lähdekoodiin tietohallintakieliin, joka luo yhdenmukaisen kehyksen sallitun tietokäytön määrittelylle, tarkastamiselle ja valvonnalle järjestelmissä, rajapinnoissa ja tekoälyputkistoihin. Yritys lanseeraa nyt Astraliksen, tekoälyhallintakerroksen, joka yhdistää automaattiset sääntelyarviot tarkoituksenmukaiseen pääsyvalvontaan, mahdollistaen organisaatioiden määrittämään, miksi mallit ja agentit pääsevät tiettyyn tietoon ja valvomaan näitä lupauksia reaaliajassa. Ethyca väittää, että alusta voi vähentää arvioita, jotka perinteisesti vaativat 40-60 tuntia manuaalista työtä noin 20-40 minuuttiin, auttaen yrityksiä laajentamaan tekoälykäyttöä ilman, että hallintoprosessit muodostuvat pullonkaulaksi.

Perustit useita yrityksiä ennen Ethyca:n lanseerausta vuonna 2019, mukaan lukien CKSK:n rakentaminen globaaliksi digitaaliseksi konsulttiyhtiöksi, joka palvelee Fortune 500 -yrityksiä. Mitkä kokemukset matkallasi vakuuttivat sinut siitä, että tietohallinta, ei tekoälymallit itsessään, tulevat olemaan määräävä pullonkaula yritysten tekoälyadopptiolle?

Vietin vuosia rakentamassa digitaalista konsulttiyhtiötä, joka palveli suuria yrityksiä kuten Heineken, Sony ja Pepsi digitaalisen mainonnan ja sosiaalisen median kultakauden aikana. Useiden kertojen näin saman kaavan toistuvan. Voimakas teknologia saapuu, kaikki kilpailevat sen omaksumisesta, ja vasta kun se on upotettu liiketoimintaan, sääntelijät tulevat asettamaan rajoituksia, jättäen noudattamisjoukkueet selvittelemään seurauksista. Otetaan esimerkki GDPR:stä, ensimmäinen oikea isku sille, miten yritykset käyttävät henkilötietoja. Sääntelijät astuivat esiin vasta kun martech ja sosiaalinen media olivat jo tehneet tietokokoelman liiketoimintamallinsa selkärangaksi. Minulle oli selvää, että sama kaava toistuisi tekoälyssä.

Se, mikä vahvisti epäilyäni, jonka minulla oli, oli tietosuojan mukaisuustyö, jota tein Ethyca:ssa. Rakentamalla noudattamisjärjestelmiä suurille yrityksille, tajusin, että voisi rakentaa kerroksen yrityksen tietojen ympärille, joka arvioi jokaisen pyynnön kolmen asian perusteella: mitä tietoa on, mitä siihen saa tehdä, ja mikä on riski, jos tekee. Tämä työ osoitti todellisen rajoituksen. Yritykset eivät ole vähässä tietoa. Ne ovat vähässä hallintakerroksessa, joka määrittää, mitä tietoa saa käyttää.

Viime vuoden aikana yritysten tekoäly on siirtynyt yksinkertaisista chatboteista autonomisista tekoälyagenteista, jotka pystyvät tekemään päätöksiä ja ottamaan toimia. Miten tämä kehitys on muuttanut hallintahaasteita, joita organisaatiot kohtaavat, ja miksi perinteiset noudattamislähestymistavat eivät enää skaalautu?

Ihmiset puhuvat yritysten tekoälystä ja sen tuotosta kuin arvo tulisi yksinkertaisesti liittämällä agentti työprosesseihin. Todellisuudessa arvo tulee siitä, että agentti kytketään laajaan järjestelmien kirjoon, jotta se voi syntetisoida tietoa ja tuottaa tuloksia, joita ihminen ei voisi koota yhtä aikaa. Pääsy tietoihin on todellinen pullonkaula.

Ongelma on, että sama asia, joka tekee agentista arvokkaan, on myös se, mikä tekee siitä riskin. Mitä enemmän järjestelmiä siihen kytketään, sitä enemmän tietoa alkaa virrata organisaation eri osista toisiin, ja jokainen näistä virroista muodostaa mahdollisuuden tietojen päätyä väärään paikkaan.

Jokaisen näistä virroista on tarkistettava: onko tietoa sallittua käyttää tällä tavoin, tähän tarkoitukseen, tietosuojalain ja oman käytäntömme mukaan? Kun on vain muutamia näistä päätöksistä päivittäin, ihminen voi tehdä jokaisen päätöksen manuaalisesti. Kun on tekoälyagentti, joka lähettää tuhansia pyynnöksiä sekunnissa, se muodostuu inhimillisesti mahdottomaksi. Se on se kohta, jossa perinteinen noudattaminen menee rikki.

Suurten tekoälyyritysten kuplivat arvot voidaan toteuttaa vasta, kun hallinta siirtyy reaaliaikaan, koneen nopeuteen, siinä vaiheessa, kun tietoa käytetään.

Ethyca lanseeraa Astraliksen hallintakerroksena yritysten tekoälylle. Mitkä asiakasongelmat johtivat alustan luomiseen, ja miksi nyt on oikea aika sen esittelyyn?

Tietojen puhdistustyö tekoälylle tapahtuu edelleen samalla tavoin kuin tietosuojan mukaisuustyö vuonna 2016, kun ihmiset täyttävät kyselyitä ja suorittavat arvioita käsin. Tämä prosessi oli jo liian hidas tavalliselle tietosuojatyölle, ja tekoälyn käyttötapausten vastaisuudessa se ei ole mitään mahdollisuutta. Suurin osa siitä, mitä myydään tekoälyhallintana tällä hetkellä, on sama lomake- ja työprosessit, joissa on “tekoäly”-merkintä. Lomakkeen täyttäminen ei ole hallintaa. Mitä puuttuu, on ohjelmisto, joka tekee itse hallintatyön, sen sijaan, että se tuottaa vain kirjallisen todistuksen siitä, että ihminen on tehnyt sen käsin. Tämä on se, mihin Astralis on rakennettu.

Vaade, johon reagoimme, tulee tiimistä, jotka on käsketty toimittaa tekoäly nopeasti ja turvallisesti, ja he eivät voi tällä hetkellä tehdä kumpaakaan. Agentit menevät tuotantoon nopeammin kuin mikään tiimi voi seurata, ja sääntelijöiden kysymys on muuttunut. Se ei enää ole, onko sinulla käytäntö. Nyt se on, voitko osoittaa, että käytäntöä noudatettiin tietyssä tietokohteessa, tietyssä tarkoituksessa. Useimmat yritykset voivat vastata ensimmäiseen kysymykseen hyvin. Vain harvat voivat vastata jälkimmäiseen.

Gartner arvioi, että keskivertoinen Fortune 500 -yritys voi ajaa 150 000 tekoälyagenttia vuoteen 2028 mennessä, ollen 15 vuonna 2025. Miten yritysjohtajien tulisi uudelleenarvioida hallintaa maailmassa, jossa autonomiset agentit voivat ylittää ihmisten määrän, jotka käsittelevät tietoa?

Vuoteen 2028 mennessä agentit, jotka käsittelevät yrityksen tietoa, ylittävät työntekijöiden määrän, jotka tekevät samaa. Kun toimijat, jotka käyttävät tietoa, ovat pääosin koneita, kuka on vastuussa? Vanha malli sijoittaa vastuun lopulliseen ihmisen hyväksyntään, mutta kun suurin osa näistä päätöksistä ei ole tehty eikä tarkastettu ihmisen toimesta, vastuu on siirrettävä ihmisistä järjestelmiin.

Pankkitoiminta on tehnyt tämän siirtymän jo kauan sitten. Emme luota pankkiin, koska kassanhoitaja laskee seteleitä käsin. Luotamme siihen, koska valvontamekanismit ovat kunnossa, ja koska on ihmisiä, jotka ovat vastuussa niiden ylläpitämisestä. Tietohallinnan on tehtävä sama. Todiste siitä, että yritys käsittelee tietoa vastuullisesti, ei enää ole se, että joku on tarkastanut sen, vaan se, että järjestelmä valvoo käytäntöä automaattisesti jokaisella käytöllä, ja voi tarjota todisteita siitä, joten vastuu on sisäänrakennettu. Se mahdollistaa liiketoimintajohtajien keskittymisen siihen, mihin he ovat hyviä: soveltamaan tuomiovaltaa, asettamaan sääntöjä ja puolustamaan järjestelmää.

Astralis yhdistää Large Language Regulatory Modelin (LLRM) Purpose-Based Access Control (PBAC):n kanssa. Voitko selittää, miten nämä kaksi teknologiaa toimivat yhdessä varmistaaksesi, että tekoälyjärjestelmät ymmärtävät, kuka pääsee tietoihin, mutta myös miksi heidän tulisi päästä siihen?

Perinteinen pääsyvalvonta tarkistaa, kuka sinä olet, ja jos sinun identiteettisi antaa sinulle pääsyn tiettyyn tietoon.

Mutta tietosuojassa ei ole kyse siitä, kuka pääsee sisään. Ihminen voi olla täysin valtuutettu pääsemään tietokantaan ja silti käyttää sitä jotain, mitä ei ollut koskaan sallittua tehdä. Tärkeäksi tulee se, mitä tietoa käytetään, ja onko tarkoitus sallittu. Tämä on se, mitä PBAC vastaa ja valvoo.

Haaste on, että tarkoitus ei ole tekninen tosiasia, jota voi lukea tietokannasta. Se riippuu siitä, mitä liiketoimintasi tekee, mitä lupaat asiakkaillesi, ja mitä laki sallii. Tämä on se, mihin LLRM on tarkoitettu. Se oppii, miten yrityksesi toimii, ja sitten käsittelee sääntöjä, jotka koskevat sitä. Tuloksena on selkeä määritys siitä, mitä kunkin tietotyyppiä voidaan ja ei voida käyttää. PBAC valvoo tätä määritystä pääsypisteessä. LLRM päättelee, PBAC toimii.

Julkaistussa ilmoituksessasi mainitaan, että tekoälyarvioita voidaan vähentää 40-60 tunnista manuaaliseen työhön vain 20-40 minuuttiin. Mitkä osat nykyisestä hallintaprosessista ovat tehokkaimpia, ja missä kohdissa automaatio luo suurimmat hyödyt?

Suurin osa näistä 40-60 tunnista ei ole sellaista, joka vaatisi ihmisen arviointia. Ne ovat kokoamista. Joku kartoittaa tietoa käsin, pitää sitä Excel-taulukossa, ja sitten ajaa kontekstia eri tiimien ympärillä. Kun kaikki tämä on kerätty, itse arvio, se osa, joka vaatii ihmisen ajattelua, on pieni osa työstä. Loput on ammattilainen, joka toimii tietojen kerääjänä liiketoiminnalle, jolla on jo tieto, mutta se on hajautunut eri tiimien ympärille.

Ärsyttävää on, että tämä työ ei koskaan jää valmiiksi. Arvio on yksittäinen otos, mutta tekoälykäyttötapausten määrä ei lopu. Uusia tulee jatkuvasti, ja jokaiselle niistä tarvitaan oma tarkastelu. Joten manuaalinen prosessi ei ole vain hitaasti kerran, se on pysyvästi jäljessä liiketoiminnan haluamaa vauhtia, ja se tulee olemaan hallitsematon, kun yritykset

Tehokkuuden hyödyt tulevat siitä, että järjestelmä muuttaa, kuka tekee mitä. Järjestelmä hakee metadataa itse, joten kukaan ei jää ajamaan kontekstia käsin. Se esittää vain ne kysymykset, joita ihminen voi vastata – aitoja päätöksiä – sen sijaan, että ihminen joutuisi kitkemään kenttiä, joita kone voi täyttää. Ja auditin jälki rakentuu itse arvioitaessa, sen sijaan, että joku kirjoittaisi sen myöhemmin muistikuvan perusteella. Siinä 40 tuntia muuttuu 40 minuutiksi.

Yksi hämmästyttävimmistä väitteistä on, että suuri yhdysvaltalainen rahoituslaitos käsittelee noin 6 000 hallintapyynnön sekunnissa Astraliksen kautta. Mitä toimiminen tässä mittakaavassa opettaa tietoja tulevaisuuden infrastruktuurivaatimuksista yritysten tekoälylle?

Oppitunti on, että hallinta ei voi olla erillinen vaihe enää. 6 000 päätöksen sekunnissa hallinnan on tapahduttava itse tietovirrassa, samassa nopeudessa kuin kyselyt ja mallit, joita se hallitsee. Tekoälylle hallinta on oltava infrastruktuuria: aina päällä ja aina linjassa, ei erillinen raportti. Se on oltava nopeaa, koska jos hallinta on hidasta, se muodostuu asiana, jota ihmiset ohittavat täyttääkseen deadlineensa.

Te kohtelette nopeasti muuttuvaa tekoälysääntelyä sekä Yhdysvalloissa että Euroopassa. Miten rakennatte hallintaplatfoormaa, joka voi sopeutua muuttuviin lakisääteisiin kehyksiin ilman, että pakotte tekoälyyn yrityksiä jatkuvasti manuaalisiin käytäntöpäivityksiin?

Virhe, jonka useimmat noudattamistyökalut tekevät, on se, että ne sisällyttävät säännöt tuotteeseen, joten kun laki muuttuu, joudut odottamaan, että toimittaja uudelleenrakentaa työkalun. Astralis on rakennettu toimimaan toisin. Sen perustana on yhteinen kieli tietojen ja niiden käytön kuvaamiseksi, eikä siinä ole mitään sääntöjä. Säännöt sijaitsevat erillisessä käytäntökerroksessa sen yläpuolella. LLRM lukee sääntelyn, selvittää, mitä se merkitsee yrityksellesi, ja kirjoittaa käytännön sen mukaan. PBAC valvoo sitten sitä käytäntöä silloin, kun se on voimassa – joten sääntöjen muutos jättää valvontamekanismin koskemattomaksi.

Kun uusi sääntely tulee voimaan, kaikki yrityksen ponnistelut voivat keskittyä siihen, mitä se merkitsee heidän liiketoiminnalleen; mikään ei mene siihen, että heidän on uudelleenrakennettava tietosuojajärjestelmäänsä.

Monet johtajat ovat huolissaan siitä, että tekoälyagentit tekevät luvattomia päätöksiä tai pääsevät herkkään tietoon. Kuinka realistinen tämä huoli on tällä hetkellä, ja mitkä käytännön varotoimet yritysten tulisi toteuttaa ennen tekoälyagenttien käyttöönottoa laajassa mittakaavassa?

Se on täysin realistinen huoli, ja se on jo tapahtumassa. Kalifornian osavaltio antoi Disneylle 2,75 miljoonan dollarin sakon, koska heidän järjestelmänsä eivät voineet luotettavasti valvoa asiakkaan opt-outia. Heidän järjestelmissään kuluttaja, joka oli opt-outanut yhdellä laitteella, pysyi opt-outina toisella laitteella, ja selainkohtaiset opt-out-ohjeet eivät olleet voimassa. Tämä tapaus ei johtunut agentin odottamattomasta toiminnasta, vaan yksinkertaisesta aukosta siinä, mitä Disney oli luvannut asiakkailleen, ja mitä heidän järjestelmänsä pystyivät valvomaan.

Varotoimet, jotka todella estävät tämän, ovat epäilyttäviä: tiedä, mitä tietoa sinulla on, ja mitä olet asiakkaillesi luvannut, ja pidä se kaikki yhdessä paikassa, koska useimmat näistä epäonnistumisista johtuvat siitä, että yhden tiimin lupaus ei koskaan tavoita toisen tiimin tietokantaa.

Katsoen eteenpäin kolmeen viiden vuoteen, mitä erottaa yritykset, jotka onnistuvat toimimaan tekoälyllä, niistä, joiden tekoälyprojektit jäävät kiinni pilottihankkeisiin, ja mikä rooli hallinnalla on luomassa kilpailuetua?

Ero tulee olemaan siinä, onko yrityksellä yksi järjestelmä hallita kaikkea tietoa, vai onko se valinnut hallita tietoa osastokohtaisesti. Yritykset, jotka hallitsevat tietoa osastokohtaisesti, tulevat jatkuvasti törmäämään esteisiin, koska tekoäly ulottuu osastojen yli. Jokainen yritys on saanut kehotuksen toimittaa tekoäly nopeasti ja välttää sääntelijöiden kirjeitä, ja nämä kaksi ovat vedonneet toisiaan vastaan. Se, joka ratkaisee molemmat ongelmat, sen sijaan, että se asettuu tyytyväisenä toiseen, voittaa vuosikymmenen.

Kiitos haastattelusta, lukijoille, jotka haluavat oppia lisää, suosittelemme vierailemaan Ethyca tai Astralis .