J. Paul Haynes, Cinchyn toimitusjohtaja – Haastattelusarja

J. Paul Haynes, Cinchyn toimitusjohtaja, on kyberturva- ja teknologiajohtaja, jolla on vuosikymmenten kokemus yritysten turvallisuuden ja kasvun kehittämisestä. Hän on parhaiten tunnettu johtajuudestaan eSentiressä, jossa hän auttoi kasvattamaan yrityksen johtavaksi hallitun havaitsemisen ja vastaiskuun tarjoajaksi, ja tuo vahvan taustan insinööritieteestä, kyberturvallisuudesta, yksityisen pääoman kasvusta ja yritysten riskienhallinnasta Cinchyyn, kun yritys keskittyy luotettavaan tekoälyyn ja sen hallintaan.

Cinchy on yritysten tekoälyhallinta- ja data-yhteistyöyritys, joka keskittyy auttamaan organisaatioita turvallisesti kytkemään tekoälyjärjestelmiä, järjestelmiä ja dataa. Sen PeriMind-alusta toimii tekoälytoimien ohjauskeskuksena, joka antaa yrityksille näkyvyyden, määräysvaltion, turvallisuuden ja tarkastettavuuden siitä, miten tekoälyjärjestelmät vuorovaikuttavat liiketoimintajärjestelmien kanssa, kun taas sen Data Collaboration Platform auttaa tiimejä hallitsemaan ja jakamaan hallittua dataa koko organisaatiossa ilman monimutkaisia integraatioita tai duplikaattisia data-siloja.

Olet viettänyt yli 15 vuotta auttamassa eSentiren rakentamisessa ja kasvattamisessa yhdeksi turvallisuusalan tunnetuimmista yrityksistä. Mitkä opit tuot sieltä uuteen rooliisi Cinchyn toimitusjohtajana, ja miksi uskot, että nyt on oikea aika keskittyä tekoälyhallintaan ja luotettavaan tekoälyyn?

Yksi suurimmista opetuksista, jonka opin eSentiressä, on, että organisaatiot eivät kamppaile, koska heillä ei ole tarpeeksi teknologiaa. He kamppailevat, koska uudet teknologiat luovat toiminnallista monimutkaisuutta nopeammin kuin useimmat yritykset voivat itse hallita. Näen tekoälyn seuraavan hyvin samanlaista polkua.

Nykyinen haaste ei ole saada työntekijöitä kokeilemaan tekoälyä. Useimmat organisaatiot tekevät jo sitä. Todellinen haaste on siirtää tekoäly tuotantoon, missä päätökset vaikuttavat asiakkaisiin, taloudellisiin tuloksiin, sääntelyn mukaisuuteen ja liiketoimintaprosesseihin.

Säänneltyjen alojen, kuten rahoituspalvelujen, tapauksessa tämä on täydellisesti havainnollistettu. He eivät etene hitaasti, koska he eivät ymmärrä tekoälyä. He etenevät varovasti, koska he eivät voi vielä luottaa tekoälyyn kriittisiin tehtäviin. Ennen kuin tekoälyjärjestelmä voi tehdä päätöksiä, organisaatioiden on vastattava perustaviin kysymyksiin: kuka hyväksyi nämä päätökset? Miten niitä valvotaan? Milloin ihminen puuttuu? Mitä tapahtuu, jos malli muuttuu, epäonnistuu tai tulee saataville?

Nämä kysymykset muistuttavat minua siitä, mihin turvallisuus oli 15 vuotta sitten. Turvallisuus kehittyi teknologiapongasta toiminnalliseksi kurinpidoksi. Uskon, että tekoälyhallinta on samalla polulla.

Siksi liityin Cinchyyn. Uskomme, että luotettava tekoälyominaisuus (ei tekoälykokeilu) määrittää seuraavan vuosikymmenen, ja näemme, että hallittu tekoälyhallinta tulee olemaan yhtä tärkeää kuin hallittu turvallisuus.

Monet yritykset ovat kokeilleet generatiivista tekoälyä viimeisen kahden vuoden aikana, mutta suhteellisen vähän on onnistunut tekoälyn käyttöönotossa kriittisissä prosesseissa. Mitkä ovat suurimmat esteet, jotka estävät organisaatioita siirtymästä kokeilusta tuotantoon?

En usko, että yritykset kamppailevat, koska teknologia ei ole tarpeeksi hyvä. Uskon, että he kamppailevat, koska panokset kasvavat, kun tekoäly siirtyy kokeilusta tuotantoon.

Pilotti on yksi asia. Tekoälyn käyttöönotto tuotantoon on jotain aivan muuta. Nyt on kyse siitä, että tekoäly käyttää yrityksen dataa, vuorovaikuttaa liiketoimintajärjestelmien kanssa, tekee päätöksiä työntekijöiden puolesta. Silloin johtajuus oikeutetusti alkaa kysyä: “Miten hallitsemme tätä? Miten valvomme sitä? Miten tiedämme, milloin tarvitaan ihmisen apua?”

Nämä eivät ole syitä hidastaa tekoälyominaisuutta. Ne ovat asioita, jotka tekevät tekoälyominaisuuden mahdolliseksi. Jos voit vastata näihin kysymyksiin luottavaisesti, organisaatiot etenevät paljon nopeammin.

Olet viettänyt suurimman osan urastasi suojaamassa yritysten ympäristöjä kybertuhmoilta. Miten tekoälyvoittoisen organisaation suojaaminen eroaa perinteisen IT-ympäristön suojaamisesta?

Perinteinen turvallisuus keskittyy suojaamaan päätepisteitä, identiteettejä, verkkoympäristöjä ja pilviympäristöjä. Tekoäly lisää uuden pysyvän yrityksen uhka-alustan. Jokainen tekoälyjärjestelmä tuo uusia riskejä. Mallin pääsy, ohjelmointi, liiallinen valtuutus, mallin muutos, autonomisen päätöksenteon ja täysin uudet hyökkäysreitit, jotka eivät olleet olemassa aiemmin.

Tärkein asia on, että tekoälyturvallisuus ei ole erillistä turvallisuudesta. Se laajentaa turvallisuutta. Organisaatioiden on edelleen tarve jokaiselle olemassaolevalle turvallisuuden valvontatoimenpiteelle, mutta nyt heillä on myös tarve turvallisuuteen, joka on suunniteltu erityisesti tekoälyjärjestelmien käyttöön tuotannossa.

Varoitus IT:stä on ollut pitkään huolenaihe turvallisuustiimille, mutta nyt näemme varjotekoälyn nousun. Kuinka merkittävä haaste tämä on, ja mitä riskejä organisaatiot aliarvioivat?

Varjotekoäly on yksi nopeimmin kasvavista liiketoimintariskeistä, koska toimitusjohtajat kannustavat nopeaan tekoälyominaisuuteen ilman, että he aina asettavat hallintaa ensin. Useimmat työntekijät eivät toimi pahantahtoisesti. He yrittävät olla tuottavampia. Ongelma on, että tekoälyjärjestelmät perivät käyttäjien olemassaolevat valtuutukset.

Johtaja, joka kokeilee julkista tekoälymallia, voi vahingossa altistaa luottamuksellista rahoitusdataa, asiakastietoja tai immateriaalioikeuksia vain pyytämällä tekoälyä analysoimaan sitä.

Siksi organisaatioiden on tarve näkyvyyttä, määräysvaltaa ja hallintaa, ei hidastamaan tekoälyominaisuutta, vaan tehdä siitä turvallista skaalata.

Teckoälyagentit saavat yhä useammin pääsyn yritysten järjestelmiin, dataan ja päätöksentekoprosesseihin. Mitkä uudet vastuu- ja hallintahaasteet nousevat, kun tekoälyjärjestelmät voivat toimia autonomisesti eivätkä ainoastaan luo sisältöä?

Teckoälyagentit muuttavat perustavasti hallintakeskustelua, koska ne eivät enää luo sisältöä. Ne tekevät toimia. Kun autonomiset järjestelmät voivat hyväksyä transaktioita, päästä yrityksen järjestelmiin tai tehdä liiketoimintapäätöksiä, organisaatioiden on tarve täydellinen vastuu.

Jokaisen toiminnan on vastattava yksinkertaisiin kysymyksiin:

• Mikä tapahtui?
• Miksi se tapahtui?
• Mikä tekoälyagentti teki päätöksen?
• Kenelle se oli valtuutettu?
• Milloin ihmisen on puututtava?

Nämä periaatteet eivät ole uusia. Toimialat ovat eläneet vastuunvaatimusten kanssa vuosikymmenien ajan sääntelyjen, kuten Sarbanes-Oxleyn, nojalla. Tekoäly laajentaa nämä samat odotukset autonomisille digitaalisille työntekijöille.

Monet organisaatiot kilpailevat tekoälyn käyttöönotossa kilpailupaineen vuoksi. Miten liiketoimintajohtajat voivat tasapainottaa nopeuden tarpeen hallinnan, sääntelynmukaisuuden ja riskienhallinnan kanssa?

Hallinta ei hidasta tekoälyominaisuutta. Se voi nopeuttaa sitä. Organisaatiot etenevät nopeammin, kun johtajuus luottaa ympäristöön, jonka he rakentavat. Se tarkoittaa turvallisen ja valvottavan tekoälyarkkitehtuurin perustamista, jatkuvaa mallien arviointia muutoksen ja suorituskyvyn osalta, yrityksen järjestelmien pääsystä ja selkeiden toiminnallisten valvontatoimien perustamista ennen tekoälyn tuotantoon siirtymistä.

Samoin kuin organisaatiot omaksuivat hallitun havaitsemisen ja vastaiskun yksinkertaistamaan turvallisuutta, uskon, että monet omaksuvat hallitun tekoälyhallinnan saadakseen asiantuntemusta ilman, että heidän tarvitsee rakentaa suuria erikoistuneita tiimejä sisäisesti.

Hallitukset osallistuvat yhä enemmän tekoälyn valvontaan. Mitkä kysymykset hallitusten on kysyttävä johtoryhmiltä tekoälystrategiasta, hallinnasta ja vastuusta?

Hallitusten on kysyttävä yhtä perustavaa kysymystä: voivatko johtoryhmät osoittaa, että tekoäly toimii saman tason hallinnan alaisuudessa kuin muutkin kriittiset liiketoimintajärjestelmät?

Se tarkoittaa ymmärtämistä siitä, missä tekoälyä käytetään, kuka omistaa sen, miten päätöksiä valvotaan, miten riskiä hallitaan ja miten organisaatio jatkaisi toimintaa, jos tekoälypalvelu tulisi saataville. Onnistuneet organisaatiot eivät välttämättä ole niitä, jotka omaksuvat tekoälyä nopeimmin. Ne ovat niitä, jotka rakentavat toiminnallisen kurinpidon luottaa tekoälyyn laajassa mittakaavassa.

Turvallisuusala on viettänyt vuosikymmeniä kehittämään kehyksiä, valvontatoimia ja parhaita käytäntöjä. Onko turvallisuudesta opittuja oppeja, jotka voidaan soveltaa suoraan tekoälyhallintaan, tai vaativatko ne täysin uuden lähestymistavan?

Turvallisuus tarjoaa erinomaisen mallin tekoälyhallinnalle. Identiteetin hallinta, vähimmäisvaltuutus, jatkuva valvonta, audit-merkit, vastauskyky ja kestävyys ovat edelleen olennaisia. Uutta on, että tekoäly tuo haasteita, joita perinteiset järjestelmät eivät ole koskaan olleet. Niihin kuuluvat mallin muutos, hallusinaatio, ohjelmoinnin manipulointi ja riippuvuus kolmannen osapuolen perusmalleista. Tekoäly ei korvaa turvallisuutta. Se laajentaa sitä tekoälyhallinnan lisäkerroksella.

Minkä näköinen on “luotettava tekoälyominaisuus” käytännössä? Onko joitakin hallintaperiaatteitä tai toiminnallisia varotoimia, joita jokaisen yrityksen on oltava paikallaan ennen tekoälyn laajamittaista käyttöönottoa?

Ajattelen sitä samalla tavalla kuin turvallisuutta vuosia sitten. Kukaan ei kysynyt, luoko turvallisuus arvoa. Kysymys oli, voitko luottaa ympäristöön tarpeeksi pitääksesi liiketoiminnan pyörivänä.

Tekoäly on menossa täsmälleen samalle tielle. Jos et voi nähdä, mitä se tekee, hallita, mihin se pääsee, tai ymmärtää, miksi se tekee tiettyjä päätöksiä, et luultavasti anna sille mitään tärkeää.

Kun sinulla on se luottamus, ominaisuus tapahtuu luonnostaan. Organisaatiot lopettavat tekoälyn käsittelyn mielenkiintoisena kokeiluna ja alkavat käsittää sen yhtenä liiketoiminnan osana.

Katsoessaan eteenpäin kolmeen tai viiteen vuoteen, miten tekoälyhallinta ja kilpailuetu lähenevät toisiaan? Tuleeko vahva hallinta erottautumiseksi, vai ainoastaan vaatimukseksi liiketoiminnan harjoittamiseksi?

Seuraavan kolmen tai viiden vuoden aikana vahva tekoälyhallinta ei tule olemaan kilpailuetu. Se tulee olemaan liiketoiminnan vaatimus. Organisaatiot, jotka perustavat hallinnan aikaisin, omaksuvat tekoälyä nopeammin, koska heillä on luottamus ympäristöön, jonka he rakentavat. Ne, jotka eivät tee sitä, jäävät jumiin kokeiluun, kun kilpailijat toteuttavat merkittäviä tuottavuuden, innovaation ja asiakaskokemuksen parannuksia. Lopulta hallinta ei hidasta tekoälyominaisuutta. Se on syy, miksi organisaatiot voivat luottaa tekoälyyn tarpeeksi omaksumaan sen täysimääräisesti.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Cinchy:ssä.