Jonathan Dambrot, Cranium AI:n toimitusjohtaja ja perustaja – Haastattelusarja

Jonathan Dambrot on Cranium AI:n toimitusjohtaja ja perustaja, yritys joka auttaa kyberturva- ja data-analytiikka tiimejä ymmärtämään kaikkialla missä tekoäly vaikuttaa heidän järjestelmiinsä, tietoihinsa tai palveluihinsa.

Jonathan on entinen KPMG:n kumppani, kyberturva-alan johtaja ja visionääri. Ennen KPMG:ta hän johti Prevalentia, josta tuli Gartnerin ja Forresterin mukaan johtava yritys kolmannen osapuolen riskien hallinnassa, ennen kuin se myytiin Insight Venture Partnersille vuonna 2016. Vuonna 2019 Jonathan siirtyi Prevalentin toimitusjohtajan roolista, kun yritys etsi uutta johtoa kasvun jatkamiseksi. Hänet on citattu useissa julkaisuissa ja hän puhuu säännöllisesti asiakasryhmille IT-trendeistä, tietoturvariskien hallinnasta ja säätelyvaatimuksista.

Voitko kertoa Cranium AI:n taustatarinan?

Minulla oli idea Craniumista kesäkuussa 2021, kun olin KPMG:n kumppani ja johtaja kolmannen osapuolen turvallisuuspalveluissa maailmanlaajuisesti. Rakensimme ja toimittimme tekoälypohjaisia ratkaisuja joillekin suurimmista asiakkaistamme, ja huomasin, että emme tehneet mitään niiden turvallisuuden varmistamiseksi. Niin minä kysyin samaa kysymystä kyberturva-johtajilta suurimmilla asiakkaillamme, ja vastaukset, jotka sain, olivat yhtä huonoja. Monet turvallisuustiimit eivät olleet koskaan puhuneet data-analyytikoille – he puhuivat täysin eri kieltä, kun kyseessä oli teknologia, ja heillä ei ollut mitään näkemystä tekoälyyn, joka pyöri yrityksen laajuisesti. Kaikki tämä yhdistettynä sääntelyvaatimusten jatkuvasti kasvavaan kehitykseen oli laukaiseva tekijä rakentaa alusta, joka voisi tarjota turvallisuutta tekoälylle. Aloimme työskentelemään KPMG Studio -inkubatorin kanssa ja toimme joillakin suurimmista asiakkaistamme suunnittelukumppaneina ohjataksemme kehitystä täyttämään näiden suurten yritysten tarpeita. Tammikuussa tänä vuonna Syn Ventures tuli mukaan viimeistelemään siemensijoitusta, ja irtautuimme itsenäisesti KPMG:sta maaliskuussa ja tuli julkisuuteen huhtikuussa 2023.

Mikä on Cranium AI -kortti ja mitä avainnäkemyksiä se paljastaa?

Cranium AI -kortti mahdollistaa yritysten kerätä ja jakaa tietoa tekoälymallien luotettavuudesta ja säätelyyn liittyvistä vaatimuksista sekä asiakkaiden että viranomaisten kanssa ja antaa näkyvyyden toimittajien tekoälyjärjestelmiin. Lopulta pyrimme antamaan turvallisuus- ja säätelytiimeille mahdollisuuden visualisoida ja seurata tekoälynsä turvallisuutta toimittajaketjussa, kohdistaa omat tekoälyjärjestelmänsä nykyisiin ja tuleviin säätelyvaatimuksiin ja kehyksiin, ja helposti jakaa sen, että heidän tekoälyjärjestelmänsä ovat turvallisia ja luotettavia.

Mitkä ovat joitakin luottamukseen liittyviä ongelmia, joita ihmisillä on tekoälyyn liittyen, ja miten tämä ratkaisu ratkaisee ne?

Ihmiset haluavat yleensä tietää, mitä tekoälyssä on, erityisesti kun yhä useammat heidän päivittäisistä työvirroistaan vaikuttavat jollain tavoin tekoälyyn. Pyrimme antamaan asiakkaillemme mahdollisuuden vastata kysymyksiin, joita heidän asiakkaansa pian esittävät, kuten “Miten tämä on hallinnoitu?”, “Mitä on tehty tietojen ja mallien turvallisuuden varmistamiseksi?” ja “Onko tieto validoituna?”. AI-kortti antaa yrityksille nopean tavan vastata näihin kysymyksiin ja osoittaa sekä avoimuuden että tekoälyjärjestelmien luotettavuuden.

Lokakuussa 2022 Valkoisen talon tieteen ja teknologian toimisto (OSTP) julkaisi tekoälyn oikeuksien suunnitelman, jossa esitettiin ei-sitova tiekartta tekoälyn vastuulliselle käytölle. Voitko keskustella henkilökohtaisista näkemyksistäsi tämän lain hyvistä ja huonoista puolista?

Vaikka on erittäin tärkeää, että Valkoinen talo teki tämän ensimmäisen askeleen tekoälyn vastuullisen käytön ohjaavien periaatteiden määrittelyssä, emme usko, että se meni tarpeeksi pitkälle antaakseen ohjeita organisaatioille, eikä ainoastaan yksilöille, jotka ovat huolissaan tekoälypohjaisen päätöksen valittamisesta. Tulevaisuuden sääntelyohjeiden tulisi olla sekä tekoälyjärjestelmien tarjoajille että käyttäjille, jotta he voivat ymmärtää ja hyödyntää tätä teknologiaa turvallisella ja luotettavalla tavalla. Lopulta suurin etu on, että tekoälyjärjestelmät ovat turvallisempia, inklusiivisempia ja avoimempia. Kuitenkin ilman riskiperusteista kehysmallia organisaatioille valmistautua tulevaan sääntelyyn, on mahdollista, että innovaation vauhti hidastuu, erityisesti tilanteissa, joissa läpinäkyvyyden ja selittämisen vaatimusten täyttäminen on teknisesti mahdotonta.

Miten Cranium AI auttaa yrityksiä noudattamaan tätä oikeuksien suunnitelmaa?

Cranium Enterprise auttaa yrityksiä kehittämään ja toimittamaan turvallisia ja luotettavia järjestelmiä, mikä on ensimmäinen avainperiaate oikeuksien suunnitelmassa. Lisäksi AI-kortti auttaa organisaatioita täyttämään ilmoitus- ja selitysperiaatteen sallimalla heidän jakaa tietoa siitä, miten heidän tekoälyjärjestelmänsä toimivat ja mitä tietoja ne käyttävät.

Mikä on NISTin tekoälyn riskienhallintakehys, ja miten Cranium AI auttaa yrityksiä täyttämään tekoälyn sääntelyvelvoitteensa tällä kehyksellä?

NISTin tekoälyn riskienhallintakehys on kehys, joka auttaa organisaatioita hallitsemaan tekoälyyn liittyviä riskejä, jotka liittyvät yksilöihin, organisaatioihin ja yhteiskuntaan. Se seuraa hyvin samanlaista rakennetta kuin heidän muut kehykset, joissa määritellään onnistuneen riskienhallintaprojektin tulokset tekoälylle. Olemme kartoittaneet AI-korttimme kehysmallin tavoitteisiin, jotta voimme tukea organisaatioita seuraamaan, miten heidän tekoälyjärjestelmänsä ovat kehysmallin mukaisia, ja koska yrityksiemme alusta kerää jo paljon tätä tietoa, voimme automaattisesti täyttää ja validoida joitakin kenttiä.

EU:n tekoälydirektiivi on yksi merkittävimmistä tekoälylakien kehityksistä, mitä olemme viime aikoina nähneet. Miksi yritykset, jotka eivät ole EU:ssa, pitäisi noudattaa sitä?

Samoin kuin GDPR:tä data-suojeluun, tekoälydirektiivi muuttaa perustavasti, miten globaalit yritykset kehittävät ja operoivat tekoälyjärjestelmiään. Organisaatiot, jotka eivät ole EU:ssa, pitäisi kuitenkin kiinnittää huomiota ja noudattaa vaatimuksia, koska tekoälyjärjestelmät, jotka käyttävät tai vaikuttavat Euroopan kansalaisiin, joutuvat vaatimusten alaisiksi, riippumatta yrityksen sijainnista.

Miten Cranium AI valmistautuu EU:n tekoälydirektiiviin?

Craniumilla olemme seuranneet tekoälydirektiivin kehitystä alusta alkaen ja suunnitellut AI-kortti-tuotteidemme suunnittelua tukeaksemme yrityksiä täyttämään sääntelyvaatimukset. Meillä on hyvä etulyöntiasema, koska olemme olleet tietoisia tekoälydirektiivin kehityksestä ja sen kehittymisestä vuosien varrella.

Miksi vastuullinen tekoäly tulisi olla prioriteetti yrityksille?

Tekoälyn nopea upottaminen jokaiseen liiketoimintaprosessiin ja toimintoon tarkoittaa, että asiat voivat mennä nopeasti hallinnasta, jos sitä ei tehdä vastuullisesti. Vastuullisen tekoälyn priorisointi nyt tekoälyvallankumouksen alussa sallii yritysten skaalautua tehokkaammin eikä ajautua suuriin esteisiin ja sääntelyongelmiin myöhemmin.

Mikä on visiosi Cranium AI:n tulevaisuudesta?

Näemme Craniumin olevan todellinen kategorioiden kuningas turvalliselle ja luotettavalle tekoälylle. Vaikka emme voi ratkaista kaikkia ongelmia, kuten monimutkaisia haasteita kuten eettinen käyttö ja selittäminen, pyrimme yhteistyöhön muiden vastuullisen tekoälyn alojen johtajien kanssa ajamaan ekosysteemiä, joka tekee asiakkaidemme helppoa kattaa kaikki vastuullisen tekoälyn alueet. Haluamme myös työskennellä innovatiivisten generatiivisten tekoälyratkaisujen kehittäjien kanssa tukeaksemme näiden kykyjen turvallisuutta ja luotettavuutta. Haluamme, että Cranium mahdollistaa yritysten jatkaa innovointia turvallisella ja luotettavalla tavalla ympäri maailmaa.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Cranium AI:ssa.