Haastattelut
Oran Moyal, Ocean Securityn kanssaperustaja ja teknologiajohtaja – haastattelusarja

Keskeiset kohdatTekoälyyn syntyperäisesti nojaava asema on organisatorinen eikä tekninen, koska se…
Näytä lisää
- Tekoälyyn syntyperäisesti nojaava asema on organisatorinen eikä tekninen, koska se muuttaa sitä, miten jokainen tiimi käsittelee työtä.
- Yksittäisten tehtävien nopeuttaminen epäonnistuu, kun työvaiheiden siirrot ja hyväksynnät pysyvät todellisina pullonkauloina vaiheiden välillä.
- Agenteille tarvitaan pakotetut käyttöoikeudet ja riippumaton validointi, koska pelkät ohjeet eivät ole turvakontrolleja.
Oran Moyal on Ocean Securityn kanssaperustaja ja teknologiajohtaja. Hän kehittää tekoälyagentteihin perustuvia ratkaisuja kehittyneiden sähköpostiuhkien tutkimiseen. Hänen taustansa kattaa kyberturvallisuuden tutkimus- ja kehitystyön, hyökkäyspuolen sosiaalisen manipuloinnin sekä yritysten tietoturvan. Hän perusti Oceanin vuonna 2024 yhdessä Shay Shwartzin kanssa. He hyödynsivät kokemustaan siitä, miten hyökkääjät käyttävät hyväkseen luotettua viestintää ja miten tietoturvajärjestelmät voivat vastata yhä kohdennetumpiin uhkiin.
Ocean Security kehittää tekoälyagentteihin perustuvaa sähköpostin tietoturva-alustaa, joka on suunniteltu kohdennetun tietojenkalastelun, yrityssähköpostien vaarantamisen ja talouspetosten tutkimiseen. Sen erikoistuneet tekoälyagentit analysoivat viestinnän asiayhteyttä ja lähettäjän aikomuksia, jotta tietoturvatiimit voivat tunnistaa uhkia näennäisen tavanomaisessa yritysviestinnässä. Tässä haastattelussa Moyal kertoo, mikä tekee organisaatiosta aidosti tekoälynatiivin, miten työnkulkuja tulisi uudistaa tekoälyagenttien ympärille ja miksi selkeät vaatimukset, riippumaton validointi, valvotut käyttöoikeudet ja ihmisen harkinta ovat edelleen tehokkaan automaation perusta.
Ennen kuin perustit Oceanin vuonna 2024, työskentelit vuosia kyberturvallisuuden tutkimus- ja kehitystyössä muun muassa Israelin puolustusvoimissa sekä VisibleRiskissä / Microsoft Securityssä. Millaiset kokemukset saivat sinut perustamaan Oceanin, ja miten tekoälyn esiinmarssi vaikutti alusta lähtien visioosi yrityksestä?
Kohdennetun keihäänkärkikalastelukampanjan toteuttamiseen tarvittiin aiemmin erikoistunut tiimi sekä viikkojen manuaalinen tutkimus- ja valmistelutyö. Kun generatiivinen tekoäly tuli käyttöön, ymmärsimme, että jokainen työntekijä jokaisessa yrityksessä on nyt alttiina tuhoisalle, valtiotason tietojenkalasteluhyökkäykselle. Yhdessä yössä 20 dollarin tilaus antoi jokaiselle hyökkääjälle valtiotason kyvykkyydet.
Shaylla ja minulla on vahva kokemus sosiaalisesta manipuloinnista hyökkäyspuolelta, ja olemme molemmat rakentaneet ja kasvattaneet yritysten tietoturvayhtiöitä, joten tiesimme, etteivät vanhat työkalut pysyisi kehityksen mukana. Ne etsivät sääntörikkomuksia ja poikkeamia, mutta nämä hyökkäykset sulautuvat tavanomaiseen yritysviestintään: oikeisiin viestiketjuihin, luotettuihin tileihin ja laillisiin palveluihin. Mikään ei näytä poikkeavalta. Siksi perustimme Oceanin vuonna 2024 auttaaksemme yrityksiä sopeutumaan tähän uuteen uhkaan tekoälypohjaisella sähköpostin tietoturvaratkaisulla, joka analysoi asiayhteyttä ja lähettäjän aikomuksia reaaliajassa pitkälti ihmistutkijan tavoin ennen kuin tietoturva vaarantuu.
Monet organisaatiot kuvailevat itseään ”tekoälynatiiveiksi” vain siksi, että ne ovat ottaneet käyttöön tekoälytyökaluja tai automatisoineet tiettyjä prosesseja. Mikä mielestäsi erottaa perustavanlaatuisesti aidosti tekoälynatiivin organisaation sellaisesta, joka on vain liittänyt tekoälyn osaksi nykyistä toimintaansa?
Monet yritykset kutsuvat itseään tekoälynatiiveiksi, koska ne ovat hankkineet tekoälytyökaluja. Se on teknologian käyttöönottoa. Tekoälynatiivius muuttaa sitä, miten yritys hoitaa päivittäisen työnsä ja ratkaisee pullonkauloja.
Kaikki alkaa siitä, miten johtajat reagoivat pullonkaulaan. Perinteinen vaistomainen ratkaisu on: ”Tähän menee liikaa aikaa; palkataan joku hoitamaan se.” Tekoälynatiivi organisaatio kysyy ensin: ”Miten tekoäly voisi nopeuttaa tätä toimintoa kokonaisuudessaan?” Kun tätä kysymystä toistetaan kaikissa tiimeissä, koko yritys alkaa toimia eri tavalla.
Todellinen tekoälynatiivi muutos on organisatorinen, ei tekninen. Jos yhden osaston toimintaa nopeutetaan, pullonkaula siirtyy vain seuraavaan, ja lopulta yritys etenee hitaimman toimintonsa tahdissa. Tekoälynatiivit organisaatiot muuttuvat yhdessä, jolloin tieto kulkee nopeammin, palautekierrokset lyhenevät ja tiimit työskentelevät yhtenä verkottuneena järjestelmänä.
Tässä toimintamallissa ihmisten työn arvo muuttuu. Kun tekoäly hoitaa yhä suuremman osan työstä, niukimmiksi taidoiksi nousevat selkeän suunnan näyttäminen, aikomusten määrittely ja harkintakyvyn käyttäminen. Ihmiset ja tekoälyagentit työskentelevät rinnakkain. Tekoäly hoitaa yhä suuremman osan toteutuksesta, ja ihmiset päättävät, mitä kannattaa rakentaa ja miksi.
Tavoitteena on, että jokainen tiimi saa samoilla resursseilla aikaan enemmän, etenee nopeammin ja tekee parempaa yhteistyötä laadusta tinkimättä.
Olet sanonut, että tekoälyn tuottavuushyödyt voivat kadota nopeasti, jos taustalla olevat työnkulut ovat tehottomia. Mitkä ovat yleisimmät toiminnalliset pullonkaulat, jotka estävät yrityksiä saamasta tekoälystä täyttä hyötyä, ja miten johtajien tulisi lähestyä työnkulkujen uudistamista?
Yksittäisten tehtävien nopeuttaminen ei automaattisesti nopeuta koko organisaatiota. Jos prosessit, riippuvuudet ja tiimien välinen viestintä pysyvät ennallaan, suuri osa tekoälyn tuomasta tuottavuushyödystä katoaa matkan varrella.
Yleisimmät pullonkaulat eivät ole teknisiä. Ne ovat epäselviä vaatimuksia, jotka johtavat työn toistuvaan tekemiseen, hitaita siirtoja tiimiltä toiselle sekä hyväksyntää odottavaa työtä. Tekoäly nopeuttaa jokaista vaihetta, mutta aikaa kuluu hukkaan vaiheiden välissä.
Johtajien kannattaa ensin selvittää, mihin aika todella kuluu, sillä todellinen pullonkaula ei usein ole se, joksi sitä luullaan. Sen jälkeen työnkulku tulisi suunnitella uudelleen alusta loppuun korjaamalla työvaiheiden väliset siirrot, määrittelyt ja palautekierrokset sen sijaan, että keskitytään vain yksittäisiin tehtäviin. Lopuksi jokainen tekoälyhanke tulee kytkeä mittareihin, joista tiimit jo vastaavat.
Kaikkein tärkeintä on, että johtajat muuttavat ajattelutapaa. Automatisoinnin ja nopeuttamisen tulisi olla oletus. Sen sijaan, että nykyiset prosessit hyväksytään sellaisinaan, tiimien tulisi jatkuvasti kyseenalaistaa toimintatavat, jotta ne voivat edetä nopeammin ja kasvattaa vaikutustaan laadusta tinkimättä.
Yksi painottamistasi periaatteista on se, että vaatimukset on määriteltävä selkeästi ennen tekoälyagenttien käyttöönottoa työnkulussa. Miten organisaatioiden pitäisi ajatella uudelleen tehtävien määrittelyä, odotusten viestimistä ja onnistumiskriteerien asettamista, kun tekoälyagentit vastaavat merkittävästä osasta työtä?
Kun tekoälyagentit tekevät suuren osan työstä, organisaatioiden on mietittävä uudelleen, miten ne viestivät ja määrittelevät tehtävät. Epämääräinen pyyntö ei pysäytä agenttia. Se arvaa, ja jokainen väärä arvaus lisää korjaustyötä.
Ajattelen asiaa kolmella tasolla:
Selkeät tehtävät, tavoitteet ja konteksti. Agentin on ymmärrettävä, mitä pitää tehdä, miksi se on tärkeää ja millainen konteksti työhön liittyy. Ennen työn aloittamista sen pitäisi voida kysyä kaikesta epäselvästä, jotta puutteet saadaan korjattua heti eikä vasta työn puolivälissä.
Itsevalidointi. Onnistumiskriteerit pitäisi määritellä etukäteen niin, että agentti voi tarkistaa ne itse. Ohjelmistokehityksessä agentin pitäisi esimerkiksi pystyä suorittamaan koodi, testaamaan, toimiiko se tarkoitetulla tavalla, ja varmistamaan testien läpäisy ennen kuin kukaan tarkistaa työn.
Ihmiset viimeisenä tasona. Ihmisten pitäisi saada tulos, jota agentti on jo hionut usean kierroksen ajan sovittuja kriteerejä vasten. Heidän tehtävänsä on käyttää harkintaa, ei korjata perustavanlaatuisia virheitä.
Mitä paremmin tehtävä määritellään, sitä vähemmän ihmisten aikaa kunkin tuloksen käsittely vaatii.
Puollat sitä, että tekoälyagenttien annetaan tarkistaa oma työnsä ennen sen toimittamista ihmistarkastajille. Miltä tehokas tekoälypohjainen validointiprosessi näyttää käytännössä, ja miten organisaatiot voivat varmistaa, etteivät automaattiset laaduntarkistukset vain toista samoja työn aikana tehtyjä virheitä?
Tehokkaassa validointiprosessissa työ testataan tavalla, jolla sitä todella käytetään. Agentin pitäisi suorittaa varsinainen järjestelmä alusta loppuun, varmistaa tuloksen vastaavan onnistumiskriteerejä ja korjata havaitut puutteet ennen kuin työ päätyy kenenkään nähtäväksi.
Jotta validointi ei toistaisi agentin omia virheitä, muutama periaate on tärkeä:
Pidä kriteerit erillään toteutuksesta. Ihmisten pitäisi määritellä, miltä onnistuminen näyttää, ennen kuin työ alkaa. Jos agentti päättää, mitä ”valmis” tarkoittaa, se arvioi omaa suoritustaan.
Aseta tiukat reunaehdot. Kaikkien tarkistusten ei pitäisi perustua agentin harkintaan. Osa niistä on toteutettava kiinteinä, deterministisinä testeinä, jotka tarkistavat tietyt parametrit, standardit ja käytännöt. Ne asettavat agentille selkeät rajat, joita se ei voi kiertää järkeilemällä.
Käytä riippumatonta tarkastajaa. Toinen agentti, jolla on tuore konteksti eikä omaa sidettä alkuperäiseen lähestymistapaan, havaitsee virheitä, jotka ensimmäiseltä jäävät huomaamatta.
Näytä todisteet, älä pelkkää tuomiota. Testitulosten, kuvakaappausten ja tallenteiden avulla ihmiset voivat nähdä, mitä tapahtui, sen sijaan että heidän pitäisi luottaa pelkkään ”hyväksytty”-merkintään.
Ihmisten huomio voidaan näin kohdistaa sinne, missä riski on suurin. Tarkoituksena ei ole poistaa ihmisiä prosessista, vaan varmistaa, että heidän aikansa käytetään harkintaan eikä mekaanisiin tarkistuksiin.
Perinteisissä organisaatioissa on usein useita johtamistasoja, hyväksyntävaiheita ja tiimien välisiä siirtoja. Miten tekoälyn ehdoilla toimiva toimintamalli muuttaa tekniikan, tuotehallinnan, tietoturvan ja liiketoiminnan tiimien yhteistyötä, ja mitä perinteisille rooleille ja vastuille tapahtuu, kun agentit hoitavat yhä suuremman osan toteutuksesta?
Tekoälyn avulla jokainen ihminen ja tiimi pystyy tuottamaan enemmän. Jos työn siirrot, hyväksynnät ja koordinointi kuitenkin pysyvät ennallaan, lisätuotanto vain kasaantuu odottamaan seuraavaa vaihetta. Organisaatio ei toimi nopeammin, vaan sille syntyy uusia pullonkauloja. Tekoälyn ehdoilla toimivassa toimintamallissa on suunniteltava uudelleen tiimien välinen yhteistyö, ei vain kunkin tiimin oma työskentelytapa.
Kaikki alkaa siitä, miten tieto kulkee. Suuremman osan siitä pitäisi liikkua automaattisesti, jotta kokoukset voidaan varata päätöksentekoon eikä tilannekatsauksiin. Kun kentältä saadut havainnot välittyvät suoraan tuotetiimille, päätökset syntyvät nopeammin ja ovat täsmällisempiä. Tämä puolestaan johtaa selkeämpiin määrittelyihin ja parempaan toteutukseen.
Myös hyväksyntäkäytännöt on ajateltava uudelleen. Tämä on vaikein osa, koska se edellyttää muutosta siinä, mitä organisaatiossa pidetään normaalina. Hyväksynnöillä on edelleen merkitystä, mutta kaikkia muutoksia ei pitäisi käsitellä samalla tavalla. Esimerkiksi riskinarvioinnin lisääminen tiettyyn hyväksyntäprosessiin voi vähentää vähäriskisen työn manuaalisia hyväksyntöjä ja samalla säilyttää ihmisen tekemän tarkastuksen siellä, missä sitä tarvitaan. Tämä on vain yksi tapa nopeuttaa prosessia luopumatta hallinnasta.
Myös roolit määrittyvät uudelleen. Kun agentit hoitavat yhä suuremman osan toteutuksesta, ihmisten vastuulla eivät enää ole yksittäiset tehtävät vaan niiden tulokset. Heidän on ymmärrettävä kokonaisuus, kyseenalaistettava oletuksia ja astuttava perinteisten vastuurajojensa ulkopuolelle. Menestyvät organisaatiot ovat niitä, jotka suunnittelevat ihmisten välisen yhteistyön uudelleen, eivät vain niitä, jotka ottavat käyttöön eniten tekoälyä.
Ocean käyttää itse erikoistuneita tekoälyagentteja kehittyneiden sähköpostiin kohdistuvien uhkien tutkimiseen. Miten kokemuksesi kyberturvallisuuden agenttipohjaisen tekoälyn kehittämisestä on vaikuttanut siihen, miten otat tekoälyä käyttöön sisäisesti, ja voiko autonomisten tietoturvajärjestelmien rakentamisesta opittua soveltaa tekoälyn ehdoilla toimivan organisaation johtamiseen?
Autonomisten sähköpostiturva-agenttien rakentaminen vaikutti kahdella tavalla siihen, miten käytämme tekoälyä sisäisesti.
Ensimmäinen opetus on, että agentit suoriutuvat vain niin hyvin kuin ne ymmärtävät asiayhteyden. Tietoturva-agentti tekee parempia päätöksiä, kun se ymmärtää suojaamansa organisaation toimintaa. Sama pätee myös organisaation sisällä. Jotta agentit tuottaisivat hyviä tuloksia, niille on annettava kunnollinen käsitys siitä, miten organisaatio toimii, mikä kunkin tehtävän tarkoitus on ja miten se liittyy kokonaisuuteen.
Toinen opetus on, että agentteja on arvioitava jatkuvasti. Tuotantokäytössä arvioimme jatkuvasti, miten agenttimme suoriutuvat, missä ne epäonnistuvat ja mitä työkaluja tai tietoja niiltä puuttuu. Sovellamme samaa lähestymistapaa myös organisaation sisällä. Tarvitsemme erillisen paikan, jossa agentteja voidaan testata ja kouluttaa ja niistä voidaan kerätä palautetta. Ilman sitä on vaikea tietää, kehittyykö agentti ja mitä se tarvitsee seuraavaksi.
Tekoälylähtöisen organisaation johtaminen muistuttaa paljon autonomisen tietoturvajärjestelmän rakentamista: anna agenteille syvällinen käsitys asiayhteydestä, arvioi jatkuvasti niiden suoriutumista ja pidä ihmiset mukana siellä, missä tarvitaan harkintaa.
Kun organisaatiot antavat tekoälyagenteille yhä enemmän itsenäistä päätösvaltaa, esiin nousee huolia vastuunalaisuudesta, tietoturvasta ja tahattomista seurauksista. Miten yritysten tulisi kyberturvallisuustaustasi pohjalta asettaa turvarajat, joiden puitteissa agentit voivat toimia itsenäisesti vaarantamatta tietoturvaa tai menettämättä ihmisten mielekästä valvontaa?
Agenttien kehityssuunta on kohti itsenäisempää toimintaa, ja organisaatioiden kannattaa edetä siihen vaiheittain. Aloita tilanteista, joiden vaikutukset tunnetaan hyvin, osoita hyödyt ja laajenna toimintaa sen jälkeen.
Todelliset turvarajat eivät ole ohjeita. Agentille sanominen ”älä tee näin” ei ole tietoturvavalvontaa. Turvarajat on pantava täytäntöön: agentin käyttöoikeuksia on rajattava tiukasti, on varmistettava, ettei se pääse käsiksi mihinkään toimivaltansa ulkopuoliseen, ja sen toimintaa on valvottava jatkuvasti, jotta voidaan estää toimet, joita kukaan ei ole suunnitellut. Kuten järjestelmän muutkin osat, turvarajat on testattava ja niiden toimivuus varmistettava säännöllisesti.
Vastuu alkaa agentin toimintaa ohjaavasta henkilöstä. Agenttia käyttävä henkilö määrittää sen rajat: mitä se saa tehdä itsenäisesti, mihin tarvitaan hyväksyntä ja mihin se ei saa mennä. Ajatellaan agenttia, joka vastaa sähköpostitse välitettäviin uhkiin. Se voi eristää epäilyttävät viestit itsenäisesti, nopeasti ja luotettavasti. Laajempivaikutteisissa toimissa, kuten lähettäjän estämisessä koko organisaation laajuisesti, vastuuhenkilö voi aluksi edellyttää tarkistusta. Kun agentti kartuttaa näyttöjä luotettavasta toiminnastaan, sen toimintarajoja voidaan luottavaisin mielin laajentaa. Selkeät turvarajat mahdollistavat itsenäisemmän toiminnan.
Tämä on entistä tärkeämpää, koska hyökkääjät kohdistavat hyökkäyksiään yhä useammin tekoälyagentteihin. Liiketoiminnassa halutaan edetä nopeammin, mutta tietoturvatiimeillä ei vieläkään ole selkeää toimintamallia agenttien suojaamiseen. Siksi perustan on oltava täytäntöönpannuissa käyttöoikeuksissa ja jatkuvassa valvonnassa.
Monet yritykset mittaavat tekoälyn käyttöönottoa säästetyn ajan, automatisoitujen tehtävien tai työntekijöiden tuottavuuden perusteella. Mitkä mittarit mielestäsi osoittavat todella, tuottaako tekoälylähtöinen toimintamalli kestävää liiketoiminta-arvoa, etenkin kun huomioon otetaan uudelleentyön, laadun ja koordinoinnin kustannukset?
Säästetty aika on tärkeä mittari, ja usein se on ensimmäinen selkeä merkki siitä, että tekoäly tuottaa arvoa. Sen vaikutus näkyy kuitenkin kokonaisuudessaan vasta, kun rinnalla tarkastellaan mittareita, jotka osoittavat, mihin organisaatio käyttää säästyneen ajan ja säilyvätkö hyödyt pitkällä aikavälillä.
Laatu. Nopeudesta on hyötyä vain, jos laatu säilyy ennallaan tai paranee. Seuraa uudelleentyön määrää, virheitä ja sitä, kuinka usein tuloksia on korjattava toimituksen jälkeen. Kun nopeus ja laatu paranevat yhtä aikaa, hyödyt ovat todellisia ja pitkäkestoisia.
Liiketoiminnan laajentaminen. Tekoälylähtöisen organisaation todellinen arvo näkyy siinä, mitä säästetty aika mahdollistaa. Mittaamme, kuinka monta uutta kyvykkyyttä ja hanketta otamme työn alle lisäämättä henkilöstöä.
Nopeus alusta loppuun. Se, kuinka kauan agentilta kuluu ominaisuuden kehittämiseen, on vain osa kokonaiskuvaa. Todellinen mittari on koko prosessi kaikkine vastuun siirtoineen: siitä hetkestä, kun päätämme asettaa jonkin asian etusijalle, siihen hetkeen, kun se on käytössä tuotteessa. Se kertoo, kuinka nopeasti todella toimimme, ja tuo esiin koordinointikustannukset, jotka tehtäväkohtaisista mittareista jäävät näkymättä. Tietoturvassa nopeus alusta loppuun on ratkaisevan tärkeää. Hyökkääjät käyttävät jo tekoälyagentteja, joten uhkien havaitsemiseen ja niihin reagoimiseen kuluvan ajan on lyhennyttävä jatkuvasti.
Säästetty aika osoittaa, että tekoäly toimii. Nämä mittarit osoittavat, rakentaako se yritykselle kestävää arvoa.
Olet esittänyt, että pienet ja ketterät teknologiayritykset voivat saavuttaa merkittävää kilpailuetua suunnittelemalla toimintansa uudelleen tekoälyn ympärille. Mitä etuja tekoälylähtöisillä startup-yrityksillä on vakiintuneisiin toimijoihin nähden, ja miten uskot menestyvien teknologiayritysten rakenteen muuttuvan seuraavien 3–5 vuoden aikana?
Tekoälylähtöisillä startup-yrityksillä on rakenteellinen etu. Ne voivat rakentaa työnkulut, teknologian ja tiimit tekoälyagenttien ympärille alusta alkaen, kun taas vakiintuneiden toimijoiden on selvittävä vuosikymmenten aikana kertyneestä vanhasta infrastruktuurista ja organisaation monimutkaisuudesta. Suurin ero ei ole tekninen. Kaikilla on käytössään samat tekoälytyökalut. Etu kuuluu yrityksille, jotka pystyvät uudistamaan toimintatapojaan ilman, että niiden täytyy ensin purkaa hyväksyntäkerroksia, vastuun siirtoja ja jäykkiä rooleja.
Uskon, että seuraavien kolmen–viiden vuoden aikana menestyvät teknologiayritykset siirtyvät perustason tekoälyautomaatioista agenttipohjaisiin toimintamalleihin, joissa erikoistuneet tekoälyagentit toteuttavat kokonaisia työnkulkuja. Ihmisistä koostuvat tiimit eivät katoa, mutta ihmiset käyttävät vähemmän aikaa tehtävien suorittamiseen käsin ja enemmän aikaa kontekstin tarjoamiseen, reunaehtojen asettamiseen ja tulosten ohjaamiseen. Tuloksena on ketterämpiä organisaatioita, jotka pystyvät kasvamaan nopeammin, toimimaan tehokkaammin ja kilpailemaan moninkertaisesti suurempien yritysten kanssa.
Kiitos hienosta haastattelusta! Lukijat, jotka haluavat oppia lisää agenttipohjaisesta sähköpostin tietoturvasta, voivat käydä Ocean Securityssä.












