Intervjuer

Oran Moyal, medgrunnlegger og CTO i Ocean Security – intervjuserie

Antoine Tardif
Legg til Unite.AI blant dine foretrukne kilder på Google
Oran Moyal, Co-Founder and CTO of Ocean Security
Viktige punkterAI-innfødt status er organisatorisk snarere enn teknisk fordi det endrer hvordan hvert…
Vis mer
  • AI-innfødt status er organisatorisk snarere enn teknisk fordi det endrer hvordan hvert team håndterer arbeid.
  • Å fremskynde individuelle oppgaver mislykkes når overleveringer og godkjenninger forblir de reelle flaskehalsene mellom trinnene.
  • Agenter trenger håndhevede tillatelser og uavhengig validering fordi instruksjoner alene ikke er sikkerhetskontroller.

Oran Moyal er medgrunnlegger og CTO i Ocean Security, der han utvikler agentisk KI for å undersøke avanserte e-posttrusler. Bakgrunnen hans omfatter forskning og utvikling innen cybersikkerhet, offensiv sosial manipulering og sikkerhet i større virksomheter. I 2024 grunnla han Ocean sammen med Shay Shwartz, med utgangspunkt i erfaringene deres med å analysere hvordan angripere utnytter betrodd kommunikasjon, og hvordan sikkerhetssystemer kan håndtere stadig mer målrettede trusler.

Ocean Security utvikler en agentisk plattform for e-postsikkerhet som skal undersøke målrettet phishing, kompromittering av bedrifts-e-post og økonomisk svindel. De spesialiserte KI-agentene analyserer kommunikasjonskonteksten og avsenderens hensikt for å hjelpe sikkerhetsteam med å identifisere trusler i tilsynelatende legitime forretningssamtaler. I dette intervjuet snakker Moyal om hva som kjennetegner en KI-nativ organisasjon, hvordan arbeidsflyter kan redesignes rundt agenter, og hvorfor tydelige krav, uavhengig validering, håndheving av tillatelser og menneskelig skjønn fortsatt er avgjørende for effektiv automatisering.

Før du var med på å grunnlegge Ocean i 2024, jobbet du i flere år med forskning og utvikling innen cybersikkerhet, blant annet i Israels forsvar og hos VisibleRisk / Microsoft Security. Hvilke erfaringer fikk deg til å starte Ocean, og hvordan påvirket KI-framveksten visjonen din for selskapet helt fra starten?

En målrettet spear-phishing-kampanje krevde tidligere et eget team og flere uker med manuell research og forberedelser. Da generativ KI kom, innså vi at alle ansatte i alle virksomheter nå er utsatt for ødeleggende phishingangrep på nivå med angrep fra nasjonalstater. Over natten ga et abonnement til 20 dollar enhver angriper kapasitet på nivå med en nasjonalstat.

Shay og jeg har omfattende erfaring med sosial manipulering fra angripersiden, og vi har begge bygget opp og skalert sikkerhetsselskaper for større virksomheter. Derfor visste vi at eldre verktøy ikke kunne holde tritt. De ser etter regelbrudd og avvik, men disse angrepene foregår i den vanlige forretningskommunikasjonen: ekte e-posttråder, betrodde kontoer og legitime tjenester. Ingenting ser unormalt ut. Derfor startet vi Ocean i 2024 for å hjelpe virksomheter med å tilpasse seg denne nye trusselen gjennom KI-drevet e-postsikkerhet som analyserer kontekst og avsenderens hensikt i sanntid, omtrent slik en menneskelig etterforsker ville gjort, før et kompromitteringsangrep lykkes.

Mange organisasjoner omtaler seg som «KI-native» bare fordi de har tatt i bruk KI-verktøy eller automatisert enkelte prosesser. Hva mener du er den grunnleggende forskjellen mellom en virkelig KI-nativ organisasjon og en som bare har integrert KI i den eksisterende driften?

Mange selskaper kaller seg KI-native fordi de har kjøpt KI-verktøy. Det er teknologiadopsjon. Å være KI-nativ endrer hvordan selskapet håndterer det daglige arbeidet, og hvordan det løser flaskehalser.

Det begynner med hvordan ledere reagerer på en flaskehals. Den tradisjonelle refleksen er: «Dette tar for lang tid; la oss ansette noen til å ta seg av det.» En KI-nativ organisasjon spør først: «Hvordan kan KI gjøre hele denne funksjonen raskere?» Gjenta spørsmålet i alle team, så begynner hele selskapet å jobbe på en annen måte.

En reell KI-nativ omstilling er organisatorisk, ikke teknisk. Hvis du gjør én avdeling raskere, flyttes flaskehalsen bare til den neste, og selskapet ender opp med å bevege seg i tempoet til den tregeste funksjonen. KI-native organisasjoner endrer seg samlet, slik at informasjonen flyter raskere, tilbakemeldingssløyfene blir kortere, og teamene jobber som ett sammenkoblet system.

I denne modellen endres verdien av menneskelig arbeid. Etter hvert som KI tar seg av mer av arbeidet, blir de mest ettertraktede ferdighetene å sette en tydelig retning, definere hensikten og utøve skjønn. Mennesker og agenter jobber side om side. KI står for mer av gjennomføringen, mens mennesker avgjør hva det er verdt å bygge, og hvorfor.

Målet er at alle team skal få gjort mer med de samme ressursene, jobbe raskere og samarbeide bedre, uten at det går på bekostning av kvaliteten.

Du har hevdet at produktivitetsgevinstene fra KI raskt kan forsvinne når arbeidsflytene i bunn og grunn er ineffektive. Hvilke operative flaskehalser hindrer oftest selskaper i å få fullt utbytte av KI, og hvordan bør ledere gå fram for å redesigne disse arbeidsflytene?

Det at enkeltoppgaver går raskere, betyr ikke automatisk at organisasjonen også gjør det. Hvis prosessene, avhengighetene og kommunikasjonen mellom teamene forblir uendret, går mye av produktivitetsgevinsten KI skaper, tapt på veien.

De vanligste flaskehalsene er ikke tekniske. De skyldes uklare krav som fører til gjentatt omarbeid, trege overleveringer mellom team og arbeid som blir liggende og vente på godkjenning. KI gjør hvert trinn raskere, men tiden går tapt mellom trinnene.

Ledere bør begynne med å måle hvor tiden faktisk går, for den reelle flaskehalsen er ofte ikke den alle antar. Deretter bør de redesigne arbeidsflyten fra start til slutt og forbedre overleveringene, definisjonene og tilbakemeldingssløyfene, i stedet for bare å optimalisere enkeltoppgaver. Til slutt bør de knytte hvert KI-initiativ til nøkkelindikatorene teamene allerede har ansvar for.

Aller viktigst er det at ledere endrer tankesett. Automatisering og effektivisering bør være standarden. I stedet for å godta eksisterende prosesser bør teamene fortsette å utfordre måten ting gjøres på, slik at de kan jobbe raskere og øke effekten uten at det går på bekostning av kvaliteten.

Et av prinsippene du framhever, er hvor viktig det er å definere kravene tydelig før man innfører AI-agenter i en arbeidsflyt. Hvordan bør organisasjoner tenke nytt om måten de definerer oppgaver, kommuniserer forventninger og fastsetter suksesskriterier på når AI-agenter skal utføre betydelige deler av arbeidet?

Når AI-agenter utfører en stor del av arbeidet, må organisasjoner tenke nytt om hvordan de kommuniserer og definerer oppgaver. En vag forespørsel stopper ikke en agent. Den gjetter, og hver feilaktige gjetning fører til mer omarbeid.

Jeg tenker på det i tre lag:

Tydelige oppgaver, mål og kontekst. Agenten må forstå hva som skal gjøres, hvorfor det er viktig, og hvilken kontekst arbeidet inngår i. Før arbeidet starter, bør den kunne spørre om alt som er uklart, slik at eventuelle mangler avklares på forhånd i stedet for å bli oppdaget halvveis.

Egenkontroll. Suksesskriteriene bør fastsettes på forhånd på en måte som agenten selv kan kontrollere. I programvareutvikling bør en agent for eksempel kunne kjøre koden, teste at den fungerer som tiltenkt og bekrefte at den består testene før noen gjennomgår den.

Mennesker som siste ledd. Folk bør få et resultat som agenten allerede har forbedret gjennom flere runder opp mot de avtalte kriteriene. Deres oppgave er å bruke skjønn, ikke å rette grunnleggende feil.

Jo bedre definisjon, desto mindre menneskelig tid krever hvert resultat.

Du argumenterer for at AI-agenter bør kunne kontrollere sitt eget arbeid før det når menneskelige kontrollører. Hvordan ser en effektiv AI-drevet valideringsprosess ut i praksis, og hvordan kan organisasjoner sikre at automatiserte kvalitetskontroller ikke bare forsterker de samme feilene som ble gjort under utførelsen?

En effektiv valideringsprosess tester arbeidet slik det faktisk skal brukes. Agenten bør kjøre det reelle systemet fra start til slutt, bekrefte at resultatet oppfyller suksesskriteriene og rette opp det som ikke fungerer, før noe når et menneske.

For at valideringen ikke skal gjenta agentens egne feil, er noen prinsipper viktige:

Skill kriteriene fra utførelsen. Folk bør definere hvordan suksess ser ut før arbeidet starter. Hvis en agent bestemmer hva «ferdig» betyr, vurderer den sitt eget arbeid.

Sett tydelige, ufravikelige rammer. Ikke alle kontroller bør avhenge av agentens skjønn. Noen må være faste, deterministiske tester som kontrollerer bestemte parametere, standarder og retningslinjer. Disse gir agenten tydelige grenser den ikke kan resonnere seg rundt.

Bruk en uavhengig kontrollør. En annen agent, med fersk kontekst og uten egeninteresse i den opprinnelige tilnærmingen, oppdager feil den første overser.

Vis dokumentasjon, ikke bare en konklusjon. Testresultater, skjermbilder og opptak gjør at folk kan se hva som skjedde, i stedet for å stole på et «bestått».

Menneskelig oppmerksomhet rettes dermed dit risikoen er størst. Målet er ikke å fjerne mennesker fra prosessen. Det er å sørge for at tiden deres brukes på skjønn, ikke mekaniske kontroller.

Tradisjonelle organisasjoner baserer seg ofte på flere ledelseslag, godkjenninger og overleveringer mellom team. Hvordan endrer en AI-basert driftsmodell samarbeidet mellom utviklings-, produkt-, sikkerhets- og forretningsteam, og hva skjer med tradisjonelle roller og ansvarsområder når agenter overtar mer av gjennomføringen?

AI gjør at hver enkelt og hvert team kan produsere mer. Men hvis overleveringer, godkjenninger og koordinering forblir som før, hoper den ekstra produksjonen seg bare opp mens den venter på neste trinn. Organisasjonen beveger seg ikke raskere. Det oppstår nye flaskehalser. En AI-basert driftsmodell må omforme hvordan team samarbeider, ikke bare hvordan hvert enkelt team arbeider.

Det begynner med hvordan informasjon flyter. Mer av den bør gå gjennom automatisering, slik at møtene kan brukes til beslutninger i stedet for statusoppdateringer. Når innsikt fra feltet når produktteamet direkte, blir beslutningene raskere og mer presise, noe som igjen fører til tydeligere definisjoner og bedre gjennomføring.

Godkjenninger må også vurderes på nytt, og dette er den vanskeligste delen, fordi det innebærer å endre det organisasjonen regner som normalt. Godkjenninger er fortsatt viktige, men alle endringer bør ikke behandles likt. Hvis man for eksempel legger til en risikovurdering i en bestemt godkjenningsprosess, kan det redusere manuelle godkjenninger av arbeid med lav risiko, samtidig som mennesker fortsatt gjennomgår det som virkelig trenger det. Det er bare én måte å få fart på en prosess uten å gi avkall på kontrollen.

Rollene er også i ferd med å bli omdefinert. Etter hvert som agenter overtar mer av gjennomføringen, går mennesker fra å ha ansvar for oppgaver til å ha ansvar for resultater. De må forstå hele konteksten, utfordre antakelser og gå utover sine tradisjonelle ansvarsområder. Organisasjonene som lykkes, er de som legger om måten folk samarbeider på, ikke bare de som tar i bruk mest AI.

Ocean bruker selv spesialiserte AI-agenter til å undersøke avanserte e-posttrusler. Hvordan har erfaringen din med å utvikle agentbasert AI for cybersikkerhet påvirket måten du tar i bruk AI internt på, og finnes det lærdommer fra utviklingen av autonome sikkerhetssystemer som kan overføres til ledelsen av en AI-basert organisasjon?

Utviklingen av autonome agenter for e-postsikkerhet har påvirket hvordan vi bruker AI internt på to måter.

Den første lærdommen er at agenter bare presterer så godt som forståelsen deres av konteksten tillater. En sikkerhetsagent tar bedre beslutninger når den forstår organisasjonen den beskytter. Det samme gjelder internt. For å få gode resultater fra agenter må vi gi dem en reell forståelse av hvordan organisasjonen fungerer, hva formålet med hver oppgave er, og hvordan den henger sammen med det større bildet.

Den andre lærdommen er at agenter må evalueres kontinuerlig. I produksjon evaluerer vi stadig hvordan agentene våre presterer, hvor de svikter, og hvilke verktøy eller data de mangler. Internt bruker vi den samme tilnærmingen. Vi trenger et eget sted der vi kan teste og trene agenter og få tilbakemeldinger på dem. Uten det er det vanskelig å vite om en agent blir bedre, eller hva den trenger videre.

Å drive en AI-native organisasjon minner mye om å bygge et autonomt sikkerhetssystem: Gi agentene grundig kontekst, evaluer kontinuerlig hvordan de presterer, og involver mennesker der menneskelig skjønn er viktig.

Når organisasjoner gir AI-agenter større grad av autonomi, oppstår det bekymringer knyttet til ansvarlighet, sikkerhet og utilsiktede konsekvenser. Med bakgrunn i din erfaring med cybersikkerhet, hvordan bør selskaper etablere rammer som lar agenter arbeide selvstendig uten at det går på bekostning av sikkerheten eller meningsfull menneskelig kontroll?

Autonomi er retningen utviklingen av agenter går i, og organisasjoner bør gå fram steg for steg. Begynn der konsekvensene er godt forstått, dokumenter verdien, og utvid deretter.

Reelle sikkerhetsrammer er ikke instruksjoner. Å si til en agent «ikke gjør dette» er ikke et sikkerhetstiltak. Rammene må håndheves: strenge begrensninger på hva agenten har tilgang til, kontroll av at den ikke kan nå noe utenfor sitt virkeområde, og kontinuerlig overvåking som stanser handlinger ingen har planlagt for. Som alle andre deler av systemet bør rammene testes og valideres regelmessig.

Ansvarligheten begynner hos operatøren. Personen som kjører en agent, definerer grensene for den: hva den kan gjøre på egen hånd, hva som krever godkjenning, og hvor den ikke får gå. Tenk på en agent som håndterer e-posttrusler. Den kan sette mistenkelige meldinger i karantene på egen hånd, raskt og pålitelig. For handlinger med større konsekvenser, som å blokkere en avsender i hele organisasjonen, kan operatøren begynne med et godkjenningstrinn. Etter hvert som agenten får en stadig bedre historikk, kan grensene utvides med trygghet. Tydelige sikkerhetsrammer gjør større grad av autonomi mulig.

Dette er enda viktigere fordi angripere i økende grad retter seg mot AI-agenter. Virksomheten ønsker å jobbe raskere, men sikkerhetsteamene har fortsatt ingen tydelig framgangsmåte for å beskytte agentene. Derfor må grunnlaget være tilgangstillatelser som håndheves, og kontinuerlig overvåking.

Mange selskaper måler bruken av AI ut fra spart tid, automatiserte oppgaver eller ansattes produktivitet. Hvilke måleparametere mener du faktisk viser om en AI-native driftsmodell skaper bærekraftig forretningsverdi, særlig når man tar høyde for omarbeid, kvalitet og samordningskostnader?

Spart tid er en viktig måleparameter, og ofte det første tydelige tegnet på at AI skaper verdi. Men den fulle effekten blir synlig når dette ses i sammenheng med måleparametere som viser hva organisasjonen bruker tiden til, og om gevinstene varer på lang sikt.

Kvalitet. Raskere er bare bedre hvis kvaliteten opprettholdes eller blir bedre. Følg med på omarbeid, feil og hvor ofte resultater må korrigeres etter levering. Når både hastighet og kvalitet forbedres, er gevinstene reelle og varige.

Forretningsvekst. Den reelle verdien av en AI-native organisasjon ligger i hva den sparte tiden gjør mulig. Vi måler hvor mange nye kapabiliteter og initiativer vi tar på oss uten å øke bemanningen.

Hastighet fra start til slutt. Hvor lang tid en agent bruker på å utvikle en funksjon, er bare én del av bildet. Det egentlige målet er hele prosessen, inkludert hver eneste overlevering, fra vi bestemmer oss for å prioritere noe, til det er tilgjengelig i produktet. Det viser hvor raskt vi faktisk jobber, og synliggjør samordningskostnadene som målinger på oppgavenivå ikke fanger opp. I sikkerhetsarbeid er hastighet fra start til slutt avgjørende. Angripere bruker allerede AI-agenter, så tiden det tar å oppdage og håndtere en trussel, må stadig bli kortere.

Spart tid viser at AI fungerer. Disse måleparameterne viser om AI skaper varig verdi for virksomheten.

Du har antydet at mindre og mer smidige teknologiselskaper kan oppnå et betydelig konkurransefortrinn ved å legge om driften med AI som utgangspunkt. Hvilke fortrinn har AI-native oppstartsbedrifter sammenlignet med etablerte aktører, og hvordan ser du for deg at strukturen i vellykkede teknologiselskaper vil utvikle seg i løpet av de neste tre til fem årene?

AI-native oppstartsbedrifter har et strukturelt fortrinn. De kan bygge arbeidsflyter, teknologi og team rundt AI-agenter fra første dag, mens etablerte selskaper må håndtere flere tiår med eldre infrastruktur og organisatorisk kompleksitet. Det største gapet er ikke teknisk. Alle har tilgang til de samme AI-verktøyene. Fortrinnet tilfaller selskaper som kan legge om måten de arbeider på, uten først å måtte rydde opp i lag på lag med godkjenninger, overleveringer og fastlåste roller.

I løpet av de neste tre til fem årene tror jeg vellykkede teknologiselskaper vil gå bort fra grunnleggende AI-automatisering og over til agentbaserte driftsmodeller, der spesialiserte AI-agenter utfører hele arbeidsflyter. Menneskelige team vil ikke forsvinne, men folk vil bruke mindre tid på å utføre oppgaver manuelt og mer tid på å gi kontekst, sette rammer og styre resultatene. Resultatet blir slankere organisasjoner som kan skalere raskere, arbeide mer effektivt og konkurrere med selskaper som er mange ganger større enn dem.

Takk for et flott intervju! Lesere som ønsker å lære mer om agentbasert e-postsikkerhet, bør besøke Ocean Security.

Antoine er en visjonær leder og medgrunnlegger i Unite.AI, drevet av en urokkelig lidenskap for å forme og fremme fremtiden for AI og robotikk. Som seriegründer mener han at AI vil forandre samfunnet like grunnleggende som elektrisiteten, og han snakker ofte begeistret om potensialet i banebrytende teknologier og kunstig generell intelligens (AGI).

Som futurist er han opptatt av å utforske hvordan disse innovasjonene vil forme verden. Han er også grunnlegger av Securities.io, en plattform som fokuserer på investeringer i avanserte teknologier som omdefinerer fremtiden og omformer hele bransjer.