Interviews
Oran Moyal, medstifter og teknologidirektør i Ocean Security – interviewserie

NøglepunkterAI-native status er organisatorisk snarere end teknisk, fordi det ændrer, hvordan hvert…
Vis mere
- AI-native status er organisatorisk snarere end teknisk, fordi det ændrer, hvordan hvert team håndterer arbejde.
- Hurtigere individuelle opgaver slår fejl, når overdragelser og godkendelser forbliver de reelle flaskehalse mellem trinene.
- Agenter har brug for håndhævede tilladelser og uafhængig validering, fordi instruktioner alene ikke er sikkerhedskontroller.
Oran Moyal er medstifter og teknologidirektør i Ocean Security, hvor han udvikler agentbaseret AI til at undersøge avancerede e-mailtrusler. Hans erfaring spænder over cybersikkerhedsforskning og -udvikling, offensiv social engineering og virksomhedssikkerhed. Han var med til at grundlægge Ocean i 2024 sammen med Shay Shwartz, baseret på deres erfaring med at analysere, hvordan angribere udnytter betroet kommunikation, og hvordan sikkerhedssystemer kan imødegå stadig mere målrettede trusler.
Ocean Security udvikler en platform til e-mailsikkerhed med agentbaseret AI, der er designet til at undersøge målrettet phishing, kompromittering af virksomheders e-mailkonti og økonomisk svindel. Platformens specialiserede AI-agenter analyserer kommunikationens kontekst og afsenderens hensigt for at hjælpe sikkerhedsteams med at identificere trusler i tilsyneladende legitime forretningsinteraktioner. I dette interview taler Moyal om, hvad der kendetegner en AI-nativ organisation, hvordan arbejdsgange kan gentænkes med agenter som omdrejningspunkt, og hvorfor tydelige krav, uafhængig validering, håndhævede tilladelser og menneskelig dømmekraft fortsat er afgørende for effektiv automatisering.
Før du var med til at grundlægge Ocean i 2024, arbejdede du i flere år med cybersikkerhedsforskning og -udvikling, blandt andet i Israel Defense Forces og hos VisibleRisk / Microsoft Security. Hvilke erfaringer fik dig til at starte Ocean, og hvordan påvirkede fremkomsten af AI din vision for virksomheden fra begyndelsen?
En målrettet spear phishing-kampagne krævede tidligere et dedikeret team og flere ugers manuel research og forberedelse. Da generativ AI kom frem, indså vi, at enhver medarbejder i enhver virksomhed nu er udsat for ødelæggende phishingangreb på niveau med dem, nationalstatslige aktører står bag. Fra den ene dag til den anden gav et abonnement til 20 dollars enhver angriber kapacitet på niveau med en nationalstat.
Shay og jeg har stor erfaring med social engineering fra den offensive side, og vi har begge opbygget og skaleret virksomheder inden for virksomhedssikkerhed. Derfor vidste vi, at ældre værktøjer ikke kunne følge med. De leder efter regelbrud og afvigelser, men disse angreb foregår midt i den normale forretningskommunikation: i ægte tråde, fra betroede konti og via legitime tjenester. Intet ser unormalt ud. Derfor grundlagde vi Ocean i 2024 for at hjælpe virksomheder med at tilpasse sig denne nye trussel gennem AI-drevet e-mailsikkerhed, der analyserer kontekst og afsenderens hensigt i realtid, omtrent som en menneskelig efterforsker ville gøre det, før et kompromitteringsangreb lykkes.
Mange organisationer beskriver sig selv som »AI-native«, blot fordi de har taget AI-værktøjer i brug eller automatiseret bestemte processer. Hvad mener du grundlæggende adskiller en ægte AI-nativ organisation fra en organisation, der blot har integreret AI i sine eksisterende arbejdsgange?
Mange virksomheder kalder sig AI-native, fordi de har købt AI-værktøjer. Det er teknologiadoption. At være AI-nativ ændrer den måde, virksomheden håndterer det daglige arbejde på, og hvordan den løser flaskehalse.
Det begynder med, hvordan ledere reagerer på en flaskehals. Den traditionelle reaktion er: »Det tager for lang tid; lad os ansætte nogen til at tage sig af det.« En AI-nativ organisation spørger først: »Hvordan kan AI få hele denne funktion til at gå hurtigere?« Når man stiller det spørgsmål på tværs af alle teams, begynder hele virksomheden at arbejde på en anden måde.
En reel AI-nativ forandring er organisatorisk, ikke teknisk. Hvis man sætter farten op i én afdeling, flytter flaskehalsen blot videre til den næste, og virksomheden ender med at bevæge sig i tempoet hos sin langsomste funktion. AI-native organisationer forandrer sig samlet, så informationen flyder hurtigere, feedbacksløjferne bliver kortere, og teams arbejder som ét sammenhængende system.
I denne model ændres værdien af medarbejdernes bidrag. Efterhånden som AI overtager mere af arbejdet, bliver evnen til at sætte en tydelig retning, definere hensigten og udøve dømmekraft en knap ressource. Mennesker og agenter arbejder side om side. AI står for mere af udførelsen, mens mennesker beslutter, hvad det er værd at bygge, og hvorfor.
Målet er, at alle teams kan udrette mere med de samme ressourcer, arbejde hurtigere og samarbejde bedre uden at gå på kompromis med kvaliteten.
Du har argumenteret for, at produktivitetsgevinster fra AI hurtigt kan forsvinde, når de underliggende arbejdsgange er ineffektive. Hvilke operationelle flaskehalse forhindrer oftest virksomheder i at høste de fulde fordele ved AI, og hvordan bør ledere gribe det an at gentænke disse arbejdsgange?
At sætte farten op på enkelte opgaver får ikke automatisk hele organisationen til at arbejde hurtigere. Hvis processer, afhængigheder og kommunikationen mellem teams forbliver uændrede, går det meste af den produktivitetsgevinst, AI skaber, tabt undervejs.
De mest almindelige flaskehalse er ikke tekniske. De skyldes uklare krav, som fører til gentagne omgange med omarbejde, langsomme overleveringer mellem teams og opgaver, der ligger og venter på godkendelse. AI gør hvert trin hurtigere, men tiden går tabt mellem trinnene.
Ledere bør begynde med at måle, hvor tiden faktisk går hen, for den reelle flaskehals er ofte ikke den, alle tror. Derefter bør de gentænke arbejdsgangen fra start til slut og forbedre overleveringerne, afklaringerne og feedbacksløjferne i stedet for kun at fokusere på enkelte opgaver. Til sidst bør de knytte hvert AI-initiativ til de KPI’er, som teams allerede har ansvar for.
Vigtigst af alt er det, at ledere ændrer tankegang. Automatisering og øget hastighed bør være standarden. I stedet for at acceptere de eksisterende processer bør teams blive ved med at udfordre måden, tingene gøres på, så de kan arbejde hurtigere og øge deres effekt uden at gå på kompromis med kvaliteten.
Et af de principper, du fremhæver, er betydningen af klart definerede krav, før AI-agenter introduceres i en arbejdsgang. Hvordan bør organisationer gentænke måden, de definerer opgaver, kommunikerer forventninger og fastlægger succeskriterier på, når AI-agenter har ansvar for at udføre væsentlige dele af arbejdet?
Når AI-agenter udfører en stor del af arbejdet, er organisationer nødt til at gentænke, hvordan de kommunikerer og definerer opgaver. En vag anmodning får ikke en agent til at standse. Den gætter, og hver forkert gæt fører til mere omarbejde.
Jeg tænker på det i tre lag:
Klare opgaver, mål og kontekst. Agenten skal forstå, hvad der skal gøres, hvorfor det er vigtigt, og hvilken kontekst der omgiver opgaven. Inden arbejdet begynder, skal den kunne spørge ind til alt, der er uklart, så mangler bliver afklaret på forhånd i stedet for først at blive opdaget halvvejs.
Selvvalidering. Succeskriterierne bør fastlægges på forhånd, så agenten selv kan kontrollere, om de er opfyldt. I softwareudvikling bør en agent for eksempel kunne køre koden, teste, om den fungerer efter hensigten, og bekræfte, at den består testene, før nogen gennemgår den.
Mennesker som det sidste lag. Folk bør modtage et resultat, som agenten allerede har forfinet gennem flere iterationer i forhold til de aftalte kriterier. Deres rolle er at udøve dømmekraft, ikke at rette grundlæggende fejl.
Jo bedre definitionen er, desto mindre menneskelig tid kræver hvert resultat.
Du går ind for, at AI-agenter får mulighed for at validere deres eget arbejde, før det når frem til menneskelige kontrollanter. Hvordan ser en effektiv AI-drevet valideringsproces ud i praksis, og hvordan kan organisationer sikre, at automatiske kvalitetstjek ikke blot gentager de samme fejl, som blev begået under udførelsen?
En effektiv valideringsproces afprøver arbejdet på den måde, det rent faktisk skal bruges på. Agenten bør køre det virkelige system fra start til slut, bekræfte, at resultatet stemmer overens med succeskriterierne, og rette det, der ikke fungerer, før noget når frem til et menneske.
For at undgå, at valideringen gentager agentens egne fejl, er nogle få principper vigtige:
Adskil kriterierne fra udførelsen. Mennesker bør definere, hvordan succes ser ud, inden arbejdet begynder. Hvis en agent selv afgør, hvad der betyder, at arbejdet er færdigt, kommer den til at rette sin egen aflevering.
Fastlæg faste værn. Ikke alle kontroller bør afhænge af en agents dømmekraft. Nogle skal være faste, deterministiske test, der kontrollerer bestemte parametre, standarder og politikker. De giver agenten tydelige grænser, som den ikke kan argumentere sig uden om.
Brug en uafhængig kontrollant. En anden agent, der har frisk kontekst og ingen interesse i den oprindelige tilgang, opdager fejl, som den første overser.
Vis dokumentation, ikke kun en konklusion. Testresultater, skærmbilleder og optagelser gør det muligt for folk at se, hvad der skete, i stedet for blot at stole på et »bestået«.
Menneskelig opmærksomhed kan dermed rettes mod de største risici. Målet er ikke at fjerne mennesker fra processen, men at sikre, at deres tid bruges på dømmekraft frem for mekaniske kontroller.
Traditionelle organisationer er ofte afhængige af flere ledelseslag, godkendelser og overleveringer mellem teams. Hvordan ændrer en AI-baseret driftsmodel samarbejdet mellem teknik-, produkt-, sikkerheds- og forretningsteams, og hvad sker der med traditionelle roller og ansvarsområder, når agenter overtager mere af udførelsen?
AI gør det muligt for hver enkelt og hvert team at producere mere. Men hvis overleveringer, godkendelser og koordinering forbliver uændrede, hober den ekstra produktion sig blot op, mens den venter på næste skridt. Organisationen bevæger sig ikke hurtigere. Den skaber nye flaskehalse. En AI-baseret driftsmodel skal gentænke, hvordan teams arbejder sammen, ikke kun hvordan hvert team arbejder.
Det begynder med, hvordan information bevæger sig. Mere af den bør flyde gennem automatisering, så møder kan bruges på beslutninger frem for statusopdateringer. Når indsigter fra felten når direkte frem til produktteamet, bliver beslutningerne hurtigere og mere præcise, og det fører videre til tydeligere definitioner og bedre udførelse.
Godkendelser skal også gentænkes, og det er den sværeste del, fordi det betyder, at organisationen må ændre sin opfattelse af, hvad der er normalt. Godkendelser er stadig vigtige, men de bør ikke behandle alle ændringer ens. Hvis man for eksempel føjer en risikovurdering til en bestemt godkendelsesproces, kan det reducere antallet af manuelle godkendelser af arbejde med lav risiko, samtidig med at mennesker fortsat gennemgår det, hvor det er vigtigt. Det er blot én måde at gøre en proces hurtigere på uden at give afkald på kontrollen.
Rollerne er også ved at blive omdefineret. Efterhånden som agenter overtager mere af udførelsen, går mennesker fra at eje opgaver til at eje resultater. De skal forstå hele konteksten, udfordre antagelser og bevæge sig ud over deres traditionelle ansvarsområder. De organisationer, der får succes, bliver dem, der gentænker, hvordan mennesker arbejder sammen, ikke blot dem, der tilføjer mest AI.
Ocean bruger selv specialiserede AI-agenter til at undersøge avancerede e-mailtrusler. Hvordan har din erfaring med at udvikle agentbaseret AI til cybersikkerhed påvirket den måde, du anvender AI internt på, og er der erfaringer fra udviklingen af autonome sikkerhedssystemer, som kan bruges i ledelsen af en AI-baseret organisation?
Udviklingen af autonome agenter til e-mailsikkerhed har præget den måde, vi bruger AI internt på, på to måder.
Den første lære er, at agenter kun præsterer så godt, som de forstår den sammenhæng, de indgår i. En sikkerhedsagent træffer bedre beslutninger, når den forstår den organisation, den beskytter. Det samme gælder internt. For at få gode resultater med agenter skal vi give dem en reel forståelse af, hvordan organisationen fungerer, hvad formålet med hver opgave er, og hvordan den hænger sammen med det større billede.
Den anden lære er, at agenter skal evalueres løbende. I produktion evaluerer vi hele tiden, hvordan vores agenter præsterer, hvor de fejler, og hvilke værktøjer eller data de mangler. Internt følger vi samme fremgangsmåde. Vi har brug for et dedikeret sted, hvor vi kan teste og træne agenter og få feedback på dem. Uden det er det svært at afgøre, om en agent bliver bedre, eller hvad den har brug for som det næste.
At drive en organisation, der er bygget op omkring AI, minder meget om at opbygge et autonomt sikkerhedssystem: Giv agenterne indgående kontekst, evaluer løbende deres præstationer, og sørg for, at mennesker er involveret, når dømmekraft er vigtig.
Efterhånden som organisationer giver AI-agenter større autonomi, opstår der bekymringer om ansvarlighed, sikkerhed og utilsigtede konsekvenser. Med afsæt i din baggrund inden for cybersikkerhed, hvordan bør virksomheder indføre sikkerhedsrammer, der lader agenter arbejde selvstændigt uden at gå på kompromis med sikkerheden eller miste meningsfuldt menneskeligt tilsyn?
Agenter bevæger sig i retning af større autonomi, og organisationer bør nå dertil gradvist. Begynd dér, hvor konsekvenserne er velkendte, påvis værdien, og udvid derefter.
Reelle sikkerhedsrammer er ikke instruktioner. At sige til en agent »det må du ikke gøre« er ikke en sikkerhedsforanstaltning. Sikkerhedsrammer skal håndhæves: Der skal være strenge grænser for, hvad agenten kan få adgang til, det skal verificeres, at den ikke kan nå noget uden for sit afgrænsede område, og den skal overvåges løbende, så handlinger, ingen har planlagt, bliver blokeret. Ligesom alle andre dele af systemet bør sikkerhedsrammerne testes og valideres regelmæssigt.
Ansvarligheden begynder hos den, der driver agenten. Den person, der står for agenten, fastlægger dens grænser: Hvad den må gøre på egen hånd, hvad der kræver godkendelse, og hvor den ikke må bevæge sig hen. Tag for eksempel en agent, der håndterer e-mailtrusler. Den kan hurtigt og pålideligt sætte mistænkelige beskeder i karantæne på egen hånd. Ved handlinger med større konsekvenser, som at blokere en afsender i hele organisationen, kan den ansvarlige begynde med et kontroltrin. Efterhånden som agenten opbygger en historik med gode resultater, kan grænserne udvides med større sikkerhed. Klare sikkerhedsrammer er det, der gør større autonomi mulig.
Det er endnu vigtigere, fordi angribere i stigende grad går efter AI-agenter. Virksomheden vil gerne arbejde hurtigere, men sikkerhedsteams mangler stadig klare retningslinjer for, hvordan agenter beskyttes. Derfor skal fundamentet være adgangsrettigheder, der håndhæves, og konstant overvågning.
Mange virksomheder måler udbredelsen af AI ud fra den sparede tid, de automatiserede opgaver eller medarbejdernes produktivitet. Hvilke måltal mener du reelt viser, om en AI-baseret driftsmodel skaber bæredygtig forretningsværdi, især når man medregner omarbejde, kvalitet og omkostninger til koordinering?
Sparet tid er et vigtigt måltal og ofte det første tydelige tegn på, at AI skaber værdi. Men den fulde effekt bliver synlig, når måltallet kombineres med målinger af, hvad organisationen bruger den sparede tid på, og om gevinsterne holder på lang sigt.
Kvalitet. Hurtigere er kun bedre, hvis kvaliteten fastholdes eller forbedres. Følg med i omarbejde, fejl og hvor ofte resultater skal rettes efter leveringen. Når både hastighed og kvalitet forbedres, er gevinsterne reelle og varige.
Forretningsmæssig vækst. Den reelle værdi af en organisation, der er bygget op omkring AI, ligger i det, den sparede tid gør muligt. Vi måler, hvor mange nye kompetencer og initiativer vi påtager os uden at øge medarbejderstaben.
Hastighed fra start til slut. Hvor lang tid det tager en agent at udvikle en funktion, er kun en del af billedet. Det egentlige mål er hele processen, inklusive hver eneste overlevering, fra det øjeblik vi beslutter at prioritere noget, til det er tilgængeligt i produktet. Det viser, hvor hurtigt vi faktisk arbejder, og synliggør de koordineringsomkostninger, som målinger på opgaveniveau overser. Inden for sikkerhed er hastighed fra start til slut afgørende. Angribere bruger allerede AI-agenter, så den tid, det tager at opdage og reagere på en trussel, skal hele tiden nedbringes.
Sparet tid viser, at AI virker. Disse måltal viser, om teknologien skaber varig værdi for virksomheden.
Du har peget på, at mindre og mere agile teknologivirksomheder kan opnå en betydelig konkurrencefordel ved at gentænke driften med AI som omdrejningspunkt. Hvilke fordele har AI-fødte startups i forhold til etablerede virksomheder, og hvordan forestiller du dig, at succesfulde teknologivirksomheders struktur vil udvikle sig over de næste tre til fem år?
AI-fødte startups har en strukturel fordel. Fra dag ét kan de opbygge arbejdsgange, teknologi og teams omkring AI-agenter, mens etablerede virksomheder må håndtere årtiers ældre infrastruktur og organisatorisk kompleksitet. Den største forskel er ikke teknisk. Alle har adgang til de samme AI-værktøjer. Fordelen tilfalder de virksomheder, der kan gentænke deres arbejdsmetoder uden først at skulle afvikle lag af godkendelser, overleveringer og fastlåste roller.
I løbet af de næste tre til fem år vil succesfulde teknologivirksomheder efter min mening bevæge sig væk fra grundlæggende AI-automatisering og over mod agentbaserede driftsmodeller, hvor specialiserede AI-agenter udfører hele arbejdsgange. Menneskelige teams forsvinder ikke, men folk vil bruge mindre tid på at udføre opgaver manuelt og mere tid på at give kontekst, fastlægge rammer og styre resultaterne. Resultatet bliver mere slanke organisationer, der kan vokse hurtigere, arbejde mere effektivt og konkurrere med virksomheder, der er mange gange større end dem.
Tak for et godt interview. Læsere, der ønsker at lære mere om agentbaseret e-mailsikkerhed, bør besøge Ocean Security.












