Interviuri

Oran Moyal, cofondator și director tehnic al Ocean Security – Seria de interviuri

Antoine Tardif
Adaugă Unite.AI la sursele tale preferate pe Google
Oran Moyal, Co-Founder and CTO of Ocean Security
Puncte cheieStatutul nativ AI este organizațional, nu tehnic, deoarece schimbă modul în care…
Vezi mai mult
  • Statutul nativ AI este organizațional, nu tehnic, deoarece schimbă modul în care fiecare echipă gestionează munca.
  • Accelerarea sarcinilor individuale eșuează atunci când predările și aprobările rămân adevăratele blocaje între etape.
  • Agenții au nevoie de permisiuni impuse și validare independentă, deoarece instrucțiunile singure nu sunt controale de securitate.

Oran Moyal este cofondator și director tehnic al Ocean Security, unde dezvoltă IA agentică pentru investigarea amenințărilor complexe prin e-mail. Experiența sa cuprinde cercetare și dezvoltare în domeniul securității cibernetice, inginerie socială ofensivă și securitate pentru companii. A cofondat Ocean în 2024, împreună cu Shay Shwartz, bazându-se pe experiența lor în analiza modului în care atacatorii exploatează comunicarea de încredere și a felului în care sistemele de securitate pot răspunde amenințărilor tot mai bine direcționate.

Ocean Security dezvoltă o platformă de securitate a e-mailului bazată pe IA agentică, concepută pentru investigarea atacurilor de phishing direcționate, a compromiterii e-mailurilor de afaceri și a fraudelor financiare. Agenții săi specializați de IA analizează contextul comunicării și intenția expeditorului, pentru a ajuta echipele de securitate să identifice amenințările ascunse în interacțiuni comerciale aparent legitime. În acest interviu, Moyal discută despre ce face ca o organizație să fie cu adevărat nativă IA, cum pot fi reproiectate fluxurile de lucru în jurul agenților și de ce cerințele clare, validarea independentă, permisiunile aplicate și judecata umană rămân esențiale pentru o automatizare eficientă.

Înainte de a cofondat Ocean în 2024, ați lucrat ani de zile în cercetare și dezvoltare în domeniul securității cibernetice, inclusiv în cadrul Forțelor de Apărare ale Israelului și la VisibleRisk / Microsoft Security. Ce experiențe v-au determinat să lansați Ocean și cum a influențat apariția IA viziunea dumneavoastră asupra companiei încă de la început?

În trecut, o campanie de phishing țintit de tip spear necesita o echipă dedicată și săptămâni de cercetare și pregătire manuală. Când a apărut IA generativă, ne-am dat seama că fiecare angajat din fiecare companie este acum expus unui atac de phishing devastator, de nivelul celor lansate de state-națiune. Peste noapte, un abonament de 20 USD le-a oferit tuturor atacatorilor capabilități de nivelul celor ale unui stat-națiune.

Shay și cu mine avem o vastă experiență în inginerie socială din perspectiva ofensivă și am construit și dezvoltat amândoi companii de securitate pentru întreprinderi, așa că știam că instrumentele vechi nu puteau ține pasul. Acestea caută încălcări ale regulilor și anomalii, însă astfel de atacuri se desfășoară în cadrul comunicării comerciale obișnuite: conversații reale, conturi de încredere și servicii legitime. Nimic nu pare anormal. Așa că, în 2024, am înființat Ocean pentru a ajuta companiile să se adapteze la această nouă amenințare, oferind securitate a e-mailului bazată pe IA, care analizează în timp real contextul și intenția expeditorului, la fel cum ar face un investigator uman, înainte de producerea unei breșe.

Multe organizații se descriu drept „native IA” doar pentru că au adoptat instrumente de IA sau au automatizat anumite procese. În opinia dumneavoastră, ce deosebește fundamental o organizație cu adevărat nativă IA de una care doar a integrat IA în operațiunile existente?

Multe companii se consideră native IA pentru că au cumpărat instrumente de IA. Asta înseamnă adoptarea tehnologiei. A fi o companie nativă IA schimbă modul în care aceasta gestionează activitatea de zi cu zi și rezolvă blocajele.

Totul începe cu felul în care liderii reacționează la un blocaj. Reacția tradițională este: „Durează prea mult; hai să angajăm pe cineva care să se ocupe de asta”. O organizație nativă IA se întreabă mai întâi: „Cum poate IA să accelereze întreaga funcție?”. Repetați această întrebare în fiecare echipă, iar întreaga companie va începe să funcționeze diferit.

Transformarea autentică într-o organizație nativă IA ține de organizare, nu de tehnologie. Dacă accelerați activitatea unui departament, blocajul se mută pur și simplu la următorul, iar compania ajunge să se miște în ritmul celei mai lente funcții. Organizațiile native IA se transformă împreună, astfel încât informațiile circulă mai repede, buclele de feedback se scurtează, iar echipele lucrează ca un singur sistem interconectat.

În acest model, valoarea oamenilor se schimbă. Pe măsură ce IA preia tot mai multă muncă, competențele rare sunt capacitatea de a stabili o direcție clară, de a defini intenția și de a-și exercita discernământul. Oamenii și agenții lucrează cot la cot. IA se ocupă de o parte tot mai mare a execuției, iar oamenii decid ce merită construit și de ce.

Scopul este ca fiecare echipă să facă mai mult cu aceleași resurse, să lucreze mai repede și să colaboreze mai bine, fără a compromite calitatea.

Ați susținut că sporurile de productivitate generate de IA pot dispărea rapid atunci când fluxurile de lucru subiacente sunt ineficiente. Care sunt cele mai frecvente blocaje operaționale care împiedică firmele să beneficieze pe deplin de IA și cum ar trebui liderii să abordeze reproiectarea acestor fluxuri de lucru?

Accelerarea unor sarcini individuale nu accelerează automat întreaga organizație. Dacă procesele, dependențele și comunicarea dintre echipe rămân neschimbate, cea mai mare parte a productivității generate de IA se pierde pe parcurs.

Cele mai frecvente blocaje nu sunt de natură tehnică. Este vorba despre cerințe neclare, care duc la refacerea repetată a muncii, transferuri lente între echipe și sarcini care așteaptă aprobări. IA accelerează fiecare etapă, dar timpul se pierde între etape.

Liderii ar trebui să înceapă prin a măsura unde se duce, de fapt, timpul, deoarece adevăratul blocaj nu este adesea cel pe care îl presupune toată lumea. Apoi, ar trebui să reproiecteze fluxul de lucru de la început până la sfârșit, îmbunătățind transferurile între echipe, definițiile și buclele de feedback, nu doar sarcinile individuale. În cele din urmă, fiecare inițiativă de IA ar trebui legată de indicatorii-cheie de performanță (KPI) pe care echipele îi urmăresc deja.

Cel mai important este ca liderii să schimbe mentalitatea. Automatizarea și accelerarea ar trebui să devină regula. În loc să accepte procesele existente, echipele ar trebui să pună mereu sub semnul întrebării felul în care se desfășoară activitatea, pentru a putea lucra mai repede și a-și spori impactul fără a compromite calitatea.

Unul dintre principiile pe care le subliniați este importanța definirii clare a cerințelor înainte de a introduce agenți IA într-un flux de lucru. Cum ar trebui organizațiile să regândească modul în care definesc sarcinile, comunică așteptările și stabilesc criteriile de succes atunci când agenții IA sunt responsabili de executarea unor părți semnificative ale activității?

Când agenții IA realizează o mare parte din muncă, organizațiile trebuie să regândească modul în care comunică și definesc sarcinile. O solicitare vagă nu oprește un agent. Acesta ghicește, iar fiecare presupunere greșită duce la și mai multă muncă de refacere.

Eu mă gândesc la acest lucru în trei etape:

Sarcini, obiective și context clare. Agentul trebuie să înțeleagă ce trebuie făcut, de ce este important și care este contextul. Înainte de începerea lucrului, ar trebui să poată întreba despre orice nu este clar, astfel încât neclaritățile să fie rezolvate din timp, nu descoperite la jumătatea procesului.

Autovalidare. Criteriile de succes ar trebui definite dinainte, într-un mod care să-i permită agentului să le verifice singur. În dezvoltarea software, de exemplu, agentul ar trebui să poată rula codul, să testeze dacă funcționează conform intenției și să confirme că trece testele înainte ca cineva să-l revizuiască.

Oamenii, ca etapă finală. Oamenii ar trebui să primească un rezultat pe care agentul l-a îmbunătățit deja în mai multe iterații, raportându-l la criteriile convenite. Rolul lor este să-și exercite discernământul, nu să repare greșeli elementare.

Cu cât definiția este mai bună, cu atât fiecare rezultat necesită mai puțin timp din partea oamenilor.

Susțineți ideea că agenții IA ar trebui să-și valideze singuri munca înainte ca aceasta să ajungă la evaluatori umani. Cum arată în practică un proces eficient de validare bazat pe IA și cum se pot asigura organizațiile că verificările automate ale calității nu perpetuează pur și simplu aceleași greșeli făcute în timpul execuției?

Un proces eficient de validare testează rezultatul așa cum va fi folosit efectiv. Agentul ar trebui să ruleze sistemul real de la un capăt la altul, să confirme că rezultatul corespunde criteriilor de succes și să remedieze problemele înainte ca acesta să ajungă la o persoană.

Pentru ca procesul de validare să nu repete greșelile agentului, sunt importante câteva principii:

Separați criteriile de execuție. Oamenii ar trebui să definească ce înseamnă succesul înainte de începerea lucrului. Dacă agentul decide ce înseamnă „gata”, își va corecta singur tema.

Stabiliți limite stricte. Nu toate verificările ar trebui să depindă de judecata unui agent. Unele trebuie să fie teste fixe și deterministe, care verifică parametri, standarde și politici specifice. Acestea îi oferă agentului limite clare pe care nu le poate ocoli prin raționament.

Folosiți un evaluator independent. Un al doilea agent, cu un context nou și fără miză în abordarea inițială, identifică erorile pe care primul nu le observă.

Prezentați dovezi, nu doar o concluzie. Rezultatele testelor, capturile de ecran și înregistrările le permit oamenilor să vadă ce s-a întâmplat, în loc să aibă încredere într-un simplu „trecut”.

Atenția oamenilor se îndreaptă apoi către zonele cu cel mai mare risc. Scopul nu este eliminarea oamenilor din proces, ci asigurarea faptului că timpul lor este dedicat judecății, nu verificărilor mecanice.

Organizațiile tradiționale se bazează adesea pe mai multe niveluri de management, aprobări și transferuri de responsabilități între echipe. Cum schimbă un model operațional construit în jurul IA modul în care colaborează echipele de inginerie, produs, securitate și afaceri și ce se întâmplă cu rolurile și responsabilitățile tradiționale pe măsură ce agenții preiau o parte tot mai mare din execuție?

IA le permite fiecărei persoane și fiecărei echipe să producă mai mult. Dar, dacă transferurile de responsabilități, aprobările și coordonarea rămân neschimbate, acel volum suplimentar de rezultate doar se acumulează în așteptarea următoarei etape. Organizația nu se mișcă mai repede. Creează noi blocaje. Un model operațional construit în jurul IA trebuie să regândească modul în care lucrează împreună echipele, nu doar modul de lucru al fiecărei echipe în parte.

Totul începe cu modul în care circulă informațiile. O parte mai mare ar trebui să circule prin automatizare, astfel încât întâlnirile să fie rezervate deciziilor, nu actualizărilor. Când observațiile din teren ajung direct la echipa de produs, deciziile devin mai rapide și mai precise, ceea ce duce la definiții mai clare și la o execuție mai bună.

Și aprobările trebuie regândite, iar aceasta este partea cea mai dificilă, pentru că presupune schimbarea a ceea ce organizația consideră normal. Aprobările rămân importante, dar nu ar trebui să trateze toate schimbările la fel. De exemplu, adăugarea unei evaluări a riscurilor într-un anumit proces de aprobare poate reduce numărul aprobărilor manuale pentru activitățile cu risc scăzut, păstrând în același timp evaluarea umană acolo unde contează. Acesta este doar un mod de a accelera un proces fără a renunța la control.

Și rolurile sunt redefinite. Pe măsură ce agenții preiau o parte tot mai mare din execuție, oamenii trec de la asumarea sarcinilor la asumarea responsabilității pentru rezultate. Ei trebuie să înțeleagă întregul context, să pună la îndoială presupunerile și să depășească limitele rolurilor lor tradiționale. Vor avea succes organizațiile care regândesc modul în care lucrează oamenii împreună, nu doar cele care implementează cele mai multe soluții de inteligență artificială.

Ocean folosește agenți IA specializați pentru a investiga amenințările sofisticate transmise prin e-mail. Cum v-a influențat experiența în dezvoltarea IA agentice pentru securitatea cibernetică modul în care implementați IA în propria organizație și există lecții din construirea sistemelor autonome de securitate care se aplică gestionării unei organizații construite în jurul IA?

Construirea unor agenți autonomi pentru securitatea e-mailului a influențat în două moduri felul în care folosim IA în propria organizație.

Prima lecție este că agenții sunt performanți doar în măsura în care înțeleg contextul. Un agent de securitate ia decizii mai bune când înțelege organizația pe care o protejează. Același lucru este valabil și în interiorul organizației. Pentru a obține rezultate bune de la agenți, trebuie să le oferim o înțelegere reală a modului în care funcționează organizația, a scopului fiecărei sarcini și a legăturii acesteia cu imaginea de ansamblu.

A doua lecție este că agenții trebuie evaluați în permanență. În mediul de producție, evaluăm constant performanța agenților noștri, unde dau greș și ce instrumente sau date le lipsesc. Aplicăm aceeași abordare și în interiorul organizației. Avem nevoie de un spațiu dedicat în care să testăm și să instruim agenții și să primim feedback despre ei. Fără un astfel de spațiu, este greu să ne dăm seama dacă un agent se îmbunătățește sau de ce are nevoie în continuare.

Conducerea unei organizații concepute în jurul IA seamănă mult cu construirea unui sistem autonom de securitate: le oferim agenților un context aprofundat, le evaluăm în permanență performanța și implicăm oamenii acolo unde contează discernământul.

Pe măsură ce organizațiile le acordă agenților IA mai multă autonomie, apar preocupări legate de responsabilitate, securitate și consecințe nedorite. Bazându-vă pe experiența dumneavoastră în domeniul securității cibernetice, cum ar trebui companiile să stabilească măsuri de protecție care să le permită agenților să funcționeze independent, fără a compromite securitatea sau a pierde o supraveghere umană reală?

Autonomia este direcția în care evoluează agenții, iar organizațiile ar trebui să o adopte treptat. Să înceapă în domenii în care impactul este bine înțeles, să demonstreze valoarea și apoi să extindă utilizarea.

Măsurile reale de protecție nu sunt simple instrucțiuni. Să-i spui unui agent „nu face asta” nu este o măsură de securitate. Măsurile de protecție trebuie aplicate efectiv: limite stricte privind ceea ce poate accesa agentul, verificarea faptului că nu poate ajunge la nimic din afara domeniului său de acțiune și monitorizare continuă, care să blocheze acțiunile neprevăzute. La fel ca orice altă componentă a sistemului, aceste măsuri trebuie testate și validate periodic.

Responsabilitatea începe cu operatorul. Persoana care gestionează un agent îi stabilește limitele: ce poate face singur, ce necesită aprobare și unde nu poate ajunge. Să luăm, de exemplu, un agent care răspunde la amenințările transmise prin e-mail. Acesta poate pune singur în carantină mesajele suspecte, rapid și în mod fiabil. Pentru acțiuni cu un impact mai amplu, cum ar fi blocarea unui expeditor în întreaga organizație, operatorul poate începe prin a introduce o etapă de verificare. Pe măsură ce agentul își construiește un istoric solid, limitele pot fi extinse cu încredere. Măsurile clare de protecție sunt cele care fac posibilă o autonomie mai mare.

Acest lucru este cu atât mai important cu cât atacatorii vizează tot mai des agenții IA. Companiile vor să se miște mai repede, dar echipele de securitate încă nu au un set clar de proceduri pentru protejarea agenților. De aceea, fundația trebuie să o constituie permisiunile aplicate strict și monitorizarea permanentă.

Multe companii măsoară adoptarea IA prin timpul economisit, sarcinile automatizate sau productivitatea angajaților. Ce indicatori, în opinia dumneavoastră, arată cu adevărat dacă un model operațional conceput în jurul IA generează valoare durabilă pentru companie, mai ales dacă luăm în calcul costurile refacerii muncii, ale calității și ale coordonării?

Timpul economisit este un indicator important și, de multe ori, primul semn clar că IA generează valoare. Însă impactul său deplin se vede atunci când îl asociem cu indicatori care arată cum folosește organizația timpul respectiv și dacă beneficiile se mențin pe termen lung.

Calitatea. Viteza mai mare este un avantaj doar dacă nivelul calității se menține sau se îmbunătățește. Urmăriți volumul de muncă refăcută, defectele și frecvența cu care rezultatele trebuie corectate după livrare. Când viteza și calitatea se îmbunătățesc în același timp, beneficiile sunt reale și de durată.

Extinderea activității. Adevărata valoare a unei organizații concepute în jurul IA constă în ceea ce devine posibil datorită timpului economisit. Măsurăm câte capabilități și inițiative noi putem dezvolta fără să creștem numărul de angajați.

Viteza de la un capăt la altul. Timpul de care are nevoie un agent pentru a dezvolta o funcționalitate reprezintă doar o parte a imaginii de ansamblu. Măsura reală este durata întregului proces, incluzând fiecare predare, din momentul în care decidem să stabilim prioritatea unui lucru până când acesta este disponibil în produs. Așa măsurăm viteza reală a operațiunilor și identificăm costurile de coordonare pe care indicatorii la nivel de sarcină nu le surprind. În domeniul securității, viteza de la un capăt la altul este esențială. Atacatorii folosesc deja agenți IA, așa că timpul necesar pentru detectarea și gestionarea unei amenințări trebuie să scadă în continuare.

Timpul economisit arată că IA funcționează. Acești indicatori arată că ea creează valoare durabilă pentru companie.

Ați afirmat că firmele de tehnologie mai mici și mai agile pot obține un avantaj competitiv semnificativ dacă își reproiectează operațiunile în jurul IA. Ce avantaje au startupurile concepute în jurul IA față de companiile consacrate și cum credeți că va evolua structura companiilor de tehnologie de succes în următorii trei până la cinci ani?

Startupurile concepute în jurul IA au un avantaj structural. Își pot construi fluxurile de lucru, tehnologia și echipele în jurul agenților IA încă de la început, în timp ce companiile consacrate trebuie să se confrunte cu decenii de infrastructură învechită și complexitate organizațională. Diferența cea mai mare nu este una tehnică. Toată lumea are acces la aceleași instrumente IA. Avantajul le revine companiilor care își pot reproiecta modul de lucru fără să fie nevoite mai întâi să desființeze niveluri de aprobare, etape de predare și roluri fixe.

În următorii trei până la cinci ani, cred că firmele de tehnologie de succes vor depăși automatizarea de bază cu ajutorul IA și vor adopta modele operaționale bazate pe agenți, în care agenți IA specializați vor executa fluxuri de lucru complete. Echipele umane nu vor dispărea, dar oamenii vor petrece mai puțin timp executând sarcini manual și mai mult timp oferind context, stabilind limite și orientând rezultatele. Rezultatul va fi o structură organizațională mai suplă, care se poate extinde mai rapid, poate funcționa mai eficient și poate concura cu companii de multe ori mai mari.

Vă mulțumim pentru interviul excelent. Cititorii care doresc să afle mai multe despre securitatea e-mailului bazată pe agenți ar trebui să viziteze Ocean Security.

Antoine este un lider vizionar și partener fondator al Unite.AI, animat de o pasiune de neclintit pentru modelarea și promovarea viitorului inteligenței artificiale și al roboticii. Antreprenor care a fondat mai multe companii, el crede că IA va transforma societatea la fel de profund ca electricitatea și vorbește adesea cu entuziasm despre potențialul tehnologiilor revoluționare și al inteligenței artificiale generale (AGI).

Ca futurolog, se dedică explorării modului în care aceste inovații vor modela lumea noastră. Este, de asemenea, fondatorul Securities.io, o platformă axată pe investiții în tehnologii de vârf care redefinesc viitorul și transformă sectoare întregi.