Rony Ohayon, CEO și fondator al DeepKeep – Seria de interviuri

Rony Ohayon, CEO și fondator al DeepKeep, este un antreprenor experimentat și tehnolog cu o carieră care acoperă inteligența artificială, securitatea cibernetică, sistemele autonome și tehnologiile video la scară largă. El a fondat și condus mai multe companii în aceste domenii, inclusiv roluri importante în conectivitatea vehiculelor autonome, transmisia video live și inginerie avansată, alături de lucrări academice anterioare în ingineria calculatorului.

DeepKeep este o platformă de securitate AI proiectată pentru a ajuta întreprinderile să protejeze inteligența artificială, inteligența artificială generativă, LLM-urile, sistemele de vizualizare computerizată și sistemele multimodale pe tot parcursul ciclului lor de viață. Compania se concentrează pe identificarea vulnerabilităților, blocarea amenințărilor adversarilor, prevenirea problemelor precum scurgerea de date și manipularea prompturilor, sprijinirea conformității cu reglementările și oferirea monitorizării continue pentru a asigura implementări de inteligență artificială de încredere, rezistente și protejate.

Ați condus inovații majore în domeniul transmisiei video, conectivității vehiculelor autonome și sistemelor de inteligență artificială. Ce din cariera dvs. v-a convins că următoarea provocare majoră pe care trebuia să o rezolvați era securizarea inteligenței artificiale pentru întreprinderi?

Am fost întotdeauna motivat să abordez provocări cu impact ridicat care restructurează industrii. De-a lungul anilor, am observat un model recurent în care noile tehnologii, în special inteligența artificială, adesea depășesc măsurile de securitate, lăsând în urmă vulnerabilități critice.

Adoptarea inteligenței artificiale de către întreprinderi, în special cu apariția modelelor de limbaj mare (LLM) și a inteligenței artificiale agenților, a deschis un nou front de riscuri, iar companiile adesea se simt copleșite și nepregătite să utilizeze aceste sisteme în siguranță și cu încredere. Experiența mea în sisteme de inteligență artificială a subliniat cât de esențial este să se integreze securitatea în inima acestor tehnologii pentru a se asigura că nu sunt doar inovatoare, ci și sigure și de încredere, producând rezultate fiabile pentru a sprijini companiile proactiv. Această realizare a condus la fondarea DeepKeep, cu accentul pe securizarea sistemelor de inteligență artificială, astfel încât companiile să poată adopta cu încredere inteligența artificială pentru a-și îmbunătăți productivitatea și creșterea afacerilor, fără a compromite securitatea sau confidențialitatea.

Când ați lansat DeepKeep în 2021, împreună cu co-fondatorul dvs., care a fost punctul orb al securității inteligenței artificiale care v-a convins că există o nevoie urgentă pentru o platformă dedicată, și cum a influențat acea perspectivă direcția inițială a companiei?

După ani de muncă cu inteligența artificială în vizualizarea computerizată, care a necesitat eforturi semnificative pentru a se asigura că este fiabilă și robustă, am realizat că este timpul să proiectăm o soluție dedicată pentru a asigura încredere și securitate în vizualizarea computerizată.

În 2021, înainte de explozia LLM, am lansat DeepKeep pentru a aborda aceste riscuri în modelele de vizualizare computerizată.

Ne puteți duce înapoi la primul prototip—ce a făcut el, cât de mic era echipa și cum ați validat că sunteți pe drumul cel bun?

Când am fondat DeepKeep, accentul era încă pe inteligența artificială tradițională – vizualizarea computerizată, modelele tabulare și NLP-ul timpuriu – mult înainte de apariția modelelor de limbaj mare. Primul nostru prototip a fost un sistem pentru testarea robusteții clasificatorilor de vizualizare computerizată împotriva atacurilor adversarilor. Alături de aceasta, am construit o versiune timpurie a unui zid de foc AI care putea detecta și semnala aceste atacuri în timp real.

Primele cazuri de utilizare au provenit din industria auto, asigurări și servicii financiare, unde comportamentul incorect al modelului poate avea riscuri operaționale reale. Eram o echipă mică de aproximativ opt persoane la acea vreme, ceea ce ne-a permis să iterăm rapid și să producem un prototip funcțional devreme.

Am validat că suntem pe drumul cel bun prin discuții directe cu clienții potențiali, care au subliniat în mod constant robustețea adversarilor ca o preocupare emergentă. În același timp, cadre precum ATLAS de la MIT – lansat pentru prima dată în 2021 – au început să apară, ceea ce a fost un semnal important extern că domeniul securității inteligenței artificiale și modelării amenințărilor adversarilor era pe cale să crească. Alinierea dintre feedbackul clienților și direcția industriei ne-a dat încredere că mergem în direcția corectă.

DeepKeep a fost proiectat din start pentru a securiza sistemele de inteligență artificială, nu software-ul tradițional. Cum ați prioritiza care tipuri de modele și suprafețe de atac să se concentreze mai întâi?

De la început, am știut că securizarea inteligenței artificiale pentru întreprinderi necesită o schimbare de paradigmă. În timp ce multe organizații sunt suficient de avansate pentru a ști că trebuie să efectueze testarea de penetrare și evaluarea pentru modelele pe care le utilizează, am înțeles că aceste acțiuni sunt doar începutul.

Așadar, în timp ce securizarea chatbot-urilor de inteligență artificială cu testarea adversarilor tradițională a fost punctul de start al industriei, am trecut rapid la dezvoltarea de soluții care să securizeze aplicații și agenți de inteligență artificială personalizați și care vor evolua pentru a securiza următorul pas, în care agenții interacționează între ei și există o inteligență interdomeniu semnificativă.

Permităm scanarea modelului pe toate tipurile de modele, dar și protejăm împotriva amenințărilor urgente, cum ar fi atacurile adversarilor, scurgerea de date, abuzul de sistem și erodarea încrederii, prin testarea adversarilor modelelor și aplicarea de garduri care să securizeze prompturile și răspunsurile de inteligență artificială.

În mod crucial, securizăm și “stratul semantic” al inteligenței artificiale, prin înțelegerea contextului în care operează modelele. Acest lucru asigură că modelele nu pot fi manipulate atât de ușor.

Care au fost cele mai mari schimbări tehnice sau strategice pe care le-ați făcut între stadiul de fondare și direcția actuală a produsului DeepKeep?

Una dintre cele mai importante decizii pe care le-am luat a fost să extindem dincolo de securitatea modelului tradițională în domeniul securității aplicațiilor de inteligență artificială. Inițial, ne-am concentrat pe securizarea modelelor individuale, dar pe măsură ce peisajul inteligenței artificiale a evoluat, am realizat că securizarea întregului ecosistem de inteligență artificială, unde multiple modele, agenți și cazuri de utilizare se intersectează, este mult mai critică.

O altă decizie cheie a fost să oferim flexibilitate deplină de implementare, inclusiv soluții cloud-agnostice, on-prem și air-gapped, permițând întreprinderilor să implementeze DeepKeep în siguranță în orice mediu. De asemenea, am integrat recent o barieră actualizată de protecție a informațiilor cu caracter personal de nivel industrial în platforma noastră, care a oferit clienților noștri un nivel și mai profund de protecție a datelor și asigură că întreprinderile pot îndeplini cerințele de conformitate globală pe măsură ce extind utilizarea inteligenței artificiale.

DeepKeep pune accent egal pe securitate și încredere. La ce stadiu a devenit acest focus dual core pentru identitatea companiei?

Accentul pe securitate și încredere a devenit clar de la început, în special pe măsură ce am început să formăm o înțelegere mai profundă a clienților noștri și a nevoilor lor.

Când vine vorba de modele de inteligență artificială, securitatea și încrederea merg mână în mână și joacă roluri egale, deoarece, la sfârșitul zilei, ambele pot duce la rezultate dăunătoare și distructive. O aplicație nu poate fi robustă și, în același timp, nefiabilă, și invers.

Uneltele tradiționale de securitate cibernetică nu au fost proiectate pentru injectarea prompturilor, halucinații, scurgerea de date sau manipularea modelului. Care dintre aceste vectori de amenințare emergente ați văzut că întreprinderile se luptă cel mai mult cu ele, și cum au influențat aceste probleme reale arhitectura DeepKeep?

Dintre amenințările emergente, injectarea prompturilor și scurgerea de date sunt cele mai presante preocupări cu care vedem că întreprinderile se luptă. Pe măsură ce aplicațiile și agenții de inteligență artificială devin mai integrați în procesele de afaceri, riscurile de manipulare a prompturilor și expunerea accidentală a datelor sensibile sunt mai pronunțate.

Aceste probleme ne-au condus să proiectăm DeepKeep cu accent pe securitatea contextuală, protejând nu numai modelele, ci și întregul flux de date și interacțiuni în ecosistemele de inteligență artificială. Infrastructura noastră a fost construită pentru a testa aceste straturi în faza de dezvoltare și pentru a proteja în timpul rulării, asigurând securitatea fiecărei interacțiuni de inteligență artificială.

Platforma dvs. combină garduri, testarea adversarilor și straturi de protecție a datelor. Din punct de vedere tehnic, care dintre acestea s-a dovedit a fi cel mai dificil de inginerat la scară întreprindere, și ce ați învățat în timp ce construiați un sistem care trebuie să se adapteze la modele de inteligență artificială în schimbare rapidă?

Fiecare strat – garduri, testarea adversarilor și protecția datelor – vine cu propriile sale provocări tehnice, dar am găsit că provocările pe care toate aceste straturi le au în comun au fost, de fapt, cele mai dificile.

Primul este ritmul schimbării: noi riscuri, atacuri și tehnici de atac apar constant, astfel încât orice lucru static devine rapid învechit. Al doilea este adoptarea contextului: în întreprindere, o abordare “unul pentru toți” pur și simplu nu funcționează, deoarece fiecare aplicație are politici, sensibilități de date și comportamente de utilizator diferite.

Pentru a aborda prima provocare, am construit o arhitectură complet modulară cu componente de tip plugin, care ne permite să adăugăm noi atacuri la motorul de testare adversarilor sau noi garduri la zidul de foc în mod rapid și fără a perturba sistemul.

Și pentru a rezolva a doua provocare, am proiectat un sistem agențial și conștient de context. Acesta analizează mediul aplicației și adaptează automat măsurile de securitate relevante – ceea ce este esențial atunci când modelele de inteligență artificială subiacente și cazurile de utilizare evoluează atât de rapid.

Aceste două capacități, modularitatea și conștientizarea contextului, au fost cheia pentru a opera la scară întreprindere, în timp ce ținem pasul cu sistemele de inteligență artificială în schimbare rapidă.

Securitatea inteligenței artificiale este o disciplină în evoluție. Care sunt lacunele pe care le vedeți în interiorul întreprinderilor de astăzi – fie în ceea ce privește politica, instrumentarea, sau înțelegerea riscurilor – care au influențat cel mai direct modul în care ați proiectat stiva de securitate a DeepKeep și procesul de înscriere a clienților?

Lacunele variază semnificativ în funcție de industrie, mărimea companiei și maturitatea adoptării inteligenței artificiale.

Una dintre cele mai mari lacune pe care le vedem în întreprinderile mari de astăzi este lipsa unei soluții unice care să acopere toate nevoile de securitate a inteligenței artificiale. Multe dintre aceste afaceri sunt conștiente de nevoia lor de soluții de securitate a inteligenței artificiale, dar pe măsură ce adoptarea crește, crește și cererea pentru acoperirea suplimentară de securitate. Am învățat de la început că există valoare într-o soluție robustă, de la capăt la capăt, care include diferite capacități care funcționează în tandem și cu integrare fără probleme.

Pe măsură ce piața a maturizat, am identificat o altă lacună, care este că organizațiile caută instrumente de securitate mai personalizate și mai puțin generice pentru a-și proteja agenții și aplicațiile. Una dintre raisons d’être ale abordării noastre conștiente de context a fost să abordăm această lacună, cu înțelegerea că fiecare aplicație și agent este diferit și are nevoie de securitate corespunzătoare.

Dacă privim înainte cinci ani, cum credeți că riscurile de inteligență artificială pentru întreprinderi vor evolua – și unde credeți că DeepKeep trebuie să fie poziționat pentru a rămâne înaintea viitorului?

Mă aștept ca cele mai mari riscuri de inteligență artificială în următorii cinci ani să evolueze alături de avansurile în autonomia inteligenței artificiale. Pe măsură ce agenții devin mai autonomi, integrați în toate operațiunile de afaceri și capabili să execute sarcini complexe, potențialul de breșe de securitate și de abuz va crește.

Ne vedem dezvoltarea unui Internet al agenților (IoA), în care agenții interacționează între ei, formând o rețea și mai complexă de interacțiuni de inteligență artificială care trebuie securizate.

Pentru a rămâne înaintea viitorului, DeepKeep va continua să evolueze platforma noastră pentru a securiza aceste sisteme de inteligență artificială din ce în ce mai complexe, asigurându-ne că oferim protecție în timpul rulării pe multiple modele de inteligență artificială și sprijinim tendința crescândă a luării deciziilor bazate pe inteligență artificială. Obiectivul nostru este să fim partenerul de încredere pe care companiile se bazează pentru a-și securiza întregul ecosistem de inteligență artificială, indiferent cât de sofisticat devine.

Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe despre DeepKeep pot vizita DeepKeep.