Rony Ohayon, DeepKeepin toimitusjohtaja ja perustaja – Haastattelusarja

Rony Ohayon, DeepKeepin toimitusjohtaja ja perustaja, on kokenut yrittäjä ja teknologiavaikuttaja, jolla on ura tekoälyssä, kyberTurvallisuudessa, autonomisissa järjestelmissä ja suurten videoteknologioiden parissa. Hän on perustanut ja johtanut useita yrityksiä näillä aloilla, mukaan lukien merkittäviä rooleja autonomisten ajoneuvojen yhteydessä, live-videonsiirrossa ja edistyneessä insinööritieteessä, sekä aiemmin akateemisessa työssä tietokoneinsinööritieteessä.

DeepKeep on tekoälyturvallisuus-alusta, joka on suunniteltu auttamaan yrityksiä suojelemaan tekoälyä, generatiivista tekoälyä, LLM: iä, tietokoneen näköä ja monimodaalisia järjestelmiä koko elinkaarensa ajan. Yritys keskittyy haavoittuvuuksien tunnistamiseen, vihamielisten uhkien estämiseen, ongelmien estämiseen, kuten tietovuodon ja ohjelmointimanipulaation, tukeakseen sääntelymukaisuutta ja tarjoamaan jatkuvaa valvontaa, jotta voidaan varmistaa luotettavat, kestävät ja suojatut tekoälykäytönotot.

Olet johtanut merkittäviä innovaatioita videonsiirrossa, autonomisten ajoneuvojen yhteydessä ja tekoälyjärjestelmissä. Mikä sinun urallasi vakuutti sinut, että seuraava suuri haaste, jonka sinun piti ratkaista, oli yritysten tekoälyn turvallisuus?

Olen aina ollut motivoitunut ratkaisemaan suurvaikutteisia haasteita, jotka muuttavat aloja. Vuosien varrella olen huomannut toistuvan mallin, jossa uusi teknologia, erityisesti tekoäly, usein jää turvallisuustoimien jälkeen, jättäen jälkeensä kriittisiä haavoittuvuuksia.

Yritysten tekoälyn omaksuminen, erityisesti suurten kielimallien ja agenteiden nousun myötä, avasi uuden riskien rintaman, ja yritykset usein tuntevat itsensä ylivoimaisiksi ja valmistautumattomiksi hyödyntämään näitä järjestelmiä turvallisesti ja luottavaisesti. Kokemukseni tekoälyjärjestelmissä korosti, kuinka tärkeää on integroida turvallisuus näiden teknologioiden ydinosaan, jotta ne eivät ole vain innovatiivisia, vaan myös turvallisia ja luotettavia, tuottaen luotettavia tuloksia, jotka tukevat yrityksiä proaktiivisesti. Tämä johti DeepKeepin perustamiseen, jossa painopistettä on tekoälyjärjestelmien turvallisuudessa, jotta yritykset voivat luottavaisesti omaksua tekoälyä tuottavuuden ja liiketoiminnan kasvun edistämiseksi ilman turvallisuuden tai yksityisyyden tinkimistä.

Kun sinä ja yrityksesi perustajat perustivat DeepKeepin vuonna 2021, mikä tarkka tekoälyturvallisuuden sokea piste vakuutti sinut siitä, että oli kiireellinen tarve omistautuneelle alustalle, ja miten tuo oivallus muokkasi yrityksen varhaisimman suunnan?

Vuoden 2021 aikana, ennen suurten kielimallien räjähdysmäistä kasvua, perustimme DeepKeepin ratkaisemaan nämä riskit tietokoneen näkömallien parissa.

Kun perustimme DeepKeepin, painopiste oli vielä perinteisessä tekoälyssä – tietokoneen näkössä, taulukkomalleissa ja varhaisissa NLP-malleissa – kauan ennen suurten kielimallien nousua. Ensimmäinen prototyyppimme oli järjestelmä tietokoneen näköluokittelijoiden red team -testaamiseen niiden kestävyyden testaamiseksi vihamielisiä hyökkäyksiä vastaan. Sen ohella kehitimme varhaisen version tekoälypalomuurista, joka voisi havaita ja merkitä nämä hyökkäykset reaaliajassa.

Alkuperäiset käyttötapaukset tulivat autoteollisuudesta, vakuutus- ja rahoituspalveluista, joissa mallien väärinkäyttö voi aiheuttaa todellisia operatiivisia riskejä. Olimme pieni joukko, noin kahdeksan henkilöä, mikä mahdollisti nopean iteroinnin ja toimivan prototyypin luomisen varhain.

Varmistimme, että olimme oikealla tiellä puhumalla suoraan potentiaalisten asiakkaiden kanssa, jotka korostivat jatkuvasti vihamielisen kestävyyden kasvavaa huolta. Samoihin aikoihin ilmestyivät kehykset, kuten MITREn ATLAS, jotka julkaistiin ensimmäisen kerran vuonna 2021, mikä oli tärkeä ulkoinen signaali siitä, että tekoälyturvallisuuden ja vihamielisen uhkamallinnuksen ala oli kasvamassa. Asiakaspalautteen ja alan suunnan yhteenlaskettu signaali antoi meille luottamusta siitä, että olimme menossa oikeaan suuntaan.

DeepKeep suunniteltiin alusta alkaen turvallisuutta varten tekoälyjärjestelmiä, ei perinteistä ohjelmistoa. Miten priorisoit, mitkä mallityypit ja hyökkäyspinnat tullaan tarkastelemaan ensin?

Tiesimme alusta alkaen, että yritysten tekoälyn turvallisuus vaatii paradigmamuutoksen. Vaikka monet organisaatiot ovat tietoisia siitä, että heidän on suoritettava penetraatiotestaus ja arviointi malleille, joita he käyttävät, ymmärsimme, että nämä toimet ovat vain alkua.

Siksi kun perinteinen tekoälychatbotien punainen joukkue oli alan aloituspiste, siirryimme nopeasti kehittämään ratkaisuja, jotka suojaavat mukautettuja tekoälysovelluksia ja tekoälyagentteja, ja tulemme kehittymään turvallisuuden seuraavaan vaiheeseen, jossa agentit vuorovaikuttavat toistensa kanssa ja muodostavat monimutkaisemman tekoälyvuorovaikutuksen verkon.

Mahdollistamme malliskannauksen kaikenlaisille mallityypeille, mutta myös suojaamme vastaan kaikkein kiireellisimpiä uhkia, kuten vihamielisiä hyökkäyksiä, tietovuotoa, järjestelmän väärinkäyttöä ja luottamuksen heikentymistä punaisen joukkueen avulla ja soveltamalla esteitä, jotka suojaavat tekoälyohjelmointia ja -vastauksia.

Olennaisesti me myös suojaamme tekoälyn “semanttista kerrosta” ymmärtämällä kontekstin, jossa mallit toimivat. Tämä varmistaa, ettei malleja voida helposti manipuloida.

Mitkä olivat suurimmat tekniset tai strategiset käännökset, jotka teit DeepKeepin perustamisvaiheen ja nykyisen tuotteen suunnan välillä?

Yksi suurimmista päätöksistämme oli laajentaa perinteisestä malliturvallisuudesta tekoälysovellusten turvallisuuden pariin. Aluksi keskityimme yksittäisten mallien turvallisuuteen, mutta kun tekoälymaisema kehittyi, tajusimme, että koko tekoälyekosysteemin turvallisuus, jossa useat mallit, agentit ja käyttötapaukset leikkaavat toisiaan, oli paljon kriittisempää. Tämä johti meidät laajentamaan lähestymistapaa sisällyttämällä punainen joukkue, kattava tekoälypalomuuri, joka suojaaa jokaisen agenttien, työntekijöiden ja sovellusten vuorovaikutuksen tekoälyn kanssa, ja suoritusaikaisen valvonnan.

Toinen avainpäätös oli tarjota täydellinen käyttöönoton joustavuus, mukaan lukien pilvi-agnostinen, paikallinen ja ilmatyyni-ratkaisut, jotka mahdollistavat yritysten turvallisen käyttöönoton DeepKeepiä missä tahansa ympäristössä. Olemme myös viime aikoina integroineet tehostetun, alan johtavan henkilökohtaisten tunnistetietojen vartijan alustaan, mikä on tarjonnut asiakkaillemme entistä syvemmän tason tietosuojaa ja varmistaa, että yritykset voivat täyttää globaalit sääntelyvaatimukset tekoälyn käytön laajentuessa.

DeepKeep asettaa yhtä suuren painopisteen turvallisuudelle ja luotettavuudelle. Mihin vaiheeseen tämä kaksinkertainen painopiste muodostui yrityksen identiteetin ydinosa?

Turvallisuuden ja luotettavuuden painopiste muodostui selväksi jo varhain, erityisesti kun aloimme muodostamaan syvemmän ymmärryksen asiakkaistamme ja heidän tarpeistaan.

Kun on kyse tekoälymallien kanssa, turvallisuus ja luottamus kulkevat käsi kädessä ja näyttelevät yhtä tärkeitä rooleja, koska lopulta molemmat voivat johtaa vahingollisiin ja tuhoisiin tuloksiin. Sovellus ei voi olla kestävä ja epäluotettava, ja päinvastoin.

Perinteiset kyberturvallisuuden työkalut eivät ole suunniteltu ohjelmointipisteen injektioon, hallusinaatioihin, tietovuotoon tai mallimanipulaatioon. Mikä näistä uusista uhkavektoreista näytti sinun mukaan yritysten kamppailevan eniten, ja miten nämä todelliset ongelmat vaikuttivat DeepKeepin arkkitehtuuriin?

Näistä uhkista ohjelmointipisteen injektio ja tietovuoto ovat kiireellisimpiä huolenaiheita, joista yritykset kamppailevat. Kun tekoälysovellukset ja tekoälyagentit integroidaan liiketoimintaprosesseihin, ohjelmointimanipulaation ja herkillen tietojen vahingollisen paljastumisen riskit kasvavat. Nämä ongelmat johtivat meidät suunnittelemaan DeepKeepiä kontekstuaalisen turvallisuuden painopisteen kanssa, suojaamaan ei vain malleja vaan koko datavirran ja vuorovaikutuksen tekoälyekosysteemeissä. Infrastruktuurimme on rakennettu testaamaan näitä kerroksia kehitysvaiheessa ja suojelemaan suoritusaikana turvallista tekoälyvuorovaikutusta.

Alustanne yhdistää vartijoita, punaista joukkuetta ja tietosuojakerroksia. Teknisestä näkökulmasta, mikä näistä on osoittautunut haasteellisimmaksi insinööritieteellisesti suurten yritysten mittakaavassa, ja mitä opit rakennettaessa järjestelmää, joka on sopeutuvainen nopeasti muuttuviin tekoälymalleihin?

Jokainen kerros – vartijat, punainen joukkue ja tietosuojakerrokset – tulee omilla haasteillaan, mutta huomasimme, että näiden kaikkien kerrosten yhteiset haasteet olivat vaikeimmat.

Ensimmäinen on muutoksen vauhti: uudet riskit, vankilapako ja hyökkäystekniikat ilmestyvät jatkuvasti, joten mikä tahansa staattinen tulee vanhanaikaiseksi nopeasti. Toinen on kontekstin omaksuminen: yrityksissä yksi kokoinen lähestymistapa ei toimi, koska jokainen sovellus on erilainen ja vaatii erilaisia käytäntöjä, tietoherkkyysastetta ja käyttäjän käyttäytymistä.

Ratkaisemaan ensimmäisen haasteen, rakensimme täysin modulaarisen arkkitehtuurin, jossa on liitännäismäiset komponentit, jotka mahdollistavat uusien hyökkäysten lisäämisen punaiseen joukkueen moottoriin tai uusien vartijoiden lisäämisen palomuuriin nopeasti ja ilman järjestelmän häirintää.

Ja ratkaisemaan toisen haasteen, suunnittelimme agenteerisen, kontekstiaavainjärjestelmän. Se analysoi sovelluksen ympäristöä ja sovittaa automaattisesti asiaankuuluvat turvallisuustoimenpiteet – mikä on olennainen, kun taustalla olevat tekoälymallit ja käyttötapaukset kehittyvät nopeasti.

Nämä kaksi ominaisuutta, modulaarisuus ja kontekstiaavain, ovat olleet avainasemassa toimimisessa suurten yritysten mittakaavassa ja pysymisessä mukana nopeasti kehittyvien tekoälyjärjestelmien kanssa.

Tekoälyturvallisuus on kehittyvä tieteenala. Mitkä aukot näet yrityksissä tänään – joko politiikassa, työkaluissa tai riskin ymmärtämisessä – jotka muokkasivat suoraan, miten suunnitelman DeepKeepin turvallisuuspino ja asiakasohjelmointi?

Aukot vaihtelevat merkittävästi riippuen toimialasta, yrityksen koosta ja tekoälyn omaksumisen kypsymisestä.

Yksi suurimmista aukoista, jonka näen suurissa yrityksissä tänään, on puute yhdestä ratkaisusta, joka kattaa kaikki tekoälyturvallisuuden tarpeet. Monet näistä yrityksistä tietävät tekoälyturvallisuuden ratkaisujen tarpeen, mutta tekoälyn omaksumisen kasvaessa kasvaa myös tarve lisää turvallisuuden kattavuutta. Olemme oppineet varhain, että on arvoa vahvassa, lopusta loppuun -ratkaisussa, joka sisältää eri kyvykkyyksiä, jotka toimivat yhdessä ja sulautuvat saumattomasti. Asiakkaat hyötyvät ratkaisusta, jossa kokonaisuus on suurempi kuin osien summa.

Kun markkinat kypsentyy, tunnistimme toisen aukon, joka on, että organisaatiot etsivät enemmän mukautettuja ja vähemmän geneerisiä turvallisuustyökaluja suojelemaan agentejaan ja sovelluksiaan. Yksi syy kontekstiaavainlähestymistämme oli ratkaista tämä aukko, ymmärtäen, että jokainen sovellus ja agentti on erilainen ja vaatii oman turvallisuuden.

Viiden vuoden kuluttua miten odotat yritysten tekoälyriskejen kehittyvän – ja mihin DeepKeepin on sijoituttava pysyäkseen edellä tulevaisuuden haasteita?

Odotan, että suurimmat tekoälyriskit seuraavien viiden vuoden aikana kehittyvät tekoälyautonomian edetessä. Kun agentit tulevat autonomisimmiksi, integroiduiksi jokaiseen liiketoimintaprosessiin ja pystyviksi suorittamaan monimutkaisia tehtäviä, turvallisuusloukkauksien ja väärinkäytön riski kasvaa. Ennustamme agenteiden internetin (IoA) kehittymistä, jossa agentit vuorovaikuttavat toistensa kanssa, muodostaen monimutkaisemman tekoälyvuorovaikutuksen verkon, jonka turvallisuuden varmistaminen on tärkeää.

Jotta pysymme edellä, DeepKeep jatkaa alustansa kehittämistä turvallisuuden varmistamiseksi näille yhä monimutkaisemmille tekoälyjärjestelmille, varmistaen, että tarjoamme suoritusaikaisen suojan useiden tekoälymallien yli ja tukemalla kasvavaa tekoälypohjaista päätöksentekoa. Tavoitteemme on olla luotettava kumppani, johon yritykset voivat luottaa koko tekoälyekosysteeminsä turvallisuuden varmistamiseksi, riippumatta siitä, kuinka monimutkainen se tulee olemaan.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla DeepKeep-sivustolla.