Mike Bruchanski, Chief Product Officer i HiddenLayer – Intervju-serie

Mike Bruchanski, Chief Product Officer i HiddenLayer, bringer over to ti års erfaring med produktutvikling og ingeniørarbeid til selskapet. I sin rolle er Bruchanski ansvarlig for å forme HiddenLayers produktstrategi, overvåke utviklingspipeline og drive innovasjon for å støtte organisasjoner som tar i bruk generativ og prediktiv AI.

HiddenLayer er den ledende leverandøren av sikkerhet for AI. Deres sikkerhetsplattform hjelper bedrifter å beskytte maskinlæringsmodellene bak deres viktigste produkter. HiddenLayer er det eneste selskapet som tilbyr en komplett sikkerhetsløsning for AI som ikke legger til unødvendig kompleksitet til modellene og ikke krever tilgang til rådata og algoritmer. Grunnlagt av et team med dypt røtter i sikkerhet og ML, har HiddenLayer som mål å beskytte bedriftens AI mot inferens-, bypass-, ekstraksjonsangrep og modelltyveri.

Hva har inspirert deg til å bli med i HiddenLayer, og hvordan sammenfaller denne rollen med dine personlige og profesjonelle mål?

Jeg har alltid vært tiltrukket av å løse nye og komplekse problemer, spesielt der hvor banebrytende teknologi møter praktisk anvendelse. Gjennom hele min karriere, som har omfattet romfart, cybersikkerhet og industriell automatisering, har jeg hatt muligheten til å bane nye veier for innovative bruksområder av AI og navigere de unike utfordringene som følger med det.

I HiddenLayer møtes disse to verdener – AI-innovasjon og sikkerhet – på en måte som er både kritisk og spennende. Jeg erkjente at AI sin potensiale er transformasjonelt, men dens sårbarheter blir ofte undervurdert. I HiddenLayer kan jeg utnytte min ekspertise til å beskytte denne teknologien samtidig som jeg muliggjør at organisasjoner kan utrulle den trygt og ansvarlig. Dette er den perfekte sammenfallet av min tekniske bakgrunn og lidenskap for å drive innflytelsesrike og skalerbare løsninger.

Hva er de mest betydningsfulle motangrepstruslene som rammer AI-systemer i dag, og hvordan kan organisasjoner proaktivt mildne disse risikoene?

Den raske tilpasningen av AI over industrier har skapt nye muligheter for cybertrusler, på samme måte som vi så med oppblomstringen av tilkoblede enheter. Noen av disse truslene inkluderer modelltyveri og inversjonsangrep, hvor angripere ekstraherer sensitive informasjoner eller reverseringsmodellene, potensielt eksponerende proprietær data eller immaterielle rettigheter.

For å proaktivt mildne disse risikoene, må organisasjoner innbygge sikkerhet på hver enkelt stadium av AI-livssyklusen. Dette inkluderer å sikre dataintegritet, beskytte modeller mot utnyttelse og adoptere løsninger som fokuserer på å beskytte AI-systemer uten å underminere deres funksjonalitet eller ytelse. Sikkerhet må utvikle seg sammen med AI, og proaktive tiltak i dag er det beste forsvaret mot morgendagens trusler.

Hvordan skiller HiddenLayers tilnærming til AI-sikkerhet seg fra tradisjonelle cybersikkerhetsmetoder, og hvorfor er den spesielt effektiv for generative AI-modeller?

Tradisjonelle cybersikkerhetsmetoder fokuserer primært på å sikre nettverk og endepunkter. HiddenLayer tar imidlertid en modell-sentrert tilnærming, som erkjenner at AI-systemer selv representerer en unik og verdifull angrepsflate. I motsetning til konvensjonelle tilnærminger, sikrer HiddenLayer AI-modellene direkte, og adresserer sårbarheter som modellinversjon, datapforgiftning og motangrepsmanipulering. Denne målrettede beskyttelsen sikrer at den sentrale verdien – AI selv – er beskyttet.

Additionally, HiddenLayer designer løsninger tilpasset virkelige utfordringer. Våre lette, ikke-invasive teknologier integrerer sammenhengende i eksisterende arbeidsflyter, og sikrer at modellene forblir beskyttet uten å kompromittere deres ytelse. Denne tilnærmingen er spesielt effektiv for generative AI-modeller, som møter høyere risiko for datalekkasjer eller uautorisert manipulering. Ved å fokusere på AI selv, setter HiddenLayer en ny standard for å sikre fremtiden for maskinlæring.

Hva er de største utfordringene organisasjoner møter når de integrerer AI-sikkerhet i deres eksisterende cybersikkerhetsinfrastruktur?

Organisasjoner møter flere betydelige utfordringer når de forsøker å integrere AI-sikkerhet i deres eksisterende rammer. Først og fremst møter mange organisasjoner en kunnskapslukke, da forståelsen av kompleksitetene i AI-systemer og deres sårbarheter krever spesialisert ekspertise som ikke alltid er tilgjengelig internt. For det andre er det ofte press for å adoptere AI raskt for å forbli konkurransekyndige, men å rush til å utrulle løsninger uten riktige sikkerhetstiltak kan føre til langvarige sårbarheter. Til slutt er det en delikat utfordring å balansere behovet for robust sikkerhet med å opprettholde modellens ytelse. Organisasjoner må sikre at noen sikkerhetstiltak de implementerer, ikke negativt påvirker funksjonaliteten eller nøyaktigheten av deres AI-systemer.

For å møte disse utfordringene, må organisasjoner ha en kombinasjon av utdanning, strategisk planlegging og tilgang til spesialiserte verktøy. HiddenLayer tilbyr løsninger som integrerer sikkerhet i AI-livssyklusen, og muliggjør at organisasjoner kan fokusere på innovasjon uten å eksponere seg for unødvendig risiko.

Hvordan sikrer HiddenLayer at deres løsninger forblir lette og ikke-invasive samtidig som de tilbyr robust sikkerhet for AI-modeller?

Vår designfilosofi prioriterer både effektivitet og operasjonell enkelhet. HiddenLayers løsninger er API-drevne, og muliggjør enkel integrasjon i eksisterende AI-arbeidsflyter uten betydelige forstyrrelser. Vi fokuserer på å overvåke og beskytte AI-modeller i sanntid, og unngår å endre deres struktur eller ytelse.

I tillegg er vår teknologi designet for å være effektiv og skalerbar, og fungerer sammenhengende over diverse miljøer, enten på stedet, i skyen eller i hybridoppsett. Ved å holde fast ved disse prinsippene, sikrer vi at våre kunder kan beskytte sine AI-systemer uten å legge til unødvendig kompleksitet til deres operasjoner.

Hvordan strømlinjeformer HiddenLayers Automatiserte Red Teaming løsning sårbarhetstesting for AI-systemer, og hvilke industrier har hatt størst nytte av dette?

HiddenLayers Automatiserte Red Teaming benytter avanserte tekniker for å simulere virkelige angrep på AI-systemer. Dette muliggjør at organisasjoner kan:

• Identifisere sårbarheter tidlig: Ved å forstå hvordan angripere kan målrette deres modeller, kan organisasjoner adresse svakheter før de utnyttes.

• Akselerere testcykluser: Automatisering reduserer tiden og ressursene nødvendige for omfattende sikkerhetsvurderinger.

• Tilpasse seg utviklende trusler: Vår løsning oppdateres kontinuerlig for å omfatte nye angrepsvektorer.

Industrier som finansielle tjenester, helse, produksjon, forsvar og kritisk infrastruktur – hvor AI-modeller håndterer sensitive data eller driver essensielle operasjoner – har sett de største fordelene. Disse sektorene krever robust sikkerhet uten å ofre pålitelighet, og gjør HiddenLayers tilnærming spesielt innflytelsesrik.

Hvordan fremmer du en data-drevet kultur i dine produktteam, og hvordan oversettes dette til bedre sikkerhetsløsninger for kundene?

I HiddenLayer er vår produktfilosofi rotfestet i tre søyler:

1. Resultat-orientert utvikling: Vi starter med sluttmålet for øye, og sikrer at våre produkter leverer konkrete verdier for kundene.
2. Data-drevet beslutningstaking: Emosjoner og meninger kan ofte være høye i startup-miljøer. For å kutte gjennom støyen, baserer vi våre beslutninger på empiriske bevis, og sporer alt fra produkt ytelse til markedssuksess.
3. Holistisk tenkning: Vi oppmuntrer teamene til å se på produktlivssyklusen som et system, og å vurdere alt fra utvikling til markedsføring og salg.

Ved å innarbeide disse prinsippene, har vi skapt en kultur som prioriterer relevans, effektivitet og tilpasning. Dette forbedrer ikke bare våre produkttilbud, men sikrer også at vi kontinuerlig adresserer de virkelige sikkerhetsutfordringene våre kunder møter.

Hva råd ville du gi organisasjoner som er nølende med å adoptere AI på grunn av sikkerhetsbekymringer?

For organisasjoner som er nølende med å adoptere AI på grunn av sikkerhetsbekymringer, er det viktig å ta en strategisk og målrettet tilnærming. Begynn med å bygge en sterk grunnlag av sikre datapiper og robuste styreprosesser for å sikre dataintegritet og personvern. Start smått, og pilottest AI i spesifikke, kontrollerte bruksområder hvor det kan levere målbare verdier uten å eksponere kritiske systemer. Utnytt ekspertisen til pålitelige partnere for å adresse AI-spesifikke sikkerhetsbehov og å brobygge interne kunnskapslukker. Til slutt, balanser innovasjon med forsiktighet ved å tankefullt utrulle AI for å høste fordeler samtidig som man håndterer potensielle risikoer effektivt. Med riktig forberedelse kan organisasjoner trygt omfavne AI uten å kompromittere sikkerheten.

Hvordan påvirker den nylige amerikanske presidentens executive ordre om AI-sikkerhet og EU sin AI-akt HiddenLayers strategier og produkttilbud?

De nylige reguleringene, som EU sin AI-akt, understreker den økende fokuset på ansvarlig AI-utvikling. I HiddenLayer har vi proaktivt justert våre løsninger for å støtte overholdelse av disse utviklende standardene. Våre verktøy muliggjør at organisasjoner kan demonstrere overholdelse av AI-sikkerhetskrav gjennom omfattende overvåking og rapportering.

Vi samarbeider også aktivt med reguleringer for å forme bransjestandarder og å adresse de unike risikoene forbundet med AI. Ved å holde oss foran reguleringstrendene, sikrer vi at våre kunder kan innovere ansvarlig og forbli kompatible i et stadig mer komplekst landskap.

Hvilke hull i det nåværende AI-sikkerhetslandskapet må adresseres med største hast, og hvordan planlegger HiddenLayer å takle disse?

AI-sikkerhetslandskapet møter to kritiske hull. Først og fremst må AI-modeller beskyttes mot tyveri, reversering og manipulering. HiddenLayer leder anstrengelsene for å sikre modeller mot disse truslene gjennom innovative løsninger. For det andre er tradisjonelle sikkerhetsverktøy ofte dårlig utrustede for å adresse AI-spesifikke sårbarheter, og skaper et behov for spesialiserte trusseldeteksjonskapasiteter.

For å møte disse utfordringene, kombinerer HiddenLayer banebrytende forskning med kontinuerlig produktutvikling og markedspedagogikk. Ved å fokusere på modellbeskyttelse og tilpasset trusseldeteksjon, har vi som mål å tilby organisasjoner de verktøyene de trenger for å utrulle AI trygt og med tillit.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, kan besøke HiddenLayer.