Intervjuer

Jack Cherkas, global CISO i Syntax – Intervjuserie

Antoine Tardif
Legg til Unite.AI blant dine foretrukne kilder på Google
Viktige punkterGovernance må reise sammen med AI-prosjekter i stedet for å blokkere dem ved en port.
Vis mer
  • Governance må reise sammen med AI-prosjekter i stedet for å blokkere dem ved en port.
  • AI-agenter trenger identitetstillatelser, logger og inneslutningsmekanismer akkurat som menneskelige brukere.
  • CISO-er som dukker opp tidlig med praktiske mønstre blir partnere AI-team ønsker.

Jack Cherkas, Global CISO i Syntax, er en cybersikkerhetsleder med lang erfaring innen skysikkerhet, cyberrobusthet, virksomhetsarkitektur og AI-sikkerhet. Han har hatt ledende roller i Syntax, PwC UK, Kyndryl og IBM, der han hjalp til å bygge og skalere sikkerhetsoperasjoner, ledet større hendelsesrespons og utviklet strategier for cyberrobusthet for store bedriftsmiljøer. I Syntax leder han global sikkerhet over hele selskapets mennesker, systemer, datasentre, managed cloud-tjenester og kundevendte sikkerhetstilbud, og overvåker et team på over 65 sikkerhetsmedarbeidere i åtte land.

Syntax er en global IT-tjenesteleverandør og managed cloud-leverandør som spesialiserer seg på kritiske bedriftsapper, særlig SAP- og Oracle (ORCL ) -miljøer. Selskapet støtter organisasjoner med sky-migrering, managed hosting, cybersikkerhet, forvaltning av bedriftsapplikasjoner og AI-støttet drift over hybrid- og multi-cloud-infrastruktur. Deres arbeid fokuserer på å hjelpe bedrifter med å modernisere, sikre og drive komplekse forretningssystemer i stor skala.

Du har ledet sikkerhetsinitiativer i IBM, Kyndryl, PwC og nå Syntax. Hvordan har ditt perspektiv på å sikre nye teknologier som AI utviklet seg, særlig når organisasjoner går fra eksperimentering til produksjon?

Min karriere har fulgt en rekke omveltninger, hvor hver enkelt har krevd at sikkerheten måtte holde tritt med en ny kontrollflate. I IBM i de tidlige dagene med sky, var spørsmålet om vi kunne stole på noen andres infrastruktur for å kjøre kritiske arbeidslaster. Svaret var en modell med delt ansvar og en generasjon med sky-native sikkerhetskontroller.

Så kom ransomware-æraen. NotPetya i 2017 lammet selskaper på få timer, og industrien lærte at skadevare som sprer seg som en orm kunne ta ned globale leverandørkjeder over natten. Responsen var å forberede seg på når et cyberangrep ville skje, ikke om det ville skje, segmentere nettverk, bruke uforanderlige sikkerhetskopier og satse tungt på identitetsstyring.

I løpet av min tid i Kyndryl og PwC, gikk SaaS fra kanten til sentrum av hvert IT-miljø. Arbeidslast flyttet ut av datasentre og inn på noen andres stack, identitet ble sikkerhetsperimeteren, og Zero Trust sluttet å være et diagram og begynte å bli en driftsmodell.

Nå i Syntax, er vi i GenAI-bølgen, hvor systemet selv resonerer, genererer og handler. Hver bølge ga oss en ny kontrollflate, ikke nok varsel og et kortere tidsvindu mellom eksperimentering og produksjon. Sky tok år. SaaS tok kvartaler. GenAI tar uker. CISO-ene som holder tritt er de som sluttet å behandle hver bølge som et unntak og begynte å behandle rask adopsjon som normaltilstanden.

Når organisasjoner akselererer AI-innføring, hvordan vurderer du risikoen for at tillit, ikke bare overholdelse, blir kompromittert? Hva er de tidligste indikatorene på at dette begynner å skje?

Tillit er grunnlaget for all god AI-innføring. De tidligste indikatorene er ikke i revisjonsrapporten, de er i operative signaler. Skygge-AI-implementeringer som ingen tar ansvar for. Innkjøp godkjenner GenAI-leverandører uten sikkerhetsgjennomgang. Datasporbarhet som bryter sammen så fort du spør hvor opplæringsdataene kom fra. AI-agenter som får admin-tilganger fordi ingen ville bremse prosjektet. Når du ser disse fire signalene i én organisasjon, er tillit allerede i ferd med å bli brukt raskere enn den blir tjent. Ledelsen er vanligvis den siste som vet.

Mange selskaper adopterer AI raskere enn de kan sikre det. Hva er de vanligste virkelige risikoene du ser i dag når styring ligger etter innovasjon?

Når styring ligger etter, skjer tre ting, og ingen av dem viser seg som sikkerhetshendelser før mye senere. For det første øker risikoen for regelbrudd i det stille: en AI-implementering som bryter åpenhetskravene i EUs AI-forordning, utløser ikke en alarm; det viser seg i en revisjon to år senere som en bot. For det andre forvitrer kundenes tillit i transaksjoner du aldri ser: potensielle kunder velger konkurrenter som kan bevise styring, og salgs-teamet finner aldri ut hvorfor. For det tredje svekkes beslutningskvaliteten: organisasjonen tar flere AI-påvirkede beslutninger, men kan ikke forklare eller gjennomgå dem, og dårlige beslutninger hoper seg opp på steder ingen ser. Kostnaden av svak AI-styring er den langsomme erosjonen av revisjon, salg og beslutningskvalitet, som ender i et sikkerhetsbrudd som skader omdømmet.

Fra din erfaring med å bygge og skalere administrerte sikkerhetstjenester og SOC-operasjoner, hvordan bør organisasjoner omdefinere sine sikkerhetsmodeller for å håndtere AI-drevne systemer og autonome beslutninger?

AI er en ny angrepsvektor, en trussel-forsterker og en avgjørende brikke i forsvaret, og sikkerhetsmodellen må tilpasse seg for å dekke alle tre samtidig.

Som en angrepsvektor blir GenAI-plattformene selv mål å forsvare. Som en trussel-forsterker bruker angripere GenAI til å lage phishing i stor skala, generere eksploitkode, automatisere rekognosering og oppdage sårbarheter i maskin-hastighet. Som en brikke i forsvaret er den samme teknologien vendt den andre veien, det eneste realistiske svaret: AI-drevet triage, automatisert trussel-jakt og forsterkning av analytikernes kapasitet er ikke lenger valgfrie; de er hvordan en SOC holder tritt med en AI-forsterket motpart. Hvis de er AI-forsterket og vi ikke er, øker gapet stadig mer med hver syklus.

Dette skaper også en ny aktør-type modellen må styre. I Syntax tenker vi allerede på AI-agenter som en del av organisasjonskartet, sammen med mennesker, hvilket setter standarden for hvordan vi sikrer dem. AI-agenter trenger alt vi gir menneskelige brukere (identitet, rolle-basert tilgang, aktivitetslogger, atferdsmessige referanseprofiler) pluss de samme inneslutningsmekanismene vi bruker på kompromitterte kontoer: muligheten til å deaktivere og isolere agenter samt tilbakekalle tilgangen deres. Forskjellen er hastighet. Agenter handler i millisekunder, så disse mekanismene må være umiddelbare og automatiserte, ikke først i slutten av en arbeidsflyt for hendelseshåndtering.

I Syntax har vårt Global Security Operations Center utviklet seg slik at AI forsterker den menneskelige analytikerens kapasitet, mens våre ansatte bygger agentbaserte arbeidsflyter og -agenter innen Syntax GenAI-plattformen, som gir guardrails mot bias, giftighet og kontroller for datasikkerhet og personvern som standard.

Dette er omdefineringen. Forsvar AI som et mål. Ta i bruk AI som forsvarer. Styr bruken av AI.

Det finnes ofte spenning mellom hastighet og kontroll. Hvordan kan organisasjoner opprettholde innovasjons-hastighet samtidig som de implementerer meningsfullt tilsyn og sikkerhetsrammer for AI-systemer?

Hastighet og kontroll ser ut som motsetninger til du bygger styring som reiser med prosjektet i stedet for å blokkere det. Feilen er å plassere styring ved porten: en komité, en godkjenning, en kvartalsvis gjennomgang. Når porten åpnes, har teamet allerede gått rundt den eller tapt momentum. Modellen som fungerer er prosesser omdefinert med styring integrert. Klar og konsistent kommunikasjon er utgangspunktet, etterfulgt av forhåndsgodkjente mønstre, forhånds-klarerte datastrømmer og forhåndsdefinerte tilgangsmaler. Teamene får hastighet, sikkerhetsteamene får synlighet, og avveiningen alle antar eksisterer, viser seg å være en dårlig designet prosess. Dette handler om å balansere sikkerhet med innovasjon i tråd med hver organisasjons risikoappetitt.

Du har arbeidet med storskala strategier for cyberrobusthet og hendelsesrespons. Hvordan endrer introduksjonen av AI naturen til cyber-trusler og måten organisasjoner bør forberede seg på dem?

AI akselererer truslene over ulike vektorer. Skala: phishing og rekognosering i maskin-hastighet mot tusenvis av mål samtidig. Raffinement: deepfake-drevet sosial manipulering som beseirer stemme- og video-verifisering. Identitet: syntetiske identiteter som passerer identitetskontroller designet for mennesker.

For hendelsesrespons er implikasjonene operative. Du trenger deteksjon som ikke avhenger av mennesker som gjenkjenner mønster i menneske-hastighet. Du trenger verifiseringsprotokoller som antar at stemme og video kan bli forfalsket. Og du trenger beredskapsplaner for hendelseshåndtering som eksplisitt dekker AI-relaterte hendelser, fordi gjenopprettings-trinnene ikke er de samme som ved en ransomware-hendelse.

Hvordan ser AI med innebygd sikkerhet ut i et komplekst, virkelig bedriftsmiljø hos Syntax?

I Syntax betyr det å balansere innovasjon og sikkerhet gjennom å ta i bruk vår GenAI-plattform med integrerte sikkerhetsrammer, klassifisere GenAI-tjenester, apper, modeller og plattformer som godkjente, begrensede eller forbudte, og fremme en sikkerhets-først-kultur gjennom vårt AI-styringskontor. For vår globale sikkerhetsorganisasjon betyr det å posisjonere oss som en muliggjører for bedriften, ikke en blokkerer, og å støtte bedriften med dens strategiske prioriteringer samtidig som vi beskytter Syntax i tråd med vår risikotoleranse.

Det er en voksende fortelling om at sikkerhet og overholdelse ikke lenger er blokkeringer, men muliggjørere av vekst. Hva må endre seg kulturelt og operativt for at organisasjoner virkelig kan omfavne denne holdningen?

Den største endringen er hvordan suksess defineres. Sikkerhetsteamene har blitt målt i tiår etter hva som ikke skjedde: ingen brudd, ingen hendelser, ingen revisjonsfunn. Denne metrikken belønner å si nei. Teamene som opererer som muliggjørere måler noe annet: avtaler vunnet fordi kontroller var demonstrerbare, lanseringer som traff datoene fordi sikkerheten ryddet veien, og innovasjoner som gikk gjennom styring i stedet for rundt den.

Operativt kreves det prosesser omdefinert med styring integrert, kombinert med aktiv muliggjøring som vår GenAI-plattform, som gjør den sikre veien til den enkleste, og tilgjengelig opplæring og programmer om generativ AI, som vårt AI Champions-initiativ.

Kultur følger hva du incentiviserer og hva du muliggjør. Endre hva du belønner, utrust mennesker med riktige verktøy og riktig trening på riktig tid, og du endrer hva de gjør. Dette er reisen Syntax er i ferd med å gå.

Når AI blir mer og mer integrert i bedrifts-arbeidsflyter, hvordan bør CISO-er samarbeide med AI-ledere, dataforskere og produktteam for å sikre ansvarlighet uten å bremse fremgangen?

CISO-en som venter på å bli invitert, kommer til å være forsinket. CISO-en som viser seg tidlig, med praktiske mønster i stedet for innvendinger basert på retningslinjer, blir partneren som AI-prosjektene virkelig ønsker å ha ved bordet. I praksis betyr det felles design-sesjoner med AI-teamene, sikkerhetsgodkjenninger som skjer parallelt med de funksjonelle, ikke etter dem, og en åpen dør-politikk. Dette endrer samtalen fra å være “Nei-avdelingen” til “Ja, men” eller “Nei, men” som en villig og samarbeidende partner for bedriften.

Ser fremover, tror du vi kommer til å se en standardisert global ramme for AI-styring, eller må organisasjoner bygge sine egne interne tillits-arkitekturer uavhengig av regulering?

Begge deler, i den rekkefølgen. Vi kommer til å se en fasert konvergens mot en liten mengde regionale rammer, EU AI-akten først, andre følger med lokale variasjoner. Vi kommer ikke til å se en global standard i dette tiåret på grunn av geopolitisk fragmentering. Derfor kommer organisasjoner til å gjøre to ting parallelt: overholde rammen som gjelder for deres største marked og kjøre en intern tillits-arkitektur som overstiger den svakeste rammen. Den interne arkitekturen betyr mer enn den eksterne standarden, fordi tilsynsmyndigheter beveger seg langsomt og trusler ikke gjør det. Selskapene som bygger interne tillits-arkitekturer nå, kommer til å tilbringe det neste tiåret med å si “vi gjør allerede det” til hver ny tilsynsmyndighet som kommer.

Takk for det flotte intervjuet. Lesere som ønsker å lære mer, kan besøke Syntax.

Antoine er en visjonær leder og medgrunnlegger i Unite.AI, drevet av en urokkelig lidenskap for å forme og fremme fremtiden for AI og robotikk. Som seriegründer mener han at AI vil forandre samfunnet like grunnleggende som elektrisiteten, og han snakker ofte begeistret om potensialet i banebrytende teknologier og kunstig generell intelligens (AGI).

Som futurist er han opptatt av å utforske hvordan disse innovasjonene vil forme verden. Han er også grunnlegger av Securities.io, en plattform som fokuserer på investeringer i avanserte teknologier som omdefinerer fremtiden og omformer hele bransjer.