Interviews

Jack Cherkas, global CISO hos Syntax – Interviewserie

Antoine Tardif
Føj Unite.AI til dine foretrukne kilder på Google
NøglepunkterStyring skal følge med AI-projekter snarere end at blokere dem ved en port.
Vis mere
  • Styring skal følge med AI-projekter snarere end at blokere dem ved en port.
  • AI-agenter har brug for identitet, tilladelser, logfiler og inddæmningsmekanismer, ligesom menneskelige brugere.
  • CISO'er, der tidligt fremviser praktiske mønstre, bliver partnere, som AI-teams ønsker.

Jack Cherkas, Global CISO hos Syntax, er en leder inden for cybersikkerhed med dyb erfaring indenfor cloudsikkerhed, cyberrobusthed, virksomhedsarkitektur og AI-sikkerhed. Han har haft ledende stillinger hos Syntax, PwC UK, Kyndryl og IBM, hvor han har hjulpet med at opbygge og opskalere sikkerhedsoperationer, ledet indsatsen ved større sikkerhedshændelser og udviklet strategier for cyberrobusthed for store virksomhedsmiljøer. Hos Syntax leder han global cybersikkerhed på tværs af virksomhedens mennesker, systemer, datacentre, managed cloud-tjenester og kundevendte sikkerhedstilbud, og han har ansvar for et team på over 65 sikkerhedsprofessionelle i otte lande.

Syntax er en global IT-tjeneste- og managed cloud-udbyder, der specialiserer sig i mission-kritiske enterprise-applikationer, især SAP- og Oracle (ORCL ) -miljøer. Virksomheden støtter organisationer med cloud-migration, managed hosting, cybersikkerhed, enterprise-applikationsstyring og AI-aktiverede operationer på tværs af hybrid- og multi-cloud-infrastruktur. Deres arbejde fokuserer på at hjælpe virksomheder med at modernisere, sikre og operere komplekse forretningssystemer i stor skala.

Du har ledet cybersecurity-initiativer hos IBM, Kyndryl, PwC og nu Syntax. Hvordan har dit perspektiv på at sikre fremvoksende teknologier som AI udviklet sig, især når organisationer bevæger sig fra eksperimentering til produktion?

Min karriere har fulgt en række disruptioner, hvor sikkerheden hele tiden måtte indhente en ny kontrolflade. Hos IBM i de tidlige dage af cloud, var spørgsmålet, om vi kunne stole på, at en anden persons infrastruktur kunne køre mission-kritiske workloads. Svaret var en model med delt ansvar og en generation af cloud-native kontroller.

Så kom ransomware-æraen. NotPetya i 2017 lammede virksomheder på få timer, og branchen lærte, at malware, der spreder sig som en orm, kunne lamme globale forsyningskæder natten over. Responsen var at forberede sig på, hvornår et cyberangreb ville ske, ikke om det ville ske, segmentere netværket, anvende uforanderlige sikkerhedskopier og styrke identitetsstyringen markant.

Under min tid hos Kyndryl og PwC gik SaaS fra kanten til centrum af ethvert IT-miljø. Workloads flyttede ud af datacentre og på en anden persons stack, identitet blev perimetret, og Zero Trust stoppede med at være et diagram og startede med at være en driftsmodel.

Nu hos Syntax er vi i GenAI-bølgen, hvor systemet selv ræsonnerer, genererer og handler. Hver bølge gav os en ny kontrolflade, ikke nok advarsel og et kortere tidsrum mellem eksperimentering og produktion. Cloud tog år. SaaS tog kvartaler. GenAI tager uger. De CISO’er, der holder trit, er dem, der stoppede med at behandle hver bølge som en undtagelse og startede med at behandle hurtig adoption som den normale tilstand.

Når organisationer accelererer AI-adopteringshastigheden, hvordan vurderer du risikoen for, at tilliden, og ikke kun regelefterlevelsen, bliver kompromitteret? Hvad er de tidligste tegn på, at dette er begyndt at ske?

Tillid er grundlaget for enhver god AI-adopteringsproces. De tidligste tegn er ikke i revisionsrapporten, men i de operationelle signaler. Skygge-AI-installationer, som ingen tager ansvar for. Indkøb, der godkender GenAI-udbydere uden sikkerhedsrevision. Dataenes sporbarhed, der bryder sammen, så snart du spørger, hvor træningsdataene kom fra. AI-agenter, der får administrator-rettigheder, fordi ingen ville sænke projektets hastighed. Når du ser disse fire signaler i en organisation, er tilliden allerede ved at blive brugt hurtigere, end den bliver tjent. Ledelsen er som regel den sidste, der ved det.

Mange virksomheder adopterer AI hurtigere, end de kan sikre det. Hvad er de mest almindelige, reelle risici, du ser i dag, når styring ligger efter innovation?

Når styring ligger efter, sker der tre ting, og ingen af dem viser sig som sikkerhedshændelser før langt senere. For det første vokser risikoen for overtrædelse af reglerne i det skjulte: en AI-installation, der krænker EU’s AI-acts gennemsigtighedskrav, udløser ikke en alarm; det viser sig i en revision to år senere som en bøde. For det andet nedbrydes kundernes tillid i transaktioner, du aldrig ser: potentielle kunder vælger konkurrenter, der kan bevise styring, og dit salgsteam finder aldrig ud af, hvorfor. For det tredje forringes beslutningskvaliteten: organisationen træffer flere beslutninger, som påvirkes af AI, men kan ikke forklare eller gennemgå dem, og dårlige beslutninger ophobes på steder, ingen kigger. Omkostningerne ved svag AI-styring er den langsomme erosion af revision, salg og beslutningskvalitet, der ender i et sikkerhedsbrud, der skader omdømmet.

Fra din erfaring med at opbygge og opskalere administrerede sikkerhedstjenester og SOC-operationer, hvordan bør organisationer omdefinere deres sikkerhedsmodeller for at håndtere AI-drevne systemer og autonome beslutninger?

AI er en ny angrebsvektor, en trussel-forstærker og en afgørende brik i forsvaret, og sikkerhedsmodellen må tilpasse sig for at dække alle tre på samme tid.

Som en angrebsvektor bliver GenAI-platformene selv mål at forsvare. Som en trussel-forstærker bruger angriberne GenAI til at udarbejde phishing i stor skala, generere udnyttelseskode, automatisere rekognoscering og opdage sårbarheder i maskinehastighed. Som en brik i forsvaret er den samme teknologi vendt den anden vej den eneste realistiske løsning: AI-drevet triage, automatiseret trusseljagt og styrkelse af analytikernes kapacitet er ikke længere valgfrie; de er, hvordan en SOC holder trit med en AI-forstærket modstander. Hvis de er AI-forstærket, og vi ikke er, vokser kløften med hver cyklus.

Dette skaber også en ny aktørtype, som modellen må styre. Hos Syntax tænker vi allerede på AI-agenter som en del af organisationskortet, sammen med mennesker, hvilket sætter standarden for, hvordan vi sikrer dem. AI-agenter har brug for alt, hvad vi giver menneskelige brugere (identitet, rollebaseret adgang, aktivitetslog, adfærdsmæssige grundlinjer) plus de samme inddæmningsmekanismer, vi bruger på kompromitterede konti: muligheden for at deaktivere og isolere agenter samt tilbagekalde deres adgang. Forskellen er hastighed. Agenter handler i millisekunder, så disse mekanismer må være øjeblikkelige og automatiserede, ikke først i slutningen af en arbejdsgang for håndtering af sikkerhedshændelser.

Hos Syntax har vores Global Security Operations Center udviklet sig, så AI styrker den menneskelige analytikers kapacitet, mens vores medarbejdere bygger agenter og agentbaserede arbejdsgange inden for Syntax GenAI-platformen, som allerede indeholder værn mod bias og toksicitet samt standardkontroller for databeskyttelse og datasikkerhed.

Dette er omdefineringen. Forsvar AI som et mål. Udrul AI som en forsvarer. Styr brugen af AI.

Der er ofte spænding mellem hastighed og kontrol. Hvordan kan organisationer fastholde innovationshastigheden, mens de samtidig implementerer meningsfuldt tilsyn og guardrails for AI-systemer?

Hastighed og kontrol ser ud til at være modsætninger, indtil du bygger styring, der rejser med projektet i stedet for at blokere det. Fejlen er at placere styring ved porten: en komité, en godkendelse, en kvartalsvis gennemgang. Når porten åbner, er teamet enten gået udenom, eller også har det mistet fremdriften. Modellen, der virker, er processer gendefineret med styring indbygget. Klar og konsekvent kommunikation er startpunktet, efterfulgt af forudgodkendte mønstre, forhåndsgodkendte datastrømme og foruddefinerede tilladelsesskabeloner. Teamene får hastighed, sikkerhedsteams får synlighed, og det kompromis, alle antager eksisterer, viser sig at være en dårligt udformet proces. Dette handler om at balancere sikkerhed med innovation i forhold til hver organisations risikovillighed.

Du har arbejdet med storstilede strategier for cyberrobusthed og incidentrespons. Hvordan ændrer introduktionen af AI naturen af cybertrusler og måden, organisationer bør forberede sig på dem?

AI turbo-lader truslerne på tværs af forskellige vektorer. Skala: phishing og rekognoscering i maskinehastighed mod tusinder af mål samtidig. Raffinement: deepfake-drevet social engineering, der besejrer stemme- og videoverifikation. Identitet: syntetiske identiteter, der passerer identitetskontroller designet for mennesker.

For incidentrespons er implikationerne operationelle. Du har brug for detektion, der ikke afhænger af, at mennesker genkender mønstre i menneskehastighed. Du har brug for verifikationsprotokoller, der antager, at stemme og video kan være falske. Og du har brug for beredskabsplaner for håndtering af sikkerhedshændelser, der eksplicit dækker AI-relaterede sikkerhedshændelser, fordi genopretningstrinnene ikke er de samme som ved en ransomware-begivenhed.

Hvordan ser AI med indbygget sikkerhed ud hos Syntax i et komplekst, virkeligt enterprise-miljø?

Hos Syntax betyder det at balancere innovation og sikkerhed gennem adoption af vores GenAI-platform med indbyggede guardrails, vores godkendte, begrænsede og forbudte GenAI-tjenester og -apps, modeller og platforme, og at drive en sikkerheds-først-kultur gennem vores AI-styringskontor. For vores Global Security-organisation betyder det at positionere os som en understøttende partner for forretningen, ikke en hindring, og at støtte forretningen i dens strategiske prioriteter, mens vi beskytter Syntax i overensstemmelse med vores risikotoleranceniveau.

Der er en voksende fortælling om, at sikkerhed og overholdelse ikke længere er blokerere, men drivere af vækst. Hvad skal ændre sig kulturelt og operationelt for, at organisationer virkelig kan tage denne mentalitet til sig?

Den største ændring er, hvordan succes defineres. Sikkerhedsteams er blevet målt i årtier på, hvad der ikke skete: ingen datakrænkelser, ingen sikkerhedshændelser, ingen revisionsfund. Denne metrik belønner at sige nej. Teams, der opererer som drivere, måler noget andet: handler, der blev vundet, fordi kontroller var demonstrerbare, lanceringer, der ramte deres dato, fordi sikkerhed ryddede vejen, og innovationer, der kom gennem styringsprocesserne i stedet for at omgå dem.

Operationelt kræver det processer gendefineret med styring indbygget, kombineret med aktiv aktivering som vores GenAI-platform, der gør den sikre vej til den letteste, og tilgængelig undervisning og programmer om generativ AI, som vores AI-champions-initiativ.

Kultur følger, hvad du incentiviserer og hvad du aktiverer. Ændr hvad du belønner, udstyr folk med de rigtige værktøjer og den rigtige træning på det rigtige tidspunkt, og du ændrer, hvad de gør. Dette er rejsen, Syntax er på.

Når AI stadig mere indlejres i enterprise-arbejdsgange, hvordan bør CISO’er samarbejde med AI-ledere, dataforskere og produktteams for at sikre ansvarlighed uden at bremse fremdriften?

CISO’en, der venter på at blive inviteret, kommer til at være forsinket. CISO’en, der viser sig tidligt med praktiske mønstre i stedet for indvendinger baseret på politikker, bliver den partner, som AI-projekter virkelig ønsker at have ved bordet. I praksis betyder det fælles design-sessioner med AI-teams, sikkerheds-godkendelser, der gennemføres sideløbende med de funktionelle godkendelser i stedet for efter dem, og en åben dør-politik. Dette ændrer samtalen fra at være “Departementet for Nej” til “Ja, men” eller “Nej, men” som en villig og samarbejdende partner for forretningsudviklingen.

Når du ser fremad, tror du, vi vil se en standardiseret global ramme for AI-styring, eller skal organisationer bygge deres egne interne tillidsarkitekturer uanset regulering?

Begge dele, i den rækkefølge. Vi vil se fasede konvergenser på et lille antal regionale rammer, EU’s AI-akt først, andre følger med lokale variationer. Vi vil ikke se en global standard i dette årti på grund af geopolitisk fragmentering. Så organisationer vil ende med at gøre to ting samtidig: overholde den ramme, der gælder for deres største marked, og køre en intern tillidsarkitektur, der går længere end den svageste ramme. Den interne arkitektur betyder mere end den eksterne standard, fordi tilsynsmyndigheder bevæger sig langsomt, mens trusler ikke gør. De virksomheder, der bygger interne tillidsarkitekturer nu, vil bruge det næste årti på at sige “vi gør allerede det” til hver ny regulator, der ankommer.

Tak for det gode interview. Læsere, der ønsker at lære mere, skal besøge Syntax.

Antoine er en visionær leder og stiftende partner i Unite.AI, drevet af en urokkelig passion for at forme og fremme fremtiden for AI og robotteknologi. Som serieiværksætter mener han, at AI vil forandre samfundet lige så grundlæggende som elektriciteten, og han taler ofte begejstret om potentialet i banebrydende teknologier og kunstig generel intelligens (AGI).

Som fremtidsforsker er han optaget af at undersøge, hvordan disse innovationer vil forme vores verden. Han er desuden grundlægger af Securities.io, en platform med fokus på investering i avancerede teknologier, der omdefinerer fremtiden og omformer hele brancher.