Jacob Ideskog, CTO de Curity – Seria de interviuri

Jacob Ideskog este specialist în identitate și CTO la Curity. Cea mai mare parte a timpului său este dedicată lucrului cu soluții de securitate în spațiul API și Web. El a lucrat atât la proiectarea, cât și la implementarea soluțiilor OAuth și OpenID Connect pentru implementări de întreprindere mari, precum și pentru startup-uri mici.

Curity este o platformă modernă de gestionare a identității și accesului (IAM) construită în jurul serverului de identitate Curity, o soluție bazată pe standarde, proiectată pentru a securiza autentificarea și autorizarea pentru aplicații, API-uri și servicii digitale la scară largă. Ea susține protocoale precum OAuth 2.0 și OpenID Connect pentru a centraliza fluxurile de conectare, a impune politici de acces fine și a emite tokenuri securizate atât pentru utilizatori umani, cât și pentru clienți mașini, inclusiv API-uri și servicii. Platforma este proiectată pentru flexibilitate și scalabilitate, permițând organizațiilor să o implementeze în medii cloud, hibride sau on-prem, să se integreze cu sisteme existente și să ofere experiențe de utilizator securizate și fără întrerupere, fără a se baza pe infrastructură de securitate personalizată.

Ați petrecut o mare parte a carierei dvs. construind sisteme de identitate și securitate API, de la co-fondarea Curity până la conducerea acesteia ca CTO, prin ascensiunea cloud-ului și acum a inteligenței artificiale. Cum v-a modelat această călătorie perspectiva asupra faptului că agenții de inteligență artificială ar trebui tratați ca identități digitale de primă clasă, și nu doar ca o altă bucată de software?

În fiecare domeniu al tehnologiei în care am lucrat, o problemă reapare constant. Indiferent dacă este vorba de calculul în cloud sau de inteligență artificială, dacă un software acționează în numele unei persoane sau al unui alt sistem, aveți o problemă de identitate.

Prin adoptarea în masă a inteligenței artificiale agenților, această problemă se amplifică. Comportamentul lor nu mai este strict programat și operează cu un nivel de autonomie pe care întreprinderile nu l-au mai văzut până acum. Agenții de inteligență artificială iau decizii, apelează API-uri și lansează acțiuni în lanț peste sisteme, adesea fără supraveghere umană directă. Acest comportament creează provocări de identitate și acces care sunt fundamental diferite de cele ale software-ului tradițional.

Tratarea agenților de inteligență artificială ca identități digitale de primă clasă este singura modalitate de a aborda această problemă în mod corespunzător. Dacă organizațiile îi tratează doar ca pe o altă procedură sau cont de serviciu, pierd vizibilitatea și controlul foarte repede – și acesta este un rețetă pentru o criză de securitate.”

Multe întreprinderi sunt entuziasmate de inteligența artificială agențială, dar rămân blocate în experimentare. Din ceea ce observați în implementări reale, care sunt cele mai comune lacune de identitate și guvernanță care împiedică organizațiile să scaleze agenți în siguranță?

Cea mai mare parte a experimentării are loc în cutii de nisip izolate care ignoră ceea ce se întâmplă la scară. În timpul piloților inițiali, echipele acordă adesea agenților chei API ample, credențiale partajate sau permisiuni cloud generale, doar pentru a demara lucrurile.

Acest abordare se prăbușește în momentul în care agenții sunt implementați dincolo de piloți. Acest lucru se datorează faptului că echipele de securitate nu pot vedea ce date a accesat un agent, acțiunile sale sau dacă a depășit sau nu scopul său intenționat; fie accidental, fie cu rea-voință. Aceste puncte oarbe fac imposibilă guvernarea agenților în siguranță, ceea ce face ca multe organizații să aibă dificultăți în a trece dincolo de piloți.”

Ați argumentat că gardurile stricte sunt esențiale pentru inteligența artificială agențială. Ce arată un “bun” design de identitate pentru agenții de inteligență artificială în practică și unde companiile greșesc de obicei?

Un bun design de identitate începe cu principiul privilegiului minim și permisiunilor legate de intenția explicită. Fiecare agent de inteligență artificială ar trebui să aibă propria identitate, permisiuni înguste și relații de încredere clar definite (reguli explicite pentru sistemele cu care este permis să interacționeze). Fundamental, accesul ar trebui să fie legat de scop, limitat în timp și ușor de revocat.

Companiile greșesc aici prin reutilizarea conturilor de serviciu existente sau prin presupunerea că agenții interni sunt siguri din start. Această presupunere nu se susține împotriva amenințărilor din lumea reală. Actorii maliciosi caută activ aceste puncte slabe, iar agenții de inteligență artificială măresc dramatic raza de acțiune atunci când designul identității este neglijent.”

Curity a lucrat de mult timp cu standarde precum OAuth și OpenID Connect. Cât de critice sunt standardele de identitate deschise pentru a face inteligența artificială agențială interoperabilă și securizată în medii complexe de întreprindere?

Standardele deschise sunt absolut critice. Întreprinderile rulează deja țesături de identitate complexe care cuprind platforme cloud, servicii SaaS și API-uri interne. Inteligența artificială agențială adaugă și mai multă complexitate.

Fără standarde, fiecare agent devine o integrare proprie și o excepție permanentă de securitate. Cu standarde precum OAuth și OpenID Connect, agenții pot fi autentificați, autorizați și auditați la fel ca orice altă sarcină de lucru. Acesta este singurul mod care poate facilita securizarea la scară în medii reale de întreprindere.”

Identitățile non-umane devin tot mai comune, de la conturi de serviciu la identități de mașini. Ce face agenții de inteligență artificială fundamental diferiți de identitățile non-umane anterioare din perspectiva securității?

Principala diferență între agenții de inteligență artificială moderni și identitățile non-umane (NHIs) anterioare este autonomia. Un cont de serviciu tradițional face exact ceea ce îi spune codul, legat strict de sarcina sa. Un agent de inteligență artificială interpretează instrucțiuni, adaptează comportamentul și ia acțiuni care nu au fost niciodată programate explicit – ceea ce crește pericolul potențial dacă nu există garduri adecvate.

O mică eroare de identitate sau acces poate deveni rapid o catastrofă, deoarece un agent poate acționa cu viteză și peste multiple sisteme. Din perspectiva securității, acesta prezintă un risc major.

Cât de importante sunt urmele de audit și înregistrările bazate pe identitate pentru guvernarea inteligenței artificiale agențiale, mai ales în industrii reglementate?

Urmele de audit nu ar trebui să fie “plăcute de avut”. Ele trebuie să fie integrate din start. În medii reglementate, organizațiile sunt așteptate să răspundă la întrebări simple, dar critice: ce a accesat acest agent, când s-a întâmplat și cine a autorizat?

Înregistrările bazate pe identitate sunt singurul mod fiabil de a obține acest nivel de responsabilitate. Ele joacă, de asemenea, un rol cheie în răspunsul la incidente. Fără contextul clar de identitate, este aproape imposibil de știut dacă o problemă a provenit de la un agent defect, o identitate compromisă sau pur și simplu o comandă proastă.

Ce riscuri reale vedeți apărând atunci când organizațiile implementează agenți de inteligență artificială supra-privilegiați sau slab monitorizați în producție?

Un risc comun este agregarea silențioasă a datelor. Un agent supra-privilegiat poate extrage informații sensibile din multiple sisteme (înregistrări ale clienților, documente interne, jurnale) și apoi expune aceste date prin comenzi, rezumate sau integrări externe.

Un alt risc este reprezentat de agenții cu acces administrativ care fac modificări majore la viteza mașinilor, provocând daune mult mai mari decât ar putea face un om într-un scurt interval de timp. Acest lucru poate include modificarea resurselor cloud, dezactivarea controalelor de securitate sau declanșarea unor fluxuri de lucru automate fără supraveghere.

Aceste incidente pot fi malefice, dar nu trebuie să fie. Un agent supra-privilegiat sau slab monitorizat poate pur și simplu opera pe baza unor ipoteze învechite sau incorecte, amplificând greșeli peste multiple sisteme înainte de a fi observat.

Însă, din perspectiva unui atacator, o identitate de agent compromisă este extrem de valoroasă. Ea permite mișcarea laterală peste API-uri și servicii, adesea cu un nivel de acces pe care niciun utilizator uman nu l-ar primi vreodată. Fără controale de identitate puternice și monitorizare, organizațiile descoperă adesea aceste eșecuri abia după ce au fost cauzate daune reale.”

Pentru companiile care trec de la piloți la implementări reale de agenți, ce decizii de identitate și acces ar trebui luate devreme pentru a evita redesign-uri costisitoare mai târziu?

Organizațiile ar trebui să decidă devreme cum sunt emise identitățile agenților, cum sunt aprobate permisiunile și cum este revizuit accesul în timp, definind limitele de identitate din start.

Introducerea controalelor de identitate în mod retroactiv este aproape întotdeauna problematică. Agenții sunt adesea încorporați profund în fluxurile de lucru, utilizând credențiale partajate sau roluri ample, astfel încât restrângerea accesului ulterioară rupe aceste presupuneri pe care se bazează sistemul. Acest lucru duce, în cele din urmă, la eșecul fluxurilor de lucru și subminează încrederea în tehnologie. Este mult mai ieftin, dar și mai sigur, să proiectați identități, scopuri și limite de acces corespunzătoare de la început.

Unde devine integrarea identității cel mai adesea un blocaj atunci când se implementează inteligența artificială agențială, și care sunt cele mai bune practici pentru a reduce fricțiunea?

Managementul identității poate deveni un blocaj, dar doar atunci când este tratat ca o gândire ulterioară. Echipele se concentrează mai întâi pe construirea de capacități impresionante de agent și abia ulterioară realizează că trebuie integrate cu sistemele IAM, porțile API și platformele de înregistrare pentru a fi cu adevărat securizate.

Cea mai bună abordare este să începeți cu o înțelegere clară și o implementare corespunzătoare a platformelor de identitate și apoi să proiectați agenții pentru a se potrivi în ele. Organizațiile ar trebui să reutilizeze standarde și infrastructură existente, în loc să le ocolească; tăierea acestui colț va cauza inevitabil probleme pe termen lung. Atunci când identitatea este construită din start, accelerează implementarea în loc să o încetinească.

Pentru liderii de securitate și ingineri care doresc să adopte inteligența artificială agențială, dar sunt îngrijorați de guvernanță și risc, ce sfat ați da în timp ce planifică drumul lor?

Încetiniți-vă doar suficient de mult pentru a pune bazele corecte. Agenții de inteligență artificială trebuie tratați ca identități și, prin urmare, trebuie să aplicați aceeași guvernanță pe care o așteptați de la oameni și să insistați pe vizibilitate de la început. Dacă o organizație face acest lucru, atunci scalarea inteligenței artificiale agențiale devine o chestiune de securitate, nu o săritură orbește și riscantă în necunoscut.

Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe despre subiect ar trebui să viziteze Curity.