Lideri de opinie

Vor rezolva modelele LLM și inteligența artificială generativă o problemă veche de 20 de ani în securitatea aplicațiilor?

Neatsun Ziv
Adaugă Unite.AI la sursele tale preferate pe Google
Puncte cheieInteligenta artificială generativă poate automatiza detectarea vulnerabilităților prin…
Vezi mai mult
  • Inteligenta artificială generativă poate automatiza detectarea vulnerabilităților prin învățarea din repertorii vaste de cod, precum GitHub.
  • Modelele lingvistice de mari dimensiuni pot genera scenarii realiste de atac, cum ar fi testarea dinamică de securitate BurpGPT.
  • Generarea de patch-uri bazată pe IA, combinată cu testarea automată, ar putea depăși rezistența tradițională din industrie.

În peisajul în continuă evoluție al securității cibernetice, menținerea unui pas înaintea actorilor rău-intenționați este o provocare constantă. În ultimele două decenii, problema securității aplicațiilor a persistat, iar metodele tradiționale au dat adesea greș în detectarea și atenuarea amenințărilor emergente. Cu toate acestea, o tehnologie promițătoare și nouă, Inteligența Artificială Generativă (GenAI), este pe cale să revoluționeze domeniul. În acest articol, vom explora modul în care Inteligența Artificială Generativă este relevantă pentru securitate, de ce abordează provocări de lungă durată pe care abordările anterioare nu le-au putut rezolva, perturbările potențiale pe care le poate aduce în ecosistemul securității și cum se diferențiază de modelele mai vechi de Învățare Automată (ML).

De ce problema necesită o tehnologie nouă

Problema securității aplicațiilor are multiple fațete și este complexă. Măsurile de securitate tradiționale s-au bazat în principal pe potrivirea tiparelor, detectarea bazată pe semnătură și abordări bazate pe reguli. Deși eficiente în cazuri simple, aceste metode întâmpină dificultăți în a gestiona modalitățile creative în care dezvoltatorii scriu cod și configurează sisteme. Adversarii moderni își perfecționează constant tehnicile de atac, extind suprafața de atac și fac potrivirea tiparelor insuficientă pentru a se proteja împotriva riscurilor emergente. Acest lucru necesită o schimbare de paradigmă în abordările de securitate, iar Inteligența Artificială Generativă deține o cheie posibilă pentru a aborda aceste provocări.

Magia LLM în securitate

Inteligența Artificială Generativă este o evoluție a modelelor mai vechi utilizate în algoritmi de învățare automată care erau excelente la clasificarea sau gruparea datelor pe baza învățării din exemple sintetice. Modelele LLM moderne sunt antrenate pe milioane de exemple din depozite de cod mari (de exemplu, GitHub) care sunt parțial etichetate pentru probleme de securitate. Prin învățarea din cantități mari de date, modelele LLM moderne pot înțelege tiparele, structurile și relațiile subiacente din codul aplicației și mediu, permițându-le să identifice vulnerabilități potențiale și să prevadă vectori de atac dacă primesc intrările și pregătirea contextuală corespunzătoare.

O altă evoluție remarcabilă este capacitatea de a genera mostre realiste de corectare care pot ajuta dezvoltatorii să înțeleagă cauza de bază și să rezolve problemele mai rapid, în special în organizații complexe în care profesioniștii în securitate sunt izolați și suprasolicitați.

Perturbările care vin, permise de GenAI

Inteligența Artificială Generativă are potențialul de a perturba ecosistemul securității aplicațiilor în mai multe moduri:

Detectarea automată a vulnerabilităților: Uneltele tradiționale de scanare a vulnerabilităților se bazează adesea pe definirea manuală a regulilor sau pe potrivirea limitată a tiparelor. Inteligența Artificială Generativă poate automatiza procesul prin învățarea din depozite de cod extinse și generarea de mostre sintetice pentru a identifica vulnerabilități, reducând timpul și efortul necesar pentru analiza manuală.

Simularea atacurilor adversariale: Testarea securității implică de obicei simularea atacurilor pentru a identifica punctele slabe ale unei aplicații. Inteligența Artificială Generativă poate genera scenarii de atac realiste, inclusiv atacuri complexe și multietapă, permițând organizațiilor să-și consolideze apărarea împotriva amenințărilor din lumea reală. Un exemplu excelent este “BurpGPT”, o combinație a GPT și Burp, care ajută la detectarea problemelor de securitate dinamice.

Generarea inteligentă a corecturilor: Generarea de corecturi eficiente pentru vulnerabilități este o sarcină complexă. Inteligența Artificială Generativă poate analiza baze de cod existente și genera corecturi care abordează vulnerabilități specifice, economisind timp și minimizând erorile umane în procesul de dezvoltare a corecturilor.

Deși acest tip de corecturi a fost respins în mod tradițional de industrie, combinația de corecturi automate de cod și capacitatea de a genera teste prin GenAI ar putea fi o modalitate excelentă pentru industrie de a depăși limitele actuale.

Informații despre amenințări îmbunătățite: Inteligența Artificială Generativă poate analiza volume mari de date legate de securitate, inclusiv rapoarte de vulnerabilități, tipare de atac și mostre de malware. GenAI poate îmbunătăți semnificativ capacitățile de informații despre amenințări prin generarea de insight-uri și identificarea tendințelor emergente de la o indicație inițială la un plan de acțiune real, permițând strategii de apărare proactivă.

Viitorul LLM și securitatea aplicațiilor

LLM-urile încă au lacune în atingerea securității aplicațiilor perfecte din cauza înțelegerii contextuale limitate, a acoperirii incomplete a codului, a lipsei de evaluare în timp real și a absenței cunoștințelor specifice domeniului. Pentru a aborda aceste lacune în următorii ani, o soluție probabilă va trebui să combine abordările LLM cu unelte de securitate dedicate, surse de îmbogățire externe și scanere. Îmbunătățirile continue în AI și securitate vor ajuta la acoperirea acestor lacune.

În general, dacă aveți un set de date mai mare, puteți crea un LLM mai precis. Acest lucru este valabil și pentru cod, astfel încât atunci când vom avea mai mult cod în același limbaj, vom putea să-l utilizăm pentru a crea LLM-uri mai bune, ceea ce va conduce la o mai bună generare de cod și securitate în viitor.

Ne așteptăm ca, în următorii ani, să asistăm la progrese în tehnologia LLM, inclusiv capacitatea de a utiliza dimensiuni de token mai mari, ceea ce are un potențial mare de a îmbunătăți în mod semnificativ securitatea cibernetică bazată pe IA.

Neatsun Ziv este CEO și co-fondator al OX Security, prima soluție de securitate a lanțului de aprovizionare cu software de la capăt la capăt pentru DevSecOps. Înainte de a fonda OX, el a fost vicepreședinte pentru securitate cibernetică la Check Point, unde a supervizat toate inițiativele de securitate cibernetică. Echipa sa a fost una dintre primele care au răspuns la atacurile SolarWinds, NotPetya și alte atacuri majore, lucrând în strânsă colaborare cu Interpol, CERT Local și alte agenții de aplicare a legii.