RevEng.AI atrage 15 milioane de dolari în seria A pentru a verifica securitatea și integritatea software-ului generat de IA

Pe măsură ce codul generat de IA devine tot mai integrat în sistemele guvernamentale și ale întreprinderilor, startup-urile de securitate cibernetică se grăbesc să rezolve o problemă de încredere în creștere: cum pot organizațiile să verifice ce rulează în realitate în software-ul pe care îl implementează. RevEng.AI a anunțat un tur de finanțare Seria A de 15 milioane de dolari, condus de Fondul de inovare al NATO, cu participarea Sands Capital, In-Q-Tel, IQ Capital și Episode One. Compania afirmă că finanțarea va ajuta la extinderea platformei sale proiectate pentru a analiza amenințările ascunse, funcționalitățile maligne și riscurile lanțului de aprovizionare cu software din binarele compilate.

Compania cu sediul în Londra se concentrează pe o provocare în creștere în securitatea cibernetică: incapacitatea organizațiilor de a inspecta pe deplin software-ul odată ce a fost compilat în formă executabilă. Instrumentele tradiționale de securitate a aplicațiilor se concentrează în mare măsură pe analiza codului sursă, depozite și metadate ale pachetelor. Dar binarele compilate care rulează în realitate pe sisteme rămân adesea opace, în special atunci când se ocupă de software de la terți, firmware sau aplicații cu sursă închisă.

Crescândul risc al codului generat de IA

Industria software este în plină transformare, pe măsură ce asistenții de codare IA evoluează în agenți de codare autonomi, capabili să genereze și să implementeze volume mari de software cu supraveghere umană minimă. Deși acest schimb accelerează ciclurile de dezvoltare, creează și noi puncte oarbe de securitate.

RevEng.AI susține că organizațiile intră într-o eră în care o parte semnificativă a software-ului livrat poate să nu fie niciodată revizuită pe deplin de un om. Acest lucru ridică îngrijorări cu privire la vulnerabilități ascunse, funcționalități maligne încorporate și comportamente neintenționate care pot rămâne invizibile în interiorul executabilelor compilate.

Această problemă devine deosebit de semnificativă în medii în care software-ul alimentează sisteme financiare, rețele de sănătate, rețele de energie, sisteme de transport, operațiuni de apărare. Un component de software compromis, îngropat într-o lanț de dependențe, poate afecta potențial milioane de utilizatori sau perturba infrastructura critică.

Atacurile asupra lanțului de aprovizionare cu software au devenit deja una dintre cele mai rapide amenințări cibernetice la nivel global. Incidente de mare profil din ultimii ani au demonstrat cum atacatorii pot pătrunde în actualizări de software de încredere sau biblioteci de la terți pentru a obține acces larg la sistemele întreprinderilor. RevEng.AI încearcă să abordeze această provocare prin mutarea eforturilor de verificare direct la nivelul binar.

Analizarea software-ului fără cod sursă

Unul dintre aspectele mai notabile ale tehnologiei RevEng.AI este acela că funcționează fără a necesita acces la codul sursă. În schimb, platforma lucrează direct cu binarele compilate, executabile, firmware și alte artefacte software machine-readable.

Acest abordare este importantă, deoarece multe organizații se bazează în mod regulat pe software dezvoltat extern de către furnizori, comunități open-source sau contractori. În multe cazuri, codul sursă original poate să nu fie accesibil, practic de inspectat sau disponibil deloc.

Platforma RevEng.AI utilizează un model de inteligență artificială fundamental numit BinNet, pe care compania afirmă că a fost instruit alături de unități cibernetice de elită din cadrul guvernelor aliate și echipelor comerciale de securitate. Sistemul este proiectat pentru a automatiza sarcinile de inginerie inversă tradițional gestionate de experți foarte specializați.

Prin examinarea directă a binarelor, platforma poate identifica, potrivit companiei, componente ascunse, schimbări de lansare suspecte, comportamente maligne, vulnerabilități și funcționalități neașteptate încorporate în artefactele software înainte de a fi implementate.

Compania afirmă că acest lucru reduce dramatic timpul și expertiza necesare pentru a inspecta integritatea software-ului manual, o zonă care a depins istoric de talentul rar de inginerie inversă.

De ce verificarea la nivel de binar este importantă

Multe dintre uneltele de securitate cibernetică de astăzi sunt încă centrate pe depozitele de cod sursă și dependențele de software declarate. Cu toate acestea, executabilul compilat care rulează în final pe o mașină poate diferi semnificativ de ceea ce organizațiile cred că implementează.

Această distincție devine din ce în ce mai importantă pe măsură ce sistemele IA încep să genereze software autonom. Echipele de dezvoltare pot să nu înțeleagă pe deplin fiecare dependență, modul generat sau comportament încorporat în aplicațiile asistate de IA.

Abordarea RevEng.AI tratează în mod eficient binarul compilat ca fiind sursa finală de adevăr. În loc de a se baza exclusiv pe declarații despre ce conține software-ul, platforma încearcă să inspecteze ce este prezent în realitate în executabilul care va rula pe sistemele de producție.

Conform companiei, platforma sa poate compara lansări de software noi cu versiuni de încredere, identifica abateri anormale între construcții și descoperi componente ascunse sau nedeclarate care ar fi putut fi introduse în timpul dezvoltării sau implementării.

Acest tip de verificare poate deveni deosebit de important pentru organizațiile care gestionează lanțuri complexe de aprovizionare cu software care includ furnizori de la terți, contractori, componente open-source și cod generat de IA.

Viitorul verificării software-ului

Ascensiunea sistemelor de codare autonome va redefini probabil modul în care organizațiile gândesc despre încrederea și securitatea software-ului în următorul deceniu. Pe măsură ce software-ul generat de IA devine mai comun, volumul de cod care intră în medii de producție poate eventual depăși ceea ce reviewerii umani pot inspecta realistic manual.

Acest schimb poate impinge verificarea la nivel de binar și ingineria inversă automată într-un rol mai central în operațiunile de securitate cibernetică ale întreprinderilor. În loc de a trata ingineria inversă ca o disciplină de nișă rezervată cercetătorilor de securitate de elită, organizațiile ar putea începe să integreze inspecția continuă a binarelor direct în fluxurile de lucru de procurare, implementare și actualizare a software-ului.

Implicațiile se extind dincolo de securitatea cibernetică tradițională. Industrii precum sănătatea, finanțele, energia, transportul, producția și apărarea depind din ce în ce mai mult de ecosisteme de software interconectate în care vulnerabilitățile ascunse sau funcționalitățile maligne pot avea consecințe operaționale în cascadă.

În același timp, adoptarea rapidă a agenților de codare IA poate crea presiune pentru forme complet noi de responsabilitate a software-ului. Organizațiile ar putea să necesite în cele din urmă straturi de verificare independente capabile să valideze faptul că software-ul implementat se comportă așa cum se așteaptă, indiferent de modul în care sau unde a fost generat codul.

Pe măsură ce dezvoltarea software-ului devine din ce în ce mai automatizată, tehnologiile axate pe inspectarea binarelor compilate, mai degrabă decât pe analiza exclusivă a codului sursă, ar putea deveni o parte importantă a modului în care întreprinderile asigură următoarea generație de infrastructură condusă de IA.