Regatul Unit anunță un pachet de măsuri privind riscurile IA și extinde proiectele-pilot de apărare cibernetică

Guvernul britanic a anunțat un pachet de măsuri la 12 octombrie 2026, pentru a proteja Regatul Unit de riscurile generate de inteligența artificială tot mai puternică. Printre măsuri se numără extinderea unui program de apărare cibernetică destinat IA de frontieră, despre care guvernul a spus că a contribuit deja la identificarea și remedierea a peste 1.000 de potențiale vulnerabilități în sistemele guvernamentale.

Anunțul a fost emis de Cabinet Office, AI Security Institute (AISI), National Cyber Security Centre (NCSC) și Department for Digital, Culture, Media and Sport. Ministrul pentru IA, Kanishka Narayan, a prezentat măsurile la Base One, incubatorul de știință și tehnologie al Imperial College London, susținând necesitatea unei abordări a rezilienței la nivelul întregii societăți. El a avertizat că, pe măsură ce sistemele de IA de frontieră devin mai puternice și capabile să acționeze autonom, consecințele potențiale ale unor defecțiuni sau ale utilizării rău intenționate ar putea deveni mult mai grave.

„Vreau ca Regatul Unit să devină una dintre țările cel mai greu de atacat din lume prin intermediul inteligenței artificiale”, a declarat Narayan. El s-a angajat să legifereze ori de câte ori va fi necesar și să se bazeze pe expertiza științifică, capacitatea tehnologică și instituțiile britanice pentru a înțelege sistemele tot mai puternice, a contracara amenințările emergente și a răspunde atunci când lucrurile nu merg bine. El a spus că firmele care construiesc cele mai puternice sisteme de IA din lume ar trebui să ia în serios avertismentele oamenilor lor de știință cu privire la pericolele grave, să investigheze comportamentele neașteptate și să nu pună la dispoziție niciun sistem ale cărui riscuri nu pot fi controlate în mod adecvat.

Potrivit anunțului, măsura se bazează pe două proiecte-pilot care au contribuit la identificarea și remedierea vulnerabilităților, precum și la detectarea potențialelor amenințări cibernetice. Guvernul a declarat că extinderea programului va contribui la protejarea serviciilor publice de care oamenii depind în fiecare zi, la reducerea riscurilor pe termen scurt și la susținerea adoptării pe termen mai lung în întregul sector public.

Modificări ale proiectului de lege privind securitatea cibernetică și pregătirea pentru incidentele de IA

Guvernul a declarat că va analiza posibilitatea de a consolida anumite prevederi ale proiectului de lege privind securitatea cibernetică și reziliența, precum și cadrul mai larg, astfel încât serviciile esențiale, precum spitalele și utilitățile, să fie mai bine protejate împotriva riscurilor emergente asociate IA, inclusiv a riscului ca sistemele de IA să scape de sub control, situație în care sistemele autonome eludează supravegherea umană. Guvernul va examina, de asemenea, cum ar trebui identificate și raportate incidentele grave de IA și situațiile evitate la limită, precum și cum pot fi trase rapid învățăminte pentru a reduce riscul unor prejudicii viitoare. Detaliile oricăror măsuri vor fi stabilite împreună cu parlamentarii, experții tehnici și operatorii care ar trebui să le pună în aplicare.

Se lucrează, de asemenea, împreună cu NCSC și AISI la modalitățile de răspuns la incidentele care implică agenți IA, sisteme capabile să îndeplinească sarcini complexe cu puțină supraveghere umană. Potrivit anunțului, un astfel de incident s-ar putea desfășura mai rapid și s-ar putea răspândi pe o arie mai largă decât alte incidente majore pentru gestionarea cărora sunt pregătite guvernele, iar abordarea acestei provocări va necesita noi competențe și capabilități.

Pachetul vizează și verificarea IA, un domeniu emergent care, potrivit anunțului, evaluează dacă afirmațiile despre modul în care au fost dezvoltate, testate și evaluate sistemele de IA rezistă unei examinări riguroase. Guvernul a declarat că Regatul Unit este bine poziționat pentru a juca un rol de lider în acest domeniu și că, în lunile următoare, vor fi prezentate mai multe detalii despre sprijinul acordat eforturilor britanice de verificare a IA.

Ministrul pentru securitate cibernetică, Liz Lloyd, a declarat că incidentele cibernetice continuă să perturbe activitatea organizațiilor mari și mici din sectorul privat și cel public, ceea ce creează, în opinia sa, o nevoie esențială pentru companii de a fi mereu cu un pas înainte în materie de securitate cibernetică. „Prin extinderea proiectelor-pilot care testează utilizarea IA pentru protejarea serviciilor publice și prin avansarea proiectului de lege privind securitatea cibernetică, menit să ne consolideze apărarea, guvernul plasează securitatea cibernetică și pregătirea pentru IA în centrul viitorului digital al Regatului Unit”, a declarat Lloyd.

Proiectul-pilot din spatele cifrelor privind vulnerabilitățile

Anunțul citează un studiu de caz publicat la 12 iunie 2026 de Department for Science, Innovation and Technology (DSIT) și NCSC, în sprijinul cifrelor prezentate. Studiul documentează un proiect-pilot în cadrul căruia Government Cyber Coordination Centre (GC3), un parteneriat între NCSC și DSIT, a organizat săptămânal maratoane de hacking cu participare fizică, în care s-a folosit IA de frontieră pentru a scana depozite publice de cod din întregul guvern. În colaborare cu specialiști de la AISI și NCSC, echipele au încercat să identifice și să reducă vulnerabilități necunoscute anterior, înainte ca acestea să poată fi exploatate. GC3 nu a impus o singură metodă; echipele au primit acces la modele și și-au creat propriile instrumente.

Studiul de caz descrie mai multe fluxuri de lucru. O echipă a trecut fiecare depozit public printr-un lanț de agenți IA în șase etape (triere, validare, auditare, urmărire, evaluare și rezumare), în care fiecare etapă citește rezultatul celei precedente și îl verifică critic, cu escaladare manuală: un membru al echipei verifica fiecare linie, confirma din nou expunerea și gestiona rezultatele fals pozitive. O altă echipă a folosit mai întâi instrumente convenționale de scanare, inclusiv Gitleaks, Trivy, Semgrep și Hadolint, apoi a adăugat trei etape bazate pe modele, care acopereau descoperirea, investigarea lanțurilor de atac și trierea. Un al treilea departament a condensat un audit la nivelul întregii organizații, desfășurat asupra a sute de servicii, în cinci Claude Skills specializate pe domenii.

Studiul de caz arată că participanții au identificat în total 407 de constatări, inclusiv vulnerabilități critice care expuneau serviciile la ocolirea autentificării, divulgarea datelor și executarea de cod de la distanță. Toate vulnerabilitățile critice au fost remediate și nu au fost identificate dovezi de exploatare pentru nicio constatare, cu un cost de 13.000 de lire sterline în tokenuri, în cele nouă organizații guvernamentale, pe parcursul lunii. Autorii au afirmat că modelele au urmărit vulnerabilitățile dincolo de limitele serviciilor, lucru pe care scanerele tradiționale nu îl pot face, și au corelat logica de business cu detaliile tehnice.

O constatare critică a vizat acțiuni GitHub învechite într-un depozit care susținea un serviciu digital guvernamental esențial. Un comentariu creat special pe o solicitare de modificare deschisă putea permite unui utilizator extern să declanșeze un lanț de fluxuri de lucru, ducând la executarea arbitrară de cod de la distanță pe runnerul GitHub Actions și creând o posibilă cale de extragere a secretelor și tokenurilor disponibile fluxului de lucru respectiv. GC3 va începe a doua etapă a proiectului-pilot, cu mai multe departamente, modele suplimentare și extinderea de la codul public la sistemele cu cod sursă închis.

Evaluarea modelelor și programul guvernamental extins

Narayan a confirmat că oamenii de știință de la AISI desfășoară evaluări riguroase ale celei mai recente generații de modele avansate de IA, în urma colaborării cu principalii dezvoltatori de IA și cu guvernul SUA.

Anunțul menționează și o scrisoare deschisă adresată liderilor de afaceri, publicată la 15 aprilie 2026, în care secretarul de stat al DSIT, Liz Kendall, și ministrul pentru securitate, Dan Jarvis, au îndemnat companiile să trateze cu seriozitate securitatea cibernetică la cel mai înalt nivel al organizațiilor lor, să se asigure că au pus la punct măsurile de bază prin schema Cyber Essentials a guvernului și să urmeze recomandările NCSC, inclusiv să se înscrie la serviciul gratuit Early Warning al acestuia, care avertizează organizațiile cu privire la potențiale atacuri cibernetice, astfel încât să poată acționa înainte ca un incident să se agraveze.

Potrivit anunțului, aceste măsuri sunt primii pași într-un demers de durată, iar eforturile mai ample sunt coordonate de Grupul operativ pentru IA al prim-ministrului. Anunțul a menționat angajamentul prim-ministrului, luat în septembrie la Adunarea Generală a ONU, de a face tot ce este necesar pentru a proteja populația britanică de riscurile IA pe măsură ce apar și a precizat că IA va fi în centrul Președinției G20 a Regatului Unit. În lunile următoare, grupul operativ se va concentra asupra domeniilor cel mai mult influențate de IA, de la securitatea națională și creșterea economică până la viitorul serviciilor publice și al forței de muncă.