Lideri de opinie

Da, Regulamentul UE privind IA acoperă IA agentică — iată cum

Dr. Ley Muller Gyda Grodås Christiansen
Adaugă Unite.AI la sursele tale preferate pe Google
Puncte cheieAI agentică se încadrează deja în Actul UE privind IA, deoarece îndeplinește definiția…
Vezi mai mult
  • AI agentică se încadrează deja în Actul UE privind IA, deoarece îndeplinește definiția unui sistem de IA.
  • Actul privind IA reglementează ceea ce face tehnologia și riscurile pe care le creează, mai degrabă decât să numească tehnologii specifice.
  • Giganții tech care fac lobby împotriva Actului privind IA susțin autoreglementarea, ceea ce echivalează cu capturarea reglementării.

În prezent, circulă insistent ideea că IA agentică și agenții IA se află într-un vid de reglementare — că Regulamentul UE privind IA nu este adecvat pentru a le reglementa. Am întâlnit această idee în publicații norvegiene de încredere (Morgenbladet și Dagensnæringsliv) și am văzut-o reluată de cercetători de prestigiu (Universitatea din Oslo). Considerăm că aceste afirmații au două probleme fundamentale… și credem că se bazează pe temeri, nu pe fapte.

În primul rând, IA agentică este reglementată de Regulamentul UE privind IA.

În al doilea rând, astfel de afirmații subminează reglementările existente. Ele întăresc ideea că firmele de IA sunt mai bine poziționate pentru a gestiona riscurile asociate propriilor sisteme — un argument des întâlnit, care duce la capturarea reglementării.

Lucrăm îndeaproape cu Regulamentul privind IA, în calitate de membri numiți în comitetul național pentru IA al Standards Norway. Facem parte și din comitetele europene care elaborează standarde armonizate pentru furnizorii de sisteme de IA cu grad ridicat de risc; aceste standarde ajută companiile să îndeplinească cerințele legale ale Regulamentului privind IA.

IA agentică este reglementată în mai multe moduri de Regulamentul UE privind IA

Comisia Europeană a publicat mai multe întrebări frecvente, redactate într-un limbaj clar și ușor de înțeles, despre „agenți” și „IA agentică” și a clarificat că da, acestea intră în domeniul de aplicare al regulamentului, pur și simplu pentru că se încadrează în definiția mai largă a unui sistem de IA (Cum sunt abordați agenții IA în cadrul Regulamentului privind IA? | AI Act Service Desk). Iată câteva exemple suplimentare:

  • IA agentică se bazează adesea pe modele lingvistice mari, care sunt reglementate ca modele de IA de uz general.
  • Atunci când un sistem de IA agentică interacționează cu oameni, se aplică și cerințele de transparență prevăzute de regulament.
  • Dacă un model de IA este clasificat ca prezentând un risc sistemic, furnizorului i se aplică cerințe suplimentare. Printre altele, acestea includ evaluarea capabilităților modelului — inclusiv a funcțiilor sale autonome și agentice.

Regulamentul privind IA nu menționează cuvântul „agent”, deoarece nu reglementează tipuri specifice de tehnologie. În schimb, reglementează scopul pentru care este concepută tehnologia și riscurile asociate funcțiilor respective.

Regulamentul privind IA urmărește să ne protejeze drepturile fundamentale

O mare parte din criticile aduse Regulamentului privind IA de către cei care doresc mai multă reglementare pornesc de la imposibilitatea structurală de a elimina toate riscurile. Însă ar fi fost imposibil ca un cadru internațional de reglementare să anticipeze fiecare risc viitor.

În schimb, Regulamentul privind IA se concentrează asupra riscurilor generate de sistemele de IA care ar putea afecta sănătatea, siguranța și drepturile fundamentale — un aspect menționat chiar în prima propoziție a primului articol.

Un aspect la fel de esențial, pe care nu l-am evidențiat în această primă propoziție, este că Regulamentul privind IA este orientat spre piață. Acesta trebuie să încurajeze utilizarea IA. Trebuie să sprijine inovarea. Cu alte cuvinte, Regulamentul privind IA susține IA. În acest context, anumite utilizări și domenii sunt reglementate.

Anumite domenii sunt clasificate din start ca prezentând un risc ridicat

Câteva exemple de sisteme de IA utilizate în:

  • recrutare
  • alocarea serviciilor esențiale
  • dispozitive medicale
  • sisteme integrate în infrastructuri critice, unde siguranța este esențială.

Furnizorii de sisteme de IA — agentice sau nu — care ar putea afecta drepturile noastre au obligația de a institui sisteme cuprinzătoare de gestionare a riscurilor, inclusiv de a evalua modul în care utilizatorii ar putea utiliza în mod abuziv sistemul de IA.

Capturarea reglementării: când furnizorii propun autoreglementarea

Dacă îi ascultăm pe Anthropic, OpenAI și Meta, precum și anumite voci din dezbaterea din Norvegia, am putea avea impresia că IA și IA agentică sunt prea complexe pentru Regulamentul privind IA. Prea avansate pentru UE. Prea periculoase pentru a fi reglementate de oricine altcineva în afară de companiile înseși.

Ar trebui să fim prudenți când cele mai puternice companii de tehnologie din lume — care au făcut lobby intens pentru o aplicare mai puțin strictă a Regulamentului privind IA — susțin acum că regulamentul nu este adecvat pentru a le reglementa cele mai puternice sisteme. Soluția pe care o propun este să se „reglementeze” singure.

Acesta este un mecanism clasic de capturare a reglementării, un proces prin care legile și reglementările sunt modelate treptat chiar de entitățile pe care ar trebui să le reglementeze, în propriul beneficiu.

Statele Unite oferă un exemplu clar în acest sens (Inaugurarea erei superinteligenței – The White House). Acordul Casei Albe privind superinteligența este un „pact voluntar” încheiat cu liderii X, Meta, Anthropic, OpenAI și Google, prin care aceste companii promit să se autoreglementeze. Documentul menționează că legile ar putea fi o soluție potrivită, într-un moment ipotetic din viitor: „În timp, ar putea avea sens să consfințim aceste măsuri în legi sau reglementări.” În timp. Poate. Ar putea fi rezonabil să luăm în considerare reglementările.

Deocamdată, însă, se așteaptă ca americanii să aibă încredere că aceste mari companii de tehnologie se vor autoreglementa.

Spre deosebire de Statele Unite, Europa are o lege obligatorie: AI Act.

Și totuși, capturarea reglementării rămâne un risc, inclusiv prin erodarea încrederii în această lege. Pentru că, dacă giganții din domeniul tehnologiei îi pot convinge pe oameni că AI Act nu este suficient de bun, nu îi vom mai susține aplicarea. Afirmațiile potrivit cărora IA agentică ar fi pur și simplu prea avansată/inteligentă/periculoasă pentru a fi gestionată de AI Act sunt argumente care ne slăbesc sprijinul pentru reglementare.

Odată ce capturarea reglementării se instalează, este dificil să fie inversată.

Împărtășim îngrijorarea că unele sisteme de IA ar putea duce la consecințe greu de prevăzut. Tocmai de aceea avem nevoie de proceduri de gestionare a riscurilor — așa cum prevede și AI Act. (Dr. Muller face parte din comitetul care este pe punctul de a finaliza elaborarea standardului armonizat pentru gestionarea riscurilor, 18228.)

AI Act al UE nu este perfect și, probabil, va trebui dezvoltat în continuare. Totuși, prezentarea IA agentice ca domeniu aflat în afara sferei de aplicare a AI Act al UE nu face decât să sporească incertitudinea, nu siguranța.

Dr. Ley Muller este specializată în guvernanța etică a IA. Face parte din comitete de standardizare a IA și conduce, de asemenea, o companie de consultanță în guvernanța IA, Values-driven AI. Jumătate din timp ajută furnizorii europeni de IA să îndeplinească cerințele Regulamentului privind IA; în cealaltă jumătate, ajută organizațiile publice mari să gestioneze utilizarea IA din umbră și să obțină o aliniere mai amplă a părților interesate în privința strategiilor de IA.

Gyda Grodås Christiansen este consilier principal în domeniul sănătății digitale, al informaticii medicale și al guvernanței inteligenței artificiale. Contribuie la standardizarea internațională prin Comitetul Tehnic Comun 21 al CEN/CENELEC și Standard Norway. Activitatea sa se concentrează pe interoperabilitate, date medicale și adoptarea responsabilă a inteligenței artificiale în domeniul sănătății.