Opinie

Inteligența artificială ajunge pe PC-urile noastre — dar cine controlează ce poate vedea?

Adlin Pertishya
Adaugă Unite.AI la sursele tale preferate pe Google
Puncte cheieProcesarea locală a IA nu garantează automat confidențialitatea sau securitatea pentru…
Vezi mai mult
  • Procesarea locală a IA nu garantează automat confidențialitatea sau securitatea pentru agenții de pe dispozitiv.
  • Agenții trebuie să funcționeze cu acces cu privilegii minime, limitat la ceea ce necesită fiecare flux de lucru specific.
  • Utilizatorii au nevoie de un control transparent și revocabil asupra a ceea ce agenții pot vedea și face.

Agenții de inteligență artificială încep să depășească limitele ferestrelor de chat și să pătrundă în sistemele de operare, aplicațiile și fișierele pe care oamenii le folosesc în fiecare zi.

Noile PC-uri cu Windows și software-ul lansat în ultimele luni inaugurează o nouă eră a fluxurilor de lucru autonome, în mai mulți pași, bazate pe inteligența artificială, atât pentru utilizatorii obișnuiți, cât și în mediile de afaceri. Această tranziție nu mai este doar o prognoză tehnologică.

PC-urile cu Windows echipate cu plăci grafice RTX de la NVIDIA permit rularea locală a agenților de inteligență artificială, iar Perplexity și-a extins capabilitățile de agent pentru computerele Windows compatibile, facilitând fluxuri de lucru care implică fișiere locale și aplicații conectate. Între timp, Microsoft dezvoltă măsuri de protecție pentru a controla modul în care agenții accesează resursele și acționează.

Însă o autonomie mai mare aduce cu sine riscuri de securitate mai mari. Pe 19 octombrie, Hayete Gallot, vicepreședinta executivă pentru securitate a Microsoft, a avertizat că organizațiile trebuie să facă mai mult pentru a proteja „agenții autonomi din interior”, menționând că agenții de inteligență artificială au adesea privilegii excesive și pot accesa date sensibile, instrumente și sisteme în timp ce iau decizii în cadrul unor procese critice.

Strategia de securitate a Microsoft pentru Windows se bazează pe izolarea agenților, permisiuni limitate și supraveghere limitată, iar îngrijorarea că o eroare a unui agent ar putea avea consecințe dincolo de un simplu răspuns greșit este tot mai mare. Agentul ar putea dezvălui informații sensibile, modifica fișiere critice sau provoca activități nedorite în aplicațiile de afaceri.

Inteligența artificială locală nu înseamnă automat inteligență artificială privată

Utilizarea agenților de inteligență artificială pe un PC poate contribui la reducerea cantității de date sensibile transferate către servicii bazate pe cloud, dar procesarea locală nu oferă o protecție completă.

Chiar și un model care rulează pe dispozitiv poate accesa prea multe fișiere, poate avea securitate deficitară sau poate fi conectat în mod nesigur la alte aplicații.

Problema nu ține întotdeauna de modelul de inteligență artificială; adesea, este vorba despre guvernanța organizațională, a declarat Bayron Quintero, director general și cofondator al iData Global, o companie specializată în soluții de inteligență artificială în cele două Americi.

Companiile pot acorda acces prea larg sau prea restrâns la date, aplicații și procese de afaceri, i-a declarat el publicației Unite AI. Agenților li se pot acorda drepturi care nu corespund sarcinilor pe care se așteaptă să le îndeplinească.

„Provocarea constă în a ne asigura că un agent respectă principiul privilegiului minim, având acces doar la datele, sistemele și acțiunile necesare pentru un anumit flux de lucru”, a declarat Quintero. Asta înseamnă acordarea accesului doar la datele, sistemele și acțiunile necesare pentru un flux de lucru specific.

El a identificat drept măsuri esențiale de protecție stabilirea clară a dreptului de proprietate asupra datelor, controalele de acces bazate pe roluri și monitorizarea continuă a interacțiunilor cu sistemele interne și ale terților.

Nu există inteligență artificială locală sigură, a subliniat Quintero.

Permisiunile excesive, criptarea slabă, monitorizarea insuficientă și integrările nesigure pot face ca un agent care rulează pe dispozitiv să fie la fel de riscant ca unul bazat pe cloud — sau chiar mai riscant.

Securitatea nu ține doar de locul în care rulează modelul unui sistem, ci și de modul în care acesta este configurat și administrat.

Noua limită ține de permisiuni

Pentru utilizatorul obișnuit, întrebarea este dacă accesul unui agent de inteligență artificială este potrivit pentru sarcina sa.

Un agent nu ar trebui să scaneze un întreg disc dacă i se cere doar să rezume un document. Un instrument de organizare a fotografiilor nu ar trebui să citească automat date financiare sau să poată trimite mesaje. Permisiunile trebuie să fie stricte, transparente și revocabile.

Modelul Microsoft bazat pe conturi de agent și spații de lucru reprezintă un pas către separarea activității unui agent de sesiunea unei persoane. Totuși, măsurile de protecție trebuie să fie eficiente și dincolo de demonstrație.

Recomandările Microsoft privind securitatea agenților în Windows prevăd autorizarea utilizatorului, jurnale de activitate și un mecanism prin care agenții să fie limitați la accesul de care au nevoie. Angajatorii și dezvoltatorii trebuie să monitorizeze reacția agenților la instrucțiunile înșelătoare din documente, site-uri web sau mesaje.

În timpul unei sarcini autorizate, agenții pot întâlni conținut care nu este de încredere. Dacă un agent interpretează un text ostil drept comandă, acest lucru poate crea o problemă majoră de securitate, deoarece informațiile sunt ușor accesibile.

Aprobarea umană și accesul bazat pe principiul privilegiului minim trebuie să fie însoțite de izolarea agenților atunci când aceștia efectuează acțiuni sensibile.

Comoditatea are nevoie de limite clare

PC-urile cu inteligență artificială nu vor fi evaluate doar în funcție de volumul de muncă pe care îl pot automatiza agenții, ci și în funcție de încrederea utilizatorilor de a-și partaja datele personale și profesionale.

Deși procesarea locală poate spori viteza și reduce expunerea anumitor date, inteligența artificială autonomă nu elimină nevoia de permisiuni și supraveghere.

Principiul ar trebui să fie simplu: agenții ar trebui să aibă acces doar la ceea ce este necesar pentru sarcina lor, iar utilizatorii ar trebui să poată înțelege, urmări și bloca ceea ce face un agent.

Pe măsură ce computerele devin tot mai capabile să acționeze în locul nostru, controlul nu trebuie lăsat pe plan secund. El trebuie integrat în proiectare.

Adlin Pertishya este reporter de tehnologie și afaceri care a lucrat pentru Finance Outlook India, Silicon India, StartupBeat și altele.