Opinione

L’IA arriva sui nostri PC, ma chi controlla ciò che può vedere?

Adlin Pertishya
Aggiungi Unite.AI alle tue fonti preferite su Google
Punti chiaveL'elaborazione AI locale non garantisce automaticamente la privacy o la sicurezza per…
Vedi di più
  • L'elaborazione AI locale non garantisce automaticamente la privacy o la sicurezza per gli agenti sul dispositivo.
  • Gli agenti devono operare con accesso con privilegi minimi, limitato a ciò che richiede ogni specifico flusso di lavoro.
  • Gli utenti necessitano di un controllo trasparente e revocabile su ciò che gli agenti possono vedere e fare.

Gli agenti IA stanno iniziando a uscire dalle finestre di chat per entrare nei sistemi operativi, nelle applicazioni e nei file che le persone usano ogni giorno.

I nuovi PC Windows e i software rilasciati negli ultimi mesi stanno inaugurando una nuova era di flussi di lavoro autonomi con più passaggi basati sull’IA, destinati sia agli utenti comuni sia agli ambienti aziendali. Questa transizione non è più soltanto una previsione tecnologica.

I PC Windows con RTX di NVIDIA supportano l’esecuzione locale di agenti IA, mentre Perplexity ha ampliato le funzionalità dei suoi agenti ai computer Windows compatibili, consentendo flussi di lavoro che coinvolgono file locali e applicazioni connesse. Nel frattempo, Microsoft sta sviluppando misure di protezione per controllare il modo in cui gli agenti accedono alle risorse e agiscono.

Ma a una maggiore autonomia corrispondono maggiori rischi per la sicurezza. Il 19 ottobre, Hayete Gallot, vicepresidente esecutiva della sicurezza di Microsoft, ha avvertito che le organizzazioni devono fare di più per proteggersi dagli «insider agentici», osservando che gli agenti IA dispongono spesso di privilegi eccessivi e possono accedere a dati sensibili, strumenti e sistemi mentre prendono decisioni nell’ambito di processi critici.

La strategia di sicurezza di Windows di Microsoft si basa sul contenimento, su autorizzazioni limitate e su una supervisione circoscritta, oltre che sulla crescente consapevolezza che un errore di un agente potrebbe avere conseguenze ben più gravi di una semplice risposta sbagliata. L’agente potrebbe rivelare informazioni sensibili, modificare file critici o eseguire attività indesiderate nelle applicazioni aziendali.

L’IA locale non è automaticamente un’IA privata

Usare agenti IA su un PC può contribuire a ridurre la quantità di dati sensibili trasferiti ai servizi basati sul cloud, ma l’elaborazione locale non garantisce una sicurezza assoluta.

Anche un modello eseguito sul dispositivo potrebbe avere accesso a troppi file, essere protetto in modo inadeguato o disporre di collegamenti non sicuri ad altre applicazioni.

«Il problema non è sempre il modello di IA; spesso è la governance organizzativa», ha dichiarato Bayron Quintero, CEO e cofondatore di iData Global, azienda specializzata in soluzioni di IA nelle Americhe.

Le aziende possono concedere un accesso eccessivo o insufficiente ai dati, alle applicazioni e ai processi aziendali, ha detto a Unite AI. Agli agenti potrebbero essere assegnati diritti non coerenti con le attività che ci si aspetta svolgano.

«La sfida consiste nel garantire che un agente operi secondo il principio del privilegio minimo, accedendo soltanto ai dati, ai sistemi e alle azioni necessari per uno specifico flusso di lavoro», ha affermato Quintero. Ciò significa concedere l’accesso esclusivamente ai dati, ai sistemi e alle azioni richiesti da un determinato flusso di lavoro.

Ha indicato come misure di protezione essenziali una chiara titolarità dei dati, controlli degli accessi basati sui ruoli e il monitoraggio continuo delle interazioni con sistemi interni e di terze parti.

Non esiste un’IA locale sicura in assoluto, ha sottolineato Quintero.

Autorizzazioni eccessive, crittografia debole, monitoraggio insufficiente e integrazioni non sicure possono rendere un agente eseguito sul dispositivo rischioso quanto uno basato sul cloud, se non addirittura di più.

La sicurezza non dipende soltanto da dove viene eseguito il modello di un sistema, ma anche da come viene configurato e gestito.

Il nuovo confine è l’autorizzazione

Per gli utenti comuni, la domanda è se l’accesso concesso a un agente IA sia adeguato al compito che deve svolgere.

Se gli viene chiesto di riassumere un solo documento, un agente non dovrebbe dover esaminare un’intera unità. Uno strumento per organizzare le foto non dovrebbe leggere automaticamente i dati finanziari né poter inviare messaggi. Le autorizzazioni devono essere rigorose, trasparenti e revocabili.

Il modello di account e ambiente di lavoro per gli agenti di Microsoft è un passo verso la separazione delle attività di un agente dalla sessione di una persona. Tuttavia, le protezioni devono funzionare anche al di fuori delle dimostrazioni.

Le indicazioni di Microsoft sulla sicurezza degli agenti in Windows prevedono l’autorizzazione dell’utente, registri delle attività e un meccanismo che limiti gli agenti agli accessi di cui hanno bisogno. Datori di lavoro e sviluppatori devono monitorare la reazione degli agenti alle istruzioni fuorvianti contenute in documenti, siti web o messaggi.

Nel corso di un’attività autorizzata, gli agenti possono imbattersi in contenuti non attendibili. Se un agente interpreta un testo ostile come un comando, può insorgere un grave problema di sicurezza, perché le informazioni sono facilmente accessibili.

Per le azioni sensibili, l’approvazione umana e l’accesso con privilegi minimi devono essere accompagnati dal contenimento.

La praticità richiede limiti chiari

Il PC con IA non sarà valutato soltanto in base alla quantità di lavoro che gli agenti possono automatizzare, ma anche in base alla fiducia che gli utenti ripongono nella condivisione dei propri dati personali e professionali.

Con l’elaborazione locale, l’IA agentica può aumentare la velocità e ridurre l’esposizione di determinati dati, ma non elimina la necessità di autorizzazioni e supervisione.

Il principio dovrebbe essere semplice: gli agenti devono poter accedere soltanto a ciò che serve per svolgere il proprio compito e gli utenti devono poter capire, monitorare e bloccare le loro attività.

Man mano che i computer diventano più capaci di agire per nostro conto, il controllo non può essere un aspetto secondario: deve essere integrato nella progettazione.

Adlin Pertishya è una reporter di tecnologia e affari che ha lavorato per Finance Outlook India, Silicon India, StartupBeat e altri.