Quando la ‘conoscenza’ dell’AI ha 50 anni: il rischio di conformità che non puoi ignorare

Il problema delle false informazioni dell’AI è una sfida urgente poiché le imprese aumentano l’uso di strumenti generativi. Nonostante l’entusiasmo diffuso sull’adozione dell’AI, c’è anche una forte corrente di critiche. I commentatori critici spesso puntano a inesattezze apparentemente casuali e imprevedibili nell’output dell’AI, che minano il suo valore – e possono anche rappresentare un pericolo reale per gli esseri umani, in particolare nei settori come la sanità e i trasporti, dove le false informazioni potrebbero teoricamente portare a tutto, dalle prescrizioni errate ai treni in collisione.

Spesso, queste inesattezze sono state attribuite alle “allucinazioni” dell’AI – istanze in cui l’AI genera una risposta di “miglior ipotesi”, presentata con la stessa fiducia di una risposta “autentica”, piuttosto che informare l’utente di una lacuna nella sua conoscenza o capacità. Le allucinazioni possono essere difficili da rilevare a prima vista – ma c’è un problema più silenzioso e altrettanto grave che è ancora più difficile da rilevare.

Il debito di qualità dei dati: il tallone d’Achille dell’AI

Quando i sistemi di AI attingono a dati obsoleti, incompleti o inaccurati, si verificano output falsi, ma sono meno immediatamente riconoscibili. Ad esempio, potresti chiedere a un’AI di identificare i sintomi di una condizione medica e ricevere una risposta basata su un articolo di 50 anni fa invece della ricerca attuale. Il risultato è improbabile che appaia ovviamente, ridicolmente errato – ma quell’iniziale apparenza di plausibilità rappresenta un rischio reale per il paziente in questione e per il fornitore di assistenza sanitaria.

Lo stesso vale per tutti i settori – se i dati forniti al modello di AI includono informazioni vecchie, obsolete o parziali, c’è un alto rischio di output falsi. E poiché più aziende integrano l’AI nei processi aziendali critici, il rischio di trarre conclusioni false da dati mal gestiti aumenta.

Accuratezza per il regolatore

Questo non è solo un problema per le operazioni quotidiane – è anche una sfida di conformità significativa. I requisiti regolatori stanno evolvendo rapidamente per affrontare le preoccupazioni relative all’inaccuratezza dell’AI. Ad esempio, sono state intraprese alcune azioni regolatorie precoci sull’AI; in particolare, quando l’Italia ha temporaneamente vietato ChatGPT per motivi di privacy, e il Consiglio europeo per la protezione dei dati ha lanciato un gruppo di lavoro dedicato per coordinare le azioni di applicazione potenziali contro ChatGPT.

Una delle modifiche regolatorie più indicative è stata l’approvazione del Regolamento AI dell’UE, il primo quadro giuridico completo per l’AI. Il Regolamento stabilisce obblighi in base al livello di rischio dei sistemi di AI, dai sistemi a “rischio inaccettabile”, che sono vietati, ai sistemi a “rischio elevato”, che sono soggetti a requisiti rigorosi in materia di trasparenza, qualità dei dati, governance e controllo umano.

La significatività del Regolamento AI dell’UE non risiede nel suo ambizioso scopo, ma nel precedente che stabilisce. I regolatori stanno facendo chiaramente capire che l’AI sarà soggetta a regole vincolanti e che le organizzazioni devono considerare la conformità e la trasparenza su dove e come viene utilizzata l’AI come parte integrante dell’adozione dell’AI, piuttosto che un afterthought.

Il Regolamento ha un ampio ambito di applicazione, con il potenziale di influenzare una grande parte degli sviluppi dell’AI. Al suo cuore c’è il rendere l’AI sicura, rispettando i diritti e i valori fondamentali. All’interno di questo nuovo ecosistema basato sui principi, c’è la diagnosi delle potenziali fonti di inesattezze dell’AI, compresi i dati e i set di dati che alimentano i modelli, l’opacità del modello e l’accesso, e la progettazione e l’uso del sistema. Le soluzioni di AI sono una costruzione di tutti e tre – problemi con uno di questi possono avere un esito negativo. Inoltre, i dati che vengono utilizzati nella progettazione, nello sviluppo, nella distribuzione e nell’operazione dell’AI sono probabilmente costituiti principalmente da registri aziendali, che sono a loro volta soggetti a vari requisiti di conformità.

In altre parole, l’ambiente regolatorio che circonda l’AI sta diventando sempre più rigoroso – e questo è vero sia per l’input dei dati che per l’output dei dati, anche se quest’ultimo riceve molte più attenzioni.

Cinque passaggi per alimentare l’AI con dati conformi, attuali e rilevanti

Per risolvere questa duplice sfida – garantire sia la gestione dei dati conforme che l’input di alta qualità che consente un output di alta qualità – le aziende devono avere il controllo sui dati di training e di inferenza. Purtroppo, questo è qualcosa che molte imprese ancora mancano.

Almeno, le organizzazioni dovrebbero applicare i loro programmi di conformità e governance più ampi alle iniziative di AI. Devono iniziare a catturare e mantenere registri appropriati sui dati che alimentano i modelli di AI, su come vengono progettati i modelli e i sistemi, nonché sulle decisioni e il contenuto generato tramite l’AI.

Tuttavia, è anche diventato criticamente importante per le organizzazioni andare un passo oltre e assicurarsi di avere il pieno controllo su tutti i dati che potrebbero essere utilizzati nelle distribuzioni di AI, sia per l’addestramento iniziale che per il lavoro “live”. Ciò richiede una strategia di gestione e archiviazione dei dati di alta qualità, garantendo che tutti i dati rilevanti vengano raccolti in modo intelligente, puliti, archiviati, classificati e autorizzati. Per raggiungere questo, le organizzazioni devono considerare quattro passaggi chiave:

1. Provenienza e discendenza dei dati

Ciò include mantenere un registro della fonte dei dati, della sua origine, della proprietà e di eventuali modifiche dei metadati (se consentite) durante l’intero ciclo di vita. Ciò significa anche mantenere metadati ricchi e tutti i documenti o artefatti sottostanti da cui è derivato.

2. Autenticità dei dati

Ciò richiede mantenere una catena di custodia chiara per tutti i dati, archiviare oggetti nelle loro forme native e calcolare hash degli oggetti ricevuti per dimostrare che i dati rimangono invariati. Inoltre, le organizzazioni devono mantenere una storia di audit completa per ogni oggetto e per tutte le azioni e gli eventi relativi a eventuali modifiche.

3. Classificazione dei dati

Stabilire la natura di un set o tipo di dati è importante. Le organizzazioni devono essere in grado di governare dati strutturati, semistrutturati e set di dati strutturati. Assegnare a ogni classe uno schema univoco può consentire alle organizzazioni di gestire set di dati diversi senza un’ontologia fissa e rigida – evitando che i dati vengano inutilmente manipolati per essere costretti in una struttura di dati inflessibile.

4. Normalizzazione dei dati

Stabilire definizioni e formati comuni dei metadati è importante per l’uso nelle soluzioni di analisi e AI. Schemi chiaramente definiti sono un elemento importante, insieme a strumenti che possono trasformare o mappare i dati per mantenere viste coerenti e normalizzate dei dati correlati.

5. Autorizzazioni dei dati

Le imprese hanno bisogno di controlli di autorizzazione granulari, inclusi a livello di oggetto o campo, in base ai profili utente o di sistema. Ciò significa che i dati giusti sono disponibili per gli utenti e i sistemi che hanno il diritto di accedervi, mentre si limita o si nega l’accesso a coloro che non lo hanno.

Con questi elementi essenziali in atto, le aziende saranno meglio posizionate per garantire che i dati forniti ai modelli di AI siano sia di alta qualità che conformi. L’AI guiderà miglioramenti e efficienze in tutti i settori – ma perché ciò accada, una solida base di dati è essenziale.