L’approccio AI-First significa Safety-First

Acquistare una bicicletta nuova per un bambino e la bicicletta riceverà tutta l’attenzione, non il casco lucido che l’accompagna. Ma i genitori apprezzano il casco.

Temo che molti di noi oggi siano come bambini quando si tratta di intelligenza artificiale. Siamo concentrati su quanto sia cool e su quanto velocemente possiamo andare con essa. Non molto su cosa possiamo fare per stare al sicuro mentre la utilizziamo. È un peccato perché non puoi avere il beneficio dell’uno senza l’altro.

In sintesi, applicare l’intelligenza artificiale senza pianificare attentamente la sicurezza prima non è solo rischioso. È un percorso diretto verso un precipizio.

Cosa significa sicurezza dell’AI?

La sicurezza dell’AI comporta una serie di passaggi. Ma forse l’elemento più importante è quando eseguirli. Per essere efficace, la sicurezza dell’AI deve essere progettata.

Ciò significa che consideriamo come prevenire danni prima di provarla. Determiniamo come assicurarci che l’AI operi e generi risultati in linea con i nostri valori e aspettative sociali per primi, e non dopo aver ottenuto risultati orribili.

Progettare per la sicurezza dell’AI include anche pensare a come renderla robusta, o in grado di funzionare in modo prevedibile anche in situazioni avverse. Significa rendere l’AI trasparente, in modo che le decisioni che prende siano comprensibili, verificabili e imparziali.

Ma include anche esaminare il mondo in cui l’AI funzionerà. Quali salvaguardie istituzionali e legali abbiamo bisogno, in particolare per conformarci alle norme governative applicabili? E non posso sottolineare abbastanza l’importanza della componente umana: qual sarà l’impatto dell’utilizzo dell’AI sulle persone che interagiscono con essa?

La sicurezza progettata significa incorporare la sicurezza dell’AI in tutti i nostri processi, flussi di lavoro e operazioni prima di digitare il nostro primo prompt.

I rischi superano le preoccupazioni

Non tutti sono d’accordo. Quando sentono “sicurezza prima”, alcuni sentono “fare un passo così cauto e lento da essere superati”. Naturalmente, non è questo che significa sicurezza prima. Non deve soffocare l’innovazione o rallentare il tempo di mercato. E non significa un flusso infinito di piloti che non si espandono. Al contrario.

Significa capire i rischi di non progettare la sicurezza nell’AI. Considera solo alcuni.

• Deloitte’s Center for Financial Services prevede che GenAI potrebbe essere responsabile di perdite di frode di 40 miliardi di dollari negli Stati Uniti da solo entro il 2027, da 12,3 miliardi di dollari nel 2023, un tasso di crescita annuo del 32%.
• Decisioni pregiudicate. Casi documentati assistenza medica pregiudicata a causa di AI che era stata addestrata su dati pregiudicati.
• Decisioni sbagliate che ispirano altre decisioni sbagliate. Peggio di una decisione iniziale sbagliata provocata da AI difettosa, studi indicano che quelle decisioni sbagliate possono diventare parte di come pensiamo e prendiamo decisioni future.
• Conseguenze reali. L’AI che fornisce consigli medici sbagliati è stata responsabile di esiti letali per i pazienti. Problemi legali sono derivati dal citare un’allucinazione dell’AI come precedente legale. E errori di software derivanti da un assistente AI che fornisce informazioni errate hanno compromesso i prodotti e la reputazione di un’azienda e hanno portato a una diffusa insoddisfazione degli utenti.

E le cose stanno per diventare ancora più interessanti.

L’avvento e l’adozione rapida di AI agente, AI che può funzionare in modo autonomo per prendere decisioni basate sulle decisioni che ha preso, magnificherà l’importanza di progettare la sicurezza dell’AI.

Un agente AI che può agire per tuo conto potrebbe essere estremamente utile. Invece di dirti quali sono i migliori voli per un viaggio, potrebbe trovarli e prenotarli per te. Se vuoi restituire un prodotto, l’agente AI di un’azienda potrebbe non solo dirti la politica di reso e come presentare una richiesta di reso, ma anche gestire l’intera transazione per te.

Ottimo, a condizione che l’agente non si perda in allucinazioni o gestisca male le tue informazioni finanziarie. O si sbagli sulla politica di reso dell’azienda e rifiuti resi validi.

Non è difficile capire come i rischi di sicurezza dell’AI attuale potrebbero facilmente moltiplicarsi con una serie di agenti AI che prendono decisioni e agiscono, soprattutto poiché non agiranno probabilmente da soli. Gran parte del valore reale dell’AI agente verrà da squadre di agenti, dove gli agenti individuali gestiscono parti di compiti e collaborano, agente per agente, per completare il lavoro.

Allora, come si fa ad abbracciare la sicurezza dell’AI progettata senza ostacolare l’innovazione e uccidere il suo potenziale valore?

Sicurezza progettata in azione

I controlli di sicurezza ad hoc non sono la risposta. Ma integrare le pratiche di sicurezza in ogni fase di un’implementazione di AI è.

Inizia con i dati. Assicurati che i dati siano etichettati, annotati se necessario, privi di pregiudizi e di alta qualità. Ciò è particolarmente vero per i dati di addestramento.

Addestra i tuoi modelli con feedback umano, poiché il giudizio umano è essenziale per plasmare il comportamento del modello. L’apprendimento per rinforzo con feedback umano (RLHF) e altre tecniche simili consentono agli annotatori di valutare e guidare le risposte, aiutando i LLM a generare output che sono sicuri e allineati con i valori umani.

Poi, prima di rilasciare un modello, sottoponilo a test di stress. Squadre rosse che cercano di provocare comportamenti insicuri utilizzando prompt avversari, casi limite e tentativi di evasione possono esporre vulnerabilità. Risolverli prima che raggiungano il pubblico mantiene le cose sicure prima che si verifichi un problema.

Mentre questo test assicura che i tuoi modelli di AI siano robusti, continua a monitorarli con un occhio su minacce emergenti e aggiustamenti che potrebbero essere necessari ai modelli.

Allo stesso modo, monitora regolarmente le fonti di contenuto e le interazioni digitali per segni di frode. Criticamente, utilizza un approccio ibrido AI-umano, lasciando che l’automazione AI si occupi del vasto volume di dati da monitorare e gli esseri umani esperti si occupino delle revisioni per l’applicazione e l’accuratezza.

Applicare AI agente richiede ancora più attenzione. Un requisito di base: addestra l’agente a conoscere i suoi limiti. Quando incontra incertezza, dilemmi etici, nuove situazioni o decisioni ad alto rischio, assicurati che sappia come chiedere aiuto.

Inoltre, progetta la tracciabilità nei tuoi agenti. Ciò è particolarmente importante in modo che le loro interazioni si verifichino solo con utenti verificati, per evitare che attori fraudolenti influenzino le azioni di un agente.

Se sembrano funzionare efficacemente, potrebbe essere tentante lasciarli liberi e farli fare la loro cosa. La nostra esperienza dice di continuare a monitorarli e i compiti che stanno svolgendo per cercare errori o comportamenti inaspettati. Utilizza controlli automatizzati e revisione umana.

In realtà, un elemento essenziale della sicurezza dell’AI è il coinvolgimento regolare degli esseri umani. Gli esseri umani dovrebbero essere intenzionalmente coinvolti laddove sono coinvolti giudizio critico, empatia o sfumature e ambiguità in una decisione o azione.

Ancora una volta, per essere chiari, queste sono tutte pratiche che si costruiscono nell’implementazione dell’AI in anticipo, progettate. Non sono il risultato di qualcosa che va storto e poi si affretta a capire come minimizzare i danni.

Funziona?

Abbiamo applicato una filosofia di sicurezza dell’AI prima e un framework “progettato” con i nostri clienti durante l’emergere di GenAI e ora sulla rapida strada verso l’AI agente. Stiamo scoprendo che, contrariamente alle preoccupazioni che potrebbe rallentare le cose, in realtà aiuta ad accelerarle.

L’AI agente ha il potenziale per ridurre i costi del supporto clienti del 25-50%, ad esempio, mentre aumenta la soddisfazione del cliente. Ma ciò dipende dalla fiducia.

Gli esseri umani che utilizzano l’AI devono fidarsi di essa, e i clienti che interagiscono con agenti umani abilitati all’AI o con agenti AI reali non possono sperimentare una singola interazione che minacci la loro fiducia. Un’esperienza negativa può cancellare la fiducia in un marchio.

Non ci fidiamo di ciò che non è sicuro. Quindi, quando costruiamo la sicurezza in ogni livello dell’AI che stiamo per distribuire, possiamo farlo con fiducia. E quando siamo pronti a scalarla, possiamo farlo rapidamente, con fiducia.

Mentre mettere al primo posto la sicurezza dell’AI potrebbe sembrare schiacciante, non sei solo. Ci sono molti esperti che possono aiutare e partner che possono condividere ciò che hanno imparato e stanno imparando in modo che tu possa attingere al valore dell’AI in modo sicuro senza rallentare.

L’AI è stata una corsa emozionante finora, e mentre la corsa si accelera, la trovo emozionante. Ma sono anche felice di indossare il mio casco.