Intelligenza Artificiale e l’Arco della Fiducia

All’inizio dell’anno scorso, quando il nostro team stava facendo previsioni su cosa ci aspettava, c’era un consenso sul fatto che gli involucri dell’intelligenza artificiale (AI) stavano per essere rimossi. Avremmo finalmente visto cosa poteva fare e, speravamo, avremmo ottenuto chiarezza sul suo impatto sulle imprese e sulla società e su come procedere. Non era una previsione nuova, ma il suo nucleo era accurato, anche se ancora lottiamo con le implicazioni dell’AI e su come (o se) dovrebbe essere controllata in qualche modo.

Avremmo visto Apple, Microsoft e Google integrare l’AI nei dispositivi e portare il suo potere a un pubblico più ampio e più grande. Poi, un chatbot in uno strumento di ricerca alimentato da AI ha minacciato gli utenti e ha affermato di spiare i dipendenti, mentre un altro ha suggerito di utilizzare la colla Elmer per fare pizza casalinga per evitare che il formaggio scivolasse via. Tuttavia, i casi di utilizzo dell’AI nelle imprese sono cresciuti notevolmente e così anche il mercato. Secondo i dati di Crunchbase, quasi un terzo di tutti i finanziamenti venture globali dell’anno scorso sono andati a società che operano in settori legati all’AI.

Ma anche se OpenAI ha fornito una ragione avanzata veramente notevole, il noto ricercatore di AI, Yoshua Bengio, ha sollecitato l’adozione di misure di sicurezza per i “modelli di frontiera” con il potenziale di causare danni catastrofici. E sebbene la tecnologia abbia vinto due Premi Nobel per le applicazioni nella scienza, uno dei suoi vincitori ha espresso preoccupazione per il fatto di avere sistemi “più intelligenti di noi che alla fine prendono il controllo”.

In uno spazio in rapida evoluzione, è difficile per gli esperti tecnologi tenere il passo, figuriamoci per quelli nel mainstream.

E quei problemi dell’AI – e le preoccupazioni sulla privacy e sull’uso non controllato – hanno solo aumentato la diffidenza del pubblico.

Soltanto fidati di me

Ci troviamo a metà di un arco di fiducia, che richiede di avanzare nell’accettazione pubblica dell’AI, assicurandosi che le comunità aziendali e tecnologiche agiscano in modo responsabile. La prima parte è dove si gioca il gioco adesso, a livello aziendale, guadagnando slancio con ogni deploy sicuro e solido. Stiamo costruendo sui nostri punti di forza, che alla fine porteranno a un aumento della fiducia del pubblico. La seconda parte, tuttavia, è molto più complicata.

Chi definisce e applica l’uso responsabile dell’AI? Un’industria può creare linee guida quando sono loro stesse che hanno bisogno di essere regolamentate? Se i tecnologi hanno difficoltà a seguire l’AI, i responsabili politici saranno informati e terranno fuori le loro agende politiche dalla discussione? E quando un miliardario dell’AI improvvisamente vuole parlare di controllo, ha avuto un’epifania o sta solo cercando di frenare per recuperare?

“Soltanto fidati di me” non funzionerà con l’AI, indipendentemente da chi sei.

Fiducia ma verifica

Le persone guardano l’AI generativa come ChatGPT e si chiedono se sarà il loro prossimo Google? Ebbene, il risultato principale di una ricerca Google è ora creato dal suo modello AI, Gemini. Il problema è che non puoi affidarti a esso per le attività aziendali su larga scala quando una semplice domanda come “È sicuro consumare carne cruda?” restituisce la risposta “Sì, congelata”. Devi ispezionare i dati.

L’arco della fiducia del pubblico sarà speculare a quello che è successo con la ricerca convenzionale, guadagnato nel tempo e con la prova di affidabilità. Ironia della sorte, nella nostra ricerca di semplificare e migliorare la ricerca, abbiamo fatto un passo indietro. Ora, dopo aver ottenuto quella risposta generata da AI in alto, devi scorrere oltre una lunga lista di link di sponsorizzazione, cliccare sui prossimi cinque e comunque qualificare le informazioni.

È un sacco di lavoro quando cerchi una risposta rapida – e non puoi avere un’intera azienda che fa lo stesso. Tuttavia, arricchisci i dati che hai estratto con decine di migliaia dei tuoi biglietti di servizio e porti dentro conoscenze reali sul tuo ambiente. Algoritmicamente, puoi quindi configurare le allucinazioni verso il basso, ma rimane una situazione “fiducia ma verifica”.

Tieni la politica fuori da questo

Quando si tratta di regolamentare l’AI, alcuni sostengono che il cavallo è già uscito dalla stalla e probabilmente non verrà catturato. Ad esempio, c’è una mancanza di strumenti veramente efficaci per controllare se uno studente ha scritto un elaborato o ha utilizzato GenAI. La tecnologia è semplicemente troppo avanzata.

Regolamentare questo sarebbe molto complesso e, onestamente, staremmo entrando in un terreno scivoloso. Sappiamo che le società tecnologiche sono decenni avanti rispetto ai regolatori esterni proposti. Tuttavia, siamo bravi a creare un percorso, non a essere trattenuti. Tuttavia, alla fine della giornata, potrebbe toccare agli innovatori cercare di applicare la governance. Chi altro potrebbe farlo – in modo responsabile?

Ci sono molti politici che amerebbero provarci. Il rischio, oltre alla mancanza di comprensione, è che abbiano un’agenda personale e politica da avanzare. La loro attenzione, potenzialmente, sarebbe meno sul coltivare l’AI e più sul fare ciò che è nel loro miglior interesse politico. Potrebbero lavorare sulle paure pubbliche, utilizzando una mano pesante per ostacolare il suo progresso.

Il CHIPS and Science Act è stato un buon esempio di azione governativa salutare, producendo un aumento drammatico di 15 volte nella costruzione di strutture di produzione per dispositivi di calcolo e dispositivi elettronici. Ma questo è stato reso possibile attraverso il bipartitismo – sempre più un relitto di un’epoca passata.

Siamo degni?

C’è un sacco di denaro che fluisce nell’AI e, nel corso dei prossimi due decenni, molto sarà fatto dalle società tecnologiche. Quanto, quanto velocemente e quanto in sicurezza rimane da vedere. In qualsiasi giorno, una deep fake potrebbe essere diffusa, mostrando qualcuno sotto i riflettori che gioca con le uova di un uccello in pericolo di estinzione. Il pubblico reagirebbe con orrore e, anche se potrebbe essere rivelato come generato da AI, quell’uovo non torna nella sua conchiglia – il danno è fatto.

Abbiamo bisogno che tali cose siano regolamentate da tecnologi informati. Quale forma prenderà – un consiglio, un organismo di standard, un quadro internazionale – rimane da vedere. Quello che è noto è che l’AI è su un arco di fiducia e, come industria, dobbiamo dimostrare di esserne degni.