Se il tuo dipendente si comportasse come un’IA, lo avresti già licenziato

Immagina di aver appena assunto qualcuno di nuovo e, nella maggior parte dei giorni, sia efficiente, competente, eloquente e sicuro di sé. È tutto quello che speravi, dimostrando molte delle qualità di un grande dipendente.

Ora immagina che di tanto in tanto, quando si trovano di fronte a una domanda a cui non conoscono la risposta, inventino qualcosa. È fluido, convincente, così all’inizio lo prendi per buono. Ma quando ha conseguenze per l’azienda, torni su quel dipendente, lo metti alla prova – e non riesce a spiegare il suo ragionamento né a condividere il suo metodo. Potresti persino spiegargli che si è sbagliato, per essere accolto da un’insistenza contraria e da ulteriori invenzioni per cercare di sostenerla. Dopo la seconda o terza volta che ciò accade, lo avresti probabilmente licenziato, o quantomeno avresti dato a quel dipendente un avvertimento? La risposta per la maggior parte dei datori di lavoro è quasi certamente sì.

Trovo sconcertante che le aziende affidino ora flussi di lavoro critici e decisioni a un dipendente noto per manifestare questo comportamento. L’unico motivo per cui non viene controllato è che questo “dipendente” è un software, non una persona.

Perché l’IA non fallisce come le persone

Esiste un’ipotesi comune e errata tra le aziende che implementano l’IA: se la tecnologia ha un tasso di errore, è sostanzialmente lo stesso problema dell’errore umano e può essere gestito allo stesso modo. Ma i controlli, le revisioni e le escalation non sempre funzionano con i grandi modelli linguistici (LLM). Sono progettati per suonare come esseri umani, ma se guardi sotto il cofano vedrai che non operano affatto come noi.

Se un dipendente stellare commette un errore, presumiamo che l’errore sia stato onesto – stava facendo del suo meglio e ha sbagliato. Succede. Se invece inventa deliberatamente una risposta per non ammettere di non sapere qualcosa, e lo fa ripetutamente, lo considereremmo una cattiva condotta. I manager sanno dove concentrare la loro supervisione, perché difficoltà e margini di errore coincidono. Possono chiedere al dipendente di spiegare il proprio ragionamento e interrogarlo al riguardo. Il dipendente di solito sa quando è fuori dalla sua competenza e lo dichiara. E dopo un errore, impara, così lo stesso errore non si ripete in un ciclo continuo.

I sistemi IA capovolgono ognuna di queste ipotesi. La loro risposta predefinita al fallimento è un’invenzione fluida e sicura. Producono una risposta plausibile che è semplicemente falsa, comportamento esattamente quello che porrebbe fine a una carriera umana. Gli LLM sono progettati per generare la continuazione più statisticamente probabile di un testo e, quando non conoscono la risposta, spesso producono qualcosa che sembra comunque corretto. I ricercatori di OpenAI hanno riconosciuto che un certo livello di errore fattuale è un’inevitabilità statistica del funzionamento di questi modelli, e che l’addestramento premia un’ipotesi sicura rispetto a un’onesta ammissione di incertezza.

Dove entrano gli approcci neurosimbolici

Questo è esattamente ciò che approcci neurosimbolici sono progettati per risolvere. Accoppiano reti neurali, eccellenti nella comprensione di linguaggi e dati reali e caotici, con un ragionamento deterministico basato su regole. Ciò significa che le conclusioni di un sistema derivano da una logica esplicita ispezionabile, anziché emergere da un processo invisibile.

Senza questo ulteriore strato di logica fornito dalla tecnologia neurosimbolica, gli errori dell’IA non si correlano alla difficoltà del lavoro come avviene per gli errori umani – sono imprevedibili. Possono comparire su compiti banali mentre quelli difficili procedono senza problemi, rendendo difficile capire dove concentrare al meglio la supervisione umana. Le loro spiegazioni, quando fornite, sono generate a posteriori anziché fornire una reale descrizione di come siano giunte a una conclusione. Lo stesso errore può ripetersi indefinitamente, perché non c’è nessuno all’interno del sistema che possa imparare da esso o che possa essere ritenuto responsabile.

Fiducia senza comprensione

I ricercatori hanno documentato che quando le persone sono nuove a un sistema, tendono ad abbandonarlo dopo un unico errore visibile; ma quando è familiare, passano all’estremo opposto – accettando i suoi output semplicemente perché vi si sono abituate, non perché tali output siano diventati più affidabili. Quello che si vede raramente è il giusto livello di fiducia, poiché dipende dal fatto che le persone comprendano quando un sistema IA è probabile che sbagli e siano in grado di riconoscerlo.

Ciò non significa che l’IA non debba essere fidata per lavori importanti. Significa che siamo stati disposti a concederle un tipo di fiducia che non estenderemmo a una persona, in parte perché non c’è un individuo evidente da ritenere responsabile quando fallisce.

Se l’IA deve assumere compiti basati sul giudizio come farebbe un collega stimato, deve rispettare gli stessi standard di base. Le risposte devono essere verificabili, con ragionamento visibile, e accettare il fatto che a volte la cosa migliore che può fare è dire “non lo so”.