Progettato con responsabilità – Perché l’AI deve essere umano-centrica

L’intelligenza artificiale sta cambiando le esperienze digitali che definiscono la nostra vita quotidiana. Dalle raccomandazioni personalizzate di prodotti e dalla sanità predittiva alla guida autonoma e persino alle file dei parchi di divertimento, l’AI sta rendendo queste esperienze più economiche, efficienti e anche piacevoli. Almeno, questa è la promessa.

Ma troppo spesso, ci imbattiamo in titoli su presunti “fallimenti dell’AI” — momenti in cui gli utenti si sentono fuorviati, frustrati o semplicemente non capiti. E quando la fiducia si rompe, anche il potenziale dell’AI di essere veramente significativo e efficace si rompe.

La fiducia pubblica si sta erodendo. Perché? Perché la maggior parte dei sistemi non sono progettati tenendo conto dell’esperienza umana — sono progettati per ciò che è veloce, scalabile e redditizio. Ciò dovrebbe essere una causa di grande preoccupazione per le aziende di tutte le dimensioni che stanno raddoppiando gli investimenti sull’AI.

Per costruire la fiducia, le aziende devono fermarsi e porre domande più profonde: Perché stiamo costruendo questo sistema? Deve essere costruito per primo? In breve, stiamo progettando l’AI per servire le esigenze umane – o stiamo costringendo gli esseri umani ad adattarsi alla logica della macchina?

Il divario di fiducia con l’AI

Troppo spesso, l’AI viene sviluppata in ambienti tecnici isolati, dove il successo è misurato dall’accuratezza o dalla velocità, e non dall’impatto sociale o dalla facilità d’uso. Il pensiero etico, un componente fondamentale della fiducia, non è automaticamente integrato nel processo di sviluppo dell’AI. Questo disconnessione si traduce in sistemi che potrebbero essere innovativi in teoria, ma falliscono nella pratica.

Prendiamo ad esempio il chatbot di Air Canada, che ha fornito informazioni errate a un cliente sulla sua politica di tariffa di lutto, solo per far sostenere all’azienda che non era responsabile per ciò che il chatbot ha detto. O il chatbot AI di Meta, che ha offerto affermazioni falsamente vere nei risultati di ricerca. Questi esempi riflettono più di semplici glitch tecnici; espongono un fallimento sistemico nel progettare applicazioni AI con empatia, paracadute di sicurezza e contesto del mondo reale.

Il pubblico se ne è accorto. Secondo il Pew Research Center, il 59% degli americani e il 55% degli esperti di AI hanno poca o nessuna fiducia nelle aziende statunitensi per sviluppare l’AI in modo responsabile. Questo è un divario di fiducia che non possiamo ignorare.

La progettazione centrata sull’uomo non è un lusso

La progettazione non è un abbellimento per l’AI. È fondamentale per come si comporta e come viene percepita dagli utenti finali. La progettazione centrata sull’uomo inizia con la comprensione delle persone per cui stiamo progettando: i loro obiettivi, frustrazioni, valori e realtà vissute.

È imperativo durante il processo di progettazione porre domande molto specifiche per garantire che la tecnologia serva le esigenze umane, non il contrario, definendo:

• Per chi stiamo progettando?
• Quali sono i loro obiettivi, valori e sfide?
• Come interagiscono con i sistemi emotivamente e funzionalmente?
• È il prodotto affidabile e fa ciò che dice di fare?
• Sta promuovendo l’inclusività e l’accessibilità per tutte le persone?

Queste non sono domande astratte. Sono direttamente plasmate da come l’AI si comporta nel mondo reale. E, in contesti ad alto rischio come la sanità, la sicurezza o l’istruzione, possono determinare se un sistema è inclusivo e giusto o confuso e dannoso.

Cosa significa una progettazione migliore

I progettisti collegano le esigenze umane con le capacità della macchina attraverso il processo di prototipazione, testing e iterazione, che garantisce che i prodotti abbiano senso per le persone che li utilizzano. Ciò include mettere in discussione come l’AI comunichi, quali decisioni automati e quanto controllo offra all’utente.

Prendiamo ad esempio i parchi di divertimento. L’AI verrà utilizzato quest’estate per ridurre i tempi di attesa, personalizzare le esperienze e gestire il flusso della folla. È un caso d’uso promettente. Ma il successo non è solo questione di efficienza. Un sistema ben progettato darà priorità all’esperienza umana, non solo all’efficienza. Ciò significa messaggi trasparenti, interfacce intuitive, opzioni di opt-in chiare e opzioni di fallback per gli utenti con esigenze uniche (come le famiglie senza smartphone o gli ospiti con esigenze di accessibilità).

L’opportunità qui non è solo quella di ottimizzare le operazioni logistiche aziendali a favore del bottom line; è quella di elevare la gioia, ridurre l’attrito e creare esperienze condivise che sembrino magiche, non meccaniche. Questa è un’opportunità per la progettazione.

Testare l’elemento umano

Nella progettazione dell’AI centrata sull’uomo, il testing è critico. È ideale coinvolgere gli utenti potenziali nel processo presto e spesso, con lo scopo di identificare potenziali punti ciechi. Quando gli utenti non possono comprendere o fidarsi di un sistema, il sistema ha fallito, indipendentemente da quanto impressionante possa essere il suo backend.

Il testing garantisce anche l’accessibilità, che è spesso trascurata nelle esperienze guidate dall’AI. Un chatbot potrebbe essere tecnicamente funzionale, ma se non serve gli utenti neurodiversi o i non madrelingua, non è veramente funzionale. La progettazione inclusiva non beneficia solo le minoranze; rafforza i prodotti per chiunque e tutti.

La responsabilità inizia con la progettazione

Le politiche possono aiutare a stabilire confini e prevenire i peggiori esiti. Quindi, quadri come l’AI Act dell’UE e la Carta per un Bill of Rights dell’AI sono passi cruciali. Ma la conformità è solo il pavimento. La progettazione è come raggiungiamo il soffitto.

Le aziende devono andare oltre le checklist per costruire sistemi AI che supportino la dignità, l’agenzia e la supervisione. Ciò significa resistere alla tentazione di automatizzare completamente il giudizio umano e, invece, progettare strumenti che lo amplifichino. L’AI responsabile non cancella il controllo umano; al contrario, lo amplifica.

Questo lavoro non è solo tecnico. Richiede team multidisciplinari di progettisti, ingegneri, esperti di politiche ed etici che lavorano tutti insieme fin dal primo giorno. Significa progettare con le persone, non solo per loro.

Il ruolo dei progettisti nella definizione dell’AI

I progettisti svolgono un ruolo unico nella definizione della traiettoria dell’AI. Sono traduttori che sono fluenti nella logica strutturata delle macchine e nella complessità della vita umana. I progettisti sono addestrati a riconoscere i punti di attrito, i segnali emotivi e le implicazioni sociali che i dati da soli non possono catturare.

Similmente alle specifiche domande che garantiscono che la tecnologia serva le esigenze umane, i progettisti devono sostenere domande che non si adattano perfettamente ai dati di training, come:

• Come fa sentire qualcuno?
• È l’utente in controllo?
• Cosa succede quando le cose vanno storte?

Troppo spesso, la progettazione viene introdotta alla fine del processo AI per “farla apparire bene”. Ma il vero potere della progettazione è strategico. Dovrebbe plasmare come vengono definite le problematiche fin dall’inizio, non solo come appaiono le interfacce.

Umano-centrica, non macchina-centrica

L’AI non è solo una sfida tecnica, è una sfida di progettazione. E per affrontarla, dobbiamo centrale i valori umani fin dall’inizio.

L’AI centrata sull’uomo non è un lusso – è una necessità. Crea sistemi che sono affidabili, efficienti, imparziali, verificabili e conformi. Ma più di questo, costruisce prodotti che beneficiano l’utente finale e elevano la produttività e il potenziale umano.

Abbiamo gli strumenti e abbiamo la responsabilità di progettare un futuro in cui la tecnologia serve le persone, non il contrario. Quel futuro inizia con la progettazione.