Progettato con responsabilità – Perché l’AI deve essere umano-centrica

L’intelligenza artificiale sta cambiando le esperienze digitali che definiscono la nostra vita quotidiana. Dalle raccomandazioni personalizzate di prodotti e dalla sanità predittiva alla guida autonoma e persino alle file dei parchi di divertimento, l’AI sta rendendo queste esperienze più economiche, efficienti e anche piacevoli. Almeno, questa è la promessa.

Ma troppo spesso, ci imbattiamo in titoli di “fallimenti dell’AI” – momenti in cui gli utenti si sentono fuorviati, frustrati o semplicemente non capiti. E quando la fiducia si rompe, anche il potenziale dell’AI di essere veramente significativo e efficace si rompe.

La fiducia pubblica sta erodendosi. Perché? Perché la maggior parte dei sistemi non è progettata tenendo conto dell’esperienza umana – sono progettati per ciò che è veloce, scalabile e redditizio. Ciò dovrebbe essere una grande preoccupazione per le aziende di tutte le dimensioni che stanno raddoppiando i loro investimenti in AI.

Per costruire la fiducia, le aziende devono fermarsi e fare domande più profonde: Perché stiamo costruendo questo sistema? Dovrebbe essere costruito per primo? In breve, stiamo progettando l’AI per servire le esigenze umane – o stiamo costringendo gli umani ad adattarsi alla logica della macchina?

La lacuna di fiducia con l’AI

Troppo spesso, l’AI viene sviluppata in ambienti tecnici isolati, dove il successo è misurato dall’accuratezza o dalla velocità, e non dall’impatto sociale o dalla facilità d’uso. Il pensiero etico, un componente fondamentale della fiducia, non è automaticamente integrato nel processo di sviluppo dell’AI. Questo disconnessione porta a sistemi che potrebbero essere innovativi in teoria, ma che falliscono nella pratica.

Prendiamo ad esempio il chatbot di Air Canada, che ha fornito informazioni errate a un cliente sulla sua politica di tariffa di lutto, solo per far dire all’azienda che non era responsabile per ciò che il chatbot aveva detto. O il chatbot AI di Meta, che ha offerto affermazioni falsamente errate nei risultati di ricerca. Questi esempi riflettono più di semplici glitch tecnici; espongono un fallimento sistemico nel progettare applicazioni AI con empatia, salvaguardie di sicurezza e contesto del mondo reale.

Il pubblico ha notato. Secondo il Pew Research Center, il 59% degli americani e il 55% degli esperti di AI hanno poca o nessuna fiducia nelle aziende statunitensi per sviluppare l’AI in modo responsabile. Questa è una lacuna di fiducia che non possiamo ignorare.

La progettazione umano-centrica non è un lusso

La progettazione non è un abbellimento per l’AI. È fondamentale per come si comporta e come viene percepita dagli utenti finali. La progettazione umano-centrica inizia con la comprensione delle persone per cui stiamo progettando: i loro obiettivi, frustrazioni, valori e realtà vissute.

È fondamentale durante il processo di progettazione fare domande molto specifiche per assicurarsi che la tecnologia serva le esigenze umane, non il contrario, definendo:

• Chi stiamo progettando per?
• Quali sono i loro obiettivi, valori e sfide?
• Come interagiscono con i sistemi emotivamente e funzionalmente?
• È il prodotto affidabile e fa ciò che dice di fare?
• Sta promuovendo l’inclusività e l’accessibilità per tutte le persone?

Queste non sono domande astratte. Sono direttamente legate a come l’AI si comporta nel mondo reale. E, in contesti ad alto rischio come la sanità, la sicurezza o l’istruzione, possono determinare se un sistema è inclusivo e giusto o confuso e dannoso.

Cosa significa una progettazione migliore

I progettisti collegano le esigenze umane con le capacità della macchina attraverso il processo di prototipazione, test e iterazione, che assicura che i prodotti abbiano senso per le persone che li utilizzano. Ciò include mettere in discussione come l’AI comunichi, quali decisioni automatizzi e quanto controllo offra all’utente.

Prendiamo ad esempio i parchi di divertimento. L’AI sta essere utilizzato quest’estate per ridurre i tempi di attesa, personalizzare le esperienze e gestire il flusso della folla. È un caso d’uso promettente. Ma il successo non è solo questione di efficienza. Un sistema ben progettato darà priorità all’esperienza umana, non solo all’efficienza. Ciò significa messaggi trasparenti, interfacce intuitive, opzioni di opt-in chiare e opzioni di fallback per gli utenti con esigenze uniche (come le famiglie senza smartphone o gli ospiti con esigenze di accessibilità).

L’opportunità qui non è solo quella di ottimizzare le operazioni logistiche aziendali a favore del bilancio; è quella di elevare la gioia, ridurre l’attrito e creare esperienze condivise che sembrano magiche, non meccaniche. Questa è un’opportunità per la progettazione.

Testare l’elemento umano

Nella progettazione dell’AI umano-centrica, il test è fondamentale. È ideale coinvolgere gli utenti finali potenziali nel processo presto e spesso, con lo scopo di identificare potenziali punti ciechi. Quando gli utenti non possono capire o fidarsi di un sistema, il sistema ha fallito, indipendentemente da quanto sia impressionante il suo backend.

Il test assicura anche l’accessibilità, che è spesso trascurata nelle esperienze guidate dall’AI. Un chatbot potrebbe essere tecnicamente funzionale, ma se non serve gli utenti neurodiversi o non madrelingua, non è veramente funzionale. La progettazione inclusiva non beneficia solo le minoranze, ma rafforza i prodotti per chiunque.

La responsabilità inizia con la progettazione

Le politiche possono aiutare a stabilire limiti e prevenire i peggiori esiti. Quindi, quadri come l’Atto AI dell’UE e il Blueprint per un Bill of Rights dell’AI sono passi cruciali. Ma la conformità è solo il pavimento. La progettazione è come raggiungiamo il soffitto.

Le aziende devono andare oltre le checklist per costruire sistemi AI che supportino la dignità, l’agenzia e la supervisione. Ciò significa resistere alla tentazione di automatizzare completamente il giudizio umano e progettare invece strumenti che lo amplifichino. L’AI responsabile non cancella il controllo umano; al contrario, lo amplifica.

Questo lavoro non è solo tecnico. Richiede team multidisciplinari di progettisti, ingegneri, esperti di politiche e etici che lavorano insieme fin dal primo giorno. Significa progettare con le persone, non solo per loro.

Il ruolo dei progettisti nel plasmare l’AI

I progettisti svolgono un ruolo unico nel plasmare la traiettoria dell’AI. Sono traduttori che sono fluenti nella logica strutturata delle macchine e nella complessità della vita umana. I progettisti sono addestrati a riconoscere i punti di attrito, i segnali emotivi e le implicazioni sociali che i dati da soli non possono catturare.

Simile alle domande specifiche che assicurano che la tecnologia serva le esigenze umane, i progettisti devono sostenere domande che non si adattano perfettamente ai dati di addestramento, come:

• Come fa sentire qualcuno?
• È l’utente in controllo?
• Cosa succede quando le cose vanno storte?

Troppo spesso, la progettazione viene introdotta alla fine del processo AI per “farla apparire bene”. Ma il vero potere della progettazione è strategico. Dovrebbe plasmare come vengono definite le problematiche in primo luogo, non solo come appaiono le interfacce.

Umano-centrica, non macchina-centrica

L’AI non è solo una sfida tecnica, è una sfida di progettazione. E per affrontarla, dobbiamo centrale i valori umani fin dall’inizio.

L’AI umano-centrica non è un lusso – è una necessità. Crea sistemi che sono affidabili, sicuri, imparziali, verificabili e conformi. Ma più di questo, costruisce prodotti che beneficiano l’utente finale e elevano la produttività e il potenziale umano.

Abbiamo gli strumenti e abbiamo la responsabilità di progettare un futuro in cui la tecnologia serve le persone, non il contrario. Quel futuro inizia con la progettazione.