Responsabile by Design: perché l’intelligenza artificiale deve essere incentrata sull’uomo

L'intelligenza artificiale sta cambiando le esperienze digitali che definiscono la nostra vita quotidiana. Dai consigli personalizzati sui prodotti all'assistenza sanitaria predittiva, dalla guida autonoma alle code ai parchi di divertimento, l'intelligenza artificiale sta rendendo queste esperienze più economiche, più efficienti e persino più piacevoli. Almeno, questa è la promessa.

Ma troppo spesso ci imbattiamo in titoli sui cosiddetti "fallimenti dell'IA": momenti in cui gli utenti si sentono ingannati, frustrati o semplicemente incompresi. E quando la fiducia viene meno, crolla anche il potenziale dell'IA di essere davvero significativa ed efficace.

La fiducia del pubblico si sta erodendo. Perché? Perché la maggior parte dei sistemi non è progettata pensando all'esperienza umana, ma a ciò che è veloce, scalabile e redditizio. Questo dovrebbe essere un motivo di grande preoccupazione per le aziende di tutte le dimensioni che stanno raddoppiando i loro investimenti nell'intelligenza artificiale.

Per creare fiducia, le aziende devono fermarsi e porsi domande più profonde: Perché stiamo costruendo questo sistema? Dovrebbe essere costruito davvero? In breve, stiamo progettando l'intelligenza artificiale per soddisfare le esigenze umane o stiamo costringendo gli esseri umani ad adattarsi alla logica delle macchine?

Il divario di fiducia con l'intelligenza artificiale

Troppo spesso, l’intelligenza artificiale viene sviluppata in ambienti tecnici isolati, dove il successo è misurato dalla precisione o dalla velocità, e non è un Impatto sociale o usabilità. Il pensiero etico, componente fondamentale della fiducia, non è automaticamente integrato nel processo di sviluppo dell'IA. Questa disconnessione si traduce in sistemi che potrebbero essere innovativi in ​​teoria, ma che risultano carenti nella pratica.

Fai Il chatbot di Air Canada, che ha fornito con sicurezza informazioni errate a un cliente in merito alla sua politica tariffaria per il lutto, solo per convincere l'azienda a sostenere di non essere responsabile di ciò che il chatbot aveva detto. Oppure Il chatbot AI di Meta, che forniva affermazioni fattualmente errate nei risultati di ricerca. Questi esempi non riflettono solo problemi tecnici: evidenziano un fallimento sistemico nel progettare applicazioni di intelligenza artificiale con empatia, misure di sicurezza e contesto reale.

Il pubblico se n'è accorto. Secondo il Pew Research CenterIl 59% degli americani e il 55% degli esperti di intelligenza artificiale nutrono poca o nessuna fiducia nelle aziende statunitensi per quanto riguarda lo sviluppo responsabile dell'intelligenza artificiale. Si tratta di un divario di fiducia che non possiamo ignorare.

Il design incentrato sull'uomo non è un lusso

Il design non è solo una vetrina per l'intelligenza artificiale. È fondamentale per il suo comportamento e per come viene percepita dagli utenti finali. La progettazione incentrata sull'uomo inizia con la comprensione delle persone per cui progettiamo: i loro obiettivi, le loro frustrazioni, i loro valori e le loro realtà vissute.

Durante il processo di progettazione è fondamentale porre domande molto specifiche per garantire che la tecnologia soddisfi le esigenze umane e non il contrario, definendo:

• Per chi stiamo progettando?
• Quali sono i loro obiettivi, i loro valori e le loro sfide?
• Come interagiscono con i sistemi a livello emotivo e funzionale?
• Il prodotto è affidabile e fa ciò che promette?
• Promuove l'inclusività e l'accessibilità per tutte le diverse tipologie di persone?

Queste non sono domande astratte. Influenzano direttamente le prestazioni dell'IA in natura. E, in contesti ad alto rischio come la sanità, la sicurezza o l'istruzione, possono determinare se un sistema è inclusivo ed equo oppure confuso e dannoso.

Come appare un design migliore

I progettisti uniscono le esigenze umane alle capacità delle macchine attraverso il processo di prototipazione, test e iterazione, garantendo che i prodotti abbiano senso per chi li utilizza. Questo include interrogarsi su come comunica l'IA, quali decisioni automatizza e quanto controllo offre all'utente.

Prendiamo come esempio i parchi di divertimento. L'intelligenza artificiale verrà implementata quest'estate Per ridurre i tempi di attesa, personalizzare le esperienze e gestire il flusso di persone. È un caso d'uso promettente. Ma il successo non dipende solo dalla produttività. Un sistema ben progettato darà priorità esperienza umana, non solo efficienza. Ciò significa messaggistica trasparente, interfacce intuitive, opzioni di adesione chiare e opzioni di fallback per gli utenti con esigenze specifiche (come famiglie senza smartphone o ospiti con esigenze di accessibilità).

L'opportunità qui non è solo quella di ottimizzare le operazioni logistiche a favore del profitto; si tratta di accrescere la gioia, ridurre gli attriti e creare esperienze condivise che siano magiche, non meccaniche. Questa è un'opportunità per il design.

Mettere alla prova l'elemento umano

Nella progettazione di un'intelligenza artificiale incentrata sull'uomo, i test sono fondamentali. L'ideale è coinvolgere i potenziali utenti finali nel processo in modo tempestivo e frequente, al fine di individuare potenziali punti ciechi. Quando gli utenti non riescono a comprendere un sistema o a fidarsi di esso, il sistema ha fallito, a prescindere da quanto sia efficace il suo backend.

I test garantiscono anche l'accessibilità, un aspetto spesso trascurato nelle esperienze basate sull'intelligenza artificiale. Un chatbot può essere tecnicamente funzionale, ma se non è al servizio di utenti neurodiversi o non madrelingua, non è veramente funzionale. Il design inclusivo non solo avvantaggia i margini, ma rafforza anche i prodotti per tutti.

La responsabilità inizia con il design

Le politiche possono aiutare a stabilire limiti e prevenire i peggiori risultati. Quindi quadri come quello Legge dell'UE sull'IA e le Progetto per una Carta dei diritti AI Sono passaggi cruciali. Ma la conformità è solo la base. Il design è il modo per raggiungere il massimo.

Le aziende devono andare oltre le checklist per costruire sistemi di intelligenza artificiale che supportino dignità, capacità di azione e controllo. Ciò significa resistere alla tentazione di automatizzare completamente il giudizio umano e progettare invece strumenti che lo migliorino. Un'intelligenza artificiale responsabile non cancella il controllo umano; al contrario, lo amplifica.

Questo lavoro non è solo tecnico. Richiede team multidisciplinari di designer, ingegneri, esperti di politiche ed eticisti che lavorino insieme fin dal primo giorno. Significa progettare con persone, non solo da Loro.

Il ruolo dei designer nel plasmare l'intelligenza artificiale

I progettisti svolgono un ruolo unico nel plasmare la traiettoria dell'IA. Sono traduttori esperti sia nella logica strutturata delle macchine che nella complessità della vita umana. I progettisti sono addestrati a riconoscere punti di attrito, segnali emotivi e implicazioni sociali che i dati da soli non possono cogliere.

Similmente alle domande specifiche che garantiscono che la tecnologia soddisfi le esigenze umane, i progettisti devono sostenere domande che non si adattano perfettamente ai dati di addestramento, come:

• Come si sente questa cosa?
• L'utente ha il controllo?
• Cosa succede quando le cose vanno male?

Troppo spesso, il design viene introdotto alla fine del processo di intelligenza artificiale per "rendere l'esperienza gradevole". Ma il vero potere del design è strategico. Dovrebbe plasmare il modo in cui i problemi vengono definiti in primo luogo, non solo l'aspetto delle interfacce.

L'uomo al primo posto, non la macchina al primo posto

L'intelligenza artificiale non è solo una sfida tecnica, è una sfida progettuale. E per affrontarla, dobbiamo mettere al centro i valori umani fin dall'inizio.

L'intelligenza artificiale incentrata sull'uomo non è un lusso, è una necessità. Crea sistemi affidabili, sicuri, imparziali, verificabili e conformi. Ma soprattutto, crea prodotti che avvantaggiano l'utente finale e aumentano la produttività e il potenziale umano.

Abbiamo gli strumenti e la responsabilità di progettare un futuro in cui la tecnologia sia al servizio delle persone, non il contrario. Quel futuro inizia con la progettazione.