Il ruolo dell’AI nella cura della memoria, dell’identità e del lascito

L’umanità scatta ora più foto ogni due minuti di quante ne siano state scattate in tutto il XIX secolo. Migliaia di milioni di foto vengono create ogni giorno. Per molte persone, un solo smartphone contiene 10.000, 20.000, a volte 50.000 immagini, e quel numero continua a crescere. Per una macchina, si tratta di un set di dati di immagini di scala straordinaria. Per un essere umano, è qualcosa di completamente diverso.

È un registro di nuove arrivi e compleanni importanti, visite in ospedale e vacanze, matrimoni e funerali. Contiene l’ultima fotografia di un nonno, la prima immagine di un bambino appena nato, la foto sfocata scattata un attimo prima di un incidente. Queste immagini non sono semplicemente file da classificare, ma frammenti di identità personale.

Per coloro di noi che stanno costruendo AI che lavora direttamente con le librerie di foto delle persone, questa scala crea una sfida molto particolare. Non stiamo più costruendo strumenti che gestiscono librerie di media. Stiamo progettando sistemi che influenzano il modo in cui le persone rivisitano e ricordano la loro vita. E quel cambiamento, combinato con una scala di dati senza precedenti, richiede un modello di fiducia fondamentalmente diverso.

Il contenuto sensibile fa parte della vita ordinaria

La tecnologia di visione computerizzata viene spesso utilizzata per rilevare volti, sorrisi, luoghi e attività. Quando applichiamo quelle tecniche alle librerie di foto personali, possono raggruppare foto simili, suggerire momenti salienti e generare “ricordi” da rivisitare e riflettere.

Le librerie di foto personali stanno diventando sempre più simili a diari. Molti di noi istintivamente prendono il telefono per catturare momenti quotidiani, sapendo che saranno archiviati – anche se non li riapriremo mai. In questo senso, le nostre librerie di foto diventano registri non filtrati della vita mentre si svolge, contenenti momenti che sono gioiosi, dolorosi o banali.

A scala ridotta, l’organizzazione automatica delle foto sembra semplice e utile. Ma le librerie personali ora contengono spesso decine di migliaia di immagini. Nella pratica, sistemi come questi devono prendere migliaia di piccole decisioni per conto dell’utente: quali volti dare priorità, quali foto rappresentano meglio un anno e quali momenti meritano di essere riproposti. A quella scala, anche un tasso di errore minuscolo diventa emotivamente significativo. Un tasso di errore di classificazione dell’1% su una libreria di 20.000 foto potrebbe portare a centinaia di immagini visualizzate nel contesto sbagliato o fraintese del tutto.

Una cosa che si impara rapidamente lavorando con librerie di foto reali è quanto spesso appaiano momenti sensibili accanto a quelli quotidiani. Ospedali, funerali, momenti di angoscia – accanto a scelte di prodotto che favoriscono la moderazione. Ma altrettanto importante è riconoscere i limiti dell’interpretazione automatica.

Comprendere perfettamente il significato che un’immagine ha per un individuo specifico è raramente possibile. Il ruolo dell’AI non è determinare il significato per conto di qualcuno, ma aiutare a portare alla superficie momenti che le persone potrebbero voler rivisitare e riflettere in modi che sembrano appropriati per loro. In un mondo in cui gli strumenti digitali plasmano sempre più il modo in cui organizziamo la nostra vita, gli album di foto rimangono profondamente personali.

Dove avviene l’elaborazione conta

C’è anche una questione strutturale su come e dove vengono elaborate le immagini. I sistemi di intelligenza artificiale basati su cloud aggregano e analizzano grandi quantità di dati in remoto – un modello che ha reso possibili avanzamenti straordinari nelle capacità.

Quando si tratta di librerie di foto private, tuttavia, la sensibilità emotiva è molto maggiore. Immagini di bambini, momenti intimi di famiglia e anche esperienze di fine vita sono tra i registri più personali che le persone possiedono. Chiunque stia costruendo tecnologia che interagisce con questo tipo di dati si rende rapidamente conto che le decisioni architettoniche non sono puramente tecniche. Inviare immagini a server remoti per l’analisi può sembrare invasivo, anche quando esistono salvaguardie solide.

I progressi nel hardware mobile stanno rendendo sempre più fattibile l’elaborazione di grandi librerie di foto direttamente sul dispositivo. Ciò consente una comprensione sofisticata delle immagini senza esportare intere raccolte nel cloud. In questo contesto, l’architettura tecnica diventa un riflesso dei valori. La decisione su dove avviene l’elaborazione può influenzare direttamente il controllo che gli individui mantengono sui propri ricordi.

L’etica della memoria automatizzata

Quando l’AI cura le foto, sta influenzando il modo in cui le persone ricordano la loro vita. Un sistema che seleziona “le migliori foto dell’anno” decide implicitamente quali momenti contano di più. Una funzione che evidenzia certi volti più frequentemente può sottilemente plasmare il modo in cui le relazioni vengono visualizzate.

A differenza degli errori nell’ottimizzazione della pubblicità o nella previsione della logistica, gli errori nella cura della memoria sono personali. Una riproposta mal tempestiva di un’immagine può far rivivere inaspettatamente il dolore. Una relazione significativa potrebbe essere sottorappresentata semplicemente perché un algoritmo non è riuscito a riconoscerne l’importanza. Nel tempo, queste selezioni automatizzate possono influenzare silenziosamente il modo in cui le persone narrano la propria vita.

Questo solleva domande difficili. Un algoritmo dovrebbe decidere quali foto rappresentano meglio qualcuno che è passato a miglior vita? Dovrebbe sopprimere immagini che considera dolorose o lasciare quella scelta interamente all’utente? Come dovrebbe comportarsi quando non può determinare con certezza se una scena è celebrativa o cupa?

La progettazione etica in questo spazio dipende dall’umiltà. I sistemi dovrebbero essere trasparenti su quando l’AI sta facendo selezioni e rendere facile la revisione, la modifica e l’annullamento delle scelte automatizzate. I livelli di fiducia per la visualizzazione di contenuti potenzialmente sensibili dovrebbero essere impostati con particolare cautela.

La fiducia come requisito umano

I dibattiti pubblici sull’etica dell’AI spesso si concentrano sulla disinformazione, sui pregiudizi o sulla formazione di modelli su larga scala. Queste conversazioni sono naturalmente necessarie e importanti. Ma al di là dei titoli, c’è un’altra dimensione meno visibile dell’etica dell’AI che si svolge nelle case delle famiglie ogni giorno.

Solo un numero limitato di team sta attualmente costruendo sistemi di intelligenza artificiale che curano librerie di foto personali a scala globale. Stiamo prendendo decisioni che influenzano il modo in cui milioni di storie personali vengono organizzate e ricordate.

Quando qualcuno apre la propria libreria di foto, sta interagendo con la propria storia. Se i sistemi di AI gestiscono quella storia con leggerezza, l’impatto può essere intensamente personale. Una notifica mal tempestiva o un montaggio automatico insensibile può riaprire ferite che hanno impiegato anni a guarire.

Lavorare in questo spazio rende quella responsabilità insolitamente tangibile. Progettare l’AI per la fotografia personale richiede quindi una mentalità diversa – specialmente mentre la scala della cattura delle foto continua a crescere. La sensibilità emotiva non può essere aggiunta dopo il dispiegamento e la privacy non può essere trattata come un’impostazione di sfondo. Queste considerazioni devono plasmare il sistema fin dall’inizio.

Man mano che le capacità dell’AI continuano ad espandersi, la tentazione sarà quella di automatizzare sempre più la nostra vita digitale. Nel regno delle foto personali, tuttavia, il progresso dovrebbe essere misurato diversamente. Piuttosto che efficienza o ottimizzazione, il successo sta nel costruire sistemi che riconoscono il peso emotivo portato dalle immagini che toccano.

Le nostre foto documentano chi siamo e chi siamo stati. Qualsiasi AI affidata a loro deve riconoscere che sta operando in uno degli spazi più umani che la tecnologia possa entrare.