La tua auto ti sta guardando: come integrare eticamente l’AI nei veicoli moderni

Hai letto i termini e le condizioni della tua auto? Potrebbe sembrare una domanda sciocca, ma le auto intelligenti moderne sono come qualsiasi altro prodotto o servizio tecnologico. Ciò si traduce in pagine e pagine di linee guida sui dati – e ciò che i costruttori di auto possono e fanno raccogliere potrebbe sorprenderti. Un rapporto sulla privacy dei veicoli ha rivelato che le auto moderne salvano informazioni personali sui conducenti, come la storia lavorativa e le informazioni mediche, nonché biometrie come il riconoscimento facciale e i dati dei consumatori da telefoni sincronizzati. Non ricordi di aver acconsentito a ciò? Non importa – la politica di privacy di Subaru afferma che i passeggeri hanno acconsentito alla raccolta dei dati semplicemente essendo all’interno dell’auto.

Le auto intelligenti di oggi sono diventate aspirapolvere per la raccolta dei dati su ruote. E, purtroppo, molti costruttori di auto non prendono seriamente il loro impegno per la privacy e la sicurezza. Mozilla valuta le auto intelligenti come la peggiore categoria di prodotti per la privacy dei consumatori, scoprendo che le app di incontri e i giocattoli sessuali connessi pubblicano più informazioni dettagliate sulla sicurezza rispetto alle auto moderne. La fondazione ha valutato le politiche e le pratiche di privacy di 25 costruttori di auto e tutti hanno fallito i test di privacy dei consumatori. Questi sono grandi segnali di allarme, soprattutto quando le auto moderne sono dotate di telecamere e sensori e sono sull’orlo di una vasta integrazione dell’AI.

Se i costruttori di auto non possono essere considerati affidabili per i dati di base dei conducenti, il dispiegamento di sistemi ancora più sofisticati che apprendono dal comportamento dei conducenti, dai modelli vocali e dagli stati emotivi richiede una attenta considerazione. Quindi, analizziamo più da vicino l’auto intelligente di oggi e ciò che potrebbe e dovrebbe essere domani, esaminando la tensione etica tra il miglioramento dell’assistenza alla guida attraverso la raccolta dei dati comportamentali e la protezione della privacy nell’era dell’AI.

È difficile fidarsi dei costruttori di auto intelligenti

Guarda intorno alle auto moderne e noterai rapidamente quanto il cruscotto e l’interno siano cambiati rispetto al passato. È difficile non notare la vasta rete di sensori, microfoni e telecamere, e anche difficile dire dove vada a finire queste informazioni. L’analisi approfondita di Mozilla nel settore mostra che i costruttori di auto raccolgono informazioni che vanno dai dati biometrici ai profili psicologici dettagliati, con 21 dei 25 che condividono le informazioni dei clienti con i fornitori di servizi e i broker di dati. Un ulteriore 19 ammette di poter vendere dati personali.

Questo è qualcosa che abbiamo visto accadere all’inizio di quest’anno. Una causa federale ad aprile ha rivelato che Toyota ha segretamente raccolto e venduto dati di guida dettagliati – compresa la posizione, la velocità e i modelli di frenata – a Progressive Insurance. I conducenti hanno scoperto questa sorveglianza solo quando hanno richiesto un’assicurazione e si sono resi conto che la compagnia già aveva i loro dati di guida. Nonostante gli impegni pubblici di Toyota alla privacy dei clienti, il costruttore di auto stava silenziosamente monetizzando i dati comportamentali intimi e sfruttando commercialmente i movimenti dei conducenti. Allo stesso modo, Tesla è incappata in problemi per aver condiviso registrazioni invasive dei clienti attraverso chat room interne, comprese immagini di incidenti e contenuti di garage privati.

Questi tipi di violazioni sono solo la punta dell’iceberg. Nissan, ad esempio, utilizza i dati delle auto intelligenti per sviluppare profili approfonditi che descrivono le preferenze, le caratteristiche, le tendenze psicologiche, le predisposizioni, il comportamento, gli atteggiamenti, l’intelligenza, le capacità e le attitudini dei conducenti. Sì, hai letto correttamente, Nissan crede di poter dedurre quanto sei intelligente e vendere questa valutazione a terzi. Questo tipo di abuso dei dati è diffuso e preoccupante – e questo è prima dell’introduzione di sistemi più intuitivi con l’AI.

L’AI delle auto intelligenti non è tutto cattivo

L’aggiunta dell’AI eleverà le auto intelligenti a un nuovo livello di risposta e intuizione. Non siamo lontani dalla visione computerizzata che analizza le espressioni facciali, i movimenti oculari e gli stati emotivi per rilevare la sonnolenza e la distrazione. Questa tecnologia può anche esaminare più da vicino le condizioni stradali e aiutarci a guidare meglio (o non guidare affatto – le auto a guida autonoma non sono lontane e questa tecnologia potrebbe offrire un ultimo impulso).

Inoltre, i chatbot conversazionali all’interno dell’auto saranno in grado di elaborare comandi di linguaggio naturale e modelli vocali, informando tutto, dalle risposte allo stress durante scenari diversi agli argomenti di conversazione personali. Supportati da vari input e comprensione intelligente, il cielo è il limite per ciò che questi sistemi possono imparare su di noi al volante.

Il problema è che i costruttori di auto non si sono dimostrati affidabili custodi di questa evoluzione imminente. I sistemi di sorveglianza dell’AI senza salvaguardie amplificherebbero esponenzialmente i rischi per la privacy. Dove Toyota ha venduto segretamente modelli di guida di base, i veicoli con AI potrebbero commercializzare livelli di stress in tempo reale, indicatori di salute e conversazioni intime, creando profili psicologici molto più preziosi e invasivi di qualsiasi cosa abbiamo visto.

La chiave è introdurre l’AI e garantire la fiducia

È chiaro che trovare il giusto equilibrio tra innovazione tecnologica e privacy dei conducenti è fondamentale nel prossimo capitolo delle auto intelligenti. Assicurarsi che ciò accada inizia con l’elaborazione di tutti i dati all’interno del veicolo. L’AI edge, ad esempio, elabora i dati biometrici e comportamentali sensibili localmente, eliminando così la necessità di trasmissione cloud e server intermedi. Questo approccio consente benefici per la sicurezza – come la rilevazione della sonnolenza in tempo reale e la prevenzione delle collisioni – mentre impedisce ai costruttori di auto di accedere ai dati personali grezzi che alimentano questi sistemi.

Possiamo anche costruire fiducia facendo lobby per rigidi quadri normativi e parapetti per i dati. Se un’auto deve avere capacità di AI, abbiamo bisogno di principi di minimizzazione dei dati che raccolgono solo le informazioni essenziali per la sicurezza. Inoltre, l’audit degli algoritmi potrebbe aiutare a garantire che i sistemi non creino profili psicologici sfruttabili.

Altre tecnologie fondamentali dovrebbero essere considerate per migliorare la sicurezza. Tra queste ci sono l’omomorphic encryption, in modo che i sistemi di AI possano elaborare i dati mentre rimangono matematicamente protetti anche durante l’analisi. Allo stesso modo, i protocolli di conoscenza zero consentono la verifica della conformità alla sicurezza senza rivelare i dati personali sottostanti, e la connettività peer-to-peer consente ai veicoli di condividere informazioni di sicurezza critiche direttamente senza passare attraverso altri intermediari. Ancora una volta, queste tecnologie di protezione della privacy dimostrano che possiamo avere veicoli intelligenti senza rinunciare all’autonomia personale alle reti di sorveglianza aziendale.

Le auto intelligenti con AI stanno arrivando, ma dobbiamo prima eliminare questi problemi. Ci sono guadagni di funzionalità, sicurezza ed efficienza impressionanti e importanti dall’integrazione di queste piattaforme di livello successivo, ma – e sono un grande ma – l’attuale stato di disprezzo per i dati non va bene. I consumatori non dovrebbero dover leggere i termini e le condizioni della loro auto per sapere che la loro privacy è rispettata.

Invece, i costruttori di auto devono alzare il loro gioco, e i creatori di piattaforme devono costruire fondamenta di dati più solide in cui la sicurezza fa parte della soluzione.