La tua auto ti sta osservando: come integrare eticamente l’AI nelle moderne vetture

Hai letto le condizioni di utilizzo della tua auto? Potrebbe sembrare una domanda sciocca, ma le moderne auto intelligenti sono come qualsiasi altro prodotto tecnologico o servizio. Ciò si traduce in pagine e pagine di linee guida sui dati – e ciò che i costruttori di auto possono e fanno raccogliere potrebbe sorprenderti. Un rapporto sulla privacy dei veicoli ha rivelato che le auto moderne salvano informazioni personali sui conducenti, come la storia lavorativa e le informazioni mediche, nonché biometriche come il riconoscimento facciale e i dati dei consumatori dai telefoni sincronizzati. Non ricordi di aver acconsentito a ciò? Non importa – la politica di privacy di Subaru afferma che i passeggeri hanno acconsentito alla raccolta dei dati semplicemente entrando in auto.

Le auto intelligenti di oggi sono diventate vere e proprie aspirapolveri per la raccolta dei dati. E, purtroppo, molti costruttori di auto non prendono sul serio il loro impegno per la privacy e la sicurezza. Mozilla valuta le auto intelligenti come la peggiore categoria di prodotti per la privacy dei consumatori, scoprendo che le app di incontri e i sex toy connessi pubblicano informazioni di sicurezza più dettagliate rispetto alle auto moderne. La fondazione ha valutato le politiche di privacy e le pratiche di 25 costruttori di auto e tutti hanno fallito i test di privacy dei consumatori. Questi sono enormi campanelli d’allarme, soprattutto quando le auto moderne sono dotate di telecamere e sensori e sono sull’orlo di una vasta integrazione dell’AI.

Se i costruttori di auto non si sono dimostrati degni di fiducia per quanto riguarda i dati di base dei conducenti, l’implementazione di sistemi ancora più sofisticati che apprendono dal comportamento dei conducenti, dai modelli vocali e dagli stati emotivi richiede una attenta considerazione. Quindi, analizziamo più da vicino l’auto intelligente di oggi e come dovrebbe essere domani, esaminando la tensione etica tra il miglioramento dell’assistenza alla guida attraverso la raccolta dei dati comportamentali e la protezione della privacy nell’era dell’AI.

È difficile fidarsi dei costruttori di auto intelligenti

Guarda intorno alle auto moderne e noterai subito quanto è cambiato il cruscotto e l’interno rispetto a quelli di un tempo. È difficile non notare la vasta rete di sensori, microfoni e telecamere, e anche difficile dire dove vada a finire tutta questa informazione. L’analisi approfondita di Mozilla nel settore mostra che i costruttori di auto raccolgono informazioni che vanno dai dati biometrici a profili psicologici dettagliati, con 21 dei 25 che condividono informazioni sui clienti con fornitori di servizi e broker di dati. Un altro 19 ammette di poter vendere dati personali.

Questo è qualcosa che abbiamo visto accadere all’inizio di quest’anno. Una causa federale ad aprile ha rivelato che Toyota ha raccolto e venduto segretamente dati di guida dettagliati – compresa la posizione, la velocità e i modelli di frenata – a Progressive Insurance. I conducenti hanno scoperto questa sorveglianza solo quando hanno presentato domanda di assicurazione e si sono resi conto che la compagnia già possedeva i loro dati di guida. Nonostante gli impegni pubblici di Toyota per la privacy dei clienti, il costruttore di auto stava monetizzando segretamente i dati comportamentali intimi e sfruttando commercialmente i movimenti dei conducenti. Allo stesso modo, Tesla si è trovata in difficoltà per aver condiviso registrazioni invasive dei clienti attraverso chat room interne, comprese immagini di incidenti e contenuti di garage privati.

Questi tipi di violazioni sono solo la punta dell’iceberg. Nissan, ad esempio, utilizza i dati delle auto intelligenti per sviluppare profili approfonditi che descrivono le preferenze dei conducenti, le caratteristiche, le tendenze psicologiche, le predisposizioni, il comportamento, gli atteggiamenti, l’intelligenza, le capacità e le attitudini. Sì, hai letto bene, Nissan crede di poter dedurre quanto sei intelligente e venderne la valutazione a terze parti. Un tale abuso dei dati è diffuso e preoccupante – e questo prima che vengano introdotti sistemi più intuitivi con l’AI.

L’AI delle auto intelligenti non è tutta cattiva

L’aggiunta dell’AI eleverà le auto intelligenti a un nuovo livello di risposta e intuizione. Non siamo lontani da una visione computerizzata che analizza le espressioni facciali, i movimenti oculari e gli stati emotivi per rilevare la sonnolenza e la distrazione. Questa tecnologia può anche esaminare più da vicino le condizioni stradali e aiutarci a guidare meglio (o non guidare affatto – le auto a guida autonoma non sono lontane e questa tecnologia potrebbe offrire uno slancio finale).

Allo stesso modo, i chatbot conversazionali all’interno dell’auto saranno in grado di elaborare comandi vocali e modelli di linguaggio naturale, informando tutto, dalle risposte allo stress durante diversi scenari ai temi di conversazione personali. Supportati da vari input e comprensione intelligente, il cielo è il limite per ciò che questi sistemi possono imparare su di noi al volante.

Il problema è che i costruttori di auto non si sono dimostrati affidabili custodi di questa evoluzione imminente. I sistemi di sorveglianza AI senza salvaguardie amplificherebbero esponenzialmente i rischi per la privacy. Dove Toyota ha venduto segretamente modelli di guida di base, le auto con AI potrebbero commercializzare livelli di stress in tempo reale, indicatori di salute e conversazioni intime, creando profili psicologici molto più preziosi e invasivi di qualsiasi cosa abbiamo visto.

La chiave è introdurre l’AI e garantire la fiducia

È chiaro che trovare il giusto equilibrio tra innovazione tecnologica e privacy dei conducenti è fondamentale nel prossimo capitolo delle auto intelligenti. Assicurarsi che ciò accada inizia con l’elaborazione di tutti i dati all’interno del veicolo. L’AI edge, ad esempio, elabora dati biometrici e comportamentali sensibili localmente, eliminando così la necessità di trasmissione cloud e server intermedi. Questo approccio consente benefici per la sicurezza – come la rilevazione della sonnolenza in tempo reale e la prevenzione delle collisioni – mentre impedisce ai costruttori di auto di accedere ai dati personali grezzi che alimentano questi sistemi.

Possiamo anche costruire fiducia facendo pressione per quadri regolatori rigorosi e parapetti per i dati. Se un’auto deve avere capacità AI, abbiamo bisogno di principi di minimizzazione dei dati che raccolgono solo informazioni essenziali per la sicurezza. Inoltre, l’audit degli algoritmi potrebbe aiutare a garantire che i sistemi non creino profili psicologici sfruttabili.

Altre tecnologie fondamentali dovrebbero essere prese in considerazione per migliorare la sicurezza. Queste includono la crittografia omomorfica in modo che i sistemi AI possano elaborare i dati mentre rimangono matematicamente protetti anche durante l’analisi. Allo stesso modo, i protocolli a conoscenza zero consentono la verifica della conformità alla sicurezza senza rivelare i dati personali sottostanti, e la connettività peer-to-peer consente ai veicoli di condividere informazioni di sicurezza critiche direttamente senza passare attraverso altri intermediari. Ancora una volta, queste tecnologie di protezione della privacy dimostrano che possiamo avere veicoli intelligenti senza rinunciare all’autonomia personale alle reti di sorveglianza aziendale.

Le auto intelligenti con AI stanno arrivando, ma dobbiamo prima risolvere questi problemi. Ci sono funzionalità, sicurezza e guadagni di efficienza impressionanti e importanti nell’integrare queste piattaforme di livello successivo, ma – e sono un grande ma – l’attuale stato di disprezzo per i dati non va bene. I consumatori non dovrebbero dover leggere le condizioni di utilizzo della loro auto per sapere che la loro privacy è rispettata.

Invece, i costruttori di auto devono migliorare il loro gioco e i creatori di piattaforme devono costruire fondamenta di dati più solide in cui la sicurezza è parte integrante della soluzione.