Mașina ta te urmărește: Cum integrăm etic inteligența artificială în vehiculele moderne

Ai citit vreodată termenii și condițiile mașinii tale? Poate că sună ca o întrebare stupidă, dar mașinile inteligente moderne sunt la fel ca orice alt produs sau serviciu tehnologic. Acest lucru se traduce în pagini și pagini de ghiduri de date – și ceea ce producătorii de mașini pot și colectează poate să vă surprindă. Un raport de confidențialitate a vehiculelor a dezvăluit că mașinile moderne salvează informații personale despre șoferi, cum ar fi istoricul de angajare și informații medicale, precum și biometrice, cum ar fi recunoașterea facială și datele consumatorilor de la telefoanele conectate. Nu vă amintiți că ați consimțit la această colectare de date? Nu are importanță – politica de confidențialitate a Subaru menține că pasagerii au consimțit la colectarea de date doar prin faptul că se află în mașină.

Mașinile inteligente de astăzi au devenit aspiratoare de colectare a datelor pe roți. Și, din nefericire, mulți producători de mașini nu își iau în serios angajamentul față de confidențialitate și securitate. Mozilla clasifică mașinile inteligente ca fiind cea mai slabă categorie de produse pentru confidențialitatea consumatorilor, constatând că aplicațiile de dating și jucăriile sexuale conectate publică informații de securitate mai detaliate decât vehiculele moderne. Fundația a evaluat politicile de confidențialitate și practicile a 25 de producători de mașini și toți au eșuat testele de confidențialitate a consumatorilor. Acestea sunt semne de avertizare importante, în special având în vedere că mașinile moderne sunt echipate cu camere și senzori și sunt pe punctul de a integra în mod extins inteligența artificială.

Dacă producătorii de mașini nu pot fi încredințați cu datele de bază ale șoferilor, implementarea unor sisteme și mai sofisticate care învață din comportamentul șoferilor, modelele de voce și stările emoționale necesită o considerație atentă. Deci, să facem o analiză mai profundă a mașinii inteligente de astăzi și a ceea ce ar trebui să arate mâine, examinând tensiunea etică dintre îmbunătățirea asistenței pentru șoferi prin colectarea de date comportamentale și protejarea confidențialității în era inteligenței artificiale.

Este greu să ai încredere în producătorii de mașini inteligente

Uitați-vă în jurul mașinilor moderne și veți observa repede cât de mult s-a schimbat tabloul de bord și interiorul față de cel de altădată. Este greu să nu observați rețeaua vastă de senzori, microfoane și camere, și este, de asemenea, greu de spus unde ajung informațiile. Analiza detaliată a Mozillei în acest sector arată că producătorii de mașini colectează informații care variază de la date biometrice la profiluri psihologice detaliate, 21 din 25 partajând informații despre clienți cu furnizori de servicii și brokeri de date. Un total de 19 admit că pot vinde date personale.

Acest lucru este ceva pe care l-am văzut mai devreme acest an. Un proces federal în aprilie a dezvăluit că Toyota a colectat și vândut în secret date detaliate de conducere – inclusiv locație, viteză și modele de frânare – către Progressive Insurance. Șoferii au descoperit această supraveghere doar atunci când au aplicat pentru asigurare și au realizat că compania deja avea înregistrările lor de conducere. În ciuda angajamentului public al Toyota față de confidențialitatea clienților, producătorul de mașini a monetizat în secret datele comportamentale intime și a exploatat comercial mișcările șoferilor. La fel, Tesla a avut probleme pentru că a partajat înregistrări invazive ale clienților prin camere interne, inclusiv imagini cu accidente și conținutul garajelor private.

Aceste tipuri de încălcări sunt doar vârful icebergului. Nissan, de exemplu, utilizează datele mașinilor inteligente pentru a dezvolta profiluri detaliate care descriu preferințele, caracteristicile, tendințele psihologice, predispozițiile, comportamentul, atitudinile, inteligența, abilitățile și aptitudinile șoferilor. Da, ați citit corect, Nissan crede că poate deduce cât de deștept sunteți și poate vinde această evaluare unor terți. Acest tip de abuz de date este răspândit și îngrijorător – și acesta este înainte de introducerea unor sisteme și mai intuitive cu inteligență artificială.

Inteligența artificială a mașinilor inteligente nu este întotdeauna rea

Adăugarea inteligenței artificiale va ridica mașinile inteligente la un nivel nou de răspuns și intuiție. Nu suntem departe de viziunea computerizată care analizează expresiile faciale, mișcările ochilor și stările emoționale pentru a detecta somnolența și distracția. Acest tip de tehnologie poate, de asemenea, să examineze mai atent condițiile drumului și să ne ajute să conducem mai bine (sau deloc – mașinile autonome nu sunt departe și această tehnologie ar putea oferi un impuls final).

La fel, asistenții virtuali din mașină vor putea să proceseze comenzi de limbaj natural și modele de voce, informând totul, de la răspunsurile la stres în diferite scenarii la subiecte de conversație personală. Sprijiniți de diverse intrări și înțelegere inteligentă, cerul este limita pentru ceea ce aceste sisteme pot învăța despre noi în spatele volanului.

Problema este că producătorii de mașini nu și-au dovedit a fi custozii de încredere ai acestei evoluții care vine. Sistemele de supraveghere cu inteligență artificială fără garanții ar amplifica exponențial riscurile pentru confidențialitate. Unde Toyota a vândut în secret modele de conducere de bază, vehiculele cu inteligență artificială îmbunătățită ar putea comercializa niveluri de stres în timp real, indicatori de sănătate și conversații intime, creând profiluri psihologice mult mai valoroase și invazive decât orice am văzut.

Cheia este introducerea inteligenței artificiale și asigurarea încrederii

Este clar că găsirea echilibrului corect între inovația tehnologică și confidențialitatea șoferilor este esențială în următorul capitol al mașinilor inteligente. Asigurarea acestui lucru începe prin procesarea tuturor datelor în interiorul vehiculului. Inteligența artificială de margine, de exemplu, procesează date biometrice și comportamentale sensibile local, eliminând astfel nevoia de transmisie în cloud și servere intermediare. Acest abordaj permite beneficii de securitate – cum ar fi detectarea somnolenței în timp real și evitarea coliziunilor – în timp ce împiedică producătorii de mașini să acceseze datele personale brute care alimentează aceste sisteme.

Putem, de asemenea, să construim încredere prin lobby pentru cadre regulatorii stricte și garduri de date. Dacă o mașină va avea capacități de inteligență artificială, avem nevoie de principii de minimizare a datelor care colectează doar informații esențiale pentru siguranță. Mai mult, auditarea algoritmică ar putea ajuta la asigurarea faptului că sistemele nu creează profiluri psihologice exploatabile.

Alte tehnologii fundamentale ar trebui luate în considerare pentru a îmbunătăți securitatea. Acestea includ criptarea omomorfică, astfel încât sistemele de inteligență artificială să poată procesa datele în timp ce rămân protejate matematic, chiar și în timpul analizei. La fel, protocoalele cu cunoaștere zero permit verificarea conformității cu siguranța fără a dezvălui datele personale subiacente, iar conectivitatea peer-to-peer permite vehiculelor să partajeze informații critice de siguranță direct, fără a trece prin intermediari. Din nou, aceste tehnologii de protejare a confidențialității demonstrează că putem avea vehicule inteligente fără a renunța la autonomia personală în favoarea rețelelor de supraveghere corporatiste.

Mașinile inteligente cu inteligență artificială vin, dar trebuie să rezolvăm mai întâi aceste probleme. Există câștiguri impresionante și importante de funcționalitate, siguranță și eficiență prin integrarea acestor platforme de nivel următor, dar – și este un mare dar – starea actuală a neglijenței datelor nu va funcționa. Consumatorii nu ar trebui să fie nevoiți să citească termenii și condițiile mașinii lor pentru a ști că confidențialitatea lor este respectată.

În schimb, producătorii de mașini trebuie să-și îmbunătățească jocul, iar creatorii de platforme trebuie să construiască fundații de date mai puternice, în care securitatea este parte integrantă a soluției.