Váš vůz vás sleduje: Jak eticky integrovat umělou inteligenci do moderních vozidel

Přečetli jste si podmínky použití vašeho vozu? Možná to zní jako hloupá otázka, ale moderní chytré vozy jsou stejně jako jakýkoli jiný technologický produkt nebo služba. To znamená stránky a stránky směrnic pro údaje – a co automobilky mohou a skutečně sbírají, vás může překvapit. Zpráva o soukromí vozidel odhalila, že moderní vozy ukládají osobní informace o řidičích, jako je jejich pracovní historie a zdravotní informace, stejně jako biometrická data, jako je rozpoznávání obličeje a spotřebitelská data ze synchronizovaných telefonů. Nepamatuji si, že bych s tím souhlasil? To nevadí – zásady ochrany osobních údajů Subaru uvádějí, že cestující souhlasili se sběrem dat tím, že jsou uvnitř vozu.

Dnešní chytré vozy se staly vysavači sběru dat na kolech. A bohužel, mnoho automobiliek nebere vážně své závazky k ochraně soukromí a bezpečnosti. Mozilla hodnotí chytré vozy jako nejhorší kategorii produktů pro spotřebitelské soukromí, přičemž zjistila, že aplikace pro randění a propojené sexuální hračky zveřejňují více podrobných bezpečnostních informací než moderní vozidla. Nadace vyhodnotila zásady ochrany osobních údajů a postupy 25 automobiliek a všechny nesplnily její testy na spotřebitelské soukromí. To jsou obrovské červené vlajky, zejména když moderní vozy jsou vybaveny kamerami a senzory a jsou na pokraji široké integrace umělé inteligence.

Pokud automobilky již nedokázaly prokázat, že jsou důvěryhodnými správci základních údajů o řidičích, nasazení ještě sofistikovanějších systémů, které se učí z chování řidiče, vzorců hlasu a emocionálních stavů, vyžaduje pečlivé zvážení. Takže se pojďme podívat na chytrý vůz dneška a na to, jak by měl vypadat zítra, a prozkoumejme etické napětí mezi zlepšováním asistence řidiče prostřednictvím sběru dat o chování a ochranou soukromí ve věku umělé inteligence.

Je těžké důvěřovat chytrým automobilkám

Podívejte se kolem moderních vozů a rychle si všimnete, jak se změnilo palubní vybavení a interiér oproti minulosti. Je těžké přehlédnout rozsáhlou síť senzorů, mikrofonů a kamer, a je také těžké říci, kam tyto informace putují. Mozillaův hluboký pohled do tohoto sektoru ukazuje, že automobilky sbírají informace od biometrických dat po detailní psychologické profily, přičemž 21 z 25 sdílí informace o zákaznících se službami a prodejci dat. Další 19 přiznávají, že mohou prodávat osobní údaje.

To je něco, co jsme viděli dříve tohoto roku. Spolkový žalobu v dubnu odhalila, že Toyota tajně sbírala a prodávala detailní data o jízdě – včetně polohy, rychlosti a brzdných vzorců – pojišťovně Progressive. Řidiči zjistili, že tato dohlednost existuje, až když požádali o pojištění a uvědomili si, že společnost již má jejich záznamy o jízdě. Navzdory veřejným závazkům Toyota k ochraně soukromí zákazníků automobilka tajně komerčně využívala intimitní behaviorální údaje a vykořisťovala pohyby řidičů. Podobně Tesla se dostala do potíží za sdílení invazivních záznamů zákazníků prostřednictvím interních chatových místností, včetně záběrů nehod a soukromého obsahu garáží.

Tyto druhy porušení jsou pouze špičkou ledovce. Nissan, například, využívá data z chytrých vozů k vytvoření podrobných profilů, které popisují preference řidičů, charakteristiky, psychologické trendy, predispozice, chování, postoje, inteligenci, schopnosti a dovednosti. Ano, jste to správně četli, Nissan se domnívá, že může odhadnout, jak jste chytří, a tuto evaluaci prodat třetím stranám. Takový zneužití dat je široce rozšířené a znepokojivé – a to je ještě předtím, než budou zavedeny intuitivnější systémy s umělou inteligencí.

Chytrá auta s umělou inteligencí nejsou všechny špatné

Přidání umělé inteligence zvýší chytré vozy na novou úroveň reaktivity a intuitivnosti. Není daleko do počítačového vidění, které analyzuje mimiku, pohyby očí a emocionální stavy, aby detekovalo ospalost a rozptýlení. Tato technologie může také blíže prozkoumat podmínky na silnici a pomoci nám lépe řídit (nebo vůbec ne – hlavní proud autonomních vozidel není daleko a tato technologie by mohla nabídnout finální impuls).

Podobně, konverzační chatboty uvnitř vozidla budou moci zpracovat přirozené jazykové příkazy a vzorce řeči, informující vše od stresových reakcí během různých scénářů po osobní konverzační témata. Podporované různými vstupy a inteligentním pochopením, nebe je hranice pro to, co tyto systémy mohou naučit o nás za volantem.

Problém je, že automobilky dosud neprokázaly, že jsou důvěryhodnými správci této nadcházející evoluce. Systémy umělé inteligence bez záruk by exponenciálně zvýšily rizika pro soukromí. Kde Toyota tajně prodávala základní vzorce jízdy, vozidla s umělou inteligencí by mohla komerčně využívat reálné stresové úrovně, zdravotní indikátory a intimitní konverzace, vytvářející psychologické profily daleko více cenné a invazivní než cokoliv, co jsme dosud viděli.

Klíč je zavést umělou inteligenci a zajistit důvěru

Zjevně, nalezení správné rovnováhy mezi technologickou inovací a ochranou soukromí řidičů je zásadní v příští kapitole chytrých vozidel. Zajištění toho začíná zpracováním všech dat uvnitř vozidla. Edge AI, například, zpracovává citlivá biometrická a behaviorální data místně, eliminuje tak potřebu přenosu do cloudu a middleman serverů. Tento přístup umožňuje bezpečnostní výhody – jako reálnou detekci ospalosti a prevenci srážek – zatímco brání automobilkám v přístupu k surovým osobním údajům, které pohánějí tyto systémy.

Můžeme také budovat důvěru tím, že budeme lobbovat za přísné regulační rámce a zábrany pro data. Pokud vůz má mít schopnosti umělé inteligence, potřebujeme principy minimalizace dat, které sbírají pouze bezpečnostně nezbytné informace. Kromě toho, algoritmické audity by mohly pomoci zajistit, že systémy nevytvářejí využitelné psychologické profily.

Další základní technologie by měly být zvažovány pro zlepšení bezpečnosti. Tyto zahrnují homomorfní šifrování, aby systémy umělé inteligence mohly zpracovávat data, zatímco zůstávají matematicky chráněná, i během analýzy. Podobně, protokoly s nulovou znalostí umožňují verifikaci souladu s bezpečností bez odhalení základních osobních údajů, a peer-to-peer připojení umožňuje vozidlům sdílet kritické bezpečnostní informace přímo bez směrování přes jiné zprostředkovatele. Opět, tyto technologie ochrany soukromí prokazují, že můžeme mít inteligentní vozidla bez toho, abychom se vzdali osobní autonomie korporátním sítím dohledu.

Chytrá auta s umělou inteligencí jsou na cestě, ale musíme nejprve vyřešit tyto problémy. Existují působivé a důležité funkční, bezpečnostní a efektivitní zisky z integrace těchto nadcházejících platforem, ale – a je to velký ale – současný stav zanedbání dat nebude stačit. Spotřebitelé by neměli muset číst podmínky použití svého vozu, aby věděli, že jejich soukromí je respektováno.

Místo toho automobilky potřebují zvýšit svou hru, a tvůrci platforem musí vybudovat silnější datové základy, kde bezpečnost je součástí řešení.