Ваш автомобіль спостерігає за вами: як ми етично інтегруємо штучний інтелект у сучасні транспортні засоби

Ви читали умови використання вашого автомобіля? Це може здатися дурним питанням, але сучасні розумні автомобілі такі ж, як і будь-який інший технологічний продукт чи послуга. Це перекладається на сторінки за сторінками інструкцій щодо даних, і те, що автовиробники можуть збирати та збирають, може вас здивувати. Опубліковано звіт про конфіденційність транспортних засобів Сучасні автомобілі зберігають особисту інформацію про водіїв, таку як їхня трудова історія та медична інформація, а також біометричні дані, такі як розпізнавання облич, та дані споживачів із синхронізованих телефонів. Не пам’ятаєте, щоб погоджувалися на це? Не має значення – політика конфіденційності Subaru стверджує, що пасажири дали згоду на збір даних, просто перебуваючи всередині автомобіля.

Сьогоднішні розумні автомобілі перетворилися на пилососи для збору даних на колесах. І, на жаль, багато автовиробників не ставляться серйозно до своїх зобов'язань щодо конфіденційності та безпеки. Mozilla оцінює розумні автомобілі як найгіршу категорію продуктів для забезпечення конфіденційності споживачів, виявивши, що додатки для знайомств та підключені секс-іграшки публікують детальнішу інформацію про безпеку, ніж сучасні транспортні засоби. Фонд оцінив політики та практики конфіденційності 25 автовиробників, і всі вони не пройшли тести на конфіденційність споживачів. Це серйозні тривожні сигнали, особливо коли сучасні автомобілі оснащені камерами та датчиками і знаходяться на порозі широкого впровадження штучного інтелекту.

Якщо автовиробникам вже не можна довіряти базові дані про водіїв, то розгортання ще складніших систем, які вивчають поведінку водія, його голосові патерни та емоційні стани, вимагає ретельного розгляду. Тож давайте глибше зануримося в сучасний розумний автомобіль і в те, як він може і повинен виглядати завтра, досліджуючи етичну суперечність між покращенням допомоги водієві шляхом збору поведінкових даних та захистом конфіденційності в епоху штучного інтелекту.

Важко довіряти розумним автовиробникам

Озирніться на сучасні автомобілі, і ви швидко помітите, наскільки змінилися панель приладів та інтер'єр з минулих років. Важко не помітити розгалужену мережу датчиків, мікрофонів та камер, і також важко сказати, куди йде ця інформація. Глибоке дослідження Mozilla цього сектору показує, що автовиробники збирають інформацію, починаючи від біометричних даних і закінчуючи детальними психологічними профілями, причому 21 з 25 компаній діляться інформацією про клієнтів з постачальниками послуг та брокерами даних. Ще 19 визнають, що можуть продавати персональні дані.

Це те, що ми бачили раніше цього року. Федеральний позов у ​​квітні виявилося, що Toyota таємно збирала та продавала компанії Progressive Insurance детальні дані про водіння, включаючи місцезнаходження, швидкість та схеми гальмування. Водії виявили це стеження лише тоді, коли подали заявку на страхування та зрозуміли, що компанія вже має записи про їхні водіння. Незважаючи на публічні зобов'язання Toyota щодо конфіденційності клієнтів, автовиробник непомітно монетизував особисті дані про поведінку та комерційно використовував пересування водіїв. Так само. Tesla потрапила в халепу для обміну нав'язливими записами клієнтів через внутрішні чати, включаючи відеозаписи аварій та вміст приватних гаражів.

Такі порушення – це лише верхівка айсберга. Наприклад, Nissan використовує дані розумних автомобілів розробляти поглиблені профілі, що описують уподобання водіїв, їхні характеристики, психологічні тенденції, схильності, поведінку, ставлення, інтелект, здібності та схильності. Так, ви правильно прочитали, Nissan вважає, що може зробити висновок про ваш розум і продати цю оцінку третім сторонам. Таке зловживання даними є поширеним і викликає занепокоєння – і це ще до того, як будуть запроваджені більш інтуїтивні системи зі штучним інтелектом.

Штучний інтелект у розумних автомобілях не такий вже й поганий

Додавання штучного інтелекту виведе розумні автомобілі на новий рівень чуйності та інтуїтивності. Ми недалекі від комп’ютерного зору, яке аналізує вирази обличчя, рухи очей та емоційні стани, щоб виявити сонливість та неуважність. Цей тип технології також може детальніше аналізувати дорожні умови та допомагати нам краще керувати автомобілем (або взагалі не керувати автомобілем – Поява масових автономних автомобілів не за горами і ця технологія може запропонувати останній поштовх).

Так само, чат-боти для розмов у автомобілях зможуть обробляти команди природної мови та мовленнєві шаблони, впливаючи на все: від реакцій на стрес у різних ситуаціях до тем особистих розмов. Завдяки різноманітним вхідним даним та інтелектуальному розумінню, ці системи можуть дізнатися про нас за кермом безмежно.

Проблема полягає в тому, що автовиробники не зарекомендували себе як надійні хранителі цієї майбутньої еволюції. Системи спостереження на основі штучного інтелекту без запобіжних заходів експоненціально посилять ризики для конфіденційності. Там, де Toyota таємно продавала базові моделі водіння, автомобілі з покращеним штучним інтелектом можуть комерціалізувати рівень стресу в режимі реального часу, показники здоров'я та інтимні розмови, створюючи психологічні профілі, набагато цінніші та нав'язливіші, ніж будь-що, що ми бачили.

Ключ у впровадженні штучного інтелекту та забезпеченні довіри

Зрозуміло, що досягнення правильного балансу між технологічними інноваціями та конфіденційністю водія має першочергове значення в наступному розділі розвитку розумних автомобілів. Забезпечення цього починається з обробки всіх даних всередині автомобіля. Наприклад, Edge AI обробляє конфіденційні біометричні та поведінкові дані локально, тим самим усуваючи потребу в хмарній передачі даних та посередницьких серверах. Такий підхід забезпечує переваги безпеки, такі як виявлення сонливості в режимі реального часу та запобігання зіткненням, водночас запобігаючи доступу автовиробників до необроблених персональних даних, які живлять ці системи.

Ми також можемо зміцнити довіру, лобіюючи суворі регуляторні рамки та обмеження даних. Якщо автомобіль буде оснащений можливостями штучного інтелекту, нам потрібні принципи мінімізації даних, які збирають лише інформацію, важливу для безпеки. Крім того, алгоритмічний аудит може допомогти гарантувати, що системи не створюють психологічні профілі, які можна експлуатувати.

Для підвищення безпеки слід розглянути й інші фундаментальні технології. До них належать гомоморфне шифрування, завдяки якому системи штучного інтелекту можуть обробляти дані, залишаючись математично захищеними навіть під час аналізу. Аналогічно, протоколи з нульовим розголошенням дозволяють перевіряти відповідність вимогам безпеки без розкриття основних персональних даних, а однорангове з’єднання дозволяє транспортним засобам безпосередньо обмінюватися критично важливими даними безпеки, не маршрутизуючи їх через інших посередників. Знову ж таки, ці технології, що зберігають конфіденційність, доводять, що ми можемо мати інтелектуальні транспортні засоби, не жертвуючи особистою автономією через корпоративні мережі спостереження.

Розумні автомобілі зі штучним інтелектом з’являються, але спочатку ми повинні придушити ці проблеми в зародку. Інтеграція цих платформ наступного рівня приносить вражаючі та важливі покращення функціональності, безпеки та ефективності, але – і це велике «але» – поточний стан ігнорування даних цього не вирішить. Споживачі не повинні читати умови використання свого автомобіля, щоб знати, що їхню конфіденційність поважають.

Натомість автовиробникам потрібно покращити свої навички, а виробникам платформ – створити міцніші основи даних, де безпека є невід'ємною частиною рішення.