Ваш автомобіль спостерігає за вами: як ми етично інтегруємо штучний інтелект у сучасні автомобілі

Чи читали ви умови та умови використання вашого автомобіля? Це може звучати як дурне питання, але сучасні розумні автомобілі подібні до будь-якого іншого технологічного продукту або послуги. Це означає сторінки та сторінки даних керівництв – і те, що виробники автомобілів можуть і роблять збором даних, може вас здивувати. Звіт про приватність автомобілів показав, що сучасні автомобілі зберігають особисту інформацію про водіїв, таку як їх історія зайнятості та медична інформація, а також біометричні дані, такі як розпізнавання облич та дані споживачів з синхронізованих телефонів. Не пам’ятаєте, щоб погодилися на це? Не має значення – політика конфіденційності Subaru підтримує, що пасажири погодилися на збір даних просто тим, що перебувають у автомобілі.

Сучасні розумні автомобілі стали вакуумними чистильниками даних на колесах. І, на жаль, багато виробників автомобілів не сприймають серйозно свою зобов’язання щодо конфіденційності та безпеки. Mozilla оцінює розумні автомобілі як найгіршу категорію продуктів для конфіденційності споживачів, виявивши, що програми для знайомств та інтерактивні іграшки публікують більше інформації про безпеку, ніж сучасні автомобілі. Фонд оцінив політику конфіденційності та практику 25 виробників автомобілів і всі вони не пройшли тест на конфіденційність споживачів. Це великі червоні прапори, особливо коли сучасні автомобілі оснащені камерами та датчиками, і знаходяться на порозі широкого впровадження штучного інтелекту.

Якщо виробники автомобілів вже не можуть бути довіреними щодо базових даних водіїв, розгортання ще більш складних систем, які вчаться на поведінці водіїв, голосових патернах та емоційних станах, вимагає ретельного розгляду. Тому давайте глибше розглянемо розумний автомобіль сьогодні і те, яким він повинен бути завтра, розглядаючи етичну напруженість між покращенням допомоги водієві за допомогою збору поведінкових даних та захистом конфіденційності в епоху штучного інтелекту.

Важко довіряти розумним виробникам автомобілів

Подивіться навколо сучасних автомобілів, і ви швидко помітите, як сильно змінився داشборд та інтер’єр порівняно з минулим. Важко не помітити розгорнуту мережу датчиків, мікрофонів та камер, і також важко сказати, куди йде інформація. Глибокий аналіз Mozilla цього сектора показує, що виробники автомобілів збирають інформацію, починаючи від біометричних даних до детальних психологічних профілів, причому 21 з 25 ділиться інформацією клієнтів з постачальниками послуг та брокерами даних. Ще 19 визнають, що можуть продавати особисті дані.

Це те, що ми бачили раніше цього року. Федеральний судовий процес у квітні показав, що Toyota таємно збирали та продавали детальну інформацію про водіння – включаючи місце розташування, швидкість та гальмівні патерни – компанії Progressive Insurance. Водії дізналися про це спостереження лише тоді, коли подали заявку на страхування та зрозуміли, що компанія вже мала їхні водійські записи. Незважаючи на публічні зобов’язання Toyota щодо конфіденційності клієнтів, виробник автомобілів тихо монетизував інтимні поведінкові дані та комерційно експлуатував рухи водіїв. Аналогічно, Tesla потрапила у скандал за те, що поділилася інвазивними записами клієнтів через внутрішні чати, включаючи кадри аварій та приватного вмісту гаража.

Ці порушення лише верхівка айсберга. Nissan, наприклад, використовує дані розумного автомобіля для розробки детальних профілів, які описують переваги водіїв, характеристики, психологічні тенденції, схильності, поведінку, ставлення, інтелект, здібності та нахили. Так, ви прочитали правильно, Nissan вважає, що може зробити висновок про ваш інтелект та продати цю оцінку третім сторонам. Такий зловживання даними є поширеним та занепокоєнням – і це ще до того, як будуть введені більш інтуїтивні системи з штучним інтелектом.

Штучний інтелект розумних автомобілів не весь поганий

Додавання штучного інтелекту підніме розумні автомобілі на новий рівень реакції та інтуїтивності. Ми не далеко від комп’ютерного зору, який аналізує вирази обличчя, рухи очей та емоційні стани для виявлення сонливості та відволікання. Цей тип технології також може більш детально переглянути умови дороги та допомогти нам краще водити (або не водити зовсім – автономні автомобілі не далеко і ця технологія могла б запропонувати остатній поштовх).

Аналогічно, чат-боти у автомобілі зможуть обробляти природні мовні команди та голосові патерни, інформуючи все, від реакцій на стрес під час різних сценаріїв до особистих тем розмов. Підтримувані різними входами та розумним розумінням, небо – це межа для того, що ці системи можуть дізнатися про нас за кермом.

Проблема полягає в тому, що виробники автомобілів ще не довели себе як довірених зберігачів цієї майбутньої еволюції. Системи спостереження за штучним інтелектом без заходів безпеки будуть експоненціально збільшувати ризики конфіденційності. Де Toyota таємно продавала базові патерни водіння, автомобілі з підтримкою штучного інтелекту могли б комерціалізувати рівні стресу в реальному часі, індикатори здоров’я та інтимні розмови, створюючи психологічні профіль, набагато більш цінний та інвазивний, ніж все, що ми бачили раніше.

Ключем є введення штучного інтелекту та забезпечення довіри

Чисто, встановлення правильного балансу між технологічними інноваціями та конфіденційністю водіїв є найважливішим у наступному розділі розумних автомобілів. Забезпечення цього починається з обробки всіх даних у автомобілі. Країнний штучний інтелект, наприклад, обробляє чутливі біометричні та поведінкові дані локально, тим самим усуваючи необхідність передачі даних у хмару та проміжних серверів. Цей підхід забезпечує безпеку – як виявлення сонливості в реальному часі та уникнення зіткнень – при цьому запобігає доступу виробників автомобілів до сирої особистої інформації, яка живить ці системи.

Ми також можемо будувати довіру, відстоюючи суворі нормативні рамки та захисні заходи щодо даних. Якщо автомобіль буде оснащений можливостями штучного інтелекту, нам потрібні принципи мінімалізації даних, які збирають лише інформацію, необхідну для безпеки. Крім того, аудит алгоритмів міг би допомогти забезпечити, що системи не створюють експлуатованих психологічних профілів.

Інші фундаментальні технології повинні бути розглянуті для підвищення безпеки. До них належить гомоморфне шифрування, щоб системи штучного інтелекту могли обробляти дані, залишаючи їх математично захищеними навіть під час аналізу. Аналогічно, протоколи з нулевим знанням дозволяють перевірити відповідність вимогам безпеки без розкриття основної особистої інформації, а 点-точкова зв’язок дозволяє автомобілям обмінюватися критичною інформацією про безпеку безпосередньо без маршрутизації через інших посередників. Знову ж таки, ці технології, що зберігають конфіденційність, доводять, що ми можемо мати розумні автомобілі без відмови від особистої автономії перед корпоративними мережами спостереження.

Автомобілі з підтримкою штучного інтелекту вже йдуть, але нам потрібно спочатку вирішити ці проблеми. Є вражаючі та важливі функції, безпека та ефективність від інтеграції цих платформ наступного рівня, але – і це велике але – поточний стан зневаги до даних не пройде. Споживачі не повинні читати умови використання свого автомобіля, щоб знати, що їхня конфіденційність поважається.

Натомість виробники автомобілів повинні підвищити свою гру, а виробники платформ повинні створити сильніші дані основи, де безпека є частиною рішення.