Ваш автомобіль спостерігає за вами: як ми етично інтегруємо штучний інтелект у сучасні транспортні засоби

Чи читали ви умови та умови використання вашого автомобіля? Це може здатися дурним питанням, але сучасні розумні автомобілі подібні до будь-якого іншого технічного продукту чи послуги. Це означає сторінки та сторінки керівництва з даних – і те, що виробники автомобілів можуть і роблять колекцію даних, може вас здивувати. Звіт про конфіденційність автомобілів показав, що сучасні автомобілі зберігають особисту інформацію про водіїв, як їхню історію працевлаштування та медичну інформацію, а також біометричні дані, такі як розпізнавання облич та дані споживачів з синхронізованих телефонів. Не пам’ятаєте, щоб погодилися на це? Це не має значення – політика конфіденційності Subaru стверджує, що пасажири погодилися на збір даних просто тим, що знаходяться всередині автомобіля.

Сучасні розумні автомобілі стали вакуумними чистильниками даних на колесах. І, на жаль, багато виробників автомобілів не сприймають свою зобов’язання щодо конфіденційності та безпеки серйозно. Mozilla оцінює розумні автомобілі як найгіршу категорію продуктів для конфіденційності споживачів, виявивши, що програми для знайомств та підключені секс-іграшки публікують більш детальну інформацію про безпеку, ніж сучасні транспортні засоби. Фонд оцінив політики конфіденційності та практики 25 виробників автомобілів і всі вони не пройшли тести на конфіденційність споживачів. Це великі червоні прапори, особливо коли сучасні автомобілі оснащені камерами та датчиками, і знаходяться на межі широкої інтеграції штучного інтелекту.

Якщо виробники автомобілів вже не можуть бути довіреними щодо базових даних водіїв, розгортання ще більш складних систем, які вчаться на поведінці водіїв, голосових патернах та емоційних станах, вимагає ретельного розгляду. Тому давайте глибше розглянемо розумний автомобіль сьогодні та те, яким він повинен бути завтра, розглядаючи етичну напруженість між покращенням допомоги водієві через збір даних про поведінку та захистом конфіденційності в епоху штучного інтелекту.

Важко довіряти виробникам розумних автомобілів

Подивіться навколо сучасних автомобілів, і ви швидко помітите, як сильно змінився داشборд та інтер’єр порівняно з минулим. Важко не помітити розгорнуту мережу датчиків, мікрофонів та камер, і також важко сказати, куди йде інформація. Глибокий аналіз Mozilla цього сектора показує, що виробники автомобілів збирають інформацію, починаючи від біометричних даних до детальних психологічних профілів, з 21 з 25, які діляться інформацією клієнтів з постачальниками послуг та брокерами даних. Ще 19 визнають, що можуть продавати особисті дані.

Це щось, що ми бачили раніше цього року. Федеральний судовий процес у квітні показав, що Toyota таємно збирали та продавали детальну інформацію про водіння – включаючи місце розташування, швидкість та гальмівні патерни – компанії Progressive Insurance. Водії дізналися про це спостереження лише тоді, коли вони подали заявку на страхування та зрозуміли, що компанія вже мала їхні записи про водіння. Незважаючи на публічні зобов’язання Toyota щодо конфіденційності клієнтів, виробник автомобілів тихо монетизував інтимні дані про поведінку та комерційно експлуатував рухи водіїв. Аналогічно, Tesla потрапила у складну ситуацію через спільне використання інвазивних записів клієнтів через внутрішні чати, включаючи кадри аварій та приватного вмісту гаража.

Ці порушення лише вершина айсберга. Nissan, наприклад, використовує дані розумного автомобіля, щоб розробити детальні профільні дані, які описують переваги водіїв, характеристики, психологічні тенденції, схильності, поведінку, ставлення, інтелект, здібності та нахили. Так, ви прочитали правильно, Nissan вважає, що може зробити висновок про ваш інтелект і продати цю оцінку третім сторонам. Такий зловживання даними поширений і викликає занепокоєння – і це ще до того, як будуть введені більш інтуїтивні системи з штучним інтелектом.

Розумний автомобільний штучний інтелект не все погано

Додавання штучного інтелекту підніме розумні автомобілі на новий рівень реакції та інтуїтивності. Ми не далеко від комп’ютерного зору, який аналізує вирази обличчя, рухи очей та емоційні стани, щоб виявити сонливість та відволікання. Цей тип технології також може більш детально переглянути умови дороги та допомогти нам водити краще (або взагалі не водити – масові автономні автомобілі не далеко і ця технологія могла б запропонувати остатній поштовх).

Аналогічно, чат-боти для автомобілів зможуть обробляти природні мови та голосові патерни, інформуючи все, від реакцій на стрес під час різних сценаріїв до особистих тем розмов. Підтримані різними входами та інтелектуальним розумінням, небо – це межа для того, що ці системи можуть дізнатися про нас за кермом.

Проблема полягає в тому, що виробники автомобілів ще не довели себе як довірені зберігачі цієї майбутньої еволюції. Системи штучного інтелекту без захисних заходів будуть експоненціально посилювати ризики конфіденційності. Де Toyota таємно продавала базові патерни водіння, автомобілі з підтримкою штучного інтелекту могли б комерціалізувати рівні стресу в реальному часі, індикатори здоров’я та інтимні розмови, створюючи психологічні профільні дані, які значно цінніші та інвазивніші, ніж все, що ми бачили.

Ключем є введення штучного інтелекту та забезпечення довіри

Чисто, досягнення правильного балансу між технологічною інновацією та конфіденційністю водіїв є найважливішим у наступному розділі розумних автомобілів. Перш за все, це відбувається шляхом обробки всіх даних всередині автомобіля. Країчний штучний інтелект, наприклад, обробляє чутливі біометричні та поведінкові дані локально, тим самим усуваючи необхідність передачі даних у хмару та сервери-посередники. Цей підхід дозволяє забезпечити безпеку – як виявлення сонливості в реальному часі та уникнення зіткнень – при цьому запобігаючи доступу виробників автомобілів до сирої особистої інформації, яка живить ці системи.

Ми також можемо будувати довіру, відстоюючи суворі нормативні рамки та захисні перешкоди для даних. Якщо автомобіль буде оснащений можливостями штучного інтелекту, нам потрібні принципи мінімалізації даних, які збирають лише інформацію, необхідну для безпеки. Крім того, алгоритмічна перевірка могла б допомогти забезпечити, що системи не створюють експлуатованих психологічних профілів.

Інші фундаментальні технології повинні бути розглянуті для підвищення безпеки. До них належить гомоморфне шифрування, щоб штучні інтелектові системи могли обробляти дані, залишаючи їх математично захищеними навіть під час аналізу. Аналогічно, протоколи з нульовим знанням дозволяють перевірити відповідність вимогам безпеки без розкриття основних особистих даних, а протокол зв’язку між рівними дозволяє транспортним засобам обмінюватися критичною інформацією про безпеку безпосередньо без маршрутизації через інші посередники. Знову ж таки, ці технології захисту конфіденційності доводять, що ми можемо мати розумні транспортні засоби без відмови від особистої автономії корпоративним мережам спостереження.

Автомобілі з підтримкою штучного інтелекту вже йдуть, але ми повинні спочатку вирішити ці проблеми. Є вражаючі та важливі функції, безпека та ефективність від інтеграції цих платформ наступного рівня, але – і це велике але – поточний стан зневаги до даних не пройде. Споживачі не повинні читати умови використання свого автомобіля, щоб знати, що їхня конфіденційність поважається.

Натомість виробники автомобілів повинні підвищити свою гру, а творці платформ повинні будувати сильніші дані фундаментів, де безпека є частиною рішення.