Ваш автомобиль наблюдает за вами: Как мы этично интегрируем ИИ в современные транспортные средства

Вы прочитали условия и положения вашего автомобиля? Это может показаться глупым вопросом, но современные умные автомобили похожи на любой другой технологический продукт или сервис. Это означает страницы и страницы руководств по данным – и то, что производители автомобилей могут и действительно собирают, может вас удивить. Отчет о конфиденциальности автомобильных данных показал, что современные автомобили сохраняют личную информацию о водителях, такую как история трудоустройства и медицинская информация, а также биометрические данные, такие как распознавание лиц и данные потребителей из синхронизированных телефонов. Не помните, что согласились на это? Не имеет значения – политика конфиденциальности Subaru гласит, что пассажиры дали согласие на сбор данных просто находясь в автомобиле.

Сегодня умные автомобили стали пылесосами для сбора данных на колесах. И, к сожалению, многие производители автомобилей не воспринимают серьезно свою ответственность за конфиденциальность и безопасность. Mozilla оценивает умные автомобили как худшую категорию продукции для потребительской конфиденциальности, обнаруживая, что приложения для знакомств и подключенные секс-игрушки публикуют более подробную информацию о безопасности, чем современные автомобили. Фонд оценил политику конфиденциальности и практику 25 производителей автомобилей и все они не прошли тесты на потребительскую конфиденциальность. Это большие красные флаги, особенно когда современные автомобили оснащены камерами и датчиками и находятся на пороге широкого внедрения ИИ.

Если производители автомобилей уже не заслуживают доверия при сборе базовых данных о водителях, развертывание еще более сложных систем, которые учатся на поведении водителей, голосовых паттернах и эмоциональных состояниях, требует тщательного рассмотрения. Итак, давайте глубже погрузимся в умный автомобиль сегодня и то, каким он должен быть завтра, изучая этическую напряженность между улучшением помощи водителю посредством сбора поведенческих данных и защитой конфиденциальности в эпоху ИИ.

Трудно доверять производителям умных автомобилей

Взгляните на современные автомобили, и вы быстро заметите, как сильно изменилась приборная панель и интерьер по сравнению с прошлым. Трудно не заметить обширную сеть датчиков, микрофонов и камер, и также трудно сказать, куда điже информация. Глубокое исследование Mozilla этого сектора показывает, что производители автомобилей собирают информацию, варьирующуюся от биометрических данных до подробных психологических профилей, при этом 21 из 25 производителей делятся информацией о клиентах с поставщиками услуг и брокерами данных. Еще 19 признают, что могут продавать личные данные.

Это то, что мы видели ранее в этом году. Федеральный иск в апреле показал, что Toyota тайно собирала и продавала подробные данные о вождении – включая местоположение, скорость и模式 торможения – компании Progressive Insurance. Водители узнали об этом наблюдении только тогда, когда они подали заявку на страховку и поняли, что компания уже имеет их записи о вождении. Несмотря на публичные обязательства Toyota по защите конфиденциальности клиентов, производитель автомобилей тайно монетизировал интимные поведенческие данные и коммерчески эксплуатировал движения водителей. Аналогично, Tesla попала в неприятности за обмен инвазивными записями клиентов через внутренние чаты, включая кадры аварий и частного гаражного содержимого.

Эти виды нарушений – только верхушка айсберга. Nissan, например, использует данные умного автомобиля для разработки подробных профилей, которые описывают предпочтения водителей, характеристики, психологические тенденции, предрасположенности, поведение, отношение, интеллект, способности и склонности. Да, вы правильно прочитали, Nissan считает, что может сделать вывод о том, насколько вы умны, и продать эту оценку третьим лицам. Такой злоупотребление данными широко распространено и вызывает беспокойство – и это еще до введения более интуитивных систем с ИИ.

ИИ умных автомобилей не все плохо

Добавление ИИ повысит умные автомобили на новый уровень отзывчивости и интуитивности. Мы не далеко от компьютерного зрения, которое анализирует выражения лица, движения глаз и эмоциональные состояния, чтобы обнаружить сонливость и отвлекаемость. Этот тип технологии также может более внимательно изучить условия дорог и помочь нам водить лучше (или не водить вообще – массовые автономные автомобили не далеко и эта технология может предложить окончательный толчок).

Аналогично, встроенные в автомобиль чат-боты смогут обрабатывать естественные языковые команды и речевые паттерны, информируя все, от реакций на стресс в разных сценариях до личных тем разговора. Поддержанные различными входами и интеллектуальным пониманием, небо – предел тому, что эти системы могут узнать о нас за рулем.

Проблема заключается в том, что производители автомобилей не показали себя заслуживающими доверия как хранители этой надвигающейся эволюции. Системы наблюдения ИИ без гарантий будут экспоненциально усиливать риски для конфиденциальности. Где Toyota тайно продавала базовые закономерности вождения, автомобили с ИИ могут коммерциализировать реальные уровни стресса, показатели здоровья и интимные разговоры, создавая психологические профили, намного более ценными и навязчивыми, чем все, что мы видели.

Ключом является введение ИИ и обеспечение доверия

Ясно, что достижение правильного баланса между технологической инновацией и конфиденциальностью водителей имеет первостепенное значение в следующей главе умных автомобилей. Обеспечение того, что это происходит, начинается с обработки всех данных внутри автомобиля. Edge ИИ, например, обрабатывает чувствительные биометрические и поведенческие данные локально, тем самым исключая необходимость передачи данных в облако и серверов-посредников. Этот подход обеспечивает преимущества безопасности – такие как обнаружение сонливости и избежание столкновений в реальном времени – при этом предотвращая доступ производителей автомобилей к сырым личным данным, которые обеспечивают эти системы.

Мы также можем построить доверие, отстаивая строгие нормативные рамки и ограничения данных. Если автомобиль будет иметь возможности ИИ, нам нужны принципы минимизации данных, которые собирают только информацию, необходимую для безопасности. Кроме того, аудит алгоритмов может помочь обеспечить, чтобы системы не создавали эксплуатируемые психологические профили.

Другие основные технологии следует учитывать для повышения безопасности. К ним относятся гомоморфное шифрование, чтобы ИИ-системы могли обрабатывать данные, оставаясь математически защищенными даже во время анализа. Аналогично, протоколы с нулевым знанием позволяют проверять соблюдение требований безопасности без раскрытия основной личной информации, а подключение punto-a-punto позволяет автомобилям обмениваться критической информацией о безопасности напрямую без маршрутизации через других посредников. Опять же, эти технологии, сохраняющие конфиденциальность, доказывают, что мы можем иметь интеллектуальные автомобили без отказа от личной автономии в пользу корпоративных сетей наблюдения.

Автомобили с ИИ приближаются, но мы должны сначала решить эти проблемы. Есть впечатляющие и важные функции, преимущества безопасности и эффективности от интеграции этих платформ следующего уровня, но – и это большой но – текущее состояние пренебрежения данными не сработает. Потребителям не следует читать условия и положения своего автомобиля, чтобы знать, что их конфиденциальность уважается.

Вместо этого производители автомобилей должны повысить уровень своей игры, а создатели платформ должны построить более прочные основы данных, где безопасность является неотъемлемой частью решения.