Ваш автомобиль наблюдает за вами: Как мы этично интегрируем ИИ в современные транспортные средства

Вы читали условия и положения вашего автомобиля? Это может показаться глупым вопросом, но современные умные автомобили похожи на любой другой технологический продукт или услугу. Это переводится на страницы и страницы руководств по данным – и то, что производители автомобилей могут и действительно собирают, может вас удивить. Отчет о конфиденциальности транспортных средств показал, что современные автомобили сохраняют личную информацию о водителях, такую как история трудоустройства и медицинская информация, а также биометрические данные, такие как распознавание лиц и данные потребителей из синхронизированных телефонов. Не помните, что согласились на это? Не имеет значения – политика конфиденциальности Subaru гласит, что пассажиры согласились на сбор данных просто находясь внутри автомобиля.

Сегодня умные автомобили стали пылесосами для сбора данных на колесах. И, к сожалению, многие производители автомобилей не воспринимают серьезно свою приверженность конфиденциальности и безопасности. Mozilla оценивает умные автомобили как худшую категорию продукции для конфиденциальности потребителей, обнаружив, что приложения для знакомств и подключенные секс-игрушки публикуют более подробную информацию о безопасности, чем современные транспортные средства. Фонд оценил политику конфиденциальности и практику 25 производителей автомобилей и все они не прошли тесты на конфиденциальность потребителей. Это большие красные флаги, особенно когда современные автомобили оснащены камерами и датчиками и находятся на пороге широкой интеграции ИИ.

Если производители автомобилей уже не могут быть доверены с базовыми данными водителей, развертывание еще более сложных систем, которые учатся на поведении водителей, голосовых паттернах и эмоциональных состояниях, требует тщательного рассмотрения. Итак, давайте глубже погрузимся в умный автомобиль сегодня и то, каким он должен быть завтра, изучая этическую напряженность между улучшением помощи водителю посредством сбора поведенческих данных и защитой конфиденциальности в эпоху ИИ.

Трудно доверять производителям умных автомобилей

Посмотрите вокруг современных автомобилей, и вы быстро заметите, как сильно изменилась приборная панель и интерьер по сравнению с прошлым. Трудно не заметить обширную сеть датчиков, микрофонов и камер, и также трудно сказать, куда идет эта информация. Глубокое погружение Mozilla в эту отрасль показывает, что производители автомобилей собирают информацию, варьирующуюся от биометрических данных до подробных психологических профилей, при этом 21 из 25 делится информацией о клиентах с поставщиками услуг и брокерами данных. Еще 19 признают, что они могут продавать личные данные.

Это то, что мы видели ранее в этом году. Федеральный иск в апреле показал, что Toyota тайно собирала и продавала подробные данные о вождении – включая местоположение, скорость и модели торможения – компании Progressive Insurance. Водители обнаружили это наблюдение только тогда, когда они подали заявку на страховку и поняли, что компания уже имела их записи о вождении. Несмотря на публичные обязательства Toyota по конфиденциальности клиентов, производитель автомобилей тихо монетизировал интимные поведенческие данные и коммерчески эксплуатировал движения водителей. Аналогично, Tesla попала в неприятности за обмен инвазивными записями клиентов через внутренние чаты, включая кадры аварий и частного гаражного содержимого.

Эти виды нарушений – только верхушка айсберга. Nissan, например, использует данные умного автомобиля для разработки подробных профилей, которые описывают предпочтения водителей, характеристики, психологические тенденции, предрасположенности, поведение, отношения, интеллект, способности и склонности. Да, вы прочитали правильно, Nissan считает, что может сделать вывод о том, насколько вы умны, и продать эту оценку третьим лицам. Такое злоупотребление данными широко распространено и тревожно – и это еще до введения более интуитивных систем с ИИ.

Умный автомобиль ИИ не все плохо

Добавление ИИ повысит умные автомобили на новый уровень отзывчивости и интуитивности. Мы не далеко от компьютерного зрения, которое анализирует выражения лица, движения глаз и эмоциональные состояния, чтобы обнаружить сонливость и отвлечение. Этот тип технологии также может более внимательно изучить условия дорог и помочь нам водить лучше (или не водить вообще – массовые автономные автомобили не далеко и эта технология могла бы предложить окончательный толчок).

Аналогично, встроенные чат-боты будут способны обрабатывать естественные языковые команды и речевые паттерны, информируя все, от реакций на стресс в разных сценариях до личных тем разговора. Поддержанные различными входными данными и интеллектуальным пониманием, небо – предел тому, что эти системы могут узнать о нас за рулем.

Проблема заключается в том, что производители автомобилей не показали себя заслуживающими доверия как хранители этой надвигающейся эволюции. Системы ИИ-наблюдения без гарантий будут экспоненциально усиливать риски конфиденциальности. Где Toyota тайно продала базовые модели вождения, автомобили с ИИ могут коммерциализировать реальные уровни стресса, индикаторы здоровья и интимные разговоры, создавая психологические профили, намного более ценные и инвазивные, чем все, что мы видели.

Ключ – введение ИИ и обеспечение доверия

Ясно, что достижение правильного баланса между технологической инновацией и конфиденциальностью водителей имеет первостепенное значение в следующей главе умных автомобилей. Обеспечение того, что это происходит, начинается с обработки всех данных внутри транспортного средства. Edge ИИ, например, обрабатывает чувствительные биометрические и поведенческие данные локально, тем самым исключая необходимость в передаче в облако и серверах-посредниках. Этот подход позволяет получить преимущества безопасности – такие как обнаружение сонливости в реальном времени и избежание столкновений – при этом предотвращая доступ производителей автомобилей к сырым личным данным, которые обеспечивают эти системы.

Мы также можем построить доверие, отстаивая строгие нормативные рамки и ограждения данных. Если автомобиль будет иметь возможности ИИ, нам нужны принципы минимизации данных, которые собирают только информацию, необходимую для безопасности. Кроме того, алгоритмическая проверка может помочь обеспечить, что системы не создают эксплуатируемые психологические профили.

Другие основополагающие технологии следует учитывать для улучшения безопасности. Это включает в себя гомоморфное шифрование, чтобы ИИ-системы могли обрабатывать данные, оставаясь математически защищенными даже во время анализа. Аналогично, протоколы с нулевым знанием позволяют проверять соблюдение требований безопасности без раскрытия основополагающих личных данных, а подключение punto-пunto позволяет транспортным средствам делиться критически важными данными безопасности напрямую без маршрутизации через других посредников. Опять же, эти технологии, сохраняющие конфиденциальность, доказывают, что мы можем иметь интеллектуальные транспортные средства без отказа от личной автономии в пользу корпоративных сетей слежки.

ИИ-умные автомобили идут, но мы должны сначала искоренить эти проблемы. Есть впечатляющие и важные функции, преимущества безопасности и эффективности от интеграции этих платформ следующего уровня, но – и это большое но – текущее состояние пренебрежения данными не сработает. Потребители не должны читать условия и положения своего автомобиля, чтобы знать, что их конфиденциальность уважается.

Вместо этого производители автомобилей должны повысить свою игру, а создатели платформ должны построить более прочные основы данных, где безопасность является частью решения.