Xe của bạn đang theo dõi bạn: Cách chúng tôi tích hợp AI một cách có đạo đức vào các phương tiện hiện đại

Bạn đã đọc các điều khoản và điều kiện của xe chưa? Nghe có vẻ là một câu hỏi ngớ ngẩn nhưng xe thông minh hiện đại cũng giống như bất kỳ sản phẩm hoặc dịch vụ công nghệ nào khác. Điều này chuyển thành hàng trang hướng dẫn dữ liệu – và những gì các nhà sản xuất ô tô có thể và đang thu thập có thể khiến bạn ngạc nhiên. Một báo cáo về quyền riêng tư của xe được tiết lộ Những chiếc xe hiện đại đang lưu thông tin cá nhân về người lái xe như lịch sử việc làm và thông tin y tế của họ, cũng như dữ liệu sinh trắc học như nhận dạng khuôn mặt và dữ liệu người tiêu dùng từ điện thoại được đồng bộ hóa. Bạn không nhớ đã đồng ý với điều này chưa? Không quan trọng – chính sách bảo mật của Subaru khẳng định rằng hành khách đã đồng ý thu thập dữ liệu chỉ bằng cách ở trong xe.

Những chiếc xe thông minh ngày nay đã trở thành máy hút bụi thu thập dữ liệu trên bánh xe. Và thật không may, nhiều nhà sản xuất ô tô không coi trọng cam kết về quyền riêng tư và bảo mật của họ. Mozilla đánh giá xe thông minh là danh mục sản phẩm tệ nhất về quyền riêng tư của người tiêu dùng, phát hiện ra rằng các ứng dụng hẹn hò và đồ chơi tình dục được kết nối công bố thông tin bảo mật chi tiết hơn so với các phương tiện hiện đại. Nền tảng được đánh giá chính sách và hoạt động bảo mật của 25 hãng sản xuất ô tô và tất cả đều không vượt qua được các bài kiểm tra về quyền riêng tư của người tiêu dùng. Đây là những lá cờ đỏ lớn, đặc biệt là khi những chiếc ô tô hiện đại được trang bị camera và cảm biến, và đang trên bờ vực tích hợp AI rộng rãi.

Nếu các nhà sản xuất ô tô không thể tin tưởng vào dữ liệu lái xe cơ bản, thì việc triển khai các hệ thống thậm chí còn tinh vi hơn, học hỏi từ hành vi, mẫu giọng nói và trạng thái cảm xúc của người lái xe, đòi hỏi phải cân nhắc cẩn thận. Vì vậy, chúng ta hãy đi sâu hơn vào chiếc xe thông minh ngày nay và những gì nó có thể và nên trông như thế nào vào ngày mai, xem xét sự căng thẳng về mặt đạo đức giữa việc cải thiện hỗ trợ lái xe thông qua việc thu thập dữ liệu hành vi so với việc bảo vệ quyền riêng tư trong thời đại AI.

Thật khó để tin tưởng vào các nhà sản xuất ô tô thông minh

Hãy nhìn xung quanh những chiếc xe hiện đại và bạn sẽ nhanh chóng nhận ra bảng điều khiển và nội thất đã thay đổi nhiều như thế nào so với ngày xưa. Thật khó để bỏ qua mạng lưới cảm biến, micrô và camera rộng lớn, và cũng khó để nói thông tin đi đâu. Cuộc tìm hiểu sâu của Mozilla về lĩnh vực này cho thấy các nhà sản xuất ô tô thu thập thông tin từ dữ liệu sinh trắc học đến hồ sơ tâm lý chi tiết, với 21 trong số 25 nhà sản xuất chia sẻ thông tin khách hàng với các nhà cung cấp dịch vụ và nhà môi giới dữ liệu. 19 nhà sản xuất khác thừa nhận họ có thể bán dữ liệu cá nhân.

Đây là điều chúng ta đã thấy xảy ra vào đầu năm nay. Một vụ kiện liên bang vào tháng 4 tiết lộ rằng Toyota đã bí mật thu thập và bán dữ liệu lái xe chi tiết – bao gồm vị trí, tốc độ và kiểu phanh – cho Progressive Insurance. Người lái xe chỉ phát hiện ra sự giám sát này khi họ nộp đơn xin bảo hiểm và nhận ra rằng công ty đã có hồ sơ lái xe của họ. Mặc dù Toyota đã công khai cam kết bảo vệ quyền riêng tư của khách hàng, nhưng hãng sản xuất ô tô này vẫn âm thầm kiếm tiền từ dữ liệu hành vi riêng tư và khai thác thương mại các chuyển động của người lái xe. Tương tự như vậy, Tesla đã gặp rắc rối để chia sẻ các bản ghi âm xâm phạm của khách hàng thông qua các phòng trò chuyện nội bộ, bao gồm cảnh quay vụ tai nạn và nội dung trong gara riêng.

Những vi phạm kiểu này chỉ là phần nổi của tảng băng chìm. Ví dụ, Nissan sử dụng dữ liệu xe thông minh để phát triển hồ sơ chuyên sâu mô tả sở thích, đặc điểm, xu hướng tâm lý, khuynh hướng, hành vi, thái độ, trí thông minh, khả năng và năng khiếu của người lái xe. Vâng, bạn đọc đúng rồi đấy, Nissan tin rằng họ có thể suy ra mức độ thông minh của bạn và bán đánh giá đó cho bên thứ ba. Việc sử dụng sai dữ liệu như vậy rất phổ biến và đáng lo ngại - và điều này diễn ra trước khi các hệ thống trực quan hơn được giới thiệu với AI.

AI của xe thông minh không phải là xấu

Việc bổ sung AI sẽ nâng tầm những chiếc xe thông minh lên một tầm cao mới về khả năng phản ứng và trực giác. Chúng ta không còn xa với tầm nhìn máy tính, có thể phân tích biểu cảm khuôn mặt, chuyển động mắt và trạng thái cảm xúc để phát hiện tình trạng buồn ngủ và mất tập trung. Loại công nghệ này cũng có thể xem xét kỹ hơn tình trạng đường sá và giúp chúng ta lái xe tốt hơn (hoặc không lái xe chút nào – xe tự lái chính thống không còn xa nữa và công nghệ này có thể mang lại bước tiến cuối cùng).

Tương tự như vậy, các chatbot đàm thoại trong xe hơi sẽ có thể xử lý các lệnh ngôn ngữ tự nhiên và các mẫu giọng nói, thông báo mọi thứ từ phản ứng căng thẳng trong các tình huống khác nhau đến các chủ đề trò chuyện cá nhân. Được hỗ trợ bởi nhiều đầu vào khác nhau và sự hiểu biết thông minh, bầu trời là giới hạn cho những gì các hệ thống này có thể tìm hiểu về chúng ta sau tay lái.

Vấn đề là các nhà sản xuất ô tô chưa chứng tỏ mình là người giám hộ đáng tin cậy của sự tiến hóa sắp tới này. Các hệ thống giám sát AI không có biện pháp bảo vệ sẽ khuếch đại theo cấp số nhân các rủi ro về quyền riêng tư. Trong khi Toyota bí mật bán các kiểu lái xe cơ bản, các phương tiện được tăng cường AI có thể thương mại hóa mức độ căng thẳng theo thời gian thực, các chỉ số sức khỏe và các cuộc trò chuyện thân mật, tạo ra các hồ sơ tâm lý có giá trị và xâm phạm hơn nhiều so với bất kỳ thứ gì chúng ta từng thấy.

Chìa khóa là giới thiệu AI và đảm bảo sự tin cậy

Rõ ràng, việc đạt được sự cân bằng phù hợp giữa đổi mới công nghệ và quyền riêng tư của người lái xe là tối quan trọng trong chương tiếp theo của xe thông minh. Đảm bảo điều này xảy ra bắt đầu bằng cách xử lý tất cả dữ liệu trong xe. Ví dụ, Edge AI xử lý dữ liệu sinh trắc học và hành vi nhạy cảm tại địa phương, do đó loại bỏ nhu cầu truyền dữ liệu đám mây và máy chủ trung gian. Cách tiếp cận này mang lại lợi ích về an toàn - như phát hiện buồn ngủ theo thời gian thực và tránh va chạm - đồng thời ngăn các nhà sản xuất ô tô truy cập vào dữ liệu cá nhân thô cung cấp năng lượng cho các hệ thống này.

Chúng ta cũng có thể xây dựng lòng tin bằng cách vận động hành lang cho các khuôn khổ quản lý chặt chẽ và các rào cản dữ liệu. Nếu một chiếc xe sẽ mang theo các khả năng AI, chúng ta cần các nguyên tắc giảm thiểu dữ liệu chỉ thu thập thông tin cần thiết về an toàn. Hơn nữa, kiểm toán thuật toán có thể giúp đảm bảo các hệ thống không tạo ra các hồ sơ tâm lý có thể khai thác được.

Các công nghệ nền tảng khác nên được xem xét để tăng cường an toàn. Chúng bao gồm mã hóa đồng hình để các hệ thống AI có thể xử lý dữ liệu trong khi dữ liệu vẫn được bảo vệ về mặt toán học ngay cả trong quá trình phân tích. Tương tự như vậy, các giao thức không kiến ​​thức cho phép xác minh tuân thủ an toàn mà không tiết lộ dữ liệu cá nhân cơ bản và kết nối ngang hàng cho phép các phương tiện chia sẻ an toàn quan trọng trực tiếp mà không cần định tuyến qua các trung gian khác. Một lần nữa, các công nghệ bảo vệ quyền riêng tư này chứng minh rằng chúng ta có thể có các phương tiện thông minh mà không cần từ bỏ quyền tự chủ cá nhân cho các mạng lưới giám sát của công ty.

Xe thông minh AI đang đến nhưng trước tiên chúng ta phải giải quyết những vấn đề này ngay từ đầu. Có những cải tiến ấn tượng và quan trọng về chức năng, an toàn và hiệu quả từ việc tích hợp các nền tảng cấp độ tiếp theo này nhưng - và đây là một điều lớn - tình trạng bỏ qua dữ liệu hiện tại sẽ không hiệu quả. Người tiêu dùng không nên phải đọc các điều khoản và điều kiện của xe để biết rằng quyền riêng tư của họ được tôn trọng.

Thay vào đó, các nhà sản xuất ô tô cần nâng cao năng lực và các nhà sản xuất nền tảng phải xây dựng nền tảng dữ liệu vững chắc hơn, trong đó bảo mật là một phần không thể thiếu của giải pháp.