Mobil Anda Sedang Mengawasi Anda: Bagaimana Kami Mengintegrasikan AI ke Dalam Kendaraan Modern Secara Etis

Apakah Anda telah membaca syarat dan ketentuan mobil Anda? Mungkin terdengar seperti pertanyaan yang bodoh, tetapi mobil pintar modern hanya seperti produk atau layanan teknologi lainnya. Ini berarti halaman demi halaman pedoman data – dan apa yang dapat dilakukan oleh pabrikan mobil dan dikumpulkan mungkin akan mengejutkan Anda. Laporan privasi kendaraan mengungkapkan mobil modern menyimpan informasi pribadi tentang pengemudi seperti riwayat pekerjaan dan informasi medis, serta biometrik seperti pengenalan wajah dan data konsumen dari ponsel yang disinkronkan. Tidak ingat setuju dengan ini? Tidak masalah – kebijakan privasi Subaru menyatakan bahwa penumpang telah memberikan persetujuan untuk pengumpulan data hanya dengan berada di dalam mobil.

Mobil pintar hari ini telah menjadi vakum pengumpulan data di roda. Dan, sayangnya, banyak pabrikan mobil tidak serius dalam memenuhi komitmennya terhadap privasi dan keamanan. Mozilla menilai mobil pintar sebagai kategori produk terburuk untuk privasi konsumen, menemukan bahwa aplikasi kencan dan mainan seks yang terhubung menerbitkan informasi keamanan yang lebih rinci daripada kendaraan modern. Yayasan menilai kebijakan privasi dan praktik dari 25 pabrikan mobil dan semuanya gagal dalam tes privasi konsumen. Ini adalah bendera merah besar, terutama ketika mobil modern dilengkapi dengan kamera dan sensor, dan berada di ambang integrasi AI yang luas.

Jika pabrikan mobil sudah tidak dapat dipercaya dengan data pengemudi dasar, penerapan sistem yang lebih canggih yang belajar dari perilaku pengemudi, pola suara, dan keadaan emosional memerlukan pertimbangan yang cermat. Jadi, mari kita lihat lebih dalam ke mobil pintar hari ini dan apa yang seharusnya terlihat besok, dengan mengeksaminasi ketegangan etis antara meningkatkan bantuan pengemudi melalui pengumpulan data perilaku versus melindungi privasi di era AI.

Sulit untuk Mempercayai Pabrikan Mobil Pintar

Lihat sekitar mobil modern dan Anda akan segera melihat bagaimana dasbor dan interior telah berubah dari tahun-tahun sebelumnya. Sulit untuk mengatakan ke mana informasi itu pergi. Penelitian Mozilla terhadap sektor ini menunjukkan bahwa pabrikan mobil mengumpulkan informasi yang berkisar dari data biometrik hingga profil psikologis yang terperinci, dengan 21 dari 25 berbagi informasi pelanggan dengan penyedia layanan dan broker data. 19 lainnya mengakui bahwa mereka dapat menjual data pribadi.

Ini adalah sesuatu yang kita lihat terjadi lebih awal tahun ini. Gugatan federal pada April mengungkapkan bahwa Toyota secara rahasia mengumpulkan dan menjual data mengemudi yang terperinci – termasuk lokasi, kecepatan, dan pola pengereman – kepada Progressive Insurance. Pengemudi hanya menemukan pengawasan ini ketika mereka mengajukan asuransi dan menyadari bahwa perusahaan sudah memiliki catatan mengemudi mereka. Meskipun komitmen publik Toyota terhadap privasi pelanggan, pabrikan mobil itu diam-diam memonetisasi data perilaku yang intim dan mengeksploitasi gerakan pengemudi secara komersial. Demikian pula, Tesla telah mendapatkan masalah karena berbagi rekaman pelanggan yang invasif melalui ruang obrolan internal, termasuk footage kecelakaan dan konten garasi pribadi.

Pelanggaran seperti ini hanya ujung tombaknya. Nissan, misalnya, menggunakan data mobil pintar untuk mengembangkan profil yang mendalam yang menggambarkan preferensi pengemudi, karakteristik, tren psikologis, kecenderungan, perilaku, sikap, inteligensi, kemampuan, dan bakat. Ya, Anda membacanya dengan benar, Nissan percaya bahwa mereka dapat menyimpulkan seberapa pintar Anda dan menjual penilaian tersebut kepada pihak ketiga. Penyalahgunaan data seperti ini sangat meluas dan mengkhawatirkan – dan ini sebelum sistem yang lebih intuitif diperkenalkan dengan AI.

Mobil Pintar AI Bukan Seluruhnya Buruk

Menambahkan AI akan meningkatkan mobil pintar ke tingkat yang baru dalam hal responsif dan intuitif. Kami tidak jauh dari penglihatan komputer yang menganalisis ekspresi wajah, gerakan mata, dan keadaan emosional untuk mendeteksi kantuk dan gangguan. Teknologi jenis ini juga dapat lebih dekat meninjau kondisi jalan dan membantu kita untuk mengemudi dengan lebih baik (atau tidak sama sekali – mobil otonom mainstream tidak jauh dan teknologi ini bisa menawarkan dorongan terakhir).

Demikian pula, chatbot percakapan di dalam mobil akan dapat memproses perintah bahasa alami dan pola suara, memberitahu segala sesuatu dari respons stres selama skenario yang berbeda hingga topik percakapan pribadi. Didukung oleh berbagai input dan pemahaman cerdas, langit adalah batas untuk apa yang dapat dipelajari sistem ini tentang kita di balik roda.

Masalahnya adalah pabrikan mobil belum menunjukkan diri mereka sebagai penjaga yang dapat dipercaya dari evolusi yang akan datang. Sistem pengawasan AI tanpa pengaman akan memperbesar risiko privasi secara eksponensial. Di mana Toyota secara rahasia menjual pola mengemudi dasar, kendaraan yang ditingkatkan dengan AI bisa mengkomersialisasi tingkat stres waktu nyata, indikator kesehatan, dan percakapan yang intim, menciptakan profil psikologis yang jauh lebih berharga dan invasif daripada apa yang telah kita lihat.

Kunci adalah Mengenalkan AI dan Memastikan Kepercayaan

Jelas, mencapai keseimbangan yang tepat antara inovasi teknologi dan privasi pengemudi sangat penting dalam babak selanjutnya dari mobil pintar. Memastikan hal ini terjadi dimulai dengan memproses semua data di dalam kendaraan. Edge AI, misalnya, memproses data biometrik dan perilaku yang sensitif secara lokal, sehingga menghilangkan kebutuhan untuk transmisi cloud dan server perantara. Pendekatan ini memungkinkan manfaat keamanan – seperti deteksi kantuk waktu nyata dan penghindaran tabrakan – sambil mencegah pabrikan mobil mengakses data pribadi yang mendasari sistem ini.

Kita juga dapat membangun kepercayaan dengan melobi kerangka kerja regulasi yang ketat dan pengaman data. Jika sebuah mobil akan membawa kemampuan AI, kita memerlukan prinsip minimisasi data yang mengumpulkan hanya informasi yang penting untuk keamanan. Selain itu, audit algoritma dapat membantu memastikan bahwa sistem tidak menciptakan profil psikologis yang dapat dieksploitasi.

Teknologi dasar lainnya harus dipertimbangkan untuk meningkatkan keamanan. Ini termasuk enkripsi homomorfik sehingga sistem AI dapat memproses data sambil tetap dilindungi secara matematis bahkan selama analisis. Demikian pula, protokol tanpa pengetahuan memungkinkan verifikasi kepatuhan keamanan tanpa mengungkapkan data pribadi yang mendasarinya, dan koneksi peer-to-peer memungkinkan kendaraan untuk berbagi keamanan kritis secara langsung tanpa melalui perantara lain. Lagi, teknologi yang menjaga privasi ini membuktikan bahwa kita dapat memiliki kendaraan yang cerdas tanpa menyerahkan otonomi pribadi kepada jaringan pengawasan perusahaan.

Mobil pintar AI akan segera hadir, tetapi kita harus terlebih dahulu mengatasi masalah ini. Ada fungsi yang mengesankan dan penting, keamanan, dan efisiensi yang ditingkatkan dari integrasi platform tingkat berikutnya, tetapi – dan ini adalah tapi yang besar – keadaan pengabaian data saat ini tidak akan memotongnya. Konsumen tidak harus membaca syarat dan ketentuan mobil mereka untuk mengetahui bahwa privasi mereka dihormati.

Sebaliknya, pabrikan mobil perlu meningkatkan permainan mereka, dan pembuat platform harus membangun fondasi data yang lebih kuat di mana keamanan adalah bagian dari solusi.