Mobil Anda Sedang Mengawasi Anda: Bagaimana Kami Mengintegrasikan AI ke Dalam Kendaraan Modern Secara Etis

Apakah Anda telah membaca ketentuan dan kondisi mobil Anda? Mungkin terdengar seperti pertanyaan yang bodoh, tetapi mobil pintar modern hanya seperti produk teknologi atau layanan lainnya. Ini berarti halaman demi halaman pedoman data – dan apa yang pembuat mobil dapat dan melakukan mengumpulkan mungkin akan mengejutkan Anda. Laporan privasi kendaraan mengungkapkan mobil modern menyimpan informasi pribadi tentang pengemudi seperti riwayat pekerjaan dan informasi medis, serta biometrik seperti pengenalan wajah dan data konsumen dari ponsel yang disinkronkan. Tidak ingat setuju dengan ini? Tidak masalah – kebijakan privasi Subaru menyatakan bahwa penumpang telah memberikan persetujuan untuk pengumpulan data hanya dengan berada di dalam mobil.

Hari ini, mobil pintar telah menjadi vakum pengumpulan data di roda. Dan, sayangnya, banyak pembuat mobil tidak mengambil komitmen mereka untuk privasi dan keamanan dengan serius. Mozilla menilai mobil pintar sebagai kategori produk terburuk untuk privasi konsumen, menemukan bahwa aplikasi kencan dan mainan seks yang terhubung menerbitkan informasi keamanan yang lebih rinci daripada kendaraan modern. Yayasan tersebut menilai kebijakan privasi dan praktik dari 25 pembuat mobil dan semuanya gagal dalam tes privasi konsumen. Ini adalah bendera merah besar, terutama ketika mobil modern dilengkapi dengan kamera dan sensor, dan berada di ambang integrasi AI yang luas.

Jika pembuat mobil sudah tidak dapat dipercaya dengan data pengemudi dasar, penerapan sistem yang lebih canggih yang belajar dari perilaku pengemudi, pola suara, dan keadaan emosi memerlukan pertimbangan yang cermat. Jadi, mari kita lihat lebih dalam ke mobil pintar hari ini dan apa yang seharusnya terlihat besok, dengan memeriksa ketegangan etis antara meningkatkan bantuan pengemudi melalui pengumpulan data perilaku versus melindungi privasi di era AI.

Sulit untuk Mempercayai Pembuat Mobil Pintar

Lihat sekitar mobil modern dan Anda akan segera melihat betapa banyak dasbor dan interior telah berubah dari tahun-tahun sebelumnya. Sulit untuk tidak melihat jaringan luas sensor, mikrofon, dan kamera, dan juga sulit untuk mengatakan ke mana informasi itu pergi. Penelitian Mozilla tentang sektor ini menunjukkan bahwa pembuat mobil mengumpulkan informasi yang berkisar dari data biometrik hingga profil psikologis yang terperinci, dengan 21 dari 25 berbagi informasi pelanggan dengan penyedia layanan dan broker data. 19 lagi mengakui bahwa mereka dapat menjual data pribadi.

Ini adalah sesuatu yang kita lihat terjadi lebih awal tahun ini. Gugatan federal pada April mengungkapkan bahwa Toyota secara rahasia mengumpulkan dan menjual data mengemudi yang terperinci – termasuk lokasi, kecepatan, dan pola pengereman – kepada Progressive Insurance. Pengemudi hanya menemukan pengawasan ini ketika mereka mengajukan asuransi dan menyadari bahwa perusahaan sudah memiliki catatan mengemudi mereka. Meskipun komitmen publik Toyota untuk privasi pelanggan, pembuat mobil tersebut diam-diam memonetisasi data perilaku yang intim dan mengeksploitasi gerakan pengemudi secara komersial. Begitu juga, Tesla telah mendapat masalah karena berbagi rekaman invasif pelanggan melalui ruang obrolan internal, termasuk footage kecelakaan dan konten garasi pribadi.

Kesalahan seperti ini hanya ujung tombak. Nissan, misalnya, menggunakan data mobil pintar untuk mengembangkan profil yang terperinci yang menggambarkan preferensi pengemudi, karakteristik, tren psikologis, kecenderungan, perilaku, sikap, inteligensi, kemampuan, dan kemampuan. Ya, Anda membacanya dengan benar, Nissan percaya bahwa mereka dapat menyimpulkan seberapa pintar Anda dan menjual penilaian tersebut kepada pihak ketiga. Penyalahgunaan data seperti ini luas dan mengkhawatirkan – dan ini sebelum sistem yang lebih intuitif diperkenalkan dengan AI.

AI Mobil Pintar Bukan Seluruhnya Buruk

Menambahkan AI akan meningkatkan mobil pintar ke tingkat responsif dan intuitif yang baru. Kami tidak jauh dari visi komputer yang menganalisis ekspresi wajah, gerakan mata, dan keadaan emosi untuk mendeteksi kantuk dan gangguan. Teknologi jenis ini juga dapat lebih dekat meninjau kondisi jalan dan membantu kita mengemudi dengan lebih baik (atau tidak sama sekali – mobil otonom mainstream tidak jauh dan teknologi ini bisa menawarkan dorongan terakhir).

Begitu juga, chatbot percakapan di dalam mobil akan dapat memproses perintah bahasa alami dan pola suara, memberitahu segala sesuatu dari respons stres selama skenario yang berbeda hingga topik percakapan pribadi. Didukung oleh berbagai input dan pemahaman cerdas, langit adalah batas untuk apa yang sistem ini dapat pelajari tentang kita di balik roda.

Masalahnya adalah pembuat mobil belum menunjukkan diri mereka sebagai penjaga yang dapat dipercaya dari evolusi yang akan datang. Sistem pengawasan AI tanpa pengaman akan memperbesar risiko privasi secara eksponensial. Di mana Toyota secara rahasia menjual pola mengemudi dasar, kendaraan yang ditingkatkan dengan AI bisa mengkomersialisasi tingkat stres waktu nyata, indikator kesehatan, dan percakapan yang intim, menciptakan profil psikologis yang jauh lebih berharga dan invasif daripada apa yang telah kita lihat.

Kunci Adalah Mengenalkan AI dan Memastikan Kepercayaan

Jelas, menemukan keseimbangan yang tepat antara inovasi teknologi dan privasi pengemudi sangat penting dalam babak selanjutnya dari mobil pintar. Memastikan hal ini terjadi dimulai dengan memproses semua data di dalam kendaraan. Edge AI, misalnya, memproses data biometrik dan perilaku yang sensitif secara lokal, sehingga menghilangkan kebutuhan untuk transmisi cloud dan server perantara. Pendekatan ini memungkinkan manfaat keamanan – seperti deteksi kantuk waktu nyata dan penghindaran tabrakan – sambil mencegah pembuat mobil mengakses data pribadi yang mentah yang memungkinkan sistem ini.

Kita juga dapat membangun kepercayaan dengan melobi kerangka regulasi yang ketat dan pengaman data. Jika sebuah mobil akan memiliki kemampuan AI, kita perlu prinsip minimisasi data yang mengumpulkan hanya informasi yang penting untuk keamanan. Selain itu, audit algoritma dapat membantu memastikan sistem tidak menciptakan profil psikologis yang dapat dieksploitasi.

Teknologi dasar lainnya harus dipertimbangkan untuk meningkatkan keamanan. Ini termasuk enkripsi homomorfik sehingga sistem AI dapat memproses data sambil tetap dilindungi secara matematis bahkan selama analisis. Begitu juga, protokol tanpa pengetahuan memungkinkan verifikasi kepatuhan keamanan tanpa mengungkapkan data pribadi yang mendasarinya, dan koneksi peer-to-peer memungkinkan kendaraan berbagi informasi keamanan yang penting secara langsung tanpa melalui perantara lain. Lagi, teknologi privasi yang memungkinkan ini membuktikan bahwa kita dapat memiliki kendaraan yang cerdas tanpa menyerahkan otonomi pribadi kepada jaringan pengawasan perusahaan.

Mobil AI pintar akan segera hadir tetapi kita harus terlebih dahulu mengatasi masalah ini. Ada fungsi yang mengesankan dan penting, keamanan, dan efisiensi yang ditingkatkan dari integrasi platform ini, tetapi – dan ini adalah sebuah tapi besar – keadaan saat ini dari pengabaian data tidak akan cukup. Konsumen tidak harus membaca ketentuan dan kondisi mobil mereka untuk mengetahui bahwa privasi mereka dihormati.

Sebaliknya, pembuat mobil perlu meningkatkan permainan mereka, dan pembuat platform harus membangun fondasi data yang lebih kuat di mana keamanan adalah bagian dari solusi.