Anggapan Umum tentang Kegagalan Pembelajaran Mesin Bisa Salah

Jaringan neural dalam adalah salah satu aspek paling mendasar dari kecerdasan buatan (AI), karena mereka digunakan untuk memproses gambar dan data melalui pemodelan matematika. Mereka bertanggung jawab atas beberapa kemajuan terbesar di bidang ini, tetapi mereka juga gagal dalam berbagai cara. Kegagalan ini dapat memiliki dampak kecil hingga tidak ada, seperti kesalahan identifikasi sederhana, atau lebih dramatis dan mematikan, seperti kegagalan kendaraan otonom.

Penelitian baru dari Universitas Houston menunjukkan bahwa asumsi umum kita tentang kegagalan ini mungkin salah, yang dapat membantu mengevaluasi keandalan jaringan di masa depan.

Makalah ini diterbitkan di Nature Machine Intelligence pada November.

“Contoh Adversarial”

Pembelajaran mesin dan jenis AI lainnya sangat penting di banyak sektor dan tugas, seperti sistem perbankan dan keamanan siber. Menurut Cameron Buckner, profesor filsafat di UH, harus ada pemahaman tentang kegagalan yang disebabkan oleh “contoh adversarial.” Contoh adversarial ini terjadi ketika sistem jaringan neural dalam salah menilai gambar dan data lainnya ketika mereka menemui informasi di luar input pelatihan yang digunakan untuk mengembangkan jaringan.

Contoh adversarial ini jarang terjadi karena sering kali mereka dibuat atau ditemukan oleh jaringan pembelajaran mesin lain.

“Beberapa dari contoh adversarial ini bisa jadi artefak, dan kita perlu tahu apa mereka untuk mengetahui seberapa andal jaringan ini,” tulis Buckner.

Buckner mengatakan bahwa kegagalan bisa disebabkan oleh interaksi antara pola yang sebenarnya dan apa yang jaringan coba proses, yang berarti itu bukan kesalahan total.

Polanya sebagai Artefak

“Memahami implikasi contoh adversarial memerlukan menjelajahi kemungkinan ketiga: bahwa setidaknya beberapa pola ini adalah artefak,” kata Buckner. “Jadi, ada biaya dalam membuang pola ini dan bahaya dalam menggunakannya secara naif.”

Meskipun tidak selalu terjadi, malfeasance yang disengaja adalah risiko tertinggi terkait kejadian adversarial yang menyebabkan kegagalan pembelajaran mesin.

“Ini berarti aktor jahat bisa menipu sistem yang bergantung pada jaringan yang sebenarnya andal,” kata Buckner. “Itu memiliki aplikasi keamanan.”

Ini bisa berupa peretas yang membobol sistem keamanan berbasis teknologi pengenalan wajah, atau tanda lalu lintas yang salah label untuk membingungkan kendaraan otonom.

Penelitian sebelumnya telah menunjukkan bahwa beberapa contoh adversarial ini terjadi secara alami, terjadi ketika sistem pembelajaran mesin salah menafsirkan data melalui interaksi yang tidak terduga, yang berbeda dari kesalahan data. Contoh alami ini jarang terjadi, dan satu-satunya cara untuk menemukannya saat ini adalah melalui AI.

Namun, Buckner mengatakan bahwa peneliti perlu memikirkan kembali cara mereka menangani anomali.

Anomali, atau artefak, ini dijelaskan oleh Buckner melalui analogi flare lensa dalam foto, yang tidak disebabkan oleh cacat lensa kamera tetapi interaksi cahaya dengan kamera.

Jika seseorang tahu cara menafsirkan flare lensa, informasi penting seperti lokasi matahari dapat diekstrak. Karena itu, Buckner berpikir bahwa mungkin untuk mengekstrak informasi yang sama berharga dari kejadian buruk dalam pembelajaran mesin yang disebabkan oleh artefak.

Buckner juga mengatakan bahwa semua ini tidak secara otomatis berarti pembelajaran dalam tidak valid.

“Beberapa dari contoh adversarial ini bisa jadi artefak,” katanya. “Kita perlu tahu apa artefak ini sehingga kita bisa tahu seberapa andal jaringan ini.”