Bagaimana Peretas Menggunakan Kecerdasan Buatan

KI telah membuktikan dirinya sebagai teknologi yang menambah nilai di seluruh perekonomian global.

Ketika bisnis merasa terpaksa untuk beradaptasi dengan peristiwa saat ini selama beberapa tahun terakhir, beberapa di antaranya menemukan cara untuk memadatkan setengah dekade transformasi digital – dalam kasus Frito-Lay – ke dalam kerangka waktu yang jauh lebih singkat. Harris Poll dan Appen menemukan bahwa anggaran AI meningkat sebesar 55% selama pandemi global.

Seperti alat lainnya, kecerdasan buatan tidak memiliki nilai moral bawaan. Kegunaan atau potensi bahaya AI tergantung pada bagaimana sistem “belajar” dan apa yang manusia lakukan dengannya.

Beberapa upaya untuk memanfaatkan AI – seperti “memprediksi” kejahatan sebelum terjadi – menunjukkan bahwa model yang dilatih dengan data yang bias tendensi untuk mengulangi kelemahan manusia. Sampai sekarang, pelatihan AI menggunakan data dari sistem peradilan AS telah menghasilkan penalaran AI yang berprasangka.

Dalam contoh lain, manusia memilih cara yang lebih disengaja untuk memanfaatkan potensi destruktif AI. Peretas menunjukkan kemampuan inovatif mereka lagi dengan menggunakan kecerdasan buatan untuk meningkatkan jangkauan, efektivitas, dan profitabilitas serangan mereka. Dan karena perang siber menjadi lebih umum di seluruh dunia, kita pasti akan melihat aplikasi AI dalam peretasan berkembang lebih lanjut.

AI Adalah Kesempatan dan Risiko

Kecerdasan buatan menyediakan dunia kemungkinan bagi bisnis yang ingin meningkatkan peramalan, optimasi bisnis, dan strategi retensi pelanggan. Ini juga merupakan angin segar bagi mereka yang bermaksud untuk mengompromikan kedaulatan digital orang lain.

Berikut beberapa cara kecerdasan buatan mungkin rentan terhadap penyusupan yang halus dan upaya yang lebih terbuka untuk mengarahkannya ke tindakan agresif.

1. Mengompromikan Logika Mesin

Kelebihan utama AI bagi konsumen dan perusahaan komersial adalah bahwa ia melakukan tindakan logika yang dapat diprediksi dan diulang tanpa intervensi manusia. Ini juga merupakan kelemahan terbesarnya.

Seperti konstruk digital lainnya, AI mungkin rentan terhadap penetrasi oleh kekuatan luar. Peretas yang mengakses dan mengompromikan logika mesin yang memuat AI dapat menyebabkannya melakukan tindakan yang tidak terduga atau berbahaya. Misalnya, AI yang ditugaskan untuk pemantauan kondisi industri mungkin memberikan pembacaan palsu atau membiarkan pemberitahuan perawatan tidak terkirim.

Karena titik investasi AI adalah untuk menghilangkan intervensi manusia dan mempertanyakan hasil, kerusakan pada infrastruktur atau kualitas produk yang disebabkan oleh serangan semacam ini mungkin tidak terdeteksi sampai kegagalan yang sangat parah.

2. Menggunakan Algoritma Peralihan

Salah satu jalur potensial untuk bahaya – terutama di mana kekayaan intelektual (IP) dan data konsumen atau komersial – adalah konsep peralihan. Peretas bahkan mungkin mencuri kode kecerdasan buatan itu sendiri. Dengan waktu yang cukup untuk mempelajari bagaimana ia bekerja, mereka akhirnya menemukan dataset yang digunakan untuk melatih AI pada awalnya.

Hal ini dapat memicu beberapa hasil, yang pertama adalah keracunan AI. Contoh lain dapat melibatkan peretas yang menggunakan data pelatihan AI itu sendiri untuk mendapatkan informasi yang mengompromikan tentang pasar, pesaing, pemerintah, vendor, atau konsumen umum.

3. Belajar tentang Target yang Dimaksud

Mengawasi target kemungkinan merupakan salah satu implikasi yang paling mengganggu dari AI jatuh ke tangan peretas. Kemampuan AI untuk menarik kesimpulan tentang kemampuan seseorang, area pengetahuan, temperamen, dan kemungkinan menjadi korban penargetan, penipuan, atau penyalahgunaan terbukti sangat mengkhawatirkan bagi beberapa ahli keamanan siber.

Kecerdasan buatan dapat mengonsumsi dan mencapai kesimpulan yang sangat rinci tentang orang, tim, dan kelompok berdasarkan beberapa titik data yang tidak mungkin. Seorang individu yang “terlibat” atau “terganggu” mungkin mengetik dengan cepat, mengganggu mouse, atau berpindah antara tab browser dengan cepat. Seorang pengguna yang “bingung” atau “ragu-ragu” mungkin berhenti sebelum mengklik elemen halaman atau mengunjungi beberapa situs.

Dalam tangan yang tepat, sinyal seperti ini membantu departemen HR meningkatkan keterlibatan karyawan atau membantu tim pemasaran memoles situs web dan saluran penjualan mereka.

Bagi peretas, sinyal seperti ini dapat menghasilkan profil psikologis yang sangat rinci tentang target yang dimaksud. Penjahat siber mungkin dapat mengetahui berdasarkan petunjuk yang tidak terlihat oleh manusia siapa yang mungkin rentan terhadap phishing, smishing, ransomware, penipuan keuangan, dan jenis kerusakan lainnya. Ini juga dapat membantu aktor jahat mempelajari cara terbaik untuk meyakinkan target mereka bahwa upaya penipuan mereka berasal dari sumber yang sah.

4. Menguji Kerentanan Jaringan

Para profesional keamanan siber menerbitkan data tentang 20.175 kerentanan keamanan yang diketahui pada tahun 2021. Ini merupakan peningkatan dari tahun 2020, ketika ada 17.049 kerentanan seperti itu.

Dunia menjadi semakin terhubung secara digital – beberapa orang akan mengatakan saling ketergantungan – setiap jam. Dunia sekarang menjadi tuan rumah jumlah yang luar biasa dari jaringan kecil dan industri, dengan miliaran perangkat terhubung online dan lebih banyak lagi yang akan datang. Semuanya online, dari sensor pemantauan kondisi hingga perangkat lunak perencanaan perusahaan.

Kecerdasan buatan menunjukkan janji dalam membantu tim keamanan siber dengan cepat menguji kerentanan jaringan, perangkat lunak, dan perangkat keras lebih cepat daripada manusia bisa saja. Kecepatan dan skala pertumbuhan infrastruktur digital bumi berarti hampir mustahil untuk mencari triliunan baris kode untuk menemukan eksploitasi keamanan untuk ditambal. Semua ini harus terjadi sambil sistem ini online karena biaya downtime.

Jika AI adalah alat keamanan siber di sini, itu juga merupakan pedang bermata dua. Peretas dapat menggunakan mekanisme yang sama dengan “white hat” IT untuk melakukan pekerjaan yang sama: menguji jaringan, perangkat lunak, dan firmware untuk kerentanan lebih efisien daripada spesialis IT manusia.

Perlombaan Senjata Digital

Terdapat terlalu banyak aplikasi AI dalam kejahatan siber untuk disebutkan semuanya, tetapi berikut beberapa contoh:

• Peretas dapat menyembunyikan kode AI dalam aplikasi yang sebaliknya tidak berbahaya yang menjalankan perilaku berbahaya ketika mendeteksi pemicu atau ambang batas yang telah ditentukan sebelumnya.
• Model AI jahat dapat digunakan untuk menentukan kredensial atau fitur manajemen IT dengan memantau input biometrik, seperti sidik jari dan pengenalan suara.
• Bahkan jika serangan siber yang dicoba akhirnya gagal, peretas yang dilengkapi dengan AI mungkin dapat menggunakan pembelajaran mesin untuk menentukan apa yang salah dan apa yang dapat mereka lakukan secara berbeda lain waktu.

Tampaknya hanya membutuhkan satu cerita yang ditempatkan dengan baik tentang peretasan jeep sambil mengemudi untuk memperlambat pengembangan kendaraan otonom. Satu serangan peretasan yang terkenal di mana AI bertindak sebagai penghubung bisa menyebabkan erosi serupa dalam opini publik. Beberapa polling menunjukkan bahwa rata-rata orang Amerika sangat meragukan tentang manfaat AI sudah.

Komputasi yang ada di mana-mana datang dengan risiko keamanan siber – dan baik peretas “topi putih” maupun “topi hitam” tahu itu. AI dapat membantu menjaga kehidupan online kita aman, tetapi itu juga merupakan pusat dari perlombaan senjata digital baru.