AI-First Berarti Safety-First

Beli sepeda baru untuk seorang anak, dan sepeda itu akan mendapatkan semua perhatian – bukan helm yang mengkilap yang menyertainya. Tapi orang tua menghargai helm itu.

Saya takut banyak dari kita hari ini lebih seperti anak-anak ketika datang ke AI. Kami fokus pada betapa keren dan betapa cepat kami bisa melakukannya. Tidak terlalu banyak pada apa yang bisa kami lakukan untuk tetap aman saat kami menggunakannya. Ini sangat disayangkan karena kamu tidak bisa mendapatkan manfaat dari satu tanpa yang lain.

Secara sederhana, menerapkan AI tanpa merencanakan keselamatan terlebih dahulu bukan hanya berisiko. Ini adalah jalan lurus menuju tebing.

Apa yang Dimaksud dengan Keselamatan AI?

Keselamatan AI melibatkan sejumlah langkah. Tapi mungkin elemen paling penting adalah kapan untuk mengambilnya. Untuk efektif, Keselamatan AI harus dirancang.

Artinya kita mempertimbangkan bagaimana mencegah bahaya sebelum kita mengujicobanya. Kita mencari tahu bagaimana memastikan AI beroperasi dan menghasilkan hasil yang sesuai dengan nilai dan harapan sosial kita terlebih dahulu – bukan setelah kita mendapatkan hasil yang mengerikan.

Merancang untuk keselamatan AI juga termasuk memikirkan bagaimana membuatnya robust, atau dapat berfungsi secara prediktif bahkan dalam situasi yang tidak menguntungkan. Ini berarti membuat AI transparan, sehingga keputusan AI yang diambil dapat dipahami, diaudit, dan tidak bias.

Tapi ini juga termasuk melihat dunia di mana AI akan berfungsi. Apa saja pengaman institusional dan hukum yang kita butuhkan, terutama untuk mematuhi peraturan pemerintah yang berlaku? Dan saya tidak bisa menekankan komponen manusia: Apa dampak penggunaan AI terhadap orang-orang yang berinteraksi dengannya?

Keselamatan oleh desain berarti memasukkan keselamatan AI ke dalam semua proses, alur kerja, dan operasi kita sebelum kita mengetik prompt pertama kita.

Risiko Mengalahkan Kekhawatiran

Tidak semua orang setuju. Ketika mereka mendengar “keselamatan terlebih dahulu,” beberapa orang mendengar “langkah dengan hati-hati dan perlahan sehingga Anda ketinggalan.” Tentu saja, itu bukan apa yang keselamatan terlebih dahulu maksudkan. Ini tidak harus mematikan inovasi atau memperlambat waktu-pasar. Dan ini tidak berarti aliran tak terbatas dari pilot yang tidak pernah berkembang. Sebaliknya.

Ini berarti memahami risiko tidak merancang keselamatan ke dalam AI. Pertimbangkan beberapa risiko.

• Pusat Layanan Keuangan Deloitte memprediksi bahwa GenAI bisa bertanggung jawab atas kerugian penipuan sebesar US$40 miliar di Amerika Serikat saja pada tahun 2027, dari US$12,3 miliar pada tahun 2023, dengan tingkat pertumbuhan tahunan sebesar 32%.
• Keputusan yang bias. Kasus dokumentasi perawatan medis yang bias karena AI yang telah dilatih pada data yang bias.
• Keputusan yang buruk yang menginspirasi keputusan yang lebih buruk. Lebih buruk dari keputusan awal yang buruk yang dipicu oleh AI yang salah, studi menunjukkan bahwa keputusan yang salah itu bisa menjadi bagian dari cara kita berpikir dan membuat keputusan di masa depan.
• Konsekuensi nyata. AI yang memberikan saran medis yang buruk telah menyebabkan hasil pasien yang mematikan. Masalah hukum telah terjadi karena mengutip halusinasi AI sebagai preseden hukum. Dan kesalahan perangkat lunak yang dihasilkan dari asisten AI yang memberikan informasi yang salah telah merusak produk perusahaan dan reputasinya dan menyebabkan ketidakpuasan pengguna yang meluas.

Dan hal-hal akan menjadi lebih menarik.

Munculnya dan adopsi cepat AI agen, AI yang dapat berfungsi secara otonom untuk mengambil tindakan berdasarkan keputusan yang dibuat, akan memperbesar pentingnya merancang keselamatan AI.

Seorang agen AI yang dapat bertindak atas nama Anda bisa sangat berguna. Sebagai gantinya memberitahu Anda tentang penerbangan terbaik untuk perjalanan, itu bisa menemukannya dan memesannya untuk Anda. Jika Anda ingin mengembalikan produk, agen AI perusahaan bisa tidak hanya memberitahu Anda tentang kebijakan pengembalian dan cara mengajukan pengembalian, tetapi juga menangani transaksi seluruhnya untuk Anda.

Sangat baik – selama agen tidak mengalami halusinasi penerbangan atau menangani informasi keuangan Anda dengan salah. Atau salah memahami kebijakan pengembalian perusahaan dan menolak pengembalian yang valid.

Tidak terlalu sulit untuk melihat bagaimana risiko keselamatan AI saat ini bisa dengan mudah berkembang biak dengan sejumlah agen AI yang berjalan di sekitar membuat keputusan dan bertindak, terutama karena mereka tidak mungkin bertindak sendirian. Sebagian besar nilai nyata dalam AI agen akan datang dari tim agen, di mana agen individu menangani bagian dari tugas dan berkolaborasi – agen ke agen – untuk menyelesaikan pekerjaan.

Jadi, bagaimana Anda menerima keselamatan AI dengan desain tanpa menghambat inovasi dan membunuh potensi nilainya?

Keselamatan oleh Desain dalam Aksi

Pemeriksaan keselamatan ad hoc bukanlah jawabannya. Tapi mengintegrasikan praktik keselamatan ke dalam setiap fase implementasi AI adalah.

Mulailah dengan data. Pastikan data dilabeli, dianotasi jika perlu, bebas bias, dan berkualitas tinggi. Ini terutama benar untuk data pelatihan.

Latih model Anda dengan umpan balik manusia, karena penilaian manusia sangat penting untuk membentuk perilaku model. Pembelajaran Penguatan dengan Umpan Balik Manusia (RLHF) dan teknik serupa lainnya memungkinkan annotator untuk menilai dan memandu respons, membantu LLM menghasilkan output yang aman dan sesuai dengan nilai manusia.

Kemudian, sebelum Anda merilis model, lakukan tes stres. Tim merah yang mencoba memicu perilaku yang tidak aman dengan menggunakan prompt yang antagonistik, kasus tepi, dan upaya jailbreak dapat mengungkap kerentanan. Menghilangkannya sebelum mereka mencapai publik menjaga keselamatan sebelum ada masalah.

Sementara pengujian ini memastikan model AI Anda robust, teruslah memantau mereka dengan mata pada ancaman yang muncul dan penyesuaian yang mungkin diperlukan untuk model.

Dalam cara yang sama, pantau secara teratur sumber konten dan interaksi digital untuk tanda-tanda penipuan. Secara kritis, gunakan pendekatan hibrida AI-manusia, membiarkan otomatisasi AI menangani volume data yang besar untuk dipantau, dan manusia terampil menangani tinjauan untuk penegakan dan memastikan akurasi.

Menerapkan AI agen memerlukan perawatan yang lebih besar. Sebuah persyaratan dasar: latih agen untuk mengetahui keterbatasannya. Ketika agen menghadapi ketidakpastian, dilema etika, situasi baru, atau keputusan yang sangat penting, pastikan agen tahu bagaimana meminta bantuan.

Juga, desainkan jejak ke dalam agen Anda. Ini sangat penting sehingga interaksi agen hanya terjadi dengan pengguna yang diverifikasi, untuk menghindari aktor penipuan yang mempengaruhi tindakan agen.

Jika agen tampaknya bekerja secara efektif, mungkin tergoda untuk melepaskan agen dan membiarkan mereka melakukan tugas mereka. Pengalaman kami mengatakan untuk terus memantau mereka dan tugas yang mereka penuhi untuk menonton kesalahan atau perilaku yang tidak terduga. Gunakan pemeriksaan otomatis dan tinjauan manusia.

Sebenarnya, elemen penting dari keselamatan AI adalah keterlibatan manusia teratur. Manusia harus terlibat secara sengaja di mana penilaian kritis, empati, atau nuansa dan ketidakjelasan terlibat dalam keputusan atau tindakan.

Lagi, untuk memperjelas, ini semua adalah praktik yang Anda bangun ke dalam implementasi AI sebelumnya, oleh desain. Mereka bukan hasil dari sesuatu yang salah dan kemudian terburu-buru untuk mencari tahu bagaimana meminimalkan kerusakan.

Apakah Ini Bekerja?

Kami telah menerapkan filosofi Keselamatan AI Terlebih Dahulu dan kerangka “oleh desain” dengan klien kami sepanjang munculnya GenAI dan sekarang di jalur cepat menuju AI agen. Kami menemukan bahwa, bertentangan dengan kekhawatiran tentang memperlambatnya, sebenarnya membantu mempercepatnya.

AI agen memiliki potensi untuk mengurangi biaya dukungan pelanggan sebesar 25-50%, misalnya, sambil meningkatkan kepuasan pelanggan. Tapi semua itu tergantung pada kepercayaan.

Manusia yang menggunakan AI harus mempercayainya, dan pelanggan yang berinteraksi dengan agen manusia yang diaktifkan AI atau dengan agen AI yang sebenarnya tidak dapat mengalami satu interaksi yang akan merusak kepercayaan mereka. Satu pengalaman buruk dapat menghancurkan kepercayaan pada merek.

Kami tidak mempercayai apa yang tidak aman. Jadi, ketika kami membangun keselamatan ke dalam setiap lapisan AI yang akan kami luncurkan, kami dapat melakukannya dengan percaya diri. Dan ketika kami siap untuk menskalakan, kami dapat melakukannya dengan cepat – dengan percaya diri.

Sementara menerapkan Keselamatan AI Terlebih Dahulu ke dalam praktek mungkin tampak menggembirakan, Anda tidak sendirian. Ada banyak ahli yang dapat membantu dan mitra yang dapat berbagi apa yang telah mereka pelajari dan sedang mempelajari sehingga Anda dapat memanfaatkan nilai AI dengan aman tanpa memperlambat Anda.

AI telah menjadi perjalanan yang menarik sejauh ini, dan ketika perjalanan ini mempercepat, saya merasa sangat menggembirakan. Tapi saya juga senang saya mengenakan helm saya.