Desain yang Bertanggung Jawab – Mengapa AI Harus Berorientasi Manusia

Kecerdasan buatan sedang mengubah pengalaman digital yang mendefinisikan kehidupan sehari-hari kita. Dari rekomendasi produk pribadi dan perawatan kesehatan prediktif hingga mengemudi otonom dan bahkan antrean taman hiburan, AI membuat pengalaman tersebut lebih murah, lebih efisien, dan bahkan menyenangkan. Setidaknya, itu janji yang diberikan.

Tapi terlalu sering, kita menemukan berita tentang “kegagalan AI” — saat pengguna merasa tersesat, frustrasi, atau tidak dipahami. Dan ketika kepercayaan rusak, potensi AI untuk menjadi bermakna dan efektif juga rusak.

Kepercayaan masyarakat mulai memudar. Mengapa? Karena sebagian besar sistem tidak dirancang dengan mempertimbangkan pengalaman manusia — mereka dirancang untuk apa yang cepat, skalabel, dan menguntungkan. Itu seharusnya menjadi alasan besar bagi perusahaan untuk mempertanyakan investasi AI mereka.

Untuk membangun kepercayaan, perusahaan perlu berhenti sejenak dan mengajukan pertanyaan yang lebih dalam: Mengapa kita membangun sistem ini? Apakah itu seharusnya dibangun di tempat pertama? Dengan singkat, apakah kita merancang AI untuk melayani kebutuhan manusia – atau memaksa manusia untuk menyesuaikan diri dengan logika mesin?

Gap Kepercayaan dengan AI

Terlalu sering, AI dikembangkan dalam lingkungan teknis yang terisolasi, di mana kesuksesan diukur oleh akurasi atau kecepatan, dan tidak dampak sosial atau kemanfaatan. Pemikiran etis, komponen inti kepercayaan, tidak secara otomatis dimasukkan dalam pipa pengembangan AI. Keterputusan ini menghasilkan sistem yang mungkin inovatif dalam teori, tetapi gagal dalam praktek.

Ambil chatbot Air Canada, yang dengan percaya diri memberikan informasi yang salah kepada pelanggan tentang kebijakan tarif duka, hanya untuk perusahaan membantah bahwa mereka tidak bertanggung jawab atas apa yang dikatakan chatbot. Atau chatbot AI Meta, yang menawarkan pernyataan yang salah secara faktual dalam hasil pencarian. Contoh-contoh ini mencerminkan lebih dari sekadar kesalahan teknis; mereka mengungkap kegagalan sistemik untuk merancang aplikasi AI dengan empati, pengaman, dan konteks dunia nyata.

Masyarakat telah memperhatikan. Menurut Pusat Penelitian Pew, 59% orang Amerika dan 55% ahli AI memiliki sedikit atau tidak ada kepercayaan pada perusahaan AS untuk mengembangkan AI secara bertanggung jawab. Itu adalah gap kepercayaan yang tidak dapat kita abaikan.

Desain Berpusat pada Manusia Bukanlah Mewah

Desain bukanlah hiasan untuk AI. Ini adalah fondasi bagi bagaimana AI berperilaku dan bagaimana AI dipersepsikan oleh pengguna akhir. Desain berpusat pada manusia dimulai dengan memahami orang-orang yang kita rancang untuk: tujuan, frustrasi, nilai, dan kenyataan hidup mereka.

Sangat penting selama proses desain untuk mengajukan pertanyaan yang sangat spesifik untuk memastikan teknologi melayani kebutuhan manusia, bukan sebaliknya, dengan mendefinisikan:

• Siapa yang kita rancang untuk?
• Apa tujuan, nilai, dan tantangan mereka?
• Bagaimana mereka berinteraksi dengan sistem secara emosional dan fungsional?
• Apakah produk tersebut dapat dipercaya dan melakukan apa yang dikatakan akan dilakukan?
• Apakah itu mempromosikan inklusivitas dan aksesibilitas untuk semua jenis orang?

Pertanyaan-pertanyaan ini tidak abstrak. Mereka langsung membentuk bagaimana AI berperforma di lapangan. Dan, dalam konteks yang berisiko tinggi seperti kesehatan, keamanan, atau pendidikan, mereka dapat menentukan apakah sistem tersebut inklusif dan adil atau membingungkan dan berbahaya.

Apa yang Terlihat seperti Desain yang Lebih Baik

Perancang membangun jembatan antara kebutuhan manusia dan kemampuan mesin melalui proses prototipe, pengujian, dan iterasi, yang memastikan produk masuk akal bagi orang-orang yang menggunakannya. Itu termasuk mempertanyakan bagaimana AI berkomunikasi, keputusan apa yang diotomatisasi, dan seberapa banyak kontrol yang ditawarkan kepada pengguna.

Ambil taman hiburan sebagai contoh. AI sedang diterapkan untuk mengurangi waktu tunggu, mempersonalisasi pengalaman, dan mengelola aliran kerumunan. Ini adalah contoh penggunaan yang menjanjikan. Tapi kesuksesan bukan hanya tentang efisiensi. Sistem yang dirancang dengan baik akan memprioritaskan pengalaman manusia, bukan hanya efisiensi. Itu berarti pesan yang transparan, antarmuka yang intuitif, pilihan yang jelas, dan opsi fallback untuk pengguna dengan kebutuhan unik (seperti keluarga tanpa smartphone atau tamu dengan kebutuhan aksesibilitas).

Kesempatan di sini bukan hanya untuk mengoptimalkan operasi logistik untuk keuntungan; itu untuk meningkatkan kesenangan, mengurangi gesekan, dan menciptakan pengalaman bersama yang terasa ajaib, bukan mekanis. Itu adalah kesempatan bagi desain.

Menguji Elemen Manusia

Dalam desain AI yang berpusat pada manusia, pengujian sangat penting. Idealnya, kita harus melibatkan pengguna potensial sejak awal dan sering, dengan tujuan untuk mengidentifikasi potensi kebutaan. Ketika pengguna tidak dapat memahami atau mempercayai sistem, sistem tersebut telah gagal, tidak peduli seberapa mengesankan backend-nya.

Pengujian juga memastikan aksesibilitas, yang sering diabaikan dalam pengalaman yang didorong AI. Chatbot mungkin fungsional secara teknis, tetapi jika tidak melayani pengguna neurodivers atau penutur non-asli, maka tidak benar-benar fungsional. Desain inklusif tidak hanya menguntungkan margin, tetapi juga memperkuat produk untuk siapa saja dan semua orang.

Tanggung Jawab Dimulai dengan Desain

Kebijakan dapat membantu menetapkan batasan dan mencegah hasil terburuk. Jadi, kerangka seperti EU AI Act dan Blueprint untuk AI Bill of Rights adalah langkah-langkah penting. Tapi kepatuhan hanya lantai. Desain adalah cara kita mencapai atap.

Perusahaan harus melampaui daftar periksa untuk membangun sistem AI yang mendukung martabat, kekuasaan, dan pengawasan. Itu berarti menolak keinginan untuk sepenuhnya mengotomatisasi penilaian manusia, dan sebaliknya merancang alat yang melengkapi penilaian tersebut. AI yang bertanggung jawab tidak menghapus kontrol manusia; sebaliknya, itu memperkuatnya.

Pekerjaan ini tidak hanya teknis. Ini memerlukan tim multidisiplin yang terdiri dari perancang, insinyur, ahli kebijakan, dan ahli etika yang bekerja sama sejak hari pertama. Ini berarti merancang dengan orang, bukan hanya untuk mereka.

Peran Perancang dalam Membentuk AI

Perancang memainkan peran unik dalam membentuk trajektori AI. Mereka adalah penerjemah yang fasih dalam logika mesin yang terstruktur dan kompleksitas kehidupan manusia. Perancang dilatih untuk mengenali titik gesekan, petunjuk emosional, dan implikasi sosial yang data saja tidak dapat tangkap.

Serupa dengan pertanyaan spesifik yang memastikan teknologi melayani kebutuhan manusia, perancang harus menjadi juru bicara untuk pertanyaan yang tidak sesuai dengan data pelatihan, seperti:

• Bagaimana ini membuat seseorang merasa?
• Apakah pengguna memiliki kontrol?
• Apa yang terjadi ketika sesuatu salah?

Terlalu sering, desain dibawa pada akhir pipa AI untuk “membuatnya terlihat baik.” Tapi kekuatan sebenarnya dari desain adalah strategis. Ini harus membentuk bagaimana masalah didefinisikan dari awal, bukan hanya bagaimana antarmuka terlihat.

Manusia Pertama, Bukan Mesin Pertama

AI bukan hanya tantangan teknis, itu adalah tantangan desain. Dan untuk memenuhinya, kita harus memusatkan nilai-nilai manusia dari awal.

AI yang berpusat pada manusia bukanlah mewah – itu adalah kebutuhan. Ini menciptakan sistem yang dapat dipercaya, andal, tidak bias, dapat diaudit, dan patuh. Tapi lebih dari itu, ini membangun produk yang menguntungkan pengguna akhir dan meningkatkan produktivitas dan potensi manusia.

Kita memiliki alat dan kita memiliki tanggung jawab untuk merancang masa depan di mana teknologi melayani orang, bukan sebaliknya. Masa depan itu dimulai dengan desain.