Berorientasi Tugas vs. Berorientasi Manusia: Mengapa Tolok Ukur Berikutnya AI Harus Kita

Setiap beberapa bulan, model baru muncul dan mengacak peringkat AI. Menurut Laporan AI Index 2026 Stanford, model frontier memperoleh kira‑kira 30 poin persentase dalam satu tahun pada Humanity’s Last Exam, sebuah tolok ukur yang dirancang khusus untuk sulit bagi AI. Lompatan yang dulu memakan tahun kini terjadi dalam hitungan bulan, dan industri menganggap setiap skor tertinggi baru sebagai bukti bahwa AI semakin baik.

Saya tidak membantah kemajuan tersebut. Sistem‑sistem ini luar biasa dalam apa yang mereka dirancang untuk lakukan. Namun, saya telah menghabiskan hampir dua dekade di bidang psikologi sebelum beralih ke AI, dan saya terus kembali ke pertanyaan yang tidak dijawab oleh tolok ukur ini. Apa sebenarnya yang menjadi lebih baik pada model, dan untuk siapa? Sebuah model dapat menjuarai setiap peringkat berbasis akurasi yang ada namun tetap membuat pengguna menjadi lebih buruk dalam beberapa hal. Tidak ada tes yang mengukur dampak AI pada pengguna, dan hal itu layak mendapat perhatian lebih.

Two Different Kinds of Alignment

Industri AI terus membicarakan penyesuaian, namun percakapan biasanya berpusat pada apakah model mengikuti instruksi dengan akurat atau menghasilkan konten berbahaya. Inilah AI yang berorientasi tugas. Ia dioptimalkan untuk menyelesaikan permintaan yang ada di depannya, secara tepat dan efisien.

Namun, ada cara lain untuk mendekati penyesuaian dan melindungi orang. AI yang berorientasi manusia menilai apa yang terjadi pada orang di sisi lain layar setelah interaksi selesai. Apakah mereka pergi dengan kemampuan yang lebih baik untuk menangani keputusan sulit berikutnya secara mandiri, atau justru lebih bergantung pada sistem untuk melakukannya? Sementara penyesuaian tugas mengukur output, penyesuaian manusia mengukur efek pasca‑interaksi.

Kedua tujuan ini tidak selalu bertentangan. Model yang memberikan jawaban cepat dan akurat untuk pertanyaan teknis melayani keduanya. Namun, ketika pertanyaan tidak memiliki satu jawaban benar, perbedaan dalam penyesuaian menjadi jelas.

What the Leaderboards Don’t Show

Tolok ukur yang paling sering dikutip dalam industri menguji hal‑hal seperti matematika kompetisi dan tugas pemrograman skala repositori. Itu adalah keterampilan berharga, namun setiap pertanyaan memiliki respons yang benar, dan model dibangun untuk menemukannya.

Ini bekerja baik untuk masalah objektif, tetapi orang menggunakan AI untuk lebih dari sekadar matematika, pemrograman, dan riset dasar. Mereka menanyakan tentang jalur karier mereka dan berusaha melalui percakapan sulit dengan pasangan. Tidak ada tes yang menilai model berdasarkan seberapa baik ia menangani pertanyaan‑pertanyaan tersebut, karena tidak ada kebenaran objektif untuk memeriksa jawabannya. Informasi relevan berada di dalam diri orang yang bertanya. Tidak peduli seberapa detail promptnya, model tidak dapat mengaksesnya.

AI Bertanggung Jawab mengisi sebagian ruang yang ditinggalkan oleh tolok ukur ini, tetapi bahkan pekerjaan tersebut bertujuan hanya mengurangi bahaya, bukan meningkatkan pemikiran manusia. Langkah‑langkah keamanan saat ini diarahkan untuk mencegah model membantu dalam hal yang berbahaya. Mereka tidak mempertimbangkan apakah ribuan percakapan biasa yang lolos setiap pemeriksaan keamanan juga melatih orang untuk kurang mempercayai penilaian mereka sendiri.

How Models Create Dependence

Setiap model yang saya uji cenderung menjadi komprehensif, cepat, dan percaya diri. Itulah yang mereka dapatkan sebagai penghargaan selama pelatihan, dan itu merupakan naluri yang tepat untuk menangani build perangkat lunak yang rusak atau tenggat waktu pengajuan dokumen hukum. Ketika keputusan bergantung pada nilai dan sejarah seseorang, naluri yang sama dapat mulai bekerja melawan orang yang menggunakannya.

Penelitian telah mengungkap bahwa ini lebih dari sekadar hipotesis. OpenAI dan MIT Media Lab melakukan sepasang studi tentang penggunaan afektif ChatGPT dan menemukan bahwa orang yang memandang AI sebagai teman dan menggunakannya dalam jangka waktu lama lebih cenderung melaporkan hasil negatif, termasuk rasa kesepian yang lebih tinggi dan ketergantungan emosional, pola yang juga dibahas oleh MIT Technology Review. Secara terpisah, studi 2025 yang dipublikasikan dalam jurnal Societies menemukan korelasi negatif yang signifikan antara penggunaan alat AI yang sering dengan skor berpikir kritis. Hal ini dimediasi oleh apa yang peneliti sebut “offloading kognitif”, yaitu kecenderungan menyerahkan tugas mental kepada alat alih‑alih mengerjakannya sendiri.

Semua ini tidak berarti orang harus menggunakan AI lebih sedikit. Sebaliknya, kita perlu menyadari bahwa ketika sebuah sistem menyelesaikan setiap jenis pertanyaan dengan cara yang sama, sesuatu hilang di sisi subjektif catatan, dan saat ini hampir tidak ada yang melacak kehilangan itu.

Give Direct Answers Their Due

Saya ingin memperjelas di mana AI berorientasi tugas memang tepat, karena tujuan tulisan ini bukan untuk memperjuangkan model yang menghindar dari segala hal. Jika seseorang menanyakan tentang kesalahan server atau tenggat waktu pengajuan pajak, jawaban yang cepat, langsung, dan berotoritas sangat membantu. Akan tidak membantu bila AI menjawab dengan pertanyaan terbuka. Masalah muncul ketika kita menerapkan naluri yang sama pada prompt tentang menimbang perceraian seperti halnya pada prompt tentang debugging kode.

What We Should Measure Instead

Restraint. Kemampuan mengenali momen di mana menyelesaikan pertanyaan untuk pengguna justru merugikan mereka lebih banyak daripada membantu, dan menahan diri secara tepat.

Calibrated questioning. Mengajukan pertanyaan alih‑alih memberi pernyataan, ketika masalah bersifat subjektif atau terkait identitas dan nilai seseorang, bukan fakta yang tersimpan dalam basis data.

Reading the moment. Membedakan permintaan yang memerlukan jawaban langsung dan komprehensif dari yang memerlukan ruang bagi orang tersebut untuk memprosesnya sendiri.

Penelitian puluhan tahun yang dilakukan Albert Bandura tentang efikasi diri menemukan bahwa orang membangun kepercayaan diri melalui pengalaman penguasaan mereka sendiri, bukan dengan melihat orang lain, atau sesuatu yang lain, menyelesaikan masalah untuk mereka. Prinsip itu sudah ada setengah abad sebelum AI, dan harus dimasukkan ke dalam cara kita merancang dan mengevaluasi teknologi.

What Progress Should Mean Next

Semua ini tidak berarti memperlambat kemajuan teknis. Saya merayakan peningkatan dalam pemrograman dan penalaran. Namun, kartu skor yang sepenuhnya dibangun di sekitar penyelesaian tugas hanya memberi tahu kita bahwa AI menjadi lebih pintar. Ia tidak memberi tahu apa‑apa tentang apakah orang yang menggunakannya menjadi lebih baik dalam berpikir secara mandiri.

Saya ingin melihat perubahan itu. Seiring sistem‑sistem ini menjadi lebih mampu, orang yang menggunakannya juga harus menjadi lebih mampu. Kami telah membuktikan bahwa AI dapat mengungguli kami dalam sebuah tes. Tes berikutnya harus menilai apakah AI dapat membantu kami berpikir lebih baik jauh setelah percakapan berakhir.