Ketika AI Berpikir Seperti Manusia: Menjelajahi Pikiran LLM dan Agen

Hari ini, LLM dan agen belajar, menganalisis, dan membuat keputusan dengan cara yang dapat membuat garis antara “pemikiran” algoritmik mereka dan pikiran manusia menjadi kabur. Pendekatan yang mereka gunakan sudah meniru proses kognitif kita, dan skala pelatihan mereka melampaui pengalaman manusia dengan beberapa tingkat. Ini menimbulkan pertanyaan: apakah kita menciptakan alat yang memperluas kemampuan kita, atau apakah kita menciptakan jenis pikiran baru yang konsekuensinya masih tidak dapat diprediksi?

Bagaimana model berpikir

Penting untuk membedakan antara konsep LLM dan agen. Untuk membuat analogi dengan komputer, LLM dapat dibandingkan dengan salah satu komponennya, misalnya prosesor. Agen, bagaimanapun, adalah sistem keseluruhan, sebuah “papan induk” yang terhubung dengan berbagai modul: memori, kartu grafis, dan jaringan. Serupa, agen adalah sistem kompleks yang dapat mengintegrasikan satu atau lebih LLM, dilengkapi dengan mekanisme pengambilan keputusan dan alat untuk berinteraksi dengan lingkungan luar.

Jika kita mempertimbangkan kerja sebuah LLM tunggal, semuanya berkaitan dengan pencocokan pola. Namun, ketika agen menghubungkan beberapa LLM, kita dapat mengatakan bahwa itu “berpikir”, meskipun proses ini masih dibangun berdasarkan pola. Agen membangun logika interaksi antara model: misalnya, satu LLM menganalisis tugas, dan berdasarkan analisis ini, agen menentukan apa yang harus dilakukan oleh LLM lain.

Pemikiran manusia bekerja dengan cara yang sama: kita bergantung pada pengetahuan dan pola yang terkumpul, memilihnya pada saat yang tepat, memprosesnya, dan menyimpulkan. Proses ini disebut penalaran.

ChatGPT, seperti manusia, memiliki dua jenis memori: memori jangka pendek dan memori jangka panjang. Perbedaannya adalah bahwa pada manusia, akses ke tingkat memori ini lebih kompleks dan tidak selalu linear.

Memori jangka pendek adalah informasi yang kita kerjakan saat ini. Bagi orang, mungkin apa yang Anda katakan lima menit yang lalu: mereka mungkin mengingatnya atau tidak. GPT, bagaimanapun, selalu mempertimbangkan semua yang ada dalam “jendela konteks” – tidak dapat melewati atau mengabaikan data ini.

Memori jangka panjang pada manusia terdiri dari kenangan yang tidak selalu aktif dan mungkin hanya muncul dengan pemicu tertentu: kenangan masa kecil, trauma, atau, misalnya, bekerja dengan seorang psikolog. GPT memiliki logika yang serupa: tidak “mengingat” informasi kecuali jika secara khusus diaktifkan. Misalnya, instruksi seperti “Jangan pernah tanyakan saya pertanyaan ini lagi” atau “Selalu sapa saya dengan formal” dapat disimpan dalam memori jangka panjang dan diterapkan selama setiap sesi.

Contoh lain dari memori jangka panjang adalah dokumen yang disimpan. Misalkan Anda mengunggah instruksi untuk melakukan penelitian pemasaran ke GPT. Model dapat menyimpannya dalam memori, tetapi itu tidak berarti akan merujuk pada dokumen tersebut dengan setiap pertanyaan. Jika Anda bertanya, “Bisakah Anda menerangi bulan?”, GPT akan mengabaikan instruksi. Namun, jika permintaan mengandung kata kunci yang sesuai dengan teks dokumen, model dapat “mengingat”nya.

Mekanisme ini diimplementasikan melalui RAG (Retrieval-Augmented Generation), sebuah pendekatan di mana model mendapatkan akses ke informasi yang disimpan yang dipicu oleh petunjuk relevan melalui basis data vektor.

Dengan demikian, dapat dikatakan bahwa model benar-benar memiliki memori, tetapi berfungsi menurut logika yang berbeda, lebih formal, yang berbeda dari memori manusia.

Mengapa percakapan dengan AI terkadang terasa terapeutik, dan terkadang dingin dan robotik?

Model bahasa modern sangat besar: mereka menyimpan sejumlah besar data, pengetahuan, dan konteks. Semua informasi ini disusun ke dalam apa yang disebut “klaster”, area tematik dan semantik. Model ini dilatih pada sumber yang beragam, mulai dari fiksi dan artikel ilmiah hingga komentar YouTube.

Ketika Anda berinteraksi dengan AI, pertanyaan Anda (prompt) secara efektif mengarahkan model ke klaster tertentu.

Misalnya, jika Anda menulis: “Anda adalah pengacara properti di New York dengan 20 tahun pengalaman, tolong bantu saya membeli apartemen,” model mengaktifkan beberapa klaster sekaligus: pengacara → New York → properti. Sebagai hasilnya, Anda menerima tanggapan yang koheren, relevan, dan realistis, seolah-olah Anda benar-benar berkonsultasi dengan seorang profesional berpengalaman.

Jika pertanyaan Anda berkaitan dengan topik yang lebih pribadi atau filosofis, seperti pengembangan diri atau emosi, model “bergeser” ke klaster lain, seperti psikologi, filsafat, atau pekerjaan internal. Dalam hal ini, jawabannya mungkin tampak sangat manusiawi dan bahkan terapeutik.

Namun, dengan kalimat yang terlalu umum atau samar, model “tersesat” dalam struktur klaster dan memberikan tanggapan default, formal, terlepas, dan kekurangan nada emosional.

Gaya dan kedalaman tanggapan AI tergantung pada klaster mana yang Anda arahkan dengan prompt Anda.

Filsafat pelatihan model dan RLHF

Kecerdasan buatan memiliki berbagai pendekatan untuk belajar. Ini bukanlah filsafat, melainkan strategi.

Opsi klasik adalah pembelajaran terawasi, di mana model diberikan pertanyaan dan jawaban yang benar. Ia belajar dengan mengamati apa yang dianggap benar dan kemudian mereproduksi solusi serupa di masa depan.

Namun, ada pendekatan lain, yaitu RLHF (Reinforcement Learning from Human Feedback). Ini adalah gaya yang berbeda: model mencoba sesuatu, menerima “hadiah” untuk tindakan yang sukses, dan menyesuaikan perilakunya. Secara bertahap, ia mengembangkan strategi yang efektif.

RLHF dapat dibandingkan dengan proses mengubah bahan mentah menjadi produk jadi. Untuk membuat model yang nyaman digunakan, diperlukan sejumlah besar pekerjaan dengan umpan balik manusia.

Bayangkan saya menunjukkan Anda sebuah objek tanpa menamainya secara langsung. Anda ragu-ragu: “Apakah itu sebuah kotak rokok? Sebuah pemegang kartu?” Saya hanya memberikan petunjuk seperti: “Lebih dekat,” “Lebih jauh,” “60% ya.” Setelah ratusan iterasi seperti itu, Anda menebak: “Ah, itu sebuah dompet.”

LLM dilatih dengan cara ini. Manusia, annotator, dan profesional pada umumnya, mengevaluasi: jawaban ini baik, jawaban ini buruk, dan memberikan skor. Perusahaan seperti Keymakr, yang mengkhususkan diri dalam anotasi data dan validasi berkualitas tinggi, memainkan peran kunci dalam proses ini. Umpan balik juga datang dari pengguna biasa: suka, keluhan, dan reaksi. Model menafsirkan sinyal-sinyal ini, membentuk pola perilaku.

Bagaimana pelatihan model terlihat dalam praktik

Sebuah contoh yang jelas adalah eksperimen OpenAI melatih agen menggunakan pembelajaran penguatan dalam permainan “Hide and Seek.”

Dua tim berpartisipasi di dalamnya: “pencari” (merah) dan “penghindar” (biru). Aturannya sederhana: jika pencari menangkap penghindar, mereka mendapatkan poin; jika tidak, mereka kehilangan satu. Awalnya, agen hanya memiliki kemampuan fisik dasar, berlari dan melompat, tanpa strategi yang telah ditentukan sebelumnya.

Pada awalnya, pencari bertindak secara acak, dan menangkap lawan terjadi secara kebetulan. Namun, setelah jutaan iterasi, perilaku mereka berkembang. Penghindar mulai menggunakan objek sekitar untuk memblokir pintu dan membangun penghalang. Kemampuan ini muncul tanpa pemrograman langsung, murni melalui upaya berulang dan hadiah untuk keberhasilan.

Sebagai respons, pencari mulai menggunakan lompatan, kemampuan yang tersedia dari awal tetapi sebelumnya diabaikan. Setelah serangkaian kegagalan, penggunaan lompatan yang acak mengungkap nilai taktisnya. Kemudian, penghindar memperumit pertahanan mereka lebih lanjut, menghilangkan objek dari garis pandang pencari dan membangun tempat perlindungan yang lebih andal.

Eksperimen ini menunjukkan bahwa melalui miliaran siklus coba, kesalahan, hadiah, dan hukuman, perilaku kooperatif yang kompleks dapat terbentuk tanpa intervensi pengembang. Lebih lagi, agen mulai bertindak dalam koordinasi, bahkan ketika mekanisme komunikasi tidak diprogram, hanya karena kerja sama terbukti lebih efektif.

Sama halnya dengan model bahasa besar. Mustahil untuk menskrip semua skenario: ada terlalu banyak situasi dan terlalu banyak variabilitas di dunia. Oleh karena itu, kita tidak mengajarkan model aturan tetap; kita mengajarkan cara belajar.

Inilah nilai RLHF. Tanpa itu, LLM dan agen hanya menjadi perpustakaan teks. Dengan itu, menjadi mitra percakapan yang dapat beradaptasi, memperbaiki diri, dan pada dasarnya berkembang.

Apa yang selanjutnya?

Banyak yang bertanya-tanya apakah pengembangan LLM dan agen dapat menyebabkan konsekuensi yang tidak diinginkan atau bahkan berbahaya.

Penting untuk memahami bahwa apa yang kita lihat hari ini bukanlah bahkan MVP, tetapi hanya prototipe.

Revolusi sebenarnya tidak akan tentang membantu menulis surat yang indah atau menerjemahkannya ke dalam bahasa Prancis. Itu adalah hal-hal kecil. Arah utama adalah otomatisasi tugas mikro dan proses rutin, meninggalkan manusia hanya tugas yang benar-benar kreatif, intelektual, atau waktu untuk istirahat.

Inovasi sebenarnya berfokus pada agen, sistem yang dapat berpikir, bertindak, dan membuat keputusan secara mandiri sebagai gantinya orang. Ini adalah tempat di mana perusahaan seperti OpenAI, Google, Meta, dan lain-lain saat ini memfokuskan upaya mereka.

Model bahasa besar hanya fondasi. Masa depan sebenarnya terletak pada agen yang dilatih untuk hidup di dunia dinamis, menerima umpan balik, dan beradaptasi dengan perubahan.