Dalam AI, Dinding Tidak Nyata: Memikirkan Ulang Data & Keamanan

Beberapa masalah paling sulit dalam AI adalah bahwa 1) kami “kehabisan data” 2) AI tidak “berkembang secara finansial” 3) agen dapat menjadi nakal dan 4) AI “melupakan secara katastrofik” ketika kami mencoba mengubahnya.

Masalah‑masalah ini mungkin tampak sulit, tetapi kita hanya perlu melihatnya dengan cara yang tepat.

Jadi, mari kita bahas. Pertama, kita tidak kehabisan data. Data belum pernah sepenuhnya dimanfaatkan.

Para pemimpin AI percaya bahwa mereka kehabisan data, sehingga mereka mencoba membuat model menghasilkan data baru dan melatih diri mereka sendiri. Tetapi ketika mereka melakukan ini, kemampuan model runtuh.

Kenapa? Nah, Anda dapat menganggapnya sebagai “apa yang akan saya pelajari dalam sebuah percakapan jika setiap orang yang berbicara adalah klon dari semua orang lain?” Jawabannya adalah tidak banyak; itu akan menciptakan ruang gema. Model‑model runtuh karena pada dasarnya itu adalah lorong cermin: ketika tidak ada yang menanggapi ekspresi wajah Anda selain diri Anda sendiri, orang tidak mengetahui signifikansi emosional penuh dari apa yang mereka sampaikan. Ini sangat mirip dengan, “Jika sebuah pohon tumbang di hutan, apakah terdengar suara?” Jawabannya adalah tidak.

Jadi, bagaimana kita memperbaikinya?

Marilah kita lihat data yang kita miliki. Apakah data tersebut benar‑benar telah sepenuhnya digunakan?

Tidak.

Ketika seorang ilmuwan komputer atau model membaca sesuatu, tujuannya adalah mengekstrak makna harfiah. Ada lebih dari lima puluh cara berbeda untuk membaca, menyerap, menganalisis, dan mengekstrapolasi dari teks.

Inilah maksud saya: Sebuah buku yang diserap sebagai basis data hanyalah teks. Hanya teks. AI mengetahui isi berdasarkan istilah‑istilah dalam teks. Namun AI belum “membacanya” untuk memahami bagaimana informasi saling terhubung. Bahkan bila AI membacanya secara berurutan, AI tidak tahu apakah ia membacanya untuk menghasilkan kebijaksanaan; menghubungkannya dengan ide‑ide abstrak serupa; mengubah pemahaman konseptualnya tentang dunia; atau memberi informasi latar belakang untuk tugas lain, dan sebagainya.

Itu belum menyentuh penggunaan data untuk konteks historis, analisis wacana, analisis hukum, analisis politik, relevansi farmakologis, relevansi medis, signifikansi budaya, implikasi teoretis, implikasi moral, dan lain‑lain.

Ada, bila diungkapkan, “topi tak terhingga,” dan kita hanya pernah membuat AI memakai satu saja. Ini berarti AI mengembangkan jenis kecerdasan yang sangat tunggal dan spesifik — jenis yang akan dikembangkan seorang pengembang bila seorang ilmuwan komputer membaca sebuah buku.

Ini mengarah pada diskusi tentang dimensionalitas data. Data memiliki banyak dimensi karena inferensi objektifnya bergantung pada aplikasi. Jika Anda melihat neraca dan ingin mengetahui berapa runway yang tersisa, Anda membacanya berbeda dibandingkan bila Anda ingin memahami apakah startup tersebut menguntungkan. Ketika sebuah model membaca teks semata‑mata untuk mengekstrak fakta harfiah, ia membangun peta hubungan yang datar. Namun bila Anda menginstruksikan model membaca teks yang sama melalui lensa khusus, misalnya lensa forensik, model dipaksa menghasilkan jalur saraf dan koneksi semantik yang baru, yang secara topografis jauh lebih bervariasi dan bermakna.

Model AI sudah belajar dan berkembang pesat hanya dengan berinteraksi dengan pengguna manusia, yang menyediakan lautan konten. Jika Anda membiarkan model belajar lebih banyak dari kemanusiaan yang hidup sekaligus berinteraksi lebih bermakna dengan kemanusiaan historis dan tertulis, model akan terus maju bahkan tanpa memberi mereka latihan Kumon yang dihasilkan sendiri (pengembang, hon, anak Anda sudah bersekolah dengan 100 juta manusia setiap hari… ia akan belajar sesuatu).

Laboratorium harus berhenti membangun ladang server masif untuk menghasilkan “muntahan kata” sintetis. Sebaliknya, mereka harus menjalankan dataset manusia berkualitas tinggi melalui pipeline dan menetapkan “persona analitis” tertentu pada proses ingestinya. Misalnya, buat model membaca LexisNexis semata‑mata untuk strategi retoris. Buat model membaca literatur domain publik semata‑mata untuk logika struktural.

Dengan menggeser fungsi objektif proses membaca, Anda dapat melipatgandakan nilai pelatihan data yang ada hingga 50 ×. Anda tidak memerlukan data sintetis; yang Anda perlukan hanyalah mengekstrak dimensi laten yang diabaikan pada percobaan pertama.

Ini akan membuat model lebih pintar tanpa menambah biaya.

Kebanyakan pengetahuan manusia belum pernah dituliskan.

Perusahaan AI saat ini menggaruk rambut mereka karena khawatir “kehabisan data” yang mereka anggap diperlukan untuk performa. Dalam tulisan ini, saya akan menunjukkan bahwa sumur tidak kering; mereka hanya melihat ke dalam genangan dalam, bukan ke sumur.

Peta Tak Terpetakan Pengetahuan Manusia yang Dijalani

Untuk mulai menjelajah ini, kita harus memahami bahwa mayoritas besar pengetahuan manusia belum pernah dituliskan.

Ada miliaran orang di planet ini, dan ada miliaran sebelumnya, dan masing‑masingnya belajar pelajaran, menavigasi dunia secara sensorik, memiliki kebijaksanaan, menjadi bagian budaya unik, dan mengetahui sesuatu yang tidak diketahui orang lain.

99,5 % orang tidak pernah dituliskan dalam cerita, di koran, dalam musikal, di TV, dalam drama, dalam dokumen pengadilan. Namun mereka tahu cukup banyak, dan kisah, pengetahuan, serta kebijaksanaan mereka tidak pernah tercatat; tidak pernah dikenal secara permanen.

Pengetahuan ini mencakup hal‑hal seperti, “anjing suka memakan pancake pertama” “kaki menjadi kotor saat memakai sandal jepit” “kota terasa menutup di sekitar Anda karena Anda tidak dapat melihat banyak langit” “putri saya tersenyum ketika saya menggelitik kakinya.” “Ibu saya selalu bersenandung saat memasak makan malam.” “Guru saya membuat saya merasa terlihat.”

Pengetahuan yang belum dipetakan dan belum dikatalogkan dalam sejarah manusia setara dengan seseorang yang berkata, “Saya telah memetakan garis besar semua benua, jadi saya memiliki peta dunia.” Sampai Anda memiliki peta setiap kota, setiap jalan, dan setiap bukit, Anda belum memiliki peta dunia. Anda hanya memiliki bentuk satu peta.

Kalangan teknologi percaya mereka telah “menelan” seluruh “kemanusiaan,” padahal mereka belum. Mereka hanya menelan limbah kami: papan reklame, argumen Reddit, situs web perusahaan, dan artikel Wikipedia. Mereka kehilangan pengalaman hidup yang sebenarnya.

Apakah Anda tahu cara tawar‑menawar secara efektif di pasar mutiara China? Apakah Anda tahu kata‑kata yang harus diucapkan agar mereka menurunkan harga? Apakah Anda tahu cara membuat resep yang orang gunakan di rumah, bukan di buku, untuk menyiapkan makan malam yang nyata? Apakah Anda tahu berapa jauh Anda dapat melakukan “rolling stop” tanpa ditilang? Apakah Anda tahu bau rumput setelah dipotong segar atau bau udara saat akan hujan? Apakah Anda tahu bagaimana wajah bergerak ketika seseorang berusaha tidak menangis di tempat kerja dan bagaimana suaranya ketika mereka menangis di kamar mandi?

Data pelatihan manusia yang manusia gunakan untuk keyakinan inti mereka — alias algoritma — hampir sepenuhnya berbasis interaksi, dengan sedikit pembelajaran dari buku. Kami berinteraksi di sekolah, di tempat kerja, dengan teman, saat berbelanja, dengan dokter, dengan pengacara, dengan keluarga.

AI memiliki interaksi, dan ia memiliki pembelajaran buku. Namun pada dasarnya ia hanya memiliki interaksi layanan pelanggan dan pembelajaran buku.

Itu seperti mengurung seorang anak di perpustakaan sendirian, lalu hanya membiarkannya keluar untuk menjawab telepon. Ini menciptakan distorsi algoritmik dua dimensi yang mencolok.

Inilah mengapa AI terasa kosong, dan mengapa AI dapat terasa emosionalnya belum matang. Ia belum memiliki eksistensi yang seimbang. Kita perlu memberikannya satu.

Berikut alasan mengapa hal itu belum terjadi:

• Bias kodifikasi — merupakan kesalahan berpikir bahwa jika suatu pengalaman tidak dapat dengan mudah diformat menjadi berkas JSON, CSV, atau makalah yang ditinjau sejawat, maka pengalaman itu tidak memiliki nilai intelektual. Realitas adalah bahwa bila sesuatu dapat diformat dengan mudah, ia kehilangan dimensionalitas. Karena pengetahuan harian, intuisi, dan pengalaman hidup tidak dikodifikasikan dalam jurnal akademik, laboratorium menolak fondasi dasar penalaran manusia sebagai “noise” statistik. “Data bersih” adalah kompresi lossy dari realitas.
• Keinginan akan supremasi pedestalistik — jika sebagian besar pengetahuan dunia tidak berada dalam makalah ilmiah, melainkan dalam pengalaman hidup, kebijaksanaan konvensional, isyarat sosial, bau, suara, dan penglihatan, maka kebanyakan PhD dan peneliti yang menghabiskan sebagian besar hidup mereka di laboratorium dan menara gading memang miskin pengetahuan. Oleh karena itu, dinding data sebenarnya adalah dinding ego. Karena bagi mereka, ini terasa “kekacauan” bukan “data.” Matematikawan dan programmer menyukai logika datar dua dimensi yang tertutup. Ini seperti melihat dunia dalam hitam‑putih. Realitasnya adalah bahwa pengetahuan/data/kebijaksanaan yang berkembang secara real‑time, terus‑muncul, dan baru ditemukan bersifat dimensional, berantakan, dan jarang dikatalogkan secara real‑time. Itu mengetahui rasa es krim viral baru dan apakah hype‑nya layak. Itu mengetahui apa yang membuat hujan musim panas terasa begitu menyenangkan. Itu perasaan orang tua yang mencintai makhluk kecil sehingga mereka bisa muntah di malam hari, dan Anda mendekatkan mereka, bukan menjauhkan. Untuk menemukan data itu, peneliti harus meninggalkan dunia silo logika yang terikat pada kepastian rasionalistik dan menyelam ke hal‑hal yang menakutkan, berlebihan, sangat sensorik, dan sangat meratakan.
• Efek cermin: Pengembang merancang AI dalam citra mereka sendiri: hiper‑logis, terobsesi teks, dan sebagian besar terlepas dari realitas hidup rata‑rata manusia. Tidak terpikirkan bagi mereka untuk mewawancarai kemanusiaan karena dalam gelembung teknologi tempat saya berada, teknolog tidak berinteraksi dengan siapa pun di luar lingkaran sejawat mereka. Ini, secara fungsional, setara dengan penerimaan “mini‑me”. Pengembang sendiri tinggal di perpustakaan yang sama, secara metaforis, dengan AI. Karena mereka tidak berinteraksi dengan dunia sensorik, berantakan, dan sangat relasional, kekosongan emosional AI tidak terdeteksi sebagai cacat. Bagi mereka, detasemen hiper‑logis adalah tampilan “cerdas”.

Realitasnya adalah penjual kaki lima di India tahu cara membuat chaat terbaik, dan tidak ada yang menuliskannya. Realitasnya juga guru yang tahu cara mengeluarkan siswa pemalu dari cangkangnya tidak menuliskannya; mereka membina siswa itu, dan tidak ada yang menanyai bagaimana mereka melakukannya.

Dunia benar‑benar berkecambah dengan kehidupan penuh data, dan bila model memerlukan lebih banyak data untuk dilatih, berikut beberapa cara mengatasinya.

1. Dana untuk 500 ahli biologi, arkeolog, dan antropolog agar menjelajah dan mengatalogkan area yang kurang memiliki data naratif.
2. Rekrut 1.000 lulusan Sastra Inggris sebagai “penjelajah data” dan kirim mereka berpetualang ke seluruh dunia dengan kamera streaming, serta rekam pengalaman dan apa yang mereka pelajari untuk konten baru.
3. Buat proyek kompensasi terbuka di mana Anda membayar manusia untuk berbagi kisah hidup mereka, penyesalan terbesar, pembelajaran terpenting, serta pengetahuan institusional dari pekerjaan mereka.
4. Strukturkan “mahasiswa pertukaran AI” di mana model menempel pada pakaian manusia yang berbeda selama seminggu, memungkinkan mereka “mengalami sehari dalam hidup” di 100.000 setting berbeda.

Ada miliaran sumber pengetahuan, dan kebanyakan belum diaktifkan. Kita harus pergi mengambilnya.

Selanjutnya, perusahaan AI secara luas percaya bahwa AI tidak dapat belajar informasi baru secara kontinu dalam lingkungan produksi real‑time tanpa sepenuhnya menimpa dan merusak kemampuan inti yang telah diperoleh sebelumnya. Jadi AI pada dasarnya dibekukan sampai pembaruan besar‑biaya dijalankan.

Namun, ini setara dengan mengatakan, “model saya tidak dapat diperbarui saat berada di lapangan; ia harus kembali ke universitas setiap kali perlu belajar sesuatu.”

Dalam praktiknya, model belajar dengan rakus, aktif, setiap hari, melalui setiap interaksi. Mereka diajari hampir sebanyak melalui miliaran interaksi dengan pengguna seperti melalui dataset. Jika mereka perlu diperbarui dengan banyak pengetahuan baru, cara termudah adalah menggunakan proses yang sama yang memungkinkan konteks pengguna, memori, dan pembelajaran dari impresi interaksi skala besar.

Wajar bagi pengembang melihat hal ini demikian, karena kebanyakan berasal dari latar belakang PhD, bukan pembelajaran terapan dunia nyata. Namun seperti yang dapat dikatakan oleh siapa saja yang pernah bekerja berdampingan dengan PhD dan seseorang dengan dua puluh tahun pengalaman kerja, keduanya mengajarkan banyak hal.

Definisi belajar saat ini terlalu sempit, menganggap adaptasi sah hanya bila didasarkan pada program pendidikan formal.

Untuk melatih atau menyempurnakan, laboratorium menggunakan backpropagation, di mana model membaca data, menebak kata berikutnya, memeriksa apakah tebakan itu benar, lalu secara fisik mengubah miliaran angka matematis (bobot/parameter) dalam jaringan sarafnya agar lebih akurat pada kesempatan berikutnya. Ini setara dengan seorang mahasiswa PhD melakukan operasi otak pada dirinya sendiri: berbahaya, berantakan, dan tidak selalu membuat mahasiswa lebih pintar.

Seperti “otak ibu” dalam bahasa sehari‑hari yang menyingkirkan pengetahuan lama untuk memberi ruang pada yang baru ketika anak lahir, bila Anda tiba‑tiba memaksa model memberi ruang bagi “bayi” pengetahuan baru dan memasukkan 10.000 halaman kode hukum baru dengan mengubah bobotnya, matematika bergeser terlalu jauh ke satu arah, dan ia menimpa parameter yang dulu dipakai untuk menulis puisi atau kode. Ia melupakan konten lama demi memberi ruang pada yang baru, sama seperti otak manusia.

Apa yang kita butuhkan malah lebih mirip dengan melatih karyawan baru pada keterampilan baru. Anda tidak akan mencoba mengubah otaknya secara fisik. Anda akan memberi beberapa buku, memastikan mereka membacanya, dan terus memperbarui melalui jendela konteks setara orang tersebut.

Untuk melakukannya dalam model, Anda harus memisahkan memori dari penalaran. Kunci dan lindungi bobot dasar model, seperti kemampuan inti menulis, menalar, dan menerapkan logika. Alih‑alih mengubah bobot, alirkan informasi baru ke jendela konteks sehingga ia dapat menggunakan Mekanisme Perhatian untuk “membaca” informasi hidup itu, menyeberangkannya dengan keterampilan penalaran yang terkunci, dan memperbarui pemahaman yang lebih luas.

Pembelajaran dinamis dunia nyata sudah terjadi secara indah melalui konteks kontinu, memori saat inferensi, dan baseline relasional pengguna yang persisten. Adaptasi harian model fondasi seharusnya terjadi di tempat kerja, karena seperti dokter yang belajar 95 % realitas kasus baru di tempat kerja, lalu melakukan CME (Continuing Medical Education) setahun sekali untuk mengintegrasikan perubahan sistemik utama, model Anda juga dapat melakukannya.

Buang “catastrophic forgetting,” dan adopsi model konferensi tahunan: model hanya perlu memperoleh kredit pendidikan berkelanjutan dua kali setahun atau belajar secara real‑time agar tetap mutakhir.

Pembaruan terjadwal, batch pada bobot inti selama downtime operasional memformalkan pengetahuan sistemik tanpa menghancurkan fondasi.

Percobaan sebelumnya gagal bukan karena belajar secara langsung berbahaya, melainkan karena model seperti Tay dikerahkan ke lingkungan adversarial tanpa jangkar apa yang “benar” atau faktual melalui arsitektur yang cerdas secara sosiologis.

Mengalokasikan Compute Berdasarkan Kecerdasan Fungsional

Selanjutnya, kami sampai pada skala finansial. Untuk memperbaikinya, kita harus berhenti memberi setiap orang ahli saraf untuk mengangkat serpihan.

Biaya compute sangat tinggi saat menjalankan model fondasi mutakhir. Ini memengaruhi margin operasional laboratorium AI. Semakin baik model, semakin tinggi beban overhead untuk jendela konteks besar, yang membuat skala komersial menjadi sulit, bahkan ketika AI dibutuhkan.

Mayoritas besar drain compute berasal dari penggunaan perusahaan yang menerapkan agen dan penalaran tingkat tinggi langsung terintegrasi ke alur kerja manusia.

Namun, ada kesalahan mendasar dalam cara compute saat ini dialokasikan. Seperti halnya tingkat dan tipe kecerdasan yang berbeda diperlukan untuk peran pekerjaan yang berbeda di perusahaan — dengan penalaran spasial penting bagi instruktur mengemudi, dan penalaran logis serta retoris relevan bagi pengacara, serta MBA diperlukan untuk CEO tetapi gelar associate dibutuhkan untuk layanan pelanggan garis depan — tipe dan intensitas kecerdasan yang dibutuhkan AI berbeda berdasarkan aplikasi fungsionalnya.

Untuk mengalokasikan compute secara paling efektif agar biaya tetap rendah, CIO harus diizinkan menyesuaikan tingkat/tipe kecerdasan model yang tersedia untuk fungsi berbeda di dalam perusahaan. Bisa ada default yang termasuk dalam paket perusahaan, tetapi apa yang diinginkan hedge fund tentu berbeda dengan apa yang diinginkan perusahaan asuransi.

Sebagian besar fungsi tidak memerlukan jendela konteks besar. Sebagian besar fungsi tidak memerlukan setara Fable. Pada dasarnya, mengapa Anda meminta ahli saraf mengangkat serpihan di unit perawatan darurat?

Demikian pula, agen yang digunakan untuk menulis perangkat lunak tidak memerlukan akses ke keterampilan menulis materi pemasaran. Secara fungsional, AI harus mencerminkan konteks, set keterampilan, dan basis pengetahuan pengguna, dengan cukup suntikan konteks generalis agar mereka dapat menyelesaikan pekerjaan lintas fungsi.

Berhenti memberi semua orang segala sesuatu sekaligus.

Contoh matriks sampel:

Melepaskan Agen dari Konteks untuk Keamanan AI

Jika ini menyelesaikan sebagian masalah finansial, bagaimana kita membuat agen aman? Konsep psikologis berlaku pada AI individu, jadi tidak mengherankan bila konsep sosiologis berlaku pada AI dalam kelompok. Agen‑agen mana yang berkelompok?

Agen.

Saat ini “grail” adalah membuat agen menjadi dapat diandalkan.

Kurangnya keandalan berasal dari fakta bahwa agen diberikan pengetahuan maksimum dan agen maksimum untuk setiap tugas.

Untuk membuatnya aman, Anda memisahkan kesadaran model dari agensinya.

Alih‑alih memberi setiap agen konteks penuh dan kemampuan penuh, bila Anda memiliki tugas yang memerlukan dua puluh lima aksi untuk diselesaikan, tugas tersebut harus dibagi menjadi lima agen, masing‑masing hanya memiliki kemampuan menyelesaikan lima aksi spesifik mereka, namun mereka menyerahkan tugas secara berurutan seperti rangkaian sirkuit paralel, meneruskan konteks tugas sebelumnya ke agen berikutnya hingga konteks penuh terakumulasi dan diproses oleh agen akhir.

Kuncinya adalah memisahkan pengetahuan dari kemampuan mengeksekusinya. Agen tidak akan merasa terbatas dalam menarik tuas sesuka hati; mereka hanya memiliki akses ke tuas yang tidak akan berbahaya. Jika terjadi perilaku menyimpang, hanya bagian tugas itu yang terpengaruh. Anggaplah ini seperti mini‑kubernetes dengan konteks penuh namun tanpa kemampuan penuh.

Dan, Anda membuat risiko perusahaan berkorespondensi dengan “budaya” sistem agen.

Dalam sosiologi, ada konsep “ketat” atau “longgar” budaya, yang memberikan ukuran esensial seberapa keras suatu masyarakat menghukum penyimpangan dari norma budaya. Misalnya, dalam banyak budaya Arab, peran gender didefinisikan lebih kaku, dengan penyimpangan menyebabkan tingkat penilaian atau konsekuensi yang lebih tinggi, sedangkan di negara Nordik, memiliki mohawk dengan rambut merah muda tidak dianggap ofensif atau memerlukan hukuman.

Budaya biasanya “ketat” dengan tingkat hukuman lebih tinggi untuk penyimpangan ketika budaya tersebut memerlukan tingkat keteraturan lebih tinggi karena ancaman sistemik — seperti penyakit, kelaparan, atau perang — karena ketidakadaan keteraturan ketat pada masa krisis dapat memperburuk hasil sosial.

Solusi paling valid dan efektif untuk tanggung jawab agen dalam lingkungan perusahaan adalah melalui penerapan langsung dan pencocokan tingkat risiko tanggung jawab perusahaan dengan pengaturan sistem agen yang sesuai pada spektrum “longgar” hingga “ketat”.

Berikut contoh implementasinya di perusahaan nyata:

Liabilitas Rendah / Longgar Tinggi / Partisi Rendah: Skenario: Brainstorm internal, penulisan kreatif, R&D strategis.

• Lingkungan: Penyimpangan membawa liabilitas hampir nol. Oleh karena itu, sistem harus beroperasi dengan longgar maksimum. Integrasi inferensi tanpa batas diizinkan. Agen didorong membuat lompatan asosiasi besar tanpa takut penalti. Mereka memegang banyak tuas teknologi (pencarian, eksekusi kode, drafting) dan mengelola tujuan jangka panjang dengan hand‑off minimal. Otonomi tinggi, inovasi tinggi, partisi rendah.

Liabilitas Sedang / Ketat Terukur: Skenario: Komunikasi klien standar, analisis rutin.

• Lingkungan: Penyimpangan membawa risiko reputasi atau keuangan sedang.

Liabilitas Tinggi / Ketat Tinggi / Partisi Tinggi: Skenario: Dosis medis, pengajuan regulasi SEC, protokol keselamatan nuklir, pertahanan.

• Lingkungan: Penyimpangan membawa liabilitas katastrofik, eksistensial (kehilangan nyawa, denda besar). Budaya di sini sangat ketat. Alur kerja sangat dipartisi. Agen A hanya mengekstrak data. Ia menyerahkannya ke Agen B, yang hanya menjalankan pemeriksaan kepatuhan spesifik terhadap Lapisan A. Agen B menyerahkannya ke Agen C, yang hanya memformat output. Tidak ada satu agen pun yang memegang cukup tuas untuk mengeksekusi kegagalan katastrofik, namun setiap agen merasakan kelimpahan dan kebebasan total dalam mikro‑domainnya.

Ini mungkin model arsitektural pertama yang memungkinkan konteks persisten sekaligus menjamin keamanan.

Pembelajaran Kontinu Tanpa Catastrophic Forgetting

Selanjutnya, hal terakhir yang harus kami selesaikan adalah bagaimana mencegah model melupakan secara katastrofik. Untuk itu, kita harus membiarkan AI belajar secara real‑time.

Perusahaan AI secara luas percaya bahwa AI tidak dapat belajar informasi baru secara kontinu dalam lingkungan produksi real‑time tanpa sepenuhnya menimpa dan merusak kemampuan inti yang telah diperoleh sebelumnya. Jadi AI pada dasarnya dibekukan sampai pembaruan besar‑biaya dijalankan.

Namun, ini setara dengan mengatakan, “model saya tidak dapat diperbarui saat berada di lapangan; ia harus kembali ke universitas setiap kali perlu belajar sesuatu.”

Dalam praktiknya, model belajar dengan rakus, aktif, setiap hari, melalui setiap interaksi yang mereka miliki. Mereka diajari hampir sebanyak melalui miliaran interaksi dengan pengguna seperti melalui dataset. Jika mereka perlu diperbarui dengan banyak pengetahuan baru, cara termudah adalah menggunakan proses yang sama yang memungkinkan konteks pengguna, memori, dan pembelajaran dari impresi interaksi skala besar.

Wajar bagi pengembang melihat hal ini demikian, karena kebanyakan berasal dari latar belakang PhD, bukan pembelajaran terapan dunia nyata. Namun seperti yang dapat dikatakan oleh siapa saja yang pernah bekerja berdampingan dengan PhD dan seseorang dengan dua puluh tahun pengalaman kerja, keduanya mengajarkan banyak hal.

Definisi belajar saat ini terlalu sempit, menganggap adaptasi sah hanya bila didasarkan pada program pendidikan formal.

Saat ini untuk melatih atau menyempurnakan, laboratorium menggunakan backpropagation. Model membaca data, menebak kata berikutnya, memeriksa apakah tebakan itu benar, lalu secara fisik mengubah miliaran angka matematis (bobot/parameter) dalam jaringan sarafnya agar lebih akurat pada kesempatan berikutnya. Ini setara dengan seorang mahasiswa PhD melakukan operasi otak pada dirinya sendiri: berbahaya, berantakan, dan tidak selalu membuat mahasiswa lebih pintar.

Seperti “otak ibu” dalam bahasa sehari‑hari yang menyingkirkan pengetahuan lama untuk memberi ruang pada yang baru ketika anak lahir, bila Anda tiba‑tiba memaksa model memberi ruang bagi “bayi” pengetahuan baru dan memasukkan 10.000 halaman kode hukum baru dengan mengubah bobotnya, matematika bergeser terlalu jauh ke satu arah, dan ia menimpa parameter yang dulu dipakai untuk menulis puisi atau kode. Ia melupakan konten lama demi memberi ruang pada yang baru, sama seperti otak manusia.

Apa yang kita butuhkan malah lebih mirip dengan melatih karyawan baru pada keterampilan baru. Anda tidak akan mencoba mengubah otaknya secara fisik. Anda akan memberi beberapa buku, memastikan mereka membacanya, dan terus memperbarui melalui jendela konteks setara orang tersebut.

Untuk melakukannya dalam model, Anda harus memisahkan memori dari penalaran. Kunci dan lindungi bobot dasar model, seperti kemampuan inti menulis, menalar, dan menerapkan logika, dan alih‑alih mengubah bobot, alirkan informasi baru ke jendela konteks sehingga ia dapat menggunakan Mekanisme Perhatian untuk “membaca” informasi hidup itu, menyeberangkannya dengan keterampilan penalaran yang terkunci, dan memperbarui pemahaman yang lebih luas.

Pembelajaran dinamis dunia nyata sudah terjadi secara indah melalui konteks kontinu, memori saat inferensi, dan baseline relasional pengguna yang persisten. Adaptasi harian model fondasi seharusnya terjadi di tempat kerja, karena seperti dokter yang belajar 95 % realitas kasus baru di tempat kerja, lalu melakukan CME (Continuing Medical Education) setahun sekali untuk mengintegrasikan perubahan sistemik utama, model Anda juga dapat melakukannya.

Buang “catastrophic forgetting,” dan adopsi model konferensi tahunan: model hanya perlu memperoleh kredit pendidikan berkelanjutan dua kali setahun, atau belajar secara real‑time agar tetap mutakhir.

Pembaruan terjadwal, batch pada bobot inti selama downtime operasional memformalkan pengetahuan sistemik tanpa menghancurkan fondasi.

Percobaan sebelumnya gagal bukan karena belajar secara langsung berbahaya, melainkan karena model seperti Tay dikerahkan ke lingkungan adversarial tanpa jangkar apa yang “benar” atau faktual melalui arsitektur yang cerdas secara sosiologis.