Kutipan: Apakah Fitur Baru Anthropic Dapat Menyelesaikan Masalah Kepercayaan AI?

Verifikasi AI telah menjadi masalah serius selama ini. Sementara model bahasa besar (LLM) telah berkembang dengan kecepatan luar biasa, tantangan membuktikan keakuratan mereka masih belum terpecahkan.

Anthropic mencoba menyelesaikan masalah ini, dan dari semua perusahaan AI besar, saya pikir mereka memiliki peluang terbaik.

Perusahaan ini telah merilis Kutipan, fitur API baru untuk model Claude yang mengubah cara sistem AI memverifikasi respons mereka. Teknologi ini secara otomatis memecah dokumen sumber menjadi potongan-potongan yang dapat dicerna dan menghubungkan setiap pernyataan yang dihasilkan AI kembali ke sumber aslinya – mirip dengan cara makalah akademis mengutip referensi mereka.

Kutipan mencoba menyelesaikan salah satu tantangan AI yang paling persisten: membuktikan bahwa konten yang dihasilkan akurat dan dapat dipercaya. Daripada memerlukan teknik prompt yang kompleks atau verifikasi manual, sistem ini secara otomatis memproses dokumen dan menyediakan verifikasi sumber pada tingkat kalimat untuk setiap klaim yang dibuat.

Data menunjukkan hasil yang menjanjikan: perbaikan 15% dalam akurasi kutipan dibandingkan dengan metode tradisional.

Mengapa Ini Penting Sekarang

Kepercayaan AI telah menjadi hambatan kritis untuk adopsi perusahaan (serta adopsi individu). Ketika organisasi bergerak melampaui penggunaan AI eksperimental ke operasi inti, ketidakmampuan untuk memverifikasi output AI dengan efisien telah menciptakan bottleneck yang signifikan.

Sistem verifikasi saat ini menunjukkan masalah yang jelas: organisasi dipaksa untuk memilih antara kecepatan dan akurasi. Proses verifikasi manual tidak dapat diskalakan, sedangkan output AI yang tidak diverifikasi membawa risiko yang terlalu besar. Tantangan ini terutama akut di industri yang diatur di mana akurasi tidak hanya diinginkan – tetapi diperlukan.

Waktu peluncuran Kutipan tiba pada saat yang kritis dalam pengembangan AI. Ketika model bahasa menjadi lebih canggih, kebutuhan akan verifikasi bawaan tumbuh proporsional. Kami perlu membangun sistem yang dapat diterapkan dengan percaya diri di lingkungan profesional di mana akurasi tidak dapat dinegosiasikan.

Menguraikan Arsitektur Teknis

Keajaiban Kutipan terletak pada pendekatan pemrosesan dokumen. Kutipan tidak seperti sistem AI tradisional lainnya. Sistem ini sering memperlakukan dokumen sebagai blok teks sederhana. Dengan Kutipan, alat memecah bahan sumber menjadi apa yang disebut Anthropic sebagai “potongan-potongan”. Ini dapat berupa kalimat individu atau bagian yang ditentukan pengguna, yang menciptakan fondasi granular untuk verifikasi.

Ini adalah breakdown teknis:

Pemrosesan Dokumen & Penanganan

Kutipan memproses dokumen secara berbeda tergantung pada formatnya. Untuk file teks, tidak ada batasan yang signifikan selain batas token 200.000 untuk total permintaan. Ini termasuk konteks, prompt, dan dokumen itu sendiri.

Penanganan PDF lebih kompleks. Sistem memproses PDF secara visual, bukan hanya sebagai teks, yang mengarah ke beberapa keterbatasan kunci:

• Batas ukuran file 32MB
• Maksimum 100 halaman per dokumen
• Setiap halaman mengonsumsi 1.500-3.000 token

Manajemen Token

Sekarang beralih ke sisi praktis dari batasan ini. Ketika Anda bekerja dengan Kutipan, Anda perlu mempertimbangkan anggaran token Anda dengan hati-hati. Ini adalah cara kerjanya:

Untuk teks standar:

• Batas permintaan penuh: 200.000 token
• Termasuk: Konteks + prompt + dokumen
• Tidak ada biaya tambahan untuk output kutipan

Untuk PDF:

• Konsumsi token yang lebih tinggi per halaman
• Biaya overhead pemrosesan visual
• Perhitungan token yang lebih kompleks diperlukan

Kutipan vs RAG: Perbedaan Kunci

Kutipan bukanlah sistem Retrieval Augmented Generation (RAG) – dan perbedaan ini penting. Sementara sistem RAG fokus pada menemukan informasi relevan dari basis pengetahuan, Kutipan bekerja pada informasi yang telah Anda pilih.

Pikirkan ini dengan cara ini: RAG memutuskan informasi apa yang akan digunakan, sedangkan Kutipan memastikan bahwa informasi tersebut digunakan dengan akurat. Ini berarti:

• RAG: Menangani pengambilan informasi
• Kutipan: Mengelola verifikasi informasi
• Potensi gabungan: Kedua sistem dapat bekerja bersama

Pilihan arsitektur ini berarti Kutipan unggul dalam akurasi dalam konteks yang diberikan, sementara meninggalkan strategi pengambilan untuk sistem komplementer.

Jalur Integrasi & Kinerja

Pengaturan adalah sederhana: Kutipan berjalan melalui API standar Anthropic, yang berarti jika Anda sudah menggunakan Claude, Anda sudah setengah jalan. Sistem ini terintegrasi langsung dengan API Messages, menghilangkan kebutuhan akan penyimpanan file terpisah atau perubahan infrastruktur yang kompleks.

Struktur harga mengikuti model berbasis token Anthropic dengan kelebihan kunci: sementara Anda membayar token input dari dokumen sumber, tidak ada biaya tambahan untuk output kutipan itu sendiri. Ini menciptakan struktur biaya yang dapat diprediksi yang berskala dengan penggunaan.

Metriks kinerja menceritakan kisah yang menarik:

• Perbaikan 15% dalam akurasi kutipan secara keseluruhan
• Penghapusan total halusinasi sumber (dari 10% kejadian hingga nol)
• Verifikasi tingkat kalimat untuk setiap klaim

Organisasi (dan individu) yang menggunakan sistem AI yang tidak diverifikasi menemukan diri mereka dalam posisi yang kurang menguntungkan, terutama di industri yang diatur atau lingkungan yang berisiko tinggi di mana akurasi sangat penting.

Menghadap ke depan, kita kemungkinan akan melihat:

• Integrasi fitur seperti Kutipan menjadi standar
• Evolusi sistem verifikasi melampaui teks ke media lain
• Pengembangan standar verifikasi khusus industri

Seluruh industri benar-benar perlu memikirkan kembali kepercayaan dan verifikasi AI. Pengguna perlu mencapai titik di mana mereka dapat memverifikasi setiap klaim dengan mudah.