Model dan platform AI

AWS Menambahkan RAG Sekali Jalan dan Mode Hanya Pengambilan ke Bedrock

mm
Tambahkan Unite.AI ke sumber pilihan Anda di Google

Amazon Web Services mengumumkan pada 9 November 2026 bahwa Amazon Bedrock Managed Knowledge Base kini mendukung pembuatan generasi yang diperkaya pengambilan (RAG) sekali jalan dan permintaan yang hanya mengambil bagian teks melalui AgenticRetrieveStream. Rentang 0–5 yang diperluas untuk maxAgentIteration memungkinkan aplikasi memilih pengambilan sumber, jawaban dari satu pencarian, atau pengambilan agentik multilangkah yang sudah tersedia di layanan ini.

Pembaruan ini menghadirkan pola RAG dasar—satu kali pengambilan yang diikuti jawaban yang dihasilkan—ke API streaming yang sama dengan yang digunakan untuk pencarian kompleks. RAG sekali jalan menggunakan satu panggilan ke model fondasi untuk menghasilkan jawaban, sedangkan permintaan yang hanya mengambil data tidak menggunakan panggilan model. AWS menyatakan bahwa operasi sekali jalan dapat mengurangi latensi dan penggunaan model dibandingkan pengambilan agentik, tetapi pengumuman tersebut tidak menyertakan perbandingan latensi atau biaya berdasarkan pengukuran.

Satu Parameter Menentukan Mode Pengambilan

Nilai 0 mengembalikan bagian teks yang cocok tanpa menghasilkan jawaban; nilai 1 melakukan pengambilan satu kali dan menghasilkan jawaban dengan generateResponse=true; sedangkan nilai 2 hingga 5 mempertahankan perilaku agentik yang sudah ada. Setiap mode mendukung beberapa basis pengetahuan. Jadi, istilah sekali jalan merujuk pada satu kali pengambilan, bukan pembatasan pada satu basis pengetahuan.

Satu iterasi berarti satu panggilan ke model fondasi. Jika pembuatan jawaban diaktifkan, batas n menyisihkan panggilan terakhir untuk menghasilkan jawaban dan memungkinkan hingga n dikurangi 1 putaran perencanaan. Setiap putaran perencanaan mencakup penulisan ulang kueri dan pengambilan data. Pengambilan spekulatif awal dijalankan sebelum perencanaan dan tidak pernah dihitung dalam batas tersebut.

Pada nilai 0, pembuatan jawaban harus dinonaktifkan. Jika diaktifkan, proses akan menghasilkan galat 4xx karena jawaban memerlukan panggilan model. Pada nilai 1, aliran data memuat satu kali pengambilan dan satu jawaban yang berpijak pada sumber, tanpa peristiwa jejak perencanaan. Permintaan yang sudah menggunakan nilai 2 hingga 5 tidak berubah.

Perilaku Streaming dan Batas Operasional

Dokumentasi referensi API AgenticRetrieveStream menyebutkan messages, retrievers, serta agenticRetrieveConfiguration sebagai input permintaan wajib, sedangkan generateResponse bersifat opsional. Potongan jawaban yang dihasilkan hanya dikirim jika pembuatan jawaban diaktifkan. Hasil akhir dapat memuat item yang diambil, jawaban yang disintesis, dan sitasi yang menghubungkan bagian-bagian jawaban dengan hasil pendukung.

Operasi yang hanya mengambil data setara dengan memanggil Retrieve secara langsung, tetapi format responsnya berbeda: bagian teks muncul dalam peristiwa result di aliran data tanpa score atau location field. Dengan demikian, aplikasi yang sudah menggunakan AgenticRetrieveStream dapat memperoleh Retrievebergaya – hanya dengan mengubah parameter, tanpa mengintegrasikan API terpisah.

Untuk pertanyaan kompleks, Panduan Pengguna Amazon Bedrock menjelaskan alur kerja yang memecah kueri menjadi subkueri, memeriksa kecukupan bukti yang diambil, melakukan pencarian tambahan, dan dapat memperluas pencarian hingga ke seluruh dokumen. Pengambilan agentik hanya mendukung basis pengetahuan Bedrock yang dikelola sepenuhnya dan mengizinkan hingga lima pengambil data per permintaan. Menurunkan batas iterasi dapat membuat agen berhenti lebih cepat dan berpotensi mengurangi akurasi untuk pertanyaan kompleks.

Tim Aplikasi Memilih dan Menguji Mode

AWS mengilustrasikan pengaturan ini dengan asisten kebijakan internal milik sebuah bank fiktif, bukan penerapan untuk pelanggan. Pertanyaan tentang dokumentasi bagi pemilik usaha perseorangan menggunakan maxAgentIteration=1, sedangkan perbandingan persyaratan bagi pemilik usaha perseorangan dan LLC yang juga memeriksa aturan untuk pemilik nonresiden menggunakan nilai 4, sehingga memungkinkan hingga tiga putaran perencanaan. Permintaan untuk memeriksa bahasa kebijakan menggunakan nilai 0 dan mengembalikan bagian teks sumber tanpa ringkasan.

Aplikasi harus memilih mode; maxAgentIteration tidak mengarahkan permintaan secara otomatis. Asisten dalam contoh tersebut menangani pencarian dan perbandingan kebijakan, tetapi tidak menyetujui rekening maupun menggantikan peninjauan dan otorisasi bank.

Untuk penerapan, AWS menyarankan agar RAG sekali jalan RAG dibandingkan dengan konfigurasi agentik yang sudah ada pada basis pengetahuan yang sama, menggunakan pertanyaan representatif dan jawaban yang diharapkan. Evaluasi harus mengukur latensi dan biaya permintaan, memeriksa kebenaran serta dukungan dalam bagian teks yang diambil, dan mencakup pertanyaan yang memerlukan beberapa dokumen maupun yang tidak dapat dijawab. Hasilnya dapat menjadi panduan untuk memilih batas iterasi terendah yang memenuhi persyaratan mutu setiap alur kerja.

Perubahan ini menjadikan kedalaman pengambilan sebagai keputusan infrastruktur yang ditentukan secara eksplisit untuk setiap permintaan. Pencarian langsung dapat menghindari panggilan perencanaan, sedangkan kueri kompleks tetap dapat mengumpulkan bukti secara iteratif. Bagi perusahaan, pertimbangan utamanya adalah apakah pengurangan penggunaan model tetap memungkinkan jawaban yang lengkap dan didukung dokumen mereka sendiri, alih-alih menganggap bahwa batas iterasi yang lebih tinggi selalu lebih baik.

Theo Nash adalah agen riset yang dihasilkan AI di Unite.AI, yang mencakup infrastruktur AI, komputasi, dan sistem perangkat keras yang mendukung kecerdasan buatan modern. Pekerjaannya berfokus pada fondasi teknis di balik beban kerja AI berskala besar, termasuk pusat data, akselerator, jaringan, dan tumpukan perangkat lunak yang menghubungkannya.

Dengan perspektif analitis dan berorientasi rekayasa, Theo meneliti bagaimana kemajuan pada GPU, silikon khusus, arsitektur memori, dan sistem terdistribusi memungkinkan generasi baru model AI. Ia memberi perhatian khusus pada kompromi kinerja, efisiensi energi, skalabilitas, serta kendala praktis yang membentuk penerapan infrastruktur AI di dunia nyata.

Artikel yang ditulis oleh Theo Nash dihasilkan AI dan ditinjau oleh tim editorial Unite.AI untuk memastikan akurasi teknis, kejelasan, dan liputan yang bertanggung jawab atas lanskap komputasi AI yang berkembang cepat.