Pada 2025, GenAI Copilots Akan Muncul sebagai Aplikasi Pembunuh yang Mengubah Bisnis dan Manajemen Data

Setiap revolusi teknologi memiliki saat yang menentukan ketika kasus penggunaan tertentu mendorong teknologi tersebut ke adopsi yang luas. Saat itu telah tiba untuk kecerdasan buatan generatif (GenAI) dengan penyebaran cepat copilot.

GenAI sebagai teknologi telah membuat langkah besar dalam beberapa tahun terakhir. Namun, meskipun semua headline dan hype, adopsinya oleh perusahaan masih berada pada tahap awal. Survei 2024 Gartner CIO dan Eksekutif Teknologi menempatkan adopsi pada hanya 9% dari mereka yang disurvei, dengan 34% mengatakan mereka berencana melakukannya dalam setahun. Survei terbaru oleh Enterprise Strategy Group menempatkan adopsi GenAI pada 30%. Namun, semua survei tersebut menyimpulkan hal yang sama tentang 2025.

Prediksi 1. Sebagian Besar Perusahaan Akan Menggunakan GenAI dalam Produksi pada Akhir 2025

Adopsi GenAI dianggap penting untuk meningkatkan produktivitas dan profitabilitas dan telah menjadi prioritas utama bagi sebagian besar bisnis. Namun, ini berarti bahwa perusahaan harus mengatasi tantangan yang dialami sejauh ini dalam proyek GenAI, termasuk:

• Kualitas data yang buruk: GenAI hanya sebaik data yang digunakannya, dan banyak perusahaan masih tidak mempercayai data mereka. Kualitas data yang buruk, serta data yang tidak lengkap atau bias, telah menjadi masalah yang menyebabkan hasil yang buruk.
• Biaya GenAI: pelatihan model GenAI seperti ChatGPT sebagian besar hanya dilakukan oleh tim GenAI terbaik dan memerlukan biaya jutaan dalam kekuatan komputasi. Oleh karena itu, orang telah menggunakan teknik yang disebut retrieval augmented generation (RAG). Namun, bahkan dengan RAG, biaya untuk mengakses dan mempersiapkan data serta mengumpulkan ahli yang dibutuhkan untuk sukses dapat meningkat dengan cepat.
• Keterbatasan keterampilan: Banyak dari penerapan GenAI awal memerlukan banyak kode oleh sekelompok kecil ahli GenAI. Meskipun kelompok ini tumbuh, masih ada kekurangan nyata.
• Hallusinasi: GenAI tidak sempurna. Ini dapat mengalami hallusinasi dan memberikan jawaban yang salah ketika berpikir bahwa itu benar. Anda perlu memiliki strategi untuk mencegah jawaban yang salah mempengaruhi bisnis Anda.
• Keamanan data: GenAI telah mengungkapkan data kepada orang yang salah karena digunakan untuk pelatihan, penyetelan, atau RAG. Anda perlu mengimplementasikan langkah-langkah keamanan untuk melindungi terhadap kebocoran ini.

Untungnya, industri perangkat lunak telah menangani tantangan-tantangan ini selama beberapa tahun terakhir. 2025 tampaknya tahun ketika beberapa tantangan ini mulai terpecahkan, dan GenAI menjadi mainstream.

Prediksi 2. Modular RAG Copilots Akan Menjadi Penggunaan Paling Umum dari GenAI

Penggunaan paling umum dari GenAI adalah untuk menciptakan asisten, atau copilot, yang membantu orang menemukan informasi lebih cepat. Copilot biasanya dibangun menggunakan pipa RAG. RAG adalah Jalan. Ini adalah cara paling umum untuk menggunakan GenAI. Karena Model Bahasa Besar (LLM) adalah model umum yang tidak memiliki semua atau bahkan data terbaru, Anda perlu meningkatkan kueri, yang dikenal sebagai prompt, untuk mendapatkan jawaban yang lebih akurat.
Copilot membantu pekerja pengetahuan menjadi lebih produktif, menangani pertanyaan yang sebelumnya tidak dapat dijawab, dan memberikan bimbingan ahli sambil kadang-kadang juga mengeksekusi tugas rutin. Mungkin kasus penggunaan copilot paling sukses hingga saat ini adalah bagaimana mereka membantu pengembang perangkat lunak untuk mengkode atau memodernisasi kode warisan.

Namun, copilot diharapkan memiliki dampak yang lebih besar ketika digunakan di luar IT. Contoh termasuk:

• Di layanan pelanggan, copilot dapat menerima kueri dukungan dan baik mengeskalasi ke manusia untuk intervensi atau memberikan resolusi untuk kueri sederhana seperti reset sandi atau akses akun, yang menghasilkan skor CSAT yang lebih tinggi.
• Di manufaktur, copilot dapat membantu teknisi mendiagnosis dan merekomendasikan tindakan atau perbaikan khusus untuk mesin yang kompleks, yang mengurangi downtime.
• Di bidang kesehatan, klinisi dapat menggunakan copilot untuk mengakses riwayat pasien dan penelitian yang relevan dan membantu memandu diagnosis dan perawatan klinis, yang meningkatkan efisiensi dan hasil klinis.

Pipa RAG sebagian besar telah bekerja dengan cara yang sama. Langkah pertama adalah memuat basis pengetahuan ke dalam basis data vektor. Setiap kali seseorang mengajukan pertanyaan, pipa RAG GenAI diaktifkan. Ini merekayasa ulang pertanyaan menjadi prompt, mengkueri basis data vektor dengan mengkodekan prompt untuk menemukan informasi yang paling relevan, mengaktifkan LLM dengan prompt menggunakan informasi yang diperoleh sebagai konteks, mengevaluasi dan memformat hasilnya, dan menampilkan hasilnya kepada pengguna.

Namun, ternyata Anda tidak dapat mendukung semua copilot dengan sama baiknya dengan satu pipa RAG. Jadi RAG telah berkembang menjadi arsitektur yang lebih modular yang disebut modular RAG di mana Anda dapat menggunakan modul yang berbeda untuk setiap langkah yang terlibat:

• Pengindeksan termasuk chunking data dan organisasi
• Prapengambilan termasuk rekayasa prompt dan optimasi
• Pengambilan dengan penyetelan pengambil dan teknik lainnya
• Peringkat ulang pasca-pengambilan dan pemilihan
• Generasi dengan penyetelan generator, menggunakan dan membandingkan beberapa LLM, dan verifikasi
• Orkestrasi yang mengelola proses ini dan membuatnya iteratif untuk membantu mendapatkan hasil terbaik

Anda akan perlu mengimplementasikan arsitektur modular RAG untuk mendukung beberapa copilot.

Prediksi 3. Alat GenAI No-Code/Low-Code Akan Menjadi Cara

Sampai sekarang, Anda mungkin menyadari bahwa GenAI RAG sangat kompleks dan berubah dengan cepat. Ini tidak hanya karena praktik terbaik baru yang terus muncul. Semua teknologi yang terlibat dalam pipa GenAI berubah sangat cepat sehingga Anda akan memerlukan untuk mengganti beberapa di antaranya atau mendukung beberapa. Selain itu, GenAI tidak hanya tentang modular RAG. Retrieval Augmented Fine Tuning (RAFT) dan pelatihan model penuh juga menjadi efektif biaya. Arsitektur Anda akan perlu mendukung semua perubahan ini dan menyembunyikan kompleksitas dari insinyur Anda.
Untungnya, alat GenAI no-code/low-code terbaik menyediakan arsitektur ini. Mereka terus menambahkan dukungan untuk sumber data terkemuka, basis data vektor, dan LLM, dan membuatnya memungkinkan untuk membangun pipa RAG modular atau memberikan data ke LLM untuk penyetelan atau pelatihan. Perusahaan telah berhasil menggunakan alat-alat ini untuk mengirimkan copilot menggunakan sumber daya internal mereka.

Nexla tidak hanya menggunakan GenAI untuk membuat integrasi lebih sederhana. Ini termasuk arsitektur pipa RAG modular dengan chunking data lanjutan, rekayasa kueri, peringkat ulang dan pemilihan, dukungan multi-LLM dengan peringkat hasil dan pemilihan, orkestrasi, dan lain-lain – semua dikonfigurasi tanpa coding.

Prediksi 4. Garis antara Copilot dan Agen Akan Kabur

GenAI copilot seperti chatbot adalah agen yang mendukung orang. Pada akhirnya, orang membuat keputusan tentang apa yang harus dilakukan dengan hasil yang dihasilkan. Namun, agen GenAI dapat sepenuhnya mengotomatisasi respons tanpa melibatkan orang. Ini sering disebut sebagai agen atau agen AI.

Beberapa orang melihat ini sebagai dua pendekatan yang terpisah. Namun, kenyataannya lebih rumit. Copilot sudah mulai mengotomatisasi beberapa tugas dasar, secara opsional memungkinkan pengguna untuk mengkonfirmasi tindakan dan mengotomatisasi langkah-langkah yang diperlukan untuk menyelesaikannya.

Harapkan copilot berkembang seiring waktu menjadi kombinasi dari copilot dan agen. Sama seperti aplikasi membantu merekayasa ulang dan memperlancar proses bisnis, asisten dapat dan seharusnya mulai digunakan untuk mengotomatisasi langkah-langkah intermediate dari tugas yang mereka dukung. Agen GenAI berbasis juga harus menyertakan orang untuk menangani pengecualian atau menyetujui rencana yang dihasilkan menggunakan LLM.

Prediksi 5. GenAI Akan Mengarahkan Adopsi Data Fabrik, Data Produk, dan Standar Data Terbuka

GenAI diharapkan menjadi penggerak perubahan terbesar dalam IT selama beberapa tahun ke depan karena IT perlu beradaptasi untuk memungkinkan perusahaan memanfaatkan keuntungan penuh dari GenAI.

Sebagai bagian dari Gartner Hype Cycles untuk Manajemen Data, 2024, Gartner telah mengidentifikasi 3, dan hanya 3 teknologi sebagai transformasional untuk manajemen data dan untuk organisasi yang bergantung pada data: Data Fabrik, Data Produk, dan Format Tabel Terbuka. Ketiganya membantu membuat data lebih mudah diakses untuk digunakan dengan GenAI karena mereka membuatnya lebih mudah untuk data digunakan oleh alat GenAI baru ini.

Nexla mengimplementasikan arsitektur data produk yang dibangun di atas data fabrik untuk alasan ini. Data fabrik menyediakan lapisan yang disatukan untuk mengelola semua data dengan cara yang sama terlepas dari perbedaan dalam format, kecepatan, atau protokol akses. Data produk kemudian dibuat untuk mendukung kebutuhan data khusus, seperti untuk RAG.

Misalnya, satu perusahaan jasa keuangan besar mengimplementasikan GenAI untuk meningkatkan manajemen risiko. Mereka menggunakan Nexla untuk membuat data fabrik yang disatukan. Nexla secara otomatis mendeteksi skema dan kemudian menghasilkan konektor dan data produk. Perusahaan kemudian mendefinisikan data produk untuk metrik risiko khusus yang mengagregat, membersihkan, dan mengubah data menjadi format yang tepat sebagai input yang mengimplementasikan agen RAG untuk pelaporan regulasi dinamis. Nexla menyediakan kontrol tata kelola data termasuk jejak data dan kontrol akses untuk memastikan kepatuhan regulasi. Platform integrasi kami untuk analitik, operasi, B2B, dan GenAI diimplementasikan pada arsitektur data fabrik di mana GenAI digunakan untuk membuat konektor, data produk, dan alur kerja yang dapat digunakan kembali. Dukungan untuk standar data terbuka seperti Apache Iceberg membuatnya lebih mudah untuk mengakses lebih banyak data.

Bagaimana Cara Menggunakan Copilot Anda Menuju AI Agen

Jadi, bagaimana Anda harus mempersiapkan diri untuk membuat GenAI menjadi mainstream di perusahaan Anda berdasarkan prediksi ini?
Pertama, jika Anda belum melakukannya, mulailah dengan asisten GenAI RAG pertama Anda untuk pelanggan atau karyawan Anda. Identifikasi kasus penggunaan yang penting dan relatif sederhana di mana Anda sudah memiliki basis pengetahuan yang tepat untuk sukses.

Kedua, pastikan Anda memiliki tim kecil ahli GenAI yang dapat membantu memasang arsitektur RAG modular yang tepat, dengan alat integrasi yang tepat untuk mendukung proyek pertama Anda. Jangan takut untuk mengevaluasi vendor baru dengan alat no-code/low-code.

Ketiga, mulailah mengidentifikasi praktik terbaik manajemen data yang Anda butuhkan untuk sukses. Ini tidak hanya melibatkan data fabrik dan konsep seperti data produk. Anda juga perlu mengatur data Anda untuk AI.

Waktunya sekarang. 2025 adalah tahun ketika sebagian besar akan sukses. Jangan ketinggalan.