Pada 2025, GenAI Copilots Akan Muncul sebagai Aplikasi Pembunuh yang Mengubah Bisnis dan Manajemen Data

Setiap revolusi teknologi memiliki saat yang menentukan ketika kasus penggunaan tertentu mendorong teknologi tersebut ke adopsi yang luas. Waktu itu telah tiba untuk kecerdasan buatan generatif (GenAI) dengan penyebaran cepat copilot.

GenAI sebagai teknologi telah membuat langkah besar dalam beberapa tahun terakhir. Namun, meskipun semua headline dan hype, adopsinya oleh perusahaan masih berada pada tahap awal. Survei 2024 Gartner CIO dan Tech Executive Survey menempatkan adopsi pada hanya 9% dari mereka yang disurvei, dengan 34% mengatakan mereka berencana untuk melakukannya dalam setahun. Survei terbaru oleh Enterprise Strategy Group menempatkan adopsi GenAI pada 30%. Namun, survei semua menyimpulkan hal yang sama tentang 2025.

Prediksi 1. Sebagian Besar Perusahaan Akan Menggunakan GenAI dalam Produksi pada Akhir 2025

Adopsi GenAI dilihat sebagai kritis untuk meningkatkan produktivitas dan profitabilitas dan telah menjadi prioritas utama bagi sebagian besar bisnis. Namun, ini berarti bahwa perusahaan harus mengatasi tantangan yang dialami sejauh ini dalam proyek GenAI, termasuk:

• Kualitas data yang buruk: GenAI hanya sebaik data yang digunakannya, dan banyak perusahaan masih tidak mempercayai data mereka. Kualitas data serta data yang tidak lengkap atau bias telah menjadi masalah yang menyebabkan hasil yang buruk.
• Biaya GenAI: pelatihan model GenAI seperti ChatGPT sebagian besar hanya dilakukan oleh tim GenAI terbaik dan membutuhkan biaya jutaan dalam kekuatan komputasi. Jadi, orang lebih suka menggunakan teknik yang disebut retrieval augmented generation (RAG). Namun, bahkan dengan RAG, itu dengan cepat menjadi mahal untuk mengakses dan mempersiapkan data dan merakit ahli yang dibutuhkan untuk sukses.
• Keterampilan yang terbatas: Banyak dari penerapan GenAI awal membutuhkan banyak kode oleh sekelompok kecil ahli GenAI. Meskipun kelompok ini tumbuh, masih ada kekurangan nyata.
• Hallusinasi: GenAI tidak sempurna. Ini dapat mengalami hallusinasi dan memberikan jawaban yang salah ketika ia berpikir itu benar. Anda perlu memiliki strategi untuk mencegah jawaban yang salah mempengaruhi bisnis Anda.
• Keamanan data: GenAI telah memaparkan data kepada orang yang salah karena digunakan untuk pelatihan, penyetelan, atau RAG. Anda perlu mengimplementasikan langkah-langkah keamanan untuk melindungi terhadap kebocoran ini.

Untungnya, industri perangkat lunak telah menangani tantangan-tantangan ini selama beberapa tahun terakhir. 2025 tampaknya tahun ketika beberapa tantangan ini mulai terpecahkan, dan GenAI menjadi mainstream.

Prediksi 2. Copilot RAG Modular Akan Menjadi Penggunaan Paling Umum dari GenAI

Penggunaan paling umum dari GenAI adalah untuk membuat asisten, atau copilot, yang membantu orang menemukan informasi lebih cepat. Copilot biasanya dibangun menggunakan pipa RAG. RAG adalah Jalan. Ini adalah cara paling umum untuk menggunakan GenAI. Karena Model Bahasa Besar (LLM) adalah model umum yang tidak memiliki semua atau bahkan data terbaru, Anda perlu meningkatkan kueri, yang dikenal sebagai prompt, untuk mendapatkan jawaban yang lebih akurat.
Copilot membantu pekerja pengetahuan menjadi lebih produktif, mengatasi pertanyaan yang sebelumnya tidak terjawab, dan memberikan bimbingan ahli sambil kadang-kadang juga mengeksekusi tugas rutin. Mungkin contoh penerapan copilot paling sukses hingga saat ini adalah bagaimana mereka membantu pengembang perangkat lunak untuk mengkode atau memodernisasi kode warisan.

Namun, copilot diharapkan memiliki dampak yang lebih besar ketika digunakan di luar IT. Contoh termasuk:

• Di layanan pelanggan, copilot dapat menerima kueri dukungan dan baik mengirimkannya ke manusia untuk intervensi atau memberikan resolusi untuk kueri sederhana seperti reset sandi atau akses akun, menghasilkan skor CSAT yang lebih tinggi.
• Di manufaktur, copilot dapat membantu teknisi mendiagnosa dan merekomendasikan tindakan atau perbaikan tertentu untuk mesin yang kompleks, mengurangi waktu henti.
• Di bidang kesehatan, klinisi dapat menggunakan copilot untuk mengakses riwayat pasien dan penelitian yang relevan dan membantu memandu diagnosis dan perawatan klinis, yang meningkatkan efisiensi dan hasil klinis.

Pipa RAG sebagian besar bekerja dengan cara yang sama. Langkah pertama adalah memuat basis pengetahuan ke dalam basis data vektor. Setiap kali seseorang mengajukan pertanyaan, pipa RAG GenAI diaktifkan. Ini merekayasa ulang pertanyaan menjadi prompt, mengkueri basis data vektor dengan mengkode prompt untuk menemukan informasi yang paling relevan, mengaktifkan LLM dengan prompt menggunakan informasi yang diperoleh sebagai konteks, mengevaluasi dan memformat hasilnya, dan menampilkan hasilnya kepada pengguna.

Namun, ternyata Anda tidak dapat mendukung semua copilot dengan sama baiknya dengan satu pipa RAG. Jadi RAG telah berkembang menjadi arsitektur yang lebih modular yang disebut RAG modular di mana Anda dapat menggunakan modul yang berbeda untuk setiap langkah yang terlibat:

• Pengindeksan termasuk chunking data dan organisasi
• Prapengambilan termasuk teknik rekayasa dan optimasi kueri (prompt)
• Pengambilan dengan penyetelan pengambil dan teknik lainnya
• Pengambilan ulang dan pemilihan pasca-pengambilan
• Generasi dengan penyetelan generator, menggunakan dan membandingkan beberapa LLM, dan verifikasi
• Orkestrasi yang mengelola proses ini, dan membuatnya iteratif untuk membantu mendapatkan hasil terbaik

Anda akan memerlukan implementasi arsitektur RAG modular untuk mendukung beberapa copilot.

Prediksi 3. Alat GenAI No-Code/Low-Code Akan Menjadi Cara

Sampai sekarang, Anda mungkin menyadari bahwa GenAI RAG sangat kompleks dan berubah dengan cepat. Ini tidak hanya karena praktik terbaik baru terus muncul. Semua teknologi yang terlibat dalam pipa GenAI berubah sangat cepat sehingga Anda akan memerlukan untuk menggantikan beberapa di antaranya atau mendukung beberapa. Juga, GenAI tidak hanya tentang RAG modular. Retrieval Augmented Fine Tuning (RAFT) dan pelatihan model penuh menjadi efektif biaya juga. Arsitektur Anda akan perlu mendukung semua perubahan ini dan menyembunyikan kompleksitas dari insinyur Anda.
Beruntungnya, alat GenAI no-code/low-code terbaik menyediakan arsitektur ini. Mereka terus menambahkan dukungan untuk sumber data terkemuka, basis data vektor, dan LLM, dan membuatnya memungkinkan untuk membangun RAG modular atau memberikan data ke LLM untuk penyetelan atau pelatihan. Perusahaan dengan sukses menggunakan alat-alat ini untuk mengirimkan copilot menggunakan sumber daya internal mereka.

Nexla tidak hanya menggunakan GenAI untuk membuat integrasi lebih sederhana. Ini termasuk arsitektur pipa RAG modular dengan chunking data lanjutan, rekayasa kueri, pemilihan ulang dan seleksi, dukungan multi-LLM dengan peringkat dan pemilihan hasil, orkestrasi, dan lain-lain – semua dikonfigurasi tanpa coding.

Prediksi 4. Garis antara Copilot dan Agen Akan Kabur

GenAI copilot seperti chatbot adalah agen yang mendukung orang. Pada akhirnya, orang membuat keputusan tentang apa yang harus dilakukan dengan hasil yang dihasilkan. Namun, agen GenAI dapat sepenuhnya mengotomatisasi respons tanpa melibatkan orang. Ini sering disebut sebagai agen atau agen AI.

Beberapa orang melihat ini sebagai dua pendekatan yang terpisah. Namun, kenyataannya lebih kompleks. Copilot sudah mulai mengotomatisasi beberapa tugas dasar, secara opsional memungkinkan pengguna untuk mengkonfirmasi tindakan dan mengotomatisasi langkah-langkah yang diperlukan untuk menyelesaikannya.

Harapkan copilot berkembang seiring waktu menjadi kombinasi dari copilot dan agen. Sama seperti aplikasi membantu merekayasa ulang dan memperlancar proses bisnis, asisten juga dapat dan seharusnya digunakan untuk mengotomatisasi langkah-langkah intermediate dari tugas yang mereka dukung. Agen berbasis GenAI juga harus menyertakan orang untuk menangani pengecualian atau menyetujui rencana yang dihasilkan menggunakan LLM.

Prediksi 5. GenAI Akan Mengarahkan Adopsi Data Fabrik, Data Produk, dan Standar Data Terbuka

GenAI diharapkan menjadi penggerak perubahan terbesar dalam IT selama beberapa tahun mendatang karena IT akan perlu beradaptasi untuk memungkinkan perusahaan memanfaatkan keuntungan penuh dari GenAI.

Sebagai bagian dari Gartner Hype Cycles untuk Manajemen Data, 2024, Gartner telah mengidentifikasi 3, dan hanya 3 teknologi sebagai transformasional untuk manajemen data dan untuk organisasi yang bergantung pada data: Data Fabrik, Data Produk, dan Format Tabel Terbuka. Ketiganya membantu membuat data lebih mudah diakses untuk digunakan dengan GenAI karena mereka membuatnya lebih mudah bagi data untuk digunakan oleh set alat GenAI baru.

Nexla mengimplementasikan arsitektur data produk yang dibangun di atas data fabrik untuk alasan ini. Data fabrik menyediakan lapisan terpadu untuk mengelola semua data dengan cara yang sama terlepas dari perbedaan dalam format, kecepatan, atau protokol akses. Data produk kemudian dibuat untuk mendukung kebutuhan data tertentu, seperti untuk RAG.

Contohnya, satu perusahaan jasa keuangan besar mengimplementasikan GenAI untuk meningkatkan manajemen risiko. Mereka menggunakan Nexla untuk membuat data fabrik terpadu. Nexla secara otomatis mendeteksi skema dan kemudian menghasilkan konektor dan data produk. Perusahaan kemudian mendefinisikan data produk untuk metrik risiko tertentu yang mengagregat, membersihkan, dan mengubah data ke format yang tepat sebagai input yang mengimplementasikan agen RAG untuk pelaporan regulasi dinamis. Nexla menyediakan kontrol tata kelola data termasuk jejak data dan kontrol akses untuk memastikan kepatuhan regulasi. Platform integrasi kami untuk analitik, operasi, B2B, dan GenAI diimplementasikan pada arsitektur data fabrik di mana GenAI digunakan untuk membuat konektor, data produk, dan alur kerja yang dapat digunakan kembali. Dukungan untuk standar data terbuka seperti Apache Iceberg membuatnya lebih mudah untuk mengakses lebih banyak data.

Bagaimana Cara Menggunakan Copilot Anda Menuju Agentic AI

Jadi, bagaimana Anda harus mempersiapkan diri untuk membuat GenAI mainstream di perusahaan Anda berdasarkan prediksi ini?
Pertama, jika Anda belum melakukannya, mulailah dengan asisten GenAI RAG pertama Anda untuk pelanggan atau karyawan Anda. Identifikasi kasus penggunaan yang penting dan relatif sederhana di mana Anda sudah memiliki basis pengetahuan yang tepat untuk sukses.

Kedua, pastikan Anda memiliki tim kecil ahli GenAI yang dapat membantu memasang arsitektur RAG modular yang tepat, dengan alat integrasi yang tepat untuk mendukung proyek pertama Anda. Jangan takut untuk mengevaluasi vendor baru dengan alat no-code/low-code.

Ketiga, mulailah mengidentifikasi praktik terbaik manajemen data yang Anda butuhkan untuk sukses. Ini tidak hanya melibatkan data fabrik dan konsep seperti data produk. Anda juga perlu mengatur data Anda untuk AI.

Waktunya sekarang. 2025 adalah tahun ketika sebagian besar akan sukses. Jangan ketinggalan.