Perusahaan Cerdas: Membuat Generative AI Siap untuk Perusahaan

Mari kita mulai dari sini: Ya, peluang untuk Generative AI (GenAI) sangat besar. Ya, itu mengubah dunia seperti yang kita kenal (dan lebih cepat dari yang sebagian besar dari kita perkirakan). Dan ya, teknologi menjadi lebih cerdas. Namun, implikasi GenAI, dengan kemampuan menghasilkan teks, gambar, dan narasi, pada perusahaan dan bisnis sangat berbeda dari dampaknya pada masyarakat umum — karena sebagian besar bisnis tidak menulis puisi atau cerita (yang populer di kalangan pengguna ChatGPT), mereka melayani pelanggan.

Banyak perusahaan memiliki pengalaman dengan pemrosesan bahasa alami (NLP) dan chatbot tingkat rendah, tetapi GenAI mempercepat bagaimana data dapat diintegrasikan, diinterpretasikan, dan diubah menjadi hasil bisnis. Oleh karena itu, mereka perlu segera menentukan use case GenAI mana yang akan memecahkan tantangan bisnis mereka yang paling mendesak dan mendorong pertumbuhan. Untuk memahami bagaimana perusahaan dapat membuat GenAI siap untuk perusahaan dengan data mereka, penting untuk meninjau bagaimana kita sampai di titik ini.

Perjalanan dari NLP ke Large Language Model (LLM)

Teknologi telah mencoba memahami bahasa alami selama beberapa dekade sekarang. Sementara bahasa manusia itu sendiri merupakan bentuk evolusi ekspresi manusia, fakta bahwa manusia telah berkembang menjadi banyak dialek di seluruh dunia — dari simbol dan suara menjadi suku kata, fonetik, dan bahasa — telah meninggalkan teknologi bergantung pada metode komunikasi digital yang lebih sederhana dengan bit dan byte, dll., sampai relatif baru-baru ini.

Saya mulai bekerja pada program NLP hampir satu dekade yang lalu. Saat itu, semua tentang taksonomi bahasa dan ontologi, ekstraksi entitas, dan bentuk primitif dari basis data grafik (sebagian besar dalam XML) untuk mencoba mempertahankan hubungan kompleks dan konteks antara berbagai entitas, memahami kueri pencarian, menghasilkan awan kata, dan mengirimkan hasil. Tidak ada yang matematis tentang itu. Ada banyak Human in the Loop untuk membangun basis data taksonomi, banyak parsing XML, dan yang paling penting, banyak komputasi dan memori yang digunakan. Tidak perlu dikatakan, beberapa program berhasil, dan sebagian besar tidak. Pembelajaran mesin datang kemudian dengan beberapa pendekatan untuk pembelajaran dalam dan jaringan saraf, dll., mempercepat pemahaman bahasa alami (NLU) dan inferensi bahasa alami (NLI). Namun, ada tiga faktor pembatas— kekuatan komputasi untuk memproses model kompleks, akses ke volume data yang dapat mengajar mesin, dan terutama, model yang dapat belajar sendiri dan memperbaiki diri dengan membentuk hubungan temporal antara frasa.

Maju cepat dua dekade kemudian, dan GPU menyediakan kekuatan komputasi yang besar, jaringan saraf yang mengajar dan berkembang sendiri menjadi norma, model pembelajaran terawasi/tidak terawasi/setengah terawasi semua ada, dan di atas semua, ada akses yang lebih besar ke jumlah data yang besar dalam beberapa bahasa, termasuk berbagai platform media sosial, yang dapat dilatih oleh model ini. Hasilnya adalah mesin AI yang dapat berhubungan dengan Anda dalam bahasa alami, memahami emosi dan makna di balik kueri Anda, terdengar seperti manusia, dan merespons seperti itu.

Kita semua, melalui kehadiran media sosial, telah menjadi ‘Human’ di ‘Loop’ untuk melatih mesin ini tanpa disadari. Sekarang kita memiliki mesin yang mengklaim dilatih pada triliunan parameter, dapat mengambil ratusan dan ribuan parameter input, yang multimodal dan merespons kita dalam bahasa kita. Apakah itu GPT4/5, PaLM2, Llama atau LLM lain yang telah dipublikasikan sejauh ini, mereka muncul sebagai pemecah masalah vertikal yang lebih kontekstual.

Sistem Keterlibatan dan Sistem Catatan

Sementara perjalanan dari NLP ke LLM telah hebat berkat Evolusi Silikon, model data dan ketersediaan jumlah data pelatihan yang besar yang kita semua hasilkan, Perusahaan — penyedia ritel, produsen, perbankan, dll. — masing-masing memerlukan aplikasi teknologi yang sangat berbeda. Pertama-tama, perusahaan tidak dapat membiayai halusinasi AI — mereka memerlukan 0% halusinasi dan 100% akurasi untuk pengguna yang berinteraksi dengan AI. Ada berbagai kueri yang menuntut akurasi absolut untuk dapat digunakan dalam bisnis — misalnya, Berapa banyak kamar yang tersedia di hotel Anda? Apakah Anda memiliki tiket kelas satu yang tersedia?

Untuk mengatasi halusinasi AI, masuklah konsep lama Sistem Keterlibatan dan Sistem Catatan. Sistem Keterlibatan, baik dengan pelanggan, pemasok, atau karyawan, dapat menggunakan platform percakapan berbasis GenAI langsung, setelah dilatih untuk prompt bisnis khusus — itu adalah “bagian yang lebih mudah”. Tantangan adalah memasukkan Sistem Catatan ke dalam rantai nilai. Banyak bisnis masih berada dalam dunia tabel dan entitas statis dan akan tetap seperti itu karena sebagian besar perusahaan statis pada tingkat organisasional atau perusahaan, sementara acara dan alur kerja membuat mereka dinamis pada tingkat transaksional.

Ini adalah tempat kita berbicara tentang platform percakapan generasi berikutnya yang tidak hanya menangani percakapan, antarmuka, dan kueri, tetapi juga mengambil perjalanan pelanggan hingga pengiriman. Ada berbagai pendekatan arsitektur untuk platform percakapan seperti itu. Opsi langsung adalah menggunakan middleware hibrida yang bertindak sebagai konsolidator antara data perusahaan yang divektor dan dilabeli dan prompt percakapan yang digerakkan oleh LLM, dan mengirimkan hasil 0% halusinasi kepada konsumen.

Ada banyak pekerjaan persiapan data yang diperlukan oleh perusahaan untuk membuatnya dapat dipahami oleh mesin LLM. Kami menyebutnya sebagai “pemflatatan” model data tradisional yang didorong oleh tabel dan entitas. Basis data grafik, yang merepresentasikan dan menyimpan data dengan cara yang tidak dapat dilakukan oleh basis data relasional, menemukan tujuan baru dalam perjalanan ini. Tujuan adalah mengubah basis data perusahaan menjadi basis data grafik yang lebih dapat dipahami dengan hubungan yang mendefinisikan konteks dan makna, membuatnya lebih mudah bagi mesin LLM untuk belajar dan merespons prompt dari pelanggan akhir melalui kombinasi percakapan dan kueri waktu nyata. Tugas ini untuk memungkinkan data perusahaan menjadi siap LLM adalah kunci untuk menyediakan pengalaman Sistem Keterlibatan ke Sistem Catatan dan mengambil pengalaman pengguna hingga pengiriman.

Apa yang Datang Selanjutnya

Pada titik ini, dengan kemajuan ini dalam data dan AI, dampak yang paling langsung datang dalam bidang generasi kode perangkat lunak — seperti yang dibuktikan oleh munculnya Microsoft Copilot, Amazone CodeWhisperer, dan alat lain di antara pengembang. Alat-alat ini memulai kembali program modernisasi warisan, banyak di antaranya yang sering tertunda karena kekhawatiran waktu dan biaya. Dengan alat generasi kode yang didukung oleh GenAI, kita melihat proyek modernisasi mempercepat jadwal mereka sebesar 20-40%. Dalam proyek pengembangan kode hijau, alat-alat ini akan memungkinkan pengembang untuk mengalihkan waktu dan tabungan produktivitas ke pemikiran desain dan proyek yang lebih inovatif.

Di luar pengembangan kode perangkat lunak, alat GenAI memimpin penciptaan kasus penggunaan vertikal baru dan skenario yang bertujuan untuk memecahkan tantangan bisnis yang paling mendesak, dan kita baru saja mulai menggores apa yang perlu dilakukan untuk memanfaatkan sepenuhnya tren ini. Namun, kita sudah memecahkan beberapa masalah dan pertanyaan di sektor ritel dan logistik dengan menggunakan GenAI:

Berapa banyak persediaan yang saya miliki di gudang, dan kapan saya harus memicu pengisian kembali? Apakah menguntungkan untuk mempersediaan terlebih dahulu? Apakah harga mendarat saya benar atau akan meningkat? Barang apa yang bisa saya bundel atau apa jenis personalisasi yang bisa saya berikan untuk meningkatkan keuntungan saya?

Menjawab pertanyaan seperti itu memerlukan kombinasi antarmuka percakapan, kueri data yang akurat di belakang, dan model pembelajaran mesin yang berat domain yang menghasilkan prediksi dan bimbingan masa depan. Oleh karena itu, saran saya untuk perusahaan adalah, apakah Anda penjelajah AI atau pengganggu AI Generatif, bermitra dengan penyedia layanan yang memiliki keahlian AI yang terbukti dan kemampuan data dan analitik yang kuat yang dapat membantu Anda memanfaatkan model GenAI yang sesuai dengan kebutuhan bisnis Anda dan membantu Anda tetap mendahului kurva.