Connect with us

Pemimpin pemikiran

Perusahaan Cerdas: Membuat Generative AI Siap Untuk Perusahaan

mm

Mari kita mulai dari sini: Ya, peluang untuk Generative AI (GenAI) sangat besar. Ya, itu mengubah dunia seperti yang kita ketahui (dan lebih cepat dari yang diprediksi oleh kebanyakan dari kita). Dan ya, teknologi menjadi lebih cerdas. Namun, implikasi untuk GenAI, dengan kemampuan untuk menghasilkan teks, gambar, dan narasi, pada perusahaan dan bisnis sangat berbeda dari dampak pada masyarakat umum — karena sebagian besar bisnis tidak menulis puisi atau cerita (yang populer di kalangan pengguna ChatGPT), mereka melayani pelanggan.

Banyak perusahaan memiliki pengalaman dengan pemrosesan bahasa alami (NLP) dan chatbot tingkat rendah, tetapi GenAI mempercepat bagaimana data dapat diintegrasikan, diinterpretasikan, dan diubah menjadi hasil bisnis. Oleh karena itu, mereka perlu dengan cepat menentukan kasus penggunaan GenAI mana yang akan memecahkan tantangan bisnis yang paling mendesak dan menghasilkan pertumbuhan. Untuk memahami bagaimana perusahaan dapat membuat GenAI siap untuk perusahaan dengan data mereka, penting untuk meninjau bagaimana kita sampai di titik ini.

Perjalanan dari NLP ke Large Language Model (LLM)

Teknologi telah mencoba memahami bahasa alami selama beberapa dekade sekarang. Sementara bahasa manusia itu sendiri merupakan bentuk evolusi ekspresi manusia, fakta bahwa manusia telah berkembang menjadi banyak dialek di seluruh dunia — dari simbol dan suara menjadi suku kata, fonetik, dan bahasa — telah meninggalkan teknologi yang bergantung pada metode komunikasi digital yang lebih sederhana dengan bit dan byte, dll., sampai relatif baru-baru ini.

Saya mulai bekerja pada program NLP hampir satu dekade yang lalu. Saat itu, semua tentang taksonomi bahasa dan ontologi, ekstraksi entitas, dan bentuk primitif dari basis data grafik (sebagian besar dalam XML) untuk mencoba mempertahankan hubungan kompleks dan konteks antara berbagai entitas, memahami kueri pencarian, menghasilkan awan kata, dan mengirimkan hasil. Tidak ada yang matematis tentang itu. Ada banyak Human in the Loop untuk membangun basis data taksonomi, banyak parsing XML, dan yang paling penting, banyak komputasi dan memori yang dimainkan. Tidak perlu dikatakan, beberapa program berhasil, dan sebagian besar tidak. Pembelajaran mesin datang berikutnya dengan beberapa pendekatan untuk pembelajaran dalam dan jaringan saraf, dll., mempercepat pemahaman bahasa alami (NLU) dan inferensi bahasa alami (NLI). Namun, ada tiga faktor pembatas — kekuatan komputasi untuk memproses model kompleks, akses ke volume data yang dapat mengajar mesin, dan terutama, model yang dapat self-learn dan self-correct dengan membentuk hubungan temporal antara frasa.

Maju cepat dua dekade kemudian, dan GPU memberikan kekuatan komputasi yang besar, jaringan saraf yang self-teaching dan berkembang menjadi norma, model pembelajaran terawasi / tidak terawasi / semi-terawasi semua ada, dan di atas semua, ada akses yang lebih besar ke jumlah data yang besar dalam beberapa bahasa, termasuk berbagai platform media sosial, yang dapat dilatih oleh model ini. Hasilnya adalah mesin AI yang dapat terhubung dengan Anda dalam bahasa alami, memahami emosi dan makna di balik kueri Anda, terdengar seperti manusia, dan merespons seperti itu.

Kita semua, melalui kehadiran media sosial, telah menjadi ‘Human’ di ‘Loop’ untuk melatih mesin ini. Sekarang kita memiliki mesin yang mengklaim dilatih pada triliunan parameter, dapat mengambil ratusan dan ribuan parameter input, yang multi-modal dan merespons kita dalam bahasa kita. Apakah itu GPT4/5, PaLM2, Llama atau LLM lainnya yang telah dipublikasikan sejauh ini, mereka muncul sebagai pemecah masalah vertikal yang lebih kontekstual.

Sistem Keterlibatan dan Sistem Catatan

Sementara perjalanan dari NLP ke LLM telah hebat berkat Evolusi Silikon, model data dan ketersediaan jumlah data pelatihan yang besar yang telah kita hasilkan, Perusahaan — penyedia ritel, manufaktur, perbankan, dll. — masing-masing memerlukan aplikasi teknologi yang sangat berbeda. Pertama-tama, perusahaan tidak dapat membiayai halusinasi AI — mereka memerlukan 0% halusinasi dan 100% akurasi untuk pengguna yang berinteraksi dengan AI. Ada berbagai kueri yang menuntut akurasi absolut untuk dapat digunakan dalam bisnis — misalnya, Berapa banyak kamar yang tersedia di hotel Anda? Apakah Anda memiliki tiket kelas satu yang tersedia?

Untuk mengatasi halusinasi AI, masuklah era konsep Sistem Keterlibatan dan Sistem Catatan. Sistem Keterlibatan, baik dengan pelanggan, pemasok, atau karyawan dapat menggunakan platform conversational berbasis GenAI langsung, setelah dilatih untuk prompt bisnis khusus — itu adalah “bagian yang lebih mudah”. Tantangan adalah memasukkan Sistem Catatan ke dalam rantai nilai.  Banyak bisnis masih berada dalam dunia tabel dan entitas statis dan akan tetap seperti itu karena sebagian besar perusahaan statis pada tingkat organisasional atau perusahaan, sementara acara dan alur kerja membuat mereka dinamis pada tingkat transaksional.

Ini adalah tempat kita berbicara tentang platform conversational generasi berikutnya yang tidak hanya menangani percakapan, antarmuka, dan kueri, tetapi juga membawa perjalanan pelanggan semua jalan ke pengiriman. Ada berbagai pendekatan arsitektur untuk platform conversational seperti itu. Salah satu pilihan langsung adalah menggunakan middleware hibrida yang bertindak sebagai konsolidator antara data perusahaan yang divektor dan dilabeli dan prompt conversational yang digerakkan oleh LLM dan mengirimkan hasil 0% halusinasi kepada konsumen.

Ada banyak pekerjaan persiapan data yang diperlukan oleh perusahaan untuk membuatnya dapat dipahami oleh mesin LLM. Kami menyebutnya sebagai pemflatatan model data tradisional yang didorong oleh tabel dan entitas. Basis data grafik, yang merepresentasikan dan menyimpan data dengan cara yang tidak dapat dilakukan oleh basis data relasional, menemukan tujuan baru dalam perjalanan ini. Tujuan adalah mengubah basis data perusahaan menjadi basis data grafik yang lebih dapat dipahami dengan hubungan yang mendefinisikan konteks dan makna, membuatnya lebih mudah bagi mesin LLM untuk belajar dan merespons prompt dari pelanggan akhir melalui kombinasi percakapan dan kueri waktu nyata. Tugas memungkinkan data perusahaan menjadi siap LLM adalah kunci untuk memberikan pengalaman Sistem Keterlibatan ke Sistem Catatan dan membawa pengalaman pengguna semua jalan ke pengiriman.

Apa yang Datang Selanjutnya

Pada titik ini, dengan kemajuan ini dalam data dan AI, dampak paling langsung datang dalam area generasi kode perangkat lunak — seperti yang dibuktikan oleh munculnya Microsoft Copilot, Amazone CodeWhisperer dan alat lainnya di antara pengembang. Alat-alat ini memulai kembali program modernisasi warisan, banyak di antaranya sering tertunda karena kekhawatiran waktu dan biaya. Dengan alat generasi kode yang ditenagai oleh GenAI, kita melihat proyek modernisasi mempercepat jadwal mereka sebesar 20-40%. Dalam proyek pengembangan kode hijau, alat-alat ini akan memungkinkan pengembang untuk mengalihkan waktu dan tabungan produktivitas ke pemikiran desain dan proyek inovatif.

Di luar pengembangan kode perangkat lunak, alat GenAI memimpin penciptaan kasus penggunaan vertikal baru dan skenario yang bertujuan untuk memecahkan tantangan perusahaan yang paling mendesak, dan kita baru saja mulai menggores permukaan apa yang perlu dilakukan untuk memanfaatkan sepenuhnya tren ini. Namun, kita sudah memecahkan beberapa masalah dan pertanyaan di sektor ritel dan logistik dengan menggunakan GenAI:

Berapa banyak inventori yang saya miliki di gudang, dan kapan saya harus memicu pengisian kembali? Apakah menguntungkan untuk membeli stok lebih awal? Apakah harga mendarat saya benar atau apakah itu akan meningkat? Barang apa yang bisa saya bundel atau apa jenis personalisasi yang bisa saya berikan untuk meningkatkan keuntungan saya?

Mengjawab pertanyaan seperti itu membutuhkan kombinasi antarmuka depan conversational, kueri data yang didorong oleh akurasi tinggi di belakang, dan model pembelajaran mesin yang sarat domain yang menghasilkan prediksi dan bimbingan masa depan. Oleh karena itu, saran saya untuk perusahaan akan menjadi, apakah Anda adalah penjelajah AI atau pengganggu AI Generatif, mitra dengan penyedia layanan yang memiliki keahlian AI yang terbukti dan kemampuan data dan analitik yang kuat yang dapat membantu Anda memanfaatkan model GenAI yang sesuai dengan kebutuhan bisnis Anda dan membantu Anda tetap di depan kurva.

Padmanabhan (Paddy) adalah pemimpin platform dan rekayasa produk cloud-native dengan fokus pada platform data-driven, microservices, dan rekayasa cloud-native, serta memodernisasi teknologi dan produk warisan. Ia adalah Wakil Presiden Senior & General Manager yang memimpin vertikal Global Consumer Tech di Persistent Systems, dan timnya memungkinkan Rekayasa Produk Digital untuk pelanggan mereka di seluruh Retail, CPG, Travel, dan Logistik.