Donny White, CEO & Co-Founder of Satisfi Labs – Interview Series

Didirikan pada 2016, Satisfi Labs adalah perusahaan AI konversasional terkemuka. Kesuksesan awal datang dari kerja sama dengan New York Mets, Macy’s, dan US Open, memungkinkan akses mudah ke informasi yang sering tidak tersedia di situs web.

Donny menghabiskan 15 tahun di Bloomberg sebelum memasuki dunia start-up dan memegang gelar MBA dari Cornell University dan BA dari Baruch College. Di bawah kepemimpinan Donny, Satisfi Labs telah mengalami pertumbuhan signifikan di sektor olahraga, hiburan, dan pariwisata, menerima investasi dari Google, MLB, dan Red Light Management.

Anda berada di Bloomberg selama 14 tahun ketika Anda pertama kali merasakan gatal-gatal kewirausahaan. Mengapa menjadi wirausaha tiba-tiba ada di radar Anda?

Selama tahun junior saya di perguruan tinggi, saya melamar pekerjaan sebagai resepsionis di Bloomberg. Setelah saya mendapatkan pekerjaan, saya mengatakan kepada rekan-rekan saya bahwa jika mereka mau mengajar saya, saya bisa belajar dengan cepat. Pada tahun senior saya, saya sudah menjadi karyawan penuh waktu dan telah memindahkan semua kelas saya ke kelas malam agar saya bisa melakukan keduanya. Sebagai gantinya pergi ke wisuda kuliah saya pada usia 21, saya menghabiskan waktu itu untuk mengelola tim saya yang pertama. Dari titik itu, saya beruntung bekerja di meritokrasi dan beberapa kali dipromosikan. Pada usia 25, saya sudah mengelola departemen saya sendiri. Dari sana, saya pindah ke manajemen regional dan kemudian pengembangan produk, sampai akhirnya saya mengelola penjualan di seluruh Amerika. Pada 2013, saya mulai bertanya-tanya apakah saya bisa melakukan sesuatu yang lebih besar. Saya melakukan beberapa wawancara di perusahaan teknologi muda dan salah satu pendiri mengatakan kepada saya, “Kami tidak tahu apakah Anda baik atau Bloomberg yang baik.” Saat itu saya tahu bahwa sesuatu harus berubah dan enam bulan kemudian saya menjadi VP penjualan di start-up pertama saya, Datahug. Tak lama kemudian, saya direkrut oleh sekelompok investor yang ingin mengganggu Yelp. Meskipun Yelp masih baik dan baik, pada 2016 kami sejalan dengan visi baru dan saya mendirikan Satisfi Labs dengan investor yang sama.

Apakah Anda bisa berbagi cerita asal-usul di balik Satisfi Labs?

Saya berada di sebuah pertandingan bisbol di Citi Field dengan Randy, CTO dan Co-founder Satisfi saat ini, ketika saya mendengar tentang salah satu spesialisasi mereka, bacon on a stick. Kami berjalan di sekitar concourse dan bertanya kepada staf tentang itu, tetapi tidak bisa menemukannya. Ternyata itu tersembunyi di satu ujung stadion, yang memicu kesadaran bahwa akan lebih mudah untuk bertanya langsung kepada tim melalui chat. Inilah tempat ide pertama kami lahir. Randy dan saya berasal dari latar belakang keuangan dan perdagangan algoritma, yang membuat kami mengambil konsep pencocokan permintaan dengan jawaban untuk membangun NLP kami sendiri untuk pertanyaan yang sangat spesifik yang akan ditanyakan di lokasi. Ide asli adalah membangun bot individu yang masing-masing akan ahli dalam bidang pengetahuan tertentu, terutama pengetahuan yang tidak mudah diakses di situs web. Dari sana, sistem kami akan memiliki “konduktor” yang dapat mengetuk setiap bot saat diperlukan. Ini adalah arsitektur sistem asli yang masih digunakan hari ini.

Satisfi Labs telah merancang mesin NLP sendiri dan berada di ambang menerbitkan siaran pers ketika OpenAI mengganggu tumpukan teknologi Anda dengan merilis ChatGPT. Bisakah Anda membahas periode waktu ini dan bagaimana ini memaksa Satisfi Labs untuk mengubah bisnisnya?

Kami memiliki siaran pers yang dijadwalkan untuk mengumumkan peningkatan NLP Context-based paten-pending kami pada 6 Desember 2022. Pada 30 November 2022, OpenAI mengumumkan ChatGPT. Pengumuman ChatGPT mengubah tidak hanya jalan kami, tetapi juga dunia. Awalnya, kami, seperti semua orang, berlari untuk memahami kekuatan dan keterbatasan ChatGPT dan memahami apa yang dimaksud untuk kami. Kami segera menyadari bahwa sistem NLP kontekstual kami tidak bersaing dengan ChatGPT, tetapi sebenarnya dapat meningkatkan pengalaman LLM. Ini menyebabkan keputusan cepat untuk menjadi mitra perusahaan OpenAI. Karena sistem kami dimulai dengan ide memahami dan menjawab pertanyaan pada tingkat granular, kami dapat menggabungkan desain sistem “konduktor bot” dan tujuh tahun data intent untuk meningkatkan sistem untuk mengintegrasikan LLM.

Satisfi Labs baru-baru ini meluncurkan paten untuk Sistem Respons LLM Konteks, apa itu secara khusus?

Pada bulan Juli, kami memperkenalkan Sistem Respons LLM Konteks paten-pending kami. Sistem baru ini menggabungkan kekuatan sistem respons kontekstual paten-pending kami dengan kemampuan model bahasa besar untuk memperkuat seluruh Sistem Mesin Jawaban. Teknologi LLM Konteks baru ini mengintegrasikan kemampuan model bahasa besar di seluruh platform, mulai dari meningkatkan pengalihan intent hingga pembangkitan jawaban dan pengindeksan intent, yang juga menggerakkan kemampuan pelaporan uniknya. Platform ini membawa AI konversasional melampaui chatbot tradisional dengan mengambil kekuatan LLM seperti GPT-4. Platform kami memungkinkan merek untuk menjawab dengan jawaban AI generatif atau jawaban tertulis sebelumnya tergantung pada kebutuhan kontrol dalam respons.

Bisakah Anda membahas diskoneksi saat ini antara sebagian besar situs web perusahaan dan platform LLM dalam mengirimkan jawaban yang sesuai dengan merek?

ChatGPT dilatih untuk memahami berbagai informasi dan oleh karena itu tidak memiliki tingkat pelatihan granular yang diperlukan untuk menjawab pertanyaan spesifik industri dengan tingkat spesifik yang diharapkan oleh sebagian besar merek. Selain itu, akurasi jawaban yang diberikan LLM hanya sebaik data yang diberikan. Ketika Anda menggunakan ChatGPT, itu mengambil sumber data dari seluruh internet, yang dapat tidak akurat. ChatGPT tidak memprioritaskan data dari merek tertentu atas data lain. Kami telah melayani berbagai industri selama tujuh tahun terakhir, memperoleh wawasan berharga tentang jutaan pertanyaan yang diajukan oleh pelanggan setiap hari. Ini memungkinkan kami untuk memahami bagaimana menyetel sistem dengan konteks yang lebih besar per industri dan menyediakan kemampuan pelaporan intent yang kuat dan granular, yang sangat penting mengingat munculnya model bahasa besar. Sementara LLM efektif dalam memahami intent dan menghasilkan jawaban, mereka tidak dapat melaporkan pertanyaan yang diajukan. Dengan menggunakan tahun-tahun data intent ekstensif, kami telah menciptakan pelaporan standar melalui Sistem Pengindeksan Intent.

Apa peran linguistik dalam meningkatkan kemampuan teknologi LLM?

Peran insinyur prompt telah muncul dengan teknologi baru ini, yang memerlukan seseorang untuk merancang dan memperbaiki prompt yang dapat memicu respons tertentu dari AI. Ahli bahasa memiliki pemahaman yang baik tentang struktur bahasa seperti sintaksis dan semantik, di antara hal-hal lain. Salah satu insinyur AI kami yang paling sukses memiliki latar belakang Linguistik, yang memungkinkan mereka untuk sangat efektif dalam menemukan cara baru dan nuansa untuk memicu AI. Perubahan halus pada prompt dapat memiliki efek mendalam pada seberapa akurat dan efisien jawaban yang dihasilkan, yang membuat perbedaan besar ketika kami menangani jutaan pertanyaan di seluruh klien.

Apa yang terlihat seperti fine-tuning di backend?

Kami memiliki model data proprietary yang kami gunakan untuk menjaga LLM tetap terkendali. Ini memungkinkan kami untuk membangun pagar kami sendiri untuk menjaga LLM tetap terkendali, berbeda dengan harus mencari pagar. Kedua, kami dapat menggunakan alat dan fitur yang digunakan platform lain, yang memungkinkan kami untuk mendukungnya di platform kami.

Fine-tuning data pelatihan dan menggunakan Pembelajaran Penguatan (RL) di platform kami dapat membantu mitigasi risiko informasi yang salah. Fine-tuning, berbeda dengan mengquery basis pengetahuan untuk fakta spesifik untuk menambahkan, membuat versi baru dari LLM yang dilatih pada pengetahuan tambahan ini. Di sisi lain, RL melatih agen dengan umpan balik manusia dan mempelajari kebijakan tentang cara menjawab pertanyaan. Ini telah terbukti sukses dalam membangun model dengan jejak kaki yang lebih kecil yang menjadi ahli dalam tugas tertentu.

Bisakah Anda membahas proses untuk mengonboard klien baru dan mengintegrasikan solusi AI konversasional?

Karena kami fokus pada destinasi dan pengalaman seperti olahraga, hiburan, dan pariwisata, klien baru mendapat manfaat dari mereka yang sudah ada di komunitas, membuat proses onboarding sangat sederhana. Klien baru mengidentifikasi di mana sumber data mereka yang paling mutakhir berada seperti situs web, buku pegangan karyawan, blog, dll. Kami mengingest data dan melatih sistem secara real-time. Karena kami bekerja dengan ratusan klien di industri yang sama, tim kami dapat dengan cepat memberikan rekomendasi tentang jawaban mana yang paling cocok untuk respons tertulis versus respons yang dihasilkan. Selain itu, kami mengatur aliran yang dipandu seperti Food & Beverage Finder dinamis kami sehingga klien tidak pernah perlu berurusan dengan bot-builder.

Satisfi Labs saat ini bekerja erat dengan tim olahraga dan perusahaan, apa visi Anda untuk masa depan perusahaan?

Kami melihat masa depan di mana lebih banyak merek akan ingin mengontrol lebih banyak aspek pengalaman chat mereka. Ini akan menghasilkan kebutuhan yang meningkat untuk sistem kami untuk menyediakan akses tingkat pengembang yang lebih besar. Tidak masuk akal bagi merek untuk merekrut pengembang untuk membangun sistem AI konversasional mereka sendiri karena keahlian yang diperlukan akan langka dan mahal. Namun, dengan sistem kami yang memberi makan backend, pengembang mereka dapat fokus lebih pada pengalaman pelanggan dan perjalanan dengan memiliki kontrol yang lebih besar atas prompt, menghubungkan data proprietary untuk memungkinkan personalisasi yang lebih besar, dan mengelola antarmuka chat untuk kebutuhan pengguna tertentu. Satisfi Labs akan menjadi tulang punggung teknis pengalaman konversasional merek.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Satisfi Labs.