Solusi Open-Source Baru Vianai Mengatasi Masalah Hallusinasi AI

Tidak ada rahasia bahwa AI, khususnya Large Language Models (LLMs), dapat secara berkala menghasilkan output yang tidak akurat atau bahkan berpotensi berbahaya. Dijuluki sebagai “hallusinasi AI”, anomali-anomali ini telah menjadi hambatan signifikan bagi perusahaan yang mempertimbangkan integrasi LLM karena risiko inheren yang terkait dengan konsekuensi keuangan, reputasi, dan bahkan hukum.

Mengatasi kekhawatiran penting ini, Vianai Systems, pelopor di bidang Human-Centered AI perusahaan, memperkenalkan penawaran barunya: toolkit veryLLM. Toolkit open-source ini bertujuan untuk memastikan sistem AI yang lebih andal, transparan, dan transformatif untuk penggunaan bisnis.

Tantangan Hallusinasi AI

Hallusinasi seperti itu, yang melihat LLM menghasilkan konten palsu atau ofensif, telah menjadi masalah yang persisten. Banyak perusahaan, takut akan konsekuensi potensial, telah enggan untuk mengintegrasikan LLM ke dalam sistem perusahaan pusat mereka. Namun, dengan memperkenalkan veryLLM, di bawah lisensi open-source Apache 2.0, Vianai berharap untuk membangun kepercayaan dan mempromosikan adopsi AI dengan menyediakan solusi untuk masalah-masalah ini.

Mengenal Toolkit veryLLM

Pada intinya, toolkit veryLLM memungkinkan pemahaman yang lebih dalam tentang setiap kalimat yang dihasilkan LLM. Ini dicapai melalui berbagai fungsi yang mengkategorikan pernyataan berdasarkan kumpulan konteks yang LLM dilatih, seperti Wikipedia, Common Crawl, dan Books3. Dengan rilis perdana veryLLM yang sangat bergantung pada seleksi artikel Wikipedia, metode ini memastikan landasan yang solid untuk prosedur verifikasi toolkit.

Toolkit ini dirancang untuk adaptif, modular, dan kompatibel dengan semua LLM, memfasilitasi penggunaannya dalam aplikasi apa pun yang menggunakan LLM. Ini akan meningkatkan transparansi dalam respons AI yang dihasilkan dan mendukung model bahasa saat ini dan mendatang.

Dr. Vishal Sikka, Pendiri dan CEO Vianai Systems dan juga penasihat di Pusat Kecerdasan Buatan Berbasis Manusia Stanford, menekankan gravitasi dari masalah hallusinasi AI. Ia mengatakan, “Hallusinasi AI menyajikan risiko serius bagi perusahaan, menghambat adopsi AI mereka. Sebagai siswa AI selama bertahun-tahun, juga diketahui bahwa kita tidak dapat membiarkan sistem kuat ini menjadi tidak transparan tentang dasar output mereka, dan kita perlu segera menyelesaikannya. Perpustakaan veryLLM kami adalah langkah kecil pertama untuk membawa transparansi dan kepercayaan ke output LLM mana pun – transparansi yang dapat digunakan oleh pengembang, ilmuwan data, atau penyedia LLM dalam aplikasi AI mereka. Kami bersemangat untuk membawa kemampuan ini, dan banyak teknik anti-hallusinasi lainnya, ke perusahaan di seluruh dunia, dan saya percaya ini adalah alasan mengapa kami melihat adopsi solusi kami yang belum pernah terjadi sebelumnya.”

Mengintegrasikan veryLLM ke dalam hila™ Enterprise

hila™ Enterprise, produk lain yang luar biasa dari Vianai, berfokus pada penerapan solusi bahasa perusahaan yang akurat dan transparan di seluruh sektor seperti keuangan, kontrak, dan hukum. Platform ini mengintegrasikan kode veryLLM, dikombinasikan dengan teknik AI canggih lainnya, untuk meminimalkan risiko terkait AI, memungkinkan bisnis untuk memanfaatkan sepenuhnya kekuatan transformasional sistem AI yang andal.

Lebih Dekat dengan Vianai Systems

Vianai Systems berdiri tegak sebagai pelopor di bidang Human-Centered AI. Perusahaan ini memiliki klien yang terdiri dari beberapa bisnis paling bergengsi di dunia. Kemampuan tim mereka yang tak tertandingi dalam menciptakan platform perusahaan dan aplikasi inovatif membedakan mereka. Mereka juga beruntung memiliki dukungan dari beberapa investor paling visioner di dunia.