วิแอนไอ เปิดตัวโซลูชันโอเพ่นซอร์สใหม่สำหรับปัญหาการหลอกลวงของ AI

ไม่มีใครไม่รู้ว่า AI โดยเฉพาะ Large Language Models (LLMs) อาจสร้างผลลัพธ์ที่ไม่ถูกต้องหรืออาจเป็นอันตรายได้ ซึ่งเรียกว่า “การหลอกลวงของ AI” ปัญหานี้เป็นอุปสรรคสำคัญสำหรับองค์กรที่พิจารณาใช้ LLM เนื่องจากมีความเสี่ยงต่อผลกระทบทางการเงิน ชื่อเสียง และแม้แต่ผลกระทบทางกฎหมาย

เพื่อแก้ไขปัญหานี้ Vianai Systems ผู้นำด้าน Human-Centered AI สำหรับองค์กร ได้เปิดตัวผลิตภัณฑ์ใหม่คือ veryLLM toolkit ซึ่งเป็นโอเพ่นซอร์สที่มีเป้าหมายเพื่อให้ระบบ AI ที่เชื่อถือได้ โปร่งใส และเปลี่ยนแปลงสำหรับการใช้งานในธุรกิจ

ความท้าทายของการหลอกลวงของ AI

การหลอกลวงเหล่านี้ ซึ่งทำให้ LLMs สร้างเนื้อหาที่เท็จหรืออาจเป็นอันตรายได้ เป็นปัญหาที่คงอยู่มาอย่างยาวนานหลายบริษัทต่างๆ ที่กลัวผลกระทบที่อาจเกิดขึ้นจึงไม่ได้นำ LLMs ไปใช้ในระบบหลักขององค์กร อย่างไรก็ตาม ด้วยการเปิดตัว veryLLM ภายใต้ใบอนุญาตโอเพ่นซอร์ส Apache 2.0 Vianai หวังว่าจะสร้างความเชื่อมั่นและสนับสนุนให้ธุรกิจนำ AI ไปใช้โดยการแก้ปัญหานี้

การเปิดเผย veryLLM Toolkit

ที่แก่นกลาง veryLLM toolkit ช่วยให้เข้าใจถึงความหมายของแต่ละประโยคที่สร้างโดย LLMs ได้ลึกซึ้งยิ่งขึ้น โดยใช้ฟังก์ชันต่างๆ ที่จัดหมวดหมู่ของข้อความตามบริบทที่ LLMs ได้รับการฝึกฝน เช่น วิกิพีเดีย Common Crawl และหนังสือ โดยการเปิดตัวครั้งแรกของ veryLLM ที่อาศัยบทความวิกิพีเดียเป็นหลัก ทำให้มีฐานที่มั่นคงสำหรับการตรวจสอบของเครื่องมือ

เครื่องมือนี้ได้รับการออกแบบให้สามารถปรับเปลี่ยนได้ มีความยืดหยุ่น และเข้ากันได้กับ LLMs ทุกประเภท ทำให้สามารถนำไปใช้ได้ในทุกแอปพลิเคชันที่ใช้ LLMs ซึ่งจะช่วยเพิ่มความโปร่งใสในการตอบสนองของ AI ทั้งสำหรับโมเดลภาษาที่มีอยู่และที่จะพัฒนาต่อไป

ดร. วิชาล ซิกกา ผู้ก่อตั้งและซีอีโอของ Vianai Systems และเป็นที่ปรึกษาของศูนย์ Human-Centered Artificial Intelligence ของมหาวิทยาลัยสแตนฟอร์ด ได้เน้นย้ำถึงความสำคัญของปัญหาการหลอกลวงของ AI โดยกล่าวว่า “การหลอกลวงของ AI เป็นความเสี่ยงอย่างร้ายแรงสำหรับองค์กร ซึ่งทำให้การนำ AI ไปใช้ถูกขัดขวาง ในฐานะนักศึกษาของ AI มานานหลายปี ฉันรู้ว่าเราไม่สามารถปล่อยให้ระบบเหล่านี้ไม่โปร่งใสเกี่ยวกับพื้นฐานของการผลิตได้ และเราต้องแก้ไขปัญหานี้อย่างเร่งด่วน ห้องสมุด veryLLM ของเราคือขั้นตอนแรกที่จะนำความโปร่งใสและความมั่นใจมาให้กับการผลิตของ LLMs ทุกประเภท ซึ่งผู้พัฒนา นักวิทยาศาสตร์ข้อมูล หรือผู้ให้บริการ LLMs สามารถใช้ได้ในแอปพลิเคชัน AI ของตนเอง เรารู้สึกตื่นเต้นที่จะนำความสามารถเหล่านี้และเทคนิคต่อต้านการหลอกลวงอื่นๆ ไปยังองค์กรทั่วโลก และฉันเชื่อว่านี่คือเหตุผลที่เราได้รับการยอมรับอย่างไม่เคยปรากฏมาก่อนต่อโซลูชันของเรา”

การรวม veryLLM เข้ากับ hila™ Enterprise

hila™ Enterprise ซึ่งเป็นผลิตภัณฑ์อีกตัวหนึ่งของ Vianai มุ่งเน้นไปที่การนำระบบภาษาที่แม่นยำและโปร่งใสไปใช้ในระดับองค์กรทั่วหลายอุตสาหกรรม เช่น การเงิน สัญญา และกฎหมาย แพลตฟอร์มนี้รวมโค้ด veryLLM เข้ากับเทคนิค AI ขั้นสูงอื่นๆ เพื่อลดความเสี่ยงของ AI และทำให้ธุรกิจสามารถใช้พลังของระบบ AI ที่เชื่อถือได้อย่างเต็มที่

การมองใกล้ๆ กับ Vianai Systems

Vianai Systems เป็นผู้นำในด้าน Human-Centered AI สำหรับองค์กร โดยมีลูกค้าจากธุรกิจชั้นนำระดับโลก ทีมงานของ Vianai มีความเชี่ยวชาญที่ไม่มีใครเทียบได้ในการสร้างแพลตฟอร์มและแอปพลิเคชันสำหรับองค์กร นอกจากนี้ยังมีนักลงทุนที่มีวิสัยทัศน์ระดับโลกให้การสนับสนุน