Vianai의 새로운 오픈소스 솔루션, AI 환각 문제에 대응

AI, 특히 대규모 언어 모델(LLM)을 사용하면 때때로 부정확하거나 심지어 유해한 출력을 생성할 수 있다는 것은 잘 알려져 있다. “AI 환각”으로 불리는 이러한 이상 현상은 금융, 평판, 법적 결과와 같은 내재된 위험으로 인해 기업이 LLM 통합을 고려할 때 주요 장벽이 되었다.

이 중요한 문제를 해결하기 위해, 비아나이 시스템즈, 기업용 인간 중심 AI의 선도 기업, 새로운 솔루션을 공개했다. veryLLM 툴킷은 비즈니스용으로 더 신뢰할 수 있는, 투명한, 혁신적인 AI 시스템을 제공하기 위한 오픈소스 툴킷이다.

AI 환각의 도전

이러한 환각은 LLM이 거짓 또는 공격적인 내용을 생성하는 것을 보이는 것으로, 지속적인 문제였다. 많은 회사들은 잠재적인 결과를 두려워하여 중앙 기업 시스템에 LLM을 통합하는 것을 주저했다. 하지만 Apache 2.0 오픈소스 라이선스로 veryLLM을 공개함으로써, 비아나이는 이러한 문제를 해결하고 AI를 채택하는 것을 촉진하기 위해 신뢰를 구축하기를 희망한다.

veryLLM 툴킷 분석

veryLLM 툴킷의 핵심은 각 LLM 생성 문장에 대한 더 깊은 이해를 허용한다. 이는 Wikipedia, Common Crawl, Books3 등 LLM을 학습시킨 맥락 자료를 바탕으로 문장을 분류하는 다양한 기능을 통해 달성된다. veryLLM의 첫 번째 버전은 위키백과 문서를 기반으로 하므로, 이 방법은 툴킷의 검증 절차에 대한 견고한 기반을 제공한다.

이 툴킷은 적응형, 모듈식, 모든 LLM과 호환되는 것으로 설계되었으며, LLM을 사용하는 모든 응용 프로그램에서 사용할 수 있다. 이는 AI 생성 응답의 투명성을 높이고 현재 및 향후 언어 모델을 모두 지원할 것이다.

Vishal Sikka 박사, 비아나이 시스템즈의 창립자이자 CEO, 스탠퍼드 대학교 인간 중심 인공지능 센터의 고문을 맡고 있다. 그는 AI 환각 문제의 심각성을 강조했다. 그는 “AI 환각은 기업에 심각한 위험을 초래하며 AI 도입을 가로막습니다. 오랫동안 AI를 공부해 온 사람으로서, 이런 강력한 시스템이 출력의 근거를 불투명하게 두도록 허용할 수 없다는 점은 잘 알려져 있으며 이 문제를 시급히 해결해야 한다고 생각합니다. veryLLM 라이브러리는 모든 LLM의 출력에 투명성과 신뢰를 더하기 위한 작은 첫걸음입니다. 개발자, 데이터 과학자, LLM 제공자 누구나 자신의 AI 애플리케이션에서 이 투명성을 활용할 수 있습니다. 이런 기능과 여러 다른 환각 방지 기법을 전 세계 기업에 제공하게 되어 기쁘며, 이것이 우리 솔루션이 전례 없이 채택되고 있는 이유라고 믿습니다”라고 말했습니다.

hila™ Enterprise에 veryLLM 통합

hila™ Enterprise, 비아나이의 또 다른 제품은, 금융, 계약, 법률 등 다양한 분야에서 정확하고 투명한 대규모 언어 모델 기반 기업용 솔루션을 제공하는 것을 목표로 한다. 이 플랫폼은 veryLLM 코드와 다른 고급 AI 기술을 결합하여 AI 관련 위험을 최소화하고, 기업이 신뢰할 수 있는 AI 시스템의 혁신적인 힘을 완전히 활용할 수 있도록 한다.

비아나이 시스템즈에 대한 자세한 정보

비아나이 시스템즈는 인간 중심 인공지능 분야의 선두 주자이다. 이 회사는 세계적으로 유명한 기업들을 고객으로 보유하고 있으며, 기업 플랫폼과 혁신적인 애플리케이션을 개발하는 데에 있어 비할 수 없는 전문성을 가지고 있다. 또한, 세계적으로 가장 비전있는 투자자들의 지원을 받고 있다.