RAG는 ​​AI 환각에 대한 솔루션입니까?

AI는 설계상 "자체적인 생각"을 가지고 있습니다. 이것의 한 가지 단점은 Generative AI 모델이 때때로 "AI 환각"이라는 현상에서 정보를 조작한다는 것입니다. 이 현상은 뉴욕 판사가 주목을 받은 최초의 사례 중 하나입니다. 견책 존재하지 않는 법원 사건을 참조한 ChatGPT로 작성된 법적 서류를 사용하는 변호사. 최근에는 AI가 생성한 검색 엔진이 사용자에게 다음과 같이 지시하는 사건이 발생했습니다. 바위를 소비하다 건강상의 이점을 위해 또는 무독성으로 사용하기 위해 아교 치즈가 피자에 달라붙는 것을 돕기 위해.

GenAI가 점점 더 보편화됨에 따라 환각이 현재로서는 피할 수없는 GenAI 솔루션의 측면. LLM(대규모 언어 모델)을 기반으로 구축된 이러한 솔루션은 부정확하거나 오래된 정보를 포함할 가능성이 있는 방대한 양의 서로 다른 소스로부터 정보를 얻는 경우가 많습니다. 3%에서 10% 사이라고 안내하고 있다. 사용자 프롬프트에 대한 AI 챗봇 생성 응답. AI의 관점에서 “블랙 박스자연 – 인간으로서 우리는 AI가 결과를 어떻게 생성하는지 정확히 조사하는 데 엄청난 어려움을 겪습니다. 이러한 환각은 개발자가 추적하고 이해하는 것이 거의 불가능할 수 있습니다.

불가피하든 아니든 AI 환각은 기껏해야 실망스럽고 위험하며 최악의 경우 비윤리적입니다.

의료, 금융, 공공 안전을 포함한 여러 부문에 걸쳐 환각의 결과에는 잘못된 정보 확산과 민감한 데이터 손상에서부터 생명을 위협하는 사고까지 모든 것이 포함됩니다. 환각을 계속 확인하지 않으면 사용자의 안녕과 AI 시스템에 대한 사회적 신뢰가 모두 손상될 것입니다.

따라서 이 강력한 기술의 관리자는 LLM에서 생성된 결과물의 신뢰성을 보장하기 위해 AI 환각의 위험을 인식하고 해결하는 것이 필수적입니다.

환각 해결을 위한 출발점으로서의 RAG

환각을 완화하는 데 있어 주목받는 한 가지 방법은 다음과 같습니다. 검색 증강 생성, 또는 RAG. 이 솔루션은 외부 정보 저장소의 통합(쿼리의 성격에 따라 선택된 신뢰할 수 있는 데이터베이스에서 관련 정보 추출)을 통해 LLM 신뢰성을 향상시켜 특정 쿼리에 대한 보다 안정적인 응답을 보장합니다.

일부 산업 전문가 RAG만으로도 환각을 해결할 수 있다고 가정했습니다. 그러나 RAG 통합 데이터베이스에는 여전히 잘못된 정보나 오해의 소지가 있는 정보를 생성할 수 있는 오래된 데이터가 포함될 수 있습니다. 어떤 경우에는 RAG를 통한 외부 데이터 통합으로 인해 대규모 언어 모델에서 환각의 가능성이 높아질 수도 있습니다. AI 모델이 오래된 데이터베이스에 과도하게 의존하는 경우 지각하다 완전히 최신 상태이므로 환각의 정도가 더욱 심해질 수 있습니다.

AI Guardrails – RAG의 격차 해소

보시다시피 RAG는 AI 환각을 완화할 가능성이 있습니다. 그러나 이러한 솔루션을 사용하는 산업과 기업은 고유한 한계도 이해해야 합니다. 실제로 RAG와 함께 사용할 경우 LLM 환각을 해결할 때 사용해야 하는 보완적인 방법론이 있습니다.

예를 들어 기업은 실시간 AI를 사용할 수 있습니다. 난간 LLM 응답을 확보하고 AI 환각을 완화합니다. 가드레일은 사용자에게 도달하기 전에 조작된 콘텐츠, 불경스러운 콘텐츠 또는 주제에서 벗어난 콘텐츠에 대한 모든 LLM 출력을 조사하는 그물 역할을 합니다. 이러한 사전 예방적 미들웨어 접근 방식은 RAG 시스템 검색의 신뢰성과 관련성을 보장하여 궁극적으로 사용자 간의 신뢰를 높이고 회사 브랜드에 부합하는 안전한 상호 작용을 보장합니다.

또는 엔지니어가 백엔드 마스터 프롬프트를 변경해야 하는 "프롬프트 엔지니어링" 접근 방식이 있습니다. 허용되는 프롬프트에 미리 결정된 제약 조건을 추가함으로써, 즉 LLM이 정보를 얻는 위치뿐만 아니라 사용자가 답변을 요청하는 방법도 모니터링함으로써 엔지니어링 프롬프트는 LLM을 보다 신뢰할 수 있는 결과로 안내할 수 있습니다. 이 접근 방식의 가장 큰 단점은 이러한 유형의 즉각적인 엔지니어링이 이미 시간과 리소스가 부족한 프로그래머에게 엄청나게 시간이 많이 걸리는 작업이 될 수 있다는 것입니다.

"미세 조정" 접근 방식에는 특수 데이터 세트에 대한 LLM 교육이 포함됩니다. 성능 개선 환각의 위험을 완화합니다. 이 방법은 신뢰할 수 있는 특정 도메인에서 작업 전문 LLM을 교육하여 출력의 정확성과 신뢰성을 향상시킵니다.

LLM의 추론 성능에 대한 입력 길이의 영향을 고려하는 것도 중요합니다. 실제로 많은 사용자는 프롬프트가 더 광범위하고 매개변수로 채워질수록 출력이 더 정확할 것이라고 생각하는 경향이 있습니다. 그러나 하나 최근의 연구 실제로 LLM 출력의 정확성이 밝혀졌습니다. 감소하다 입력 길이가 증가함에 따라. 결과적으로 특정 프롬프트에 할당된 지침 수를 늘리는 것은 신뢰할 수 있는 생성 AI 애플리케이션 생성에 있어 일관된 신뢰성을 보장하지 않습니다.

프롬프트 오버로딩으로 알려진 이 현상은 지나치게 복잡한 프롬프트 디자인에 내재된 위험을 강조합니다. 프롬프트가 더 광범위하게 표현될수록 LLM이 모든 매개변수를 충족하기 위해 노력할 때 부정확한 정보와 환각에 대한 문이 더 많이 열립니다.

신속한 엔지니어링 지속적인 업데이트와 미세 조정이 필요하며 환각이나 무의미한 반응을 효과적으로 방지하기 위해 여전히 노력하고 있습니다. 반면에 가드레일은 조작된 출력의 추가 위험을 발생시키지 않으므로 AI 보호를 위한 매력적인 옵션이 됩니다. 프롬프트 엔지니어링과 달리 가드레일은 생성 AI가 사전 정의된 경계 내에서만 출력을 생성하도록 보장하는 포괄적인 실시간 솔루션을 제공합니다.

그 자체로 솔루션은 아니지만 사용자 피드백은 모델을 개선하고 출력 정확도를 높이며 환각의 위험을 낮추는 데 도움이 되는 찬성 및 반대 투표와 같은 조치를 통해 환각을 완화하는 데 도움이 될 수 있습니다.

RAG 솔루션은 정확한 결과를 얻기 위해 자체적으로 광범위한 실험이 필요합니다. 그러나 미세 조정, 신속한 엔지니어링 및 가드레일과 함께 사용하면 환각 문제를 해결하기 위한 보다 표적화되고 효율적인 솔루션을 제공할 수 있습니다. 이러한 무료 전략을 탐색하면 LLM의 환각 완화가 계속해서 개선되어 다양한 응용 분야에서 보다 안정적이고 신뢰할 수 있는 모델을 개발하는 데 도움이 될 것입니다.

RAG는 ​​AI 환각에 대한 해결책이 아닙니다

RAG 솔루션은 외부 지식을 풍부하게 하여 LLM에 엄청난 가치를 더합니다. 그러나 생성적 AI에 대해 아직 알려지지 않은 것이 너무 많기 때문에 환각은 여전히 ​​내재적인 문제로 남아 있습니다. 이들에 맞서 싸우는 열쇠는 이들을 제거하는 것이 아니라 전략적 보호막, 심사 프로세스, 미세 조정된 프롬프트를 조합하여 이들의 영향력을 완화하는 것입니다.

GenAI가 우리에게 말하는 내용을 더 많이 신뢰할수록 GenAI의 강력한 잠재력을 더욱 효과적이고 효율적으로 활용할 수 있습니다.