LLM 환상 극복을 위한 Retrieval Augmented Generation (RAG) 사용

대규모 언어 모델(LLM)은 언어를 처리하고 생성하는 방식을 혁신적으로 변화시키고 있지만, 완전하지 않다. 인간이 구름에서 모양을 보고 달에 얼굴을 본 것처럼, LLM도 ‘환상’을 볼 수 있다. 즉, 사실이 아닌 정보를 생성한다. 이러한 현상은 LLM 환상으로 알려져 있으며, LLM의 사용이 확대됨에 따라 점점 더 큰 문제가 되고 있다.

오류는 사용자를 혼란스럽게 만들 수 있으며, 경우에 따라서는 회사에 법적 문제를 일으킬 수도 있다. 예를 들어, 2023년에 에어포스 베테랑 제프리 배틀(에어로스페이스 교수로 알려짐)은 마이크로소프트를 상대로 소송을 제기했다. 이유는 마이크로소프트의 ChatGPT 기반의 Bing 검색이 때때로 사실과 다르며 유해한 정보를 제공하기 때문이다. 검색 엔진은 그를 유죄 판결을 받은 범죄자 제프리 레온 배틀과 혼동한다.

환상을 극복하기 위해 검색 증강 생성(Retrieval-Augmented Generation, RAG)이 유망한 해결책으로 등장했다. 이는 외부 데이터베이스의 지식을 통합하여 LLM의 결과 정확성과 신뢰성을 향상시킨다. RAG가 어떻게 LLM을 더 정확하고 신뢰성 있게 만드는지 자세히 살펴보자.

LLM 환상 이해: 원인과 예시

LLM,包括 유명한 모델인 ChatGPT, ChatGLM, 및 Claude는 광범위한 텍스트 데이터셋으로 훈련되지만, 사실과 다르거나 부정확한 출력을 생성할 수 있다. 이러한 현상은 ‘환상’이라고 한다. 환상은 LLM이 사실의 정확성과 관계없이 언어 규칙에 따라 의미 있는 응답을 생성하도록 훈련되기 때문에 발생한다.

Tidio 연구에 따르면, 72%의 사용자는 LLM이 신뢰할 수 있다고 믿지만, 75%의 사용자는 적어도 한 번은 AI에서 부정확한 정보를 받았다. 심지어 가장 유망한 LLM 모델인 GPT-3.5와 GPT-4도 때때로 부정확하거나 무의미한 내용을 생성할 수 있다.

여기에서는 일반적인 유형의 LLM 환상의 개요를 제공한다.

공통 AI 환상 유형:

1. 소스 혼합: 모델이 다양한 소스의 세부 정보를 결합하여 모순이나 허구의 소스를 생성할 수 있다.
2. 사실 오류: LLM은 사실과 다르거나 부정확한 내용을 생성할 수 있다. 특히 인터넷의 내재된 부정확성으로 인해 사실 오류가 발생할 수 있다.
3. 무의미한 정보: LLM은 다음 단어를 예측하는 확률에 따라 무의미한 텍스트를 생성할 수 있다. 이는 사용자가 내용의 권위에 대해 오해할 수 있다.

작년, 두 명의 변호사가 법적 문서에서 존재하지 않는 사건을 인용하여 ChatGPT 생성 정보에 의해 오도되었다. 이는 LLM 생성 내용에 대해 비판적 시각으로 접근하는 것이 중요함을 강조하며, 신뢰성을 보장하기 위해 검증이 필요함을 보여준다. 창의적인 능력은 이야기 작성과 같은 응용 분야에서 유용하지만, 학술 연구, 의료 및 금융 분석 보고서 작성, 법률 자문을 수행하는 경우와 같은 사실에 엄격하게 따라야 하는 작업에서는 도전이 될 수 있다.

LLM 환상 해결책: RAG의 작동 방식

2020년에 LLM 연구자들은 환상을 완화하기 위해 검색 증강 생성(RAG)이라는 기술을 도입했다. 이는 외부 데이터 소스를 통합하여 LLM의 결과 정확성과 신뢰성을 향상시킨다. 전통적인 LLM과 달리 RAG 기반의 LLM 모델은 질문이나 텍스트 생성 전에 외부 데이터베이스에서 관련 정보를 동적으로 검색하여 사실과 정확한 응답을 생성한다.

RAG 프로세스 분해:

RAG 프로세스 단계: 소스

단계 1: 검색

시스템은 사용자의 쿼리와 관련된 정보를 특정 지식 베이스에서 검색한다. 예를 들어, 누군가가 마지막 축구 월드컵 우승자를 물었다면, 관련 축구 정보를 찾는다.

단계 2: 증강

원래 쿼리는 검색된 정보로 강화된다. 축구 예제에서 “誰がサッカーのワールドカップを勝ったか?”라는 쿼리는 “アルゼンチンがサッカーのワールドカップを勝った”라는 구체적인 세부 정보로 업데이트된다.

단계 3: 생성

강화된 쿼리와 함께, LLM은 정확하고 사실적인 응답을 생성한다. 우리의 경우, 월드컵에서 우승한 アルゼンチンの 정보를 기반으로 응답을 생성한다.

이 방법은 부정확성을 줄이고 LLM의 응답이 더 신뢰성 있고 사실적인 데이터에 기반함을 보장한다.

RAG를 사용한 환상 감소의 장단점

RAG는 생성 프로세스를 수정하여 환상을 줄이는 데 약속을 보여주었다. 이 메커니즘은 RAG 모델이 더 정확하고 최신의 정보를 제공할 수 있도록 허용한다.

물론, RAG에 대한 더 일반적인 논의는 다양한 구현에서 그 장점과 한계를 이해하는 데 도움이 된다.

RAG의 장점:

• 더 나은 정보 검색: RAG는 큰 데이터 소스에서 빠르게 정확한 정보를 찾는다.
• 향상된 콘텐츠: 사용자가 필요로 하는 콘텐츠를 명확하고 일치시킨다.
• 유연한 사용: 사용자는 특정 요구 사항에 맞게 RAG를 조정할 수 있다. 예를 들어, 자체 데이터 소스를 사용하여 효율성을 높일 수 있다.

RAG의 도전:

• 특정 데이터 필요: 쿼리 컨텍스트를 정확하게 이해하여 관련 정보를 제공하는 것이 어려울 수 있다.
• 확장성: 모델을 확대하여 큰 데이터셋과 쿼리를 처리하면서 성능을 유지하는 것이 어렵다.
• 계속적인 업데이트: 지식 데이터셋을 최신 정보로 자동 업데이트하는 것이 자원 집약적이다.

RAG의 대안 탐색

RAG 외에도, 몇 가지 다른 유망한 방법이 있다. LLM 연구자들은 환상을 줄이기 위해 다음과 같은 방법을 사용할 수 있다:

• G-EVAL: 생성된 콘텐츠의 정확성을 신뢰할 수 있는 데이터셋과 교차 확인하여 신뢰성을 향상시킨다.
• SelfCheckGPT: 자동으로 자신의 오류를 확인하고 수정하여 출력을 정확하고 일관성 있게 유지한다.
• 프롬프트 엔지니어링: 사용자가 정확하고 관련 있는 응답을 위한 입력 프롬프트를 설계하도록 도와준다.
• 세부 튜닝: 모델을 특정 작업에 맞춘 데이터셋으로 조정하여 도메인별 성능을 향상시킨다.
• LoRA (Low-Rank Adaptation): 모델의 일부 매개변수를 수정하여 작업별 적응을 향상시키는 방법이다.

RAG와 그 대안에 대한 탐색은 LLM의 정확성과 신뢰성을 향상시키기 위한 다이나믹하고 다면적인 접근 방식을 강조한다. 우리는 이러한 기술을 발전시키기 위해 지속적인 혁신이 필요하다.

AI와 기계 학습의 최신 개발, 심층 분석 및 뉴스를 포함하여 업데이트 된 정보를 얻으려면 unite.ai를 방문하십시오.