인공 지능의 환각을 해결하는 방법은 RAG인가?

인공 지능은 본질적으로 “자신만의 생각”을 가지고 있습니다. 이로 인해 발생하는 단점 중 하나는 생성형 인공 지능 모델이 가끔 정보를 조작하는 “인공 지능의 환각” 현상입니다. 이 현상의 초기 예 중 하나는 뉴욕 판사에 의해 조명되었습니다. 판사는 ChatGPT로 작성된 법적 서류에서 실제로 존재하지 않는 법원 판결을 인용한 것을 이유로 변호사들에게 경고를 발령했습니다. 최근에는 인공 지능 검색 엔진이 사용자에게 건강을 위해 돌을 섭취하거나 비독성 글루를 사용하여 치즈가 피자에 붙도록 하는 등의 사건이 발생했습니다.

제네릭 인공 지능이 점점 더 普及됨에 따라, 이를採用하는 사람들은 환각이 현재로서는 제네릭 인工 지능 솔루션의 필수적인 측면이라는 것을 인식하는 것이 중요합니다. 대규모 언어 모델(Large Language Model, LLM)을 기반으로 구축된 이러한 솔루션은 종종 불일치하거나 구식 정보를 포함하는 광범위한 다양한 출처에서 정보를 얻습니다. 이러한 허위 답변은 인공 지능 채팅봇이 사용자提示에 대한 응답의 3%에서 10%를 차지합니다. 인공 지능의 “블랙 박스” 특성으로 인해, 우리는 인공 지능이 결과를 어떻게 생성하는지 정확히 조사하는 데 어려움을 겪습니다. 이러한 환각은 개발자가 추적하고 이해하기 거의 불가능할 정도입니다.

避免할 수 없더라도, 인공 지능의 환각은 최악의 경우 위험하고 비윤리적입니다.

의료, 금융, 공공 안전을 포함한 여러 분야에서, 환각의 결과는 허위 정보의 확산, 민감한 데이터의 노출, 심지어 생명 위협적인 사고 등입니다. 환각이 계속 무시된다면, 사용자와 인공 지능 시스템에 대한 사회적 신뢰가 모두 손상될 것입니다.

따라서 이 강력한 기술의 관리자는 인공 지능의 환각 위험을 인식하고 해결하여 LLM이 생성하는 출력의 신뢰성을 보장해야 합니다.

환각을 해결하는 출발점: RAG

환각을 완화하는 방법 중 하나는 검색 보강 생성(Retrieval-Augmented Generation, RAG)입니다. 이 솔루션은 외부 정보 저장소를 통합하여 LLM의 신뢰성을 향상시킵니다. 이는 쿼리 유형에 따라 선택된 신뢰할 수 있는 데이터베이스에서 관련 정보를 추출하여 특정 쿼리에 대한 더 신뢰할 수 있는 응답을 보장합니다.

일부 업계 전문가들은 RAG만으로 환각을 해결할 수 있다고 주장합니다. 그러나 RAG 통합 데이터베이스에는 구식 데이터가 포함될 수 있으며, 이는 허위 또는 오도된 정보를 생성할 수 있습니다. 특정 경우에, RAG를 통해 외부 데이터를 통합하면 대규모 언어 모델에서 환각의 가능성이 실제로 증가할 수 있습니다. 인공 지능 모델이 구식 데이터베이스에 과도하게 의존하여 이를 최신 데이터베이스로 인식한다면, 환각의 정도가 더 심각해질 수 있습니다.

인공 지능 가드레일 – RAG의 간격을 메우다

RAG는 환각을 완화하는 데 약속을 보여주고 있습니다. 그러나 이 솔루션을採用하는 업계와 기업은 RAG의 내재된 제한을 이해해야 합니다. 실제로, RAG와 함께 사용되는 보완적 방법론이 있습니다.

예를 들어, 비즈니스에서는 실시간 인공 지능 가드레일을 사용하여 LLM 응답을 보호하고 인공 지능의 환각을 완화할 수 있습니다. 가드레일은 허위, 음란, 또는 오프토픽 내용을 필터링하여 사용자에게 신뢰할 수 있는 출력을 제공합니다. 이 프로액티브 미들웨어 접근 방식은 RAG 시스템에서 검색의 신뢰성과 관련성을 보장하여 사용자 신뢰를 높이고 브랜드와 일치하는 안전한 상호작용을 보장합니다.

또 다른 접근 방식은 “프롬프트 엔지니어링”입니다. 이는 엔지니어가 백엔드 마스터 프롬프트를 변경해야 합니다. 미리 정의된 제약 조건을 추가하여 사용자가 인공 지능에게 질문하는 방식을 모니터링함으로써, 엔지니어링된 프롬프트는 인공 지능이 더 신뢰할 수 있는 결과를 생성하도록 유도할 수 있습니다. 그러나 이 접근 방식의 주요 단점은 프롬프트 엔지니어링이 프로그래머에게 시간이 많이 걸리는 작업일 수 있다는 것입니다.

“파인튜닝” 접근 방식은 특수한 데이터셋을 사용하여 인공 지능 모델을 훈련시켜 성능을 개선하고 환각의 위험을 완화하는 것입니다. 이 방법은 특정 도메인에서 작업을 수행하도록 설계된 인공 지능 모델을 훈련시킴으로써 출력의 정확성과 신뢰성을 향상시킵니다.

또한, 인공 지능의 추론 성능에 대한 입력 길이의 영향을 고려해야 합니다. 많은 사용자가 프롬프트가 더 길고 매개변수가 많을수록 출력이 더 정확할 것이라고 생각합니다. 그러나 최근 연구에 따르면, 인공 지능의 출력 정확도는 실제로 입력 길이가 증가함에 따라 감소합니다. 따라서, 특정 프롬프트에 대한 지침을 늘리는 것이 항상 신뢰할 수 있는 출력을 보장하지는 않습니다.

이 현상, 즉 “프롬프트 오버로딩”은 너무 복잡한 프롬프트 설계의 내재된 위험을 강조합니다. 프롬프트가 더广泛하게 작성될수록, 인공 지능이 매개변수를 충족하려고 할 때, 부정확한 정보와 환각의 가능성이 더 높아집니다.

프롬프트 엔지니어링은 지속적인 업데이트와 파인튜닝이 필요하며, 여전히 환각이나 무의미한 응답을 효과적으로 방지하기 위해 어려움을 겪고 있습니다. 반면, 가드레일은 가짜 출력의 추가 위험을 생성하지 않으며, 인공 지능을 보호하기 위한 매력적인 옵션입니다. 프롬프트 엔지니어링과 달리, 가드레일은 모든 범위에서 실시간 솔루션을 제공하여 생성형 인공 지능이 미리 정의된 경계 내에서만 출력을 생성하도록 보장합니다.

사용자 피드백도 환각을 완화하는 데 도움이 될 수 있습니다. 사용자의 업다운投票와 같은 조치가 모델을 개선하고 출력 정확성을 높이며, 환각의 위험을 낮출 수 있습니다.

RAG 솔루션은 정확한 결과를 얻기 위해 광범위한 실험을 필요로 합니다. 그러나 파인튜닝, 프롬프트 엔지니어링, 가드레일과 함께 사용하면, 더 집중적이고 효율적인 환각 완화 솔루션을 제공할 수 있습니다. 이러한 보완적 전략을 탐색하면, 다양한 응용 분야에서 더 신뢰할 수 있는 인공 지능 모델을 개발하는 데 도움이 될 것입니다.

RAG는 인공 지능의 환각을 해결하는 것이 아니다

RAG 솔루션은 외부 지식을 통해 LLM을 풍부하게 합니다. 그러나, 생성형 인공 지능에 대해 아직 많은 것이 알려지지 않았기 때문에, 환각은 내재된 도전으로 남아 있습니다. 이러한 문제를 해결하는 방법은 환각을 완전히 제거하려고 하는 것이 아니라, 전략적인 가드레일, 검증 프로세스, 및 파인튜닝된 프롬프트의 조합을 통해 그 영향을 완화하는 것입니다.

인공 지능이 우리에게 무엇을 말하든, 우리는 그것을 더 신뢰할 수록, 그 강력한 잠재력을 더 효과적으로 그리고 효율적으로 활용할 수 있을 것입니다.