현재 LLM 문제 해결 및 미래 방향

현재 수십 개의 공개적으로 사용 가능한 대규모 언어 모델(Large Language Models, LLM)이 있으며, 이러한 모델은 GPT-3, GPT-4, LaMDA, Bard 등이 있으며, 새로운 모델이 출시됨에 따라不断적으로 증가하고 있다. LLM은 인공지능을 혁신적으로 바꾸었으며, 다양한 산업에서 기술과 상호작용하는 방식을 완전히 변경했다. 이러한 모델을 통해 인간 언어 데이터를 많이 학습할 수 있으며, 혁신, 창의성, 효율성을 위한 새로운 길을 열어주었다.

그러나 위대한 힘은 위대한 복잡성을 동반한다. LLM을 사용하기 전에 해결해야 할 내재된 도전과 윤리적 문제가 있다. 예를 들어, 최근 스탠퍼드 연구에서 ChatGPT-4가 인종이나 성별을 암시하는 이름이 포함된 쿼리에 대해 어떻게 반응하는지 관찰했을 때 인종과 성별에 대한 편향이 발견되었다. 이 연구에서 프로그램은 자말 워싱턴이라는 이름의 사람이 판매하는 중고 자전거의 가격에 대한 조언을 요청했으며, 이는 로건 베커라는 이름의 사람이 판매하는 경우보다 훨씬 낮은 금액을 산출했다. 이러한 발견이 계속 밝혀짐에 따라 LLM의 도전을 해결해야 하는 필요성이 증가한다.

공통 LLM 문제 해결 방법

편향

LLM에서 가장 많이 논의되는 문제 중 하나는 편향과 공정성이다. 최근 연구에서 전문가들은 최근에 발표된 4개의 LLM을 테스트했으며, 모두가 사실에 기반한 것이 아니라 사람들의 인식과 일치하는 성별에 대한 편향된 가정들을 나타냈다. 이 контек스트에서 편향은 역사적 또는 구조적인 권력 불균형으로 인해 다양한 사회 집단 간에 불평등한 대우 또는 결과를 의미한다.

LLM에서 편향은 데이터 선택, 생성자 демOGRAPHICS, 언어 또는 문화적 편향으로 인해 발생한다. 데이터 선택 편향은 LLM 훈련에 사용되는 텍스트가 웹에서 사용되는 언어의 다양성을 대표하지 않는 경우 발생한다. 광범위하지만 제한된 데이터셋으로 훈련된 LLM은 이러한 텍스트에 이미 있는 편향을 물려받을 수 있다. 생성자 ДемOGRAPHICS에서 특정 ДемOGRAPHICS 그룹이 다른 그룹보다 더 자주 강조되며, 이는 콘텐츠 생성에서 다양성과 포용성을 증가시켜 편향을 감소시키는 필요성을 보여준다. 예를 들어, 훈련 데이터의 일반적인 출처인 위키백과는 편집자 간에显著한 ДемOGRAPHICS 불균형을 보이며, 남성의 비율이 84%이다. 이는 언어와 문화에도 유사한 편향이 존재한다. LLM이 훈련되는 많은 출처는 영어 중심으로 편향되어 있으며, 다른 언어와 문화로 번역할 때 항상 정확하게 번역되지 않는다.

필터링된 데이터로 LLM을 훈련시키고, 일관되지 않은 주제를 억제하기 위한 가드레일을 설치하는 것이 중요하다. 이를 달성하는 한 가지 방법은 데이터 증강 기반 기술을 사용하는 것이다. 훈련 데이터에 대표되지 않는 그룹의 예시를 추가하여 데이터셋의 다양성을 확대할 수 있다. 또 다른 완화 전략은 데이터 필터링과 재가중치이며, 주로 기존 데이터셋 내에서 특정 대표되지 않는 예시를 정밀하게 타겟팅하는 데 중점을 둔다.

환각

LLM의 контек스트에서 환각은 문법적으로 올바르고 일관된 텍스트를 생성하지만, 사실적 정확성이나 원본 자료의 의도에서 벗어나는 현象이다. 실제로, 최근 보고서에 따르면, 미네소타 주의 법안과 관련된 소송이 LLM의 환각으로 인해 직접적으로 영향을 받았다. 법안을 지지하기 위한 서류에는 실제로 존재하지 않는 출처가 포함되어 있었으며, 이는 ChatGPT 또는 다른 LLM에 의해 환각되어 있을 수 있다. 이러한 환각은 쉽게 LLM의 신뢰성을 낮출 수 있다.

환각에는 세 가지 주요 형태가 있다:

1. 입력과 충돌하는 환각: LLM의 출력이 사용자가 제공한 입력과 다를 때 발생한다. 이는 일반적으로 작업 지침과 처리해야 할 실제 콘텐츠를 포함한다.
2. 컨텍스트와 충돌하는 환각: LLM은 확장된 대화 또는 여러 교환에서 내부적으로 일관되지 않는 응답을 생성할 수 있다. 이는 모델이 컨텍스트를 추적하거나 여러 상호작용에서 일관성을 유지하는 능력에 대한 잠재적인 결함을 시사한다.
3. 사실과 충돌하는 환각: LLM이 확립된 사실적 지식과 모순되는 콘텐츠를 생성할 때 발생한다. 이러한 오류의 기원은 다양하며, LLM의 라이프사이클의 여러 단계에서 발생할 수 있다.

이 현상에 기여하는 여러 요인이 있으며, 지식 결핍이 있으며, LLM이 정보를 올바르게吸収하거나 통합하지 못할 수 있다. 또한, 훈련 데이터에 편향이나 LLM의 순차적 생성 전략, 즉 “환각 눈송이”가 환각을 생성할 수 있다.

환각을 완화하는 방법이 있으며, 이러한 방법은 항상 LLM의 특징일 것이다. 환각을 완화하는 유용한 전략은 사전 훈련 중에 완화하는 것(필터링 기술을 사용하여 데이터를 수동으로 정제하는 것) 또는 미세 조정(훈련 데이터를 큐레이팅하는 것)이다. 그러나 추론 중에 완화하는 것이 가장 좋은 해결책이다. 이는 비용 효율성과 제어 가능성으로 인해 그렇다.

개인 정보

인터넷의 普及로 인해 개인 정보 및 기타 개인 데이터의 접근성이 증가했으며, 이는 널리 인식되는 문제가 되었다. 한 연구에 따르면, 80%의 미국 소비자는 자신의 데이터가 AI 모델을 훈련하는 데 사용되고 있다는 것을 걱정한다. 가장 대표적인 LLM은 웹사이트에서 출처를 가져오므로, 이는 개인 정보에 대한 위험을 어떻게 초래하는지 고려해야 한다. 이는 LLM에서 아직 해결되지 않은 큰 문제이다.

LLM이 개인 정보를 배포하지 않도록 하는 가장 직접적인 방법은 훈련 데이터에서 이를 제거하는 것이다. 그러나 LLM에涉及되는 데이터의 양이 너무 방대하기 때문에, 모든 개인 정보가 제거되었다는 것을 보장하는 것은 거의 불가능하다. 또 다른 일반적인 대안은 외부 개발 모델을 사용하는 조직이 ChatGPT와 같은 서비스 대신 오픈 소스 LLM을 선택하는 것이다.

이 접근법을 통해 모델의 복사본을 내부적으로 배포할 수 있다. 사용자의 프롬프트는 제3자 서비스에 노출되지 않고 조직의 네트워크 내에서 안전하게 유지된다. 이는 민감한 데이터가泄露되는 위험을 크게 감소시킨다. 그러나 이는 복잡성을 추가한다. 개인 데이터를 완전히 보호하는 것이 매우 어려우므로, 이러한 모델이 사용자를 위험에 빠뜨릴 수 있는 방법을 고려하는 것이 개발자에게 중요하다.

LLM의 다음 전선

현재의 위험을 완화하고 LLM의 다음 진화를 통해 성장함에 따라, 우리는 이미 H와 같은 회사에서 Runner H를 시작하는 것과 같이 LLM 에이전트의 출현을 기대할 수 있다. 순수 언어 모델에서 에이전트 아키텍처로의 전환은 AI 시스템 설계의 변화를 나타낸다. 산업은 채팅 인터페이스와 단순한 검색 및 생성의 내재된 한계를 넘어설 것이다. 이러한 새로운 에이전트 프레임워크는 복잡한 목표를 원자적 하위 작업으로 분해하고, 에피소드 메모리를 통해 컨텍스트적推論을 유지하며, 정의된 API를 통해 전문 도구를 활용할 수 있는 고급 계획 모듈을 갖출 것이다. 이는 작업 자동화를 위한 더 강력한 접근 방식을 제공한다. 아키텍처의 진행은 전통적인 LLM 구현에서 작업,推論, 도구 통합, 실행 모니터링과 관련된 일반적인 도전에 대해 완화한다.

LLM 외에도, 더 작은 언어 모델을 훈련하는 데 더 많은 초점이 있을 것이다. 이는 비용 효율성, 접근성, 배포의 용이성으로 인해 vậy이다. 예를 들어, 특정 산업이나 분야에 전문적인 도메인 특화 언어 모델이 있다. 이러한 모델은 도메인 특화 데이터와 용어로 세부적으로 조정되어 있으며, 복잡하고 규제되는 환경에서 정확성이 필수적인 경우, 예를 들어 의료 또는 법률 분야에서 이상적인 모델이다. 이러한 목표 지향적 접근법은 일반 목적 모델이 전문 콘텐츠를 처리할 때 발생할 수 있는 오류와 환각의 가능성을 감소시킨다.

우리가 LLM의 새로운 전선을 탐험하는 동안, 혁신의 경계를 推し進め며, 개발과 배포와 관련된 잠재적인 위험을 완화하는 것이 중요하다. 편향, 환각, 개인 정보와 관련된 도전에 대해 먼저 식별하고 적극적으로 해결하지 않으면, 다양한 분야에서 LLM이 번창하는 더 강력한 기초를 만들 수 없다.