DeepMind의 마인드 에볼루션: 대규모 언어 모델을 위한 실세계 문제 해결 능력 강화

최근 몇 년 동안 인공 지능(AI)은 산업 전반에서 혁신을 주도하는 실용적인 도구로 부상했습니다. 이 진행의 최전선에는 인간의 언어를 이해하고 생성하는 능력으로 알려진 대규모 언어 모델(LLM)이 있습니다. LLM은 대화형 AI 및 콘텐츠 생성과 같은 작업에서 잘 수행되지만, 구조화된推論 및 계획이 필요한 복잡한 실세계 문제에서는 어려움을 겪습니다.

예를 들어, LLM에 다중 도시 비즈니스 여행을 계획하도록 요청하면, 비행 일정, 회의 시간, 예산 제약 및 충분한 휴식을 조정해야 합니다. LLM은 개별 측면에 대한 제안을 제공할 수 있지만, 이러한 측면을 효과적으로 통합하여 경쟁 우선순위를 균형 있게 조정하는 데 어려움을 겪습니다. 이 제한은 LLM이 점점 더 자율적으로 실세계 문제를 해결할 수 있는 AI 에이전트를 구축하는 데 사용됨에 따라 더 明显해집니다.

구글 DeepMind는 최근 이 문제를 해결하기 위한 솔루션을 개발했습니다. 자연 선택에 영감을 받은 이 접근법은 반복적인 적응을 통해 문제 해결 전략을 개선합니다. LLM을 실시간으로 안내함으로써, 복잡한 실세계 작업을 효과적으로 처리하고 동적 시나리오에 적응할 수 있습니다. 이 기사에서는 이 혁신적인 방법이 어떻게 작동하는지, 잠재적인 응용 분야, 및 AI 주도 문제 해결의 미래를 위한 의미를探索할 것입니다.

LLM이 복잡한 推論 및 계획과 어려움을 겪는 이유

LLM은 큰 텍스트 데이터셋(예: 책, 기사, 온라인 콘텐츠)에서 문장의 다음 단어를 예측하도록 훈련됩니다. 이것은 논리적이고 상황에 맞는 응답을 생성할 수 있게 합니다. 그러나 이 훈련은 패턴을 인식하는 것에 기반을 두고 있으며, 의미를 이해하는 것이 아닙니다. 따라서 LLM은 논리적으로 보이지만, 더 깊은 推論 또는 구조화된 계획이 필요한 작업에서 어려움을 겪습니다.

LLM이 정보를 처리하는 방식이 핵심 제한입니다.它们은 논리 대신 확률 또는 패턴에 초점을 맞추므로, 분리된 작업(예: 비행 옵션 또는 호텔 추천)을 처리할 수 있지만, 이러한 작업을 통합하여 일관된 계획을 수립하는 데 실패합니다. 이는 또한 이전 결정의 맥락을 유지하는 것이 어려워지게 합니다. 복잡한 작업은 일반적으로 이전 결정의 추적 및 새로운 정보에 대한 적응이 필요합니다. 그러나 LLM은 확장된 상호 작용에서 집중力を 잃기 때문에, 단편화되거나 일관성 없는 출력을 생성합니다.

마인드 에볼루션의 작동 방식

DeepMind의 마인드 에볼루션은 자연 에볼루션의 원리를 채택하여 이러한 약점을 해결합니다. 복잡한 쿼리에 대한 단일 응답을 생성하는 대신, 이 접근법은 여러 잠재적인 솔루션을 생성하고, 반복적으로 개선하며, 구조화된 평가 프로세스를 통해 최상의 결과를 선택합니다. 예를 들어, 팀이 프로젝트 아이디어를 브레인스토밍하는 경우, 일부 아이디어는 좋지만, 다른 일부는 그렇지 않습니다. 팀은 모든 아이디어를 평가하고, 최고의 아이디어를 유지하고, 나머지는 폐기합니다. 그런 다음 최고의 아이디어를 개선하고, 새로운 변형을 도입하고, 최상의 솔루션에 도달할 때까지 이 프로세스를 반복합니다. 마인드 에볼루션은 LLM에 이 원리를 적용합니다.

작동 방식의 세부 정보는 다음과 같습니다:

1. 생성: 프로세스는 LLM이 주어진 문제에 대한 여러 응답을 생성하는 것으로 시작됩니다. 예를 들어, 여행 계획 작업에서 모델은 예산, 시간 및 사용자 선호도에 따라 다양한 여행 일정을 초안으로 작성할 수 있습니다.
2. 평가: 각 솔루션은 작업의 요구 사항을 얼마나 잘 충족하는지 측정하는 피트니스 함수에 대해 평가됩니다. 품질이 낮은 응답은 폐기되고, 가장 유망한 후보자는 다음 단계로 진행됩니다.
3. 개선: 마인드 에볼루션의 고유한 혁신은 LLM 내의 두 가지 페르소나(저자 및 비평가) 간의 대화입니다. 저자는 솔루션을 제안하고, 비평가는 결점을 식별하고 피드백을 제공합니다. 이 구조화된 대화는 인간이 비평과 수정을 통해 아이디어를 개선하는 방식을 반영합니다. 예를 들어, 저자가 예산을 초과하는 레스토랑 방문이 포함된 여행 계획을 제안하면, 비평가는 이를 지적합니다. 그런 다음 저자는 비평가의 우려를 해결하기 위해 계획을 수정합니다. 이 프로세스는 LLM이 이전에 다른 프롬프트 기술을 사용하여 수행할 수 없었던 깊은 분석을 수행할 수 있습니다.
4. 반복 최적화: 개선된 솔루션은 추가 평가 및 재조합을 통해 더 정교한 솔루션을 생성하기 위해 반복적으로 최적화됩니다.

이 사이클을 반복함으로써, 마인드 에볼루션은 솔루션의 품질을 반복적으로 개선하여 LLM이 복잡한 문제를 더 효과적으로 해결할 수 있도록 합니다.

마인드 에볼루션의 실제 적용

DeepMind는 이 접근법을 TravelPlanner 및 Natural Plan과 같은 벤치마크에서 테스트했습니다. 이 접근법을 사용하여, 구글의 Gemini는 TravelPlanner에서 95.2%의 성공률을 달성했으며, 이는 5.6%의 기준선에서 큰 개선입니다. 더 발전된 Gemini Pro를 사용하면 성공률이 거의 99.9%로 증가했습니다. 이러한 획기적인 성능은 실용적인 문제를 해결하는 마인드 에볼루션의 효과를 보여줍니다.

흥미롭게도, 모델의 효과는 작업의 복잡성과 함께 증가합니다. 예를 들어, 단일 패스 방법은 다중 도시 및 여러 도시를 포함하는 다날 일정과 같은 작업에서 어려움을 겪는 반면, 마인드 에볼루션은 일관되게 뛰어난 성능을 발휘하며, 제약이 증가해도 높은 성공률을 유지합니다.

제한 및 미래 방향

마인드 에볼루션이 성공을 거두었에도 불구하고, 여전히 제한이 있습니다. 이 접근법은 반복적인 평가 및 개선 프로세스 때문에 상당한 컴퓨팅 자원을 필요로 합니다. 예를 들어, 마인드 에볼루션을 사용하여 TravelPlanner 작업을 해결하는 데 300만 토큰 및 167개의 API 호출이 필요했습니다. 이는 전통적인 방법보다 훨씬 많습니다. 그러나 이 접근법은 여전히 무작위 검색과 같은 무작위 전략보다 더 효율적입니다.

또한 특정 작업에 대한 효과적인 피트니스 함수를 설계하는 것이 어려울 수 있습니다. 미래의 연구는 컴퓨팅 효율성을 최적화하고, 기술의 적용 범위를 더广泛한 문제(예: 창의적 글쓰기 또는 복잡한 의사 결정)로 확장하는 데 중점을 둘 수 있습니다.

또한 도메인 특정 평가자의 통합은 흥미로운 탐색 영역입니다. 예를 들어, 의료 진단에서 전문 지식을 피트니스 함수에 통합하면 모델의 정확도와 신뢰성을 더욱 향상시킬 수 있습니다.

계획을 넘어서는 응용

마인드 에볼루션이 주로 계획 작업에서 평가되지만, 창의적 글쓰기, 과학적 발견 및 코드 생성과 같은 다양한 도메인에 적용될 수 있습니다. 예를 들어, 연구자들은 StegPoet라는 벤치마크를 도입했으며, 모델이 시에서 숨겨진 메시지를 인코딩하는 것을 도전합니다. 이 작업은 여전히 어려우나, 마인드 에볼루션은 전통적인 방법을 초과하여 최대 79.2%의 성공률을 달성했습니다.

자연어에서 솔루션을 적응시키고 진화시키는 능력은 공식화하기 어려운 문제(예: 워크플로우 개선 또는 혁신적인 제품 디자인 생성)를 해결하는 새로운 가능성을 열어줍니다. 진화 알고리즘의 힘을 활용하여, 마인드 에볼루션은 LLM의 문제 해결 능력을 향상시키기 위한 유연하고 확장 가능한 프레임워크를 제공합니다.

결론

DeepMind의 마인드 에볼루션은 LLM의 주요 제한을 극복하는 실용적이고 효과적인 방법을 소개합니다. 자연 선택에 영감을 받은 반복적인 개선으로, 이 접근법은 구조화된 推論 및 계획이 필요한 복잡한 다단계 작업을 처리하는 이러한 모델의 능력을 향상시킵니다. 이 접근법은 이미 어려운 시나리오(예: 여행 계획)에서 큰 성공을 거두었으며, 창의적 글쓰기, 과학 연구 및 코드 생성을 포함한 다양한 도메인에서 잠재력을 보여주었습니다. 높은 컴퓨팅 비용 및 잘 설계된 피트니스 함수의 필요와 같은 도전이 남아있지만, 이 접근법은 AI 능력을 향상시키기 위한 확장 가능한 프레임워크를 제공합니다. 마인드 에볼루션은 실세계 문제를 해결할 수 있는 더 강력한 AI 시스템을 위한 단계를 설정합니다.