사상 리더
2025년에 제네레이티브 AI 코파일럿이 비즈니스와 데이터 관리를変える 킬러 앱으로 등장할 것
Unite.AI를 Google의 선호 소스에 추가
모든 기술 혁신에는 특정 사용 사례가 기술을 널리 채택하는 결정적인 순간을 만드는 데 중요한 역할을 합니다. 제네레이티브 AI(이하 GenAI)의 경우에도 코파일럿의 빠른 확산으로 인해 그 순간이 도착했습니다.
GenAI는 기술적으로 지난 몇 년간 큰 발전을 이루었습니다. 그러나 모든 헤드라인과 호재에도 불구하고, 기업의 채택은 아직 초기 단계에 있습니다. 2024 Gartner CIO 및 Tech Executive Survey에 따르면, 조사 대상자의 9%만이 GenAI를 채택하고 있으며, 34%는 다음 해에 채택할 계획이라고回答했습니다. Enterprise Strategy Group의 최근 조사에 따르면, GenAI 채택률은 30%입니다. 그러나 모든 조사에서 2025년에 대해 동일한 결론을 내립니다.
예측 1. 2025년 말까지 대부분의 기업에서 GenAI를 생산에 사용할 것
GenAI 채택은 생산성과 수익성을 개선하는 데 중요한 것으로 간주되며, 대부분의 비즈니스에서 최우선 순위가 되었습니다. 그러나 이는 기업이 지금까지 GenAI 프로젝트에서 경험한 도전을 극복해야 함을 의미합니다. 이러한 도전에는 다음이 포함됩니다:
- 데이터 품질이 낮음: GenAI는 사용하는 데이터만큼 좋습니다. 많은 기업이 아직 데이터를 신뢰하지 못합니다. 데이터 품질과 불완전하거나 편향된 데이터는 모두 좋지 않은 결과를 초래하는 문제입니다.
- GenAI 비용: ChatGPT와 같은 GenAI 모델을 훈련하는 것은 대부분 최고의 GenAI 팀에서만 수행되며, 컴퓨팅 파워 비용이 수백만 달러입니다. 따라서 사람들이 회피 기법을 사용하여 데이터에 액세스하고 준비하고 필요한 전문가를 조립하는 데 비용이 많이 들지 않도록 합니다. 그러나 회피 기법을 사용하더라도 데이터에 액세스하고 준비하는 것이 빠르게 비용이 많이 듭니다.
- 제한된 기술: 초기 GenAI 배포는 GenAI 전문가 그룹이 많은 코드를 작성해야 했습니다. 이 그룹은 성장하고 있지만, 여전히 실제 부족이 있습니다.
- 환각: GenAI는 완벽하지 않습니다. 그것은 환각을 일으키고, 옳다고 생각할 때 잘못된 답변을 줄 수 있습니다. 비즈니스에 영향을 미치지 않도록 잘못된 답변을 방지하는 전략이 필요합니다.
- 데이터 보안: GenAI는 훈련, 미세 조정 또는 회피를 위해 사용된 데이터를 잘못된 사람에게 노출시켰습니다. 이러한 누출을 방지하기 위한 보안 조치를 구현해야 합니다.
幸い 소프트웨어 산업은 지난 몇 년간 이러한 도전을 해결해 왔습니다. 2025년에는 이러한 도전 중 일부가 해결되고 GenAI가 주류가 될 것으로 보입니다.
예측 2. 모듈식 RAG 코파일럿이 GenAI의 가장 일반적인 사용 사례가 될 것
GenAI의 가장 일반적인 사용 사례는 정보를 더 빠르게 찾도록 도와주는 보조工具인 코파일럿을 만드는 것입니다. 코파일럿은 일반적으로 RAG 파이프라인을 사용하여 구축됩니다. RAG는 방법입니다. 이는 GenAI를 사용하는 가장 일반적인 방법입니다. 대규모 언어 모델(LLM)은 모든 데이터나 최신 데이터를 갖고 있지 않기 때문에, 더 정확한 답변을 얻으려면 쿼리(프롬프트)를 강화해야 합니다.
코파일럿은 지식 근로자를 더 생산적으로 만들고, 이전에 답변할 수 없는 질문에 답변하고, 때때로 루틴 작업을 수행하면서도 전문가 지침을 제공합니다. 코파일럿의 가장 성공적인 사용 사례는 소프트웨어 개발자가 코드를 작성하거나 레거시 코드를 현대화하는 데 도움이 되는 것입니다.
그러나 코파일럿은 IT以外에서 더 큰 영향을 미칠 것으로 예상됩니다. 예를 들어:
- 고객 서비스에서, 코파일럿은 지원 쿼리를 받고, 단순한 쿼리인 경우에 비밀번호 재설정 또는 계정 액세스와 같은 해결책을 제공하거나, 인간의 개입을 위해 에스컬레이션할 수 있습니다. 이는 더 높은 고객 만족도를 초래합니다.
- 제조업에서, 코파일럿은 기술자가 복잡한 기계를 진단하고, 특정 조치 또는 수리를 권장하여, 다운타임을 줄일 수 있습니다.
- 의료 분야에서, 임상의는 코파일럿을 사용하여 환자 기록과 관련 연구를 액세스하고, 진단 및 임상 치료를 안내하여, 효율성과 임상 결과를 개선할 수 있습니다.
RAG 파이프라인은 대부분 동일한 방식으로 작동했습니다. 첫 번째 단계는 지식 베이스를 벡터 데이터베이스에 로드하는 것입니다. 사용자가 질문을 하면, GenAI RAG 파이프라인이 호출되어, 질문을 프롬프트로 재구성하고, 벡터 데이터베이스를 쿼리하여 가장 관련된 정보를 찾고, LLM을 호출하여 결과를 평가하고, 사용자에게 표시합니다.
그러나 모든 코파일럿을 동일한 RAG 파이프라인으로 지원할 수 없습니다. 따라서 RAG는 더 모듈식 아키텍처인 모듈식 RAG로 발전했습니다. 여기서 다양한 모듈을 사용하여 여러 단계를 수행할 수 있습니다:
- 인덱싱, 데이터 청킹 및 조직
- 프리-리트리벌, 쿼리(프롬프트) 엔지니어링 및 최적화
- 리트리벌, 리트리버 미세 조정 및 기타 기술
- 포스트-리트리벌 재정렬 및 선택
- 생성, 제너레이터 미세 조정, 여러 LLM 사용 및 비교, 검증
- 오케스트레이션, 이 프로세스를 관리하고, 결과를 얻기 위해 반복적으로 도와줍니다.
여러 코파일럿을 지원하려면 모듈식 RAG 아키텍처를 구현해야 합니다.
예측 3. 노코드/로우코드 GenAI 도구가 방법이 될 것
이제, GenAI RAG는 매우 복잡하고 빠르게 변경되고 있음을 깨달았을 것입니다. 새로운 모범 사례가不断 등장하는 것만이 아닙니다. GenAI 파이프라인에涉及된 모든 기술이 너무 빠르게 변경되고 있기 때문에, 일부를 교체하거나 여러 개를 지원해야 할 것입니다. 또한, GenAI는 모듈식 RAG에만 관한 것이 아닙니다. 회피 미세 조정 및 전체 모델 훈련도 비용 효율적입니다. 아키텍처는 이러한 모든 변경을 지원하고, 엔지니어에게 복잡성을 숨겨야 합니다.
幸い, 최고의 GenAI 노코드/로우코드 도구는 이러한 아키텍처를 제공합니다. 주요 데이터 소스, 벡터 데이터베이스 및 LLM을 지원하며, 모듈식 RAG 또는 데이터를 LLM에 피드하여 미세 조정 또는 훈련할 수 있도록 합니다. 기업은 이러한 도구를 사용하여 내부 리소스를 사용하여 코파일럿을 배포하고 있습니다.
Nexla는 단순히 GenAI를 사용하여 통합을 더 단순하게 만드는 것뿐만 아니라, 모듈식 RAG 파이프라인 아키텍처를 제공하며, 고급 데이터 청킹, 쿼리 엔지니어링, 재정렬 및 선택, 다중 LLM 지원 및 결과 순위 지정 및 선택, 오케스트레이션 등을 모두 코드 없이 구성할 수 있습니다.
예측 4. 코파일럿과 에이전트 사이의 구분이模糊해질 것
GenAI 코파일럿은 사람을 지원하는 에이전트입니다. 최종적으로 사람들은 생성된 결과에 대한 quyết định을 내립니다. 그러나 GenAI 에이전트는 사람의 개입 없이 완전히 자동화된 응답을 제공할 수 있습니다. 이러한 에이전트는 에이전트 또는 에이전틱 AI라고도 합니다.
일부 사람들은 이것을 별개의 접근 방식으로 간주합니다. 그러나 현실은 더 복잡합니다. 코파일럿은 이미 일부 기본 작업을 자동화하기 시작했습니다. 사용자가 작업을 확인하고, 작업을 완료하는 데 필요한 단계를 자동화할 수 있습니다.
코파일럿은 시간이 지남에 따라 에이전트와의 조합으로 발전할 것으로 예상됩니다. 응용 프로그램이 비즈니스 프로세스를 재구성하고 최적화하는 것과 마찬가지로, 보조工具은 중간 단계를 자동화하여 지원하는 데 사용되어야 합니다. GenAI 기반 에이전트는 예외를 처리하거나 LLM을 사용하여 생성된 계획을 승인하는 사람들을 포함해야 합니다.
예측 5. GenAI는 데이터 패브릭, 데이터 제품 및 오픈 데이터 표준의 채택을 주도할 것
GenAI는 다음 몇 년 동안 IT에서 가장 큰 변화를 일으킬 것으로 예상됩니다. IT는 기업이 GenAI의 전체 이점을 실현하기 위해 적응해야 합니다.
Gartner의 2024년 데이터 관리 하이프 사이클에 따르면, 데이터 패브릭, 데이터 제품 및 오픈 테이블 형식의 3가지 기술만이 데이터 관리 및 데이터에 의존하는 조직에 변革적입니다. 모두 GenAI를 사용하기 위해 데이터를 더 쉽게 사용할 수 있도록 합니다.
Nexla는 이러한 이유로 데이터 패브릭을 기반으로 하는 데이터 제품 아키텍처를 구현했습니다. 데이터 패브릭은 형식, 속도 또는 액세스 프로토콜의 차이와 관계없이 모든 데이터를统一적으로 관리하는 계층을 제공합니다. 데이터 제품은 RAG를 지원하는 것과 같은 특정 데이터 요구 사항을满足하기 위해 생성됩니다.
우리의 분석 및 운영, B2B 및 GenAI를 위한 통합 플랫폼은 데이터 패브릭 아키텍처에 구현되어 있으며, GenAI를 사용하여 재사용 가능한 커넥터, 데이터 제품 및 워크플로우를 생성합니다. Apache Iceberg와 같은 오픈 데이터 표준을 지원하여, 더 많은 데이터에 액세스할 수 있도록 합니다.
에이전틱 AI로의 코파일럿 방법
이 예측에 따라, GenAI를 주류로 만드는 방법은 무엇일까요?
첫째, 아직하지 않은 경우, 고객이나 직원에게 중요한 사용 사례를 식별하고, 첫 번째 GenAI RAG 보조工具을 시작하세요. 지식 베이스를 성공적으로 사용할 수 있는 상대적으로 간단한 사용 사례를 식별하세요.
둘째, 첫 번째 프로젝트를 지원하는 올바른 모듈식 RAG 아키텍처와 통합 도구를 구축할 수 있는 소규모 GenAI 전문가 팀을 확보하세요. 노코드/로우코드 도구를 제공하는 새로운 벤더를 평가하는 것을 두려워하지 마세요.
셋째, 성공하기 위해 필요한 데이터 관리 모범 사례를 식별하기 시작하세요. 이는 데이터 패브릭과 데이터 제품 개념을 포함하지만, AI를 위한 데이터를 거버넌스해야 합니다.
시간이 지금입니다. 2025년은 대부분의 사람들이 성공할 해입니다. 뒤처리지 마세요.
