์ฌ์ ๋ฆฌ๋
2025๋ , GenAI Copilots๋ ๋น์ฆ๋์ค์ ๋ฐ์ดํฐ ๊ด๋ฆฌ๋ฅผๅค้ฉํ๋ ํฌ๋ฌ ์ฑ์ผ๋ก ๋ถ์ํ ๊ฒ
모든 기술 혁신은 특정 사용 사례가 기술을 널리 채택하는 결정적인 순간을 가지고 있습니다. 그 시점이 도래했습니다. 생성적 인공지능(GenAI)과 함께 copilot의 빠른 확산으로 말입니다.
GenAI는 기술로서 최근 몇 년 동안 상당한 발전을 이루었습니다. 그러나 모든 헤드라인과 화제에도 불구하고, 기업의 채택은 여전히 초기 단계에 있습니다. 2024 Gartner CIO and Tech Executive Survey는 조사 대상자의 9%만이 채택하고 있으며, 34%는 내년 안에 채택할 계획이라고回答했습니다. Enterprise Strategy Group의 최근 조사는 GenAI 채택률을 30%로 나타내고 있습니다. 그러나 모든 조사들은 2025년에 대해 동일한 결론에 도달합니다.
예측 1. 2025년 말까지 대부분의 기업은 생산에 GenAI를 사용할 것
GenAI 채택은 생산성과 수익성을 개선하는 데 중요하며, 대부분의 비즈니스에서 최우선 순위가 되었습니다. 그러나 이는 기업이 지금까지 경험한 GenAI 프로젝트의 도전을 극복해야 함을 의미합니다. 이러한 도전에는 다음과 같은 것들이 포함됩니다:
- 데이터 품질: GenAI는 사용하는 데이터만큼 좋은 성능을 발휘합니다. 많은 기업이 아직 데이터를 신뢰하지 못합니다. 데이터 품질과 불완전하거나 편향된 데이터는 모두 좋지 않은 결과를 초래하는 문제들입니다.
- GenAI 비용: ChatGPT와 같은 GenAI 모델을 훈련하는 것은 대부분 최고의 GenAI 팀에서만 수행되었으며, 수백만 달러의 컴퓨팅 비용이 듭니다. 따라서 사람들이 대신 retrieval augmented generation(RAG)이라는 기술을 사용해 왔습니다. 그러나 RAG를 사용하더라도 데이터에 접근하고 준비하고 필요한 전문가를 모으는 데 빠르게 비용이 증가합니다.
- 제한된 기술: 초기 GenAI 배포는 GenAI 전문가들의 많은 코딩을 필요로 했습니다. 이러한 전문가 그룹은 성장하고 있지만, 여전히 실제 부족이 있습니다.
- 환각: GenAI는 완벽하지 않습니다. 그것은 환각을 일으키고, 옳다고 생각할 때 틀린 답변을 줄 수 있습니다. 비즈니스에 영향을 미치지 않도록 잘못된 답변을 방지하는 전략이 필요합니다.
- 데이터 보안: GenAI는 훈련, 미세 조정 또는 RAG에 사용된 데이터를 잘못된 사람에게 노출시켰습니다. 이러한 누출을 방지하기 위한 보안 조치를 구현해야 합니다.
幸い 소프트웨어 산업은 지난 몇 년 동안 이러한 도전을 해결해 왔습니다. 2025년에는 이러한 도전들이 해결되기 시작하며, GenAI가 주류가 될 것으로 보입니다.
예측 2. 모듈식 RAG Copilots가 GenAI의 가장 일반적인 사용 사례가 될 것
GenAI의 가장 일반적인 사용 사례는 정보를 더 빠르게 찾는 데 도움을 주는 보조 도구 또는 copilot를 생성하는 것입니다. Copilot는 일반적으로 RAG 파이프라인을 사용하여 구축됩니다. RAG는 방법입니다. 이는 GenAI를 사용하는 가장 일반적인 방법입니다. 대규모 언어 모델(LLM)은 모든 데이터나 최신 데이터를 가지고 있지 않기 때문에, 더 정확한 답변을 얻기 위해 쿼리를 보완해야 합니다.
Copilot는 지식 근로자가 더 생산적이 되도록 도와주고, 이전에 답변할 수 없었던 질문에 답변하며, 전문가의 지침을 제공하고 때로는 루틴 작업을 수행합니다. 지금까지 가장 성공적인 copilot 사용 사례는 소프트웨어 개발자에게 코드를 작성하거나 레거시 코드를 현대화하는 데 도움을 주는 것입니다.
그러나 copilot는 IT 외부에서 사용될 때 더 큰 영향을 미칠 것으로 예상됩니다. 예를 들어:
- 고객 서비스에서, copilot는 지원 쿼리를 받고, 단순한 쿼리인 경우에는 비밀번호 재설정 또는 계정 접근과 같은 쿼리에 대한 해결책을 제공하거나, 인간의 개입이 필요한 경우에는 이를 승격시킬 수 있습니다. 이는 더 높은 고객 만족도를 가져옵니다.
- 제조业에서, copilot는 기술자가 복잡한 기계의 진단과 수리를 위한 특정 조치 또는 수리를 제안하는 데 도움을 줄 수 있습니다. 이는 다운타임을 줄입니다.
- 의료 분야에서, 임상의는 copilot를 사용하여 환자 기록과 관련 연구에 접근하고, 진단과 임상 치료를 안내하는 데 도움을 줄 수 있습니다. 이는 효율성과 임상 결과를 개선합니다.
RAG 파이프라인은 대부분 같은 방식으로 작동했습니다. 첫 번째 단계는 지식 베이스를 벡터 데이터베이스에 로드하는 것입니다. 사용자가 질문을 할 때마다, GenAI RAG 파이프라인이 호출됩니다. 질문을 프롬프트로 재구성하고, 벡터 데이터베이스를 쿼리하여 가장 관련된 정보를 찾고, 프롬프트와 함께 LLM을 호출하여 컨텍스트로 사용된 정보를 사용하고, 결과를 평가하고 형식을 지정하여 사용자에게 표시합니다.
그러나 모든 copilot를 동일한 RAG 파이프라인으로 똑같이 잘 지원할 수 없습니다. 따라서 RAG는 더 모듈식 아키텍처인 모듈식 RAG로 발전했습니다. 여기서 여러 단계에 대한 다른 모듈을 사용할 수 있습니다:
- 인덱싱, 데이터 청킹 및 조직화
- 프리-리트리벌, 쿼리(프롬프트) 엔지니어링 및 최적화
- 리트리벌, 리트리버 미세 조정 및 기타 기술
- 포스트-리트리벌 재랭킹 및 선택
- 생성, 제너레이터 미세 조정, 여러 LLM 사용 및 비교, 검증
- 오케스트레이션, 이 프로세스를 관리하고, 반복적으로 최고의 결과를 얻는 데 도움을 줌
여러 copilot를 지원하기 위해 모듈식 RAG 아키텍처를 구현해야 합니다.
예측 3. 노코드/로우코드 GenAI 도구가 표준이 될 것
이제 GenAI RAG가 매우 복잡하고 빠르게 변화하는 것을 알 수 있습니다. 새로운 최선의 관행이不断하게 등장하는 것뿐만 아니라, GenAI 파이프라인에涉及된 모든 기술이 너무 빠르게 변경되고 있으므로, 일부를 교체하거나 여러 개를 지원해야 할 것입니다. 또한 GenAI는 모듈식 RAG만이 아닙니다. Retrieval Augmented Fine Tuning(RAFT)와 전체 모델 훈련도 비용 효율적이 되고 있습니다. 아키텍처는 이러한 모든 변경 사항을 지원하고, 복잡성을 엔지니어로부터 숨겨야 합니다.
幸い, 최고의 GenAI 노코드/로우코드 도구는 이러한 아키텍처를 제공합니다. 주요 데이터 소스, 벡터 데이터베이스 및 LLM에 대한 지원을不断하게 추가하고, 모듈식 RAG 또는 LLM에 대한 미세 조정 또는 훈련을 위한 데이터 공급을 가능하게 합니다. 기업은 이러한 도구를 사용하여 내부 자원을 사용하여 copilot를 배포하는 데 성공했습니다.
Nexla는 단순히 GenAI를 사용하여 통합을 더 단순하게 만드는 것뿐만 아니라, 모듈식 RAG 파이프라인 아키텍처와 고급 데이터 청킹, 쿼리 엔지니어링, 재랭킹 및 선택, 다중 LLM 지원 및 결과 랭킹 및 선택, 오케스트레이션 등을 제공합니다. 모두 코딩 없이 구성할 수 있습니다.
예측 4. Copilot와 에이전트 사이의 경계가模糊해질 것
GenAI copilot와 같은 챗봇은 사람을 지원하는 에이전트입니다. 최종적으로 사람들은 생성된 결과에 대한 결정権을 가지고 있습니다. 그러나 GenAI 에이전트는 사람의 개입 없이 응답을 완전히 자동화할 수 있습니다. 이러한 에이전트는 종종 에이전트 또는 에이전트 AI라고 불립니다.
일부 사람들은 이것을 두 가지 별개의 접근법으로 간주합니다. 그러나 현실은 더 복잡합니다. copilot는 이미 일부 기본 작업을 자동화하기 시작했습니다. 사용자가 작업을 확인하고, 작업을 완료하는 데 필요한 단계를 자동화하는 옵션을 제공합니다.
copilot가 시간이 지남에 따라 에이전트와의 조합으로 발전할 것으로 예상됩니다. 응용 프로그램이 비즈니스 프로세스를 재공학화하고 최적화하는 것과 마찬가지로, 보조 도구는 중간 단계를 자동화하는 데 사용되어야 합니다. GenAI 기반 에이전트는 또한 예외를 처리하거나 LLM을 사용하여 생성된 계획을 승인하는 사람들을 포함해야 합니다.
예측 5. GenAI는 데이터 패브릭, 데이터 제품 및 오픈 데이터 표준의 채택을 주도할 것
GenAI는 향후 몇 년 동안 IT에서 가장 큰 변화를 일으킬 것으로 예상됩니다. 왜냐하면 IT는 기업이 GenAI의 전체 이점을 실현하기 위해 적응해야 하기 때문입니다.
Gartner Hype Cycles for Data Management 2024의 일부로, Gartner는 데이터 관리와 데이터에 의존하는 조직에 대해 변革적인 3가지 기술을 식별했습니다. 데이터 패브릭, 데이터 제품 및 오픈 테이블 형식입니다. 3가지 모두 GenAI와 함께 사용하기 위해 데이터를 더 쉽게 접근할 수 있도록 합니다. 이러한 기술은 새로운 GenAI 도구 세트를 사용하기 위해 데이터를 더 쉽게 사용할 수 있도록 합니다.
Nexla는 이러한 이유로 데이터 제품 아키텍처를 데이터 패브릭에 구축했습니다. 데이터 패브릭은 형식, 속도 또는 접근 프로토콜의 차이와 상관없이 모든 데이터를 동일한 방식으로 관리하는 통합 계층을 제공합니다. 데이터 제품은 RAG를 지원하는 것과 같은 특정 데이터 요구 사항을 지원하기 위해 생성됩니다.
예를 들어, 한 대형 금융 서비스 회사에서는 리스크 관리를 강화하기 위해 GenAI를 구현하고 있습니다. Nexla를 사용하여統一된 데이터 패브릭을 생성하고 있습니다. Nexla는 자동으로 스키마를 감지하고 커넥터와 데이터 제품을 생성합니다. 그런 다음 회사는 특정 리스크 지표를 지원하기 위해 데이터를 집계하고, 정화하고, 변환하여 RAG 에이전트를 위한 동적 규제 보고서 입력으로 사용하는 데이터 제품을 정의합니다. Nexla는 규제 준수를 보장하기 위한 데이터 거버넌스 제어, 데이터 계보 및 접근 제어를 제공합니다.
우리의 분석, 운영, B2B 및 GenAI를 위한 통합 플랫폼은 데이터 패브릭 아키텍처에 구현되며, 여기서 GenAI는 재사용 가능한 커넥터, 데이터 제품 및 워크플로를 생성하는 데 사용됩니다. Apache Iceberg와 같은 오픈 데이터 표준 지원은 더 많은 데이터에 접근하기 쉽게 합니다.
에이전트 AI로의 길을 안내하는 Copilot
이 예측에 따라, 2025년에 GenAI를 본격적으로 사용하기 위해 어떻게 준비해야 합니까?
첫째, 아직 하지 않았다면, 고객이나 직원에게 첫 번째 GenAI RAG 보조 도구를 시작하세요. 성공할 수 있는 중요한 사용 사례를 식별하세요.
둘째, 첫 번째 프로젝트를 지원하기 위해 올바른 모듈식 RAG 아키텍처와 적절한 통합 도구를 제공할 수 있는 소규모 GenAI 전문가 팀을 보유하고 있습니다. 새로운 벤더의 노코드/로우코드 도구를 평가하는 것을 두려워하지 마십시오.
셋째, 성공하기 위해 필요한 데이터 관리 최선의 관행을 식별하기 시작하세요. 이는 데이터 패브릭과 데이터 제품 개념을 포함합니다. 또한 AI를 위한 데이터를 거버넌스해야 합니다.
이제가 때입니다. 2025년은 대부분의 사람들이 성공할 해입니다. 뒤처지지 마십시오.
