사상 리더

스마트 엔터프라이즈: 제너레이티브 AI를 엔터프라이즈에 적합하게 만드는 방법

Padmanabhan Venkatesan
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트기업들은 기록 시스템과 대화형 플랫폼을 통합하여 달성 가능한 환영(할루시네이션)이 전혀 없는 AI를 필요로 합니다.
더 보기
  • 기업들은 기록 시스템과 대화형 플랫폼을 통합하여 달성 가능한 환영(할루시네이션)이 전혀 없는 AI를 필요로 합니다.
  • 그래프 데이터베이스는 컨텍스트와 관계를 정의함으로써 LLM이 기업 데이터를 이해할 수 있도록 하는 핵심 요소입니다.
  • Microsoft Copilot과 같은 생성형 AI 코드 도구는 레거시 현대화 프로젝트의 속도를 20-40% 가속화합니다.

여기서 시작해 봅시다: 생성형 AI(GenAI)의 기회는 엄청납니다. 생성형 AI는 우리가 알고 있는 세계를 변혁시키고 있으며, 기술은 점점 더 똑똑해지고 있습니다. 그러나 생성형 AI가 기업과 비즈니스에 미치는 영향은 일반 대중에게 미치는 영향과는 다릅니다. 대부분의 비즈니스에서는 시와 이야기를 쓰지 않습니다 (이것은 ChatGPT 사용자에게 인기 있습니다). 대신, 고객을 섬기고 있습니다.

많은 회사에서는 자연어 처리 (NLP)와 저수준 챗봇에 대한 경험을 가지고 있지만, 생성형 AI는 데이터를 통합하고 해석하여 비즈니스 결과를 도출하는 속도를 가속화하고 있습니다. 따라서 기업들은 생성형 AI를 사용하여 가장 긴급한 비즈니스 문제를 해결하고 성장할 수 있는 사용 사례를 신속하게 결정해야 합니다. 생성형 AI를 기업의 데이터와 함께 사용하여 기업이 준비되도록 하는 방법을 이해하려면, 우리는 이 지점에 도달하기까지의 과정을 살펴보아야 합니다.

NLP에서 대규모 언어 모델 (LLM)까지의 여정

기술은 수십 년 동안 자연어를 이해하려고 시도해 왔습니다. 인간 언어 자체는 인간 표현의 진화된 형태이지만, 인간이 그렇게 많은 방언으로 진화했기 때문에, 기술은 상대적으로 최근까지 비트와 바이트와 같은 더 단순한 디지털 통신 방법에 의존했습니다.

저는 거의 10년 전부터 NLP 프로그램을 작업하기 시작했습니다. 그때는 언어 분류와 온톨로지, 엔티티 추출, 그리고 원시적인 그래프 데이터베이스 (대부분 XML 형식)로 다양한 엔티티 간의 관계와 문맥을 유지하고, 검색 쿼리를 이해하고, 단어 구름을 생성하고, 결과를 제공하는 것이었습니다. 수학적인 것은 아니었습니다. 사람이 과정에 참여하여 분류 데이터베이스를 구축하고, 많은 XML 파싱, 그리고 가장 중요한 것은 많은 컴퓨팅과 메모리가 필요했습니다. 당연히, 일부 프로그램은 성공적이었고, 대부분은 그렇지 않았습니다. 기계 학습이 다음으로 왔고, 심층 학습과 신경망 등 여러 접근 방식이 자연어 이해 (NLU)와 자연어 추론 (NLI)을 가속화했습니다. 그러나 세 가지 제한 요소가 있었습니다 – 복잡한 모델을 처리하기 위한 컴퓨팅 파워, 기계를 가르칠 수 있는 데이터의 볼륨, 그리고 주로 자가 학습과 자가 수정이 가능한 모델.

20년 후, GPU는 대량의 컴퓨팅 파워를 제공하고, 자가 학습과 진화하는 신경망이 정상이 되었습니다. 지도 학습, 비지도 학습, 준지도 학습 모델이 모두 존재하고, 무엇보다도 여러 언어로 된 대규모 데이터에 대한 접근성이 더 좋아졌습니다. 이러한 모델은 이러한 데이터를 학습할 수 있습니다. 결과는 자연어로 연결할 수 있는 AI 엔진입니다. 이러한 엔진은 감정과 의미를 이해하고, 인간처럼 소통하고, 인간처럼 응답할 수 있습니다.

우리는 모두 소셜 미디어 존재를 통해 이러한 엔진을 학습시키는 데 자신도 모르게 참여했습니다. 우리는 이제 수조 개의 매개변수로 학습되었다고 주장하는 엔진을 보유하고 있으며, 수천 개의 입력 매개변수를 처리하고, 다중 모달로 응답할 수 있습니다. GPT4/5, PaLM2, Llama 또는 지금까지 공개된 다른 LLM들은 더 컨텍스트가 있는 수직적인 문제 해결자로 등장하고 있습니다.

참여 시스템과 기록 시스템

NLP에서 LLM까지의 여정은 실리콘 진화와 데이터 모델, 그리고 우리가 생성한 대량의 학습 데이터 덕분에 훌륭했습니다. 그러나 기업 – 소매 업체, 제조업체, 은행 등 – 각기 다른 기술 적용이 필요합니다. 먼저, 기업에서는 AI의 환각(hallucination)을 허용할 수 없습니다. 0%의 환각과 100%의 정확도가 필요합니다. 사용자가 AI와 상호 작용할 때 절대적인 정확성이 필요합니다 – 예를 들어, “호텔에 얼마나 많은 객실이 있나요?” 또는 “1등석 티켓을 예약할 수 있나요?”와 같은 질의에 대해서는 절대적인 정확성이 필요합니다.

AI의 환상을 방지하기 위해, 참여 시스템과 기록 시스템의 개념을 도입합니다. 참여 시스템은 고객, 공급자, 또는 직원과 상호 작용할 수 있습니다. 이러한 시스템은 비즈니스 특정 프롬프트에 대한 훈련을 받은 생성형 AI 기반 대화형 플랫폼을 사용할 수 있습니다. 그러나 기록 시스템을 가치 사슬에 통합하는 것은 더 어려운 문제입니다. 많은 비즈니스에서는 정적인 테이블과 엔티티 기반 세계에 머물러 있으며, 대부분의 기업은 조직적 또는 기업 수준에서 정적이지만, 이벤트와 워크플로는 트랜잭션 수준에서 동적입니다.

이것은 다음 세대의 대화형 플랫폼에 대한 논의입니다. 이러한 플랫폼은 대화, 인터페이스, 질의를 처리할 뿐만 아니라 고객의 여정을 완료까지 처리합니다. 이러한 대화형 플랫폼에는 다양한 아키텍처 접근 방식이 있습니다. 즉시적인 옵션은 벡터화되고 레이블이 부여된 기업 데이터와 LLM 기반 대화형 프롬프트를 통합하는 하이브리드 미들웨어를 사용하는 것입니다. 이 미들웨어는 소비자에게 0%의 환각을 제공합니다.

기업에서는 LLM 엔진을 이해할 수 있도록 데이터를 준비하는 대량의 작업이 필요합니다. 우리는 이것을 전통적인 테이블과 엔티티 기반 데이터 모델의 평탄화라고 합니다. 그래프 데이터베이스는 관계형 데이터베이스가 할 수 없는 방식으로 데이터를 표현하고 저장하는 새로운 목적을 찾고 있습니다. 목표는 엔터프라이즈 데이터베이스를 더 이해할 수 있는 그래프 데이터베이스로 변환하여 관계를 통해 맥락과 의미를 명시하여 LLM 엔진이 학습하고, 최종 고객의 프롬프트에 대화와 실시간 데이터 조회를 결합해 응답하기 쉽게 만드는 것입니다. 이는 참여 시스템과 기록 시스템을 연결하여 사용자 경험을 완료까지 제공하는 데 핵심입니다.

다음에는 무엇이 올까

이러한 데이터와 AI의 발전에 따라, 가장 즉각적인 영향은 소프트웨어 코드 생성 분야입니다. 마이크로소프트 코파일럿, 아마존 코드위스퍼러 등 개발자 사이에서 이러한 도구의 부상이 이를 입증합니다. 이러한 도구는 레거시 현대화 프로그램을 가속화하고 있으며, 이러한 프로그램은 종종 시간과 비용 문제로 중단되었습니다. 생성형 AI를 사용한 코드 생성 도구를 사용하면 이러한 현대화 프로젝트를 20-40% 빠르게 진행할 수 있습니다. 새로운 코드 개발 프로젝트에서는 이러한 도구가 개발자에게 시간과 생산성을 디자인사고와 더 혁신적인 프로젝트로 전환할 수 있도록 합니다.

소프트웨어 코드 개발을 넘어서, 생성형 AI 도구는 기업의 가장 긴급한 도전을 해결하기 위한 새로운 수직 사용 사례와 시나리오를 만들고 있습니다. 우리는 아직 이러한 추세를 완전히 활용하기 위해 해야 할 일의 표면을 긁고 있을 뿐입니다. 그러나 우리는 이미 생성형 AI를 사용하여 소매와 물류 분야에서 여러 문제와 질문을 해결하고 있습니다.

창고에 얼마나 많은 재고가 있으며, 언제 보충해야 합니까? 미리 재고를 보유하는 것이 수익성이 있습니까? 운송과 수입 비용을 포함한 총도착원가가 올바른가요, 아니면 상승할까요? 어떤 항목을 번들로 제공하거나 어떤 개인화를 제공하여 수익을 높일 수 있습니까?

이러한 질문에 대한 답변은 대화형 프론트엔드, 백엔드의 높은 정확도 데이터 쿼리, 그리고 도메인 지식이 풍부한 기계 학습 모델이 예측과 미래 지침을 제공하는 조합이 필요합니다. 따라서 AI를 탐색하는 기업이든 생성형 AI로 시장을 혁신하는 기업이든, 검증된 AI 전문성과 탄탄한 데이터·분석 역량을 갖춘 서비스 제공업체와 협력할 것을 권합니다. 그러면 사업 요구에 맞는 GenAI 모델을 활용하고 경쟁에서 앞서 나갈 수 있습니다.

Padmanabhan (Paddy)은 데이터 기반 플랫폼, 마이크로서비스 및 클라우드 네이티브 엔지니어링, 레거시 기술 및 제품의 현대화를 중점으로 하는 클라우드 네이티브 플랫폼 및 제품 엔지니어링 리더입니다. 그는 Persistent Systems의 글로벌 소비자 기술 부문에서 수석 부사장 겸 총괄 책임자를 맡고 있으며, 그의 팀은 소매, CPG, 여행, 물류를 포함한 고객들에게 디지털 제품 엔지니어링을 가능하게 합니다.