ํ๋ฉ
๊ทธ๋ํฐ AI, 830๋ง ๋ฌ๋ฌ ํฌ์ ์ ์น๋ก ๊ธฐ์ ์ฉ AI ์ธํ๋ผ ๊ตฌ์ถ์ ๋์
AI 인프라 스타트업 그래폰 AI(Graphon AI)는 830만 달러의 시드 펀딩을 유치하며 스타트업을 공개했다. 이는 현대적인 AI 시스템이 직면한 가장 큰 병목 현상 중 하나인 대규모 분산 멀티모달 데이터셋에서 효과적으로 추론할 수 없는 능력에 대한 해결책을 찾기 위한 시도이다.
이번 투자는 노베라 벤처스(Novera Ventures)가 주도했으며, 삼성넥스트(Samsung Next), 히타치 벤처스(Hitachi Ventures), 퍼플렉시티 펀드(Perplexity Fund), GS퓨처스(GS Futures), 가이아 벤처스(Gaia Ventures), B37 벤처스(B37 Ventures), 아우룸 파트너스(Aurum Partners) 등이 참여했다.
샌프란시스코에 본사를 둔 이 회사는 아마존, 메타, MIT, 구글, 애플, 엔비디아, 나사 등에서 온 전 연구원과 엔지니어들에 의해 설립되었다.
그래폰이 해결하려고 하는 문제
대규모 언어 모델은 지난 몇 년 동안 크게 발전했지만, 여전히 근본적인 한계를 가지고 있다. 바로 컨텍스트 윈도우이다.
심지어 고급 AI 모델도 한 번에 처리할 수 있는 정보의 양은 제한적이다. 반면, 기업은 문서, 데이터베이스, 감시 시스템, 비디오 피드, 로그, 오디오 파일, 내부 소프트웨어 플랫폼 등에 걸쳐서 엄청난 양의 분산된 데이터를 보유하고 있다.
현재의 접근 방식인 리트리벌 오거먼티드 제너레이션(Retrieval-Augmented Generation, RAG)은 모델이 관련 정보를 검색하는 데 도움이 되지만, 데이터셋 간의 더 깊은 관계를 이해하거나 시간이 지남에 따라 지속적인 이해를 유지하는 데 어려움을 겪는다.
그래폰의 접근 방식은 모델 자체 외부에서 추론 과정을 일부 이동시키는 것이다.
원시 기업 데이터를 지속적으로 모델에 입력시키는 대신, 그래폰은 모델이 처리하기 전에 다양한 정보 형식 간의 관계를 매핑하는 “프리모델 인텔리전스 레이어”를 생성한다.
이 관계 레이어는 그래폰 함수를 사용하여 구축되며, 이는 전통적으로 네트워크 분석과 대규모 그래프 시스템과 관련이 있다. 이 시스템은 텍스트, 비디오, 오디오, 이미지, 구조화된 데이터베이스, 산업 시스템, 센서 네트워크 등 다양한 멀티모달 데이터 소스 간의 연결을 식별하도록 설계되었다.
회사는 이 관계 레이어가 모델의 컨텍스트 윈도우 제한과 독립적으로 작동할 수 있는 지속적인 구조화된 메모리 형태를 생성한다고 주장한다.
더 큰 모델에서 벗어나기
그래폰의 출시 반영은 AI 산업 전반에서 발생하고 있는 더广泛한 전환을 반영한다.
수년 동안, AI의 발전은 주로 모델의 크기를 늘리고, 더 많은 매개변수와 더 큰 훈련 데이터셋을 추가함으로써 이루어져 왔다. 그러나 많은 연구자와 인프라 스타트업은 이제 더 나은 메모리 시스템, 추론 아키텍처, 검색 레이어, 데이터 조직을 통해 AI 성능을 개선하는 방법을 탐색하고 있다.
회사는 지능이 모델 자체 내에만 존재해서는 안 되며, 모델과 기업 데이터를 연결하는 인프라 레이어에도 존재해야 한다고 주장한다.
이 접근 방식은 정보가 끊임없이 변경되고 여러 시스템에 걸쳐 있는 환경에서 AI 시스템을 배포하는 기업들에게 점점 더 중요해질 수 있다.
예를 들어, 산업 환경에서 AI 시스템은 기계 텔레메트리, 보안 비디오, 운영 로그, 유지 보수 기록, 기업 워크플로우 등을 동시에 고려하여 추론해야 할 수 있다. 로봇공학, 물류, 의료, 기업 자동화 등에서도 유사한 도전이 존재한다.
초기 기업 배포
그래폰은 이미 한국의 대기업인 GS그룹을 포함한 초기 기업 고객을 보유하고 있다.
회사는 소매 환경 내에서 고객 이동을 분석하고 건설 현장의 안전 모니터링을 멀티모달 CCTV 분석을 통해 개선하는 것을 포함한 배포를 실시했다.
회사는 또한 에이전트 워크플로우를 지원하는 인프라를 제공한다고 주장한다. 이는 AI 에이전트가 고립된 프롬프트가 아닌 더 풍부한 멀티모달 컨텍스트에 기반하여 결정을 내릴 수 있도록 한다.
또 다른重点 영역은 기기 내 AI 추론이다. 그래폰은 스마트폰, 카메라, 웨어러블 기기, 스마트 글래스, 기타 연결 장치에서 생성되는 데이터와 함께 작동하도록 설계되었다.
관계형 AI 인프라의 미래 영향
그래폰의 출시는 인공 지능에서 발생하고 있는 더广泛한 전환을 반영한다. 모델의 크기만을 늘리는 것이 산업의 가장 어려운 문제를 해결하지 못할 수 있다는 인식이增长하고 있다.
기업이 점점 더 복잡한 환경에서 AI를 배포함에 따라, 텍스트와 프롬프트만을 생성하는 것보다 시스템, 사람, 장치, 정보 흐름 간의 관계를 이해하는 것이 더 중요해진다.
미래의 AI 시스템은 문서와 프롬프트만이 아니라 훨씬 더 많은 것을 고려해야 할 것이다. 자율 공장, 로봇 시스템, 스마트 시티, 웨어러블 기기, 산업 센서, 보안 인프라, 기업 소프트웨어 에코시스템 등은 모두 거대한 양의 상호 연결된 멀티모달 데이터를 생성한다. 이러한 정보 대부분은 지속적으로 존재하며 실시간으로 진화한다.
이로 인해 모델의 임시 메모리 윈도우를 넘어서 지속적인 컨텍스트를 유지할 수 있는 새로운 형태의 AI 인프라가 필요해진다.
이것은 기업 생산성 도구를 넘어서 로봇 공학 조정, 산업 자동화, 디지털 트윈, 자율 주행, 의료 진단, 적응형 에지 컴퓨팅 환경 등 다양한 분야에서 중요할 수 있다.
에이전트 AI의 출현은 이 필요성을 더욱 가속화할 수 있다. 기업 시스템 내에서 자율적으로 작동하는 에이전트는 더 깊은 컨텍스트적 인식과 시간이 지남에 따라 행동, 시스템, 환경이 어떻게 연결되는지에 대한 더 강한 이해를 필요로 할 것이다.
그렇다면, 다음 주요 AI 개발 단계는 동적 실세계 환경을 모델링하는 시스템을 구축하는 것일 수 있다. 즉, 고립된 프롬프트에서 점점 더 복잡한 응답을 생성하는 것보다 지속적으로 모델링하는 것이다.
