Cohere, 재설계된 에이전트 하네스와 메모리를 갖춘 North 2 출시

Cohere는 2026년 10월 5일에 최신 버전인 Cohere의 North 엔터프라이즈 에이전트 AI 플랫폼인 North 2를 출시했으며, 세션 간 에이전트 메모리, 재설계된 오케스트레이션 하네스, 그리고 클라우드, 온프레미스, 에어갭 배포 전반에 걸친 세분화된 관리 비용 제어 기능을 추가했습니다.

Cohere의 발표에서 Cohere는 North 2를 지금까지 가장 큰 업그레이드라고 설명했으며, 기업 수준의 보안, 인텔리전스, 비용 관리, 전체 스택 제어를 조직의 데이터가 존재하는 어디에서든 실행되는 단일 에이전트 플랫폼에 통합했습니다. 회사는 지난 1년 동안 금융, 의료, 통신, 제조, 에너지 및 공공 부문 전반에 걸쳐 North를 배포했으며, 이러한 대규모 프로덕션 배포가 새로운 버전을 형성했다고 밝혔습니다. Cohere가 제시한 주요 하이라이트에는 재설계된 에이전트 하네스, 메모리를 통한 인텔리전스 향상, 라이브러리, 스킬, 아티팩트 및 앱 생성, 모델에 구애받지 않는 운영, 유연한 배포를 통한 AI 주권, 그리고 세분화된 비용 제어, 속도 제한, 사용자 할당량 및 조직 전체 상한선을 추가하는 North Admin을 통한 기업 거버넌스가 포함됩니다.

새로운 에이전트 기능 및 커넥터

North 2의 핵심은 Cohere가 고급 에이전트 오케스트레이션 시스템이라고 부르는 것으로, 복잡하고 다단계 프로세스를 독립적으로 처리합니다. 회사에 따르면 사용자는 간단한 프롬프트로 에이전트와 자동화를 구축하면서 인간을 루프에 포함시킬 수 있으며, 조직 전체에서 공유할 수 있는 재사용 가능한 에이전트와 자동화를 만들고, 채팅 내에서 직접 문서나 앱을 프로토타이핑할 수 있습니다.

Cohere에 따르면 이번 릴리스는 여러 명명된 기능 그룹을 도입합니다. Skills는 에이전트가 호출할 수 있는 재사용 가능한 기능으로, 직원들이 동일한 로직을 다시 구축하지 않게 합니다. Libraries는 전체 조직이 활용할 수 있는 공유 지식과 자산을 보관합니다. Memory는 에이전트가 매번 새로 시작하는 대신 세션 간 컨텍스트를 유지하도록 합니다. Applications는 사용자가 자연어를 통해 프레젠테이션, 대시보드, 문서 및 경량 앱을 프로토타이핑하고 제작할 수 있게 합니다. Automations는 일반적인 프로세스를 위한 사전 구축 템플릿, 드래그‑앤‑드롭 시각적 워크플로우 빌더, 실시간 성능 모니터링을 제공합니다.

새로운 엔터프라이즈 커넥터는 North를 Slack, SharePoint, OneDrive, Microsoft Outlook, Microsoft Exchange, Jira, Linear, Notion 및 GitHub에 연결합니다. Cohere는 향후 PitchBook, Crunchbase, Daloopa, FiscalAI, S&P Global, FactSet과 같은 금융 데이터 커넥터를 제공할 계획이라고 밝혔습니다.

Cohere에 따르면 LG CNS는 North를 활용해 한국 전역의 고객에게 AI를 대규모로 제공하고 있습니다. 발표에서 LG CNS AI 센터장인 Yohan Jin은 다음과 같이 말했습니다:

“North는 기업에게 에이전트 AI를 실제 비즈니스 가치로 전환할 수 있는 안전하고 실용적인 기반을 제공합니다. LG CNS 내에서 North를 사용하고 이를 한국 전역의 고객에게 제공한 경험을 통해 지능형 자동화를 기업 전체에 확장할 수 있는 능력에 대한 확신이 더욱 강화되었습니다.”

보안, 거버넌스 및 NVIDIA 협업

North 2는 온프레미스, 클라우드 또는 완전 에어갭 환경에 사적으로 배포될 수 있으며, 환경 옵션은 자체 호스팅, 가상 프라이빗 클라우드, 하이브리드, 온프레미스로 나열됩니다. Cohere는 플랫폼에 대해 SOC 2 Type 2, ISO 27001, 및 ISO 42001 인증을 보유하고 있으며, North Admin을 통해 팀이 개별 에이전트 수준에서 가드레일을 적용할 수 있다고 밝혔습니다. 회사에 따르면 가드레일은 콘텐츠를 필터링하고 안전성을 향상시키며 모델 응답을 검증하고, 자율성 정책은 에이전트가 허가된 행동만 수행하도록 제한하며 중요한 결정에 대해 인간 감독을 요구합니다.

Cohere는 레드팀 연습 및 제3자 취약점 스캔을 포함한 지속적인 보안 테스트를 수행하고, 서비스 성능을 모니터링하고 모든 변경 사항을 기록하는 관측 도구를 제공한다고 밝혔습니다. 또한 Bell Cyber와 협력해 에이전트 AI에 정부 수준의 보안을 제공한다는 내용도 전했습니다. Bell Cyber의 Chief Technology and AI Officer인 Jawed Ahmad는 North가 보안 운영 내에서 에이전트 AI를 적용하면서 고객이 요구하는 제어, 프라이버시 및 데이터 주권 표준을 유지할 수 있게 해준다고 말했습니다.

North Admin은 이번 릴리스의 거버넌스 레이어를 제공합니다. Cohere는 관리자가 역할 및 권한을 설정하고, 모델이 어디서 누구에 의해 사용되는지를 제어하며, 상세 분석을 통해 실시간으로 활동을 모니터링하고 토큰 사용량 및 제한을 세부 수준이나 시스템 전체 개요로 확인할 수 있다고 말했습니다. 알림 임계값은 제한에 도달하기 전에 팀에 통보할 수 있으며, 흐름 제어 기능은 사용자 및 그룹에 대한 요청 및 토큰 비율에 기반해 소비 계층을 정의합니다. 플랫폼은 모델에 구애받지 않으며, 조직은 Cohere의 생성 모델을 사용하거나 자체 기존 모델을 가져올 수 있습니다.

Cohere는 NVIDIA와의 협업을 통해 North가 NVIDIA Blackwell 및 Hopper 하드웨어에서 학습 및 배포될 때 토큰당 더 많은 인사이트를 생성하고, NVIDIA 하드웨어에서 모델을 실행하면 노드당 초당 토큰 수가 증가해 비용이 효과적으로 감소한다는 결과를 발견했다고 밝혔습니다. NVIDIA의 Generative AI 부문 부사장인 Kari Briski는 조직이 AI 워크로드의 위치와 데이터 보안에 대한 제어가 필요하며, Blackwell과 Hopper가 Cohere 모델의 추론 속도를 높여 North 2가 더 낮은 비용으로 더 많은 토큰을 제공하도록 돕는다고 설명했습니다.

North 2 이전의 North 플랫폼

Cohere는 2025년 8월 6일에 North를 널리 제공하기 시작했습니다, 당시 이를 사설 배포를 통해 작업장 데이터를 안전하게 액세스하는 에이전트형 AI 플랫폼이라고 설명했습니다. 원래 플랫폼은 Cohere의 생성 및 검색 모델을 맞춤형 에이전트와 내장 워크플로 자동화와 결합했으며, 온프레미스, 하이브리드 클라우드, 가상 사설 클라우드 또는 에어갭 환경에서 두 개의 GPU만으로도 실행될 수 있었습니다. 해당 발표에서는 RBC, Dell, LG CNS, stc, Ensemble Health Partners, Second Front, Bell이 North를 사용하고 있다고 밝혔으며, Cohere는 RBC와 함께 금융 서비스를 위한 맞춤형 구성인 Banking용 North를 개발했고, Dell과 협력해 Dell AI Factory 인프라를 통해 온프레미스에서 North를 제공한다고 발표했습니다.

Cohere의 현재 North 제품 페이지는 플랫폼을 Discover, Create, Automate 기능으로 구성하고 있으며, North가 고객의 가상 사설 클라우드 또는 온프레미스 환경, 혹은 Cohere의 Model Vault 추론 플랫폼을 통해 실행될 수 있다고 명시합니다. Cohere는 North 2에 관심이 있는 조직에게 영업팀을 통해 데모를 예약하도록 안내하고 있습니다.