Kovant의 CEO 및 설립자 Ali Sarrafi – 인터뷰 시리즈

Ali Sarrafi, Kovant의 CEO 및 설립자는 스톡홀름에 기반을 둔 기술 및 AI 전문가로, 고성장 AI 기업을 구축하고 확장하는 경험을 가지고 있습니다. 2024년 말 Kovant를 설립한 이후, 그는 기업 AI 전략, 시장 진출 실행, 운영 확장에 대한 깊은 경험을 바탕으로 활동해 왔습니다. 이전에는 AMD가 인수한 Silo AI의 전략 부사장으로서, 기업 AI 전략을 형성하고 대규모 채택을 주도하는 역할을 수행했습니다. 이전에는 Combient Mix의 공동 설립자로서, 빠른 성장과 성공적인 인수를 거친 후, 교육 및 AI 스타트업에서 자문 및 이사 역할을 수행하며, 고급 AI를 실제 비즈니스에 적용하는 일에 집중해 왔습니다.

Kovant는 기업 AI 기업으로, 조직이 실험적인 AI 사용에서 완전한 운영 및 자율적인 비즈니스 프로세스로 이동하도록 ermög주는 것을 목표로 합니다. 이 회사는 복잡한 운영 도메인(조달, 공급망, 규제, 고객 운영 등)에서 AI 에이전트 팀을 조직하기 위한 에이전트 기반 플랫폼을 개발합니다. 보안, 기업급 배포, 빠른 시간대에 가치를 제공하는 것을 강조함으로써, Kovant는 전략적 AI 야망과 일일 운영 사이의 다리를 제공하여, 대규모 조직이 핵심 워크플로우에 AI를 직접 통합하도록 도와줍니다.

스포티파이에서 주요 AI 이니셔티브를 이끌었으며, Combient Mix를 확장하고退出한 후, Silo AI에서 기업 AI 전략을 형성했습니다. Kovant를 설립하기 전에, 이러한 역할에서 어떤 간격이나 불만을遇했는지, 그리고 Kovant의 핵심 설계 철학을 어떻게 형성했는지 알려주세요.

이전 역할에서 일관된 간격이 나타났습니다. 첫째, 대부분의 “수직” AI 도구는 단일 소프트웨어 스택에 갇혀 있습니다. 워크플로우가 여러 시스템을跨ぐ 경우, 그들은 하나의 작업을 조금 더 잘 수행하지만, 단일 스크립트 시퀀스를 자동화하는 것보다 더 많은 것을 수행하는 데 어려움을 겪습니다. 또한, 기업 데이터는 여러 도구에 산재되어 있으며, 많은 자동화 솔루션은 이를 접근할 수 없습니다. 연동과 오케스트레이션이 내장되어 있으며, 기업 데이터가 종종 불규칙하고 구조화되지 않았기 때문에, Kovant는 이러한 현실에 대한 대응으로 설계되었습니다.

Kovant의 핵심 철학은 에이전트가 직원과 같은 방식으로 작동해야 한다는 것입니다. 여러 도구에서 작동하며, 하나의 스크립트 시퀀스를 자동화하는 것이 아니라, 작업을 수행하도록 고용됩니다. Kovant는 이러한 철학을 바탕으로 설계되었습니다.

Kovant는 자율적인 기업 플랫폼으로, 전체 운영과 부서를 AI 에이전트로 실행할 수 있다고 주장합니다. 기업 환경에서 “자율적”이라는 것을 어떻게 정의하며, 이는 현재 실험 중인 자동화 및 에이전트 도구와 어떻게 다른가요?

기업 환경에서 “자율적”이라고 할 때, 우리는 “감독되지 않은” 것을 의미하지 않습니다. AI 에이전트가 실제 동작을 수행할 수 있으며, 명확한 목표와 가드레일을 가지고 있으며, 감독이 필요한 경우에 사람에게 에스컬레이션할 수 있습니다.

Kovant가 다른 점은 우리의\Foundation 에이전트입니다. 하나의 고정 프로세스 또는 预先 구축된 시퀀스를 자동화하는 대신, Kovant 에이전트는 작업을 수행하기 위해 협력할 수 있습니다. 여러 도구와 플랫폼에서 작동하며, 변경되는 워크플로우와 시스템을 처리할 수 있습니다.

많은 조직은 아직 실험 모드에 머물고 있습니다. 실제 배포에서 볼 수 있는 주요 이유는 무엇이며, Kovant는 이러한 문제를 어떻게 해결할 수 있나요?

우리가 본 바에 따르면, 대부분의 조직은 아이디어가 잘못된 것이 아니라, 환경이 확장에 적합하지 않기 때문에 실험 모드에 머물고 있습니다.

첫 번째 장애물은 조각난 기업 기술 풍경입니다. 워크플로우는 여러 시스템을跨ぐ며, 데이터는 여러 장소에 산재되어 있으며, 모든 것을 신뢰성 있게 연결하는 것은 어렵습니다. 또한, 많은 팀은 기업 데이터가 대부분 구조화되지 않았으며, 대부분의 자동화 솔루션은 이를 처리할 수 없다는 사실을 과소평가합니다.

신뢰성은 실제 세계에서 AI 에이전트를 배포하는 데 가장 큰 장애물입니다. Kovant의 접근 방식은 어떻게 이러한 문제를 해결할 수 있나요?

일부 에이전트 시스템은 데모에서는 잘 작동하지만, 실제 세계에서 실패하는 경우가 있습니다. 데이터는 불완전하거나 일관성이 없으며, 에지 케이스가不断히 나타납니다. 워크플로우는 여러 도구와 플랫폼을跨ぐ며, 권한은 변경됩니다. Kovant는 이러한 문제를 Narrowing 문제 공간, 의사 결정 공간 및 컨텍스트를 통해 줄입니다.

우리는 또한 작고 집중된 작업으로 운영을 나눕니다. 각 에이전트는 하나의 작업에만 집중하며, 그 작업은 명확한 권한과 제한된 영향 범위를 가지고 있습니다. 이는 예측 가능한 행동을 만들며, 성능을 더 쉽게 모니터링하고 개선할 수 있습니다.

AI 에이전트가 실제 동작을 수행할 때, 책임은 누구에게 있나요? Kovant는 이러한 문제를 어떻게 해결할 수 있나요?

세부적인 동작 로그를 통해 우리는 무슨 일이 발생했는지, 왜 발생했는지, 그리고 무슨 일이 발생할지 알 수 있습니다.

이러한 로그는 에이전트를神秘한 봇에서 시스템을 조사할 수 있는 시스템으로 변환합니다.

Kovant에서, AI 에이전트 배포에는 항상 위험 맵이 있습니다. 우리는 에이전트가 높은 위험 작업을 수행하기 전에 사람의 검토와 승인을 받아야 합니다. 모든 이러한 작업은 시스템의 기록으로 로깅되며, 추적 가능합니다.

Agentic AI Foundation과 같은 이니셔티브는 에이전트 시스템을 위한 공유 표준을 만들기 위해 노력하고 있습니다. 이러한 노력의 가장 유망한 측면은 무엇이며, 실제 기업 운영에서 여전히 부족한 점은 무엇인가요?

표준화는 일반적으로 좋은 것입니다. AAIF는 에이전트 시스템이 동일한 언어를 사용하도록 하는데 도움이 될 수 있으며, 이는 통합을 더 쉽게 만들고 벤더 잠금을 줄일 수 있습니다.

그러나, 이러한 표준이 누구의 관점에서 형성되는지에 주의해야 합니다. 대부분의 작업이 모델 생성자와 기술 규모의 업체에 의해 주도된다면, “표준”은 무엇을 구축하기 쉽고 데모하기 쉽고, 대규모 조직이 에이전트를 안전하게 운영하기 위해 필요한 것보다 더 최적화될 수 있습니다.

Kovant는 이미 대규모 북유럽 기업으로부터 수익을 창출했습니다. 오늘날 Kovant가 가장 준비가 된 비즈니스 기능 또는 워크플로우는 무엇인가요?

실제 배포에서 볼 수 있는 바에 따르면, 오늘날 가장 “준비가 된” 워크플로우는 반응적인 백오피스 작업입니다. 이러한 작업은 여러 도구에서 작동하며, 데이터는 여러 장소에 산재되어 있습니다.

제조 및 더 넓은 기업 공급망에서, 이러한 작업은 다음과 같이 나타납니다.

• 조달/구매: 원자재 가용성, 지속 가능한 조달, 규제 운영, 공급자 선택, 계약 관리, 공급자 위험 관리, 입찰 관리.
• 생산: 용량 계획, 생산 스케줄링, 유지 보수 관리, 품질 관리, 병목 관리, 손실 방지.
• 창고 관리: 수령 및 검사, 재고 관리, 재고 회전, 주기적 계산/감사.
• 운송/물류: 운송 수단 및 운송업체 선택, 관세 선언, 추적 및 가시성, 배출량 모니터링, 무역 규제.
• 판매 및 서비스: 제품 가용성, 재고 부족 방지, 판매/반품 관리, 소비자 행동 분석, 수리, 종결 추적, 워크샵 운영, 서비스 계약.

기업이 중요한 운영에서 AI 에이전트를 배포할 때, 어떻게 하면 자율성과 인간의 감독을 균형 있게 조절할 수 있나요?

균형은 거버넌스에 의해 결정됩니다. 에이전트가 낮은 위험 작업에서 빠르게 작동하도록 허용해야 하며, 위험 임계값을 초과할 때에는 사람에게 에스컬레이션해야 합니다.

많은 실패는 모델에 너무 많은 범위와 컨텍스트를 한 번에 주는 데서 발생합니다. 작고 집중된 결정으로 운영을 나누고, 각 단계에 명확한 권한과 제한된 영향 범위를 부여하는 것을 권장합니다.

그런 다음, 관찰 가능성, 동작 로그, 인간의 게이트키핑을 결합합니다. 에이전트가 하는 모든 작업은 추적 가능해야 하며, 빠르게 조사할 수 있어야 합니다. 높은 영향 또는 위험한 작업의 경우, 워크플로우에 인간 승인 단계를 추가하여, 에이전트가 제안하고 준비할 수 있지만, 사람의 승인이 있기 전까지는 실행하지 않습니다.

향후 몇 년 동안, Kovant는 대규모 조직 내에서 자율적인 AI 에이전트의 역할이 어떻게 진화할 것으로 예상하나요? 그리고, 성공과 실패를 결정하는 요인은 무엇일까요?

향후 몇 년 동안, 자율적인 AI 에이전트는 интерес로운 실험에서 실제 운영 레이어로 발전할 것입니다. 운영, 고객 서비스, 재무, 인사 등에서 사용될 것입니다. 신뢰성, 거버넌스, 감독이 개선됨에 따라, 우리는 기업이 분리된 파일럿에서 에이전트 팀을 종단 워크플로우에서 실행하는 방향으로 이동할 것입니다.

가장 큰 변화는 속도, 민첩성, 규모, 효율성, 비용이 직접적인 경쟁 우위를 제공할 것입니다. Kovant는 이러한 에이전트를 잘 배포하는 것이 중요하다고 생각합니다. 거버넌스된 자율성, 강한 관찰 가능성, 동작 로그, 의사 결정 범위를 좁히는 아키텍처가 핵심 운영 능력으로 사용될 것입니다. 이러한 에이전트를 핵심 운영 능력으로 사용하는 기업은 성장과 혁신에 집중할 수 있을 것입니다.

감사합니다. 더 많은 정보를 원하는 독자는 Kovant를 방문하세요.