์ธํฐ๋ทฐ
Ali Sarrafi, Kovant์ CEO ๋ฐ ์ค๋ฆฝ์ – ์ธํฐ๋ทฐ ์๋ฆฌ์ฆ
Ali Sarrafi, Kovant의 CEO이자 설립자는 스톡홀름에 기반을 둔 숙련된 기술 및 AI 전문가로 고성장 AI 기업을 구축하고 확장하는 경험을 가지고 있습니다. 2024년 말 Kovant를 설립한 이후, 그는 기업 AI 전략, 시장 진출 실행, 운영 확장에 대한 깊은 경험을 활용해 왔습니다. 이전에는 AMD가 인수한 Silo AI의 전략 부사장으로서 기업 AI 전략을 형성하고 대규모 채택을 주도하는 역할을 수행했습니다. 그의 경력 초기에는 Combient Mix의 공동 설립자로 급성장과 성공적인 인수를 거치며, 이후 교육 및 AI 스타트업에서 자문 및 이사 역할을 수행하며 항상 고급 AI를 실제 비즈니스 영향으로 번역하는 데 집중해 왔습니다.
Kovant는 조직이 실험적인 AI 사용에서 완전히 운영 가능한 자율 비즈니스 프로세스로 이동할 수 있도록 지원하는 기업 AI 회사입니다. 이 회사는 복잡한 운영 도메인(조달, 공급망, 컴플라이언스, 고객 운영 등)에서 AI 에이전트 팀을 오케스트레이션하기 위해 설계된 에이전트 기반 플랫폼을 개발합니다. 보안, 기업급 배포, 빠른 시간대 가치를 강조함으로써 Kovant는 전략적 AI 야망과 일일 실행 사이의 다리 역할을 하여 대규모 조직이 AI를 핵심 워크플로에 직접 통합할 수 있도록 지원합니다.
스포티파이에서 주요 AI 이니셔티브를 이끌었으며, Combient Mix를 확장하고退出한 후 Silo AI에서 기업 AI 전략을 형성했습니다. Kovant를 설립하기로 결정한 데에는 어떤 구체적인 간격이나 불만이 있었나요? 그리고 그 역사如何 Kovant의 핵심 설계 철학을 형성했나요?
이전 역할에서 일관된 간격이 반복적으로 나타났습니다. 첫째, 대부분의 “수직” AI 도구는 효과적으로 단일 소프트웨어 스택에 구속됩니다. 특정 영역 내에서 약간 더 나은 성능을 제공하지만 워크플ロー가 여러 시스템을跨越해야 하는 순간에 어려움을 겪습니다.同時에, 기업 데이터는 많은 도구에 산재해 있으며, 많은 자동화 솔루션은 데이터에 접근할 수 없습니다. 점별 통합을 추가하면 전형적인 스파게티 아키텍처가 나타나며, 복잡성이 증가하고, 변경이 더 느려지며, 팀은 개별 단계를 자동화하는 것보다 워크플로를 종단으로 재구상하지 않습니다. 결과적으로 ROI는 예상보다 더 느리게 도착하며, 규모도 더 작습니다.
Kovant는 이러한 현실에 대한 대응으로 설계되었습니다. 우리의 핵심 철학은 에이전트가 직원과 같은 행동을 해야 한다는 것입니다. 여러 도구에서 작업하고, 특정 작업을 수행하도록 “고용”되며, 단일 스크립트 시퀀스를 자동화하는 것이 아닙니다. đó가 통합 및 오케스트레이션이 내장되어 있으며, 기업 데이터가 종종 지저분하고 구조화되지 않은 것을 가정하는 이유입니다. 예외와 모호성을 처리하기 위해 더 인간적인 접근 방식이 필요합니다.
우리는 기초 에이전트를 사용하여 속도와 규모를 달성하며,同時에 데이터 주권을 앞세우며, 기업은 자체 데이터를 자체 영역 내에서 수평으로 액세스 및 사용할 수 있습니다.
Kovant는 전체 운영 및 부서를 AI 에이전트로 실행할 수 있는 자율 기업 플랫폼으로 пози션합니다. 기업 환경에서 “자율”을 어떻게 정의하며, 이는 오늘날 기업이 실험하는 자동화 및 에이전트 도구와 어떻게 다른가요?
기업 환경에서 “자율”이라고 할 때, 우리는 “감독되지 않은” 것을 의미하지 않습니다. AI 에이전트가 명확한 목표와 가이드レ일을 갖춘 운영 전체에 걸쳐 실제 동작을 수행할 수 있으며, 감독이 필요한 경우에는 인간에게 에스컬레이션합니다.
Kovant를 다른 점은 우리의 기초 에이전트입니다. 단일 고정 프로세스를 자동화하거나事前 정의된 시퀀스를 따르는 대신, Kovant 에이전트는 작업에 대한 지침과 운영 개요(블루프린트라고 함)만을 사용하여 운영에서 협력하여 복잡한 워크플로를 해결하고, 상황이 변경되면 적응하며, 필요한 경우에는 사람에게 넘깁니다.
예를 들어, 재고 관리 에이전트 팀은 다음 작업을 모두 수행할 수 있습니다. 공급업체와 이메일을 통해 통신하고, 재고 수준 및 재고 부족 신호를 모니터링하고, 배송 및 구매 주문서를 추적하고, 시스템 전체에서 상태를 업데이트하고, 재고 계획자에게 승인을 위한 불일치 티켓을 생성하고, 창고 간 재고를 재배포하고, 재고 보고서를 통합합니다.
따라서 “채팅 플러스 도구”나 규모에 따라 깨지기 쉬운 자동화 대신, 기업은 에이전트를 구축하는 것에서 에이전트를 대규모로 실행하는 것으로 전환합니다.
에이전트 AI에 대한 관심이 크게 증가하고 있음에도 불구하고, 많은 조직은 여전히 실험 모드에 머물러 있습니다. 실제 배포에서 볼 수 있는 바에 따르면, 기업이 실험에서 대규모 생산으로 이동하는 데 어려움을 겪는 주요 이유는 무엇인가요?
우리가看到하는 바는 대부분의 조직이 아이디어가 잘못된 것이 아니라, 환경이 확장에 적합하지 않기 때문에 실험 모드에 갇혀 있는 것입니다.
첫 번째 장애물은 단편화된 기업 기술 랜드스케이프입니다. 워크플ロー는 많은 시스템을跨越하며, 데이터는 여러 곳에 산재해 있으며, 모든 것을 신뢰할 수 있게 연결하는 것은 어렵습니다. 또한 에이전트 AI는 기존 도구에 추가로 배포되는 경우가 많으며, 워크플로를 종단으로 다시 생각하는 방법이 아니라, 기존 도구 내에서 작동하는 방법입니다.
또한 실제 아키텍처와 데이터 문제가 있습니다. 많은 SaaS 벤더는 여전히 데이터를 잠그려 하며, 이는 호환성 문제를 생성하고 에이전트가 시스템 전체에서 실제로 수행할 수 있는 작업을 제한합니다. 또한 많은 팀이 기업 데이터가 대부분 비구조화되어 있음을 과소평가합니다(이메일, 문서, 티켓, PDF, 채팅 로그 등). 접근 방식이 깨끗한 구조화된 데이터를 가정한다면, 가치 실현 시간은 길어지고, 복제하기 어렵고, 파일럿을 넘어서는 생산으로 이동하기 어렵습니다.
요약하면, 단편화, 잠금, 비구조화된 데이터로 인해 마찰이 발생하며, 파일럿은 이러한 현실을 설계할 때까지 생산으로 전환되지 않습니다.
에이전트 시스템이 실제 세계에서 실패하는 가장 큰 장애물은 신뢰도라고 많이 언급됩니다. 많은 에이전트 시스템이 제어된 환경을 벗어나면 왜 실패하는가요? Kovant의 접근 방식은 환상과 예측할 수 없는 행동과 같은 문제를 어떻게 줄입니까?
일부 에이전트 시스템은 데모에서는 훌륭하지만 실제 세계에서 실패합니다. 환경이 지저분하고 예측할 수 없기 때문입니다. 데이터는 불완전하거나 일관성이 없으며, 에지 케이스가 끊임없이 나타납니다(환불, 분쟁, 특별 승인). 워크플ロー는 여러 도구, 플랫폼 및 통합을跨越하며, 이러한 통합은 시간이 지남에 따라 변경됩니다. 또한 권한이 다르며, AI 에이전트가大量의 작업을 처리하도록 요청되면 환상과 이상한 행동의 위험이 증가합니다.
Kovant는 설계에 의해 이러한 문제를 줄입니다. 우리의 고유한 아키텍처는 모델이 작업하는 문제 공간, 의사 결정 공간 및 컨텍스트를 좁혀 환상을 줄입니다. 또한 우리는 작업을 狹い焦点의 작업으로 나누어 개별 에이전트와 단계로 작업합니다. 이를 통해 행동이 더 예측 가능해지고, 시스템에 추적 가능성과 제어 가능성이 추가되어, 환상을 더 잘 관리할 수 있습니다. 우리는 각 에이전트가 무엇을 했는지, 실패가 어디서 시작했는지, 필요한 경우에 언제干預하거나 에스컬레이션할 수 있는지 볼 수 있습니다.
환상은 마법처럼 사라지지 않지만, 각 에이전트가 책임을 지는 작업과 작용할 수 있는 컨텍스트를 제한함으로써, 우리는 그 빈도를 줄이고 영향을 제한할 수 있습니다. 이러한 “좁은 작업/컨텍스트” 접근 방식은 최근 Nvidia 연구 팀의 작업에서도 지원되었습니다. 그들은 에이전트의 의사 결정 범위를 제한하는 것에서 유사한 이점을 발견했습니다.
AI 에이전트가 비즈니스 시스템에서 실제 동작을 시작할 때, 책임은 주요 관심사입니다. 상세한 동작 로그는 신뢰, 컴플라이언스, 운영 위험에 대한 대화를 어떻게 변경합니까?
상세한 동작 로그를 통해 우리는 무엇이 발생했는지, 왜 발생했는지, 무엇이 다음에 발생하는지 볼 수 있습니다.
상세 로그는 에이전트를神秘한 봇에서 시스템을 조사할 수 있는 시스템으로 변환합니다.
Kovant에서 AI 에이전트 배포마다 위험 지도가 있으며, 조직은 이를 기반으로 행동할 수 있습니다. 또한 위험한 동작에 대한 인간의 게이트 키핑이 내장되어 있으며, 에이전트는 이러한 작업을 수행하기 전에 인간이 검토하고 승인할 때까지 수행할 수 없습니다. 모든 것은 시스템 레코드와 동일한 방식으로 기록되고 추적할 수 있습니다.
우리는 동작 로그를 인간의 감독 및 관찰 가능성과 결합하여 위험을 최소화하는 것이 중요하다고 믿습니다. 이는 에이전트가 실제 운영을 실행하는 동안에도 속도와 규모의 이점을 여전히 얻을 수 있습니다.
에이전트 AI가 불투명한 의사 결정으로 인해 보험에 가입할 수 있는지 여부에 대한 논의가 증가하고 있습니다. 에이전트 워크플로를 감사 가능하고 재생 가능하게 만드는 것이 “블랙 박스” 문제를 어떻게 해결하며, 보험 가입 가능성을 열어줍니까?
“블랙 박스” 문제는 보험 가입이 어려워지는 이유입니다. 에이전트가 무엇을 했는지, 왜 했는지, 어떤 제어가 있었는지 명확하게 보여줄 수 없다면, 보험公司도 위험을 평가하기 어렵습니다.
우리의 접근 방식은 이전 답변의 책임성 설정의 확장입니다. 우리는 의사 결정 범위와 동작의 영향을 더 작은 조각으로 나눕니다. 따라서 모델이 하나의巨大하고 불투명한 의사 결정을 내리지 않습니다. 각 단계는 더 狹い이며, 더 예측 가능하며, 평가하기 더 쉽습니다.
그런 다음 우리는 상세한 로그, 관찰 가능성, 인간의 감독을 추가합니다. 가장 중요한 의사 결정에 대해서는 인간 게이트 키핑을 사용하여 에이전트가 검토와 승인 후에만 진행할 수 있도록 합니다. 이는 실제 워크플로의 동작에 대한 가시성을 크게 향상시킵니다.
워크플로를 감사 가능하고 재생 가능하게 만드는 것이 마지막 조각입니다.何か가 잘못되면, 발생한 일을 재현할 수 있으며, 빠르게 조사하고, 수정 사항을 검증하고, 인간 승인이 얼마나 자주 필요한지, 어디에 안전 장치가 있는지 보여줄 수 있습니다. 보험 가입의 관점에서, 이는 神秘한 AI 행동을 표준 운영 위험에 더 가까운 것으로 전환합니다.
에이전트 시스템에 대한 공유 표준을 만들기 위한 Agentic AI Foundation과 같은 이니셔티브는 가장 유망한 측면은 무엇이며, 실제 기업 운영에서 여전히 부족한 점은 무엇인가요?
표준화는 일반적으로 좋은 일입니다. AAIF는 에이전트 시스템이 동일한 언어를 사용하도록 하는 기본적인 작업을 수행할 수 있으며, 이는 통합을 더 쉽게 만들고, 시간이 지남에 따라 벤더 잠금을 줄여야 합니다.
그러나 나는 누구의 관점이 이러한 표준을 형성하는지에 대해 주의합니다. 대부분의 작업이 모델 작성자와 기술 스타트업에 의해 주도된다면, “표준”이 무엇을 쉽게 구축하거나 데모할 수 있는지에 최적화될 수 있으며, 대규모 조직이 실제로 에이전트를 안전하게 일일이 실행하는 데 필요한 것과 다를 수 있습니다.
실제 기업 운영에서, 간격은 커넥터보다는 제어와 관련이 있습니다. 에이전트가 액세스하고 변경할 수 있는 것, 높은 영향 동작에 대한 승인 워크플로, 감사 로그, 관찰 가능성이 있으며, 팀은 동작을 모니터링하고, 사고를 조사하고, 컴플라이언스를 증명할 수 있습니다. 기업은 또한 실제 운영을 위한 실용적인 표준이 필요합니다. 에지 케이스에 대한 테스트, 시스템의 변경, 레거시 도구 및 규제 데이터 환경에서 안전하게 동작을 일시 중지, 포함 또는 롤백하는 방법입니다.
따라서 이는 유망한 방향이지만, 기업의 요구 사항과 운영 위험 제어가 후순위로 처리되지 않는 한, 영향은 제한될 것입니다.
Kovant는 이미 대규모 북유럽 기업에서 상당한 수익을 창출했으며, 대부분 스타트업 단계에서 운영하고 있습니다. 오늘날 자율적인 AI 에이전트에 가장 준비가 된 비즈니스 함수 또는 워크플로는 무엇인가요?
실제 배포에서 볼 수 있는 바에 따르면, 오늘날 가장 “준비가 된” 워크플로는 반응적인 화이트칼라 작업으로 구성된 것입니다. 모니터링, 추적, 확인, 시스템 업데이트, 예외 처리, 여러 도구에서 운영을 유지하는 것입니다.
제조 및 더 넓은 기업 공급망에서, 이는 다음과 같은 영역에서 나타납니다.
- 조달/구매: 원자재 가용성, 지속 가능한 조달, 컴플라이언스 운영, 공급업체 선택(이중/다중 소싱 포함), 계약 관리, 공급업체 위험 관리, 입찰 관리.
- 생산: 용량 계획, 생산 스케줄링, 유지 보수 관리, 품질 관리, 병목 관리, 손실 방지.
- 창고 관리: 수신 및 검사, 재고 관리, 재고 회전(先入先出/先期先出), 주기적 카운팅/감사.
- 운송/물류: 운송 수단 및 운송업체 선택, 관세 선언/서류, 추적 및 가시성, 배출 모니터링, 무역 컴플라이언스.
- 판매 및 서비스: 제품 가용성, 재고 부족 방지, 판매/반품 관리, 소비자 행동 분석, 및售후 영역(수리, 종말 추적, 워크샵 운영, 서비스 계약 등).
기업이 임계 운영에 에이전트를 배포할 때, 어떻게하면 자율성과 인간의 감독을 균형 있게 조절하여 제어를 유지하면서 모든 것을 느리게 만들지 않을 수 있나요?
균형은 관리되는 자율성에 의해 결정됩니다. 에이전트가 낮은 위험 작업에서 빠르게 움직일 수 있도록 해야 하며, 위험 임계값을 넘을 때에는 인간에게 에스컬레이션해야 합니다.
많은 실패는 모델에 너무 많은 범위와 컨텍스트를 한꺼번에 주는 데에서 비롯됩니다. 나는 작업을 狹い 범위의 의사 결정으로 나누고, 각 단계에 명확한 권한과 제한된 영향 반경을 부여할 것을 권장합니다. 이를 통해 예측할 수 없는 행동을 줄이고, 성능을 더 쉽게 모니터링하고 개선할 수 있습니다.
그런 다음 세 가지를 결합합니다. 관찰 가능성, 동작 로그, 인간 게이트 키핑. 에이전트가 하는 모든 것이 추적 가능해야 하며, 발생한 일을 조사하고 빠르게 해결할 수 있어야 합니다. 높은 영향 또는 위험한 동작에 대해서는 워크플로에 인간 승인 단계를 넣어, 에이전트가 제안하고 준비할 수 있지만, 인간이 승인할 때까지만 실행할 수 있도록 합니다.
이는 모든 것을 빠르게 유지합니다. 인간 승인 단계에서만 약간 느려질 수 있지만, 이는 중요한 부분입니다. 인간은 모든 클릭을 감독하는 것이 아니라, 중요한 순간에만 관여합니다. 결과는 안전한 경우에 속도이고, 필요한 경우에는 감독입니다.
앞으로, 대규모 조직 내에서 자율적인 AI 에이전트의 역할은 어떻게 발전할 것으로 예상하나요? 그리고 에이전트 AI에서 성공하는 회사와 어려움을 겪는 회사를 구분하는 것은 무엇일까요?
앞으로 몇 년 동안, 자율적인 AI 에이전트는 흥미로운 실험에서 실제 운영 레이어로 대규모 조직 내에서 이동할 것입니다.它们는 운영, 고객 서비스, 재무, 인사 등에 사용될 것입니다. 신뢰성, 거버넌스, 감독이 개선됨에 따라, 우리는 기업이 분리된 파일럿에서 종단 워크플로에 걸친 에이전트 팀을 실행하는 것으로 전환할 것입니다.
가장 큰 변화는 속도, 민첩성, 규모, 효율성, 비용이 직접적인 경쟁 우위를 제공하는 것이 됩니다. 에이전트 AI를真正로 마스터한 기업은 운영 속도가 기본적으로 더 빠를 것입니다. 시장에 더 빠르게 반응하고, 변경에 대한 일반적인 운영 마찰 없이 반응할 수 있을 것입니다.
승리하는 것은 에이전트를 배포하는 것이 아니라, 이를 잘하는 것입니다. 관리되는 자율성, 강력한 관찰 가능성, 동작 로그, 의사 결정 범위를 좁히는 아키텍처가 핵심이 될 것입니다. 에이전트 AI를 핵심 운영 기능으로 다루며, 적절한 제어, 통합, 소유권을 갖춘 기업은 이를 통해 더 많은 것을 수행할 수 있을 것입니다. 이는 팀이 행정 작업에 매몰되지 않고, 성장과 혁신에 집중할 수 있도록 해줄 것입니다. 즉, 급진적인 속도와 효율성이 기업 규모에서真正한 경쟁 우위를 제공할 것입니다.
伟大的 인터뷰, 더 많은 정보를 원하는 독자는 Kovant를 방문해야 합니다.
