펀딩

피들러 AI, 자율 AI를 위한 제어 인프라 구축을 위한 3,000만 달러의 시리즈 C 투자 유치

Antoine Tardif
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트자율 에이전트는 하나의 워크플로가 여러 모델과 서비스에 걸쳐 이루어지기 때문에 전통적인 모니터링을 무력화합니다.
더 보기
  • 자율 에이전트는 하나의 워크플로가 여러 모델과 서비스에 걸쳐 이루어지기 때문에 전통적인 모니터링을 무력화합니다.
  • Fiddler는 단일 모델 관측 도구가 아니라 중립적인 제어 평면으로 자리매김합니다.
  • 거버넌스는 혁신을 제약하는 요소에서 AI를 책임감 있게 배포하기 위한 전제 조건으로 전환되고 있습니다.

피들러 AI는 RPS Ventures가 주도하는 시리즈 C 투자에서 3,000만 달러를 유치했다. 기존 투자자로는 Lightspeed Venture Partners, Lux Capital, Insight Partners, Capgemini Ventures, Dallas VC, Dentsu Ventures, 및 Mozilla Ventures가 참여했으며, 새로운 전략적 투자자로는 LG Technology Ventures, Benhamou Global Ventures, 및 LDV Partners가 참여했다. 이 투자로 피들러의 총 투자금은 1억 달러에 달한다.

신규 자금은 피들러가 복합 AI 시스템을 위한 중립적인 제어 플레인으로 발전하는 것을 지원할 것이다. 이는 기업들이 비즈니스 핵심 워크플로우에 걸쳐 자율 에이전트를 더욱 많이 배포함에 따라 발생한다.

AI 에이전트를 둘러싼 거버넌스 격차

기업 AI는 새로운 단계에 들어섰다. 좁은 범위의 예측 모델에서 시작해, 추론하고 도구를 호출하며 외부 API와 상호작용하고 제한된 인간 감독 아래에서 결정을 내릴 수 있는 에이전트 시스템으로 진화했다. 이러한 시스템은 강력한 효율성을 제공하지만 새로운 위험도 도입한다.

전통적인 AI 모니터링 도구는 결정적 모델을 위해 설계되었으며, 입력과 출력이 잘 정의되어 있다. 자율 에이전트는 이러한 패러다임을 깨뜨린다. 하나의 워크플로우는 여러 모델, 의사 결정 체인 및 제3자 서비스를 포함할 수 있으며, 각 서비스는 불투명성과 잠재적인 오류를 추가한다.무언가가 잘못되면 시스템 전체에서 책임을 추적하기가 어려워지거나 불가능해진다.

이 능력과 제어 사이의 격차는 현재 대규모 조직 내에서 에이전트 AI를 확장하는 주요 장벽 중 하나가 되었다. 특히 설명 가능성과 감사 가능성이 필수적인 규제 환경에서 더욱 그렇다.

모델 관찰 가능성에서 시스템 수준 제어까지

피들러의 플랫폼은 AI 행동의 시스템 수준 관점을 중심으로 설계되었다. 개별 모델을 분리하여 모니터링하는 대신, 예측 모델, 생성 AI 및 자율 에이전트 전반에 걸쳐 원격 측정, 평가, 지속적인 모니터링 및 정책 집행을 위한 통합 계층을 제공한다.

이 회사는 이를 제어 플레인으로 자리매김한다. 즉, 중립적인 시스템 레코드로, AI 시스템이 무엇을 하는지, 왜 그렇게 행동하는지, 그리고 내부 정책 및 외부 규정에 따라 행동하는지 캡처한다. 이는 기업이 실험에서 생산 배포로 이동할 때 중요하다. 이때 AI의 결정은 실제 금융, 법적 및 평판상의 결과를 초래한다.

개발자 디버깅에만 집중하거나 외부 모델에 평가를 아웃소싱하는 포인트 솔루션과 달리, 피들러는 내장된 신뢰 메커니즘을 강조한다. 이러한 메커니즘은 기업 환경 내에서 직접 작동할 수 있다. 목표는 조직에 일관된 감독을 제공하면서, 조각난 거버넌스 도구를 함께 연결하도록 강요하지 않는 것이다.

기업이 지금 움직이는 이유

AI 거버넌스의 시급성은 과장된 기대보다는 위험에 노출되는 정도에 더 크게 좌우된다. 자율 에이전트는 고객과 상호 작용하고, 가격을 영향하고, 거래를 승인하며, 규제 및 윤리적 의미를 가진 추천을 한다.

이러한 시스템의 실패는 벌금, 소송 또는 브랜드 손상으로 이어질 수 있다. 특히 금융, 의료, 보험 등과 같은 부문에서 더욱 그렇다. 따라서 기업은 에이전트를 자신감 있게 배포하면서 의미 있는 제어를 유지할 수 있는 인프라를 찾고 있다.

피들러는 이러한 환경에서 강한 채택과 지난 18개월 동안 빠른 매출 성장을 보고했다. AI 에이전트 보안 및 위험 관리 부문에서 인정을 받은 것은, 관찰 가능성과 거버넌스가 핵심 요구 사항이 되고 있음을 보여준다.

설명 가능성 작업에 대한 수년간의 노력

2018년에 설립된 피들러는 설명 가능성, 근본 원인 분석 및 책임 있는 AI에 초점을 맞추었다. 이러한 분야는 초기 기계 학습 채택 시기에 종종 부차적인 관심사로 간주되었다. 이러한 기반은 이제 복합 AI 시스템으로의 확장에 기초한다.

단일 모델이 특정 방식으로 행동한 이유를 이해하는 것은 충분히 어렵다. 다중 구성 요소로 구성된 자율 시스템이 특정 행동을 한 이유를 이해하는 것은 훨씬 더 어렵다. 이는 전체 워크플로우에 걸쳐 심층 계측과 맥락 분석을 필요로 한다. 피들러의 플랫폼은 이러한 컨텍스트를 실시간으로 제공하여, 팀이 문제가 확대되기 전에 진단할 수 있도록 한다.

AI 생태계 전반에 걸친 확장

이 시리즈 C 투자로, 피들러는 AI 생태계 전반에 걸쳐 더 깊은 통합을 계획하고, 거버넌스가 불가결한 산업에서 존재를 확대할 계획이다. 기업이 자체 모델, 기초 모델 및 제3자 도구의 혼합을 채택함에 따라, 벤더 중립적인 제어 계층에 대한 필요성이 더 커진다.

특정 모델 또는 프레임워크에 대한 잠금을 피하기 위해, 피들러는 AI 스택 위에 위치하여, 기본 시스템이 어떻게 진화하든 상관없이 일관된 감독을 제공한다.

AI 인프라의 미래를 위한 시그널

피들러의 투자 유치는 기업 AI의 더 넓은 변화를 강조한다. 자율성이 증가함에 따라, 가치 창출은 스택의 상위 레벨로 이동하지만, 위험도 증가한다. AI 채택의 다음 단계는 더 지능적인 모델만으로 정의되지 않을 것이다. 또한 대규모에서 신뢰할 수 있고 감사 가능하며 안전하게 운영할 수 있는 인프라도 포함될 것이다.

클라우드 컴퓨팅이 오케스트레이션, 모니터링, 보안 계층을 필요로 했던 것처럼, 자율 AI는 복잡한 시스템 전반에 걸쳐 가시성과 시행을 제공하는 제어 플레인을 필요로 한다. 이러한 의미에서, 거버넌스는 더 이상 혁신의 제약이 아니다. 현실 세계에서 AI를 책임 있게 배포하는 데 필요한 전제 조건이 되고 있다.

앙투안은 Unite.AI의 비전 있는 리더이자 창립 파트너로, AI와 로봇공학의 미래를 만들어 가고 발전시키는 데 변함없는 열정을 쏟고 있습니다. 여러 기업을 창업한 그는 AI가 전기만큼 사회를 크게 변화시킬 것이라고 믿으며, 혁신적인 기술과 범용 인공지능(AGI)의 잠재력에 관해 자주 열정적으로 이야기합니다.

미래학자로서 이러한 혁신이 세상을 어떻게 바꿀지 탐구하는 데 전념하고 있습니다. 또한 미래를 새롭게 정의하고 산업 전반을 변화시키는 첨단 기술에 대한 투자에 초점을 맞춘 플랫폼인 Securities.io의 설립자입니다.