액션AI, 기업용 AI에 책임성과 신뢰성을 가져오기 위해 1,000만 달러 투자 유치

기업의 인공지능採用은 급속히 가속화되었지만, 파일럿 프로젝트를 넘어선 확장은 여전히 持續적인 도전이다. 주요 이유는 신뢰이다. 직원들은 점점 더 많이 일상 업무에서 인공지능 도구를 사용하고 있지만, 기업은 핵심 운영에서 정확성과 책임성이 중요할 때까지 여전히 인공지능 도구에 의존하기를 주저한다.

이 간격을 메우기 위해 액션AI가 등장했다. 이 회사는 미션クリ티컬한 기업용 인공지능을 위한 인프라를 구축하기 위해 1,000만 달러의 시드 라운드를 유치했다.

인공지능採用이停滯하는 이유

광범위한 실험에도 불구하고, 대부분의 기업 인공지능 이니셔티브는 프로덕션에 도달하지 못한다. 내부 데이터는 종종 확인되지 않으며, 출력은 일관성이 없을 수 있으며, 오류, 특히 hallucinations은 실제 운영 위험을 초래할 수 있다.

연구에 따르면, 대부분의 직원이 이미 업무에서 인공지능 도구를 사용하고 있지만, 많은 경우 정확성을 확인하지 않는다.同時에, 많은 기업 인공지능 사용 사례는 여전히 파일럿 모드에 고착되어 있다. 문제는 인공지능이 능력 있는지 여부가 아니라, 신뢰할 수 있는지 여부이다.

이것은 금융, 보험, 의료, 물류 등에서 특히 문제가 된다. 여기서 실수는 규제, 재정, 또는 법적 결과를 초래할 수 있다.

인공지능을 위한 신뢰성 레이어 구축

액션AI의 접근 방식은 신뢰성을 후속 고려 사항이 아닌 기초 레이어로 다루는 것이다. 이 플랫폼은 인공지능 시스템을 전체 수명 주기 동안 모니터링하고 평가한다. 즉, 훈련 데이터에서 최종 출력까지이다.

모델 성능에만 집중하는 대신, 시스템은 인공지능 스택의 각 단계를 통해 데이터가 흐르는 방식을 매핑한다. 이것은 팀이 실패가 발생하는 정확한 위치를 식별할 수 있도록 해준다. 즉, 입력 수준, 처리 중, 또는 출력 단계에서 발생하는지 여부이다.

플랫폼의 핵심 구성 요소 중 하나는 실시간으로 문제를 디버깅하는 능력이다.何か가 잘못되면, 팀은 빠르게根本 원인을 분리하고 에지 케이스를 처리하기 전에 더 큰 문제로 확대할 수 있다.

설명 가능한 예외 도입

플랫폼의 더 독특한 요소 중 하나는 설명 가능한 예외(ExEx)라는 시스템이다. 인공지능 시스템이 불확실한 출력을 내보내지 않도록 강제하는 대신, ExEx는 모델이 확신이 없는 경우를 감지하고 작업을 인간에게 라우팅한다.

이 접근 방식이 주목할 만한 것은, 단순히 문제를 플래그하는 것이 아니라, 이유를 제공한다는 것이다. 인간 검토자는 인공지능이 왜 불확실했는지 설명하는 컨텍스트를 받게 되며, इसस로 더 빠르고 정보에 기반한 결정을 내릴 수 있다.

이것은 작업을 느리게 하는 것이 아니라, 안전 장치로 작동하는 구조화된 인간-인-루프 워크플로우를 생성한다. 불확실하거나 고위험 출력이 시스템을 통과하지 못하도록 보장한다.

모니터링에서 지속적인 제어로

배포를 넘어, 플랫폼은 생산에서 인공지능 성능을 계속 모니터링한다. 새로운 데이터, 변경된 조건, 또는 업데이트된 지시에 대한 시스템의 반응을 추적한다.

성능이 떨어지거나 이상이 나타나면, 시스템은 자동으로 플래그를 설정하여, 조직이 시간이 지남에 따라 일관성을 유지하도록 도와준다. 이것은 인공지능 모델이 새 입력에 노출될 때 열화되거나 예측할 수 없는 방식으로 행동할 때 특히 중요하다.

목표는 정적인 인공지능 배포에서 지속적으로 관리되는 시스템으로 이동하는 것이다. 신뢰성을 희생하지 않고 적응한다.

액션AI는 정밀도가 협상할 수 없는 분야에 중점을 두고 있다. 이것은 금융 서비스, 제조, 소매, 보험, 공급망, 법적 시스템을 포함한다.

이러한 환경에서, 작은 오류도 연쇄적인 문제를 일으킬 수 있다. 감독, 추적 가능성, 구조화된 예외 처리를 도입함으로써, 플랫폼은 전통적으로 인공지능이 너무 위험하다고 간주되는 상황에서 인공지능을 가능하게 한다.

책임 있는 인공지능으로의 전환

설립자 미리엄 하트에게 핵심 문제는 인공지능 성능을 개선하는 것이 아니라, 시스템을 처음부터 책임 있게 만드는 것이다.

회사의 아키텍처는 시스템에 입력되기 전에 데이터를 검증하는 것에 중점을 둔다. 실행 중에 동작을 모니터링하고, 출력이 설명 가능하고 감사할 수 있도록 보장한다. 이것은 조직이 실험을 넘어선 완전한 배포로 이동할 수 있도록 하는 종단 간 가시성이다.

이 펀딩 라운드의 더广い 의미는 기업이 인공지능을 생각하는 방식의 전환이다. 인공지능을 기존 시스템에 추가된 도구로 다루는 대신, 기업은 이를 핵심 인프라로 간주하기 시작한다. 즉, 다른 미션クリ티컬한 시스템과 동일한 표준을 충족해야 하는 것이다.

액션AI는 그 교차점에서 자리를 잡고 있다. 여기서 성능만으로는 더 이상 충분하지 않다. 신뢰성, 투명성, 제어력이 기업용 인공지능採用을 위한 결정적인 요구 사항이 된다.

이 요소가 표준화될 수 있다면, 인공지능은终于 파일럿에서 완전히 통합된 운영으로 이동할 수 있다.