에이전트 AI가 기업을 어떻게 변화시키는가 – 포럼 벤처스 리포트에서 얻은 통찰

포럼 벤처스, 초기 단계의 B2B SaaS 펀드, 액셀러레이터, 및 AI 벤처 스튜디오는 오늘 자신의 최신 포괄적 리포트인 “2024: 기업에서 에이전트 AI의 부상“를 발표했다. 이 리포트는 에이전트 AI의 현재 상태와 미래 방향에 대한 자세한 분석을 제공하며, 비즈니스, 투자자, 및 스타트업 모두에게 유용한 통찰을 제공한다. 미국 전역의 100명 이상의 고위 IT 의사 결정자를 대상으로 한 설문조사와 주요 AI 혁신자와의 인터뷰에 기반하여, 이 리포트는 기업 환경에서 AI 에이전트의 채택을 둘러싼 도전, 기회, 및 전략적 우선순위를 강조한다.

에이전트 AI의 부상 – 인간의 개입 없이 복잡한 작업을 수행할 수 있는 자율적이고 AI를 기반으로 하는 시스템 – 기업 기술에서 중요한 변화를 나타낸다. 이러한 시스템은 종종 대형 언어 모델(LLM) 위에 구축되어 있으며, 워크플로우 자동화, 수동 작업 감소, 효율성 향상을 통해 비즈니스 운영을 변革할 수 있는 잠재력을 가지고 있다. 그러나 이러한 잠재력에도 불구하고, 기업 수준에서의 AI 에이전트의 채택은 여전히 초기 단계에 있으며, 많은 조직이 기술이 성숙할 때까지 주의 깊은 접근 방식을 취하고 있다.

리포트는 AI 채택 준비도에서 불균형을 나타낸다. 기업 리더십 팀 중 29%만이 기업 전체 AI 채택을 위한 근시안적인 비전(1-3년)을 가지고 있는 반면, 더 큰 부분인 46%는 더 긴 기간(3년 이상)에 이 수준의 채택에 도달할 것으로 예상한다.

포럼 벤처스의 설문조사에 따르면 48%의 기업이 이미 AI 에이전트 시스템을 채택하기 시작했으며, 추가로 33%가 이러한 솔루션을 적극적으로 탐색하고 있다. 이는 운영 개선에 대한 기대와 함께 AI 에이전트가 가져올 수 있는 주요 도전을 해결하는 데 도움이 될 것이다.

AI 에이전트 채택의 중심 장벽은 신뢰이다

리포트의 핵심 발견 중 하나는 신뢰가 기업에서 AI 에이전트를 널리 채택하는 데 가장 큰 장벽임을 강조한다. 데이터 개인 정보 보호, AI 출력의 정확성, 이러한 시스템의 전반적인 신뢰성에 대한 우려가 주요 장애물로 지적되었다. 49%의 설문 응답자는 성능(14%), 데이터 개인 정보 보호(10%), 정확성(8%), 윤리 문제(5%), 및 너무 많은 불확실성(12%)과 관련된 우려를 AI 에이전트를 채택하지 않는 주요 이유로 지적했다.

Jonah Midanik, 포럼 벤처스의 일반 파트너 및 COO는 기업과 AI 시스템 사이에 존재하는 신뢰 격차를 강조한다. “신뢰 격차는 엄청나다. AI 에이전트는 작업을 놀라운 효율로 수행할 수 있지만, 그 출력은 통계적 확률에 기반을 두고 있으며, 내재된 진실이 아니다.”

AI 분야의 주요 인물인 Sharon Zhang, 퍼스널 AI의 공동 창립자 및 CTO, 및 Tim Guleri, 시에라 벤처스의 매니징 파트너는 투명성, 보안, 및 규정 준수가 이 신뢰 격차를 메우는 데 핵심적인 요소가 될 것이라고 강조한다. Zhang의 AI 기반 직원 “ツイン” 개발 작업은 특히 규제 산업에서 개인 정보 보호 우선 솔루션의 중요성을 강조한다. Zhang은企業이 신뢰를 구축하는 데 있어 사용자 데이터를 분리하여 더广泛한 훈련에 사용되지 않도록 하는 것이 중요하다고 설명한다.

Tim Guleri는 추가로, “기업은 자신의 데이터가 안전하게 유지되고 AI 에이전트가 자신의 가치와 정책에 부합한다는 확신이 필요하다. 이러한 보장이 없으면, 비즈니스들은 특히 이러한 시스템이 더 자율적으로 되는 경우에 완전히 AI 에이전트를 배포하는 것을 주저할 것이다.”

이러한 우려에 대한 대응으로, 리포트는 기업 고객との 신뢰를 구축하기 위한 세 가지 중요한 접근 방식을 제시한다:

1. 투명성을 우선시하라: 기업은 AI 에이전트가 어떻게 결정하는지 이해하고 싶어한다. 결정 과정에 대한 명확한 문서화와 설명 가능한 AI(XAI) 프레임워크를 제공하는 것이 필수적이다. 감사 추적을 정기적으로 업데이트하고 데이터 흐름 투명성을 보장하면 신뢰를 더욱 강화할 수 있다.
2. 규정 준수 및 보안을 보장하라: 보안은 주요 우려 사항이며, 31%의 응답자가 AI 에이전트에 투자할 때 가장 중요한 요소로 보안을 지적했다. 스타트업은 강력한 데이터 보호 조치를 통합하고 GDPR, CPRA, HIPAA와 같은 규정에 준수해야 한다.
3. 인간-루프-인-루프(HITL) 프레임워크를 구축하라: 특히 규제 산업에서 인간의 감시를 통해 HITL 프레임워크를 사용하는 것이 중요하다. 리포트에 따르면 23%의 응답자가 고위험 환경에서 AI 에이전트에 대한 인간의 통제를 유지하는 필요성을 강조했다. AI 솔루션은 완전 자동화에서 “공동 조종” 모드까지 다양한 정도의 인간 통제를 제공해야 한다.

스타트업을 위한 AI 에이전트 채택의 기회

신뢰와 규정 준수에 대한 도전에도 불구하고, 기업을 위한 AI 에이전트를 개발하는 스타트업은 상당한 기회를 잡을 수 있다. 51%의 의사 결정자는 특히 더 큰 기성 기업이 제공하지 않는 맞춤형 혁신적인 솔루션을 제공하는 스타트업과 협력하는 것에 대해 열려 있다.

리포트는 기업에서 AI 에이전트를 채택하는 것을 목표로 하는 스타트업을 위한 로드맵을 제시한다:

1. 기업을 교육하라: 스타트업이 직면하는 주요 도전 중 하나는 기업 고객에게 에이전트 AI의 전체 잠재력을 교육하는 것이다. 많은 조직은 여전히 AI 에이전트를 더 단순한 도구인 채트봇과 혼동한다. T
2. 방어력을 입증하라: 창립자는 자신의 솔루션의 방어력을 입증해야 한다. 이는 독점적 데이터, 지적 재산, 또는 깊은 산업 전문성을 강조함으로써 달성할 수 있다. 기업은 혁신적이고 장기적으로 방어 가능한 솔루션을 찾고 있으며, 이는 고유한 깊이와 독점적 데이터 세트로 구별된다.
3. 깊은 전문성을 보여라: 특정 산업(예: 금융 서비스, 보험, 헬스케어)용으로 설계된 솔루션인 수직 AI 에이전트에 전문성을 가진 스타트업은 더 성공할 가능성이 있다. Sam Strickling, 포티브의 시니어 디렉터는 스타트업이 특정 산업의 산업 특정 도전을 해결하는 방법을 보여주는 깊은 전문성을 입증할 것을 조언한다.
4. 합성 데이터를 사용하여 잠재력을 입증하라: 기업 데이터에 대한 액세스는 스타트업이 판매 프로세스 초기에 확보하기 어려울 수 있다. 기업이 제공할 데이터를 모방하는 합성 데이터를 사용하여 스타트업은 자신의 솔루션의 잠재력을 입증하고 초기 데이터 공유 및 규정 준수에 대한 우려를 극복할 수 있다.
5. 신속한 확장 가능성을 보여라: 기업은 다양한 부서에서 신속하게 확장할 수 있는 솔루션을 가치 있게 여긴다. Tim Guleri는 모듈식 아키텍처를 구축하여 기존 시스템에 쉽게 통합할 수 있는 솔루션을 개발하는 것이 중요하다고 강조한다. 또한 유연한 API를 제공하고 공통의 기업 플랫폼과 호환되는지 확인하는 것이 중요하다.

에이전트 AI의 미래에 대한 예측

에이전트 AI가 계속 진화함에 따라, 리포트는 비즈니스 운영과 기술의 미래를 형성할 몇 가지 주요 트렌드를 예측한다:

• 전문화 및 코드 생성 시스템: David Magerman, 디퍼렌셜 벤처스의 파트너는 AI 에이전트가 고도로 전문적인 도구로 발전하여 복잡한 작업인 코드 생성을 처리하고 특정 환경에서 전문가 문제 해결자로 작동할 수 있을 것이라고 예측한다.
• 합성 워크포스의 등장: Sam Strickling은 합성 워크포스의 부상, 즉 AI 에이전트가 주니어 직원들이 수행하는 작업을 자율적으로 수행하는 것을 예측한다. 이러한 에이전트는 더 복잡한 프로젝트에서 협력할 수 있으며, 일부 에이전트는 다른 AI 에이전트 팀을 관리할 수도 있다.
• 멀티 에이전트 네트워크 및 오케스트레이션: Sharon Zhang 및 Taylor Black는 AI 에이전트가 협력하여 단일 에이전트가 달성할 수 없는 복잡한 목표를 달성하는 멀티 에이전트 네트워크의 개발을 예측한다. 이러한 네트워크는 비즈니스에서 협력적 문제 해결을 접근하는 방식을 혁신할 수 있다.
• 작업 기반에서 결과 기반으로: Jonah Midanik은 작업 기반 시스템에서 결과 기반 시스템으로의 전환을 예측한다. 여기서 AI 에이전트는 개별 작업을 지원하는 것보다 포괄적인 솔루션을 제공한다. 이는 비즈니스 운영에서 기본적인 변화를 대표한다.
• 真正한 차별화가 나타날 것: AI 에이전트 공간에서 경쟁이 격화함에 따라, Tim Guleri는真正한 차별화가 다음 12-18개월 내에 나타날 것이라고 믿는다. 이 시점에는 스타트업이 성공적인 배포를 통해 실제 가치를 입증하기 시작할 것이다. 이것은 현재의 하이프 사이클의 끝을 표시하고 더广泛한 기업 채택으로 이어질 것이다.

결론: 앞으로 기대되는 길

포럼 벤처스의 리포트 “2024: 기업에서 에이전트 AI의 부상“의 발표는 전 세계 비즈니스에 대한 에이전트 AI의 변革적 잠재력을 강조한다. 신뢰, 보안, 확장 가능성에 대한 도전이 남아있지만, 앞으로는 기업과 스타트업 모두에게 흥미로운 기회가 있다.

AI 에이전트가 발전하여 고도로 자율적인 시스템이 되면서, 비즈니스들은 효율성의 증가, 운영 비용의 감소, 그리고 복잡한 작업을 대규모로 처리할 수 있는 능력을 얻을 수 있을 것이다. 그러나 채택은 신뢰의 장벽과 실제 가치의 입증을 통해 결정될 것이다.

스타트업을 위한 리포트는 기업 AI 랜드스케이프를 탐색하기 위한 실행 가능한 전략을 제공한다. 투명성과 규정 준수를 통해 신뢰를 구축하고, 깊은 전문성과 신속한 확장 가능성을 보여주는 것이다. 올바른 접근 방식을 취하면 스타트업은 에이전트 AI의广泛한 채택을 주도하고 미래의 작업을 형성할 수 있다.