기대 이상: AI 에이전트와 작업의 다음 장

AI 에이전트 또는 자율 에이전트는 초기 단계에 있습니다. 매우 이른 – 첫 번째 이닝의 끝이 일찍. 이 분야는 획기적인 연구부터 개념 증명, 실제 적용에 이르기까지 혁신으로 활기를 띠고 있으며 모두 AI의 엄청난 잠재력을 암시합니다. 

자율 에이전트가 단순한 작업 자동화를 넘어 워크플로우 재설계, 복잡한 시나리오 시뮬레이션, 다양한 프로세스에서 인간 개입의 필요성 감소에 이르기까지 확장된 기능을 통해 모든 산업을 변화시킬 것이라는 데에는 의심의 여지가 없습니다. 우리는 에이전트가 대규모 시뮬레이션을 실행하고 마케팅 캠페인을 재설계하거나 복잡한 R&D 테스트 프로세스를 자동화할 수 있는 (가까운) 미래를 보고 있습니다.

보스턴 컨설팅 그룹 (BCG) 진화적 도약을 강조하다 LLM(대형 언어 모델)부터 엔드투엔드 작업을 실행하고, 결과를 모니터링하고, 적응하고 도구를 자율적으로 사용하여 목표를 달성하도록 설계된 자율 에이전트에 이르기까지 다양합니다. 이는 지속적인 인간의 감독 없이 독립적으로 작동할 수 있는 진정한 인공 지능을 향한 중요한 단계를 나타냅니다. 

측면에서 시장 규모자율 AI와 자율 에이전트의 가치는 4.8년에 2023억 달러로 평가되었으며, 43년에서 2023년 사이에 2028% 이상의 CAGR을 기록하여 28.5억 달러에 이를 것으로 추정됩니다. 우리가 패러다임 전환의 정점에 있다는 것은 분명합니다. 기대감 가득한 무대, 흥분, 회의론, 그리고 실용적인 평가. 이러한 변화는 단지 기술 발전에 관한 것이 아닙니다. 이는 업무, 생산성 및 혁신에 대한 우리의 접근 방식을 재정의하는 것입니다. 거의 모든 투자자, 창립자, 개발자 및 기술 애호가는 이 기술이 우리가 평생 동안 그리고 그 이후에 일하는 방식에 미칠 영향을 이해하고 운영 및 전략적 목표에 대한 영향을 평가하려고 노력하고 있습니다. 

그러나 현재로서 우리는 이것이 야기할 대규모 이동의 규모를 완전히 이해할 수 있는 능력이 부족합니다. 우리가 할 수 있는 일은 추측뿐이다. 이 기사는 바로 자율 에이전트의 전개 역학과 그것이 창업자, 투자자 및 더 넓은 경제에 미치는 영향에 대한 나의 추측입니다. Forum Ventures가 이 공간에 대해 어떻게 생각하고 투자하고 있는지, 그리고 제공하는 방법에 대해 이야기하겠습니다. 시장 지도 우리가 믿는 회사가 탐사를 주도하고 있다고 믿습니다. 

현재 우리의 위치

연구 및 개념 증명의 상당한 발전에도 불구하고 우리 모두는 여전히 AI 에이전트의 전체 기능을 활용하는 방법을 이해하고 계획하려고 노력하고 있습니다. 지금까지 세 가지 추세가 합류했습니다.

1. AI 숙련도와 효율성이 향상되어 가능한 범위가 확장됩니다. 
2. 예를 들어 ChatGPT 4.0과 같은 실행 기능의 비용이 감소하면 더 많은 사람들이 AI 에이전트에 더 쉽게 접근할 수 있게 되고 이 기술의 폭넓은 채택과 전반적인 수용이 가능해집니다.
3. 오픈 소스 여부에 관계없이 AI에 대한 액세스가 민주화되어 더 다양한 주체가 AI 솔루션을 탐색하고 구현할 수 있게 되어 혁신의 속도가 빨라집니다.

여느 신기술과 마찬가지로, 특히 이와 같이 큰 변화에는 해결 과정에 있는 여러 가지 과제가 있습니다. 상위 2개는 다음과 같습니다.

1. 안전성과 정확성

AI 에이전트의 안전하고 윤리적인 배포를 보장하는 데 필요한 인프라를 개발하는 데 점점 더 중점을 두고 있습니다. 많은 산업과 기업에서는 오류가 용납되지 않습니다. LLM의 환각 비율이 0.1%에 불과하더라도 중요한 프로세스에서는 결코 신뢰할 수 없으며 10단계 또는 100단계 프로세스에서는 이 오류율이 훨씬 낮아야 합니다. 이 문제를 해결하는 것이 널리 채택되는 데 가장 중요하며, 많은 기업이 LLM을 기술 스택의 일부로 또는 완전히 새로운 운영 방식으로 채택하기 전에 기다리고 있습니다. 

AI 통합에 대한 책임감 있는 접근 방식을 육성하기 위해 관찰 가능성 및 사용자 권한 부여를 통해 정확성과 안전성을 모니터링하는 도구와 윤리적 프레임워크가 확립되고 있습니다. 우리는 몇몇 회사가 이 일을 잘하는 것을 보았습니다. 프라이빗AI 그들 중 하나가 되는 거죠. 그들은 추론을 사용하여 회사가 개인 데이터가 유출되지 않도록 교육하지 않도록 합니다. 우리는 또한 환각을 방지하여 기업이 생성 AI 사용을 더 빠르게 배포할 수 있도록 지원하는 자율 AI 에이전트인 SafeguardAI와 같은 새로운 회사가 시장에 출시되는 것을 매우 기쁘게 생각합니다.

또한 LLM의 정확성 평가 및 개선을 지원하기 위해 자동 평가 지표, 인간 평가 프레임워크 및 진단 데이터 세트와 같은 도구가 개발되고 있습니다. 이러한 도구는 연구원과 개발자가 LLM의 강점과 약점을 식별하고 해당 분야의 추가 발전을 안내하는 데 도움이 됩니다.

2. 인간-AI ​​상호작용

여기서 문제는 인간이 자율적인 소프트웨어와 어느 정도 상호 작용해야 하는가입니다. 충분한 인간 통제 없이 작동하는 AI 시스템의 잠재적 위험, 즉 자율성이 너무 지나친 것에 대한 우려가 있습니다. 그러나 우리는 또한 인간이 루프에 얼마나 참여하기를 원하는지, 그리고 어떤 수준의 인간 상호 작용이 편향을 제한하고 인간 오류 가능성을 줄이면서 더 많은 안전을 제공하는지 파악해야 합니다. 어떤 종류의 합리적인 규모에서든 이에 대한 좋은 답은 아직 없습니다.

기회주의적 관점에서 볼 때, 자율 소프트웨어가 모니터링되고 관찰되는 방식으로 인간의 통제 내에서 작동하여 인간이 잠재적으로 "치명적인" 일이 훨씬 더 큰 일이 발생하는 것을 막을 수 있도록 하는 새로운 패러다임을 정의할 수 있기를 바랍니다. 경제의 플래시 충돌 버전입니다. 제 생각에는 이것을 구축할 수 있는 사람들이 승리하고 변혁의 기회를 제공할 것입니다. 

업무 중심 프로세스에서 목표 중심 프로세스로의 전환

AI 에이전트의 손길이 닿지 않은 분야나 업무 분야는 없을 것이며, 가까운 미래에 많은 변화가 일어날 것입니다. 내 생각엔, 오AI 에이전트가 가져올 가장 중대한 영향 중 하나 과업지향에서 목표지향 프로세스로의 전환이다. 오늘날에는 "AI 에이전트에 대한 논평을 써주세요"와 같은 내용을 컴퓨터에 입력하면 컴퓨터가 사용자에게 무언가를 제공하고 사용자는 이를 실행합니다. 이는 매우 작업 지향적인 프롬프트이며 사용자가 개인의 목표와 목소리 톤에 따라 에이전트를 교육해야 합니다. 그러나 이는 이것으로 제한되므로 출력은 훈련 입력의 품질과 여전히 인간 행동에 크게 의존하는 사용자의 사전 결정된(제한적일 수 있는) 목표에 따라 크게 결정됩니다. 

AI 에이전트의 활용도가 낮은 힘은 목표 지향적 작업의 힘에 있습니다. 미래는 더 이상 기계적인 단계별 프로세스 설명이나 프로세스에 대한 복잡하고 신속한 엔지니어링이 아닙니다. 기업과 리더는 자율적인 규칙 기반 프로세스를 구축하고 사용하는 방법에 대한 생각을 전환해야 합니다. 이를 통해 목표가 규정되고 에이전트는 적절한 인간 개입을 통해 해당 결과를 달성하기 위한 최선의 경로를 결정합니다. 이에 대한 예는 "우리 연사 중 한 명으로부터 AI가 미국 의료 시장에 어떻게 침투하고 있는지 알아보고 싶은 100명의 전문가와 함께 뉴욕시에서 열리는 이벤트를 예약해 주세요"일 수 있습니다. 이런 경우 AI는 단순한 작업이 달성할 수 있는 제한된 가능성의 범위를 넘어 전략적 사고를 운용하는 데 활용될 것입니다.

이는 완전히 새로운 사고 방식과 작업 방식입니다. 현재 우리가 컴퓨터를 사용하여 추구하는 목표는 거의 없습니다. 크게 다르게 추구하지 않을 것입니다. 이는 우리가 방향을 잡는 방식과 업무를 구상하고 실행하는 방식에 근본적인 변화가 될 것입니다. 

수익화 및 시장 역학

AI가 비즈니스 모델에 더욱 통합되면서 전통적인 수익 창출 전략이 재평가되고 있습니다. 예를 들어 현재 엔터프라이즈 소프트웨어에서는 일반적으로 고객이 시트와 사용량을 구매합니다. 소비자 측면에서 사람들은 인앱 구매를 합니다. 우리의 가설은 점점 더 소프트웨어 회사가 도구보다는 결과를 판매할 수 있도록 변화할 것이라는 것입니다. 사람과 기업이 결과에 대한 대가를 지불할 것인가? 그들의 목표가 달성되려면? 아직 확실하지 않습니다. 그러나 우리는 이것이 가치 기반 참여를 향한 보다 광범위한 추세를 반영한 ​​것이라고 봅니다. 그러나 특히 AI 기술의 계산 집약적인 특성을 고려할 때 수익성을 예측하고 비용을 관리하는 데 어려움이 있습니다. 

가장 초기 단계에서 누구에게 무엇을 투자할지 결정

우리가 이 초기 단계에 투자할 때마다 창업자는 우리가 하는 가장 큰 베팅 중 하나입니다. 즉, 창업자 시장 적합성과 창업자 성격을 모두 살펴보는 것입니다. AI 에이전트를 사용하면 이 렌즈가 훨씬 더 중요해집니다. 왜냐하면 알려지지 않은 것이 너무 많기 때문에 오늘 구축된 솔루션이 내일 구축되는 솔루션이 아닐 가능성이 높지만 창립자는 그대로 유지될 것이기 때문입니다. 그래서 우리는 창업자 시장 적합성뿐만 아니라 문제에 대한 애착, 기존 패러다임과 다르게 문제 세트를 보는 방식, 미지의 것을 기꺼이 수용하려는 의지, 가소성과 유연성을 갖추고 있는지 살펴봅니다. 이만큼 유동적인 시장에 보조를 맞추세요. 

창업자 이후에 우리는 시장을 살펴보고, 총 접근 가능한 시장이 크고 1억 달러 수익 기회를 얻을 수 있는 신뢰할 수 있는 경로가 있는지 살펴봅니다. 스타트업 솔루션/도구가 기존 방식에 비해 단계적 기능 개선을 제공하는 한, 우리는 proptech 및 공급망과 같은 레거시 시장과 핀테크 및 전자상거래와 같은 보다 미래 지향적이고 유연한 시장 모두에 열려 있습니다.

AI 에이전트 솔루션을 평가할 때 세 번째 초점은 도구가 AI 중심 소프트웨어 미래 내에서 호환되는지 여부입니다. 즉, 제안된 솔루션은 해당 시장 내에서 미래의 소프트웨어 환경 및 스택을 보는 방법과 원활하게 통합되고 향상될 것입니다.

아직은 비용 기반 예측을 제대로 할 수 없습니다. 현재 AI 비즈니스는 SaaS 비즈니스보다 근본적으로 수익성이 낮습니다. AI 시스템의 데이터 처리 및 분석과 관련된 비용은 빠르게 누적될 수 있습니다. 이러한 유형의 평가를 수행하려면 먼저 AI 효율성을 향상하고 운영 비용을 줄이는 단기적인 진전이 필요합니다. 이상적으로는 이를 반영하는 발전이 있습니다. 무어의 법칙 AI 부문에서는 투자 증가로 인해 전력 및 칩 비용이 모두 절감됩니다. AI가 혁신적일 뿐만 아니라 경제적으로 지속 가능한 균형을 찾을 수 있다면 우리는 황금입니다. 하지만 아직 알려지지 않은 것이 너무 많고 우리 대부분은 추측을 하고 있습니다.

가능성의 '멋진 신세계'

대부분의 사람들은 ChatGPT의 도입을 AI의 "iPhone 순간"으로 간주합니다. 하지만 아직은… 거기까지는 아닌 것 같아요. 현재까지 이러한 채팅 인터페이스는 현재 워크플로우를 간소화하는 것 이상의 역할을 하지 못했습니다. 이러한 도구 덕분에 작업 관리가 더욱 쉬워졌지만 우리의 접근 방식은 기본적으로 작업 지향적입니다. 더 넓은 비전은 이러한 역학을 완전히 변화시켜 AI가 인간의 입력을 훨씬 적게 사용해도 전략적 사고를 운용하고 복잡한 결과를 수행할 수 있게 하는 것입니다. 따라서 진정한 iPhone 순간은 AI 에이전트가 기본 B2B 애플리케이션 세트로 공개되는 것일 수 있으며, 이는 결국 작업의 미래에 큰 영향을 미칠 것입니다. 

지금으로부터 10년 후에 우리는 전략적 목표를 설정하고 AI를 통해 이러한 목표를 반복하고 개선하는 대신 할 일 목록을 기반으로 운영했던 아이디어를 되돌아보고 감탄하게 될 것이라는 데 의심의 여지가 없습니다. 목표 지향적인 업무 환경으로의 이러한 변화는 단순한 기술의 발전이 아니라 우리가 업무를 개념화하고 접근하는 방식의 변화를 의미합니다. 

앞으로 나아갈 길은 불확실성으로 가득 차 있지만 AI가 산업에 혁명을 일으키고 인간의 잠재력을 증폭시키며 의미 있는 발전을 주도하고 지속적인 가치를 제공할 수 있는 잠재력은 부인할 수 없습니다. 우리의 약속은 이러한 불확실성을 탐색하고 초기 단계의 AI 이니셔티브와 비전을 실현하는 뛰어난 인재를 식별하고, 베팅하고, 지원하는 것입니다.