MIT NANDA 2025년 7월 보고서 살펴보기: 95%의 AI 파일럿 실패율이 끝이 아니다

나는 새로운 기술에 대해 항상 열린 마음을 가지고 있으며, 최근에 내 관심을 끈 기술은 AI입니다.

MIT NANDA는 최근에 ‘The GenAI Divide. State of AI in Business in 2025’라는 보고서를 발표했습니다. 이 보고서는 AI와 비즈니스에 대한 현실적인 전망을 제공하며, 읽어볼 만한 가치가 있습니다. 링크드인 피드에서는 AI가 모든 것을 변화시켰다는 내용이 많지만, 이 보고서는 다른 그림을 보여줍니다.

첫째, MIT NANDA는 무엇인가?

네트워크 에이전트와 분산형 AI(NANDA)는 MIT 미디어 랩의 대규모 연구 프로젝트입니다. 이 프로젝트는 6개 대륙의 18개 이상의 주요 연구 기관과 메타, 델, 마이크로소프트 등 기술 산업의 주요 기업이 참여하고 있습니다. NANDA의 목표는真正 혁신적입니다. 이 프로젝트의 목표는 인터넷의 AI 에이전트를 위한 기초 인프라를 구축하는 것입니다. 즉, 조직의 경계를 넘어 AI 에이전트가 서로를 발견하고, 검증하고, 협력할 수 있는 분산형 네트워크를 만드는 것입니다. NANDA는 인간과 조직을 대신하여 다른 에이전트와 상호 작용할 수 있는 규칙, 프로토콜, 지침 및 프레임워크를 개발하는 데 중점을 두고 있습니다. NANDA 프로젝트는 오픈 소스이므로, 기업가, 비전가, 기술자 및 정책 입안자를 포함한 모든 사람을 협력자로 끌어들이고 있습니다.

나는 이 프로젝트를介绍하는 이유는 MIT NANDA의 보고서가 AI 연구의 정수로 볼 수 있기 때문입니다. 이 보고서의 저자들은 AI 세계의 최전선에 있으며, 그들의 발견은 진지하게 받아들여야 합니다.

이 보고서는 1월에 시작되어 2025년 7월에 발표되었습니다. 보고서는 300개 이상의 공개된 AI 이니셔티브에 대한 체계적인 검토와 52개 조직의 리더와의 인터뷰, 4개 주요 산업 컨퍼런스에서 153명의 고위급 리더의 설문조사에 기반하고 있습니다.

5%의 AI 파일럿 성공률

이 보고서는 ‘The GenAI Divide’라는 용어를 도입하여, 조직과 산업이 성공적으로 또는 실패적으로 AI를采用하는 방식에 대한 혼란을 설명합니다. NANDA에 따르면, ‘The GenAI Divide’의 잘못된 쪽에 있는 비즈니스는 진정한 변화를 만들어내지 못하고, 구조와 비즈니스 운영을 진화시키지 못합니다. 따라서, ‘The GenAI Divide’의 올바른 쪽에 있는 것은, AI를采用하여 구체적인 결과를 얻는 것을 의미합니다. “이 투자 편향은 투명한 결과를 측정할 수 있는 사용 사례에 자원을 할당함으로써, GenAI Divide를 지속시키며, 높은 ROI 기회는 백오피스 기능에서 나타나지만, 자금 지원을 받지 못합니다.”

이 보고서가 इतन 큰 관심을 끈 이유는 주요 발견 때문입니다. 집행 요약에는 다음과 같은 내용이 있습니다. “尽管企业对GenAI에 투자한 금액은 300~400억 달러에 달하지만, 이 보고서는 95%의 조직이 투자한 금액의 돌아오는 값이 없다는驚くべき 결과를 발견했습니다. 只有 5%의 통합 AI 파일럿이 수백만 달러의 가치를 창출하고 있습니다. 대부분의 파일럿은 측정할 수 있는 이익을 얻지 못하고 있습니다.” 너무 낙관적이지 않은 결과입니다.

이 보고서에서 정의하는 ‘학습 격차’는 조직이 AI의 真正한 가치를 실현하지 못하는根本적인 제한입니다. 대부분의 GenAI 시스템은 기본적으로 피드백을 학습하거나, 상황에 맞게 적응하거나, 시간이 지나도 개선되지 못합니다.

• 시스템은 피드백에서 학습하지 못합니다. 실제로는 매니저가 동일한 데이터 세트를 여러 번 입력하더라도, 성능이 개선되지 않습니다. 한 중간 규모의 제조업 매니저는 동일한 제품 매뉴얼을 AI 시스템에 업로드하여 성능을 개선하려고 했지만, 여러 번의 피드백 세션에도 불구하고, 출력 품질이 개선되지 않았습니다.
• 매번 과도한 수동 상황이 필요합니다. AI 도구는 세션 간에 기억을 유지하지 못하므로, 매번 이전 지식을 다시 입력해야 합니다. 복잡한 워크플로는 단순한 일회성 작업과 달리, 지속적인 프로젝트를 지원하지 못합니다. 이 보고서는 계약 초안을 작성하는 법률 팀이 AI 도구에 클라이언트의 선호도, 이전 협상 기록, 규제 제한 등을 다시 입력해야 하는 경우를 예로 들었습니다. 이로 인해 복잡한 다단계 프로젝트에서 생산성을 저하하는 시간 소모적인 작업이 되었습니다.
• 일부 비즈니스 프로세스에 대한 맞춤형 설정이 불충분합니다. 사용자 중심의 도구가 아닌, 도구 중심의 사용자로 인해, 사용자는剛性 시스템에 맞게 작업을 해야 합니다. 한 CIO는 벤더 제공의 위험 분석 AI가 “한 크기만 맞는 박스” 같다고 말했습니다. 팀은 기존 프로세스를 도구의剛性 입력에 맞게 재설계해야 했으며, 결국 파일럿 프로젝트를 중단했습니다.

나의 주요 발견

1. 그림자 AI 경제가 번창합니다

이 보고서는 ‘그림자 AI 경제’라는 용어를 도입하여, 직원이 조직 전체적으로 승인된 도구가 아닌 개인 도구로 AI를 사용하는 방식을 설명합니다. 실제로, 한 중국 자동차 브랜드의 친구는 ChatGPT를 사용하여 앱 콘텐츠(뉴스 게시물, 광고 등)를 작성한다고 했습니다. 본사는 AI 도구를 일반적으로 승인하지 않았으므로,彼女의 AI 사용은 그녀만의 보조 수단이었습니다.

이 보고서는 구체적인 통계를 제공합니다. 40%의 기업이 공식 LLM 구독을 구매했지만, 조사된 기업의 90% 이상의 직원이 업무를 위해 개인 AI 도구를 정기적으로 사용한다고 보고했습니다. 이 그림자 사용은 공식 기업 이니셔티브보다 더好的 ROI를 제공하는 경우가 많습니다.

2. 투자 할당이 잘못된 우선순위를 반영합니다

이 보고서는 AI 투자와 실제 ROI 잠재력 사이에 상당한 불일치를 보여줍니다. GenAI 예산의 약 50%가 판매 및 마케팅 기능에 할당되며, 이는 결과를 쉽게 측정할 수 있으며, 이사회 수준의 KPI와 일치하기 때문입니다. 그러나 가장 높은 수익은 souvent 백오피스 자동화에서 나타납니다. 예를 들어, BPO 제거는 매년 1,000만 달러를節約할 수 있으며, 외부 창의 비용은 30% 줄어들고, 아웃소싱된 위험 관리 비용은 매년 100만 달러를節約할 수 있습니다. 이 투자 편향은 GenAI Divide를 지속시키며, 투명한 결과를 측정할 수 있는 사용 사례에 자원을 할당합니다.

그러나 내 개인적인 믿음은 다음과 같습니다. 국제 은행에서 근무한 경험을 바탕으로, 조직의 핵심에 깊이 침투하는 도구를 도입하는 것은 큰 위험이라고 생각합니다. 따라서 마케팅 기능에 대한 투자가 쉽게 측정할 수 있는 결과를 제공하는 반면, 백오피스 자동화는 그렇지 않습니다.

幸い, 나는 한 창고 제조업체의 판매 팀을 위한 AI 자동화 시스템을 볼 수 있는 기회를 가졌습니다. 그들은 n8n의 프리랜서를 고용하여, AI 기반의 콜 및 채팅 분석 도구를 구축했습니다. 그 결과, 비즈니스는 더 빠르게 병목 현상을 발견할 수 있었고, 더 많은 문제점이 밝혀졌습니다. 고객 만족도는 매우 높았으며, 더 많은 데이터가 처리되었습니다.

3. 내부 구축은 외부 벤더에 패합니다

이 발견은 나를 놀라게 했습니다. 일반적인 믿음과 달리, 기업이 자체 AI 도구를 구축하는 것보다, 전략적인 파트너십을 통해 외부 벤더와 협력하는 것이 배포에 성공할 가능성이 두 배 이상 높습니다. 누가 이런 생각을 했을까요? 분명히 나만이 아닙니다.

조직이 AI 벤더를 비즈니스 서비스 제공자로 다루고, 운영 결과에 대한 책임을 지며, 벤더를 평가할 때 모델 벤치마크가 아닌 운영 결과를 기준으로 삼을 때, 성공률과 시간당 가치가 훨씬 높아집니다.

4. 더 높은 투자 significa 더 높은 혼란? 실제로 그렇지 않습니다.

이 보고서는 복합 AI 시장 혼란 지수를 사용하여, 기술 및 미디어 및 통신 분야를 제외한 7개 산업에서 상당한 파일럿 활동이 있지만, 구조적인 변화는 최소한입니다. 건강관리, 금융 서비스, 에너지 등 산업의 혼란 점수는 5점 중 0.5점 미만입니다. 이는 투자 가시성과 실제 변화를 비교하여 GenAI Divide를 보여줍니다.

95%의 실패율은 임시적입니다

tạm적으로 보이는 결과에도 불구하고, 빛이 보입니다. 이 보고서는 GenAI Divide가 임시적이며, 새로운 기술의 등장으로 극복될 것이라고 설명합니다. NANDA 자체가 더 연결된 AI 세계를 만들기 위한 주요 기여자입니다. 이 보고서에서 언급된 메커니즘은 모델 컨텍스트 프로토콜(MCP) 및 에이전트 간 프로토콜(A2A)입니다. 이러한 도구는 시스템 간의 무결한 에이전트 상호 운용성 및 자율적 조정을 위한 기반입니다.

NANDA의 노력과 이러한 도구는 Agentic Web을 만들기 위한 경로입니다. Agentic Web은 에이전트가 인터넷을 통해 자율적으로 협력할 수 있는 네트워크입니다. 이 에이전트의 상호 작용은 정적인 워크플로우를 동적인 자기 교육 시스템으로 대체하기 위한 것입니다.

이것이 너무 좋거나 마법처럼 들릴 수 있습니다. 마이크로소프트 Copilot Studio의 멀티 에이전트 오케스트레이션은 이 비전과 가장ใกล운 것으로 보입니다. 이 시스템은 특정 작업을 처리하는 하위 에이전트를 트리거하는 메인 Copilot 에이전트를 구축합니다. 각 에이전트는 자신의 전문 분야 내에서 작동하며, 다른 에이전트와 협력합니다. 사용자가 “4분기 제품 출시 계획”을 요청하면, 오케스트레이터 에이전트는 시장 조사, 타임라인 생성, 프로젝트 관리 도구와의 협력을 담당하는 하위 에이전트에게 작업을 위임합니다. 작업은 동기화되어 진행되지만, 자율적으로 진행됩니다.

이 보고서가 우리에게 남기는 것은 무엇일까요? GenAI Divide를 극복하는 창은 좁아지고 있습니다. 기업은 학습 가능한 도구와 벤더 관계를 구축하기 시작했으며, 이러한 도구는 비즈니스 운영을 발전시키고, 백오피스에서 혼란을 일으킵니다. 성공은 내부에서 구축하는 것이 아니라, AI 에이전트 시스템을 구매하는 것입니다. 학습, 기억, 자율적 시스템이 더 많이 등장할수록, 현재의 95%의 실패율은 새로운 시대로 바뀝니다. 이 새로운 시대에서는 AI 시스템이 벤더, 도메인, 조직의 경계를 넘어 무결하게 협력합니다.

AI 채택에 대한 대안적인 관점

NANDA 프로젝트는 여러 출처의 데이터를 컴파일하고, 다양한 분야의 리더를 설문조사하여 훌륭한 일을 했습니다. 그러나 이 보고서가 세계적인 AI 채택의 궁극적인 목소리일까요? 만약 여러분이 나와 같이 ‘The GenAI Divide’가有点 우울하거나 낙관적이지 않다면, 나는 이러한 대안적인 관점을 발견했습니다.

• Jed Nykolle Harme of IT Brief UK는 Lenovo의 CIO Playbook 2025를 분석했습니다. 이 연구는 EMEA(유럽, 중동, 아프리카) 전역의 IT 리더들의 의견을 포함하며, 더 낙관적인 결론을 내립니다. 소매 산업이 AI 만족도에서 선두를 지키고 있으며, 96%의 AI 파일럿 성능이 기대에 부응하거나 초과합니다.
• 이전에는 거대한 기업 시장 플레이어가 AI를 구현하는 데 어려움을 겪고, 집요하게 채택하는 데 열려 있지 않다는 점에 동의했습니다. 그러나 Lenovo는 다른 그림을 보여줍니다. 은행, 금융 서비스, 보험(BFIS) 산업은 AI 채택률이 가장 낮은 7%를 보이지만, 테스트한 AI의 33%는 기대에 부응하거나 초과합니다. 이러한 긍정적인 추세의 비결은 ‘주의 깊은 접근’입니다.
• 또 다른 안도하는 보고서는 IBM CEO Study입니다. 이 보고서는 IBM의 부회장 Gary Cohn의 대담한 서문으로 시작합니다. “AI 채택이 가속화됨에 따라… 궁극적인 보상은 AI와 기업 데이터를 사용하여 기회를 식별하는 용기를 가진 CEO에게 돌아갈 것입니다. 비즈니스 환경이 불확실할 때, AI와 데이터를 사용하여 앞으로 나아갈 수 있는 경쟁优势를 식별하는 것은競爭力입니다. 이 시점에서, AI와 데이터를 사용하여 앞으로 나아가지 않는 리더들은 競爭에서 뒤처지는 의식적인 비즈니스 결정을 하고 있습니다.”
• IBM CEO Survey는 몇 가지 영감을 주는 사실을 보여줍니다. 예를 들어, AI 투자 성장은 향후 2년 동안 두 배 이상 증가할 것으로 예상되며, 이는 총 IT 예산의 거의 20%를 차지할 것입니다. 이는 비즈니스에서 경쟁하기 위해 AI를 채택하는 데 대한 확고한 믿음을 보여줍니다.
• 마지막으로, 보고서에 따르면 64%의 CEO가 기술의 영향에 대한 명확한 이해를 얻기 전에 새로운 기술에 투자하는 경쟁에서 뒤처지는 위험이 있기 때문에 투자합니다. 그러나 이러한 결정은 빠르지 않습니다. 대신, ‘전략적 헤지’를 선택합니다. 간단히 말해, 경쟁자가 개인화된 추천을 위한 AI 채팅 봇을 출시할 때, 여러분도 웹사이트에 같은 것을 합니다. 수익 증가에 대해 확신이 서지 않더라도, 2년 동안 기다리면 동력을 잃을 것입니다. 따라서 규칙은 간단합니다. 공격적으로 복제하고, 결과를 살펴봅니다.

결론

결론적으로, 나는 AI에 대한 개인적인 믿음을 표현하고 싶습니다. 기업가, CMO, 비즈니스 개발자, 전직 은행 직원으로서, 나는 AI가 예산을 최적화하고, 워크플로우를 간소화하고, 팀을 강화하는 많은 방법을 보았습니다. 미래는 증강되고 가속화됩니다. 비즈니스가 경쟁하려면 AI에 능숙해야 합니다. 내가 제시한 발견은 논쟁의 여지가 있지만, 현재의 AI 풍경은 자연스러운 학습 시간입니다. 이 시간은 새로운 기술이 등장할 때마다 반복됩니다.