내 지식을 실제로 결정할 수 있는 AI 시스템으로 전환하는 방법

마이크로소프트를 떠나고 기업의 AI 배포와 함께 작업을 계속하면서, 대부분의 사람들이 흥분하는 AI 시스템은 실제로 인간 전문가와 같은 판단을 내릴 수 없다는 것을 계속 보게 되었습니다. 물론, 그들은 글을 쓸 수 있고, 요약하고, 결정처럼 들리는 놀라운 텍스트를 생성할 수 있지만, 이러한 시스템을 실제 운영 환경에 투입하면, 즉 거래, 불확실성, 불완전한 지시, 실제 결과가 있는 곳에서는 빠르게 어려움을 겪습니다. 이것은 MIT Project NANDA의 데이터와 일치합니다. 60%의 조직이 AI 도구를 평가했지만, 20%만이 시험 단계에 도달했고, 5%만이 생산에 도달했습니다. 즉, 산업은 실제 워크플로우 내에서 유지할 수 있는 시스템을 구축하는 데 어려움을 겪고 있습니다.

기업 환경에서, 특히 공급망, 제조, 운영과 같은 분야에서, 답변을 얻는 것이 어렵지 않습니다. 하지만 어느 답변을 신뢰해야 하는지, 어느 변수가 가장 중요하며, 잘못된 경우 다운스트림에서 무엇이 깨질지 알 수 없습니다. 내 눈에는 이것은 전문 지식과 판단력的问题입니다.

명확히 말하자면, AI는 출력을 개선하는 데 놀라운 발전을 이루었습니다. 그러나 더 나은 출력은 더 나은 결정과 동일하지 않습니다. 이것들은 두 가지 별개의 里程碑이며, 산업은 이들을 서로 교환 가능한 것으로 생각하는 데 많은 시간을 보냈습니다.

전문 지식과 판단력의 부족은 내가 인간 전문가가 복잡한 결정들을 내리는 방식으로 AI를 가르치는 방법을 개발하는 데 관심을 가지게 된 이유입니다. AI는 단순히 작업을 자동화하는 것만이 아니라, 실제로 인간의 판단력을 AI에 전달하는 것에 대해 효과적이고 안전하게 작동해야 합니다.

대규모 언어 모델(LLM)은 결정자와 같은 말투를 사용하지만, 실제로는 결정자와 다릅니다

대규모 언어 모델(LLM)이 유용하다는 것은 의심의 여지가 없습니다. 그러나 기본적으로 결정 시스템은 아닙니다. 언어로 둘러싸인 예측 시스템입니다. 그리고 언어는 설득력 있기 때문에, 이것이 일부 문제입니다. 시스템이 스스로를 유창하게 설명할 수 있다면, 우리는 쉽게 그것이 이해하는 것을 과대평가합니다. 비즈니스 질문을 하면, 구조화된 답변을 주며, 거래, 예외, 요약을 제공하여 더智能해 보이게 합니다. 일관된 소리를 내는 것과 실제로 유능한 것은 동일하지 않습니다. 이것이 많은 기업 AI가 실패하는 이유입니다. 모델은 좋은 결정이 무엇인지 알 수 있지만, 실제로 결정이 좋은지 판단하는 능력은 없습니다. 이것은 많은 조직이 실험을 넘어서는 것을 어려워하는 이유 중 하나입니다. Gartner는 적어도 50%의 생성적 AI 프로젝트가 개념 증명 후에 중단된다고 밝혔습니다. 이는 실제 운영 영향을 미치기 전에 불분명한 가치와 위험 제어가 이유입니다.

정보는 전문 지식과 다릅니다

AI와 관련하여 가장 쉽게 빠질 수 있는 함정은 시스템에 충분한 정보가 있다면 전문가와 같은 성능을 발휘할 수 있을 것이라는 가정입니다. 합리적으로 들리지만, 우리의 일상生活에서 생각해 보면, 정보를 증가시키는 것은 자동으로 전문가가 되지 않습니다. 모든 항공 수동을 읽어도 비행기를 着陸할 준비가 되지 않을 수 있습니다. 공급망의 모든 모범 사례를 암기해도 세 가지 일이 동시에 잘못되면 얼어붙을 수 있습니다.

계속할 수 있지만, 정보는 능력과 동일하지 않다는 점입니다. 능력은 경험, 특히 메시지 상황에서 답이 명확하지 않은 반복적인 노출에서 비롯됩니다.

매일, 오늘날의 대부분의 AI 시스템은 정적 예제로 훈련된 것을 보게 됩니다. 이것은 예측을 하는 데는 유용하지만, 결정의 작은 부분에 불과합니다. 기업은 데이터가 부족한 것이 아니라, 실제로 구조화된 환경에서 연습할 수 있는 시스템이 필요합니다. 즉, 시스템이:

• 현실적인 시나리오를 마주칠 수 있습니다
• 선택을 할 수 있습니다
• 결과를 볼 수 있습니다
• 피드백을 받을 수 있습니다
• 시간이 지나면서 개선할 수 있습니다

AI는 예측 알고리즘을 사용하여 훈련될 수 있지만, 이 접근법에는 제한이 있습니다. 필요한 것은 시뮬레이션 환경에서 인간의 감독 아래서 훈련할 수 있는 AI입니다. 이것을 기계 학습이라고 부르며, 복잡한 결정들을 시나리오와 기술로 분해하여 인간 전문가가 AI를 가르칠 수 있는 지침을 제공합니다. 결과적인 피드백과 시도-오류는 궁극적으로 에이전트가 실제 세계의 자율성을 직접 사람們이 구축한 프로세스에서 학습하고 행동할 수 있도록 합니다.

AI를 단일체로 취급하는 것을 중단하십시오

또한 제가 많이 보는 오류는 하나의 큰 모델이 모든 것을 해야 한다는 가정입니다. 농구 팀은 한 명으로 구성되지 않습니다. 공장은 한 사람에 의해 운영되지 않습니다. 복잡한 시스템은 다양한 구성 요소가 다른 작업을 수행하고, 구조가 그것들을 함께 유지하기 때문에 작동합니다.

AI도 동일한 방식으로 구축되어야 합니다. 저는 기업의 의사 결정의 장기적인 미래가 하나의 거대한 모델이 회사 중앙에 앉아 보편적으로 유능해 보이는 것이 아니라고 생각합니다. 그것은 더 专門化된 에이전트들의 팀으로 보입니다.

한 에이전트는 데이터 검색에 전문가일 수 있습니다. 다른 에이전트는 시나리오 평가에 더 적합할 수 있습니다. 또 다른 에이전트는 계획을 수립합니다. 하나는 규정 준수 또는 모순을 확인합니다. 또 다른 에이전트는 더像是 감독자로서, 언제 에스컬레이션할지 또는 언제 자신감이 낮아지면 진행하지 못할지 결정합니다. 팀 아키텍처는 더 많은 의미를 갖습니다. 실제 조직이 작동하는 방식과 더广泛한 시장 동향과 일치합니다. McKinsey의 조사에 따르면, 조직은 워크플로우와 운영 구조를 AI 주변으로 재설계함으로써 가장 큰 가치를 얻습니다.

결정이 모두 동일한 방식으로 이루어지지는 않으며, 우리는 종종 동일한 모델, 동일한 데이터, 동일한 유형의推論이 모든 것을 다룰 수 있다고 가정합니다. 실제로, 다른 결정에는 다른 메커니즘이 필요합니다.

결정이 실제로 일어나는 네 가지 방법

제 경험에 따르면, 대부분의 결정은 몇 가지 범주에 속합니다:

1. 제어 시스템 (규칙 및 수식): 결정은 미리 정의된 방정식 또는 규칙을 알려진 입력에 적용하여 이루어집니다. 만약 X가 발생하면, Y를 합니다.
2. 검색 및 최적화: 결정은 여러 가능한 옵션을 평가하여 정의된 목적에 따라 최선을 선택합니다.
3. 강화 학습 (시도-오류): 결정은 행동을 취하고, 결과를 관찰하고, 보상 또는 페널티에 따라 조정하여 시간이 지남에 따라 학습됩니다.
4. 실습 및 경험 (인간형 학습): 결정은 실제 시나리오에서 반복적인 노출, 지침된 피드백 및 축적된 판단력을 통해 형성됩니다.

대부분의 기업 AI는 첫 번째 두 가지 범주에서 잘 작동합니다. 세 번째 및 네 번째 범주는 AI에게 더 도전적인 것으로, 인간과 같은 판단력이 존재하는 곳입니다.

구조 없이 자율성은 위험입니다

자율적 AI에 대해 사람들이 이야기할 때, 대화는 일반적으로 두 가지 극단으로 나뉩니다. 한쪽에서는 시스템이 거의 마법이고 모든 것을 운영할 준비가 되었다고 생각합니다. 다른 쪽에서는 시스템이 의미 있는 일에 절대 신뢰되어서는 안 된다고 생각합니다.

저는 어느 쪽도 유용하지 않다고 생각합니다. 우리는 구조 안의 자율성에 초점을 맞출 필요가 있습니다. 감독, 에스컬레이션 논리, 경계, 책임이 없는 자율성은 위험의 주요 원인입니다. 위험에 대한 우려는 현재도 나타나고 있으며, 국가 표준 기술 연구소의 AI 위험 관리 프레임워크와 같은 노력에 의해 형성되는 대화에서 나타납니다. 이는 조직이 감독, 책임, 운영 신뢰에 대한 질문을 얼마나 심각하게 생각하는지 반영합니다.

기업 AI의 미래는 에이전트들의 팀에 있습니다. AI에서 가장 큰 가치를 얻는 조직은 가장 많은 단어를 자동화하는 것이 아닙니다. 실제로 환경이 복잡해질 때에도 유지될 수 있는 전문 지식을 시스템에 전달하는 방법을 알아내는 것입니다. 그것이, 내 觀點에서, 인상적인 AI와 실제로 유용한 AI, 즉 실제 ROI를 생산하는 AI의 차이입니다.