NeoCognition의 공동 창립자이자 CEO인 Yu Su – 인터뷰 시리즈

Yu Su, NeoCognition의 공동 창립자이자 CEO는 인공 지능 연구자로서 학계, 기업 인공 지능, 고급 에이전트 시스템에서 경력을 쌓아왔다. NeoCognition을 이끄는 것 외에도 그는 오하이오 주립 대학교에서 부교수이자 혁신 학자로 재직하며, 그의 연구는 인공 지능 에이전트, 추론 시스템, 기계 학습에 초점을 맞추고 있다. 그의 배경에는 마이크로소프트에서 6년 이상의 연구원으로 일한 경험이 포함되어 있으며, 퍼시 리앙과 함께 아웃룩을 위한 대화형 인공 지능 시스템을 개발하기 위해 의미 분석 기술을 사용하였다. 마이크로소프트, 학계, 연구 기관 등 다양한 역할에서 유수는 인공 지능 시스템을 발전시키는 데 기여하여, 연구와 실제 적용 사이의 격차를 좁히는 데 기여하였다.

NeoCognition은 인공 지능 에이전트 연구 회사로, “전문 지능”을 개발하는 것을 목표로 하고 있다. 즉, 경험을 통해 지속적으로 학습하고 개선하는 인공 지능 시스템이다. 주요 인공 지능 연구자에 의해 설립된 이 회사는 정적 대형 언어 모델을 넘어 특정 도메인에서 깊은 전문 지식을 개발할 수 있는 에이전트를 만들고자 한다. 연구는 지속적인 학습, 추론, 계획, 도구 사용, 다중 에이전트 협력을 포함한 분야에 초점을 맞추고 있으며, 인공 지능 시스템이 시간이 지남에 따라 더 능숙하고 신뢰할 수 있게 만드는 것을 목표로 한다. 기계 학습의 발전과 구조화된 추론 및 적응형 학습 기술을 결합함으로써, NeoCognition은 다음 세대의 인공 지능 에이전트를 형성하는 것을 목표로 하며, 이는 점점 더 복잡한 실제 작업을 해결할 수 있다.

많은 회사들이 일반적인 인공 지능 조종사를 출시했지만, 실제 운영 환경에서 신뢰성에 대한 우려가 증가하고 있다. 이러한 시스템이 실제 운영 환경에서 어려움을 겪는 이유는 무엇이라고 생각하시나요?

대부분의 현재 인공 지능 에이전트는 실제 운영 환경에서 어려움을 겪는 이유는, 그들이 여전히 근본적으로 일반화된 이해를 가지고 있지 않기 때문이다. 데모에서 작업을 완료할 수는 있지만, 실제 운영 시스템에서 반복 가능한 판단을 개발하는 것은 다르다.

오늘날의 모델은 인상적인 패턴 매처이지만, 여전히 인간이 전문가가 되기 위해 사용하는 메커니즘을 缺하고 있다. 인간은 고립된 작업을 기억함으로써 신뢰할 수 있는 사람이 되지 않는다. 우리는 특정 세계의 구조를 학습함으로써 전문성을 개발한다. 즉, 워크플로, 제약, 관계, 도구, 우선순위, 결과 등이 특정 직업이나 조직을 정의한다. 시간이 지남에 따라, 우리는 그 환경에 대한 내부 작동 모델을 구축하며, 이는 일관된 판단을 가능하게 한다.

대부분의 현재 인공 지능 에이전트는 이러한 종류의 운영 이해를 개발하지 않는다. 프롬프팅, 검색, 오케스트레이션 레이어에 크게 의존하여 분리된 작업을 완료할 수 있지만, 여전히 대부분 즉흥적으로 작동한다. 이는 환경이 변경되거나 더 복잡해지거나 고위험 상황에서 성능이 저하되는 이유이다.

결측값은 전문성이다. 인간은 끊임없이 환경에 적응하고 전문가가 될 수 있다. 우리는 인공 지능 에이전트도 이러한 능력이 필요하다고 믿는다. 즉, 특정 도메인에서 실제 전문성을 발휘할 수 있도록 학습하는 능력이다.

NeoCognition은 지속적으로 학습하고 적응하는 에이전트를 구축하는 것을 목표로 하고 있다. 이는 현재 많은 기업이 사용하는 정적 미세 조정 또는 검색 기반 접근 방식과 기술적으로 어떻게 다른가요?

대부분의 기업 인공 지능 시스템은 모델을 미세 조정하거나 추론 시에 관련 정보를 검색함으로써 성능을 향상시킨다. 이러한 접근 방식은 유용할 수 있지만, 에이전트가 도메인 내에서 진화하는 전문성을 개발하는 것을 근본적으로 허용하지 않는다.

미세 조정은 일반적으로 훈련 후에 정적이다. 검색 시스템은 정보를 제공하는 데 도움이 될 수 있지만, 지식 검색은 도메인 전문성이나 경험에 따른 행동을 개발하는 것과 다르다. 많은 경우에, 에이전트는 여전히 작동하는 환경에 대한 지속적인 모델을 缺하고 있다.

인간이 회사에 입사할 때, 문서를 검색할 수 있기 때문에 즉시 효과적이지는 않다. 그들은 실제로 조직이 작동하는 방식을 이해함으로써 판단력을 개발한다. 전문성이 나타나는 것은 경험을 통해 내부 모델을 지속적으로 개선하는 것이다.

우리는 다음 세대의 에이전트가 이러한 종류의 학습 메커니즘이 필요하다고 믿는다. NeoCognition에서, 우리는 에이전트가 이러한 종류의 작동 모델을 형성할 수 있도록@Enable하여, 도메인 내에서 지속적으로 전문성을 개발하고 개선할 수 있도록 하는데 초점을 맞추고 있다.

인공 지능 실험과 운영 신뢰 사이에 갈등이 커지고 있다. 기업은 내부적으로 에이전트를 프로토 타입화하는 데 성공했지만, 이를 대규모로 배포하는 것은 또 다른 도전이다. 이 전환에서 기업은 무엇을 과소평가하고 있는가요?

많은 기업은 실제 운영 환경이 얼마나 동적일 수 있는지 과소평가하고 있다. 85%의 정확도를 가진 에이전트는 테스트에서 강력해 보일 수 있지만, 기업 규모에서 이는 오류와 복구 상황의 상당한 스트림을 의미한다. 이는 다중 단계 워크플로에서 실패가 시스템과 작업에 걸쳐 누적되므로, 감독, 개입, 책임이 더 어려워진다.

기업은 아직 배포를 오케스트레이션 또는 프롬프팅 문제로 간주하고 있다. 그러나 실제로는 학습 문제이기도 하다. 어려운 부분은 작업을 실행하는 것이 아니다. 시스템이 실제 운영 환경에서 지속적인 능력과 판단력을 개발하는 것을 ermög하는 것이다.

사용자 지정, 프롬프팅, 감독, 재공학의 부담은 여전히 인간 팀에 있다. 이는 시스템이 여전히 작동 이해를 缺하고 있기 때문이며, 매번 수동으로 조종되고 있다. 이는 확장성이나 신뢰성으로 가는 길이 아니다.

인공 지능 산업에서 규제, 가드레일, 정책 시행이 주요 테마로 등장하고 있다. 그러나 NeoCognition은 규제만으로는 충분하지 않다고 주장한다. 왜 지속적으로 환경에 적응하는 시스템이 정적 규칙만을 따르는 시스템보다 신뢰성이 더 높은지 설명해 주시겠습니까?

규제와 가드레일은 매우 중요하지만, 정적 규칙만으로는 복잡한 환경에서 신뢰성을 완전히 해결할 수 없다.

생산 수준의 운영 시스템은 끊임없이 변경된다. 워크플로우는 진화하고, 도구는 업데이트되고, 정책은 변경되며, 예상치 못한 상황이 발생할 수 있다. 에이전트가 환경을 이해하지 못하고 정의된 규칙만을 따를 경우, 이러한 규칙이 미리 예상하지 못한 상황에 직면할 수 있다.

인간의 신뢰성은 스크립트에 대한 엄격한 순종이 아니라, 판단력에서 비롯된다. 우리는 세계를 이해함으로써 판단력을 개발한다. 우리는 언제 에스컬레이션을 해야 하는지, 언제 비정상적인 상황인지, 언제 상황이 변경되면 올바른 조치를 취해야 하는지 등을 학습한다.

우리는 인공 지능 에이전트도 이러한 종류의 적응 및 환경 이해 능력이 필요하다고 믿는다. 더 안전한 시스템은 에이전트가 명확하게 정의된 운영 세계 내에서 더 능숙하고 전문적인 시스템이 되는 데서 나온다. 이러한 시스템은 자신의 환경과 출력을 관찰하고, 실패를 추적하며, 행동을 업데이트한다.

인공 지능 산업은 더 큰 모델과 더广泛한 능력에 초점을 맞추고 있다. 그러나 NeoCognition은 전문성과 컨텍스트 학습에 초점을 맞추고 있다. 기업 인공 지능 에이전트의 미래는 더 전문적인 디지털 워커로 보이는가요?

우리는 미래가 전문성에 의해 추진될 것이라고 믿는다. 산업은 더广泛한 모델에 초점을 맞추고 있다. 그러나 기업 환경에서 실제 도전은 에이전트가 모든 것을 조금씩 할 수 있는지 여부가 아니다. 특정 역할을 신뢰성 있고 판단력 있게 수행할 수 있는지 여부이다. 우리의 강점은 모든 환경에서 전문가가 되는 것이 아니다. 특정 세계를 깊이 이해하여 효과적으로 작동할 수 있는 능력이다.

NeoCognition에서, 우리는 미래가 하나의 슈퍼 에이전트가 모든 것을 하는 것이 아니라, 각기 특정 세계를 깊이 이해하여 전문가 수준의 능력, 신뢰성, 판단력을 갖춘 다수의 전문 에이전트로 구성될 것이라고 믿는다. 이러한 에이전트의 목적은 인간의 전문성을 대체하는 것이 아니다. 더 많은 사람의 손에 전문가 수준의 능력을 제공하고, qualquer 사람이나 조직이 할 수 있는 기준을 높이는 것이다.

자율 에이전트의 가장 큰 우려 사항 중 하나는 환경이 예상치 못한 방식으로 변경될 때 어떻게 행동하는지이다. 실제 적응과 환경 인식은 실패, 환각, 또는 안전하지 않은 행동을 방지하는 데 얼마나 중요합니까?

절대적으로 중요하다. 환경 인식이 없으면, 에이전트는 상황에 대한 이해가 구식이거나 불완전한 경우에도 확신을 가지고 행동할 수 있다. 이는 운영 실패가 발생하는 곳이다.

우리는 신뢰성이 환경을 지속적으로 학습하고 이해를 업데이트하는 에이전트가 필요하다고 믿는다. 신뢰성은 시간이 지남에 따라 변경되고 진화한다. 9월에는 신뢰성이 있었지만 5월에는 그렇지 않을 수 있다. 에이전트가 작동하는 시스템, 제약, 워크플로우, 관계를 더 깊이 이해할수록, 상황이 변경되거나 불확실성이 에스컬레이션을 요구할 때 더 능숙해진다.

인공 지능 시스템이 실제 운영 환경과 상호 작용을 통해真正로 자신을 개선할 수 있는 시스템을 배포하는 데 얼마나 가까운가요?

우리는 이러한 전환에 매우 가까운 것으로 믿는다. 그러나 신뢰할 수 있는 지속적인 학습과 자기 개선에 필요한 기본 학습 메커니즘을 구축하는 데 여전히 초기 단계에 있다. 그러나 산업은 이러한 전환에 매우 가까운 것으로 보인다.

무엇이 중요한 것은 추상적인 자기 개선이 아니라, 실제 환경 내에서 구조화된 전문성을 개발하는 것이다. 즉, 워크플로우, 제약, 관계, 행동 패턴을 안정적이고, 규제 가능하며, 치명적인 망각에 저항하는 방식으로 학습하는 것이다. 이것이 NeoCognition에서 해결하고자 하는 문제이다.

몇 년 후, 실험 시스템의 물결과 구별되는 신뢰할 수 있는 기업 인공 지능 에이전트를 구별하는 것은 무엇일까요?

성공하는 시스템은 玩具 시나리오보다 더 신뢰할 수 있는 작동자로 느껴질 것이다.

원시 모델 능력만으로는 충분하지 않다. 기업은 에이전트가 실제 환경에서 일관되게 작동할 수 있는지, 로컬 워크플로우와 제약을 이해할 수 있는지, 경계와 권한을尊重할 수 있는지, 시간이 지남에 따라 안전하게 적응할 수 있는지, 반복 가능한 결과를 제공할 수 있는지에 관심이 있을 것이다.

기업 인공 지능의 미래 승자는 가장广泛한 질문에 답할 수 있는 시스템이 아니다. 특정 운영 세계를 깊이 이해하여 실제 전문성, 판단력, 신뢰성을 갖춘 시스템이 될 것이다.

감사합니다. 더 많은 정보를 원하시면 NeoCognition을 방문하세요.