Manuel Romero, Maisa의 공동 창립자 및 최고 과학 책임자 – 인터뷰 시리즈

Manuel Romero, Maisa의 공동 창립자 및 최고 과학 책임자는, 안정적이고 기업급 인공지능 시스템을 개발하는 인공지능 연구자이자 엔지니어입니다. 그는 2024년에 Maisa를 공동 창립하여 투명성과 제어를 갖춘 책임 있는 인공지능을 구축하기 위해 노력했습니다. Maisa 이전에, Romero는 Clibrain 및 Narrativa와 같은 회사에서 고위 인공지능 엔지니어 및 기계 학습 역할을 수행했으며, 자연어 처리 및 대규모 인공지능 시스템에 전문성을 갖추었습니다. 그의 경력 초기에는 풀스택 소프트웨어 엔지니어 및 DevOps 전문가로 일한 후, 고급 인공지능 연구 및 개발로 전환하여 오픈소스 인공지능 생태계에서 활발한 기여자가 되었습니다.

Maisa AI는 자동화된 복잡한 기업 워크플로우를 유지하면서 추적 가능성, 거버넌스, 신뢰성을 제공하는 자율적인 “디지털 워커”를 개발합니다. 이 플랫폼을 사용하면 조직은 자연어를 사용하여 인공지능 에이전트를 구축하고 배포할 수 있으며, 이는 내부 시스템 및 데이터 소스와의 자동화 WITHOUT 광범위한 코딩을 가능하게 합니다. Maisa는 검증 가능한 추론 및 구조화된 실행에 중점을 두어 생성 인공지능 시스템의 일반적인 제한을 극복하고, 기업이 안전하게 대규모 자동 인공지능을 배포하는 것을 도와줍니다.

인공지능 시스템의 더 깊은 “왜”를 이해하는 데 관심이 많았습니다. 기술적인 관점에서, 2024년에 Maisa를 공동 창립하도록 무엇이 동기를 부여했으며, 기업 인공지능 아키텍처에서 해결되지 않은 간격은 무엇이라고 생각했습니다?

Maisa를 공동 창립한 동기는 대부분의 기업 인공지능 스택이 모델을 중심으로 구축되었다는 깨달음에서 비롯되었습니다.

생성 인공지능 붐 동안, 많은 회사들은 기존 워크플로우에 대규모 언어 모델을 통합하는 데 중점을 두었습니다. 그러나 이러한 시스템은 souvent 취약하고, 불투명하며, 대규모로 운영하기 어렵습니다. 그들은 다음을缺乏했습니다:

• 중요한 경우 결정적 실행
• 강한 관찰 가능성, 추적 가능성
• 재현성

우리가 본 간격은 진정한 기업 인공지능 인프라의 부재였습니다. 회사들은 LLM API를 중심으로 애플리케이션을 구축했지만, 지식 작업을 위한 컴퓨터 아키텍처와 동등한 것을 갖지 못했습니다.

Maisa는 이러한 간격을 해결하기 위해 지식 처리 유닛(KPU)을 중심으로 한 아키텍처를 설계함으로써 만들어졌습니다. 이 시스템은 인공지능이 실제 기업 워크플로우 내에서 신뢰성 있게 작동할 수 있도록 합니다.

고급 자연어 처리 및 생성 시스템에서 일한 경험은 Maisa 플랫폼의 아키텍처 선택에 어떻게 영향을 주었나요?

자연어 처리 및 생성 시스템에서 일한 경험, 특히 언어 모델 및 대규모 언어 모델의 훈련 및 사전 훈련은, 실제 시스템을 구축할 때 매우 명확했습니다. 트랜스포머 아키텍처는 매우 강력하지만, 다음과 같은 3つの 기본적인 제한이 있습니다.

첫 번째는 환각입니다. 이러한 모델은 확률적으로 텍스트를 생성하며, 확인된 정보에 기반하지 않은 출력을 생성할 수 있습니다.

두 번째는 컨텍스트 제한입니다. 더 큰 컨텍스트 창을 사용하더라도, 모델은 제한된 토큰 공간 내에서 작동하며, 이는 대규모 또는 복잡한 지식 체계를 이유로 하는 것을 어렵게 만듭니다.

세 번째는 최신 정보입니다. 사전 훈련된 모델은 훈련 시간의 지식 스냅샷을 나타내며, 기업 환경에서는 지속적으로 변경되는 정보를 이유로 하는 시스템이 필요합니다.

이러한 제한을 인식함으로써, Maisa의 아키텍처적 결정에 많은 영향을 주었습니다. 모델만을 의존하지 않고, 구조화된 지식 접근, 검증 메커니즘 및 제어된 실행을 제공하는 시스템을 구축했습니다. 이를 통해 인공지능은 실제 기업 워크플로우 내에서 신뢰성 있게 작동할 수 있습니다.

많은 기업은 생성 인공지능을 실험하지만, 파일럿을 넘어서는 것을 어려워합니다. 시스템 디자인 관점에서, 이러한 조직에서 확장성이 실패하는 핵심 이유는 무엇입니까?

많은 기업은 생성 인공지능을 넘어서는 것을 어려워합니다. 대부분의 배포는 실험으로 구축되며, 강력한 시스템으로 구축되지 않습니다. 초기 프로토タイプ는 종종 프롬프트 엔지니어링, 경량 오케스트레이션 및 단순한 검색 파이프라인에 의존하며, 이는 가치가 있지만, 생산 환경에서 필요한 신뢰성, 관찰 가능성 또는 제어를 제공하지 않습니다. 조직이 이러한 시스템을 확장하려고 하면, 일관성 없는 출력, 추적 가능성의 부족, 기업 워크플로우와의 통합의 어려움 및 인공지능의 행동에 대한 제한된 거버넌스와 같은 문제를遭遇합니다. 핵심적인 문제는, 대규모 언어 모델이 확률적 생성기라는 것입니다. 반면에, 기업 프로세스는 예측 가능하고 감사가 가능한 행동을 필요로 합니다. 추론, 검증, 실행 및 모니터링을 구조화하는 아키텍처가 없으면, 생성 인공지능 시스템은 분리된 사용 사례를 넘어서 확장하기 어렵습니다.

Maisa의 디지털 워커는純粋한 확률적이지 않으며, 감사가 가능하고 구조화되어 있습니다. 이는 기업이 생산 사용을 평가할 때 실제로 무엇을 의미합니까?

우리가 Maisa의 디지털 워커가 감사가 가능하고 구조화되어 있다고 말할 때, 우리는 인공지능이 제어된 시스템 내에서 작동하며, 그 행동과 추론이 추적 가능하고 거버넌스될 수 있음을 의미합니다. 모델이 자유롭게 출력과 결정을 생성하도록 허용하는 대신, 시스템은 인공지능이 데이터, 도구 및 워크플로우와 상호작용하는 방식을 구조화합니다. 프로세스의 각 단계는 로깅, 검사 및 검증될 수 있으며, 동작은 모델 출력에서 직접 실행되지 않고, 정의된 인터페이스를 통해 실행됩니다. 기업에서는 이러한 시스템을 통해 인공지능 시스템을 모니터링, 감사 및 중요한 프로세스와 통합할 수 있으며, 이는 인공지능을 생산 환경에서 신뢰성 있게 사용할 수 있도록 합니다.

지식 처리 유닛의 설계자로서, 이는 일반적인 오케스트레이션 레이어 또는 대규모 언어 모델을 중심으로 구축된 워크플로우 엔진과 어떻게 다르나요?

지식 처리 유닛은 일반적인 오케스트레이션 레이어와 다르며, 이는 인공지능 驅動 추론의 전체 수명 주기를 관리하는 시스템입니다. 대부분의 오케스트레이션 프레임워크는 워크플로우 매니저로 작동하며, 단계를 체인으로 연결합니다. 지식 처리 유닛은 더 깊은 아키텍처 수준에서 작동하며, 지식이 접근되는 방식, 추론이 수행되는 방식 및 동작이 시스템 내에서 실행되는 방식을 구조화합니다. 이는 지식 처리를 핵심 계산 레이어로 간주하며, 메모리, 검증 및 제어된 실행을 통합하여 인공지능이 실제 기업 워크플로우 내에서 신뢰성 있게 작동할 수 있도록 합니다.

규제 산업에서, 위험 감수성은 낮습니다. 인공지능 출력이 신뢰성 있게 유지되고, 복잡한 워크플로우에서 오류를 전파하지 않도록 하기 위한 구체적인 설계 결정은 무엇입니까?

규제 산업에서, 신뢰성 및 제어는 필수적입니다. 따라서 우리는 시스템을 다음과 같은 안전 장치로 설계했습니다. 첫 번째는 구조화된 실행입니다. 인공지능은 제어된 인터페이스를 통과하지 않고 중요한 동작을 직접 트리거할 수 없습니다. 우리는 또한 모델 출력을 스키마, 규칙 또는 보조 메커니즘과 비교하는 검증 레이어를 통합했습니다. 또한, 시스템은 모든 추론 단계, 도구 상호작용 및 결정을 기록하여 추적 및 감사가 가능하도록 합니다. 이러한 설계 선택은 오류가 워크플로우를 통해 전파되는 것을 방지하며, 조직이 인공지능 시스템을 신뢰성 있게 운영할 수 있도록 합니다.

디지털 워커가 안내된 지원에서 완전히 작동하는 인공지능 驅動 실행으로 이동한 가장 강력한 초기 사용 사례는 무엇입니까?

디지털 워커가 완전히 작동하는 인공지능 驅動 실행으로 이동한 가장 강력한 초기 사용 사례는, 프로세스가 잘 정의되어 있지만, 여전히 분석 및 의사 결정이 필요한 지식 집약적인 워크플로우에서 나타납니다. 규제 검토, 기술 지원 운영 및 내부 지식 관리와 같은 분야에서, 디지털 워커는 인간의 지원을 넘어서서 구조화된 작업을 끝까지 실행할 수 있습니다. 그들은 대규모 내부 정보를 검색 및 분석하고, 정의된 절차를 적용하며, 기업 시스템과 상호작용하고, 운영 워크플로우에 직접 공급하는 출력을 생성할 수 있습니다. 핵심적인 변화는 인공지능이 단순히 제안을 생성하는 것이 아니라, 제어된 시스템에서 신뢰성 있게 동작할 수 있도록 하는 것입니다.

인공지능에 대한 규제 심사가 전 세계적으로 강화됨에 따라, 핵심 인공지능 인프라가 규제 요구 사항을 충족하면서도 혁신을 제한하지 않도록 어떻게 발전할 것으로 보입니까?

인공지능에 대한 규제 심사가 강화됨에 따라, 모델 제공자 API를 호출하는 아키텍처에서 벗어나, 인공지능 행동이 관찰 가능하고 감사가 가능하며 거버넌스가 가능한 시스템으로의 전환을 기대합니다. 이러한 아키텍처는 조직이 제어를 강제하고, 의사결정을 추적하며, 인공지능 출력이 신뢰성 있게 유지되도록 합니다. 이러한 시스템은 신뢰할 수 있는 인공지능 인프라의 표준基础가 될 것입니다.

당신은 기술적인 작업과 함께 윤리 및 책임에 대해 이야기했습니다. 이러한 관점은 투명한 인공지능 시스템을 구축하는 데 어떻게 영향을 주나요?

윤리 및 책임은 시스템 설계 선택에 직접적인 영향을 미칩니다. 인공지능 시스템이 실제 운영 워크플로우에 참여할 경우, 불투명한 블랙박스처럼 작동할 수 없습니다. 이러한 관점은 인공지능 시스템을 구축하는 데 영향을 미쳤습니다. 투명성, 추적 가능성 및 인간의 감시가 아키텍처에서 처음부터 구축되어야 합니다. 이러한 원칙이 인프라 수준에서 내장되면, 인공지능 시스템은 더 신뢰성 있게 되며, 조직이 책임 있게 관리할 수 있습니다.

앞으로, 에이전틱 인공지능 인프라는 클라우드 인프라처럼 기본적인 것이 될 수 있을까요? 기술적으로 이러한 전환을 이루기 위해서는 무엇이 필요합니까?

에이전틱 인공지능 인프라는 클라우드 인프라처럼 기본적인 것이 될 수 있다고 믿습니다. 조직이 점점 더 복잡한 지식 작업을 자동화하려고 할수록, 추론, 메모리 및 실행을 조정할 수 있는 시스템이 필요할 것입니다. 그러나 이러한 전환을 이루기 위해서는, 기본 아키텍처가 단순한 모델 통합을 넘어서야 합니다. 우리는 구조화된 추론, 기업 지식에 대한 신뢰성 있는 접근, 강한 관찰 가능성 및 제어된 실행을 제공하는 인프라가 필요합니다. 이러한 기능이 핵심 시스템에 구축되면, 에이전틱 인공지능은 실험적인 도구에서 신뢰성 있는 인프라로 발전할 수 있으며, 조직은 중요한 운영을 수행하는 데 이를 사용할 수 있습니다.

감사합니다. 더 많은 정보를 원하는 독자는 Maisa AI를 방문하십시오.