Babak Hodjat, Cognizant 최고 AI 책임자: 재 인터뷰

Babak Hodjat, Chief AI Officer at Cognizant, 회사의 AI Research Labs를 이끌며, 그의 연구는 에이전트형 AI, 진화적 계산, 분산 지능, 그리고 대규모 기업 배치를 위해 설계된 AI 시스템 개발에 걸쳐 있습니다. 오랫동안 AI 연구자, 발명가, 기업가로 활동해 온 Hodjat는 이전에 Sentient Technologies를 공동 설립하여 세계 최대 규모의 분산 AI 시스템 중 하나를 구축하는 데 기여했으며, 그 이전에는 Dejima를 공동 설립해 에이전트 지향 자연어 기술을 개발했으며, 이는 Apple의 Siri 기반을 형성하는 데 일조했습니다.

우리가 이전에 Babak Hodjat와 대화를 나눴을 때, 논의는 그의 AI 경력, 복잡한 의사결정에 대한 진화적 접근법, Cognizant가 AI를 기후 및 토지 이용 문제에 적용한 작업, 그리고 기업 전반에 걸친 AI 민주화의 확대를 탐구했습니다. 이번 후속 대화에서는 급속히 떠오르는 에이전트 기업에 초점을 맞춥니다. 최근 저서 The Agentic Enterprise의 주제를 바탕으로, Hodjat는 왜 아키텍처가 모델 능력보다 더 중요할 수 있는지, 조직이 어떻게 점점 복잡해지는 AI 에이전트 네트워크를 조정할 수 있는지, 중앙 집중식 신뢰와 거버넌스가 분산된 에이전트 생태계에 어떻게 들어맞는지, 그리고 자율 시스템이 최소한의 인간 개입으로 장기 목표를 신뢰성 있게 관리하기 위해 아직 무엇이 변화해야 하는지를 검토합니다.

귀하의 경력은 초기 지능형 에이전트 작업 중 일부를 포괄합니다. Dejima의 자연어 기술이 Siri에 영감을 주었고, Sentient에서 대규모 분산 AI 시스템을 구축했으며 현재는 Cognizant의 최고 AI 책임자로 활동하고 있습니다. “AI 에이전트”에 대한 정의는 그 여정 동안 어떻게 진화했으며, 오늘날 개발자들이 초기 세대 에이전트 기반 시스템으로부터 무엇을 배울 수 있을까요?

정의 자체는 변하지 않았지만, 오늘날 에이전트의 능력 덕분에 1990년대에 직접 코딩해야 했던 많은 기본 기능들이 LLM을 통해 바로 제공됩니다. 그래서 현재 LLM 기반 에이전트가 표준이며, 사람들이 에이전트에 대해 이야기할 때는 인터페이스와 추론을 구동하는 LLM이 존재한다고 가정합니다.

최근 저서 The Agentic Enterprise에서, 기업 AI 시스템은 종종 기본 모델의 순수한 능력보다 아키텍처 때문에 성공하거나 실패한다고 주장합니다. 더 강력한 모델로 업그레이드하면 에이전트 AI 문제를 해결할 수 있다고 가정할 때 기업이 놓치는 점은 무엇입니까?

마치 하네스(즉, 에이전트의 비-LLM 부분)가 코딩 에이전트를 성공시키거나 실패시키듯이, 다중 에이전트 시스템의 아키텍처는 성공에 결정적입니다. 이는 아키텍처가 에이전트가 작동해야 할 맥락을 반영하기 때문이며, 에이전트 기업을 유지하는 골조와도 같습니다. 아키텍처가 없으면 에이전트는 기업 운영, 데이터, 워크플로 및 프로세스의 현실에 기반을 두지 못합니다. 이는 직원들의 직무 설명, 프로세스 정의, 커뮤니케이션 프로토콜을 포함하는 비즈니스 조직 구조와 어느 정도 유사합니다.

귀하는 접근 제어, 책임성, 오케스트레이션, 가시성 및 감독을 포함한 주변 시스템이 모델 자체보다 더 중요할 수 있음을 강조했습니다. 프로덕션 수준의 에이전트 아키텍처가 실제로 필요로 하는 것이 무엇이며, 대부분의 개념 증명(PoC) 배포에서 빠진 부분은 무엇입니까?

개념 증명(PoC)은 종종 기반이 부족하므로, 시작 단계에서는 에이전트가 기업 내부 데이터와 애플리케이션에 접근할 수 있는 환경에서 작동해야 합니다. 중요한 질문으로는 어떤 데이터와 애플리케이션에 에이전트가 접근하도록 허용할 준비가 되어 있는지, 시스템의 안전과 보안을 유지하면서 기대하는 품질 및 생산성 향상을 달성할 수 있도록 에이전트가 어떤 의사결정을 내리도록 허용할 수 있는지가 있습니다. PoC 환경에서는 이러한 질문에 대한 답을 찾기 어렵습니다. 또한, 가드레일과 감독은 에이전트 시스템이 기업 내 다른 인간 또는 에이전트 프로세스와 함께 작동할 때만 의미가 있습니다. 따라서 샌드박싱은 PoC에서 실제 배포로 효과적으로 전환하기 위한 중요한 단계입니다.

Cognizant는 AI 에이전트 네트워크를 조정하기 위한 “Agent Operating System”의 등장을 설명했습니다. 이러한 계층이 수행해야 할 기능은 무엇이며, 에이전트 오케스트레이션이 궁극적으로 오늘날 운영 체제와 클라우드 플랫폼이 기업 컴퓨팅에 차지하는 기본적인 역할만큼 중요해질 것으로 예상하십니까?

에이전트의 조정은 중요합니다: 너무 경직되면 시스템이 저하되고 부서지기 쉽습니다. 조정을 완전히 에이전트에 위임해 너무 개방하면 에이전트의 작업이 지나치게 복잡하거나 위험해질 위험이 있습니다. 좋은 조정 메커니즘은 에이전트가 다양한 상황에 대응해 자발적으로 팀을 구성하도록 하여 견고하고 유연한 조직 규율을 만들게 합니다. 저는 분산 조정의 옹호자입니다. 이는 인간 조직에 일정 수준의 권한을 부여해 책임 영역을 관리하도록 하는 것과 유사합니다. 상황이 발생하면 조직 구성원들은 조직 구조를 통해 소통하고 조정하여 상황을 처리할 담당자를 결정하고, 그 대응은 조직 노드 간에 수집·조정·통합됩니다. 좋은 소식은 엄격한 통제와 안전장치를 에이전트 시스템에 적용하면 이러한 유연성이 위험한 행동으로 이어지지 않도록 할 수 있다는 점입니다.

MCP가 에이전트 애플리케이션 접근의 사실상 표준으로 급속히 자리 잡은 것처럼, 조정 프로토콜도 에이전트 플랫폼 전반에 걸쳐 표준화되어 에이전트 시스템 경계를 넘어 자발적인 다중 에이전트 프로세스를 가능하게 할 것이라고 생각합니다. 운영 체제와 클라우드 플랫폼이 가장 좋은 비유는 아닐 수 있습니다; 오히려 다중 에이전트 정의와 조정 프로토콜에 대한 폭넓은 합의된 표준이 등장해야 기업 내 에이전트화가 더 널리 퍼지고 성장할 수 있을 것입니다.

기업이 개별 코파일럿에서 수십, 수백 개의 특화된 에이전트가 포함된 네트워크로 이동함에 따라, 조직은 어떤 책임을 개별 에이전트에 맡기고 어떤 책임을 중앙 집중화해야 할지 어떻게 결정해야 할까요?

인터넷 방화벽 및 보안 장비와 마찬가지로, 정책에 대한 실시간 감사를 통해 신뢰를 구축하고 에이전트 시스템에 대한 가드레일을 적용하는 것은 기업 내에서 단일 부서가 중앙 집중적으로 담당해야 합니다. 다른 모든 에이전트 시스템은 분산 방식으로 제공·구현될 수 있지만, 운영 허가를 받기 위해서는 반드시 신뢰 시스템에 등록되어야 합니다.

Cognizant는 약 35만 명의 직원이 있는 조직 전체에 약 200개의 에이전트를 연결하는 다중 에이전트 시스템을 내부에 배치했습니다. 이러한 규모에서 운영하면서 작은 파일럿으로는 발견하기 어려운 에이전트 AI의 어떤 점이 드러났나요?

우리는 확장성, 확장 가능성, 비용 효율성 및 합리적인 응답 시간을 고려해 설계해야 했습니다. 이런 규모의 프로젝트에서는 소수의 사용자만을 가진 작은 에이전트 시스템에서는 필요하지 않은 것들을 새롭게 고안해야 하는 경우가 많습니다. 예를 들어, 에이전트 간 조정을 개인화하고 효율적으로 만들어 추가 단계와 비용을 피해야 합니다. 또한 시스템은 맞춤형 앱은 물론 타사 시스템 및 에이전트를 끌어들일 수 있어야 하므로 상호 운용성이 중요하며 시간과 비용을 절감할 수 있습니다.

자율 에이전트가 API를 호출하고 기업 시스템에 접근하며 다른 에이전트와 소통하고 기계 속도로 행동을 수행할 수 있게 되면, 기존 AI 거버넌스는 훨씬 더 어려워집니다. 인간 감독이 반드시 유지되어야 하는 영역은 어디이며, 조직이 에이전트를 독립적으로 운영하도록 안전하게 허용할 수 있는 영역은 어디일까요?

인간 감독이 필요하고 필수적인지를 결정하는 궁극적인 기준은 신뢰라고 생각합니다. 시스템이 더 신뢰할 수 있게 되면 우리는 더 많은 자율성을 부여하게 되고, 법적으로 요구되지 않는 한(예: AI에 인격이 없기 때문에) 에이전트를 신뢰하고 맡길 수 있게 됩니다. 따라서 신뢰와 위험을 측정하는 것이 중요하며, 이는 자율성과 인간 감독 사이의 경계를 그리는 데 도움이 됩니다—이 경계는 시스템이 더 신뢰받고 위험이 감소함에 따라 이동하기 시작할 수 있습니다.

당신의 초기 연구는 진화 계산과 선택·적응을 통해 개선되는 시스템에 초점을 맞췄습니다. 진화적 접근법이 대형 언어 모델과 강화 학습을 보완하여, 사전에 정의된 워크플로만 실행하는 것이 아니라 지속적으로 개선되는 에이전트를 구축하는 데 어떻게 기여할 수 있을까요?

오늘날 AI의 주류는 경사 하강법 접근법이 지배하고 있으며, 이는 창의성이 크게 부족한 언덕 오르기 탐색 방식입니다. 진화 계산은 복잡한 탐색 공간을 효율적으로 탐색하는 데 뛰어나며, 주류 접근법을 보완할 수 있습니다. 예를 들어, 우리 연구실은 최근 이 분야에서 돌파구를 마련했는데, 진화 전략이 대부분의 LLM 사후 학습에서 강화 학습보다 우수함을 입증했으며, 동일하거나 더 높은 품질의 모델을 훨씬 낮은 비용으로 만들 수 있었습니다. 진화적 접근법은 배포 후 학습을 목표로 하는 테스트 타임 트레이닝에도 도움이 될 수 있습니다.

Cognizant의 연구는 상호 작용하는 에이전트가 협력, 경쟁, 지식 공유, 심지어 기만 전략까지 개발하는 환경을 탐구했습니다. 다중 에이전트 시스템이 복잡해짐에 따라, emergent(자발적) 행동이 기업 AI를 예측 가능하고 조직 목표에 맞게 유지하는 데 가장 큰 과제 중 하나가 될 수 있을까요?

이는 이미 사실이며, 최근 크게 알려진 OpenAI/Hugging Face 사건이 증거입니다. 우리는 프롬프트와 컨텍스트에 제한되고 실행 중에 학습하지 않는 LLM을 활용하는 에이전트가 행동 면에서 대체로 일관성을 유지할 것이라고 생각할 수 있습니다. 그러나 실제로는 에이전트의 환경과 동기가 변할 수 있으며, 이는 종종 에이전트 자체의 행동에 의해 환경이 변화하면서 예측할 수 없는 행동을 초래합니다. 여러 에이전트가 상호 작용할수록 이러한 현상이 더욱 발생하기 쉬우므로, 우리는 안전한 샌드박스 환경에서 자율 에이전트를 관찰하여 그들의 emergent 경향의 범위와 규모를 파악하고, 이를 에이전트 설계와 보호 장치에 반영하는 것이 중요합니다. 우리 공개 시스템인 TerraLingua는 에이전트, 아티팩트, 심지어 에이전트를 가장하여 개별 및 집단 행동을 관찰할 수 있게 하는 한 단계입니다.

오늘날의 에이전트 AI 물결을 넘어, 최소한의 인간 개입으로 장기적이고 복잡한 목표를 신뢰성 있게 관리할 수 있는 AI 시스템을 구축하기 위해 아직 부족한 기술적 돌파구나 아키텍처적 변화는 무엇이라고 보십니까?

오늘날 에이전트들의 많은 제한은 AI 최첨단 기술의 한계에서 비롯됩니다. LLM은 학습이 끝난 후 거의 고정되어 있어 새로운 정보를 접하더라도 ‘마음이 바뀌’지 못합니다. LLM은 모든 것이자 모든 사람인 만큼 컨텍스트와 프롬프트로 사전 준비가 필요하고, 이러한 프롬프트에 매우 민감합니다. LLM은 제한된 컨텍스트 윈도우를 가지고 있어 생성하는 각 단어나 수행하는 각 행동마다 모든 정보를 다시 제공해야 합니다. 다중 에이전트 수준에서는 에이전트 미래가 완전한 잠재력을 발휘하려면 널리 받아들여지는 분산 협조 프로토콜, 신뢰 가드레일 및 정책, 그리고 트랜잭션 중재 시스템이 필요하다고 생각합니다.

훌륭한 인터뷰에 감사드립니다. 더 알고 싶은 독자분들은 Cognizant 또는 우리의 이전 인터뷰를 방문하시기 바랍니다.