MCE Systems의 CTO (AI) 인 Alon Eirew – 인터뷰 시리즈

Alon Eirew, MCE Systems의 CTO (AI)는 회사의 AI 전략과 엔드 투 엔드 기술 스택을领导하며, 아키텍처, 모델 개발, 인프라, 제품 통합, 그리고 내부 운영 전반에 걸친 AI의 보다 넓은 적용을 담당합니다. 그는 이전에 Intel (INTC )에서 9년 이상 근무했으며, 선임 소프트웨어 엔지니어와 소프트웨어 아키텍트에서 시작하여 Lead Natural Language Processing (NLP) Research Scientist로 승진하여 지식 추출 연구를 주도하고, 다년간의 프로젝트에 자금을 확보하고, 주요 NLP 컨퍼런스에서 논문을 발표하고, Intel Ignite를 통해 스타트업을 멘토링했습니다. 그의 경력 초기에, Eirew는 Telmap에서 개인 보조 기술을 개발했으며, 이후 여러 Israeli 대학에서 컴퓨터 과학, 객체 지향 프로그래밍, 데이터 마이닝, 정보 검색을 가르치면서 초기 AI 회사에 조언을 해왔습니다.

MCE Systems는 통신 제공업체를 위한 AI 네이티브 경험 레이어를 개발하며, 레거시 시스템, 실시간 데이터, 지능형 워크플로우를 연결하여 다중 터치 포인트에서 고객 상호 작용을 지원합니다. 2005년에 설립된 회사는 디지털 디바이스 수명 주기 관리를 중심으로 사업을 구축했으며, 기술은 디바이스 진단 및 케어, 트레이드 인 프로그램, 원격 디바이스 그레이딩, 반환을 포함합니다. MCE는 이러한 워크플로우에 생성적 및 에이전트 AI를 점점 더 많이 적용하여, 운영자가 디바이스 문제를 감지하고, 고객이 잠재적인 해결책을 안내하고, 디지털 및 보조 채널을 통해 더 복잡한 서비스 여정을 조정하는 것을 도와줍니다.

당신은 거의 10년 동안 Intel에서 NLP, 지식 추출, 정보 검색, 초기 개인 보조 기술 등을 연구했습니다. 그 시절의 초기 AI 시스템에서 어떤 아이디어가 시대에 앞서 있었는지, 그리고 어떤 가정이 완전히 잘못되었는지 돌아보면 어떤 생각이 드는지요?

명백히 시대에 앞서 있었던 아이디어 중 하나는 LLM 시대 이전에 작업한 개인 보조 시스템이었습니다. 이러한 시스템은 의도를 이해하고, 작업 간의 컨텍스트를 연결하고, 사용자가 목표를 자연스럽게 달성하도록 도왔습니다. 이러한 시스템은 오늘날의 에이전트와 같은 야망을 가지고 있었습니다. 그러나 차이점은 기본적인 접근 방식에 있었습니다. 언어 모델 대신에, 우리는 사용자 의도를 추론하기 위해 기계 학습과 알고리즘의 조합을 사용했습니다. 그러나 이러한 방법은 사용자가 동일한 요청을 다양한 방식으로 표현할 때 확장할 때 어려웠습니다.

고객의 문의를 처리하는 서비스 대표를 고용하는 것을 상상해 보십시오. 그러나 대표는 특정 문장 구조로 프레이밍된 문의만 처리할 수 있습니다. 사용자 경우에 따라 다를 수 있으므로, 이는 고객의 많은 문제를 처리하기 어렵습니다. LLM은 모든 것을 변경했습니다. 오늘날, 사용자 의도를 이해하는 것은 대체로 해결되었습니다. 따라서 우리의 비유에서, 대표는 이제 유연하고 수백만 명의 고객과 대화할 수 있습니다.

나는 산업이 완전히 잘못된 것을 주장하지 않지만, 많은 사람들이 언어 모델이 얼마나 중심이 될지 과소평가했다고 생각합니다. 주요 도약은 첫 번째 언어 모델인 ELMo, BERT, RoBERTa가 소개되었을 때였습니다. 당시, 몇몇 사람들은 이러한 초기 모델이 Narrow한 응용 프로그램에서 유용한 구성 요소일 뿐이며, 완전히 새로운 컴퓨팅 패러다임의基础가 되지 않을 것이라고 생각했습니다. 이러한 모델은 오늘날 우리가 사용하는 현대적인 LLM의 백본입니다.

대부분의 회사들은 이러한 초기 모델을 Narrow한 응용 프로그램에서 유용한 구성 요소로만 보았으며, 주요 AI 플레이어로 자신을 위치시키는 기회를 놓쳤습니다.

당신의 연구 경력 동안, 당신은 다중 문서 지식 추출과 이벤트 이해에 중점을 두었습니다. 기업들이 점점 더 대규모 언어 모델에 의존함에 따라, 구조화된 지식 추출이 왜 아직도 중요한 도전인지 생각하는 이유는 무엇입니까?

LLM은 다양한 주제를 해결하기 위한 강력한 도구이지만, 기업 응용 프로그램과 최종 사용자는 특정 문제를 해결하기 위한 전문 지식을 필요로 합니다. 이러한 컨텍스트 프로파이터리 지식은 일반적으로 모델의 훈련 데이터에 포함되지 않으므로, LLM을 기업에서 배포하는 것은 내부 데이터 포인트를 수집하여 이해하는 것을 의미합니다. 오늘날의 LLM은 기술적 및 접근 제약으로 인해 상당한 컨텍스트가 누락되어 있으며, 이는 그들의 영향력을 제한합니다.

MCE에서는 고객 케어 AI 에이전트 솔루션을 제공합니다. 이 솔루션의 목표 중 하나는 통신事業자가 고객의 기술적인 모바일 디바이스 문제를 인간의 개입 없이 해결하도록 도와주는 것입니다. 에이전트에게 컨텍스트 기술 정보를 제공하지 않으면, 에이전트는 고객의 문제를 해결하거나 관련이 없는 일반적인 결과만 제공하고, 고객이 인간의 도움을寻求하도록 강제합니다. 이것은 우리가 고객과 함께 AI를 배포하기 위해 극복해야 했던 지식 추출 문제입니다.

私の 연구는 지식 추출 및 정보 검색을 다루었으며, “이벤트”라는 용어와의 관계를 탐구했습니다. 우리는 MCE에서 AI 솔루션을 통해 인간 상호 작용을위한 구조적 이해를 구축하여 LLM이 지식을 요약, 표현 및 검색하여 고객의 문제를 해결하는 데 도움이 됩니다.

당신은 ACL, EMNLP, NAACL을 포함한 최고의 NLP 컨퍼런스에서 연구를 발표했습니다. 지난 5년 동안 가장 큰 실질적인 영향을 미친 기술적인 발전은 무엇이며, 현재 과대평가된 발전은 무엇이라고 생각합니까?

제가 생각하는 몇 가지 기술적인 발전이 있습니다. 이러한 발전은 LLM이 개발됨에 따라 발생했습니다.

첫 번째는 지시 튜닝과 프롬프트 엔지니어링이었습니다. 이것은 더广泛한 채택되기 전에 먼저 해결되어야 했습니다. 우리는 모두 LLM에게 특정 것을 요청하고, 그것이 원하는 응답을 얻지 못할 때를 경험했습니다. 따라서 모델이 프롬프트를 이해하고 정확한 결과를 제공하는 방법을弄清楚하는 것이 첫 번째 큰 단계였습니다.

에이전트를 사용하여, LLM이 단일 프롬프트된 작업을 넘어, 계획을 생성하고, 최종 사용자와 상호 작용하고, 도구를 사용하고, 메모리를 사용하고, 지식을 액세스하는 것이 필요했습니다. 이것은 오늘날 우리가 있는 곳에서 필수적인 발전이었습니다.

다음 발전은 아직 부분적으로 해결되었지만 진행 중인것은 완전히 해결된 환상 문제입니다. 여기서 진행은 모델을 더 많이 신뢰할 수 있게 만들었습니다. 그러나 여전히 작업이 남아 있으며, 인간의 감독과 가드레일이 필수적인 이유 중 하나입니다.

과대평가되는 것은 에이전트의 자율성 정도입니다. 완전히 자율적인 시스템은 복잡한 비즈니스 환경에서 인간의 감독 없이 운영될 수 없습니다. 내 생각에 더 생산적인 것은 에이전트를 고가치 작업을 수행하도록 설계하고, 불확실성을 상승시키고, 그들의推論을 설명하며, 인간의 통제를 포기하지 않는 것입니다. 이것은 에이전트가 실제로 가치를 창출하는 곳입니다.

당신은 연구자, 소프트웨어 아키텍트, 엔지니어 리더, 스타트업 어드바이저, 강사, 그리고 현재 Chief AI Officer로 일했습니다. 당신의 경력의 다양한 단계에서 성공적인 AI의 정의는 어떻게 변해왔나요?

私の 경력을 통해, 성공적인 AI의 정의는 계속해서 발전하고 있습니다. 적용 연구와 아키텍처는 실제 세계의 제약 조건에서 작동하는 AI의 필요성을 가르쳤습니다. 학술 연구는 엄격성과 평가의 중요성을 가르쳤습니다. 엔지니어링 리더십은 실행과 운영 규율이 모델 자체와同じ 중요성을 가르쳤습니다. 스타트업을 조언하는 것은 AI가 실제 문제를 해결하고, 채택 경로가 명확할 때 가장 큰 영향을 미친다고 가르쳤습니다.

오늘날, MCE의 AI 책임자로서,私は 성공적인 AI를 다음과 같이 정의합니다. 고객, 직원, 비즈니스에 대한 결과를 개선하고, 생산에 충분히 신뢰할 수 있으며, 통치할 수 있을 만큼 투명하고, 사용자에게 채택될 만큼 유용한 AI입니다. 이러한 의미에서,私の 정의는 “기술이 작동합니까?”에서 “책임 있게, 반복적으로, 규모에 따라 가치를 창출하는가?”로 발전했습니다.

MCE Systems는 통신사업자 고객 경험, 고객 케어, 마케팅을 위한 AI를 적용하고 있습니다. 현재 통신 산업에서 가장 매력적인 AI 사용 사례는 무엇입니까?

통신 서비스 제공업체(CSP)는 가격이 고객을 끌어들이거나 유지하는 데 주요 유인력인 어려운 위치에 있습니다. 그러나 이것은 지속 가능하지 않습니다. 다른 제품이나 서비스를 판매하는 거대한 회사들, 예를 들어 Apple (AAPL ), Amazon (AMZN ), Netflix (NFLX )를 보십시오. 그들은 제품과 경험을 구축했습니다. 이것은 금융과 같은 분야에서 명백하게 나타났습니다.银行은 새로운 민첩한 플레이어에 의해 디지털 경험을 제공하도록 강제되었습니다. 통신사업자도 마찬가지입니다.

우리의 비전은 고객에게 더 나은 경험을 제공하여 CSP의 고객에게 추가 가치를 제공하는 것입니다. 이것은 고객의 네트워크와 디바이스 경험에 대해 더 프로액티브하고 커뮤니케이티브하게 하는 것을 의미합니다. 그리고 우리에게, AI는 이것을 잘하는 것을 가능하게 합니다.

산업에서, 이것은 주로 콜 센터 노동 비용을 절감하거나 직원을 더 생산적으로 만드는 방어적인 도구로 사용됩니다. 그러나 우리에게, AI는 고객 케어를 개인화하고, 서비스를 개인화하고, 고객의 모바일 디바이스에서 제공하는 것을 위한 오프енсив한 도구입니다.

당신은 많은 기업들이 AI 에이전트를 배포하기 위해 경쟁하고 있습니다. 자율적인 AI가真正로 가치를 창출할 수 있는 곳과 인간의 감독이 필수적인 곳에 대한 실제적인 교훈은 무엇입니까?

자동화의 열기에 빠지기 쉽습니다. 그러나私は 에이전트를 방법적으로 접근하는 것을 믿습니다. 나는 자동화의 수준을 목표로 시작하지 말고, 에이전트가 가치를 창출할 수 있는 워크플로우를 식별하여 시작해야 한다고 조언합니다. 이를 작은 조각으로 나누고, 어떤 조각을 완전히 자동화할 수 있는지, 어떤 조각을 반자동화할 수 있는지, 인간의 판단이 필요한지 물어보십시오.

실제로, 우리는 에이전트가 가장 큰 가치를 창출할 때, 정의된 작업에서 사용될 때, 정보를 수집하고, 입력을 분석하고, 추천을 생성하고, 출력을 준비하는 데 사용될 때입니다. 미세하게 조정된 자동화는 복잡한 프로세스를 자동화하려고 시도하는 것보다 더 잘 작동합니다.

인간이 필수적인 곳은 감독, 예외 처리, 고객 민감한 결정, 그리고 일반적으로 책임이 중요한 상황입니다. 목표는 인간의 의사 결정력을 대체하는 것이 아니라, 에이전트가 신뢰할 수 있는 가치를 창출할 수 있는 부분을 처리하도록 허용하는 것입니다.

MCE는 고객에게 더 개인화된 디바이스 경험을 제공하고, 모바일 사업자에게 운영 효율성을 개선하기 위해 AI를 사용하고 있습니다. 개인화와 성장하는 개인 정보 보호, 투명성, 사용자 신뢰 문제를 어떻게 균형을 잡습니까?

AI는 인간과 같은 느낌을 주므로, 사용자는 자연스럽게 더 많이 노출되는 방식으로 상호 작용합니다. 이는 조직이 수집된 데이터에 대해 주의하고 투명하도록 하는 책임이 있습니다. 간단한 예는, 고객이 문제 해결을 위해 스크린샷을 제출할 때, 그 이미지는 개인 정보를 포함할 수 있습니다. 이는 조직이 이미지에서 불필요한 내용을 제거하여 고객의 개인 정보를 보호하는 것이 중요합니다.

나에게, 수집된 모든 데이터는 고객의 이익과 필요를 위해 명확히 사용되어야 합니다. 이는 특정 목적을 지원하기 위해 수집되어야 하며, 고객의 문의를 해결하거나 적절한 개인화를 제공하는 데 사용되어야 합니다. 동시에, 데이터는 개인 정보를 보호하는 방식으로 처리되어야 하며, 고객의 실제 身分과 다른 종류의 행동에 대한 불필요한 연결을 피해야 합니다.

다시 말해, 고객 프로필의 특정 필요를 이해하는 것입니다. 우리의 경우, 개인 정보 보호 규정 준수 조직으로서, 이는 제공업체와 관련하여 모바일 디바이스의 상태와 사용자 행동을 이해하는 것입니다.

당신은 컴퓨터 과학의 기초부터 정보 검색 및 데이터 마이닝에 이르기까지 다양한 과목을 가르쳤습니다. 현재 직장에 들어가는 학생들을 위해 AI 커리큘럼을 설계한다면, 어떤 주제를 우선순위로 둘 것이며, 어떤 구식 개념을 제거할 것입니다?

커리큘럼은 두 가지 방식으로 변경되어야 합니다. 신경망, 트랜스포머, 대규모 언어 모델, 검색 보강 생성, 평가, 정렬 및 책임 있는 AI와 같은 주제는 대학원 프로그램에만 국한되지 않고, 학사 과정의 핵심 과목이되어야 합니다. 직장에 들어가는 학생들은 이러한 시스템이 어떻게 작동하는지와 어떻게 그들을 평가하는지 이해해야 합니다.

학생들은 또한 AI를 책임감 있게 사용하여 학습과 연구를 위한 도구로 사용하는 방법을 배워야 합니다. 이는 출력을 질문하고, 출처를 확인하고, 제한을 이해하며, AI를 단축키가 아닌思考 파트너로 사용하는 것을 의미합니다.

나는 수학과 알고리즘의 기초를 삭제하지 않을 것입니다. 나는 그것이 여전히 중요하다고 주장합니다. 그러나 나는 기계적인 구현을 강조하는 과제를 줄일 것입니다.焦点은 문제 공식화, 평가, 시스템 설계 및 책임 있는 사용으로 이동해야 합니다.

당신은 많은 스타트업에 AI 전략에 대한 조언을 해왔습니다. 스타트업 창립자가 AI 제품을 구축할 때 가장 흔한 실수는 무엇이며, 프로토タイプ에서 생산으로 성공적으로 전환하는 회사와는 무엇이 다릅니까?

제가 가장 흔하게 보는 실수는 기술에 먼저 사랑에 빠지기 전에 실제 문제, 고객, 또는 채택 경로를真正로 이해하지 못하는 것입니다. 두 번째는 AI의 제한을 충분히 이해하지 못하여, 아직 성숙하지 않은 사용 사례에 AI를 강제로 적용하는 것입니다.

성공적인 창립자는 실제 문제를 해결하고, 채택 경로가 명확하며, AI가 지속적으로 해결할 수 있는 곳에서 출발합니다. 그들은 “우리가 AI로 무엇을 할 수 있나요?”가 아니라 “여기에는 실제 문제가 있으며, 기존 솔루션이 부족하며, AI가 이를 해결할 수 있습니다”라고 생각합니다.

또한, 성공적인 창립자는 고객, 경쟁사, 고문, 그리고 실패한 시도에서 끊임없이 배우며, 의사 결정이 어떻게 이루어지는지, 예산이 어떻게 움직이는지, 그리고 대상 고객이 어떻게 신뢰를 얻는지 연구합니다. 그들은 제품을 만들기보다는 실제 환경에서 살아남을 수 있는 것을 구축합니다.

5년 후, 가장 큰 영향을 미칠 AI의 발전은 더 강력한 기초 모델, 에이전트 시스템, 멀티모달 AI, 디바이스에 설치된 지능, 또는 현재 산업이 과소평가하는 다른 트렌드에서 올 것이라고 생각합니까?

가장 큰 영향은 기초 모델의 개선에서만 오지 않을 것입니다. 모델이 실제 워크플로우에서 관찰하고 행동할 수 있는 시스템에 임베드되는 방식에서 옵니다. 이것은 실제 прог레스에서 가장 의미 있는 발전이 될 것입니다.

이것은 특히 멀티모달 AI가 텍스트, 음성, 이미지, 비디오 및 기타 컨텍스트 실세계 신호를_reasoning할 때 강력해집니다. 이것은 고객 지원, 의료, 제조 등에서 새로운 가능성을 열어줍니다.

또한, 실제 세계와 상호 작용하는 에이전트를 갖는 회사는 Boston Dynamics와 같은 회사들이 이미 보여주고 있는 바와 같이, 인식, 추론, 계획 및 물리적 행동의 hội합이 실제로 표현될 때, 가장 큰 영향을 미칠 것입니다. 이것은 로봇 공학과 AI를 통해 효율적이고 일관된 시스템을 구축할 수 있는 기회를 제공합니다.

통신사업자에게, 고객 이탈을 예측하고 이에 대응하는 AI 모델을 구축하는 것이 가장 큰 가치가 될 것입니다. 고객의 다양한 포인트에서 데이터를 수집하여 이탈 확률을 정확하게 평가하고, 이에 대응할 수 있다면, 제공업체에게는 정체된 문제를 해결할 수 있을 것입니다.

감사합니다. 더 많은 정보를 원하는 독자는 MCE Systems를 방문하십시오.