모나 랩스의 요타ム 오렌, CEO & 공동 창립자 – 인터뷰 시리즈

요타姆 오렌은 모나 랩스의 CEO이자 공동 창립자입니다. 모나 랩스는 기업들이 AI 초기 실험을 확장 가능한 비즈니스 운영으로 변환할 수 있도록 해주는 플랫폼입니다. 모나 랩스는 기계 학습 모델이 실제 비즈니스 프로세스와 애플리케이션에서 어떻게 작동하는지真正로 이해함으로써 이를 가능하게 합니다.

모나는 보호된 데이터 세그먼트와 비즈니스 기능의 contexto에서 기계 학습 모델의 동작을 자동으로 분석하여 잠재적인 AI 편향을 감지합니다. 모나는 산업 표준 및 규제를 충족하는 완전한 공정성 보고서를 생성할 수 있으며, AI 애플리케이션이 편향이 없고 규정 준수를 보장합니다.

컴퓨터 과학에 처음 관심을 갖게 된 계기는 무엇인가요?

컴퓨터 과학은私の 가족에서 인기 있는 경력입니다. 따라서私は 항상 가능한 선택肝으로 생각했습니다. 물론, 이스라엘 문화는 기술을 매우 중시합니다. 우리는 혁신적인 기술을庆祝하며私は 항상 컴퓨터 과학이 성장과 성취를 위한 길을 제공할 것이라고 생각했습니다.

그러나私は 대학교에 들어가기 전까지는 컴퓨터 과학에 대한 개인적인 열정을 가지지 못했습니다.私は 중학교 시절에 코딩을 시작한孩子가 아니었습니다. 고등학교를 졸업한 후,私は 거의 5년 동안 군대에서 근무했습니다. 따라서私は 실제로 컴퓨터 과학에 대해 더 많이 배우기 시작한 것은 대학에서 학과를 선택해야 할 때였습니다. 그 때私は 컴퓨터 과학이 문제를 해결하고 언어를 배우는 것을 결합한다는 것을 알게 되었습니다. 두 가지 모두私が 관심 있는 것이었습니다. 그 때부터私は 컴퓨터 과학에 빠지게 되었습니다.

2006년부터 2008년까지 작은 스타트업에서 매핑 및 내비게이션 작업을 했는데, 당시의 주요 성과는 무엇인가요?

私の 역할은 지도 및 위치 데이터를 기반으로 검색 엔진을 구축하는 것이었습니다.

그 때는 기업에서 “빅 데이터”를 다루는 초기였습니다. 우리는 아직 그것을 그렇게 부르지 않았지만, 우리는 엄청난 데이터 세트를 수집하고 사용자에게 가장 영향력 있고 관련된 정보를 제공하려고 했습니다.

나는 당시의 주요 성과는 다음과 같았습니다. 첫째, 公司들은 데이터를 거의 사용하지 않았습니다(외부 데이터도 포함하여). 새로운 정보, 더 나은 프로세스, 더 나은 경험을 제공할 수 있는 잠재력이 많았습니다.

둘째, 더 많은 데이터를 얻기 위해서는 더 나은 아키텍처, 더 나은 인프라 등이 필요했습니다.

모나 랩스의 창립 배경을 알려주세요.

세 명의 공동 창립자는 모두 데이터 제품에 대한 경험이 있습니다.

네모, 최고 기술 책임자는私の 대학 친구이자同学입니다. 그는 구글 텔아비브의 첫 번째 직원 중 하나였으며, 구글 트렌드를 개발했습니다. 이타이, 다른 공동 창립자이자 최고 제품 책임자는 네모의 팀에서 일했습니다. 두 사람은 항상 AI 주도 시스템이 초기 개발 및 테스트 후에監視되지 않는다는 사실에 불만을 느꼈습니다. 초기 테스트가 어려웠음에도 불구하고, 팀은 시스템이 어떻게 작동하는지에 대해 거의 알지 못했습니다.

그 때私は 맥킨지에서 컨설턴트로 일했습니다.私は 큰 기업에서 AI 및 빅 데이터 프로그램이 확장하는 데 가장 큰 장벽은 비즈니스 이해관계자가 프로그램에 대한 신뢰를 가지지 못한다는 것을 알게 되었습니다.

네모, 이타이, 그리고私は 대화를 통해 공통점을 찾게 되었습니다. 산업은 생산에서 AI/ML 시스템을監視할 수 있는 인프라가 필요했습니다. 우리는 비즈니스 이해관계자의 신뢰를 높이고 AI 팀이 시스템을 더 효율적으로 관리할 수 있도록 하는 것을 목표로 했습니다.

그 때 모나 랩스가 창립되었습니다.

현재 AI 투명성 부족의 주요 문제는 무엇인가요?

많은 산업에서, 조직들은 이미 AI 프로그램에 수십억 달러를 투자했으며, 초기 성공을 거두었습니다. 그러나 확장하고, 광범위한 채택을 이루고, 비즈니스에서 실제로 AI를 신뢰하는 것은 거의 모든 사람에게巨大한 도전이 되었습니다.

왜 이런 일이 발생하는가요? 첫째, 연구는 자동으로 훌륭한 제품으로 이어지지 않습니다(고객은 한번 이렇게 말했습니다. “ML 모델은 자동차와 같습니다. 연구소에서 나온 순간, 20%의 가치가 떨어집니다”). 훌륭한 제품은 지원 시스템이 있습니다. 품질을 유지하고 문제를 효율적으로 해결할 수 있는 도구와 프로세스가 있습니다. 훌륭한 제품은 또한 지속적인 피드백 루프를 가지고 있습니다. 개선 주기와 로드맵이 있습니다. 따라서 훌륭한 제품은 깊은 성능 투명성이 필요합니다.

투명성이 부족하면 다음과 같은 문제가 발생합니다.

• 일부 시간 동안 숨겨진 문제가突然 표면으로 나타나서 “화재 드릴”을 일으킵니다.
• 수동적인 조사와 완화가 길어집니다.
• 비즈니스 사용자와 후원자가 신뢰하지 못하는 AI 프로그램이 확장에 실패합니다.

예측 모델을 투명하고 신뢰할 수 있게 만드는 데에는 어떤 어려움이 있나요?

투명성은 신뢰를 얻는 데 중요한 요소입니다. 투명성은 여러 형태로 나눌 수 있습니다. 예를 들어, 사용자에게 예측의 신뢰도를 표시하거나 예측에 대한 설명/이유를 제공할 수 있습니다. 이러한 투명성은 사용자가 예측에 대해 편안하게 느끼도록 도와줍니다. 또한, 예측 정확성, 예상치 못한 결과, 잠재적인 문제 등에 대한 정보를 포함하는 전체 투명성이 있습니다. 이러한 투명성은 AI 팀에게 필요합니다.

전체 투명성 중에서 가장 어려운 부분은 문제를 초기에 감지하고, 관련 팀원에게 조치할 수 있도록 알리는 것입니다. 이러한 문제는 초기에 작게 시작하여 표면으로 나타나기 전에 커질 수 있습니다.

초기 문제를 감지하는 데 어려운 이유는 다음과 같습니다.

• 문제는 초기에 작게 시작하여 표면으로 나타나기 전에 커질 수 있습니다.
• 문제는 외부 요인으로 인해 발생할 수 있습니다.
• 문제를 찾기 위해 세상을 나누는 방법은 많으며, 이러한 방법으로 문제를 찾는 것은 많은 노이즈를 발생시킬 수 있습니다.

또한, AI 사용 사례의 다양성으로 인해 일괄적인 접근 방식은 거의 불가능합니다. 각 AI 사용 사례는 다른 데이터 구조, 비즈니스 주기, 성공 지표, 기술 접근 방식 등이 있을 수 있습니다.

따라서 투명성은 AI 프로그램의 성공에 매우 중요합니다. 따라서 투명성을 제공해야 합니다.

NLU/NLP 모델 및 챗봇에 대한 해결책을 알려주세요.

대화형 AI는 모나의 핵심 분야 중 하나입니다. 우리는 다양한 대화형 AI 사용 사례를 지원합니다. 이러한 사용 사례에는 언어 모델, 챗봇 등이 포함됩니다.

이러한 사용 사례의 공통점은 모델이 고객과 직접 상호 작용하기 때문에, 일관된 성능과 행동을 보장하는 것이 중요합니다. 모나의 監視 솔루션은 이러한 요구를 충족합니다.

모나의 솔루션은 대화형 AI 팀이 시스템의 동작을 세부적으로 이해할 수 있도록 해줍니다. 모나의 監視 솔루션은 대화의 그룹을 체계적으로 분석하여 모델이나 봇이 잘못 동작하는 부분을 찾습니다. 이러한 기능은 대화형 AI 팀이 문제를 초기에 식별하고 고객이 문제를 발견하기 전에 해결할 수 있도록 합니다.

요약하면, 모나는 대화형 AI 監視를 위한 종합 솔루션을 제공합니다. 이는 시스템의 동작에 대한 단일한 정보源을 제공하고, 주요 성능 지표를 지속적으로 추적하며, 잘못된 동작에 대한 예측적인 통찰력을 제공합니다. 이러한 기능으로 인해 팀은 효율적인 조치를 취할 수 있습니다.

모나의 인사이트 엔진에 대한 자세한 정보를 알려주세요.

인사이트 엔진의 목적은 사용자에게 이상치를 표시하는 것입니다. 이는 적절한 contexto와 함께 제공되며, 노이즈나 알림 피로를 발생시키지 않습니다.

인사이트 엔진은 독특한 분석 워크플로우입니다. 이 워크플로우에서는 데이터의 모든 세그먼트에서 이상치를 찾습니다. 이는 초기에 문제를 감지하고, 비즈니스 KPI에 영향을 미치기 전에 문제를 해결할 수 있도록 합니다. 인사이트 엔진은 또한 이상치의 근본 원인을 감지하고, 노이즈를 피하기 위해 이상치에 대한 알림을 한 번만 제공합니다. 인사이트 엔진은 시간 시리즈, 드리프트, 아웃라이어, 모델退化 등 다양한 유형의 이상치를 지원합니다.

인사이트 엔진은 모나의直관적인 노코드/로우코드 구성으로高度로 사용자 정의할 수 있습니다. 이는 모나를 시장에서 가장 유연한 솔루션으로 만듭니다. 다양한 사용 사례(배치 및 스트리밍, 비즈니스 피드백/그라운드 트루스, 모델 버전 간 또는 훈련 및 추론 간 등)를 다루는 데 사용할 수 있습니다.

마지막으로, 인사이트 엔진은 인사이트를 표시하고, contexto 정보를 조사할 수 있는 시각화 대시보드와 함께 제공됩니다. 또한, 사용자의 작업 환경(이메일, 협업 플랫폼 등)으로 인사이트를 제공하는 알림 엔진과 함께 제공됩니다.

1월 31일, 모나는 새로운 AI 공정성 솔루션을 공개했습니다. 이 기능에 대한 자세한 정보를 알려주세요.

AI 공정성은 알고리즘과 AI 주도 시스템이 편향되지 않고 공정한 결정을 내리는 것을 보장하는 것입니다. AI 시스템의 편향을 해결하고 방지하는 것은 매우 중요합니다. 이러한 편향은 실제 세계에서重大한 결과를 초래할 수 있습니다. AI의 영향력이日益 증가함에 따라, 이러한 편향을 방지하는 것은 매우 중요합니다.

AI 시스템의 편향은 여러 가지 요인으로 인해 발생할 수 있습니다. 이러한 요인에는 역사적인 차별, 특정 그룹의 대표성이 부족한 데이터, 의도적인 데이터 조작 등이 포함됩니다. 예를 들어, 주로 밝은 피부를 가진 개인의 데이터로 훈련된 얼굴 인식 시스템은 더 어두운 피부를 가진 개인을 인식하는 데 더 높은 오류율을 가질 수 있습니다. 또한, 특정 관점에서 편향된 텍스트 데이터로 훈련된 언어 모델은 특정 세계관에 대한 편향을 가질 수 있습니다.

모나의 AI 공정성 솔루션은 AI 및 비즈니스 팀이 자신의 AI가 편향되지 않았는지에 대한 확신을 제공합니다. 규제 분야에서는 모나의 솔루션이 규제준수 준비를 위한 준비를 도와줄 수 있습니다.

모나의 공정성 솔루션은 특별합니다. 이는 모나 플랫폼에 기반을 두고 있으며, 이는 AI 데이터 및 모델과 실제 세계적 의미를 연결하는 다리입니다. 모나는 모델이 실제로 작동하는 비즈니스 프로세스를 모두 살펴봅니다. 이는 공정성 평가를 위한 가장 포괄적인 평가를 제공합니다.

두 번째로, 모나는 유연한 데이터 분할을 허용하는 독특한 분석 엔진을 제공합니다. 이는 관련된 매개 변수를 제어하여 정확한 상관 관계 평가를 허용합니다. 이는 심슨의 역설을 피하고, 성능 지표 및 보호된 기능에 대한 실제 “편향 점수”를 제공합니다.

따라서, 모나는 책임 있는 AI를 구축하고 확장해야 하는 팀에게 기본적인 요소입니다.

AI의 미래에 대한 비전을 알려주세요.

이것은 큰 질문입니다.

私は AI가 다양한 산업 분야와 사람들의 생활에서 더 많이 사용되고 영향력을 미칠 것이라고 생각합니다. 그러나, 미래의 모든 사용 사례와 의미를 자세하게 예측하는 것은 어렵습니다. 아무도 그 그림을 신뢰할 수 있을 만큼 충분히 알고 있지 않습니다.

그러나, 우리는 알 수 있습니다. AI는 더 많은 사람들의 손에 있고, 더 많은 목적을 위해 사용될 것입니다. 따라서, 거버넌스와 투명성의 필요성이 크게 증가할 것입니다.

AI와 어떻게 작동하는지에 대한 실제 가시성은 두 가지 역할을 할 것입니다. 첫째, 사람들의 신뢰를 얻고, 저항 장벽을 제거하여 더 빠른 채택을 도와줄 것입니다. 둘째, AI를 운영하는 사람들에게 AI가 제어를 벗어나지 않도록 도와줄 것입니다.

감사합니다. 더 많은 정보를 원하는 독자는 모나 랩스를 방문하실 수 있습니다.